ثقة الجمهور ومشتريات الذكاء الاصطناعي:
الذكاء الاصطناعي والمساواة من جانب المرأة على الطاولة؛ جامعة كامبريدج؛ RC Trust، UA Ruhr، جامعة دويسبورغ-إيسن؛ مجلس أوروبا
139 الجلسة
من المبادئ إلى الممارسة
عندما يدخل الذكاء الاصطناعي الحياة العامة، نادرا ما يصل كشيء تبنيه الحكومة. إنه يصل كشيء اشترته الحكومة. عقد المشتريات - وليس ميثاق الأخلاقيات - هو المكان الذي تكتب فيه الحقوق والشفافية والمساءلة في نظام أو يتم التخلص منها بهدوء. ومع ذلك، تظل المشتريات الرافعة الأكثر إغفالا في إدارة الذكاء الاصطناعي.
تحكي الأبحاث عبر الاتحاد الأوروبي والمملكة المتحدة قصة صارخة: الشراء الرسمي الخاص بالذكاء الاصطناعي نادر. ينزلق الذكاء الاصطناعي إلى الخدمات العامة من خلال زحف الوظائف، وتمديد مشاريع تجريبية إلى ما دون عتبات الرقابة، والعقود الإطارية التي ترسخ حفنة من البائعين المهيمنين. بحلول الوقت الذي يمس فيه النظام حياة المواطن - تحديد الفوائد ، وتمييز المخاطر ، وتخصيص الموارد - تكون القرارات الأكثر أهمية قد اتخذت بالفعل ، بشكل غير مرئي ، من حيث الشروط التعاقدية التي لم يدققها أحد. والمجتمعات الأكثر اعتمادا على الخدمات العامة هي نفس المجتمعات الأكثر تعرضا للضرر الخوارزمي. هذه ليست من قبيل الصدفة. إنه فشل إداري - ويمكننا إصلاحه.
المشاريع الناجحة ذات الصلة بالتركيز المواضيعي
وهذه الجلسة مبنية على الأدلة، لا على الطموح. تحدد ورقة CHI 2026 Honorable Mention "إنه مجرد غرب متوحش ومتوح": تسخير المشتريات العامة كآلية حوكمة للذكاء الاصطناعي - التي طورتها مبادرة الذكاء الاصطناعي والمساواة الخاصة ب Women at the Table مع جامعة كامبريدج و RC Trust Germany - سبع ممارسات ملموسة للشراء المسؤول للذكاء الاصطناعي ، مستمدة من مقابلات مع متخصصي المشتريات في جميع أنحاء الاتحاد الأوروبي والمملكة المتحدة. وهذه النتائج تنتقل بالفعل إلى العالم: اختبارها في ورش عمل مع بلديات بما في ذلك VNG، وهي رابطة تمثل جميع البلديات الهولندية، وإبلاغ المشاركة المباشرة مع شبكة CDNET التابعة لمجلس أوروبا، المكلفة بتقديم المبادئ التوجيهية لشراء الذكاء الاصطناعي بحلول نهاية عام 2026. وأصبح سؤال طرح لأول مرة في ورشة عمل لليونسكو بحثا خاضعا لاستعراض الأقران، وأصبح أدوات عمل، وأصبح الآن يشكل معايير المسار الملزم. هذا المسار مفتوح - وهذه الدورة جزء منه.
رؤية ما بعد عام 2025
ولن تتحقق رؤية القمة العالمية لمجتمع المعلومات المتمثلة في مجتمعات رقمية شاملة تركز على الناس بواسطة المبادئ وحدها. سيتم تسليمها - أو خيانتها - عقد بعقد، أو عطاء تلو الآخر أو بندا تلو الآخر. تتمثل رؤيتنا في نظام مشتريات يعمل كأساس تشغيلي لمساءلة الذكاء الاصطناعي: حيث تكون حقوق الإنسان جزءا لا يتجزأ قبل بناء الأنظمة، حيث يساعد المواطنون في تحديد المشاكل قبل أن تكلف الحكومات بإيجاد الحلول، وحيث يكون للمجتمعات الأكثر تعرضا للضرر الخوارزمي صوت على طاولة تسبق النشر، وليس على الطاولة التي تصل بعد فوات الأوان بحيث لا تكون مهمة.
وتدعو هذه الجلسة إلى جمع الأشخاص القادرين على تحقيق ذلك. تنضم أمانة CDNET التابعة لمجلس أوروبا إلى مناقشة المبادئ التوجيهية لشراء الذكاء الاصطناعي قيد التطوير النشط. ومفهوم التوصيل بالبيانات يجلب مشاركة المواطنين حتمية - لأن المشتريات بدون صوت للجمهور هي إدارة بدون شرعية. وقد تعهد الميثاق الرقمي العالمي بالتزامات. وحددت اتفاقية الذكاء الاصطناعي الإطار. تقوم هذه الجلسة بشيء نادر وأكثر ضرورة: فهي تكتب لغة العقد التي تفي بهذه الوعود.
تستكشف إيما كالينا كيف يمكن الاستفادة من المشتريات العامة لتشكيل أنظمة وأسواق الذكاء الاصطناعي بشكل فعال من أجل المصلحة العامة. وبالنظر إلى أن القطاع العام هو أكبر عملاء صناعة التكنولوجيا، يدرس عملها كيف يمكن لهذه القوة الشرائية الهائلة أن تفرض الممارسات المسؤولة وحقوق الإنسان والمساءلة العامة في المرحلة الدقيقة لحيازة الذكاء الاصطناعي. تم نشر أحدث أفكارها في ورقتها البحثية ACM CHI (التي حصلت على تنويه مشرف) ويتم تصورها على هذا الموقع المخصص.
تعمل إيما عند تقاطع المناصرة الأكاديمية والمجتمع المدني ، وتركز بشكل كبير على الطريقة العملية لإدارة الذكاء الاصطناعي. وهي باحثة ما بعد الدكتوراه في مجموعة الأنظمة المتوافقة والمساءلة ، والتي تغطي مركز أبحاث علوم البيانات الموثوقة والأمن (ألمانيا) وجامعة كامبريدج (المملكة المتحدة). في الوقت نفسه ، تقود التغيير في العالم الحقيقي كقائدة تقنية للمصلحة العامة في الذكاء الاصطناعي والمساواة من قبل النساء على الطاولة. ومن خلال هذه الدعوة، شاركت في تنظيم منتديات عالمية رفيعة المستوى وتحدثت فيها، بما في ذلك منتدى الأمم المتحدة للأعمال التجارية وحقوق الإنسان ومؤتمر اليونسكو بشأن بناء القدرات في مجال الذكاء الاصطناعي والتحول الرقمي في القطاع العام.
تيم ديفيز هو مدير الأبحاث والممارسات في مبادرة Connected by Data، وهي حملة للمجتمعات لكي يكون لها رأي قوي في إدارة البيانات والذكاء الاصطناعي. وبمشاركة منظمة الذكاء الاصطناعي، عمل على وضع مبادئ مشاركة الجمهور في مشتريات الذكاء الاصطناعي (https://www.P4AI.net)، التي أطلقت في قمة الشراكة الحكومية المفتوحة لعام 2025. تيم هو المشرف المشارك على الندوة التشاركية لبحوث وممارسات الذكاء الاصطناعي (PAIRS)، ومنظم عملية تطوير مسار المواطنين بشأن إدارة الذكاء الاصطناعي. شارك في تأليف أول معيار بيانات التعاقد المفتوح (OCDS) وعمل على نطاق واسع في شفافية المشتريات العامة. شغل سابقا منصب المدير المؤسس لمؤشر البيانات العالمي ، وهو قائد أبحاث البيانات المفتوحة في مؤسسة الويب.
دانييل باب هو المستشار القانوني في وحدة التنمية الرقمية التابعة لمجلس أوروبا التي تقدم خدمات الأمانة للجنة التوجيهية التابعة لمجلس أوروبا والمعنية بالتكنولوجيات الرقمية الجديدة والناشئة (CDNET). وعمل سابقا كمدير في اللجنة المعنية بالذكاء الاصطناعي (CAI) واللجنة التوجيهية لحقوق الإنسان (CDDH) بشأن الذكاء الاصطناعي وحقوق الإنسان والأعمال التجارية وحقوق الإنسان. عمل في وقت سابق كمحام في المحكمة الأوروبية لحقوق الإنسان. قبل انضمامه إلى مجلس أوروبا ، مارس القانون الدولي كشريك في مكاتب المحاماة العالمية ".
كيتلين كرافت بوخمان هي الرئيسة التنفيذية / مؤسسة Women at the Table ، وهي مؤسسة بحثية للمساواة بين الجنسين وتغيير الأنظمة ومقرها سويسرا. وهي مؤسسة مشاركة لتحالف <A + > من أجل الخوارزميات الشاملة ، وهو تحالف متعدد التخصصات من الأكاديميين والنشطاء والتقنيين الذين يضعون نماذج أولية لمستقبل الذكاء الاصطناعي وتشارك في قيادتها مع Code for Africa.
كانت كيتلين الرؤساء مشاركة في فريق الخبراء لعام 2023 للجنة CSW67 ، وهي لجنة الأمم المتحدة المعنية بوضع المرأة مع أول موضوع لها على الإطلاق ذي أولوية على الإطلاق وهو التكنولوجيا والابتكار ، وعضوة في مجموعة خبراء CSW70 في عام 2026 كمؤلفة كتاب الخوارزميات القضائية والتحيز الجنساني . كما أسست وتقود مبادرة <الذكاء الاصطناعي والمساواة> ، مجتمع عالمي من 950+ باحثا عضوا من 57 بلدا يعملون من أجل نهج قائم على حقوق الإنسان للذكاء الاصطناعي.
كيتلين هي مؤسسة مشاركة لمناصري المساواة بين الجنسين الدولية، التي لها مراكز في جنيف ونيويورك وفيينا ونيروبي ولاهاي وباريس تجمع بين رؤساء المنظمات من النساء والرجال، بما في ذلك الأمين العام للأمم المتحدة، لكسر الحواجز بين الجنسين، وتعمل في المجلس العالمي للجنة الحكومية الدولية. وتشارك في قيادة فريق تأثير اللجنة الحكومية الدولية المعني بالتكنولوجيات الرقمية والتكنولوجيات الجديدة الناشئة مع دورين بوغدان، الأمينة العامة للاتحاد الدولي للاتصالات. كانت عضوا في شبكة الخبراء للهيئة الاستشارية للذكاء الاصطناعي التابعة للأمين العام للأمم المتحدة + عضوة في الفريق الاستشاري للمساواة بين الجنسين والذكاء الاصطناعي في قمة باريس 2025. وهي تشارك في الرؤساء المجلس الاستشاري للمساواة بين الجنسين للجنة الأمم المتحدة المعنية بتسخير العلم والتكنولوجيا لأغراض التنمية (CSTD)، وهي واحدة من فريق المتخصصين في المعايير المراعية للمساواة بين الجنسين التابع للجنة الأمم المتحدة الاقتصادية لأوروبا (UNECE)، وهي عضو في مجموعة عمل منظمة اليونسكو المعنية بالذكاء الاصطناعي من أجل الأخلاقيات، وواحدة من خبراء الذكاء الاصطناعي بلا حدود التابع لليونسكو، ومراقب معترف بها حديثا في لجنة مجلس أوروبا المعنية بالتكنولوجيات الرقمية الجديدة والناشئة (CDNET). هيئة حكومية دولية تضع سياسات توازن بين الابتكار التكنولوجي وحماية حقوق الإنسان والديمقراطية وسيادة القانون.
-
ج 1. دور الحكومات وجميع أصحاب المصلحة في تعزيز تكنولوجيا المعلومات والاتصالات من أجل التنمية
-
ج 3. الوصول إلى المعلومات والمعرفة
-
ج 4. بناء القدرات
-
ج 5. بناء الثقة والأمن في استخدام تكنولوجيا المعلومات والاتصالات
-
ج 7. تطبيقات تكنولوجيا المعلومات والاتصالات: الفوائد في جميع جوانب الحياة - الحكومة الإلكترونية
-
ج 10. الأبعاد الأخلاقية لمجتمع المعلومات
جيم1 - دور الحكومات وجميع أصحاب المصلحة في النهوض بتكنولوجيا المعلومات والاتصالات من أجل التنمية الحكومات ليست منظما للذكاء الاصطناعي فحسب - بل هي أكبر الجهات المشترية له. وتعيد هذه الجلسة صياغة المشتريات بوصفها عملا من أعمال الإدارة، وهي لحظة يمكن فيها للمؤسسات العامة أن تحدد بفعالية ما إذا كان الذكاء الاصطناعي يخدم الأهداف الإنمائية أو يقوضها. ومن خلال الجمع بين واضعي السياسات والمجتمع المدني والباحثين وأمانة شبكة CDNET التابعة لمجلس أوروبا، تضع الجلسة نموذجا للنهج متعدد أصحاب المصلحة الذي ينادي به خط العمل جيم 1، ويطبق على القرارات الأكثر أهمية التي تتخذها الحكومات بشأن التكنولوجيا.
جيم3 - النفاذ إلى المعلومات والمعرفة وتتطلب المشتريات المسؤولة شفافية - بشأن كيفية عمل الأنظمة والبيانات التي تستخدمها والنتائج التي تنتجها. تعمل هذه الجلسة على تطوير حقوق التدقيق، ومعايير التوثيق، وإعادة استخدام المصادر المفتوحة كأدوات للمشتريات، مما يضمن أن تولد أنظمة الذكاء الاصطناعي العامة المعرفة التي تبقى في أيدي الجمهور بدلا من أن تكون محصورة داخل عقود البائعين.
جيم4 - بناء القدرات ومسؤولو المشتريات هم في الخطوط الأمامية في إدارة الذكاء الاصطناعي ولكنهم نادرا ما يكونوا مجهزين لذلك. تتناول هذه الجلسة مباشرة فجوة القدرة: تقديم ممارسات قائمة على الأدلة، تم اختبارها مع البلديات، والتي ترفع من مهارات فرق المشتريات للتدقيق في مطالبات البائعين، وإجراء تقييمات للتأثير على حقوق الإنسان، وكتابة متطلبات العقود الخاصة بالذكاء الاصطناعي. وبناء هذه القدرة عبر الحكومات شرط أساسي لوجود ذكاء اصطناعي عام خاضع للمساءلة.
جيم5 - بناء الثقة والأمن في استعمال تكنولوجيا المعلومات والاتصالات تعتمد ثقة الجمهور في الخدمات التي يتم بوساطتها الذكاء الاصطناعي على الإدارة المرئية والقابلة للتحقق. وعندما يعرف المواطنون أن الأنظمة التي تؤثر على حياتهم قد تم شراؤها مقابل معايير حقوق الإنسان، بمساهمات مجتمعية وحقوق مستقلة في مراجعة الحسابات، يتبع ذلك الثقة. وتؤكد هذه الجلسة أن نظام المشتريات الأولية هو أقوى أداة وأقل استخداما لبناء الشرعية التي يحتاجها الذكاء الاصطناعي العام بشكل عاجل.
جيم 10 – الأبعاد الأخلاقية لمجتمع المعلومات والمشتريات هي المكان الذي تصبح فيه أخلاقيات الذكاء الاصطناعي عملية أو تظل زخرفية. تعالج هذه الجلسة الفجوة بين المبدأ والممارسة مباشرة، وهي ترجمة الالتزامات الواردة في الميثاق الرقمي العالمي واتفاقية مجلس أوروبا بشأن الذكاء الاصطناعي إلى بنود العقد ومتطلبات المناقصات وآليات المراقبة التي تجعل الالتزامات الأخلاقية قابلة للإنفاذ. ومساهمة Connected by Data في مشاركة المواطنين تؤسس ذلك في البعد الديمقراطي - من يحدد ما يعنيه الذكاء الاصطناعي المسؤول للمجتمعات التي يحكمها.
-
الهدف 5: تحقيق المساواة بين الجنسين وتمكين جميع النساء والفتيات
-
الهدف 10: الحد من عدم المساواة داخل البلدان وفيما بينها
-
الهدف 11: جعل المدن شاملة وآمنة ومرنة ومستدامة
-
الهدف 16: تعزيز مجتمعات عادلة وسلمية وشاملة
-
الهدف 17: تنشيط الشراكة العالمية من أجل التنمية المستدامة
الهدف 5 - المساواة بين الجنسين وتمكين كل النساء والفتيات أنظمة الذكاء الاصطناعي المشتراة دون تحليل جنساني وتكرار وتوسيع أوجه عدم المساواة القائمة. المشتريات العامة هي رافعة مباشرة: يمكن أن تتطلب متطلبات المناقصات بيانات مصنفة واختبار التحيز وتقييم الأثر الجنساني قبل نشر الأنظمة في مجالات الخدمة المنحرفة للإناث - المزايا والرعاية والعمالة. وتضع هذه الجلسة المشتريات المراعية للمساواة بين الجنسين في جدول الأعمال الدولي لوضع المعايير.
الهدف 10 - الحد من عدم المساواة داخل البلدان وفيما بينها والمجتمعات الأكثر اعتمادا على الخدمات العامة هي نفس المجتمعات الأكثر تعرضا للضرر الخوارزمي. والمشتريات التي تتضمن معايير حقوق الإنسان، وتنوع علاقات الموردين بما يتجاوز البائعين المهيمنين، وتتطلب مدخلات مجتمعية ذات مغزى، هي المشتريات التي تقلل بنشاط من عدم المساواة الهيكلية بدلا من ترسيخها. هذه الجلسة توضح هذه القضية بأدلة من بلديات الاتحاد الأوروبي والمملكة المتحدة.
الهدف 11 - جعل المدن والمستوطنات البشرية شاملة للجميع وآمنة وقادرة على الصمود ومستدامة والمدن والبلديات هي الجهة الرئيسية لنشر الذكاء الاصطناعي المواجه للجمهور - والمحفل الرئيسي لعمل الممارسين في هذه الجلسة. ومن خلال ورش عمل مع بوابة VNG وشركاء بلديين آخرين، تبني هذه الجلسة قدرة الحكومات المحلية على المشتريات لضمان أن يخدم الذكاء الاصطناعي الحضري جميع السكان، بمن فيهم أولئك الأكثر عرضة للاستبعاد.
الهدف 16 - تعزيز مجتمعات عادلة وسلمية وشاملة الذكاء الاصطناعي الخاضع للمساءلة في الخدمات العامة قضية تتعلق بالعدالة. عندما تتطلب المشتريات الشفافية وحقوق التدقيق ومشاركة المواطنين - كما تدعو هذه الدورة - فإنها تعزز المؤسسات والعمليات التي تحكم من خلالها المجتمعات الديمقراطية نفسها. وتمثل المبادئ التوجيهية لمشتريات CDNET الخاصة بمجلس أوروبا، قيد التطوير النشط، بالضبط هذا النوع من البنية التحتية للمساءلة المؤسسية.
الهدف 17 - تنشيط الشراكة العالمية من أجل التنمية المستدامة ويمثل خط أنابيب البحث إلى المعايير الذي تمثله هذه الجلسة - من مقابلات الممارسين إلى الأدلة المستعرضة من الأقران إلى المبادئ التوجيهية لمجلس أوروبا إلى التنفيذ البلدي - نموذجا لكيفية قيام الشراكات الدولية بترجمة الالتزامات العالمية إلى ممارسات محلية. ويوضح التعاون بين منظمة "Women at the Table" وجامعة كامبريدج ومؤسسة RC Trust Germany ومبادرة Connected by Data ومجلس أوروبا كيف يبدو التعاون عبر الحدود بين أصحاب المصلحة المتعددين بشأن الإدارة الرقمية من الناحية العملية.
- الهدف 3: تعزيز مساحة رقمية شاملة ومفتوحة وآمنة ومأمونة تحترم حقوق الإنسان وتحميها وتعززها
- الهدف الأول: سد جميع الفجوات الرقمية وتسريع التقدم في تحقيق أهداف التنمية المستدامة
- الهدف الثاني: توسيع نطاق الشمول في الاقتصاد الرقمي والاستفادة منه للجميع
- الهدف الخامس: تعزيز الحوكمة الدولية للذكاء الاصطناعي لصالح البشرية
- الهدف الرابع: تعزيز نهج حوكمة البيانات المسؤولة والعادلة والمتوافقة
CHI 2026 Honourable Mention “It’s Just a Wild, Wild West”: Harnessing Public Procurement as an AI Governance Mechanism. The ACM (Association of Computing Machinery) CHI conference on Human Factors in Computing Systems is the premier international conference of Human-Computer Interaction.