ثقة الجمهور ومشتريات الذكاء الاصطناعي:
الذكاء الاصطناعي والمساواة من جانب المرأة على الطاولة؛ جامعة كامبريدج؛ RC Trust، UA Ruhr، جامعة دويسبورغ-إيسن؛ مجلس أوروبا
139 الجلسة
من المبادئ إلى الممارسة
عندما يدخل الذكاء الاصطناعي الحياة العامة، نادرا ما يصل كشيء تبنيه الحكومة. إنه يصل كشيء اشترته الحكومة. عقد المشتريات - وليس ميثاق الأخلاقيات - هو المكان الذي تكتب فيه الحقوق والشفافية والمساءلة في نظام أو يتم التخلص منها بهدوء. ومع ذلك، تظل المشتريات الرافعة الأكثر إغفالا في إدارة الذكاء الاصطناعي.
تحكي الأبحاث عبر الاتحاد الأوروبي والمملكة المتحدة قصة صارخة: الشراء الرسمي الخاص بالذكاء الاصطناعي نادر. ينزلق الذكاء الاصطناعي إلى الخدمات العامة من خلال زحف الوظائف، وتمديد مشاريع تجريبية إلى ما دون عتبات الرقابة، والعقود الإطارية التي ترسخ حفنة من البائعين المهيمنين. بحلول الوقت الذي يمس فيه النظام حياة المواطن - تحديد الفوائد ، وتمييز المخاطر ، وتخصيص الموارد - تكون القرارات الأكثر أهمية قد اتخذت بالفعل ، بشكل غير مرئي ، من حيث الشروط التعاقدية التي لم يدققها أحد. والمجتمعات الأكثر اعتمادا على الخدمات العامة هي نفس المجتمعات الأكثر تعرضا للضرر الخوارزمي. هذه ليست من قبيل الصدفة. إنه فشل إداري - ويمكننا إصلاحه.
المشاريع الناجحة ذات الصلة بالتركيز المواضيعي
وهذه الجلسة مبنية على الأدلة، لا على الطموح. تحدد ورقة CHI 2026 Honorable Mention "إنه مجرد غرب متوحش ومتوح": تسخير المشتريات العامة كآلية حوكمة للذكاء الاصطناعي - التي طورتها مبادرة الذكاء الاصطناعي والمساواة الخاصة ب Women at the Table مع جامعة كامبريدج و RC Trust Germany - سبع ممارسات ملموسة للشراء المسؤول للذكاء الاصطناعي ، مستمدة من مقابلات مع متخصصي المشتريات في جميع أنحاء الاتحاد الأوروبي والمملكة المتحدة. وهذه النتائج تنتقل بالفعل إلى العالم: اختبارها في ورش عمل مع بلديات بما في ذلك VNG، وهي رابطة تمثل جميع البلديات الهولندية، وإبلاغ المشاركة المباشرة مع شبكة CDNET التابعة لمجلس أوروبا، المكلفة بتقديم المبادئ التوجيهية لشراء الذكاء الاصطناعي بحلول نهاية عام 2026. وأصبح سؤال طرح لأول مرة في ورشة عمل لليونسكو بحثا خاضعا لاستعراض الأقران، وأصبح أدوات عمل، وأصبح الآن يشكل معايير المسار الملزم. هذا المسار مفتوح - وهذه الدورة جزء منه.
رؤية ما بعد عام 2025
ولن تتحقق رؤية القمة العالمية لمجتمع المعلومات المتمثلة في مجتمعات رقمية شاملة تركز على الناس بواسطة المبادئ وحدها. سيتم تسليمها - أو خيانتها - عقد بعقد، أو عطاء تلو الآخر أو بندا تلو الآخر. تتمثل رؤيتنا في نظام مشتريات يعمل كأساس تشغيلي لمساءلة الذكاء الاصطناعي: حيث تكون حقوق الإنسان جزءا لا يتجزأ قبل بناء الأنظمة، حيث يساعد المواطنون في تحديد المشاكل قبل أن تكلف الحكومات بإيجاد الحلول، وحيث يكون للمجتمعات الأكثر تعرضا للضرر الخوارزمي صوت على طاولة تسبق النشر، وليس على الطاولة التي تصل بعد فوات الأوان بحيث لا تكون مهمة.
وتدعو هذه الجلسة إلى جمع الأشخاص القادرين على تحقيق ذلك. تنضم أمانة CDNET التابعة لمجلس أوروبا إلى مناقشة المبادئ التوجيهية لشراء الذكاء الاصطناعي قيد التطوير النشط. ومفهوم التوصيل بالبيانات يجلب مشاركة المواطنين حتمية - لأن المشتريات بدون صوت للجمهور هي إدارة بدون شرعية. وقد تعهد الميثاق الرقمي العالمي بالتزامات. وحددت اتفاقية الذكاء الاصطناعي الإطار. تقوم هذه الجلسة بشيء نادر وأكثر ضرورة: فهي تكتب لغة العقد التي تفي بهذه الوعود.
-
ج 1. دور الحكومات وجميع أصحاب المصلحة في تعزيز تكنولوجيا المعلومات والاتصالات من أجل التنمية
-
ج 3. الوصول إلى المعلومات والمعرفة
-
ج 4. بناء القدرات
-
ج 5. بناء الثقة والأمن في استخدام تكنولوجيا المعلومات والاتصالات
-
ج 7. تطبيقات تكنولوجيا المعلومات والاتصالات: الفوائد في جميع جوانب الحياة - الحكومة الإلكترونية
-
ج 10. الأبعاد الأخلاقية لمجتمع المعلومات
جيم1 - دور الحكومات وجميع أصحاب المصلحة في النهوض بتكنولوجيا المعلومات والاتصالات من أجل التنمية الحكومات ليست منظما للذكاء الاصطناعي فحسب - بل هي أكبر الجهات المشترية له. وتعيد هذه الجلسة صياغة المشتريات بوصفها عملا من أعمال الإدارة، وهي لحظة يمكن فيها للمؤسسات العامة أن تحدد بفعالية ما إذا كان الذكاء الاصطناعي يخدم الأهداف الإنمائية أو يقوضها. ومن خلال الجمع بين واضعي السياسات والمجتمع المدني والباحثين وأمانة شبكة CDNET التابعة لمجلس أوروبا، تضع الجلسة نموذجا للنهج متعدد أصحاب المصلحة الذي ينادي به خط العمل جيم 1، ويطبق على القرارات الأكثر أهمية التي تتخذها الحكومات بشأن التكنولوجيا.
جيم3 - النفاذ إلى المعلومات والمعرفة وتتطلب المشتريات المسؤولة شفافية - بشأن كيفية عمل الأنظمة والبيانات التي تستخدمها والنتائج التي تنتجها. تعمل هذه الجلسة على تطوير حقوق التدقيق، ومعايير التوثيق، وإعادة استخدام المصادر المفتوحة كأدوات للمشتريات، مما يضمن أن تولد أنظمة الذكاء الاصطناعي العامة المعرفة التي تبقى في أيدي الجمهور بدلا من أن تكون محصورة داخل عقود البائعين.
جيم4 - بناء القدرات ومسؤولو المشتريات هم في الخطوط الأمامية في إدارة الذكاء الاصطناعي ولكنهم نادرا ما يكونوا مجهزين لذلك. تتناول هذه الجلسة مباشرة فجوة القدرة: تقديم ممارسات قائمة على الأدلة، تم اختبارها مع البلديات، والتي ترفع من مهارات فرق المشتريات للتدقيق في مطالبات البائعين، وإجراء تقييمات للتأثير على حقوق الإنسان، وكتابة متطلبات العقود الخاصة بالذكاء الاصطناعي. وبناء هذه القدرة عبر الحكومات شرط أساسي لوجود ذكاء اصطناعي عام خاضع للمساءلة.
جيم5 - بناء الثقة والأمن في استعمال تكنولوجيا المعلومات والاتصالات تعتمد ثقة الجمهور في الخدمات التي يتم بوساطتها الذكاء الاصطناعي على الإدارة المرئية والقابلة للتحقق. وعندما يعرف المواطنون أن الأنظمة التي تؤثر على حياتهم قد تم شراؤها مقابل معايير حقوق الإنسان، بمساهمات مجتمعية وحقوق مستقلة في مراجعة الحسابات، يتبع ذلك الثقة. وتؤكد هذه الجلسة أن نظام المشتريات الأولية هو أقوى أداة وأقل استخداما لبناء الشرعية التي يحتاجها الذكاء الاصطناعي العام بشكل عاجل.
جيم 10 – الأبعاد الأخلاقية لمجتمع المعلومات والمشتريات هي المكان الذي تصبح فيه أخلاقيات الذكاء الاصطناعي عملية أو تظل زخرفية. تعالج هذه الجلسة الفجوة بين المبدأ والممارسة مباشرة، وهي ترجمة الالتزامات الواردة في الميثاق الرقمي العالمي واتفاقية مجلس أوروبا بشأن الذكاء الاصطناعي إلى بنود العقد ومتطلبات المناقصات وآليات المراقبة التي تجعل الالتزامات الأخلاقية قابلة للإنفاذ. ومساهمة Connected by Data في مشاركة المواطنين تؤسس ذلك في البعد الديمقراطي - من يحدد ما يعنيه الذكاء الاصطناعي المسؤول للمجتمعات التي يحكمها.
-
الهدف 5: تحقيق المساواة بين الجنسين وتمكين جميع النساء والفتيات
-
الهدف 10: الحد من عدم المساواة داخل البلدان وفيما بينها
-
الهدف 11: جعل المدن شاملة وآمنة ومرنة ومستدامة
-
الهدف 16: تعزيز مجتمعات عادلة وسلمية وشاملة
-
الهدف 17: تنشيط الشراكة العالمية من أجل التنمية المستدامة
الهدف 5 - المساواة بين الجنسين وتمكين كل النساء والفتيات أنظمة الذكاء الاصطناعي المشتراة دون تحليل جنساني وتكرار وتوسيع أوجه عدم المساواة القائمة. المشتريات العامة هي رافعة مباشرة: يمكن أن تتطلب متطلبات المناقصات بيانات مصنفة واختبار التحيز وتقييم الأثر الجنساني قبل نشر الأنظمة في مجالات الخدمة المنحرفة للإناث - المزايا والرعاية والعمالة. وتضع هذه الجلسة المشتريات المراعية للمساواة بين الجنسين في جدول الأعمال الدولي لوضع المعايير.
الهدف 10 - الحد من عدم المساواة داخل البلدان وفيما بينها والمجتمعات الأكثر اعتمادا على الخدمات العامة هي نفس المجتمعات الأكثر تعرضا للضرر الخوارزمي. والمشتريات التي تتضمن معايير حقوق الإنسان، وتنوع علاقات الموردين بما يتجاوز البائعين المهيمنين، وتتطلب مدخلات مجتمعية ذات مغزى، هي المشتريات التي تقلل بنشاط من عدم المساواة الهيكلية بدلا من ترسيخها. هذه الجلسة توضح هذه القضية بأدلة من بلديات الاتحاد الأوروبي والمملكة المتحدة.
الهدف 11 - جعل المدن والمستوطنات البشرية شاملة للجميع وآمنة وقادرة على الصمود ومستدامة والمدن والبلديات هي الجهة الرئيسية لنشر الذكاء الاصطناعي المواجه للجمهور - والمحفل الرئيسي لعمل الممارسين في هذه الجلسة. ومن خلال ورش عمل مع بوابة VNG وشركاء بلديين آخرين، تبني هذه الجلسة قدرة الحكومات المحلية على المشتريات لضمان أن يخدم الذكاء الاصطناعي الحضري جميع السكان، بمن فيهم أولئك الأكثر عرضة للاستبعاد.
الهدف 16 - تعزيز مجتمعات عادلة وسلمية وشاملة الذكاء الاصطناعي الخاضع للمساءلة في الخدمات العامة قضية تتعلق بالعدالة. عندما تتطلب المشتريات الشفافية وحقوق التدقيق ومشاركة المواطنين - كما تدعو هذه الدورة - فإنها تعزز المؤسسات والعمليات التي تحكم من خلالها المجتمعات الديمقراطية نفسها. وتمثل المبادئ التوجيهية لمشتريات CDNET الخاصة بمجلس أوروبا، قيد التطوير النشط، بالضبط هذا النوع من البنية التحتية للمساءلة المؤسسية.
الهدف 17 - تنشيط الشراكة العالمية من أجل التنمية المستدامة ويمثل خط أنابيب البحث إلى المعايير الذي تمثله هذه الجلسة - من مقابلات الممارسين إلى الأدلة المستعرضة من الأقران إلى المبادئ التوجيهية لمجلس أوروبا إلى التنفيذ البلدي - نموذجا لكيفية قيام الشراكات الدولية بترجمة الالتزامات العالمية إلى ممارسات محلية. ويوضح التعاون بين منظمة "Women at the Table" وجامعة كامبريدج ومؤسسة RC Trust Germany ومبادرة Connected by Data ومجلس أوروبا كيف يبدو التعاون عبر الحدود بين أصحاب المصلحة المتعددين بشأن الإدارة الرقمية من الناحية العملية.
- الهدف 3: تعزيز مساحة رقمية شاملة ومفتوحة وآمنة ومأمونة تحترم حقوق الإنسان وتحميها وتعززها
- الهدف الأول: سد جميع الفجوات الرقمية وتسريع التقدم في تحقيق أهداف التنمية المستدامة
- الهدف الثاني: توسيع نطاق الشمول في الاقتصاد الرقمي والاستفادة منه للجميع
- الهدف الخامس: تعزيز الحوكمة الدولية للذكاء الاصطناعي لصالح البشرية
- الهدف الرابع: تعزيز نهج حوكمة البيانات المسؤولة والعادلة والمتوافقة
CHI 2026 Honourable Mention “It’s Just a Wild, Wild West”: Harnessing Public Procurement as an AI Governance Mechanism. The ACM (Association of Computing Machinery) CHI conference on Human Factors in Computing Systems is the premier international conference of Human-Computer Interaction.