Confiance du public et approvisionnement en IA :
l’intelligence artificielle et l’égalité entre les femmes à la table des négociations ; Université de Cambridge ; RC Trust, UA Ruhr, Université de Duisburg-Essen ; Conseil de l’Europe
Session 139
Des principes à la pratique
Lorsque l’IA entre dans la vie publique, elle arrive rarement comme quelque chose qu’un gouvernement a construit. Il arrive comme quelque chose qu’un gouvernement a acheté. Le contrat d’achat – et non la charte éthique – est l’endroit où les droits, la transparence et la responsabilité sont inscrits dans un système ou discrètement rejetés. Pourtant, les achats restent le levier le plus négligé de la gouvernance de l’IA.
Les recherches menées dans l’UE et au Royaume-Uni révèlent une histoire sombre : les achats formels spécifiques à l’IA sont rares. L’IA se glisse dans les services publics par la dérive des fonctions, les projets pilotes prolongés en dessous des seuils de surveillance et les contrats-cadres qui enracinent une poignée de fournisseurs dominants. Au moment où un système touche la vie d’un citoyen – déterminer les avantages, signaler les risques, allouer les ressources – les décisions qui comptent le plus ont déjà été prises, invisiblement, en termes contractuels que personne n’a examinés. Les communautés les plus dépendantes des services publics sont les mêmes que celles qui sont les plus exposées aux préjudices algorithmiques. Ce n’est pas une coïncidence. C’est un échec de la gouvernance – et c’est un échec que nous pouvons corriger.
Projets réussis en rapport avec l’axe thématique
Cette session est construite sur des preuves, pas sur des aspirations. L’article de mention honorable CHI 2026 « It’s Just a Wild, Wild West » : Harnessing Public Procurement as an AI Governance Mechanism – développé par l’initiative AI & Equality de Women at the Table avec l’Université de Cambridge et RC Trust Germany – identifie sept pratiques concrètes pour des achats responsables en IA, tirées d’entretiens avec des professionnels des achats à travers l’UE et le Royaume-Uni. Ces résultats sont déjà en train de se diffuser dans le monde : ils ont été testés lors d’ateliers avec des municipalités, dont VNG, l’association représentant toutes les municipalités néerlandaises, et ont éclairé la collaboration directe avec le CDNET du Conseil de l’Europe, chargé de fournir des lignes directrices sur l’approvisionnement en IA d’ici la fin de 2026. Une question posée pour la première fois lors d’un atelier de l’UNESCO est devenue une recherche évaluée par des pairs, est devenue un outil de travail et façonne maintenant des normes de la voie de la reliure. Ce pipeline est ouvert – et cette session en fait partie.
Vision du SMSI pour l’après-2025
La vision du SMSI, à savoir des sociétés numériques inclusives et centrées sur l’être humain, ne sera pas concrétisée uniquement par des principes. Il sera livré – ou trahi – contrat par contrat, appel d’offres par appel d’offres, clause par clause. Notre vision est un système d’approvisionnement qui fonctionne comme l’épine dorsale opérationnelle de la responsabilité en matière d’IA : où les droits de l’homme sont intégrés avant que les systèmes ne soient construits, où les citoyens aident à définir les problèmes avant que les gouvernements ne commandent les solutions, et où les communautés les plus exposées aux dommages liés aux algorithmes ont une voix à la table qui précède le déploiement, et non une voix qui arrive trop tard pour avoir de l’importance.
Cette session réunit les personnes qui peuvent y parvenir. Le Secrétariat du CDNET du Conseil de l’Europe se joint à nous pour discuter des lignes directrices en matière d’acquisition d’IA en développement actif. Connected by Data impose l’impératif de participation citoyenne, car l’approvisionnement sans voix publique est une gouvernance sans légitimité. Le Pacte numérique mondial a pris des engagements. La Convention sur l’intelligence artificielle définit le cadre. Cette session fait quelque chose de plus rare et de plus nécessaire : elle écrit le langage du contrat qui tient ces promesses.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C3. L'accès à l'information et au savoir
-
C4. Le renforcement des capacités
-
C5. Etablir la confiance et la sécurité dans l'utilisation des TIC
-
C7. Les applications TIC et leur apport dans tous les domaines — Administration électronique
-
C10. Dimensions éthiques de la société de l'information
C1 — Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement Les gouvernements ne sont pas seulement des régulateurs de l’IA, ils en sont les principaux acheteurs. Cette session redéfinit la passation de marchés comme un acte de gouvernance : un moment où les institutions publiques peuvent déterminer activement si l’IA sert les objectifs de développement ou les sape. En réunissant des décideurs, la société civile, des chercheurs et le Secrétariat CDNET du Conseil de l’Europe, la session modélise l’approche multipartite préconisée par C1, appliquée aux décisions les plus importantes que les gouvernements prennent en matière de technologie.
C3 — L’accès à l’information et au savoir La passation de marchés responsables exige de la transparence — sur le fonctionnement des systèmes, les données qu’ils utilisent et les résultats qu’ils produisent. Cette session promeut les droits d’audit, les normes de documentation et la réutilisation de sources ouvertes en tant qu’outils d’approvisionnement, garantissant que les systèmes d’IA publics génèrent des connaissances qui restent entre les mains du public plutôt que d’être enfermées dans les contrats des fournisseurs.
C4 — Renforcement des capacités Les responsables des achats sont en première ligne de la gouvernance de l’IA, mais sont rarement équipés pour cela. Cette session aborde directement le manque de capacités : présenter des pratiques fondées sur des preuves, testées avec les municipalités, qui améliorent les compétences des équipes d’approvisionnement pour examiner les réclamations des fournisseurs, effectuer des évaluations d’impact sur les droits de l’homme et rédiger des exigences contractuelles spécifiques à l’IA. Le renforcement de cette capacité au sein des gouvernements est une condition préalable à la responsabilisation de l’IA publique.
C5 — Instaurer la confiance et la sécurité dans l’utilisation des TIC La confiance du public dans les services reposant sur l’IA dépend d’une gouvernance visible et vérifiable. Lorsque les citoyens savent que les systèmes affectant leur vie ont été obtenus selon des critères de droits de l’homme, avec la contribution de la communauté et des droits d’audit indépendant, la confiance s’ensuit. Cette session fait valoir que la discipline d’approvisionnement en amont est l’outil le plus puissant et le moins utilisé pour construire la légitimité dont l’IA publique a besoin de toute urgence.
C10 — Dimensions éthiques de la société de l’information La passation de marchés est l’endroit où l’éthique de l’IA devient opérationnelle ou reste décorative. Cette session aborde directement l’écart entre principe et pratique : traduire les engagements du Pacte numérique mondial et de la Convention du Conseil de l’Europe sur l’IA dans les clauses contractuelles, les exigences des appels d’offres et les mécanismes de suivi qui rendent exécutoires les obligations éthiques. La contribution d’Connected by Data à la participation citoyenne s’inscrit dans la dimension démocratique – qui peut définir ce que signifie une intelligence artificielle responsable pour les communautés qu’elle gouverne.
-
Objectif 5: Parvenir à l’égalité entre les sexes et autonomiser toutes les femmes et les filles
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 11: Faire en sorte que les villes et les établissements humains soient ouverts à tous, sûrs, résilients et durables
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
Objectif 5 – Égalité hommes/femmes et autonomisation de toutes les femmes et des filles Les systèmes d’IA achetés sans analyse comparative entre les sexes reproduisent et mettent à l’échelle les inégalités existantes. Les marchés publics sont un levier direct : les exigences d’appel d’offres peuvent imposer des données désagrégées, des tests de biais et une évaluation de l’impact sur le genre avant que les systèmes ne soient déployés dans des domaines de service à prédominance féminine : prestations, soins, emploi. Cette session place la passation de marchés sensible au genre à l’ordre du jour de la normalisation internationale.
Objectif 10 — Réduire les inégalités à l’intérieur des pays et d’un pays à l’autre Les communautés les plus dépendantes des services publics sont les communautés les plus exposées aux dommages causés par les algorithmes. L’approvisionnement qui intègre des critères relatifs aux droits de l’homme, diversifie les relations avec les fournisseurs au-delà des fournisseurs dominants et nécessite une contribution significative de la communauté est un approvisionnement qui réduit activement plutôt que d’enraciner les inégalités structurelles. Cette session démontre ce point de vue avec des preuves provenant de municipalités de l’UE et du Royaume-Uni.
Objectif 11 — Faire en sorte que les villes et les établissements humains soient ouverts à tous, sûrs, résilients et durables Les villes et les municipalités sont les premiers à déployer une intelligence artificielle destinée au public — et le principal lieu de travail des praticiens de cette session. Grâce à des ateliers avec VNG et d’autres partenaires municipaux, cette session renforce les capacités d’approvisionnement des gouvernements locaux pour s’assurer que l’IA urbaine profite à tous les résidents, y compris ceux qui risquent le plus d’être exclus.
Objectif 16 — Promouvoir des sociétés justes, pacifiques et inclusives L’IA responsable dans les services publics est une question de justice. Lorsque l’approvisionnement exige de la transparence, des droits d’audit et la participation des citoyens — comme le préconise cette session —, il renforce les institutions et les processus par lesquels les sociétés démocratiques se gouvernent. Les lignes directrices CDNET du Conseil de l’Europe, en cours d’élaboration, représentent précisément ce type d’infrastructure de responsabilité institutionnelle.
Objectif 17 — Revitaliser le partenariat mondial pour le développement durable Le pipeline de la recherche aux normes que représente cette session – des entretiens avec des praticiens aux données probantes évaluées par les pairs, en passant par les lignes directrices du Conseil de l’Europe et la mise en œuvre municipale – est un modèle de la façon dont les partenariats internationaux peuvent traduire les engagements mondiaux en pratiques locales. La collaboration entre Women at the Table, l’Université de Cambridge, RC Trust Germany, Connected by Data et le Conseil de l’Europe montre à quoi ressemble concrètement une coopération multipartite et transfrontalière en matière de gouvernance numérique.
- Objectif 1 : Combler toutes les fractures numériques et accélérer les progrès vers la réalisation des Objectifs de développement durable
- Objectif 2 : Élargir l'inclusion et les bénéfices de l'économie numérique pour tous
- Objectif 3 : Favoriser un espace numérique inclusif, ouvert, sûr et sécurisé qui respecte, protège et promeut les droits de l'homme
- Objectif 4 : Promouvoir des approches de gouvernance des données responsables, équitables et interopérables
- Objectif 5 : Améliorer la gouvernance internationale de l'intelligence artificielle au bénéfice de l'humanité
CHI 2026 Honourable Mention “It’s Just a Wild, Wild West”: Harnessing Public Procurement as an AI Governance Mechanism. The ACM (Association of Computing Machinery) CHI conference on Human Factors in Computing Systems is the premier international conference of Human-Computer Interaction.