Confianza pública y adquisición de IA:
IA e igualdad de las mujeres en la mesa; Universidad de Cambridge; RC Trust, UA Ruhr, Universidad de Duisburg-Essen; Consejo de Europa
Sesión 139
De los principios a la práctica
Cuando la IA entra en la vida pública, rara vez llega como algo construido por el gobierno. Llega como algo que compró un gobierno. El contrato de adquisición, no la carta de ética, es donde los derechos, la transparencia y la rendición de cuentas se escriben en un sistema o se descartan silenciosamente. Y, sin embargo, las adquisiciones siguen siendo la palanca que más se pasa por alto en la gobernanza de la IA.
La investigación en la UE y el Reino Unido cuenta una historia cruda: las adquisiciones formales específicas de IA son raras. La IA se cuela en los servicios públicos a través de la expansión de funciones, pilotos extendidos por debajo de los umbrales de supervisión y contratos marco que afianzan a un puñado de proveedores dominantes. En el momento en que un sistema afecta a la vida de un ciudadano —determinar los beneficios, señalar el riesgo, asignar recursos— las decisiones que más importan ya se han tomado, invisiblemente, en términos contractuales que nadie ha examinado. Las comunidades que más dependen de los servicios públicos son las mismas comunidades más expuestas a los daños algorítmicos. Eso no es una coincidencia. Es un fracaso de gobernanza, y es uno que podemos solucionar.
Proyectos exitosos relacionados con el tema prioritario
Esta sesión se basa en la evidencia, no en la aspiración. El documento de Mención Honorífica del CHI 2026 "It's Just a Wild, Wild West": Harnessing Public Procurement as an AI Governance Mechanism, desarrollado por la Iniciativa de IA e Igualdad de Women at the Table con la Universidad de Cambridge y RC Trust Germany, identifica siete prácticas concretas para la adquisición responsable de IA, extraídas de entrevistas con profesionales de adquisiciones de la UE y el Reino Unido. Esos hallazgos ya se están extendiendo al mundo: se probaron en talleres con municipios, incluido VNG, la asociación que representa a todos los municipios holandeses, e informaron el compromiso directo con CDNET del Consejo de Europa, con el mandato de ofrecer directrices de adquisición de IA para finales de 2026. Una pregunta formulada por primera vez en un taller de la UNESCO se convirtió en una investigación revisada por pares, se convirtió en una herramienta de trabajo y ahora está dando forma a las normas de la vía vinculante. Esa vía está abierta, y esta sesión forma parte de ella.
Perspectiva para la CMSI después de 2025
La visión de la CMSI de sociedades digitales inclusivas y centradas en las personas no se logrará únicamente con principios. Será entregado, o traicionado, contrato por contrato, licitación por licitación, cláusula por cláusula. Nuestra visión es un sistema de adquisiciones que funcione como la columna vertebral operativa de la rendición de cuentas de la IA: donde los derechos humanos estén arraigados antes de que se construyan los sistemas, donde los ciudadanos ayuden a definir los problemas antes de que los gobiernos encarguen las soluciones, y donde las comunidades más expuestas al daño algorítmico tengan una voz en la mesa que precede al despliegue, no una que llegue demasiado tarde para importar.
Esta sesión convoca a las personas que pueden hacer que eso suceda. La Secretaría de CDNET del Consejo de Europa se une para debatir las directrices de adquisición de IA en desarrollo activo. Connected by Data conlleva el imperativo de la participación ciudadana, porque la contratación sin voz pública es una gobernanza sin legitimidad. El Pacto Digital Global asumió compromisos. El Convenio sobre IA sentó las bases de la Cumbre. Esta sesión hace algo más raro y necesario: escribe el lenguaje del contrato que mantiene esas promesas.
-
C1. La función de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo
-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Gobierno electrónico
-
C10. Dimensiones éticas de la sociedad de la información
C1 — El papel de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo Los gobiernos no son sólo reguladores de la IA, son sus mayores compradores. En esta sesión se replantea la contratación pública como un acto de gobernanza: un momento en el que las instituciones públicas pueden determinar activamente si la IA sirve o socava los objetivos de desarrollo. Al reunir a responsables políticos, la sociedad civil, investigadores y la Secretaría de CDNET del Consejo de Europa, la sesión modela el enfoque multipartito que propone C1, aplicado a las decisiones más importantes que toman los gobiernos en materia de tecnología.
C3 — Acceso a la información y al conocimiento La adquisición responsable requiere transparencia sobre cómo funcionan los sistemas, qué datos utilizan y qué resultados producen. En esta sesión se promueven los derechos de auditoría, las normas de documentación y la reutilización de código abierto como herramientas de adquisición, garantizando que los sistemas públicos de IA generen conocimiento que permanezca en manos públicas en lugar de encerrarse en los contratos de los proveedores.
C4 — Creación de capacidades Los responsables de compras están en la primera línea de la gobernanza de la IA, pero rara vez están equipados para ello. Esta sesión aborda directamente la brecha de capacidad: presenta prácticas basadas en pruebas, probadas con municipios, que mejoran las habilidades de los equipos de adquisiciones para examinar las reclamaciones de los proveedores, realizar evaluaciones de impacto en los derechos humanos y redactar requisitos contractuales específicos de IA. La creación de esta capacidad en todos los gobiernos es un requisito previo para una IA pública responsable.
C5 — Creación de confianza y seguridad en la utilización de las TIC La confianza pública en los servicios basados en la IA depende de una gobernanza visible y verificable. Cuando los ciudadanos saben que los sistemas que afectan a sus vidas fueron adquiridos en contra de los criterios de derechos humanos, con la participación de la comunidad y los derechos de auditoría independiente, la confianza se produce. En esta sesión se argumenta que la disciplina de contratación ascendente es la herramienta más poderosa e infrautilizada para construir la legitimidad que la IA pública necesita con urgencia.
C10 — Dimensiones éticas de la sociedad de la información En la contratación pública es donde la ética de la IA pasa a ser operativa o decorativa. En esta sesión se aborda directamente la brecha entre los principios y la práctica: traducir los compromisos del Pacto Digital Mundial y del Convenio de IA del Consejo de Europa en cláusulas contractuales, requisitos de licitación y mecanismos de supervisión que hacen exigibles las obligaciones éticas. La contribución de Connected by Data sobre la participación ciudadana lo fundamenta en la dimensión democrática: quién puede definir lo que significa la IA responsable para las comunidades que gobierna.
-
Objetivo 5: Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas
-
Objetivo 10: Reducir la desigualdad en y entre los países
-
Objetivo 11: Conseguir que las ciudades y los asentamientos humanos sean inclusivos, seguros, resilientes y sostenibles
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
Meta 5 — Igualdad de género y empoderamiento de todas las mujeres y niñas Los sistemas de IA adquiridos sin análisis de género replican y amplían las desigualdades existentes. La contratación pública es una palanca directa: los requisitos de licitación pueden exigir datos desglosados, pruebas de sesgo y evaluación del impacto de género antes de que los sistemas se desplieguen en dominios de servicio sesgados hacia las mujeres: beneficios, cuidados, empleo. En esta sesión se incluyen las adquisiciones con perspectiva de género en la agenda de normalización internacional.
Objetivo 10 — Reducir la desigualdad dentro de los países y entre ellos Las comunidades más dependientes de los servicios públicos son las mismas comunidades más expuestas a los daños causados por algoritmos. Las adquisiciones que incorporan criterios de derechos humanos, diversifican las relaciones con los proveedores más allá de los proveedores dominantes y requieren una contribución significativa de la comunidad son las adquisiciones que reducen activamente la desigualdad estructural en lugar de afianzarla. Esta sesión lo argumenta con pruebas de municipios de la UE y el Reino Unido.
Objetivo 11 — Lograr que las ciudades y los asentamientos humanos sean inclusivos, seguros, resilientes y sostenibles Las ciudades y los municipios son los principales despliegues de la IA de cara al público, y el lugar principal para el trabajo de los profesionales de esta sesión. A través de talleres con VNG y otros socios municipales, esta sesión desarrolla la capacidad de adquisición de los gobiernos locales para garantizar que la IA urbana sirva a todos los residentes, incluidos los que corren mayor riesgo de exclusión.
Objetivo 16 — Promover sociedades justas, pacíficas e inclusivas La IA responsable en los servicios públicos es una cuestión de justicia. Cuando las adquisiciones requieren transparencia, derechos de auditoría y participación ciudadana, como se propugna en esta sesión, se fortalecen las instituciones y los procesos a través de los cuales las sociedades democráticas se gobiernan a sí mismas. Las directrices sobre adquisición de CDNET del Consejo de Europa, que se están desarrollando activamente, representan precisamente este tipo de infraestructura de rendición de cuentas institucional.
Objetivo 17 — Revitalizar la Alianza Mundial para el Desarrollo Sostenible El canal de la investigación a la normalización que representa esta sesión —desde las entrevistas con profesionales hasta los datos examinados por homólogos, las directrices del Consejo de Europa y la aplicación municipal— es un modelo de cómo las asociaciones internacionales pueden traducir los compromisos mundiales en prácticas locales. La colaboración entre Women at the Table, la Universidad de Cambridge, RC Trust Germany, Connected by Data y el Consejo de Europa demuestra lo que es en la práctica la cooperación multipartita y transfronteriza en materia de gobernanza digital.
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 2: Ampliar la inclusión y los beneficios de la economía digital para todos
- Objetivo 3: Fomentar un espacio digital inclusivo, abierto, seguro y protegido que respete, proteja y promueva los derechos humanos
- Objetivo 4: Promover enfoques de gobernanza de datos responsables, equitativos e interoperables
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad
CHI 2026 Honourable Mention “It’s Just a Wild, Wild West”: Harnessing Public Procurement as an AI Governance Mechanism. The ACM (Association of Computing Machinery) CHI conference on Human Factors in Computing Systems is the premier international conference of Human-Computer Interaction.