Cómo lograr que la IA sea segura en el mundo real: desde los principios de gobernanza hasta las herramientas operativas.
Consejo de Europa
Sesión 241
Del tratado al conjunto de herramientas: Cerrando la brecha en la implementación de la gobernanza de la IA
El debate global sobre la gobernanza de la IA ha generado un volumen sin precedentes de principios, declaraciones y marcos de referencia. Sin embargo, el principal desafío para los gobiernos, las organizaciones internacionales y las instituciones financieras de desarrollo ya no reside en definir cómo debería ser una IA responsable, sino en saber qué hacer el lunes por la mañana cuando un ministerio de salud adquiere un sistema de triaje asistido por IA, una administración de justicia implementa herramientas algorítmicas de gestión de riesgos o una agencia nacional de datos construye una infraestructura digital pública.
El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (CETS 225) representa un cambio cualitativo en este ámbito. Como primer tratado internacional vinculante sobre IA, transforma la gobernanza de una aspiración en una obligación jurídica. La metodología HUDERIA —la Evaluación de Impacto en los Derechos Humanos, la Democracia y el Estado de Derecho desarrollada por CAI/CDNET— traduce estas obligaciones en instrumentos estructurados y prácticos que los profesionales pueden aplicar a nivel nacional, sectorial y de proyecto.
Esta sesión reúne a los tres nodos institucionales que, en conjunto, conforman una arquitectura operativa completa para la gobernanza de la IA: el nivel normativo (Consejo de Europa / CETS 225 / HUDERIA), el nivel de financiación para el desarrollo (Banco Mundial) y el nivel de normas técnicas (ISO/IEC SC 42). Su objetivo no es la autopresentación institucional, sino fundamentar cada contribución en los desafíos reales de implementación planteados por profesionales del Sur Global: los actores que más necesitan herramientas eficaces y que menos se han beneficiado de la era de los principios.
-
C1. La función de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo
-
C2. Infraestructura de la información y la comunicación
-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C6. Entorno habilitador
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Gobierno electrónico
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Cibersalud
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Ciberempleo
-
C8. Diversidad e identidad culturales, diversidad lingüística y contenido local
-
C11. Cooperación internacional y regional
Esta sesión impulsa directamente las Líneas de Acción de la CMSI al demostrar cómo el primer tratado internacional vinculante sobre IA (CETS 225) y su metodología de evaluación de impacto (HUDERIA) operacionalizan la gobernanza responsable de la IA en los sectores de gobierno, salud y justicia (C6, C7-E-gobierno, C7-E-salud). Modela la cooperación interinstitucional y de múltiples partes interesadas entre un órgano de tratados de derechos humanos, financiamiento para el desarrollo y normas técnicas (C1, C11), y aborda las deficiencias de capacidad de los Estados del Sur Global que gestionan la adquisición de IA sin herramientas normativas adecuadas (C3, C4, C5). El fundamento de la sesión en la no discriminación, la evaluación de sesgos culturales y el diseño inclusivo se vincula con C8, mientras que la arquitectura normativa vinculante que presenta constituye el entorno propicio que C6 prevé para sistemas digitales confiables.
-
Objetivo 3: Garantizar una vida sana y promover el bienestar para todos en todas las edades
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 5: Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas
-
Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
-
Objetivo 10: Reducir la desigualdad en y entre los países
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
La gobernanza responsable de la IA es un requisito previo para el cumplimiento de la Agenda 2030. Esta sesión demuestra cómo CETS 225 y HUDERIA proporcionan a los gobiernos —en particular en el Sur Global— las herramientas normativas y metodológicas vinculantes necesarias para garantizar que los sistemas de IA en salud (ODS 3), justicia y administración pública (ODS 16) sirvan a los derechos humanos y la igualdad en lugar de socavarlos. Al abordar la discriminación y los sesgos algorítmicos en el empleo y la prestación de servicios, la sesión contribuye a reducir las desigualdades dentro y entre los países (ODS 10). La arquitectura integrada presentada —que combina un tratado de derechos humanos, salvaguardias de financiación para el desarrollo y normas técnicas ISO/IEC— modela el tipo de asociación multiinstitucional que el ODS 17 prevé para la gobernanza de la tecnología. El fortalecimiento de capacidades para profesionales de los Estados en desarrollo (ODS 4) y el marco de no discriminación incorporado en HUDERIA (ODS 5) completan el panorama de la gobernanza de la IA como facilitador del desarrollo sostenible.
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 2: Ampliar la inclusión y los beneficios de la economía digital para todos
- Objetivo 3: Fomentar un espacio digital inclusivo, abierto, seguro y protegido que respete, proteja y promueva los derechos humanos
- Objetivo 4: Promover enfoques de gobernanza de datos responsables, equitativos e interoperables
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad
https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence
https://www.coe.int/en/web/artificial-intelligence/cdnet
https://www.coe.int/en/web/artificial-intelligence/huderia-risk-and-impact-assessment-of-ai-systems
https://rm.coe.int/prems-002726-gbr-2006-huderia-texte-web-a4/48802ba7b1