Cómo lograr que la IA sea segura en el mundo real: desde los principios de gobernanza hasta las herramientas operativas.
Consejo de Europa
Sesión 241
Del tratado al conjunto de herramientas: Cerrando la brecha en la implementación de la gobernanza de la IA
El debate global sobre la gobernanza de la IA ha generado un volumen sin precedentes de principios, declaraciones y marcos de referencia. Sin embargo, el principal desafío para los gobiernos, las organizaciones internacionales y las instituciones financieras de desarrollo ya no reside en definir cómo debería ser una IA responsable, sino en saber qué hacer el lunes por la mañana cuando un ministerio de salud adquiere un sistema de triaje asistido por IA, una administración de justicia implementa herramientas algorítmicas de gestión de riesgos o una agencia nacional de datos construye una infraestructura digital pública.
El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho (CETS 225) representa un cambio cualitativo en este ámbito. Como primer tratado internacional vinculante sobre IA, transforma la gobernanza de una aspiración en una obligación jurídica. La metodología HUDERIA —la Evaluación de Impacto en los Derechos Humanos, la Democracia y el Estado de Derecho desarrollada por CAI/CDNET— traduce estas obligaciones en instrumentos estructurados y prácticos que los profesionales pueden aplicar a nivel nacional, sectorial y de proyecto.
Esta sesión reúne a los tres nodos institucionales que, en conjunto, conforman una arquitectura operativa completa para la gobernanza de la IA: el nivel normativo (Consejo de Europa / CETS 225 / HUDERIA), el nivel de financiación para el desarrollo (Banco Mundial) y el nivel de normas técnicas (ISO/IEC SC 42). Su objetivo no es la autopresentación institucional, sino fundamentar cada contribución en los desafíos reales de implementación planteados por profesionales del Sur Global: los actores que más necesitan herramientas eficaces y que menos se han beneficiado de la era de los principios.
El embajador Thomas Schneider encabeza la delegación suiza en diversos foros sobre gobernanza digital e internet, incluyendo la inteligencia artificial. En los últimos 20 años, ha presidido varios comités internacionales y ha impulsado diversos foros de diálogo a nivel nacional e internacional. Fue presidente (2021-2024) y vicepresidente (2024-2025) del Comité de Inteligencia Artificial (CAI) del Consejo de Europa, que negoció y adoptó el Convenio Marco.
Es miembro del Buró del Comité Directivo del Consejo de Europa sobre Medios de Comunicación y Sociedad de la Información (fue su Presidente en 2018-19 y Vicepresidente en 2020-21). Presidió varios grupos de expertos de CDMSI. También fue miembro del Buró del Comité Ad Hoc sobre Inteligencia Artificial del Consejo de Europa entre 2019 y 2021. De 2014 a 2017, presidió el Comité Asesor Gubernamental de ICANN, donde negoció el acuerdo entre los gobiernos y las demás partes interesadas sobre la transición de la administración de IANA, la mayor reforma del sistema de ICANN. Fue Vicepresidente del Comité de Política de Economía Digital de la OCDE (2020-2022).
Fue responsable de la organización del XII Foro Internacional para la Gobernanza de Internet (FIG) de la ONU en Ginebra en 2017 y copresidente del Grupo Asesor Multisectorial del FIG ese mismo año. Participó en las reuniones del Panel de Alto Nivel del Secretario General de la ONU sobre Cooperación Digital, como asesor personal de la presidenta suiza Doris Leuthard (2018-2019). Asimismo, ha sido cofundador del Foro Suizo para la Gobernanza de Internet desde 2013.
Asesor del Ministro de Comunicaciones y Tecnologías de la Información (MCIT) para el Desarrollo del Talento Tecnológico | Líder de la Estrategia Nacional de IA | Director Interino del Centro Egipcio para la IA Responsable
Profesor de Ingeniería Informática, Universidad de El Cairo
La Dra. Hoda Baraka es asesora del Ministro de Comunicaciones y Tecnologías de la Información de Egipto para el desarrollo del talento tecnológico y profesora de Ingeniería Informática en la Facultad de Ingeniería de la Universidad de El Cairo. Actualmente, lidera varias iniciativas nacionales de desarrollo de capacidades en el marco de la iniciativa Generaciones Digitales de Egipto. Entre ellas se incluyen las iniciativas Constructores y Pioneros Digitales de Egipto (DEBI y DEPI), dirigidas a estudiantes universitarios y graduados, así como las iniciativas Cachorros y Jóvenes Promesas Digitales de Egipto, diseñadas para estudiantes de primaria y secundaria (de 4.º a 11.º grado).
Como directora interina del Centro Egipcio para la IA Responsable, la Dra. Baraka lidera la Estrategia Nacional de Inteligencia Artificial en el Ministerio de Cultura, Industria y Tecnologías de la Información (MCIT). En este cargo, contribuye al desarrollo y la supervisión de la estrategia nacional de IA y el marco de gobernanza, garantizando el despliegue responsable, seguro y ético de las tecnologías de IA en todo Egipto.
La Dra. Baraka fue anteriormente Primera Viceministra de Comunicaciones y Tecnologías de la Información desde 2006 hasta 2013. Entre 2002 y 2013, también fue Directora Nacional del Fondo Fiduciario de TIC de Egipto, creado para promover el uso de las TIC para el desarrollo sostenible.
En reconocimiento a sus contribuciones al avance de la educación mediante la tecnología, recibió el Premio UNESCO Rey Hamad Bin Isa Al Khalifa por el Uso de las TIC en la Educación. Asimismo, ha sido miembro del Grupo Asesor Técnico sobre Desarrollo de Capacidades de la Alianza Foro Económico Mundial/UNESCO para la Educación y del Consejo de la Agenda Global del Foro Económico Mundial sobre Tecnologías en la Educación.
Con más de 40 años de experiencia, el Dr. Baraka es un consultor experimentado en transformación digital, que asesora tanto a organizaciones del sector público como del privado.
Ayisha Piotti es una experta independiente reconocida a nivel mundial, líder de opinión y constructora de puentes en materia de políticas de IA. Dedicada a garantizar que las tecnologías emergentes sirvan éticamente a la sociedad y a las generaciones futuras, su carrera intersectorial abarca más de dos décadas en las Naciones Unidas, la industria multinacional y los cargos públicos. Como socia directora de RegHorizon y fundadora de la Cumbre Mundial de Políticas de IA en Zúrich, ha establecido una de las plataformas de diálogo multipartito sobre IA más influyentes de Europa, al tiempo que asesora regularmente a organismos de gobernanza internacionales, consejos de ética de la industria e instituciones académicas de élite de todo el mundo. Ayisha es licenciada en Economía y Gestión y exalumna de la London School of Economics & Political Science, la Tufts' Fletcher School of Law & Diplomacy, la MIT Sloan School of Management, INSEAD e IMD.
Peter Deussen es fundador de How To Standard y experto en normalización internacional de las TIC con más de 16 años de experiencia. Ocupa cargos de liderazgo en el Instituto Alemán de Normalización (DIN), incluida la Presidentes de comités sobre IA y computación en la nube, y participa en actividades de normalización europeas e internacionales en ISO/CEI y CEN/CENELEC. Es editor de proyectos de normas clave de IA, en particular ISO/IEC 42005 (evaluación del impacto del sistema de IA) e ISO/IEC 23894 (gestión de riesgos de IA). como Oficial Nacional de Normalización en Alemania, dirigió el compromiso de Microsoft con respecto a las normas internacionales para la IA y el intercambio de datos.
James Kanja Cobba es un ejecutivo tecnológico, estratega de transformación digital y líder de gobernanza de IA con más de quince años de experiencia en liderazgo sénior que abarca el gobierno, las telecomunicaciones, la academia y el desarrollo internacional. Es ampliamente reconocido por ayudar a dar forma a la agenda de transformación digital de Sierra Leona y promover marcos políticos que permitan economías digitales confiables, inclusivas e impulsadas por la innovación.
Actualmente se desempeña como Director de Planificación y Cumplimiento de Políticas en el Ministerio de Comunicación, Tecnología e Innovación de Sierra Leona, donde dirige el desarrollo de políticas digitales nacionales, marcos de gobernanza, reformas legislativas y programas estratégicos que fortalecen el gobierno digital, la infraestructura pública digital, la ciberseguridad, la gobernanza de datos y las tecnologías emergentes. También se desempeña como Gerente del Programa de IA del país, liderando los esfuerzos nacionales para desarrollar enfoques de gobernanza de IA responsables que alineen la innovación con el valor público, la preparación institucional y el desarrollo sostenible.
Antes de incorporarse al Gobierno, James ocupó altos cargos de liderazgo tecnológico en el sector de las telecomunicaciones de Sierra Leona, donde contribuyó a la arquitectura técnica y la planificación del despliegue de la infraestructura fundamental de banda ancha del país, incluido el primer aterraje de cable submarino de fibra óptica y la red troncal nacional de fibra terrestre. Estas iniciativas ayudaron a establecer la plataforma de conectividad que sigue sustentando la economía digital de Sierra Leona.
Junto con su liderazgo ejecutivo, James pasó más de una década como investigador y profesor en la Universidad de Sierra Leona, promoviendo la innovación tecnológica, el desarrollo de habilidades digitales y la transformación institucional.
Su compromiso con el desarrollo regional e internacional incluye el apoyo a la política digital y las iniciativas legislativas en África Occidental, sirviendo en la UIT y representando a Sierra Leona en el Comité Asesor Gubernamental de la ICANN, donde contribuye a los debates sobre la gobernanza mundial de Internet y la política digital.
James aporta una perspectiva distintiva que une la tecnología, las políticas públicas, la transformación digital y la gobernanza de la IA. Su trabajo se centra en traducir las tecnologías emergentes en soluciones prácticas, escalables e inclusivas que aceleren la transformación del sector público, fortalezcan la confianza digital y desbloqueen el crecimiento socioeconómico sostenible en toda África. Es un firme defensor de garantizar que la inteligencia artificial sirva para propiciar el desarrollo humano, la resiliencia de las instituciones y la transformación digital equitativa.
-
C1. La función de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo
-
C2. Infraestructura de la información y la comunicación
-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C6. Entorno habilitador
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Gobierno electrónico
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Cibersalud
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Ciberempleo
-
C8. Diversidad e identidad culturales, diversidad lingüística y contenido local
-
C11. Cooperación internacional y regional
Esta sesión impulsa directamente las Líneas de Acción de la CMSI al demostrar cómo el primer tratado internacional vinculante sobre IA (CETS 225) y su metodología de evaluación de impacto (HUDERIA) operacionalizan la gobernanza responsable de la IA en los sectores de gobierno, salud y justicia (C6, C7-E-gobierno, C7-E-salud). Modela la cooperación interinstitucional y de múltiples partes interesadas entre un órgano de tratados de derechos humanos, financiamiento para el desarrollo y normas técnicas (C1, C11), y aborda las deficiencias de capacidad de los Estados del Sur Global que gestionan la adquisición de IA sin herramientas normativas adecuadas (C3, C4, C5). El fundamento de la sesión en la no discriminación, la evaluación de sesgos culturales y el diseño inclusivo se vincula con C8, mientras que la arquitectura normativa vinculante que presenta constituye el entorno propicio que C6 prevé para sistemas digitales confiables.
-
Objetivo 3: Garantizar una vida sana y promover el bienestar para todos en todas las edades
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 5: Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas
-
Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
-
Objetivo 10: Reducir la desigualdad en y entre los países
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
La gobernanza responsable de la IA es un requisito previo para el cumplimiento de la Agenda 2030. Esta sesión demuestra cómo CETS 225 y HUDERIA proporcionan a los gobiernos —en particular en el Sur Global— las herramientas normativas y metodológicas vinculantes necesarias para garantizar que los sistemas de IA en salud (ODS 3), justicia y administración pública (ODS 16) sirvan a los derechos humanos y la igualdad en lugar de socavarlos. Al abordar la discriminación y los sesgos algorítmicos en el empleo y la prestación de servicios, la sesión contribuye a reducir las desigualdades dentro y entre los países (ODS 10). La arquitectura integrada presentada —que combina un tratado de derechos humanos, salvaguardias de financiación para el desarrollo y normas técnicas ISO/IEC— modela el tipo de asociación multiinstitucional que el ODS 17 prevé para la gobernanza de la tecnología. El fortalecimiento de capacidades para profesionales de los Estados en desarrollo (ODS 4) y el marco de no discriminación incorporado en HUDERIA (ODS 5) completan el panorama de la gobernanza de la IA como facilitador del desarrollo sostenible.
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 2: Ampliar la inclusión y los beneficios de la economía digital para todos
- Objetivo 3: Fomentar un espacio digital inclusivo, abierto, seguro y protegido que respete, proteja y promueva los derechos humanos
- Objetivo 4: Promover enfoques de gobernanza de datos responsables, equitativos e interoperables
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad
https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence
https://www.coe.int/en/web/artificial-intelligence/cdnet
https://www.coe.int/en/web/artificial-intelligence/huderia-risk-and-impact-assessment-of-ai-systems
https://rm.coe.int/prems-002726-gbr-2006-huderia-texte-web-a4/48802ba7b1