Línea de Acción C10 de la CMSI: El futuro de las dimensiones éticas de la sociedad de la información: impacto de la inteligencia artificial
UNESCO
Sesión 179
En medio de las seductoras promesas de la tecnología digital para siempre, vemos una mayor desigualdad, vigilancia y discriminación, a menudo impulsadas aún más por sistemas de inteligencia artificial (IA). En 2024, cuando alrededor de 3 mil millones de personas votarán, las capacidades cada vez más avanzadas y la adopción de la IA generativa y tecnologías emergentes relacionadas subrayan la necesidad de un debate social sobre el impacto de los sistemas de IA y la necesidad de mecanismos sólidos de gobernanza de la IA. . Esta sesión girará en torno a las implicaciones éticas de la IA en la sociedad de la información en general y propondrá soluciones viables para abordar los desafíos actuales que plantea la firme integración de la IA en todos los estratos de la sociedad.
La UNESCO lleva varias décadas trabajando en las consideraciones éticas y de gobernanza de la ciencia y la tecnología. Ha promovido un análisis riguroso y un debate multidisciplinario e inclusivo sobre el desarrollo y la aplicación de tecnologías emergentes. Su Comisión Mundial sobre Ética del Conocimiento Científico y la Tecnología (COMEST) y su Comité Internacional de Bioética (IBC) han presentado importantes informes sobre muchas de estas cuestiones, incluidas la neurotecnología, la robótica y la ética de la ingeniería climática. El trabajo de múltiples partes interesadas culminó con la adopción de la Recomendación sobre la Ética de la IA en 2021 por 193 Estados Miembros, que enmarca la agenda ética global sobre cómo se desarrollará y utilizará la IA, subrayando el mandato ético y la dedicación de la UNESCO para guiar el avance tecnológico hacia una futuro marcado por la equidad y la inclusión. Este estándar global pionero exige que los sistemas de IA y sus desarrolladores respeten los principios de ética, derechos humanos, dignidad, justicia y sostenibilidad. La Recomendación ahora se está implementando en más de 50 países a través de herramientas prácticas que incluyen la Metodología de Evaluación de la Preparación y la Evaluación de Impacto Ético, con la participación de múltiples partes interesadas como un aspecto integral y transformador de todo el proceso de implementación.
La IA desempeña un papel fundamental en la sociedad de la información. Los expertos estiman que hasta el 90 por ciento del contenido en línea podría generarse sintéticamente para 2026, según un informe de Europol. Desde artículos de noticias hasta recomendaciones personalizadas, desde publicaciones en redes sociales hasta imágenes y videos generados, la IA ya no es solo una herramienta de apoyo, sino cada vez más un creador de contenido por derecho propio. El aumento del contenido generado por IA también ha dado lugar a debates sobre cuestiones éticas y la necesidad de directrices. El contenido basado en inteligencia artificial tiene el potencial de difundir desinformación, infringir derechos de autor y hacer un mal uso de la información personal. Por lo tanto, es importante que se desarrollen políticas y regulaciones para mitigar estos riesgos.
Mirando hacia el futuro, la visión de la CMSI más allá de 2015, hacia 2025, es establecer una “sociedad de la información centrada en las personas, inclusiva y orientada al desarrollo” para aprovechar el potencial de las tecnologías de la información y las comunicaciones para el desarrollo sostenible. El trabajo de la UNESCO sobre la ética de la IA está estrechamente alineado con los objetivos y el proceso de la CMSI. En el marco de su papel de facilitadora de la línea de acción C10 (Dimensiones éticas de la sociedad de la información), la UNESCO promueve activamente la cooperación para garantizar el desarrollo de valores y principios universalmente aceptados para promover sociedades del conocimiento inclusivas. Este enfoque debe abarcar el diseño, desarrollo, implementación y adquisición de sistemas de IA de manera mutuamente solidaria, inclusiva y holística.
Con referencia a los acontecimientos recientes, este panel se centrará en el impacto de la IA para la sociedad de la información y discutirá estrategias para preparar en el futuro un enfoque ético para la gobernanza de las tecnologías de IA por parte de todos los actores.
Director Ejecutivo de Globethics, organización internacional, cuya sede está en Ginebra, Suiza, que trabaja por el liderazgo ético a través de la educación superior y el compromiso global. El Prof. Fadi Daou es el ganador del Premio Elevate 2020 para pensadores y agentes de cambio globales. Daou es asesor político y profesor de geopolítica de las religiones, desarrollo inclusivo y paz. Después de haber liderado proyectos pioneros para contrarrestar el extremismo en línea, ahora lidera el compromiso de Globethics en la ética de la IA y las tecnologías emergentes, con la reciente publicación: IA inclusiva para un futuro mejor.
https://www.linkedin.com/in/fadidaou/
https://twitter.com/fdaoulb
.jpg?maxwidth=250)
Amanda es abogada y politóloga con experiencia en derecho y tecnología, políticas públicas e investigación sociotécnica en IA. Su carrera se centra en cerrar la brecha entre las tecnologías emergentes, el estado de derecho y la democracia. Sus principales temas de investigación han sido las políticas y regulaciones para combatir la desinformación, la alfabetización digital e informacional, la responsabilidad y transparencia de la IA, la IA responsable en el sector público y los desafíos actuales para la ética en la industria de la IA.
El Dr. Ricardo Baptista Leite es un médico luso-canadiense capacitado en enfermedades infecciosas con amplia experiencia en salud global, sistemas de salud y formulación de políticas con base científica. Antes de su cargo actual como director ejecutivo de 'HealthAI - La Agencia Global para la IA Responsable en Salud' en Ginebra, el Dr. Ricardo sirvió cuatro mandatos como miembro del Parlamento en Portugal en los comités de salud y asuntos exteriores. Ricardo es concejal de Sintra y anteriormente fue teniente de alcalde de Cascais.
Es el fundador y presidente de la 'Red de Parlamentarios UNITE para la Salud Global', una red de responsables políticos actuales y anteriores de 110 países. Con más de 15 años de experiencia académica, es presidente de la junta del Laboratorio de Políticas de Salud Global Harvard-Charité, con sede en Berlín, y presidente del Centro para la Salud Global de la Escuela de Ciencia de Datos y Gestión de la Información de la Universidad NOVA en Lisboa. Realizó estudios de posgrado en la Universidad Johns Hopkins, la Escuela de Gobierno Kennedy de Harvard y la Escuela de Medicina de Harvard. Anteriormente, el Dr. Baptista Leite trabajó como médico en ejercicio en el Servicio Nacional de Salud de Portugal durante varios años, incluida una pasantía en la Organización Mundial de la Salud.
Más recientemente, trabajó como médico voluntario durante la pandemia de COVID en el hospital de su ciudad natal en Portugal durante más de un año y como parte de una misión humanitaria en el Hospital Regional de Lviv en Ucrania durante el primer verano después del comienzo de la guerra.
Actualmente, Ashutosh es responsable de crear asociaciones con la ONU y otras organizaciones internacionales para permitir el uso responsable de la tecnología a través de intervenciones políticas y programáticas para avanzar en el logro de los objetivos de desarrollo sostenible y el crecimiento socioeconómico, permitiendo ecosistemas de innovación, inclusión y seguridad.
Hasta hace poco, era director y jefe nacional de Asuntos Corporativos y Políticas Públicas para India y el sur de Asia en Microsoft. En su cargo, trabajó en estrecha colaboración con audiencias clave en el gobierno, la academia, la industria y las entidades multilaterales para ayudar a formular políticas que permitan profundizar el uso de la tecnología, impulsar la inclusión y el crecimiento digitales, así como garantizar la innovación y la seguridad del ecosistema digital. .
En una carrera que abarca más de 37 años, Ashutosh ha trabajado en Mastercard, Wipro Ltd, Intel India, Shell India Pvt Ltd, NIIT y la Junta Nacional de Desarrollo Lácteo. Ashutosh, graduado en Gestión del Instituto de Gestión Rural de Anand Gujarat, tiene una amplia experiencia en desarrollo empresarial, gestión de canales, planificación estratégica y asuntos corporativos, relaciones gubernamentales y promoción de políticas.
Ashutosh es un orador habitual en foros nacionales e internacionales sobre temas que van desde asuntos corporativos, políticas públicas, educación, RSE, innovación y espíritu empresarial. Ha hablado en eventos organizados por el BM, la OMC, UNICEF, la UNESCO, así como en instituciones académicas nacionales e internacionales.
A Ashutosh le apasiona defender el uso de la tecnología para el desarrollo socioeconómico y mejorar vidas a través de la educación, la innovación y el espíritu empresarial.
Ashutosh, que participa en la tutoría de nuevas empresas, entrena a estudiantes y ejecutivos, también es un coach ejecutivo y corporativo certificado de nivel 2 NS-NLP.
En su tiempo libre, a Ashutosh le encanta leer, escuchar música y viajar.
Mariagrazia Squicciarini es Jefa de la Oficina Ejecutiva y Directora interina del Sector de Ciencias Sociales y Humanas (SHS) de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO).
En la UNESCO, Mariagrazia supervisa, coordina, dirige y ayuda a promover el trabajo relevante para las políticas relacionadas con la transformación social, incluida la ética de la ciencia y la tecnología, en particular, de la Inteligencia Artificial; la juventud; deporte y antidoping; inclusión, antirracismo y género.
En el pasado, dirigió y contribuyó con análisis relevantes de políticas relacionados con los determinantes cambiantes del crecimiento y la productividad; la economía de los derechos de propiedad intelectual (DPI); capital basado en el conocimiento; cadenas de valor globales; la transformación digital y la IA; dinámica laboral y de habilidades; y la brecha digital de género.
Mariagrazia tiene un doctorado. en Economía por la Universidad de Essex (Reino Unido). Antes de unirse a la UNESCO, Mariagrazia trabajó durante más de diez años en la Dirección de Ciencia, Tecnología e Innovación de la OCDE como economista senior – Jefa de Unidad. Antes de unirse a la OCDE, ocupó varios puestos, incluidos el Centro de Investigación Técnica VTT de Finlandia (FI), la Universidad de Essex (Reino Unido) y el Centro Conjunto de Investigación de la Comisión Europea (IPTS, ES).
Ha publicado numerosas publicaciones y ha actuado como revisora de revistas internacionales revisadas por pares y de gobiernos.
-
C1. La función de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo
-
C2. Infraestructura de la información y la comunicación
-
C4. Creación de capacidades
-
C10. Dimensiones éticas de la sociedad de la información
-
C11. Cooperación internacional y regional
La sesión está estrechamente vinculada a las Líneas de Acción de la Cumbre Mundial sobre la Sociedad de la Información (CMSI), en particular la Línea de Acción C10: Dimensiones éticas de la Sociedad de la Información:
Abordar las implicaciones éticas de la IA : la sesión se centra en las implicaciones éticas de la IA y la necesidad de mecanismos sólidos de gobernanza de la IA. Esto se alinea con el objetivo de la Línea de Acción C10 de promover valores y principios universales para sociedades del conocimiento inclusivas.
Implementación de la Recomendación sobre la Ética de la IA : La sesión analiza la implementación de la Recomendación de la UNESCO sobre la Ética de la IA en más de 50 países. Esta Recomendación, que exige el cumplimiento de los principios de ética, derechos humanos, dignidad, equidad y sostenibilidad, es una norma mundial pionera que se alinea con la visión de la CMSI de una sociedad de la información centrada en las personas, inclusiva y orientada al desarrollo.
Promoción de la participación de múltiples partes interesadas: La sesión enfatiza la importancia de la participación de múltiples partes interesadas en el proceso de implementación de la Recomendación. Este enfoque está en línea con el proceso de la CMSI, que fomenta la cooperación y la colaboración entre todas las partes interesadas.
Dar forma a las dimensiones éticas de la IA : la sesión tiene como objetivo dar forma a las dimensiones éticas de la IA como parte de la sociedad de la información, en línea con el proceso de la CMSI y su visión para 2025. Esto implica hacer operativa la necesidad de ética en cada etapa del sistema de IA. ciclo de vida para garantizar un enfoque responsable y basado en los derechos humanos para la gobernanza de la IA.
-
Objetivo 1: Poner fin a la pobreza en todas sus formas en todo el mundo
-
Objetivo 2: Poner fin al hambre, lograr la seguridad alimentaria y la mejora de la nutrición y promover la agricultura sostenible
-
Objetivo 3: Garantizar una vida sana y promover el bienestar para todos en todas las edades
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 5: Lograr la igualdad entre los géneros y empoderar a todas las mujeres y niñas
-
Objetivo 6: Garantizar la disponibilidad de agua y su gestión sostenible y el saneamiento para todos
-
Objetivo 7: Garantizar el acceso a una energía asequible, segura, sostenible y moderna para todos
-
Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
-
Objetivo 10: Reducir la desigualdad en y entre los países
-
Objetivo 11: Conseguir que las ciudades y los asentamientos humanos sean inclusivos, seguros, resilientes y sostenibles
-
Objetivo 12: Garantizar modalidades de consumo y protección sostenibles
-
Objetivo 13: Adoptar medidas urgentes para combatir el cambio climático y sus efectos
-
Objetivo 14: Conservar y utilizar en forma sostenible los océanos, los mares y los recursos marinos para el desarrollo sostenible
-
Objetivo 15: Proteger, restablecer y promover el uso sostenible de los ecosistemas terrestres, efectuar una ordenación sostenible de los bosques, luchar contra la desertificación, detener y revertir la degradación de las tierras y poner freno a la pérdida de diversidad biológica
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
La Recomendación de la UNESCO sobre la ética de la inteligencia artificial hace un fuerte énfasis en cerrar las brechas que surgen de las tecnologías de IA, así como en abordar sus riesgos negativos. Afirma que todos los actores de la IA deben respetar los valores y principios detallados en la Recomendación y desplegarlos de conformidad con los objetivos de sostenibilidad acordados internacionalmente, como los ODS. El objetivo de la Recomendación es lograr resultados inclusivos y éticos, y poner a las personas en el centro del desarrollo y la implementación de la IA.
La implementación de la Recomendación contribuye directamente a varios ODS al crear un entorno propicio para abordar de manera ética todo el ciclo de vida de la IA, es decir, desde la investigación, el diseño y el desarrollo, hasta el despliegue y el uso, incluido el mantenimiento, la operación, el comercio, la financiación, el seguimiento y la evaluación. , validación, fin de uso, desmontaje y terminación. También ayudará a fortalecer las capacidades institucionales de los países y fomentar alianzas. Específicamente, la implementación de la Recomendación contribuye a muchas áreas de enfoque de los ODS: mejorar la educación y el intercambio de conocimientos, tanto a través de colaboraciones Norte-Sur como de la cooperación Sur-Sur (ODS 4.4 y 4.7); promover la igualdad en general, en particular garantizando la inclusión y la diversidad en los equipos de desarrolladores de IA (ODS 10.3); abordar la desigualdad de género, con información precisa sobre las acciones afirmativas de género necesarias para cerrar la brecha de género relacionada con las tecnologías digitales (5.b); garantizar que todos los países tengan la infraestructura necesaria para beneficiarse de la IA y desarrollarla localmente (ODS 9.b y 9.c); garantizar que la IA no dañe el medio ambiente y contribuya a la transición climática, como único instrumento internacional que tiene un capítulo relacionado con el medio ambiente (ODS 13.3); y fortalecer las instituciones (ODS 16.7), así como 16.B Promover y hacer cumplir leyes y políticas no discriminatorias para el desarrollo sostenible.
UNESCO Recommendation on the Ethics of AI: https://unesdoc.unesco.org/ark:/48223/pf0000381137