El problema de los monocultivos en la inteligencia artificial
Universidad de Florida (UFL), Escuela Diplomática de Ginebra
Sesión 374
A medida que los sistemas de IA convergen en un conjunto limitado de arquitecturas, conjuntos de datos de entrenamiento y supuestos de valor integrados, reproducen cada vez más una única forma de ver el mundo: una monocultura epistémica en la que los idiomas, los sistemas de conocimiento y las concepciones de la personalidad de gran parte del mundo, incluidos África y Asia, se tratan como casos extremos en lugar de como fuentes de resiliencia. Basándose en la lección de los monocultivos ecológicos, que cambian la eficiencia a corto plazo por la fragilidad a largo plazo, este panel sostiene que la diversidad epistémica y cultural no es una cuestión de inclusión, sino una condición estructural para la seguridad de la IA, y una cuestión de soberanía epistémica para las naciones menos representadas en la forma en que se construyen estos sistemas.
La sesión, que reúne perspectivas de la diplomacia, la gobernanza multilateral, la defensa y la seguridad, y la investigación ética de la IA, se pregunta cómo la gobernanza mundial de la IA podría pasar de una lógica de acceso a una de alineación: de ampliar quién puede utilizar estos sistemas a dar forma a los valores, lenguajes y formas de conocimiento que codifican. Los panelistas examinarán lo que requeriría la soberanía epistémica en la práctica, dónde la homogeneización crea un riesgo correlacionado y para todo el sistema, y qué pasos concretos de gobernanza podrían contrarrestar el monocultivo en los próximos dos años.
La profesora Schmer-Galunder es la directora del Programa Renwick para una IA Segura, Ética y Beneficiosa, el programa inaugural de la institución dedicado a la ética, la seguridad y el impacto social de la IA. Antropóloga social con más de quince años de experiencia en el mundo académico, el gobierno y la industria, examina cómo diversos valores culturales, ideas e imaginaciones dan forma a los supuestos integrados en los sistemas de IA, argumentando que preservar la diversidad humana hace que la tecnología no solo sea más segura, sino una fuente vital de innovación. Anteriormente, en Smart Information Flow Technologies (SIFT), dirigió estudios de simulación espacial financiados por la NASA y programas de DARPA sobre desconexión moral en la desinformación y el discurso de odio, el sesgo cultural y de género en la IA y la alineación de valores pluralistas. En Florida, también codirige el Laboratorio de PNL y Cultura y es miembro del Instituto de Ciberseguridad de Florida.
El Dr. Wallace S. Cheng es Profesor y Director del Programa de Tecnologías de Vanguardia y Gobernanza de la Geneva School of Diplomacy. Ha trabajado con el Programa Mundial de Alimentos (PMA) de las Naciones Unidas, la UNCTAD, Globethics y el Centro Internacional para el Comercio y el Desarrollo Sostenible (ICTSD), impulsando iniciativas que vinculan el desarrollo sostenible, la política económica y la tecnología para el bien público. Desde 2015, ha contribuido al Foro Económico Mundial como autor de la agenda, ayudando a dar forma a los debates mundiales sobre comercio, gobernanza tecnológica y crecimiento inclusivo. Es miembro experto de la iniciativa Unidos por las ciudades inteligentes y sostenibles (U4SSC) de las Naciones Unidas, apoyando marcos políticos en la intersección de la sostenibilidad, la transformación digital y la gobernanza. El Dr. Cheng asesora al Programa Mundial de Alimentos de las Naciones Unidas y a Stop Killer Robots sobre la gobernanza de la IA en contextos humanitarios y de alto riesgo. También es miembro de la Junta Asesora Industrial del Programa Renwick para una IA Segura, Ética y Beneficiosa de la Universidad de Florida. Como Yale World Fellow, Wallace aporta un enfoque interdisciplinario e informado a nivel mundial al liderazgo, uniendo sectores, promoviendo la colaboración público-privada y apoyando a las organizaciones que navegan por complejos panoramas de políticas y sostenibilidad.
El Embajador Prof. Muhammadou M. O. Kah es un diplomático y académico gambiano que sirve desde 2020 como Embajador Extraordinario y Plenipotenciario de Gambia en Suiza y Representante Permanente ante la Oficina de las Naciones Unidas en Ginebra (ONUG), la OMC y otras organizaciones internacionales. Estudioso de la gestión de la información y la tecnología —tiene una licenciatura, una maestría y un doctorado en la materia del Instituto de Tecnología Stevens, además de una maestría en Finanzas de la Universidad George Washington y un diploma de posgrado de la Saïd Business School de Oxford—, ha dirigido instituciones en tres continentes, incluido el primer vicerrector nacido en Gambia de la Universidad de Gambia y vicepresidente de la Universidad Americana de Nigeria. En Ginebra ha ocupado el cargo Presidentes Vicepresidente de la Comisión de Ciencia y Tecnología para el Desarrollo de la UNCTAD y el Vicepresidente (África) del Consejo de Derechos Humanos de las Naciones Unidas, y es miembro fundador de la Junta del International Digital Health and AI Research Collaborative (I-DAIR).
El Dr. Supheakmungkol Sarin es un líder tecnológico camboyano con unas dos décadas de experiencia en datos e inteligencia artificial, centrado en hacer que los beneficios de la IA lleguen a la mayoría mundial. Es cofundador y director ejecutivo de AI Safety Asia, fundador de la práctica de asesoramiento AI Equity Advisory y experto en IA nombrado para el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial del Secretario General de las Naciones Unidas. En el Foro Económico Mundial se desempeñó como Jefe de Ecosistemas de Datos e IA, donde ayudó a establecer la Alianza para la Gobernanza de la IA, lanzó el Consejo del Futuro Global sobre Equidad de Datos y convocó la Cumbre inaugural de Gobernanza de la IA del Foro. Anteriormente, en Google AI, lideró iniciativas de IA inclusiva que llegaron a más de mil millones de personas y creó recursos de habla y lenguaje para docenas de idiomas de escasos recursos en todo el Sur Global, incluso a través de la plataforma Crowdsource. Tiene un doctorado en ciencias de la Universidad de Waseda, es miembro principal del IEEE y es autor de más de 40 publicaciones.
Adam es un Científico Principal Distinguido en la División de IA y actualmente está asignado a IPA a la Dirección de Tecnología, Innovación y Asociaciones (TIP) de la Fundación Nacional de Ciencias para liderar su iniciativa X-Labs. Antes de unirse a TIP, Adam fue Director de la División de IA, donde fue responsable de ayudar a establecer la dirección estratégica de la División y apoyar a la facultad, el personal y los estudiantes de la División de IA para que hagan lo que mejor saben hacer: tener un impacto positivo a través del descubrimiento, la experimentación (también conocida como "fallar, aprender, mejorar"), el desarrollo y la implementación de nuevas capacidades, centrándonos en nuestra visión de "H > AI" (es decir, garantizar que los seres humanos y nuestro mundo son más grandes que la IA, más grandes gracias a ella y más grandes con ella).
-
C3. Acceso a la información y al conocimiento
-
C8. Diversidad e identidad culturales, diversidad lingüística y contenido local
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
-
Objetivo 10: Reducir la desigualdad en y entre los países
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 2: Ampliar la inclusión y los beneficios de la economía digital para todos
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad