El problema de los monocultivos en la inteligencia artificial
Universidad de Florida (UFL), Escuela Diplomática de Ginebra
Sesión 374
A medida que los sistemas de IA convergen en un conjunto limitado de arquitecturas, conjuntos de datos de entrenamiento y supuestos de valor integrados, reproducen cada vez más una única forma de ver el mundo: una monocultura epistémica en la que los idiomas, los sistemas de conocimiento y las concepciones de la personalidad de gran parte del mundo, incluidos África y Asia, se tratan como casos extremos en lugar de como fuentes de resiliencia. Basándose en la lección de los monocultivos ecológicos, que cambian la eficiencia a corto plazo por la fragilidad a largo plazo, este panel sostiene que la diversidad epistémica y cultural no es una cuestión de inclusión, sino una condición estructural para la seguridad de la IA, y una cuestión de soberanía epistémica para las naciones menos representadas en la forma en que se construyen estos sistemas.
La sesión, que reúne perspectivas de la diplomacia, la gobernanza multilateral, la defensa y la seguridad, y la investigación ética de la IA, se pregunta cómo la gobernanza mundial de la IA podría pasar de una lógica de acceso a una de alineación: de ampliar quién puede utilizar estos sistemas a dar forma a los valores, lenguajes y formas de conocimiento que codifican. Los panelistas examinarán lo que requeriría la soberanía epistémica en la práctica, dónde la homogeneización crea un riesgo correlacionado y para todo el sistema, y qué pasos concretos de gobernanza podrían contrarrestar el monocultivo en los próximos dos años.
-
C3. Acceso a la información y al conocimiento
-
C8. Diversidad e identidad culturales, diversidad lingüística y contenido local
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 8: Promover el crecimiento económico sostenido, inclusivo y sostenible, el empleo pleno y productivo y el trabajo decente para todos
-
Objetivo 10: Reducir la desigualdad en y entre los países
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 2: Ampliar la inclusión y los beneficios de la economía digital para todos
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad