La ciencia en la era de la IA: conocimiento, datos y confianza
Consejo Científico Internacional y Comité de Datos del ISC
Sesión 216
Antecedentes
La inteligencia artificial está remodelando la empresa científica, pero los debates actuales sobre la gobernanza no han prestado suficiente atención a las implicaciones sistémicas de la IA para la ciencia como sistema de conocimiento. Si bien las dimensiones sociales, económicas, éticas y técnicas de la IA se están debatiendo en foros multilaterales, se ha pasado por alto en gran medida su repercusión en la producción, validación e intercambio de conocimientos científicos. Esta brecha es particularmente significativa para las instituciones científicas y los investigadores del Sur Global, que se enfrentan a distintos desafíos: los datos científicos abiertamente disponibles generados en sus regiones se cosechan cada vez más para entrenar sistemas comerciales de IA sin beneficios recíprocos ni marcos de gobernanza de datos que protejan la soberanía científica.
El programa Science Systems Futures del Consejo Internacional de la Ciencia y la iniciativa AI disclosure in research, junto con el trabajo de CODATA sobre datos FAIR y gobernanza de IA, demuestran que la comunidad científica internacional ha comenzado a abordar estas cuestiones. Sin embargo, estas iniciativas siguen estando dispersas en las redes institucionales. El Foro de la CMSI es un lugar fundamental para sacar a la luz esta base empírica y conectarla con conversaciones más amplias sobre gobernanza digital, garantizando que los intereses de la ciencia en el desarrollo responsable de la IA sean visibles para los responsables políticos y los procesos multilaterales.
Temas de la sesión
La sesión examina tres dimensiones interconectadas: (1) IA y generación de conocimiento: cómo los roles autónomos de la IA en la investigación afectan el método científico y quién cuenta como productor de conocimiento; (2) Datos científicos y modelos de IA: la tensión entre los principios de la ciencia abierta y la soberanía de los datos, especialmente para el Sur Global; y (3) Fiabilidad e integridad de la investigación: qué mecanismos de gobernanza se necesitan a medida que los productos generados por IA entran en el registro científico.
Proyectos y prácticas pertinentes
La sesión se basa en la evidencia de múltiples iniciativas: el trabajo del ISC sobre un estándar global de divulgación de IA para la investigación (el Estándar de Vancouver); los Grupos de Tareas Especiales de CODATA sobre calidad de los datos y gobernanza de la IA; y ejemplos nacionales de sistemas científicos que navegan por asociaciones público-privadas en torno a tecnologías emergentes en el Sur Global. Estas iniciativas proporcionan una base práctica para los debates sobre qué normas, estándares y marcos son necesarios.
Perspectiva para la CMSI después de 2025
El compromiso de la CMSI con la ciencia como bien público mundial (reflejado en la Línea de Acción C7 sobre ciberciencia) debe evolucionar para abordar el papel de la IA en la determinación de qué conocimiento se produce, quién lo produce y quién se beneficia de él. La CMSI después de 2025 debería situar a la comunidad científica y de investigación como partes interesadas centrales en la gobernanza de la IA, garantizando que los debates sobre la gobernanza de datos (Objetivo 4 del CDM) y la IA responsable (Objetivo 5 del CMD) se basen en las necesidades y las preocupaciones de equidad de la empresa científica mundial, en particular en el Sur Global.
-
C2. Infraestructura de la información y la comunicación
-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C6. Entorno habilitador
-
C7. Aplicaciones de las TIC: ventajas en todos los aspectos de la vida — Ciberciencia
-
C10. Dimensiones éticas de la sociedad de la información
-
C11. Cooperación internacional y regional
C2 (Infraestructura de la información y la comunicación): La gobernanza de la IA requiere comprender cómo la infraestructura de datos (dónde se almacenan, quién los controla y cómo fluyen) configura la capacidad científica en las distintas regiones.
• C3 (Acceso a la información y al conocimiento): Los principios de la ciencia abierta se cruzan con la utilización de datos científicos por la IA; Los marcos de gobernanza deben equilibrar la apertura con el control equitativo y la distribución de beneficios.
C4 (Capacitación): Las instituciones científicas necesitan nuevas competencias y capacidades de gobernanza para abordar la integración de la IA en la investigación, especialmente en el Sur Global.
• C6 (Entorno propicio): Se necesitan marcos políticos para apoyar el uso responsable de la IA en la investigación, protegiendo al mismo tiempo la integridad científica y la soberanía de los datos.
• C7 (Aplicaciones de las TIC: Ciberciencia): Esta es la línea de acción central; la sesión aborda directamente cómo la IA, como TIC emergente, reconfigura los sistemas de descubrimiento e investigación científica.
C10 (Dimensiones éticas de la sociedad de la información): La IA en la ciencia plantea cuestiones fundamentales sobre la ética de la investigación, la rendición de cuentas y el interés público.
C11 (Cooperación internacional y regional): La gobernanza equitativa de la IA para la ciencia requiere cooperación multilateral y marcos que sirvan a todas las regiones.
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
ODS 4 (Educación de calidad): El papel de la IA en la producción de conocimientos afecta a la evolución de la educación científica y la formación en investigación.
ODS 9 (Industria, innovación, infraestructura): La innovación científica y tecnológica depende cada vez más de la IA; La gobernanza de esta intersección configura las vías de innovación a nivel mundial.
ODS 16 (Paz, justicia e instituciones sólidas): La integridad de la investigación y los conocimientos fiables son los cimientos de la formulación de políticas basadas en datos empíricos.
ODS 17 (Alianzas para lograr los objetivos): Las asociaciones público-privadas equitativas en los sectores de la ciencia y la tecnología dependen de marcos de gobernanza que protejan el interés público y la equidad del Sur Global.
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 4: Promover enfoques de gobernanza de datos responsables, equitativos e interoperables
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad
https://council.science/events/wsis-forum-2026/
https://council.science/our-work/science-systems-futures/