La política del conocimiento en la era de la IA: empoderar la agencia humana a través de las normas, los derechos humanos y el papel de las empresas
Unión Internacional de Telecomunicaciones, Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos y Centro Carr-Ryan de la Escuela Kennedy de Harvard
Sesión 395
La inteligencia artificial y las tecnologías basadas en datos están remodelando no solo las economías y los servicios públicos, sino también la propia política del conocimiento: qué se puede saber, quién controla ese conocimiento y cómo se utiliza para configurar el comportamiento individual y colectivo.
La distribución y difusión del conocimiento están cada vez más mediadas por infraestructuras digitales que a menudo son de gestión privada. Esto desencadena un debate sobre el entorno de la información y su relación con los derechos humanos. En este contexto, las normas técnicas desempeñan un papel fundamental, aunque a menudo se pasa por alto. Al conformar los flujos de datos, las arquitecturas de los sistemas, la interoperabilidad, los marcos de identidad, los mecanismos de moderación de contenidos y las opciones de diseño algorítmico, las normas determinan efectivamente cómo se produce, circula y limita el conocimiento a escala.
Las normas no son neutras: si bien suelen considerarse instrumentos puramente técnicos, funcionan cada vez más como infraestructuras de gobernanza, influyendo en el poder sobre el conocimiento y la toma de decisiones, con profundas repercusiones para la acción humana y los derechos humanos, como la libertad de expresión, el acceso a la información, la privacidad pero también la libertad de opinión y de pensamiento.
Este panel explora cómo la IA y las normas técnicas se cruzan con las políticas del conocimiento, cómo pueden reforzar involuntariamente las asimetrías de poder y cómo los enfoques de normalización basados en los derechos humanos pueden ayudar a realinear el diseño técnico con los valores democráticos y los derechos humanos. El papel del sector privado es clave en este caso por al menos dos razones: en primer lugar, porque las empresas participan y dan forma a las normas técnicas en organizaciones y consorcios de normalización; y en segundo lugar, porque estas empresas también utilizan y se adaptan a estas normas técnicas. En este sentido, es útil coordinar el compromiso de las empresas con un enfoque de derechos humanos, centrándose en los Principios Rectores de las Naciones Unidas, y también comprender cómo los equipos de derechos humanos y normas tecnológicas de las empresas pueden cooperar para fomentar un entorno de conocimiento respetuoso de los derechos.
-
C1. La función de los gobiernos y de todas las partes interesadas en la promoción de las TIC para el desarrollo
-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C5. Crear confianza y seguridad en la utilización de las TIC
-
C6. Entorno habilitador
-
C9. Medios de comunicación
-
C10. Dimensiones éticas de la sociedad de la información
-
C11. Cooperación internacional y regional
Esta sesión contribuye directamente a las Líneas de Acción de la CMSI al examinar cómo la inteligencia artificial, las tecnologías basadas en datos y las normas técnicas configuran la producción, la circulación y el control del conocimiento en la sociedad de la información. Es especialmente pertinente para la Línea de Acción C3, ya que aborda el acceso a la información y al conocimiento en entornos digitales mediados cada vez más por plataformas privadas, sistemas algorítmicos e infraestructuras técnicas.
La sesión también contribuye a C1 y C11 al reunir a organizaciones internacionales, instituciones académicas, la sociedad civil y el sector privado para debatir las responsabilidades compartidas en la gobernanza y la normalización de la IA. Se relaciona con C5, C6 y C10 y explora cómo la confianza, la seguridad, las consideraciones éticas y los derechos humanos pueden integrarse en las normas y los marcos de gobernanza. Por último, se conecta con C9 al abordar el entorno de información más amplio, incluida la moderación de contenidos, la distribución de conocimientos y las implicaciones de los sistemas algorítmicos para la libertad de expresión, el acceso a la información, la privacidad y la libertad de pensamiento.
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
-
Objetivo 10: Reducir la desigualdad en y entre los países
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
La sesión apoya los Objetivos de Desarrollo Sostenible al abordar cómo la gobernanza de la IA y las normas técnicas pueden reducir o reforzar las desigualdades en el acceso a la información, el conocimiento y el poder de decisión. Al centrarse en la acción humana, los derechos humanos y las políticas del conocimiento en la era de la IA, la sesión contribuye a los ODS 10 y 16, especialmente en relación con las sociedades inclusivas, la gobernanza responsable y el respeto de las libertades fundamentales.
El debate también apoya el ODS 9 al examinar el papel de las normas técnicas en la configuración de las infraestructuras digitales y los ecosistemas de innovación. Contribuye al ODS 4 al promover la comprensión de cómo se produce y circula el conocimiento en entornos mediados por IA. Por último, el carácter multipartito de la sesión, en la que participan la UIT, el ACNUDH, el mundo académico, la sociedad civil y el sector privado, apoya directamente el ODS 17 al fomentar asociaciones para una transformación digital responsable y respetuosa de los derechos.
- Objetivo 1: Cerrar todas las brechas digitales y acelerar el progreso en los Objetivos de Desarrollo Sostenible
- Objetivo 3: Fomentar un espacio digital inclusivo, abierto, seguro y protegido que respete, proteja y promueva los derechos humanos
- Objetivo 4: Promover enfoques de gobernanza de datos responsables, equitativos e interoperables
- Objetivo 5: Mejorar la gobernanza internacional de la inteligencia artificial en beneficio de la humanidad