Rompiendo las falsificaciones en el mundo de la IA: Mantenerse inteligente en la era de la desinformación, el odio y las falsificaciones profundas
Grupo eWorldwide
Sesión 278
Herramientas, verdad y tácticas para la era digital
En una era en la que el entorno geopolítico es impredecible e inestable, es imperativo comprender cómo las tecnologías impulsadas por la IA y los algoritmos poco éticos están transformando las interacciones y las narrativas en línea a través de la desinformación, el discurso de odio y el contenido deepfake, lo que representa una amenaza importante para la seguridad nacional, los individuos, la sociedad y el gobierno.
Los niños, niñas y jóvenes están cada vez más expuestos y son más susceptibles a contenido digital manipulador, influencias poco éticas en las redes sociales y entornos de juego tóxicos, lo cual está moldeando sus comportamientos, actitudes, prejuicios y desarrollo moral. Como resultado, existe una creciente cultura de misoginia, explotación sexual y violencia de género facilitada por la tecnología (VGFT), sumada a la adicción a la violencia extrema, una profunda fascinación por la delincuencia, comportamientos de odio y radicalización, un creciente fenómeno de obsesión por la violencia y sociedades polarizadas.
Los algoritmos invisibles impulsados por la dopamina están provocando conductas adictivas, alterando el estado de ánimo y las actitudes, lo cual impacta significativamente la salud mental, la inseguridad, la autoestima, la autolesión y las emociones negativas. Además, la exposición excesiva a dispositivos digitales, en particular el tiempo frente a pantallas, está perjudicando el desarrollo infantil temprano (físico, mental y emocional). También está restringiendo el desarrollo cognitivo, causando trastornos del aprendizaje que afectan las oportunidades futuras y la calidad de vida de las personas.
Este taller temático busca examinar críticamente los crecientes desafíos y su profundo impacto en las mentes jóvenes y vulnerables, los valores éticos y la seguridad digital. La sesión también destacará iniciativas globales innovadoras que impulsan un mayor deber de cuidado y prácticas de protección para abordar estos riesgos.
La estructura del debate fomentará intercambios significativos entre los participantes, lo que permitirá compartir y formular recomendaciones colaborativas e innovadoras para combatir la creciente manipulación impulsada por la IA y las amenazas digitales. También presentaremos el nuevo borrador de la "Guía del IEEE para la Participación Segura de los Niños en Redes Sociales y Plataformas de Videojuegos" e investigaciones recientes que destacan la correlación entre la autolesión y la participación en redes sociales.
La sesión reunirá a actores clave, incluyendo representantes de gobiernos, la sociedad civil, agencias de la ONU y defensores de la juventud, para compartir experiencias, perspectivas y recomendaciones. A través de un diálogo interactivo y estimulante, buscamos reflexionar colectivamente sobre la formulación de soluciones con visión de futuro que garanticen un entorno digital más seguro y saludable para las generaciones futuras.
Esperamos tener un debate enriquecedor y un compromiso compartido para salvaguardar la integridad digital de la humanidad.









-
C3. Acceso a la información y al conocimiento
-
C4. Creación de capacidades
-
C9. Medios de comunicación
-
C10. Dimensiones éticas de la sociedad de la información
-
C11. Cooperación internacional y regional
C3: Acceso a la información y al conocimiento – Promueve la alfabetización digital y el pensamiento crítico, empoderando a las personas para acceder y evaluar la información de manera responsable.
C4: Desarrollo de capacidades: Contribuye a desarrollar habilidades para reconocer y contrarrestar amenazas digitales, como deepfakes y desinformación.
C9: Medios de comunicación: La desinformación y el discurso de odio apoyan directamente las prácticas éticas de los medios de comunicación y el periodismo responsable en la era digital.
C10: Dimensiones éticas de la sociedad de la información : abordar el engaño generado por la IA se alinea con la promoción de estándares éticos en el uso de tecnologías emergentes.
C11: Cooperación internacional y regional – Fomentar la colaboración entre sectores para combatir las amenazas digitales a nivel mundial.
-
Objetivo 4: Garantizar una educación inclusiva, equitativa y de calidad y promover oportunidades de aprendizaje durante toda la vida para todos
-
Objetivo 9: Construir infraestructuras resilientes, promover la industrialización inclusiva y sostenible y fomentar la innovación
-
Objetivo 16: Promover sociedades pacíficas e inclusivas para el desarrollo sostenible, facilitar el acceso a la justicia para todos y crear instituciones eficaces, responsables e inclusivas a todos los niveles
-
Objetivo 17: Fortalecer los medios de ejecución y revitalizar la alianza mundial para el desarrollo sostenible
ODS 4: Educación de calidad: al promover la alfabetización mediática y digital, nuestra sesión empodera a las personas para evaluar la información, una habilidad clave del siglo XXI.
ODS 9: Industria, innovación e infraestructura – Abordar el uso ético de la IA y los deepfakes contribuye a construir una infraestructura digital resiliente y a fomentar la innovación responsable.
ODS 16: Paz, justicia e instituciones sólidas – Combatir la desinformación y el discurso de odio apoya instituciones transparentes, combate la corrupción y fortalece la confianza pública.
ODS 17: Alianzas para lograr los objetivos – Fomentar la colaboración intersectorial (entre educadores, tecnólogos, encargados de la formulación de políticas y la sociedad civil) para construir un ecosistema digital más seguro.