Démystifier le monde de l'IA : rester intelligent à l'ère de la désinformation, de la haine et du deepfake
Groupe eWorldwide
Session 278
Outils, vérité et tactiques pour l'ère numérique
À l’ère où l’environnement géopolitique est à la fois imprévisible et instable, il est impératif de comprendre comment les technologies basées sur l’IA et les algorithmes contraires à l’éthique remodèlent les interactions et les récits en ligne par le biais de la désinformation, de la désinformation, des discours de haine et du contenu deepfake, ce qui constitue une menace importante pour la sécurité nationale, les individus, la société et le gouvernement.
Les enfants et les jeunes sont de plus en plus exposés et vulnérables aux contenus numériques manipulateurs, aux influences contraires à l'éthique des réseaux sociaux et aux environnements de jeu toxiques, ce qui façonne leurs comportements, leurs attitudes, leurs préjugés et leur développement moral. En conséquence, on observe une culture croissante de misogynie, d'exploitation sexuelle et de violence sexiste facilitée par la technologie (VSFT), associée à une addiction à la violence extrême, une profonde fascination pour la criminalité, des comportements haineux et la radicalisation, un phénomène croissant d'obsession de la violence et une polarisation des sociétés.
Les algorithmes invisibles, pilotés par la dopamine, engendrent des comportements addictifs, altèrent l'humeur et les attitudes, ce qui a un impact significatif sur la santé mentale, le doute de soi, l'estime de soi, l'automutilation et les émotions négatives. De plus, une exposition excessive aux appareils numériques, en particulier le temps passé devant un écran, nuit au développement (physique, mental et émotionnel) de la petite enfance. Elle restreint également le développement cognitif, provoquant des troubles d'apprentissage qui impactent les perspectives d'avenir et la qualité de vie des personnes innocentes.
Cet atelier thématique vise à examiner de manière critique les défis croissants et leur impact profond sur les jeunes esprits vulnérables, les valeurs éthiques et la sécurité numérique. La session mettra également en lumière des initiatives mondiales innovantes qui favorisent un devoir de vigilance et des pratiques de protection accrus pour faire face à ces risques.
La structure de la discussion favorisera des échanges constructifs entre les participants, permettant ainsi le partage et la formulation de recommandations collaboratives et innovantes pour lutter contre la manipulation et les menaces numériques croissantes liées à l'IA. Nous présenterons également le nouveau projet de « Guideline for Children's Safe and Secure Engagement on Social Media and Gaming Platforms » de l'IEEE, ainsi que des recherches récentes soulignant la corrélation entre automutilation et engagement sur les réseaux sociaux.
Cette session réunira des acteurs clés, notamment des représentants de gouvernements, de la société civile, d'agences des Nations Unies et de jeunes défenseurs des droits de la jeunesse, afin de partager leurs expériences, leurs points de vue et leurs recommandations. À travers un dialogue interactif et stimulant, nous souhaitons réfléchir collectivement à l'élaboration de solutions d'avenir qui garantissent un paysage numérique plus sûr, sécurisé et sain pour les générations futures.
Nous nous réjouissons d’une discussion riche et d’un engagement commun en faveur de la sauvegarde de l’intégrité numérique pour l’humanité.
-
C3. L'accès à l'information et au savoir
-
C4. Le renforcement des capacités
-
C9. Médias
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
C3 : Accès à l’information et au savoir – Favorise la littératie numérique et la pensée critique, permettant aux gens d’accéder à l’information et de l’évaluer de manière responsable.
C4 : Renforcement des capacités – Il contribue à développer les compétences nécessaires pour reconnaître et contrer les menaces numériques, telles que les deepfakes et la désinformation.
C9 : Médias – La désinformation et les discours de haine soutiennent directement les pratiques médiatiques éthiques et le journalisme responsable à l’ère numérique.
C10 : Dimensions éthiques de la société de l’information – La lutte contre la tromperie générée par l’IA s’inscrit dans la promotion de normes éthiques dans l’utilisation des technologies émergentes.
C11 : Coopération internationale et régionale – Favoriser la collaboration entre les secteurs pour lutter contre les menaces numériques à l’échelle mondiale.
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
ODD 4 : Éducation de qualité – En promouvant l’éducation aux médias et au numérique, notre session permet aux individus d’évaluer l’information, une compétence clé du 21e siècle
ODD 9 : Industrie, innovation et infrastructure – Aborder l’utilisation éthique de l’IA et des deepfakes contribue à construire une infrastructure numérique résiliente et à favoriser une innovation responsable.
ODD 16 : Paix, justice et institutions efficaces – La lutte contre la désinformation et les discours de haine favorise des institutions transparentes, combat la corruption et renforce la confiance du public.
ODD 17 : Partenariats pour la réalisation des objectifs – Encourager la collaboration intersectorielle – entre les éducateurs, les technologues, les décideurs politiques et la société civile – pour construire un écosystème numérique plus sûr.
