Ligne d'action C10 du SMSI : L'avenir des dimensions éthiques de la société de l'information : impact de l'intelligence artificielle
UNESCO
Session 179
Au milieu des promesses séduisantes de la technologie numérique, nous constatons une augmentation des inégalités, de la surveillance et de la discrimination, souvent alimentées par les systèmes d’intelligence artificielle (IA). En 2024, où environ 3 milliards de personnes voteront, les capacités croissantes et l'adoption de l'IA générative et des technologies émergentes associées soulignent la nécessité d'un débat sociétal sur l'impact des systèmes d'IA et la nécessité de mécanismes de gouvernance de l'IA robustes. . Cette session portera sur les implications éthiques de l'IA sur la société de l'information dans son ensemble et proposera des solutions concrètes pour relever les défis actuels posés par l'intégration constante de l'IA à toutes les couches de la société.
L'UNESCO travaille depuis plusieurs décennies sur les considérations éthiques et de gouvernance de la science et de la technologie. Il a favorisé une analyse rigoureuse et un débat multidisciplinaire et inclusif concernant le développement et l’application des technologies émergentes. Sa Commission mondiale d'éthique des connaissances scientifiques et des technologies (COMEST) et son Comité international de bioéthique (CIB) ont publié des rapports majeurs sur bon nombre de ces questions, notamment sur la neurotechnologie, la robotique et l'éthique de l'ingénierie climatique. Le travail multipartite a abouti à l'adoption de la Recommandation sur l'éthique de l'IA en 2021 par 193 États membres, définissant l'agenda éthique mondial sur la manière dont l'IA sera développée et utilisée, soulignant le mandat éthique et l'engagement de l'UNESCO à guider le progrès technologique vers un un avenir marqué par l’équité et l’inclusion. Cette norme mondiale pionnière exige que les systèmes d’IA et leurs développeurs adhèrent aux principes d’éthique, de droits de l’homme, de dignité, d’équité et de durabilité. La Recommandation est désormais mise en œuvre dans plus de 50 pays au moyen d'outils pratiques, notamment la méthodologie d'évaluation de l'état de préparation et l'évaluation de l'impact éthique, avec la participation de plusieurs parties prenantes comme aspect intégral et transformateur de l'ensemble du processus de mise en œuvre.
L’IA joue un rôle essentiel dans la société de l’information. Les experts estiment que jusqu’à 90 % du contenu en ligne pourrait être généré de manière synthétique d’ici 2026, selon un rapport d’Europol. Des articles d’actualité aux recommandations personnalisées, des publications sur les réseaux sociaux aux images et vidéos générées, l’IA n’est plus seulement un outil d’assistance, mais de plus en plus un créateur de contenu à part entière. L’essor du contenu généré par l’IA a également donné lieu à des discussions sur des questions éthiques et sur la nécessité de lignes directrices. Le contenu basé sur l’IA est susceptible de diffuser de la désinformation, de violer les droits d’auteur et d’utiliser à mauvais escient les informations personnelles. Il est donc important que des politiques et des réglementations soient élaborées pour atténuer ces risques.
En ce qui concerne l’avenir, la vision du SMSI au-delà de 2015, à l’horizon 2025, est d’établir une « société de l’information centrée sur les personnes, inclusive et orientée vers le développement » pour exploiter le potentiel des technologies de l’information et de la communication au service du développement durable. Le travail de l'UNESCO sur l'éthique de l'IA est étroitement aligné sur les objectifs et le processus du SMSI. Dans le cadre de son rôle de facilitateur de la ligne d'action C10 (Dimensions éthiques de la société de l'information), l'UNESCO promeut activement la coopération pour assurer le développement de valeurs et de principes universellement reconnus afin de promouvoir des sociétés du savoir inclusives. Cette approche devrait englober la conception, le développement, le déploiement et l’acquisition de systèmes d’IA d’une manière mutuellement solidaire, inclusive et holistique.
En référence aux développements récents, ce panel se concentrera sur l'impact de l'IA sur la société de l'information et discutera des stratégies visant à pérenniser une approche éthique de la gouvernance des technologies de l'IA par tous les acteurs.
Directeur exécutif de Globethics, organisation internationale dont le siège social est à Genève, en Suisse, qui œuvre pour un leadership éthique à travers l'enseignement supérieur et l'engagement mondial. Le professeur Fadi Daou est lauréat du prix Elevate 2020 pour les penseurs et acteurs du changement mondiaux. Daou est conseiller politique et professeur en géopolitique des religions, développement inclusif et paix. Après avoir dirigé des projets pionniers pour lutter contre l'extrémisme en ligne, il dirige désormais l'engagement de Globethics dans l'éthique de l'IA et des technologies émergentes, avec la récente publication : Inclusive AI for a better future.
https://www.linkedin.com/in/fadidaou/
https://twitter.com/fdaoulb
.jpg?maxwidth=250)
Amanda est avocate et politologue avec une expérience en droit et technologie, en politiques publiques et en recherche sociotechnique en IA. Sa carrière vise à combler le fossé entre les technologies émergentes, l’état de droit et la démocratie. Ses principaux sujets de recherche portent sur les politiques et réglementations visant à lutter contre la désinformation, la maîtrise du numérique et de l'information, la responsabilité et la transparence de l'IA, l'IA responsable dans le secteur public et les défis actuels en matière d'éthique dans l'industrie de l'IA.
Le Dr Ricardo Baptista Leite est un médecin luso-canadien formé aux maladies infectieuses et possédant une vaste expérience de la santé mondiale, des systèmes de santé et de l'élaboration de politiques fondées sur la science. Avant d'occuper son poste actuel de PDG de « HealthAI – L'Agence mondiale pour une IA responsable en santé » à Genève, le Dr Ricardo a exercé quatre mandats en tant que député du Parlement portugais au sein des commissions de la santé et des affaires étrangères. Ricardo est conseiller municipal de Sintra et était auparavant maire adjoint de Cascais.
Il est le fondateur et président du « Réseau de parlementaires UNITE pour la santé mondiale », un réseau de décideurs politiques actuels et anciens de 110 pays. Avec plus de 15 ans d'expérience universitaire, il est président du conseil d'administration du Harvard-Charité Global Health Policy Lab, basé à Berlin, et président du Center for Global Health de l'école de gestion de l'information et de science des données de l'université NOVA à Lisbonne. Il a complété des études de troisième cycle à l’Université Johns Hopkins, à la Harvard Kennedy School of Government et à la Harvard Medical School. Auparavant, le Dr Baptista Leite a travaillé pendant plusieurs années comme médecin praticien au sein du service national de santé portugais, y compris un stage à l'Organisation mondiale de la santé.
Plus récemment, il a servi comme volontaire médical pendant plus d'un an pendant la pandémie de COVID dans l'hôpital de sa ville natale au Portugal et dans le cadre d'une mission humanitaire à l'hôpital régional de Lviv en Ukraine pendant le premier été après le début de la guerre.
Ashutosh est actuellement responsable de l'établissement de partenariats avec l'ONU et d'autres organisations internationales pour permettre une utilisation responsable de la technologie par le biais d'interventions politiques et programmatiques visant à faire progresser la réalisation des objectifs de développement durable et la croissance socio-économique, en favorisant les écosystèmes d'innovation, l'inclusion et la sûreté et la sécurité.
Jusqu'à récemment, il était directeur et responsable national des affaires générales et des politiques publiques pour l'Inde et l'Asie du Sud chez Microsoft. Dans son rôle, il a travaillé en étroite collaboration avec des publics clés du gouvernement, du monde universitaire, de l'industrie ainsi que des organismes multilatéraux pour aider à élaborer des politiques permettant d'approfondir l'utilisation de la technologie, de favoriser l'inclusion et la croissance numériques, ainsi que d'assurer l'innovation et la sécurité de l'écosystème numérique. .
Au cours d'une carrière de plus de 37 ans, Ashutosh a travaillé chez Mastercard, Wipro Ltd, Intel India, Shell India Pvt Ltd, NIIT et le National Dairy Development Board. Diplômé en gestion de l'institut de gestion rurale d'Anand Gujarat, Ashutosh possède une vaste expérience dans le développement des affaires, la gestion des canaux, la planification stratégique et les affaires d'entreprise, les relations gouvernementales et le plaidoyer politique.
Ashutosh est un conférencier régulier lors de forums nationaux et internationaux sur des sujets allant des affaires d'entreprise, des politiques publiques, de l'éducation, de la RSE, de l'innovation et de l'entrepreneuriat. Il a pris la parole lors d'événements organisés par la Banque mondiale, l'OMC, l'UNICEF, l'UNESCO ainsi que par des institutions universitaires nationales et internationales.
Ashutosh est passionné par la défense de l'utilisation de la technologie pour le développement socio-économique et l'amélioration des vies grâce à l'éducation, l'innovation et l'entrepreneuriat.
Impliqué dans le mentorat de startups, le coaching d'étudiants et de cadres, Ashutosh est également un coach exécutif et d'entreprise certifié NS-NLP de niveau 2.
Pendant son temps libre, Ashutosh aime lire, écouter de la musique et voyager.
Mariagrazia Squicciarini est chef du bureau exécutif et directrice par intérim du Secteur des sciences sociales et humaines (SHS) de l'Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO).
À l'UNESCO, Mariagrazia supervise, coordonne, oriente et aide à faire progresser les travaux politiques liés à la transformation sociale, y compris l'éthique de la science et de la technologie – en particulier de l'intelligence artificielle ; la jeunesse; sport et antidopage ; inclusion, antiracisme et genre.
Dans le passé, elle a dirigé et contribué à des analyses pertinentes sur les politiques liées aux déterminants changeants de la croissance et de la productivité ; l'économie des droits de propriété intellectuelle (DPI) ; capital basé sur la connaissance; chaînes de valeur mondiales; la transformation numérique et l’IA ; dynamique de l'emploi et des compétences ; et la fracture numérique entre les sexes.
Mariagrazia est titulaire d'un doctorat. en économie de l'Université d'Essex (Royaume-Uni). Avant de rejoindre l'UNESCO, Mariagrazia a travaillé pendant plus de dix ans à la Direction de la science, de la technologie et de l'innovation de l'OCDE en tant qu'économiste principale – chef d'unité. Avant de rejoindre l'OCDE, elle a occupé plusieurs postes, notamment au Centre de recherche technique VTT de Finlande (FI), à l'Université d'Essex (Royaume-Uni) et au Centre commun de recherche de la Commission européenne (IPTS, ES).
Elle a publié de nombreux articles et a agi en tant que réviseure pour des revues internationales à comité de lecture et des gouvernements.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C2. L'infrastructure de l'information et de la communication
-
C4. Le renforcement des capacités
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
La session est étroitement liée aux lignes d'action du Sommet mondial sur la société de l'information (SMSI), en particulier la ligne d'action C10 : Dimensions éthiques de la société de l'information :
Aborder les implications éthiques de l'IA : la session se concentre sur les implications éthiques de l'IA et la nécessité de mécanismes de gouvernance robustes pour l'IA. Cela correspond à l'objectif de la ligne d'action C10 de promouvoir des valeurs et des principes universellement reconnus pour des sociétés du savoir inclusives.
Mise en œuvre de la Recommandation sur l'éthique de l'IA : La session discute de la mise en œuvre de la Recommandation de l'UNESCO sur l'éthique de l'IA dans plus de 50 pays. Cette recommandation, qui exige le respect des principes d'éthique, de droits de l'homme, de dignité, d'équité et de durabilité, est une norme mondiale pionnière qui s'aligne sur la vision du SMSI d'une société de l'information centrée sur les personnes, inclusive et orientée vers le développement.
Promouvoir la participation multipartite : La séance souligne l'importance de la participation multipartite dans le processus de mise en œuvre de la Recommandation. Cette approche est conforme au processus du SMSI, qui encourage la coopération et la collaboration entre toutes les parties prenantes.
Façonner les dimensions éthiques de l'IA : La session vise à façonner les dimensions éthiques de l'IA dans le cadre de la société de l'information, conformément au processus du SMSI et à sa vision pour 2025. Cela implique de rendre opérationnelle la nécessité de l'éthique à chaque étape du système d'IA. cycle de vie pour garantir une approche responsable et fondée sur les droits de l’homme en matière de gouvernance de l’IA.
-
Objectif 1: Éliminer la pauvreté sous toutes ses formes et partout dans le monde
-
Objectif 2: Éliminer la faim, assurer la sécurité alimentaire, améliorer la nutrition et promouvoir l’agriculture durable
-
Objectif 3: Permettre à tous de vivre en bonne santé et promouvoir le bien-être de tous à tout âge
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 5: Parvenir à l’égalité entre les sexes et autonomiser toutes les femmes et les filles
-
Objectif 6: Garantir l’accès de tous à l’eau, l’assainissement et assurer une gestion durable des ressources en eau
-
Objectif 7: Garantir l’accès de tous à des services énergétiques fiables, durables, modernes et abordables
-
Objectif 8: Promouvoir croissance économique soutenue, plein emploi productif et travail décent pour tous
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 11: Faire en sorte que les villes et les établissements humains soient ouverts à tous, sûrs, résilients et durables
-
Objectif 12: Établir des modes de consommation et de production durables
-
Objectif 13: Prendre d’urgence des mesures pour lutter contre les changements climatiques et leurs répercussions
-
Objectif 14: Conserver et exploiter de manière durable les océans, les mers et les ressources marines
-
Objectif 15: Préserver et restaurer les écosystèmes terrestres, en veillant à les exploiter de façon durable
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
La Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle met fortement l'accent sur la nécessité de combler les lacunes découlant des technologies de l'IA, ainsi que sur leurs risques négatifs. Il stipule que les valeurs et principes détaillés dans la recommandation doivent être respectés par tous les acteurs de l’IA et déployés conformément aux objectifs de durabilité convenus au niveau international, tels que les ODD. L’objectif de la recommandation est d’obtenir des résultats inclusifs et éthiques et de placer les personnes au centre du développement et de la mise en œuvre de l’IA.
La mise en œuvre de la Recommandation contribue directement à divers ODD en créant un environnement propice à une approche éthique de l'ensemble du cycle de vie de l'IA, c'est-à-dire de la recherche à la conception et au développement, en passant par le déploiement et l'utilisation, y compris la maintenance, l'exploitation, le commerce, le financement, le suivi et l'évaluation. , validation, fin d'utilisation, démontage et résiliation. Cela contribuera également à renforcer les capacités institutionnelles des pays et à favoriser les partenariats. Plus précisément, la mise en œuvre de la Recommandation contribue à de nombreux domaines d'intervention des ODD : améliorer l'éducation et le partage des connaissances, à la fois par le biais de collaborations Nord-Sud et de coopération Sud-Sud (ODD 4.4 et 4.7) ; faire progresser l’égalité en général, notamment en garantissant l’inclusion et la diversité dans les équipes de développeurs d’IA (ODD 10.3) ; lutter contre l'inégalité entre les sexes, avec des informations précises et les actions positives en matière de genre nécessaires pour réduire l'écart entre les sexes lié aux technologies numériques (5.b) ; veiller à ce que tous les pays disposent de l’infrastructure nécessaire pour bénéficier de l’IA et la développer localement (ODD 9.b et 9.c) ; veiller à ce que l'IA ne nuise pas à l'environnement et contribue à la transition climatique, en tant que seul instrument international comportant un chapitre relatif à l'environnement (ODD 13.3) ; et renforcer les institutions (ODD 16.7), ainsi que 16.B Promouvoir et appliquer des lois et des politiques non discriminatoires pour le développement durable.
UNESCO Recommendation on the Ethics of AI: https://unesdoc.unesco.org/ark:/48223/pf0000381137