Lignes d'action C10 du SMSI : Éthique : la recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle : placer l'éthique au cœur des systèmes d'IA
Secteur des sciences sociales et humaines de l'UNESCO
Session 237
L'intelligence artificielle (IA) continue d'être un domaine brûlant de développement technologique rapide et d'innovation. Outre les avantages évidents, les technologies d'IA comportent de grands risques. Pour prendre un exemple récent, au cours des derniers mois, une gamme de nouvelles applications d'IA puissantes a été mise à la disposition des utilisateurs non professionnels du monde entier, y compris de grands modèles de langage tels que ChatGPT et des outils de génération d'images tels que DALL·E 2 et Mi-journée. La disponibilité soudaine de ces outils a déclenché une frénésie dans les médias et les médias sociaux, avec un enthousiasme public généralisé pour les nouvelles possibilités qui ont été ouvertes, mais a également soulevé des préoccupations éthiques et juridiques profondes et croissantes concernant un large éventail de questions, y compris la potentiel de désinformation à grande échelle, reproduction de stéréotypes et de préjugés nuisibles dans les textes et les images générés, plagiat, paternité et travail créatif humain, nouveaux vecteurs de cyberattaques, ainsi que des questions sur l'utilisation légitime et légale des données et des œuvres d'art en ligne par des entreprises produisant des modèles d'IA. Ces outils contribuent également aux défis immédiats et directs - mais aussi aux opportunités potentielles - pour les industries créatives et l'éducation, qui sont obligées de s'adapter rapidement en réponse. Pendant ce temps, des développements et des déploiements moins médiatisés mais tout aussi conséquents de l'IA se poursuivent dans tous les secteurs.
À bien des égards, ces outils de premier plan ne sont que les derniers exemples de la raison pour laquelle les approches éthiques et responsables de l'IA sont si essentielles au déploiement responsable de systèmes à fort impact susceptibles de remodeler notre travail et notre vie quotidienne au cours des années et des décennies à venir. . Souvent développées dans la Silicon Valley et présentées comme des versions « expérimentales » - bien que destinées à un public mondial -, il semble qu'il y ait eu peu d'évaluation efficace par les entreprises des impacts éthiques ou d'engagement multipartite avec les utilisateurs finaux potentiellement touchés. Ces cas récents servent à souligner l'importance vitale de la Recommandation de l'UNESCO sur l'éthique de l'IA et la nécessité pour les États membres de commencer à mettre en œuvre ses valeurs - en passant des principes à la pratique.
La recommandation a été adoptée en 2021 et sert de cadre complet et exploitable pour le développement et l'utilisation éthiques de l'IA qui englobe tout l'éventail des droits de l'homme. Il est destiné à fournir la base pour identifier, réfléchir et commencer à aborder les types de préoccupations éthiques mentionnées ci-dessus, ainsi que de nombreuses autres. Alors qu'elle progresse maintenant vers la phase d'opérationnalisation, l'UNESCO s'emploie à développer et à piloter des outils pour aider les États membres à mettre en œuvre les valeurs et les principes contenus dans la Recommandation, y compris une méthodologie d'évaluation de l'état de préparation et une évaluation de l'impact éthique.
En référence aux développements récents, ce panel se concentre sur la nécessité d'intégrer l'éthique à chaque étape du cycle de vie du système d'IA et d'utiliser la Recommandation de l'UNESCO sur l'éthique de l'IA afin d'assurer une approche responsable et fondée sur les droits de l'homme de la gouvernance éthique de l'IA englobant conception, développement, déploiement et approvisionnement. d'une manière solidaire, inclusive et holistique.
Moira est vice-présidente de l'IFIP (Fédération internationale pour le traitement de l'information) et présidente de l'IFIP IP3. Elle a reçu le IFIP Silver Core en 2016 pour le service. Elle croit que le comportement éthique et le leadership sont la clé de voûte de toute profession et travaille à développer la compréhension de l'éthique et la valeur du code de déontologie de l'IFIP.
Moira est une conférencière accomplie et a présenté des conférences à travers le monde. Elle a notamment participé et présenté aux forums du SMSI depuis 2012. Moira est consultante indépendante. Son travail actuel est axé sur la conception pédagogique et le développement de cours en ligne. Moira est membre professionnel et membre de l'IITPSA (Institute of IT Professionals South Africa). Elle a reçu le prix IITPSA Distinguished Service in ICT Award en 2009. Elle est également membre de l'ACM et de l'IODSA.
Moira siège au Conseil du Musée national de Bloemfontein, en Afrique du Sud.
Gilles est un consultant français en stratégie dans les domaines de la data, de l'IA et du digital. Il est instructeur des cours de cyberéthique et de leadership responsable de Globethics.net et membre du groupe d'experts en éthique.
Irakli a dirigé le programme de sciences sociales et humaines du Bureau régional de l'UNESCO pour la science en Asie et dans le Pacifique à Jakarta (2014-2020), où il s'est engagé directement avec les gouvernements et la société civile de la région pour construire des sociétés inclusives et favoriser un développement humain équitable, basé sur les cadres universels des droits de l'homme. Actuellement au siège de l'UNESCO à Paris, Irakli se concentre sur la promotion d'une réflexion éthique mondiale sur des technologies émergentes et convergentes telles que l'intelligence artificielle, l'IoT, la neurotechnologie et l'ingénierie climatique. Il coordonne également la mise en œuvre d'instruments normatifs mondiaux, tels que la Déclaration universelle sur la bioéthique et les droits de l'homme (2005) et la Recommandation sur l'éthique de l'intelligence artificielle (2021), en concevant et en mettant en œuvre des programmes de renforcement des capacités à multiples facettes dans le monde entier.
Jayne Stancavage est vice-présidente des politiques et des affaires réglementaires d'Intel Corporation. Elle dirige une équipe chargée de développer et de mettre en œuvre une stratégie visant à faire progresser les positions réglementaires et techniques d'Intel à l'échelle mondiale dans des domaines tels que l'intelligence artificielle et les données, les véhicules autonomes, la connectivité (5G, 6G, Wi-Fi, etc.), la cybersécurité, la propriété intellectuelle, la fabrication et la durabilité, les normes et la chaîne d'approvisionnement. Jayne a rejoint Intel en 2000, se concentrant sur la politique de communication. En plus de son travail politique, elle a également travaillé au sein des unités commerciales d'Intel où elle a coordonné les efforts internes d'Intel pour intégrer les capacités Wi-Fi dans les plates-formes d'ordinateurs portables.
Jayne a plus d'une décennie d'expérience au sein de l'UIT-R, notamment en tant que présidente de travaux au niveau des sous-groupes de travail et déléguée à plusieurs conférences mondiales des radiocommunications. Elle préside également le groupe du comité consultatif WRC-19 de la FCC des États-Unis pour les services terrestres. En outre, Jayne siège actuellement au conseil d'administration de l'US Telecom Training Institute, de l'Open RAN Policy Coalition et du Partnership for Automated Vehicle Education (PAVE) ; elle fait également partie de l'équipe de direction du groupe Spectrum des fournisseurs mondiaux de services mobiles (GSA) et du conseil des leaders de l'industrie de la Consumer Technology Association (CTA). Elle a déjà rempli plusieurs mandats au sein du conseil d'administration de Wi-Fi Alliance.
Jayne est titulaire d'un baccalauréat et d'une maîtrise en sciences politiques du Massachusetts Institute of Technology.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C3. L'accès à l'information et au savoir
-
C4. Le renforcement des capacités
-
C6. Créer un environnement propice
-
C7. Les applications TIC et leur apport dans tous les domaines — Administration électronique
-
C7. Les applications TIC et leur apport dans tous les domaines — Cyberécologie
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
Cette session met au centre de la ligne d'action c10 l'éthique, car elle vise à discuter de la nécessité de gouverner l'IA avec une boussole éthique à l'esprit. En outre, en raison de la nature globale des technologies d'IA, la session est également directement liée à d'autres lignes d'action, telles que le renforcement des capacités, le développement et la gouvernance, l'environnement propice et le développement international et régional.
-
Objectif 1: Éliminer la pauvreté sous toutes ses formes et partout dans le monde
-
Objectif 3: Permettre à tous de vivre en bonne santé et promouvoir le bien-être de tous à tout âge
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 5: Parvenir à l’égalité entre les sexes et autonomiser toutes les femmes et les filles
-
Objectif 7: Garantir l’accès de tous à des services énergétiques fiables, durables, modernes et abordables
-
Objectif 8: Promouvoir croissance économique soutenue, plein emploi productif et travail décent pour tous
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 13: Prendre d’urgence des mesures pour lutter contre les changements climatiques et leurs répercussions
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
la gouvernance éthique de l'intelligence artificielle garantirait que la technologie utilisée dans un large éventail de domaines soit bénéfique pour tous, inclusive et durable. Ainsi, l'IA éthique recoupe de nombreux ODD, comme par exemple pour réduire la pauvreté, il est important de veiller à ce que toutes les personnes dans le monde puissent profiter des avantages de la technologie et l'utiliser pour des opportunités de travail, des opportunités d'éducation, etc. .