Ligne d'action C10 du SMSI : Interaction de haut niveau sur la mise en œuvre de l'IA éthique à l'échelle mondiale
UNESCO
Session 425
L'intelligence artificielle (IA) est une technologie de pointe qui a de profondes implications pour les êtres humains, les cultures, les sociétés et l'environnement. L'IA a le potentiel d'être notre alliée dans la lutte pour un avenir plus équitable, juste et durable. Il est remarquable que l'IA ait généré certaines des premières alertes concernant l'épidémie de COVID-19, avant même qu'elle ne soit confirmée, en analysant régulièrement des centaines ou des milliers de sources de données gouvernementales et médiatiques dans plusieurs langues. Cette capacité d'analyse a également permis d'accélérer la découverte des vaccins, et même de comprendre les structures protéiques. Les algorithmes d'auto-apprentissage et les machines intelligentes jouent un rôle de plus en plus important dans nos efforts pour nous remettre de la crise actuelle. Les plateformes et les infrastructures numériques se sont élargies pour faire fonctionner nos économies, nos écoles et nos sociétés.
Nous devons toujours garder à l'esprit que les technologies de l'IA comportent également des risques et des défis importants, notamment en termes d'approfondissement des fractures existantes, d'aggravation des disparités entre les sexes et de violation de la dignité humaine et des droits de l'homme. C'est pourquoi de nombreuses initiatives internationales ont vu le jour pour garantir que ces technologies aident à surmonter la crise actuelle et à atténuer les risques futurs, tout en s'attaquant aux inconvénients. Ainsi, l'Union européenne négocie son règlement sur l'IA et l'UNESCO a adopté la première recommandation mondiale sur l'éthique de l'IA.
Divers moyens sont mis au point pour s'assurer que nos valeurs et principes communs se concrétisent dans la pratique. L'UNESCO développe actuellement deux outils spécifiques à ces fins : l'évaluation de l'impact éthique et la méthodologie d'évaluation de l'état de préparation. Ces mécanismes sont envisagés pour aider les pays et les entreprises à évaluer les avantages et les risques des systèmes d'IA, à mettre en place des mesures de prévention, d'atténuation et de surveillance des risques, et à déployer divers mécanismes de recours pour ceux qui ont été lésés par ces nouvelles technologies.
Cette session vise à faire le point sur où nous en sommes et comment aller de l'avant avec les outils dont nous disposons et qui sont sur le point d'être développés. Les conférenciers partageront leurs points de vue sur ce à quoi ces outils devraient ressembler et englober pour s'assurer que les développements des technologies de l'IA ne créent pas de nouvelles formes d'exclusion et d'inégalités et que les pays ont les capacités d'exploiter et de répartir équitablement les avantages au niveau mondial.

Clare Stark a 20 ans d'expérience dans les relations internationales et la planification stratégique. En tant qu'agente de coordination des Nations Unies dans le secteur de la priorité Afrique et des relations extérieures à l'UNESCO, elle est chargée d'améliorer la coordination à l'échelle du système des Nations Unies sur les technologies émergentes, y compris l'intelligence artificielle, la biotechnologie et la neurotechnologie, et de développer des partenariats stratégiques avec les entités des Nations Unies et les secteurs privé et public. Elle copréside le Comité de haut niveau sur les programmes du Groupe interinstitutions sur l'IA, réunissant 40 entités des Nations Unies pour renforcer le développement et le déploiement éthiques de l'IA afin de soutenir les objectifs de développement durable de 2030. Avant d'occuper ce poste, elle a occupé le poste de responsable de la planification stratégique au Bureau de la planification stratégique de l'UNESCO, où elle a soutenu l'élaboration de la stratégie à moyen terme et du programme et budget de l'Organisation, et a dirigé les questions liées à la réforme des Nations Unies, au développement durable et à la coopération multilatérale. . Elle a coordonné et contribué à un certain nombre de publications de l'UNESCO. Elle est titulaire d'une maîtrise en politique environnementale internationale du Middlebury Institute of International Studies à Monterey, en Californie, et d'une licence en sciences politiques du College of Charleston. Elle est bilingue français et anglais.

Gabriela Ramos est la Sous-Directrice générale pour les sciences sociales et humaines de l'UNESCO, où elle supervise les contributions de l'institution à la construction de sociétés inclusives. Son mandat comprend la lutte contre les inégalités économiques de revenus et d'opportunités, et la promotion de l'inclusion sociale et de l'égalité des sexes. Elle supervise également le programme de soutien à la jeunesse, la promotion des valeurs par le sport, la lutte contre le racisme et la discrimination, et l'éthique des sciences, y compris des neurotechnologies et de l'internet des objets. Elle a supervisé l'élaboration et l'adoption du premier instrument mondial de promotion de l'éthique de l'intelligence artificielle, adopté par acclamation en 2021 par la Conférence générale de l'UNESCO. Elle a également lancé le Forum mondial contre le racisme, pour catalyser le soutien politique que les pays membres ont apporté à cette cause. Sur le genre, elle a fait avancer plusieurs initiatives, notamment pour lutter contre les stéréotypes et préjugés sexistes, y compris dans les nouvelles technologies.
Auparavant, Gabriela Ramos a travaillé en tant que directrice de cabinet et sherpa pour le G20/G7APEC à l'OCDE, contribuant à accroître l'impact mondial de l'OCDE et à diriger des initiatives clés telles que « Croissance inclusive », « Nouvelles approches des défis économiques », « Changement climatique et croissance » , la stratégie genre et le travail sur le bien-être et les enfants. Au G20, elle a contribué à la réforme internationale des systèmes fiscaux ; l'adoption du quota de genre (pour réduire l'écart de main-d'œuvre) et la mise en place du W20 ; et l'adoption des principes de l'intelligence artificielle, entre autres. Elle a également supervisé les relations mondiales et le processus d'élargissement de l'adhésion à l'OCDE.

John C. Havens est responsable de la pratique de durabilité de l'IEEE Standards Association, où il dirige la stratégie, la coordination et la vision du programme IEEE Planet Positive 2030. Il est également directeur exécutif de l'IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems qui a eu deux résultats principaux - la création et l'itération d'un ensemble de travaux connu sous le nom de Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Les systèmes et la recommandation d'idées pour les projets de normes se sont concentrés sur la priorisation des considérations éthiques dans A/IS. Il existe actuellement treize groupes de travail sur les normes approuvés et quatre normes achevées dans la série IEEE P7000™. John était responsable de : l'idéation initiale, le cadrage et l'exécution pour rassembler plus de sept cents leaders d'opinion mondiaux pour créer un design aligné sur l'éthique ; a été président fondateur de l'IEEE 7000 et de l'IEEE 7010 et a aidé à lancer plus d'une douzaine d'autres groupes de travail sur les normes IEEE axés sur l'IA, l'éthique de l'IA, la gouvernance de l'IA et l'approvisionnement en IA ; et continue de travailler avec le personnel de l'IEEE Standards Association pour aider à concevoir, faire proliférer et normaliser les concepts de conception centrée sur l'humain, appliquée, éthique et axée sur les valeurs pour l'innovation responsable de toutes les technologies.
Auparavant, John était vice-président exécutif des médias sociaux au cabinet de relations publiques Porter Novelli, a dirigé le développement commercial chez BlogTalkRadio et a été un acteur professionnel pendant plus de 15 ans. John a écrit pour Mashable et The Guardian et est l'auteur des livres Heartificial Intelligence: Embracing Our Humanity To Maximize Machines and Hacking Happiness: Why Your Personal Data Counts and How Tracking it Can Change the World.
Pour plus d'informations, suivez John sur LinkedIn ou @johnchavens sur Twitter. John a actuellement plus de quatre-vingt-dix citations sur Research Gate et des dizaines d'articles pour des points de vente tels que The Guardian, Quartz, IEEE Spectrum et Mashable.

Caroline a travaillé à la pointe de la transformation des technologies numériques émergentes pendant plus de 25 ans, dirigeant la réponse stratégique des entreprises à la technologie et exécutant les changements organisationnels, les nouveaux développements de marché et les lancements de nouveaux modèles commerciaux.
Après avoir occupé des postes de direction chez Telefonica, Sodexo, O2 et Digital Catapult, Caroline a dirigé les R² Data Labs de Rolls-Royce pendant cinq ans, réinjectant 400 millions de livres sterling de valeur dans le groupe. Pendant la pandémie, elle a été la pionnière de l'Emergent Alliance, qui a réuni pour la première fois plus de 50 entreprises, particuliers, ONG et gouvernements afin de tirer parti de l'expertise, des données et des ressources pour aider la reprise sociétale.
Désormais à la tête de l'équipe fondatrice de R² Factory, Caroline est à la tête de la vision stratégique de l'entreprise consistant à créer « un espace sûr pour faire des choses difficiles » en combinant une expérience unique, des capacités de pointe, un leadership éclairé et de nouvelles méthodes de travail pour créer de nouvelles opportunités et de nouveaux modèles commerciaux. . Caroline est titulaire d'une maîtrise d'Oxford et d'un doctorat inachevé en littérature gothique moderne et sur la façon dont nous utilisons tous des monstres effrayants pour aider à contenir l'anxiété sociale.

David Leslie est directeur de la recherche sur l'éthique et l'innovation responsable à l'Institut Alan Turing. Avant de rejoindre le Turing, il a enseigné au Princeton's University Center for Human Values, où il a également participé à la collaboration de recherche 2017-2018 de l'UCHV avec le Princeton's Center for Information Technology Policy sur « Technology Ethics, Political Philosophy and Human Values: Ethical Dilemmas in AI Governance ». .” Avant d'enseigner à Princeton, David a occupé des postes universitaires au programme d'éthique, de politique et d'économie de Yale et au Comité des diplômes en études sociales de Harvard, où il a reçu plus d'une douzaine de prix d'enseignement, dont le prix Stanley Hoffman 2014 pour l'excellence dans l'enseignement. Il a également été boursier Mellon-Sawyer 2017-2018 en technologie et sciences humaines à l'Université de Boston et boursier 2018-2019 au Dalai Lama Center for Ethics and Transformative Values du MIT.
David a été membre élu du Bureau du Comité ad hoc sur l'intelligence artificielle (CAHAI) du Conseil de l'Europe. Il fait partie du comité de rédaction de la Harvard Data Science Review (HDSR) et est l'un des rédacteurs fondateurs de la revue Springer, AI and Ethics. Il est l'auteur des directives officielles du gouvernement britannique sur la conception et la mise en œuvre responsables des systèmes d'IA dans le secteur public, Comprendre l'éthique et la sécurité de l'intelligence artificielle (2019) et co-auteur principal de Expliquer les décisions prises avec l'IA (2020), un directives co-badgées sur l'explicabilité de l'IA publiées par le Bureau du Commissaire à l'information et l'Institut Alan Turing. Il est également chercheur principal d'un projet financé par l'UKRI appelé PATH-AI : Mapping an Intercultural Path to Privacy, Agency and Trust in Human-AI Ecosystems, qui est une collaboration de recherche avec RIKEN, l'un des instituts nationaux de recherche et de développement du Japon fondé en 1917. Plus récemment, il a reçu une série de subventions du Partenariat mondial sur l'IA, du Conseil de recherche en génie et en sciences physiques et du BEIS pour diriger un projet intitulé Advancing Data Justice Research and Practice, qui explore comment les discours actuels autour du problème de la justice des données, et plus généralement des droits numériques, peut être étendue de la prédominance des points de vue centrés sur l'Occident et du Nord à des perspectives non occidentales et interculturelles sensibles aux problèmes d'inégalité structurelle, de colonialité et d'héritage discriminatoire.
David était chercheur principal et co-auteur principal de l'examen éthique financé par NESTA sur l'apprentissage automatique dans les services sociaux pour enfants (2020). Ses autres publications récentes incluent les articles HDSR "Tackling COVID-19 through Responsible AI innovation: Five steps in the right direction" (2020) et "The arc of the data scientist universe" (2021) ainsi que Comprendre le biais dans les technologies de reconnaissance faciale (2020), un explicateur publié pour soutenir un article de journalisme d'investigation de la BBC qui a remporté le prix 2021 de la Royal Statistical Society pour l'excellence en journalisme d'investigation. David est également co-auteur de Mind the gap : comment combler l'écart de responsabilité en matière d'égalité et d'IA dans un monde automatisé (2020), le rapport final du groupe de travail sur l'égalité de l'Institut pour l'avenir du travail et auteur principal de "Est-ce que l'IA représentent l'augmentation des inégalités à l'ère des soins de santé COVID-19 » (2021) publié dans le British Medical Journal. Il est en outre l'auteur principal de Intelligence artificielle, droits de l'homme, démocratie et état de droit (2021), une introduction préparée pour soutenir l'étude de faisabilité du CAHAI et traduite en néerlandais et en français, et de Droits de l'homme, démocratie et état de droit du cadre d'assurance juridique pour les systèmes d'IA : une proposition. Dans ses écrits plus courts, David a exploré des sujets tels que la vie et l'œuvre d'Alan Turing, le fiasco Ofqual, l'histoire des systèmes de reconnaissance faciale et les fondements conceptuels de l'IA pour les médias populaires de la BBC à Nature.

Leader scientifique et scientifique en intelligence artificielle, Alessandra est directrice de l'IA et de la science des données chez Shutterstock. Alessandra a plus de 10 ans d'expérience dans la recherche et l'innovation acquise en travaillant dans des environnements académiques et commerciaux. Alessandra est passionnée par l'analyse avancée, l'apprentissage automatique et les modèles informatiques, avec pour objectif de transférer l'innovation de la recherche aux produits.
En tant que présidente mondiale de Women in AI (un do-tank à but non lucratif œuvrant pour une IA non sexiste qui profite à la société mondiale), Alessandra travaille avec une solide communauté de femmes pour favoriser la diversité, l'inclusion et l'égalité pour les femmes et les minorités tout en encourageant une approche éthique mondiale. en IA.
Dans son poste précédent, Alessandra était responsable de la recherche analytique chez Nokia Bell Labs, où elle dirigeait des équipes de recherche dans plusieurs sites et développait une stratégie réussie pour la division Data Analytics tout en conduisant des changements dans différentes activités, comme ses contributions au Nokia AI Ethics Advisory Board.

Mme Erica Simmons est une conférencière recherchée sur l'innovation, la transformation numérique, l'intelligence artificielle, la technologie STEM et l'avenir du travail. Elle a acquis une grande partie de son expérience au cours d'une carrière professionnelle réussie de 25 ans dans l'industrie de la technologie des logiciels d'entreprise. Elle est considérée comme une experte sur les défis de l'intégration de l'intelligence artificielle dans la région des Caraïbes, y compris la compréhension des défis infrastructurels, culturels, gouvernementaux et commerciaux liés à l'intégration des technologies transformationnelles des 4e et 5e révolutions industrielles.
Mme Simmons est actuellement directrice de l'activation des partenariats technologiques pour ServiceNow, un fournisseur de plate-forme technologique. Elle participe à plusieurs initiatives technologiques mondiales, notamment en tant que membre du groupe d'experts - Mise en œuvre de la recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle, membre de la campagne Planet Positive 2030 de l'Institut des ingénieurs électriciens et électroniciens (IEEE) et présidente de l'IEEE, Jamaïque. .
-
C10. Dimensions éthiques de la société de l'information
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 5: Parvenir à l’égalité entre les sexes et autonomiser toutes les femmes et les filles
-
Objectif 8: Promouvoir croissance économique soutenue, plein emploi productif et travail décent pour tous
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 12: Établir des modes de consommation et de production durables
-
Objectif 13: Prendre d’urgence des mesures pour lutter contre les changements climatiques et leurs répercussions
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser