La politique de la connaissance à l’ère de l’IA : responsabiliser l’action humaine par les normes, les droits de l’homme et le rôle des entreprises
Union internationale des télécommunications, Haut-Commissariat des Nations Unies aux droits de l’homme et Centre Carr-Ryan de la Harvard Kennedy School
Session 395
L’intelligence artificielle et les technologies fondées sur les données remodèlent non seulement les économies et les services publics, mais aussi la politique de la connaissance elle-même : ce qui peut être connu, qui contrôle cette connaissance et comment elle est utilisée pour façonner le comportement individuel et collectif.
La diffusion et la diffusion des connaissances sont de plus en plus assurées par des infrastructures numériques souvent gérées par le secteur privé. Cela déclenche un débat sur l’environnement de l’information et son lien avec les droits de l’homme. Dans ce contexte, les normes techniques jouent un rôle central mais souvent négligé. En façonnant les flux de données, les architectures système, l’interopérabilité, les cadres d’identité, les mécanismes de modération de contenu et les choix de conception algorithmique, les normes déterminent efficacement comment les connaissances sont produites, diffusées et soumises à des contraintes à grande échelle.
Les normes ne sont pas neutres : bien qu’elles soient généralement perçues comme des instruments purement techniques, elles fonctionnent de plus en plus comme des infrastructures de gouvernance, influençant le pouvoir sur le savoir et la prise de décision, avec de profondes implications pour l’action humaine et les droits de l’homme – tels que la liberté d’expression, l’accès à l’information, la vie privée mais aussi la liberté d’opinion et de pensée.
Ce panel explore comment l’IA et les normes techniques recoupent la politique du savoir, comment elles peuvent involontairement renforcer les asymétries de pouvoir, et comment les approches de la normalisation fondées sur les droits de l’homme peuvent aider à réaligner la conception technique sur les valeurs démocratiques et les droits de l’homme. Le secteur privé joue un rôle primordial à cet égard pour au moins deux raisons : premièrement, parce que les entreprises collaborent et élaborent des normes techniques dans le cadre d’organisations et de consortiums de normalisation ; et deuxièmement, parce que ces entreprises utilisent et s’adaptent également à ces normes techniques. En ce sens, il est utile de coordonner l’engagement des entreprises dans une approche des droits de l’homme, en se concentrant sur les Principes directeurs des Nations Unies, et aussi de comprendre comment les équipes des droits de l’homme et des normes technologiques dans les entreprises peuvent coopérer pour favoriser un environnement du savoir respectueux des droits.
Olivier Alais travaille à l’intersection de la technologie, de la gouvernance et des droits de l’homme, avec 20 ans d’expérience au sein des Nations Unies, des agences de développement et du conseil.
À l’Union internationale des télécommunications (UIT), il dirige les efforts visant à intégrer les droits de l’homme dans la gouvernance de l’IA, les normes techniques et les technologies émergentes. Il est également membre du Carr Center de la Harvard Kennedy School, où il fait progresser la recherche sur les droits dans la gouvernance numérique.
Auparavant, il a dirigé d’importants programmes numériques avec l’Agence française de développement, la Banque mondiale et l’USAID, et a fondé Soukeina, une société de conseil numérique réalisant des projets en Afrique, en Asie et en Amérique latine.
Ses travaux sont axés sur la création d’écosystèmes numériques fiables, fondés sur les droits et prêts pour l’avenir qui alignent l’innovation sur l’équité et la responsabilité.
João Brant est Secrétaire à la politique numérique au Bureau de la communication sociale de la Présidence de la République. Il est titulaire d’un doctorat en sciences politiques de l’Universidade de São Paulo (USP), d’une maîtrise en réglementation et politique des communications de la London School of Economics et d’une licence en communication sociale de l’USP. Il a été secrétaire exécutif du ministère de la Culture (2015-2016) et conseiller spécial du Secrétariat municipal de la culture de São Paulo (2013-2014). Il possède une vaste expérience dans des domaines tels que la liberté d’expression, l’infrastructure des télécommunications et les droits à l’Internet. Il est impliqué dans la formulation et la mise en œuvre des politiques liées à l’IA, en mettant l’accent sur l’importance de développer une IA souveraine qui réponde aux besoins sociaux et économiques du pays et qui soit à la fois éthique et inclusive. Il a participé à des initiatives visant à promouvoir l’éducation numérique et médiatique, dans le but de préparer la société aux défis et aux opportunités d’un monde numérique.
Isabel Ebert est conseillère au projet B-Tech de l’ONU HCD sur les entreprises et les droits de l’homme dans le secteur de la technologie et membre du groupe d’experts de l’OCDE sur l’IA.
Elle est également conférencière invitée à l’Université de Saint-Gall sur la politique numérique et la conduite responsable des entreprises.
Isabel a été chercheuse en technologie et droits de l’homme au Carr Center de la Harvard Kennedy School et chercheuse doctorale invitée à l’Oxford Internet Institute. Elle a été représentante de l’UE au Business & Human Rights Resource Centre, basé à Londres, et est titulaire d’un doctorat en éthique des affaires avec une spécialisation en gouvernance technologique de l’Université de Saint-Gall.
Joel Christoph est un économiste politique qui travaille sur la gouvernance de l’IA, les normes techniques et les droits de l’homme. Ses recherches examinent comment les normes et la réglementation de l’IA façonnent la vie privée, la liberté d’expression et l’accès à l’information, y compris des travaux récents proposant une norme minimale pour la provenance et la contestabilité de l’IA. Il a été boursier au Centre pour la gouvernance de l’IA et au Carr-Ryan Center for Human Rights Policy de la Harvard Kennedy School, et est membre du programme Emerging Leaders in Ethical AI Governance de Globethics. Ses commentaires sur la gouvernance de l’IA et la loi européenne sur l’IA ont été publiés dans Lawfare, Tech Policy Press et le Forum économique mondial.
Jenna Omassi est responsable des politiques publiques chez TikTok, où elle dirige l’engagement et les partenariats avec les institutions multilatérales. Elle a près de dix ans d’expérience dans les domaines de la technologie internationale, de la sécurité et de la politique étrangère. Avant de travailler chez TikTok, Jenna a travaillé à l’Ofcom, le régulateur des communications du Royaume-Uni, et au gouvernement du Canada.
Jacobo Castellanos coordonne l’équipe Technologie, menaces et opportunités de WITNESS, une organisation mondiale de défense des droits de l’homme qui soutient les communautés utilisant la vidéo et la technologie pour dénoncer l’injustice. Il examine comment les technologies émergentes, y compris l’IA générative et les médias manipulés, affectent la sécurité, la crédibilité et la capacité d’action des personnes qui documentent les abus. Jacobo co-Président(es) le groupe de travail sur les menaces et les préjudices de la Coalition pour la provenance et l’authenticité des contenus (C2PA), qui élabore des normes ouvertes pour la provenance vérifiable des contenus numériques. Son travail apporte une perspective de droits de l’homme à la conception technique, à la gouvernance et à la défense des droits, éclairée par des consultations avec des groupes de base, des journalistes, des militants et des technologues du monde entier.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C3. L'accès à l'information et au savoir
-
C4. Le renforcement des capacités
-
C5. Etablir la confiance et la sécurité dans l'utilisation des TIC
-
C6. Créer un environnement propice
-
C9. Médias
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
Cette session contribue directement aux grandes orientations du SMSI en examinant comment l’intelligence artificielle, les technologies fondées sur les données et les normes techniques façonnent la production, la circulation et le contrôle du savoir dans la société de l’information. Il est particulièrement pertinent pour la grande orientation C3, car il traite de l’accès à l’information et au savoir dans des environnements numériques de plus en plus médiatisés par des plates-formes privées, des systèmes algorithmiques et des infrastructures techniques.
La session contribue également aux initiatives C1 et C11 en rassemblant des organisations internationales, des établissements universitaires, la société civile et le secteur privé pour discuter des responsabilités partagées en matière de gouvernance et de normalisation de l’IA. Il se rapporte aux C5, C6 et C10 en étudiant comment la confiance, la sécurité, les considérations éthiques et les droits de l’homme peuvent être intégrés dans les normes et les cadres de gouvernance. Enfin, il est lié à C9 en abordant l’environnement de l’information au sens large, y compris la modération du contenu, la distribution des connaissances et les implications des systèmes algorithmiques pour la liberté d’expression, l’accès à l’information, la vie privée et la liberté de pensée.
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
La session appuie les Objectifs de développement durable en examinant comment la gouvernance de l’IA et les normes techniques peuvent réduire ou renforcer les inégalités en matière d’accès à l’information, au savoir et au pouvoir décisionnel. En mettant l’accent sur l’action humaine, les droits de l’homme et la politique de la connaissance à l’ère de l’IA, la session contribue à la réalisation des ODD 10 et 16, en particulier en ce qui concerne les sociétés inclusives, la gouvernance responsable et le respect des libertés fondamentales.
La discussion appuie également l’ODD 9 en examinant le rôle des normes techniques dans le façonnement des infrastructures numériques et des écosystèmes de l’innovation. Il contribue à la réalisation de l’ODD 4 en favorisant la compréhension de la façon dont les connaissances sont produites et diffusées dans des environnements reposant sur l’intelligence artificielle. Enfin, la nature multi-parties prenantes de la session, impliquant l’UIT, le HCDH, les universités, la société civile et le secteur privé, appuie directement l’ODD 17 en encourageant les partenariats pour une transformation numérique responsable et respectueuse des droits.
- Objectif 1 : Combler toutes les fractures numériques et accélérer les progrès vers la réalisation des Objectifs de développement durable
- Objectif 3 : Favoriser un espace numérique inclusif, ouvert, sûr et sécurisé qui respecte, protège et promeut les droits de l'homme
- Objectif 4 : Promouvoir des approches de gouvernance des données responsables, équitables et interopérables
- Objectif 5 : Améliorer la gouvernance internationale de l'intelligence artificielle au bénéfice de l'humanité
