La politique de la connaissance à l’ère de l’IA : responsabiliser l’action humaine par les normes, les droits de l’homme et le rôle des entreprises
Union internationale des télécommunications, Haut-Commissariat des Nations Unies aux droits de l’homme et Centre Carr-Ryan de la Harvard Kennedy School
Session 395
L’intelligence artificielle et les technologies fondées sur les données remodèlent non seulement les économies et les services publics, mais aussi la politique de la connaissance elle-même : ce qui peut être connu, qui contrôle cette connaissance et comment elle est utilisée pour façonner le comportement individuel et collectif.
La diffusion et la diffusion des connaissances sont de plus en plus assurées par des infrastructures numériques souvent gérées par le secteur privé. Cela déclenche un débat sur l’environnement de l’information et son lien avec les droits de l’homme. Dans ce contexte, les normes techniques jouent un rôle central mais souvent négligé. En façonnant les flux de données, les architectures système, l’interopérabilité, les cadres d’identité, les mécanismes de modération de contenu et les choix de conception algorithmique, les normes déterminent efficacement comment les connaissances sont produites, diffusées et soumises à des contraintes à grande échelle.
Les normes ne sont pas neutres : bien qu’elles soient généralement perçues comme des instruments purement techniques, elles fonctionnent de plus en plus comme des infrastructures de gouvernance, influençant le pouvoir sur le savoir et la prise de décision, avec de profondes implications pour l’action humaine et les droits de l’homme – tels que la liberté d’expression, l’accès à l’information, la vie privée mais aussi la liberté d’opinion et de pensée.
Ce panel explore comment l’IA et les normes techniques recoupent la politique du savoir, comment elles peuvent involontairement renforcer les asymétries de pouvoir, et comment les approches de la normalisation fondées sur les droits de l’homme peuvent aider à réaligner la conception technique sur les valeurs démocratiques et les droits de l’homme. Le secteur privé joue un rôle primordial à cet égard pour au moins deux raisons : premièrement, parce que les entreprises collaborent et élaborent des normes techniques dans le cadre d’organisations et de consortiums de normalisation ; et deuxièmement, parce que ces entreprises utilisent et s’adaptent également à ces normes techniques. En ce sens, il est utile de coordonner l’engagement des entreprises dans une approche des droits de l’homme, en se concentrant sur les Principes directeurs des Nations Unies, et aussi de comprendre comment les équipes des droits de l’homme et des normes technologiques dans les entreprises peuvent coopérer pour favoriser un environnement du savoir respectueux des droits.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C3. L'accès à l'information et au savoir
-
C4. Le renforcement des capacités
-
C5. Etablir la confiance et la sécurité dans l'utilisation des TIC
-
C6. Créer un environnement propice
-
C9. Médias
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
Cette session contribue directement aux grandes orientations du SMSI en examinant comment l’intelligence artificielle, les technologies fondées sur les données et les normes techniques façonnent la production, la circulation et le contrôle du savoir dans la société de l’information. Il est particulièrement pertinent pour la grande orientation C3, car il traite de l’accès à l’information et au savoir dans des environnements numériques de plus en plus médiatisés par des plates-formes privées, des systèmes algorithmiques et des infrastructures techniques.
La session contribue également aux initiatives C1 et C11 en rassemblant des organisations internationales, des établissements universitaires, la société civile et le secteur privé pour discuter des responsabilités partagées en matière de gouvernance et de normalisation de l’IA. Il se rapporte aux C5, C6 et C10 en étudiant comment la confiance, la sécurité, les considérations éthiques et les droits de l’homme peuvent être intégrés dans les normes et les cadres de gouvernance. Enfin, il est lié à C9 en abordant l’environnement de l’information au sens large, y compris la modération du contenu, la distribution des connaissances et les implications des systèmes algorithmiques pour la liberté d’expression, l’accès à l’information, la vie privée et la liberté de pensée.
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
La session appuie les Objectifs de développement durable en examinant comment la gouvernance de l’IA et les normes techniques peuvent réduire ou renforcer les inégalités en matière d’accès à l’information, au savoir et au pouvoir décisionnel. En mettant l’accent sur l’action humaine, les droits de l’homme et la politique de la connaissance à l’ère de l’IA, la session contribue à la réalisation des ODD 10 et 16, en particulier en ce qui concerne les sociétés inclusives, la gouvernance responsable et le respect des libertés fondamentales.
La discussion appuie également l’ODD 9 en examinant le rôle des normes techniques dans le façonnement des infrastructures numériques et des écosystèmes de l’innovation. Il contribue à la réalisation de l’ODD 4 en favorisant la compréhension de la façon dont les connaissances sont produites et diffusées dans des environnements reposant sur l’intelligence artificielle. Enfin, la nature multi-parties prenantes de la session, impliquant l’UIT, le HCDH, les universités, la société civile et le secteur privé, appuie directement l’ODD 17 en encourageant les partenariats pour une transformation numérique responsable et respectueuse des droits.
- Objectif 1 : Combler toutes les fractures numériques et accélérer les progrès vers la réalisation des Objectifs de développement durable
- Objectif 3 : Favoriser un espace numérique inclusif, ouvert, sûr et sécurisé qui respecte, protège et promeut les droits de l'homme
- Objectif 4 : Promouvoir des approches de gouvernance des données responsables, équitables et interopérables
- Objectif 5 : Améliorer la gouvernance internationale de l'intelligence artificielle au bénéfice de l'humanité