L’inclusion sans sécurité n’est pas l’autonomisation : l’automatisation augmente les dommages plus vite que nous ne pouvons y répondre
Away from Keyboard Inc, Soroptimist International, Women 4 STEM
Session 243
Les efforts visant à élargir l’accès à la technologie s’accélèrent. De plus en plus de femmes et de jeunes filles sont encouragées à participer, à acquérir des compétences et à entrer dans des domaines émergents. Mais la sécurité ne suit pas le rythme.
Cette session remet en question une hypothèse commune : l’inclusion seule mène à l’autonomisation. Pour de nombreuses femmes, filles et personnes de diverses identités de genre, un accès accru sans sécurité, représentation et influence crée de nouvelles formes de préjudice.
L’automatisation est à l’origine de ce changement. Les systèmes conçus pour optimiser l’engagement et l’efficacité façonnent également l’exposition, le comportement et les risques. Ils interagissent avec les inégalités existantes et les amplifient à grande échelle. Un adolescent entraîné dans un contenu croissant par des systèmes de recommandation. Une femme victime de harcèlement alors qu’elle se fait connaître en ligne. Une personne handicapée se voyant refuser un financement essentiel par une évaluation standardisée, le risque s’est ensuite déplacé sur un soignant non rémunéré, presque toujours une femme. Le schéma est cohérent. Le préjudice n’est pas aléatoire. Elle est façonnée, répétée et intensifiée par des systèmes qui apprennent plus vite que les garanties ne peuvent s’adapter.
Travaux pertinents
Cette session s’appuie sur un ensemble soutenu de réalisations, et non sur un seul projet. À travers la 70ème session de la Commission de la condition de la femme de l’ONU, la conférence mondiale sur la sécurité en ligne SHIELD, la conférence internationale sur la protection de l’enfance de l’IPPPRI et les récents ateliers en Australie, nous avons travaillé sur les préjudices spécifiques que cette session nomme : la violence sexiste facilitée par la technologie, l’exploitation en ligne des enfants et l’escalade du contenu, la surcharge numérique et ses conséquences sur la santé mentale, et la façon dont la déconnexion et l’isolement rendent les femmes plus vulnérables en ligne.
Nos recherches actuelles étendent cela aux systèmes de soins automatisés, où les décisions façonnées par l’IA peuvent agir comme des gardiens numériques, automatisant le contrôle coercitif en refusant le financement du logement ou de l’autonomie des transports, et où les femmes culturellement et linguistiquement diverses sont systématiquement invisibles aux modèles qui manquent de contexte. En avril 2026, nous avons facilité une consultation multinationale en vue d’une déclaration sur la violence sexiste facilitée par la technologie, avec des participants de treize pays, et nous contribuons à l’activité de l’IEEE Industry Connections sur l’IA et la violence familiale.
Notre vision
Le SMSI est à l’origine de deux décennies de progrès en matière d’accès et d’infrastructure. Le travail inachevé est la sécurité et la responsabilité. Notre vision du SMSI au-delà de vingt ans est simple : les efforts d’inclusion ne doivent pas augmenter les dommages.
Cela signifie intégrer la sécurité dans la conception du système, rendre la responsabilité mesurable et applicable, et reconnaître les risques aggravés, où les vulnérabilités ne se contentent pas de s’additionner mais se multiplient. Cela signifie passer de la réaction après un préjudice à sa prévention, et se demander où se situe la responsabilité lorsque le préjudice est prévisible.
Cette séance présente le risque cumulatif sous un angle pratique et déplace la conversation de l’accès à une participation sûre et significative. L’inclusion est le point de départ. La sécurité est ce qui le rend réel.
-
C1. Le rôle des gouvernements et de toutes les parties prenantes dans la promotion des TIC pour le développement
-
C3. L'accès à l'information et au savoir
-
C4. Le renforcement des capacités
-
C5. Etablir la confiance et la sécurité dans l'utilisation des TIC
-
C7. Les applications TIC et leur apport dans tous les domaines — Administration électronique
-
C7. Les applications TIC et leur apport dans tous les domaines — Commerce électronique
-
C7. Les applications TIC et leur apport dans tous les domaines — Téléenseignement
-
C7. Les applications TIC et leur apport dans tous les domaines — Télésanté
-
C9. Médias
-
C10. Dimensions éthiques de la société de l'information
-
C11. Coopération internationale et régionale
Cette session s’inscrit plus directement dans le cadre de C5 (Etablir la confiance et la sécurité) et C10 (Dimensions éthiques de la société de l’information). Notre argument central est que l’automatisation n’est pas neutre et que les cadres éthiques doivent aborder la façon dont les systèmes façonnent le comportement, l’exposition et les opportunités, y compris la façon dont les efforts d’inclusion peuvent involontairement augmenter les dommages.
Il est lié à C3 et C4 parce qu’une participation sûre dépend de l’accès à l’information et de la capacité de bien l’utiliser. Il est lié à la septième Recommandation sur l’administration en ligne, la cybersanté, le cybertravail, le commerce électronique et le cyberapprentissage, où la prise de décision automatisée peut exclure ou classer de manière erronée les personnes dont les besoins ne sont pas pris en compte dans les données normalisées, en particulier les femmes, les personnes de diverses identités de genre et les personnes handicapées. C8 et C9 traitent de la représentation et de l’amplification des récits nuisibles. C1, C6 et C11 définissent la responsabilité partagée des gouvernements, de l’industrie et de la société civile de fixer des attentes applicables et d’aligner les normes au-delà des frontières tout en respectant les réalités locales.
-
Objectif 3: Permettre à tous de vivre en bonne santé et promouvoir le bien-être de tous à tout âge
-
Objectif 4: Garantir une éducation de qualité et des possibilités d’apprentissage tout au long de la vie pour tous
-
Objectif 5: Parvenir à l’égalité entre les sexes et autonomiser toutes les femmes et les filles
-
Objectif 9: Bâtir une infrastructure résiliente, promouvoir une industrialisation durable et encourager l’innovation
-
Objectif 10: Réduire les inégalités dans les pays et d’un pays à l’autre
-
Objectif 16: Promouvoir l’avènement de sociétés pacifiques, l’accès de tous à la justice et des institutions efficaces
-
Objectif 17: Renforcer les moyens du partenariat mondial pour le développement durable et le revitaliser
L’objectif 5 est central. Les préjudices que nous examinons pèsent lourdement sur les femmes, les filles et les personnes de diverses identités de genre, du harcèlement en ligne aux ensembles de données mal genrés ou incomplets qui favorisent l’exclusion. L’objectif 16 souligne la nécessité de disposer d’institutions responsables et d’une participation sûre et inclusive. L’objectif 9 est lié à l’innovation responsable : l’infrastructure et les technologies émergentes doivent être construites avec la sécurité comme exigence de conception. L’objectif 10 reconnaît que les systèmes automatisés peuvent creuser les inégalités lorsqu’ils apprennent à partir de données biaisées et s’optimisent pour l’engagement plutôt que pour le bien-être.
La session appuie également l’Objectif 3 (Santé et bien-être, y compris les effets des environnements en ligne sur la santé mentale), l’Objectif 4 (Apprentissage sûr et inclusif) et l’Objectif 17, étant donné que les travaux dépendent de partenariats entre la société civile, le secteur privé et les pouvoirs publics. Une participation sûre est une condition préalable au développement durable, et non un ajout ultérieur.
- Objectif 1 : Combler toutes les fractures numériques et accélérer les progrès vers la réalisation des Objectifs de développement durable
- Objectif 2 : Élargir l'inclusion et les bénéfices de l'économie numérique pour tous
- Objectif 3 : Favoriser un espace numérique inclusif, ouvert, sûr et sécurisé qui respecte, protège et promeut les droits de l'homme
- Objectif 5 : Améliorer la gouvernance internationale de l'intelligence artificielle au bénéfice de l'humanité
Away from Keyboard: https://afk.org.au
https://www.linkedin.com/company/away-from-keyboard-afk-inc/
Soroptimist International: https://www.soroptimistinternational.org/
Women 4 STEM: https://women4stem.com.au/about/
LinkedIn (Sarah Barnbrook): https://www.linkedin.com/in/sarah-barnbrook-263323151/
Free Governance Tools: https://alttab.afk.org.au/