没有安全的包容性不是赋权:自动化正在扩大危害,其速度超出了我们的应对能力
Away from Keyboard Inc、Soroptimist International、Women 4 STEM
扩大技术接入的努力正在加速。鼓励更多女性和年轻女性参与、培养技能并进入新兴领域。但安全并没有跟上步伐。
本场会议挑战了一个普遍的假设:只有包容才能带来赋权。对于许多妇女、女童和性别多样性人群来说,在没有安全、代表性和影响力的情况下,越来越多的机会正在造成新形式的伤害。
自动化正在推动这一转变。旨在优化参与度和效率的系统也会塑造风险敞口、行为和风险。它们与现有的不平等相互作用,并大规模放大这些不平等。一个通过推荐系统被不断升级的内容所吸引的少年。一名女性在网上提高知名度时面临骚扰。一个残疾人被标准化评估剥夺了必要的资金,然后风险转移到了一个无偿的照顾者身上,几乎总是女性。模式是一致的。伤害不是随机的。它是由学习速度比安全措施适应速度更快的系统塑造、重复和强化的。
相关工作
本次会议有赖于持续交付,而不是一个单一的项目。在联合国CSW70、SHIELD全球在线安全会议、IPPPRI国际儿童保护大会和最近在澳大利亚举办的讲习班上,我们研究了本届会议所称的具体危害:技术助长的性别暴力、儿童网上剥削和不断升级的内容、数字超载及其心理健康损失,以及断网和孤立使妇女在网上更容易受到伤害的方式。
我们目前的研究将其扩展到自动化护理系统,其中人工智能形状的决策可以充当数字守门人,通过拒绝为住房或交通自主权提供资金来自动化强制控制,并且文化和语言多样化的女性被缺乏背景的模式系统性地忽视。2026年4月,我们促成了一场多国磋商,旨在达成一项有来自13个国家的参与者参加的关于技术推动的性别暴力的宣言,我们为IEEE关于人工智能和家庭暴力的行业联系活动做出了贡献。
愿景
二十年来,WSIS在接入和基础设施方面取得了很大进展。未完成的工作是安全和问责。我们对二十年审查之后的WSIS愿景很明确:包容性工作不得增加危害。
这意味着将安全嵌入系统设计中,使问责制可衡量和可执行,并识别复合风险,其中漏洞不仅会简单地增加,而且会成倍增加。这意味着从伤害后的反应转变为预防,并询问当伤害是可预测的时,责任在哪里。
本节会议将复合风险作为一个实用的视角,并将对话从访问转移到安全、有意义的参与上。包容是起点。安全是让它变得真实的原因。
-
C1。政府和所有利益攸关方在促进信息通信技术促进发展中的作用
-
C3。获得信息和知识
-
C4。能力建设
-
C5。建立使用ICT的信心和安全性
-
C7。 ICT应用:生活各个方面的收益-电子政务
-
C7。 ICT应用:生活各个方面的收益-电子商务
-
C7。 ICT应用:生活各个方面的收益-电子学习
-
C7。 ICT应用:生活各个方面的益处-电子保健
-
C9。半
-
C10。信息社会的道德层面
-
C11。国际和区域合作
本届会议最直接属于C5(树立信心和提高安全性)和C10(信息社会的道德内涵)的范畴。我们的中心论点是,自动化不是中立的,道德框架必须解决系统如何塑造行为、风险敞口和机会的问题,包括包容性工作可能无意中增加伤害的方式。
它与C3和C4相连接,因为安全参与取决于对信息的获取和善用信息的能力。它与电子政务、电子卫生、电子就业、电子商务和电子学习的C7相关联,其中的自动化决策可以排除其需求未在标准化数据中得到反映或被错误分类,特别是女性、性别多样化人士和残疾人。C8和C9涉及有害叙事的再现和放大。C1、C6和C11确立了政府、行业和民间团体的共同责任,即在尊重当地现实的同时设定可执行的期望和跨境统一的标准。
-
目标3:确保健康生活并促进所有人的福祉
-
目标4:确保包容和公平的优质教育,并为所有人提供终身学习机会
-
目标5:实现性别平等并赋予所有妇女和女孩权力
-
目标9:建立有弹性的基础设施,促进可持续工业化和促进创新
-
目标10:减少国家内部和国家之间的不平等
-
目标16:促进公正,和平与包容的社会
-
目标17:振兴全球可持续发展伙伴关系
目标5是核心。我们研究的伤害主要落在妇女、女孩和性别多样化的人群身上,从在线骚扰到导致排斥的性别错误或不完整的数据集。目标16提出了建立负责任机构和安全、包容性参与的必要性。目标9与负责任的创新有关:基础设施和新兴技术的建设必须将安全作为设计要求。目标 10 认识到,当自动化系统从有偏见的数据中吸取教训并优化参与度而不是福祉时,它们会扩大不平等。
会议还支持目标3(健康和福祉,包括在线环境对心理健康的影响)、目标4(安全和包容性学习)和目标17,因为这项工作有赖于民间社会、行业和政府之间的伙伴关系。安全参与是可持续发展的前提,而不是以后的附加。
- 目标 1:消除所有数字鸿沟,加快实现可持续发展目标
- 目标2:扩大数字经济的包容性,让所有人从中受益
- 目标3:营造一个包容、开放、安全、有保障的数字空间,尊重、保护和促进人权
- 目标五:加强人工智能国际治理,造福人类
Away from Keyboard: https://afk.org.au
https://www.linkedin.com/company/away-from-keyboard-afk-inc/
Soroptimist International: https://www.soroptimistinternational.org/
Women 4 STEM: https://women4stem.com.au/about/
LinkedIn (Sarah Barnbrook): https://www.linkedin.com/in/sarah-barnbrook-263323151/
Free Governance Tools: https://alttab.afk.org.au/