适合谁？
桌边的女性/女性技术
会话184
性别分层数据和高风险AI的完整性
号召
高风险的人工智能系统正被部署在从未出现在数据中的女性身上。本节会议呼吁将性别分层数据和分解的绩效报告确定为任何部署在医疗保健或刑事司法领域的人工智能系统的最低要求，而非最佳做法。今年7月，首届人工智能治理全球对话与2026年WSIS论坛同时在日内瓦举行，将这些要求纳入多边标准制定层面的窗口已经到来。
背景
医疗保健和刑事司法中的人工智能系统正在给女性带来更糟糕的结果——不是因为模型级别的失败，而是因为它们训练的数据是由历史上排斥女性的机构建立的。直到 1993 年，临床试验才默认为男性生理学。诊断指南在男性身体上进行了校准。司法记录是由几十年来的性别可信度评估塑造的。当人工智能在此基础上进行训练时，它不会纠正这些排斥。它缩放了它们。
结果被量化并记录在案。根据虚假的健康数据训练的人工智能系统将诊断准确性降低了 11.3 个百分点。心脏病预测算法对女性来说一直不太准确，即使在性别平衡的数据集上进行训练也是如此。司法风险评估工具系统性地高估了女性的累犯——被评为“高风险”的女性再犯罪率不到相同分数男性的一半。最先进的语言模型根据患者是被标记为男性还是女性，从相同的病例记录中产生不同的临床评估。这些都不是边缘情况。它们是结构不完整数据的可预测输出，而聚合准确性指标会隐藏它们。
这是一场数据完整性危机，不仅仅是一个公平问题。对一半人口来说失败的系统不是高性能的系统。这些系统的失败被我们用来评估它们的指标所掩盖。
相关项目
两组工作是本次会议的支柱。设计隐形：女性健康作为人工智能和医学的盲点（Women At The Table & FemTechnology，2025 年）追溯了完整的六层级联——从男性默认的临床研究到有偏见的 EHR 文档再到扭曲的 AI 输出——并记录了在模型级别应用的公平补丁如何无法修复数据基础设施问题。司法算法中的性别偏见：算法歧视的全球分析（Women At The Table，CSW70 专家论文，2026 年）显示，相同的结构模式——缺少上游数据、有偏见的输出和掩盖子组失败的汇总指标——在刑事司法人工智能中同样运作。这些论文共同建立了一个跨领域的证据基础，将性别数据差距重新构建为技术治理挑战，而不是多样性的愿望。
2025年后、面向2035年的WSIS愿景
2026年WSIS论坛召开正值一个关键时刻：2026年7月在日内瓦举行的首届人工智能治理全球对话将首次制定多边人工智能标准。如果现阶段不嵌入性别分层数据要求，就需要对其进行改造 — 代价更高，而且要受到进一步的伤害。
本次会议旨在及时为这一进程产生具体输出：关于高风险人工智能系统的最低性别分层数据和分解性能报告要求的框架声明。这一愿景并非另一项原则宣言。这是一份可提交的民间团体文件 – 准备进入全球对话进程、欧盟人工智能法案实施磋商和包括消除对妇女一切形式歧视委员会一般性建议40和41在内的联合国条约机构机制 – 将WSIS关于以人为本、包容和面向发展的数字基础设施的承诺转化为可执行的技术标准。 本届理事会旨在将WSIS确立的愿景作为一项要求予以推进。
-
C1。政府和所有利益攸关方在促进信息通信技术促进发展中的作用
-
C4。能力建设
-
C6。有利环境
-
C7。 ICT应用：生活各个方面的收益-电子政务
-
C7。 ICT应用：生活各个方面的益处-电子保健
-
C7。 ICT应用：生活各个方面的收益-电子就业
-
C10。信息社会的道德层面
-
C11。国际和区域合作
C1 — 政府和所有利益攸关方 的作用 政府是医疗保健、刑事司法和社会服务领域所用人工智能系统的最大采购者之一，而这些领域正是性别数据差距造成最严重失败的地方。这在高收入国家是如此，在全球南方也同样如此，那里的公共部门正在加速部署人工智能，采购框架仍在建立中。本节会议讨论所有政府在将高风险AI用于公共部门应用之前，要求提供性别分层验证证据的责任。形成的框架说明将确定具体的采购和监管杠杆，通过这些杠杆政府（包括那些监管能力有限的政府）可以将分类的绩效报告作为部署的一个条件，而不是一种可选的披露。
C4 — 能力建设 只有当监管机构、采购官员和民间团体知道该要什么以及如何解释他们收到的东西时，要求性别分层数据才是可以执行的。这种能力差距在南半球尤为严重，那里的人工智能治理框架较新，算法审计方面的技术专业知识还不够成熟，但部署未经验证的系统所造成的后果最为严重。本次会议直接发挥了作用——命名具体的衡量标准、审计方法和报告格式，使分类的绩效报告在实践中具有意义。该会话的输出旨在供需要在不同监管环境中实施这些要求的参与者立即使用。
C6 – 有利环境 如果底层数据基础设施不支持，则不能要求AI系统提供性别分层数据和性能报告。健康数据标准（HL7/FHIR、ICD、SNOMED）和司法数据架构必须包括有关生物变量（月经周期、怀孕、更年期）的结构化字段，这些变量会改变其包含的每个数据点的临床意义。在全球南方的大部分地区，卫生数据基础设施仍在建设中：现在是确保其建设正确的时刻，从一开始就嵌入性别分层领域，而不是改造。本节会议将数据基础设施标准视为监管基准，而不是技术事后诸葛亮，并请标准机构参与进来，标准机构的决定决定了人工智能在全球训练系统中存在的领域。
C7 — 电子卫生 在医疗保健人工智能中，证据基础最清晰、最成熟。根据男性默认临床数据训练的人工智能系统将女性的诊断准确率降低了11.3个百分点。即使在性别平衡的数据集上，心脏病预测算法对女性来说也表现不佳。缺失的变量并不模糊——它们是电子健康记录经常省略的生命阶段字段。对于全球南方的女性来说，那里的诊断基础设施更薄，人工智能临床工具往往未经当地验证就进口，这些失败是复杂的：在开发系统的情况下，对女性表现不佳的系统在没有性别分列审计的情况下部署到不同人群中时，表现会更差。本节讨论全球临床人工智能的性别分层数据要求需要是什么样子，以及在系统被认为适合部署之前对女性数据的验证必须意味着什么。
C7 — 电子政务 司法风险评估工具、福利资格算法和社会护理分配系统是政府操作的人工智能应用程序，对妇女的生活有直接影响。近期研究中记录的对女性累犯的系统性过度预测和社会护理服务的性别差异化分配反映了与医疗保健人工智能相同的结构性失败：系统根据有历史偏见的机构记录进行训练，在没有性别分列验证的情况下部署。在整个全球南方，这些工具越来越多地用于监督机制有限且面临法律挑战的重大障碍的司法和福利系统，这使得部署前验证要求变得更加重要。本节会议直接讨论公共管理中人工智能的治理要求，也直接讨论临床环境。
C7 — 电子就业 算法招聘、绩效管理和就业筛选工具将人工智能大规模应用于劳动力市场决策。培训数据反映了历史上的性别就业模式，而这些系统则冒着编码和放大现有不平等的风险。在南半球，非正规就业和劳动力市场排斥已经对女性产生了不成比例的影响，在没有性别分列验证的情况下部署就业人工智能又增加了一层算法劣势。本次会议的跨领域框架明确包括就业人工智能，框架声明对性别分层验证的最低要求旨在适用于高风险应用领域和各种收入背景。
C10 — 信息社会的道德内涵。 对于高风险人工智能来说，聚合准确率指标并不是一个充分的道德标准。一个平均表现良好的系统，却系统性地辜负了妇女——在救济机制最薄弱的全球南方背景下，她们辜负得最严重——不是一个高绩效的制度。这是一个系统的失败被用于评估它的指标所掩盖。本次会议将按性别和交叉特征分类的报告重新定义为人工智能道德承诺的最低表达，将对话从原则转向可执行的要求。该框架声明旨在为2026年WSIS论坛的道德层面提供一种超越日内瓦的技术和运作形式。
C11 — 国际和区域合作 人工智能中的性别数据差距是一个全球性问题，需要通过多边解决方案途径解决。消除对妇女一切形式歧视委员会的义务、《全球数字契约》和首届人工智能治理全球对话都提供了现有框架，通过这些框架可以在国际上推进最低性别分层数据要求。南半球的女性面临着数据稀缺、监管环境薄弱以及部署对不代表她们的人群进行验证的系统等复合影响——这使得最低标准的国际合作不仅是一个治理问题，而且是一个公平的当务之急。本次会议的输出成果明确定位为提交全球对话进程，其设计中心全球南方代表作为要求的共同制定者，而不是其它地方制定的标准的接受者发声。2026年WSIS论坛是确保为所有女性制定第一代多边人工智能治理标准的正确时机，日内瓦也是为女性制定的标准，而不仅仅是为那些收集了数据的女性服务的正确场合。
-
目标3：确保健康生活并促进所有人的福祉
-
目标5：实现性别平等并赋予所有妇女和女孩权力
-
目标8：促进全民包容和可持续的经济增长，就业和体面工作
-
目标10：减少国家内部和国家之间的不平等
-
目标16：促进公正，和平与包容的社会
-
目标17：振兴全球可持续发展伙伴关系
SDG 3 – 健康与福祉 医疗保健人工智能是会话的主要证据领域，记录的失败是健康结果失败：诊断准确性降低、漏诊心脏事件、延迟治疗以及根据患者的性别标签而不是临床表现而不同的临床评估。对于全球南方的妇女来说，那里的卫生系统能力更加有限，人工智能临床工具往往未经当地验证就被进口，这些失败直接转化为可避免的疾病、延误的护理和可预防的死亡。为临床人工智能建立最低限度的性别分层数据和验证要求是人工智能有助于而非破坏可持续发展目标3的先决条件。本次会议将把这一要求作为具体的治理标准予以推进。
SDG 5 – 性别平等和增强所有妇女和女童的 权能性别平等是贯穿本次会议方方面面的基本承诺。在医疗保健、刑事司法和就业方面给女性带来系统性更糟后果的人工智能系统不是中立的工具——它们是编码和扩展历史排斥的基础设施。在一个高风险决策日益自动化的世界中实现可持续发展目标5，要求支撑这些决策的数据准确代表女性，在部署系统之前根据女性的成果进行验证，女性——包括全球南方的女性——作为规范这些系统的标准的共同设计者出现，而不仅仅是作为其输出的主体。本次会议产生的框架性发言直接有助于SDG 5的技术操作。
SDG 8 – 体面工作和经济增长 带有性别偏见的人工智能的后果从健康和司法延伸到经济生活。根据历史上的性别劳动力市场数据进行就业筛选和招聘算法的训练有可能系统地使妇女在获得体面工作方面处于不利地位。误诊和延误治疗——基于男性默认数据训练的医疗保健人工智能的可预测输出成果——产生了由女性承担的不成比例的经济成本：收入损失、劳动力参与减少以及当卫生系统未能准确识别和治疗女性病情时落在女性身上的护理负担。在全球南方，女性的经济参与已经受到结构性障碍的限制，这些算法失败加剧了现有的劣势。因此，就业和医疗保健人工智能的性别分层验证要求是SDG 8的问题，也是SDG 5的问题。
SDG 10 – 减少不平等现象 人工智能中的性别数据差距是不平等繁殖的一种机制。当根据历史偏见数据训练的 AI 系统大规模部署时——在临床环境、法庭、福利办公室和招聘流程中——它们不仅反映了现有的不平等;它们以算法的形式将它们制度化，并以人类官僚机构无法比拟的速度和规模应用它们。用于评估这些系统的汇总指标掩盖了它们的差异影响，使女性的系统性失败，特别是处于性别、种族和地理交叉点的女性，在官方绩效记录中仍然不可见。按性别和交叉特征分列报告是使不平等现象显而易见的最低技术要求，而能见度是问责制的先决条件。本次会议将推动这一要求，将其作为适用于高收入和全球南方背景的治理标准。
SDG 16 – 和平、正义和强大的机构 司法风险评估工具系统性地高估了妇女的累犯，而社会关怀算法将更少的资源分配给与男性有相同需求的妇女，这些都是负责伸张正义和保护的机构的失败。在人工智能时代，强大的机构要求司法和公共行政环境中使用的自动化决策系统根据其管辖的所有人口的结果进行验证，而不是针对隐藏分组失败的汇总绩效指标进行优化。在对算法决策的法律挑战更加严峻、机构问责机制较弱的全球南方司法管辖区，未经证实的司法人工智能的部署对可持续发展目标16构成了特别严重的威胁。部署前性别分层验证要求是公正和负责任的人工智能治理的基础，本次会议将推进这些要求。
SDG 17 – 为实现总体目标结成伙伴关系 没有一个单独的政府、标准机构或民间团体组织能够单独弥合人工智能领域的性别数据鸿沟。该问题是结构性的、跨域的和全球性的——而解决方案需要SDG 17所呼吁的那种持续的多边伙伴关系。本次会议正是为了实现这一目标：汇集来自全球北方和全球南方的数据标准机构、人工智能开发人员、监管机构、条约机构成员和民间社会，共同制定一份可以同时进入多个治理进程的共同框架声明。与首届全球人工智能治理对话同时同地举办，使2026年WSIS论坛成为确保第一代多边人工智能标准反映真正全球伙伴关系的独特切入点 – 在这种伙伴关系中，承受性别数据差距最大代价的社区将成为解决方案的设计师。
- 目标 1：消除所有数字鸿沟，加快实现可持续发展目标
- 目标 4：推进负责任、公平、可互操作的数据治理方法
- 目标2：扩大数字经济的包容性，让所有人从中受益
- 目标3：营造一个包容、开放、安全、有保障的数字空间，尊重、保护和促进人权
- 目标五：加强人工智能国际治理，造福人类