公众信任和人工智能采购:
“人工智能与平等”的女性餐桌上的平等;剑桥大学;RC信托基金、鲁尔区UA、杜伊斯堡-埃森大学;欧洲理事会
会话139
从原则到实践
当人工智能进入公共生活时,它很少作为政府建造的东西出现。它是政府买来的。采购合同——而不是道德宪章——是权利、透明度和问责制要么被写入一个系统,要么被悄悄抛弃的地方。然而,采购仍然是人工智能治理中最容易被忽视的杠杆。
欧盟和英国的研究讲述了一个鲜明的故事:正式的、针对人工智能的采购很少见。人工智能通过职能蔓延、低于监督门槛的扩展试点以及巩固少数主导供应商的框架合同而悄悄进入公共服务领域。当一个系统触及公民的生活时——决定利益、标记风险、分配资源——最重要的决定已经无形地按照合同条款做出,没有人审查。最依赖公共服务的社区也是最容易受到算法伤害的社区。这不是巧合。这是一个治理失败——这是我们可以修复的。
与主题焦点相关的成功项目
本次会议建立在证据之上,而不是愿望之上。CHI 2026荣誉奖论文《这只是一个狂野的西部:利用公共采购作为人工智能治理机制》由Women at the Table与剑桥大学和德国RC信托基金会共同发起的人工智能与平等倡议(AI & Equality Initiative)从对欧盟和英国采购专业人士的采访中得出,确定了负责任的人工智能采购的七个具体实践。这些发现已经走向世界:在与代表荷兰所有城市的协会VNG等市政当局的研讨会上进行了测试,并告知与欧洲理事会CDNET的直接接触,CDNET的任务是在2026年底前提供人工智能采购指南。在联合国教科文组织讲习班上首次提出的一个问题变成了同行评审的研究,成为工作工具,现在正在形成具有约束力的标准。这条管道是开放的——这次会议是其中的一部分。
2025年后WSIS的愿景
仅靠原则将无法实现以人为本的包容性数字社会的WSIS愿景。它将是一个接一个的合同,一个接一个的招标,一个条款一个条款的招标。我们的愿景是一个充当人工智能问责制运营支柱的采购系统:人权在系统建立之前得到嵌入,公民在政府下令下达解决方案之前帮助确定问题,最容易受到算法伤害的社区在部署之前就拥有发言权,而不是来得太晚而变得无关紧要。
本次会议召集了能够实现这一目标的人。欧洲理事会CDNET秘书处参与讨论正在积极开发的AI采购导则。数据连接带来了公民参与的必要性——因为没有公众意见的采购就是没有合法性的治理。全球数字契约做出了承诺。AI 公约确定了框架。这个会话做了一些更罕见、更必要的事情:它编写了信守这些承诺的合约语言。
-
C1。政府和所有利益攸关方在促进信息通信技术促进发展中的作用
-
C3。获得信息和知识
-
C4。能力建设
-
C5。建立使用ICT的信心和安全性
-
C7。 ICT应用:生活各个方面的收益-电子政务
-
C10。信息社会的道德层面
C1 – 政府和所有利益攸关方在促进信息通信技术促发展方面的作用 政府不仅是人工智能的监管机构,还是人工智能的最大采购者。本场会议将采购重新定义为一种治理行为:公共机构可以积极影响人工智能是服务于还是破坏发展目标的时刻。通过将决策者、民间团体、研究人员和欧洲理事会CDNET秘书处汇聚一堂,本次会议为C1呼吁的多利益攸关方方式建模,应用于政府做出的有关技术的最重要决策。
C3 — 获取信息和知识负责任的采购需要透明度——关于系统如何运作、使用什么数据以及它们产生什么结果。本节会议将推进审计权、文档编制标准和开源作为采购工具的重用,确保公共人工智能系统生成的知识掌握在公众手中,而不是被锁定在供应商合同中。
C4 — 能力建设 采购官员站在人工智能治理的第一线,但很少配备这方面的设备。本节会议直接讨论能力差距:介绍与市政当局一起测试的循证做法,以提高采购团队的技能,以审查供应商的主张,进行人权影响评估,并编写针对人工智能的合同要求。在政府上下建设这种能力是负责任的公共AI的先决条件。
C5 – 树立使用ICT的信心并提高安全性 公众对人工智能相关服务的信任取决于可见和可验证的治理。当公民知道影响他们生活的系统是根据人权标准采购的,有社区的投入和独立的审计权时,信心就会随之而来。本节会议提出,上游采购纪律是建立公共人工智能迫切需要的合法性的最强大但未充分利用的工具。
C10 — 信息社会的道德内涵 采购指的是人工智能道德或者成为可操作性或保持装饰性的地方。本节会议直接讨论原则与实践之间的差距:将《全球数字契约》和《欧洲理事会人工智能公约》中的承诺转化为合同条款、招标要求和监督机制,使道德义务得以执行。Connected by Data 对公民参与的贡献将这一点建立在民主维度之上——谁来定义负责任的人工智能对其所治理的社区意味着什么。
-
目标5:实现性别平等并赋予所有妇女和女孩权力
-
目标10:减少国家内部和国家之间的不平等
-
目标11:使城市具有包容性,安全性,弹性和可持续性
-
目标16:促进公正,和平与包容的社会
-
目标17:振兴全球可持续发展伙伴关系
目标5 — 性别平等和赋予所有女性和年轻女性权能 采购的AI系统未经性别分析就复制和放大现有的不平等现象。公共采购是一种直接杠杆:招标要求可以要求在将系统部署到偏向女性的服务领域(福利、护理、就业)之前,先进行分解数据、偏见测试和性别影响评估。本次会议将促进性别平等的采购列入国际标准制定议程。
目标10 – 减少国家内部和国家之间的不平等 最依赖公共服务的社区正是最容易受到算法伤害的社区。嵌入人权标准、使供应商关系多样化、超越主导供应商并需要有意义的社区投入的采购是积极减少而不是加剧结构性不平等的采购。本次会议利用欧盟和英国市政当局的证据证明了这一点。
目标11 — 建设包容、安全、有抵御灾害能力和可持续的城市和人类住区 城市和市政当局是面向公众的人工智能的主要部署者,也是本次会议从业者工作的主要场所。通过与VNG和其他城市合作伙伴的讲习班,本次会议建设地方政府的采购能力,以确保城市人工智能为所有居民服务,包括那些最有可能被排除在外的居民。
目标16 — 促进公正、和平和包容的社会 公共服务领域中负责任的人工智能是一个正义问题。当采购需要透明度、审计权和公民参与时——正如本届会议所倡导的那样——它加强了民主社会自我治理的制度和程序。正在积极制定的欧洲理事会CDNET采购导则正是这种制度问责基础设施的代表。
目标 17 — 重振可持续发展的全球伙伴关系 本次会议所代表的研究到标准的管道——从从从业者访谈到同行评审证据,再到欧洲委员会指南再到市政实施——是国际伙伴关系如何将全球承诺转化为当地实践的典范。Women at the Table、剑桥大学、RC Trust德国、Connected by Data和欧洲理事会之间的合作展示了数字治理利益攸关多方跨境合作在实践中的样子。
- 目标 1:消除所有数字鸿沟,加快实现可持续发展目标
- 目标 4:推进负责任、公平、可互操作的数据治理方法
- 目标2:扩大数字经济的包容性,让所有人从中受益
- 目标3:营造一个包容、开放、安全、有保障的数字空间,尊重、保护和促进人权
- 目标五:加强人工智能国际治理,造福人类
CHI 2026 Honourable Mention “It’s Just a Wild, Wild West”: Harnessing Public Procurement as an AI Governance Mechanism. The ACM (Association of Computing Machinery) CHI conference on Human Factors in Computing Systems is the premier international conference of Human-Computer Interaction.