确保人工智能在现实世界中的安全:从治理原则到操作工具
欧洲委员会
会话241
从条约到工具包:弥合人工智能治理实施差距
全球范围内关于人工智能治理的讨论已经产生了前所未有的大量原则、宣言和框架。然而,各国政府、国际组织和发展金融机构面临的核心挑战不再是阐明负责任的人工智能应该是什么样子,而是当卫生部采购人工智能辅助分诊系统、司法部门部署算法风险工具或国家数据机构构建数字公共基础设施骨干网时,如何应对这些突发情况。
欧洲委员会《人工智能与人权、民主和法治框架公约》(CETS 225)标志着该领域发生了质的转变。作为首个具有约束力的国际人工智能条约,它将治理从愿景转变为法律义务。由人工智能委员会/CDNET开发的“人权、民主和法治影响评估”(HUDERIA)方法论,将这些义务转化为结构化且实用的工具,供实践者在国家/行业和项目层面应用。
本次会议汇聚了构成人工智能治理完整运行架构的三大机构节点:规范层(欧洲委员会/CETS 225/HUDERIA)、发展融资层(世界银行)和技术标准层(ISO/IEC SC 42)。会议并非以机构自我展示为目的,而是将每一项发言都立足于全球南方实践者提出的实际部署挑战——这些实践者最需要切实有效的工具,却在原则时代最缺乏服务。
-
C1。政府和所有利益攸关方在促进信息通信技术促进发展中的作用
-
C2。信息和通信基础设施
-
C3。获得信息和知识
-
C4。能力建设
-
C5。建立使用ICT的信心和安全性
-
C6。有利环境
-
C7。 ICT应用:生活各个方面的收益-电子政务
-
C7。 ICT应用:生活各个方面的益处-电子保健
-
C7。 ICT应用:生活各个方面的收益-电子就业
-
C8。文化多样性和身份认同,语言多样性和当地内容
-
C11。国际和区域合作
本次会议通过展示首个具有约束力的人工智能国际条约(CETS 225)及其配套的影响评估方法(HUDERIA)如何在政府、卫生和司法部门落实负责任的人工智能治理(C6、C7-电子政务、C7-电子卫生),直接推进了信息社会世界峰会行动方针。会议构建了人权条约机构、发展融资和技术标准之间多方利益攸关方和机构间合作的模式(C1、C11),并着重探讨了全球南方国家在缺乏充分规范工具的情况下开展人工智能采购的能力差距(C3、C4、C5)。会议以非歧视、文化偏见评估和包容性设计为基础,与C8相呼应;同时,会议提出的具有约束力的规范架构也构成了C6所设想的构建可信赖数字系统的有利环境。
-
目标3:确保健康生活并促进所有人的福祉
-
目标4:确保包容和公平的优质教育,并为所有人提供终身学习机会
-
目标5:实现性别平等并赋予所有妇女和女孩权力
-
目标8:促进全民包容和可持续的经济增长,就业和体面工作
-
目标9:建立有弹性的基础设施,促进可持续工业化和促进创新
-
目标10:减少国家内部和国家之间的不平等
-
目标16:促进公正,和平与包容的社会
-
目标17:振兴全球可持续发展伙伴关系
负责任的人工智能治理是实现2030年议程的先决条件。本次会议展示了CETS 225和HUDERIA如何为各国政府——特别是全球南方国家的政府——提供必要的约束性规范和方法论工具,以确保人工智能系统在卫生(可持续发展目标3)、司法和公共管理(可持续发展目标16)领域服务于人权和平等,而不是损害人权和平等。通过解决就业和服务提供中的算法歧视和偏见问题,本次会议有助于减少国家内部和国家之间的不平等(可持续发展目标10)。会议提出的整合架构——结合了人权条约、发展融资保障措施和ISO/IEC技术标准——为可持续发展目标17所设想的技术治理多机构伙伴关系树立了典范。针对发展中国家从业人员的能力建设(可持续发展目标4)以及HUDERIA中嵌入的非歧视框架(可持续发展目标5)完善了人工智能治理作为可持续发展推动因素的图景。
- 目标 1:消除所有数字鸿沟,加快实现可持续发展目标
- 目标 4:推进负责任、公平、可互操作的数据治理方法
- 目标2:扩大数字经济的包容性,让所有人从中受益
- 目标3:营造一个包容、开放、安全、有保障的数字空间,尊重、保护和促进人权
- 目标五:加强人工智能国际治理,造福人类
https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence
https://www.coe.int/en/web/artificial-intelligence/cdnet
https://www.coe.int/en/web/artificial-intelligence/huderia-risk-and-impact-assessment-of-ai-systems
https://rm.coe.int/prems-002726-gbr-2006-huderia-texte-web-a4/48802ba7b1