确保人工智能在现实世界中的安全:从治理原则到操作工具
欧洲委员会
会话241
从条约到工具包:弥合人工智能治理实施差距
全球范围内关于人工智能治理的讨论已经产生了前所未有的大量原则、宣言和框架。然而,各国政府、国际组织和发展金融机构面临的核心挑战不再是阐明负责任的人工智能应该是什么样子,而是当卫生部采购人工智能辅助分诊系统、司法部门部署算法风险工具或国家数据机构构建数字公共基础设施骨干网时,如何应对这些突发情况。
欧洲委员会《人工智能与人权、民主和法治框架公约》(CETS 225)标志着该领域发生了质的转变。作为首个具有约束力的国际人工智能条约,它将治理从愿景转变为法律义务。由人工智能委员会/CDNET开发的“人权、民主和法治影响评估”(HUDERIA)方法论,将这些义务转化为结构化且实用的工具,供实践者在国家/行业和项目层面应用。
本次会议汇聚了构成人工智能治理完整运行架构的三大机构节点:规范层(欧洲委员会/CETS 225/HUDERIA)、发展融资层(世界银行)和技术标准层(ISO/IEC SC 42)。会议并非以机构自我展示为目的,而是将每一项发言都立足于全球南方实践者提出的实际部署挑战——这些实践者最需要切实有效的工具,却在原则时代最缺乏服务。
托马斯·施耐德大使率领瑞士代表团出席数字和互联网治理领域(包括人工智能)的多个论坛。过去20年间,他曾担任多个国际委员会主席,并在国家和国际层面共同发起多个对话论坛。他曾任欧洲委员会人工智能委员会(CAI)主席(2021-2024年)和副主席(2024-2025年),该委员会负责谈判并通过了《框架公约》。
他是欧洲委员会媒体与信息社会指导委员会的主席团成员(曾于2018-2019年担任主席,2020-2021年担任副主席)。他曾主持多个CDMSI专家组会议。2019-2021年,他也是欧洲委员会人工智能特设委员会的主席团成员。2014-2017年,他担任ICANN政府咨询委员会主席,在此期间,他与各国政府及其他利益相关方就“IANA管理权过渡”(ICANN系统历史上规模最大的改革)进行了谈判,最终达成妥协。他还曾担任经合组织数字经济政策委员会副主席(2020-2022年)。
他负责组织了2017年在日内瓦举行的第十二届联合国互联网治理论坛,并担任2017年互联网治理论坛多方利益攸关方咨询小组的联合主席。他曾以瑞士总统多丽丝·洛伊特哈德(Doris Leuthard)的私人顾问身份(2018-2019年)参加了联合国秘书长数字合作高级别小组的会议。自2013年以来,他一直是瑞士互联网治理论坛的共同发起人之一。
通信和信息技术部(MCIT)技术人才发展顾问 | 国家人工智能战略负责人 | 埃及负责任人工智能中心代理主任
开罗大学计算机工程教授
霍达·巴拉卡博士现任埃及通信和信息技术部技术人才发展顾问,同时也是开罗大学工程学院计算机工程教授。她目前领导着“数字埃及世代”计划下的多项国家能力建设举措,其中包括面向大学生和毕业生的“数字埃及建设者”和“数字埃及先锋”计划(DEBI 和 DEPI),以及面向小学四年级至十一年级学生的“数字埃及幼狮”和“数字埃及奇才”计划。
作为埃及负责任人工智能中心代理主任,巴拉卡博士领导着信息技术部的国家人工智能战略。她负责制定和监督国家人工智能战略和治理框架,确保人工智能技术在埃及以负责任、安全和合乎伦理的方式部署。
巴拉卡博士此前于 2006 年至 2013 年担任通信和信息技术部第一副部长。2002 年至 2013 年,她还担任埃及信息通信技术信托基金国家主任,该基金旨在促进信息通信技术在可持续发展中的应用。
为表彰她通过技术推动教育发展所做出的贡献,她荣获联合国教科文组织哈马德·本·伊萨·阿勒哈利法国王信息通信技术教育应用奖。她还曾担任世界经济论坛/联合国教科文组织教育伙伴关系能力发展技术咨询小组和世界经济论坛全球教育技术议程理事会的成员。
巴拉卡博士拥有超过 40 年的经验,是一位经验丰富的数字化转型顾问,为公共和私营部门组织提供咨询服务。
Ayisha Piotti 是全球公认的人工智能政策领域的独立专家、思想领袖和桥梁建设者。她致力于确保新兴技术以合乎道德的方式服务于社会和子孙后代,她的跨部门职业生涯跨越了二十多年,涉及联合国、跨国公司和公职。作为RegHorizon的管理合伙人和苏黎世全球人工智能政策峰会的创始人,她建立了欧洲最具影响力的利益攸关多方人工智能对话平台之一,同时定期为国际治理机构、行业道德委员会和全球精英学术机构提供咨询。Ayisha 拥有经济学和管理学位,是伦敦政治经济学院、塔夫茨大学弗莱彻法律与外交学院、麻省理工学院斯隆管理学院、欧洲工商管理学院和国际工商管理学院的校友。
Peter Deussen是How To Standard的创始人,也是拥有16年经验的国际ICT标准化专家。 他在德国 标准化协会(DIN)担任领导职务,包括人工智能和云计算委员会的主席们,并参与了ISO/IEC和CEN/CENELEC的欧洲和国际标准化活动。 作为德国国家标准官,他领导了Microsoft在人工智能和数据共享方面的国际标准工作。
James Kanja Cobba 是一位技术高管、数字化转型战略家和 AI 治理领导者,在政府、电信、学术界和国际发展领域拥有超过 15 年的高级领导经验。他因帮助制定塞拉利昂的数字化转型议程和推进实现可信、包容和创新驱动的数字经济的政策框架而广受认可。
他目前担任塞拉利昂通信、技术和创新部政策规划和合规司司长,领导制定国家数字政策、治理框架、立法改革和战略计划,以加强数字政府、数字公共基础设施、网络安全、数据治理和新兴技术。他还担任该国的人工智能项目经理,领导国家努力制定负责任的人工智能治理方法,使创新与公共价值、机构准备和可持续发展保持一致。
在加入塞拉利昂政府之前,James曾在塞拉利昂电信部门担任高级技术领导职务,为该国基础宽带基础设施的技术架构和部署规划做出了贡献,其中包括首个海底光缆登陆和国家地面光纤骨干网。这些举措帮助建立了继续支撑塞拉利昂数字经济的互联互通平台。
除了行政领导能力,詹姆斯还在塞拉利昂大学担任了十多年的研究员和讲师,促进技术创新、数字技能发展和机构转型。
他的区域和国际发展工作包括支持西非的数字政策和立法举措,在国际电联任职,并代表塞拉利昂参加ICANN政府咨询委员会,为全球互联网治理和数字政策讨论做出贡献。
James带来了一个独特的视角,在技术、公共政策、数字化转型和人工智能治理之间架起了桥梁。他的工作重点是将新兴技术转化为实用、可扩展和包容性的解决方案,以加速整个非洲的公共部门转型,加强数字信任,并实现可持续的社会经济增长。他大力倡导确保人工智能能够促进人类发展、具有复原力的机构和公平的数字化转型。
-
C1。政府和所有利益攸关方在促进信息通信技术促进发展中的作用
-
C2。信息和通信基础设施
-
C3。获得信息和知识
-
C4。能力建设
-
C5。建立使用ICT的信心和安全性
-
C6。有利环境
-
C7。 ICT应用:生活各个方面的收益-电子政务
-
C7。 ICT应用:生活各个方面的益处-电子保健
-
C7。 ICT应用:生活各个方面的收益-电子就业
-
C8。文化多样性和身份认同,语言多样性和当地内容
-
C11。国际和区域合作
本次会议通过展示首个具有约束力的人工智能国际条约(CETS 225)及其配套的影响评估方法(HUDERIA)如何在政府、卫生和司法部门落实负责任的人工智能治理(C6、C7-电子政务、C7-电子卫生),直接推进了信息社会世界峰会行动方针。会议构建了人权条约机构、发展融资和技术标准之间多方利益攸关方和机构间合作的模式(C1、C11),并着重探讨了全球南方国家在缺乏充分规范工具的情况下开展人工智能采购的能力差距(C3、C4、C5)。会议以非歧视、文化偏见评估和包容性设计为基础,与C8相呼应;同时,会议提出的具有约束力的规范架构也构成了C6所设想的构建可信赖数字系统的有利环境。
-
目标3:确保健康生活并促进所有人的福祉
-
目标4:确保包容和公平的优质教育,并为所有人提供终身学习机会
-
目标5:实现性别平等并赋予所有妇女和女孩权力
-
目标8:促进全民包容和可持续的经济增长,就业和体面工作
-
目标9:建立有弹性的基础设施,促进可持续工业化和促进创新
-
目标10:减少国家内部和国家之间的不平等
-
目标16:促进公正,和平与包容的社会
-
目标17:振兴全球可持续发展伙伴关系
负责任的人工智能治理是实现2030年议程的先决条件。本次会议展示了CETS 225和HUDERIA如何为各国政府——特别是全球南方国家的政府——提供必要的约束性规范和方法论工具,以确保人工智能系统在卫生(可持续发展目标3)、司法和公共管理(可持续发展目标16)领域服务于人权和平等,而不是损害人权和平等。通过解决就业和服务提供中的算法歧视和偏见问题,本次会议有助于减少国家内部和国家之间的不平等(可持续发展目标10)。会议提出的整合架构——结合了人权条约、发展融资保障措施和ISO/IEC技术标准——为可持续发展目标17所设想的技术治理多机构伙伴关系树立了典范。针对发展中国家从业人员的能力建设(可持续发展目标4)以及HUDERIA中嵌入的非歧视框架(可持续发展目标5)完善了人工智能治理作为可持续发展推动因素的图景。
- 目标 1:消除所有数字鸿沟,加快实现可持续发展目标
- 目标 4:推进负责任、公平、可互操作的数据治理方法
- 目标2:扩大数字经济的包容性,让所有人从中受益
- 目标3:营造一个包容、开放、安全、有保障的数字空间,尊重、保护和促进人权
- 目标五:加强人工智能国际治理,造福人类
https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence
https://www.coe.int/en/web/artificial-intelligence/cdnet
https://www.coe.int/en/web/artificial-intelligence/huderia-risk-and-impact-assessment-of-ai-systems
https://rm.coe.int/prems-002726-gbr-2006-huderia-texte-web-a4/48802ba7b1