议程

背景。

人工智能不再局限于屏幕和数据中心。现在，它让无人机飞越有人居住的地区，驾驶地面机器人穿过医院、机场和城市街道，并运营辅助和外科系统——做出的决定直接作用于物理世界，而且往往是在从未同意靠近它们的平民在场的情况下。然而，尽管航空、核电和铁路都依赖于成熟、独立的安全认证制度，但没有一个同等机构对在开放物理环境中运行的人工智能系统的安全性进行认证。考虑一个简单的问题：谁来证明自主配送机器人或飞越人群的检查无人机对周围的人是安全的？今天，没有明确的答案。《欧洲人工智能法案》涉及治理和风险分类;ISO/IEC标准正在兴起;欧洲航空安全局已经开始为航空业开展工作。但一般情况——人工智能在人与人之间做出相应的物理决定——处于现有职责范围之间。这是全球数字架构中的一个结构性差距，WSIS框架本身尚未指出这一差距。

相关做法和先例。

本次会议没有声称过早的成功，而是以经过验证的相邻实践为基础。海事行业于 1834 年将保险公司与认证机构分开，认识到人们无法公正地判断自己有兴趣部署的产品的安全性——这是独立第三方保证的创始原则，后来建立了现代航空和安全关键软件认证。更具体地说，EASA的SORA方法已经展示了如何评估无人机对地面人员构成的操作风险。因此，存在评估在人中操作的自治系统安全性的方法;目前缺少的是将之应用于一般网络物理案例的机构之家。该会议借鉴了数十年的安全关键型软件认证，使这一点变得准确和可信。

实现WSIS+20及未来的愿景。

正如WSIS+20审查回顾了二十年来在ICT领域建立信任的历程，在现实世界中发挥作用的人工智能是必须赢得“信心和安全”的前沿。本节会议为决策者、监管机构和民间团体提供了一个共享词汇表，说明大多数人已经感觉到但很少有人点名的差距，并呼吁在多边体系的核心日内瓦开展一项独立的、规范前的工作，为现实世界的人工智能定义安全标准。它邀请政府、标准机构、行业和民间团体帮助建立它。