联合国数字技术机构国际电信联盟（国际电联）今日宣布了一项新举措，为可信的数字身份制定框架，并确保人工智能代理在其整个生命周期内始终保持可信且可追责的行为。

在人工智能向善全球峰会上宣布成立的新的国际电联人类和代理人工智能信任和身份焦点组，正值人工智能（AI）迅速发展，已不再局限于辅助工具，而是日益演变为代表人类行事的自主代理。

虽然代理AI有望大幅提高生产力，但也带来了新的风险，从自主代理冒充人或组织，到在互连的系统中采取未经授权的行动。国际电联焦点组将通过制定框架来应对这些挑战，确保在执行金融交易和运营关键基础设施等任务时，人类能够保持有意义的控制权。

“人工智能的未来取决于信任，"国际电联秘书长多琳·伯格丹-马丁指出。“随着人工智能变得更加自主，我们需要行业、政府、学术界和民间团体共同努力，确保对人工智能系统抱有最大信心。"

随着人工智能系统在规划和行动方面日益独立，确定代理的身份及其行为是否可信的能力变得至关重要。

AI代理越来越需要相互识别和认证。同样重要的是，他们的决定和行动必须保持可追责、可控和值得信赖。

身份系统用于确定行动主体是谁，而可信度则决定该主体是否可靠。二者共同为人类与自主人工智能系统之间安全交互奠定了基础。

焦点组将探讨人类与人工智能代理在信任管理方面面临的挑战、代理人工智能系统的整体可信度，以及如何在保持对其行为的控制权的同时，增强人们对人工智能代理行为的信心。

“人工智能代理很快将代表我们进行谈判、交易和做出决定，"焦点组联合主席Debora Comparin说。“在这一未来成为现实之前，我们需要建立共同的国际基础，以明确这些代理的身份、何时可以信赖它们，以及人类如何保持控制权。这正是成立该焦点组所要应对的挑战。"

“代理人工智能开创了一类全新的数字行为体，它们将越来越多地与人类以及彼此之间进行协作，"联合主席Amir Banifatemi表示。“身份告诉我们是谁在行动，可信度则告诉我们该行为体预计会如何表现。将这两者结合起来，便为在全球范围内构建可互操作、可追责且可信的人工智能系统奠定了必要的基础。"

该焦点组向技术专家以及政策、法律和监管专家开放，以制定：

• 通用术语和定义；
• 身份、信任、代理发现和互操作性的参考架构；
• 信任框架和生命周期（保障）模型；
• 数字身份和证书的互操作性机制；
• AI代理持续评估的安全标准和基准；以及
• 协调专家社区行动的标准化路线图。

焦点组将向国际电联安全标准专家组ITU-T第17研究组报告工作。

“我们正在采取战略性且迅速的行动，但同时也审慎地花时间打好基础，"第17研究组主席Arnaud Taddei说。“我们清楚前进的方向，也大致知道要构建什么。目前，我们正在组建合适的领导班子和组织架构，而'人工智能向善'正是我们与希望加入我们的合作伙伴会面的平台。"

除焦点组的共同主席外，还将组建一个规模更大的领导班子，班子的最终人选将在未来几周内经过广泛磋商后确定。焦点组向所有感兴趣的专家开放，将于2026年11月在巴黎举行首次会议，并于2027年1月在日内瓦举行第二次会议。

国际电联焦点组有助于加快制定新的全球标准，并已被广泛用于与快速发展的人工智能环境齐头并进。

“我们在制定国际电联标准过程中取得的协商一致，为新的创新生态系统的成长提供了所需的明确方向，"国际电联电信标准化局主任尾上诚藏说，“这个焦点组是一个开放的平台，旨在帮助每个人充满信心和确定性地向前迈进。"

其他正在开展工作的焦点组致力于研究人工智能促进智慧城市发展、具身人工智能和多媒体，以及人工智能原生网络。此前的人工智能焦点组探讨了自主网络、卫生、农业、减少灾害风险和自动驾驶汽车等领域。

###

国际电信联盟（国际电联）简介

国际电信联盟（国际电联）是负责数字技术的联合国机构，拥有194个成员国和作为成员的1 000多家公司、大学、民间团体以及国际和区域性组织，推动创新，造福人类和我们的星球。国际电联成立于1865年，协调无线电频谱和卫星轨道的全球使用，制定国际技术标准，推动普遍连接和数字服务，并帮助确保包括最偏远社区在内的每个人都能从可持续的数字化转型中受益。从人工智能（AI）到量子，从卫星和海底光缆到先进的移动和无线宽带网络，国际电联致力于连通世界及未来之大业。欲了解更多信息，请访问：www.itu.int。