Международный союз электросвязи (МСЭ), специализированное учреждение ООН в области цифровых технологий, объявил о новой инициативе по разработке рамок для обеспечения доверенной цифровой идентичности и гарантии того, что поведение агентов ИИ остается заслуживающим доверия и подотчетным на всем протяжении их жизненного цикла.

Новая Оперативная группа МСЭ по вопросам доверия и идентичности для людей и агентного ИИ, о создании которой было объявлено в рамках Глобального саммита "ИИ во благо", начинает свою работу в критический момент, когда искусственный интеллект (ИИ) стремительно выходит за рамки вспомогательного инструмента и все чаще обретает черты полноценного автономного агента, действующего от имени человека.

Несмотря на значительный потенциал повышения продуктивности, агентный ИИ создает и серьезные риски − от присвоения автономными агентами идентичности людей или юридических лиц до выполнения несанкционированных действий в рамках взаимосвязанных систем. Оперативная группа МСЭ будет решать эти проблемы путем разработки рамок, которые обеспечивают сохранение реального контроля человека при выполнении таких задач, как осуществление финансовых транзакций и эксплуатация критической инфраструктуры.

"Будущее ИИ зависит от доверия, − заявила Генеральный секретарь МСЭ Дорин Богдан-Мартин. − По мере того как ИИ становится все более автономным, нам необходимо работать вместе с отраслью, правительствами, академическими организациями и гражданским обществом, чтобы обеспечить максимально возможное доверие к системам ИИ".

Планирование и действия систем ИИ становятся все более независимыми, поэтому решающее значение приобретает способность установить идентичность агента и определить, можно ли доверять его поведению.

Все чаще агентам ИИ требуется идентифицировать и аутентифицировать друг друга. Не менее важно, чтобы их решения и действия оставались подотчетными, контролируемыми и заслуживающими доверия.

Системы определения идентичности призваны установить действующего субъекта, в то время как аспект достоверности позволяет оценить степень его надежности. Вместе они составляют основу безопасного взаимодействия между людьми и автономными системами ИИ.

Оперативная группа займется проблемами в области управления доверием применительно к людям и агентам ИИ, обеспечения общей достоверности систем агентного ИИ, а также способами укрепления уверенности в поведении агентов ИИ при сохранении контроля над их действиями за человеком.

"Вскоре агенты ИИ будут вести переговоры, осуществлять транзакции и принимать решения от нашего имени, − заявила сопредседатель Оперативной группы Дебора Компарин. − Прежде чем это будущее наступит, необходимо создать международные основы, которые будут определять статус этих агентов, критерии доверия к ним и способы сохранения контроля за человеком. Именно для решения этой задачи и была создана данная Оперативная группа".

"Агентный ИИ вводит новый класс цифровых субъектов, которые будут все шире сотрудничать с людьми и друг с другом, − сказал сопредседатель Оперативной группы Амир Банифатеми. − Идентичность указывает на то, кто совершает действие, а достоверность − на то, какого поведения можно ожидать от этого субъекта. Объединение этих аспектов позволяет создать общую основу, необходимую для функционально совместимых, подотчетных и доверенных систем ИИ в глобальном масштабе".

Группа открыта для участия технических экспертов, а также специалистов в области политики, права и регулирования и будет заниматься разработкой:

• единой терминологии и определений;
• эталонных архитектур для определения идентичности, обнаружения агентов, обеспечения доверия и функциональной совместимости;
• структур доверия и моделей (гарантий) обеспечения доверия на протяжении жизненного цикла;
• механизмов функциональной совместимости для цифровой идентичности и регистрационных данных;
• критериев и контрольных показателей безопасности для непрерывной оценки агентов ИИ;
• дорожной карты по стандартизации для координации действий сообществ экспертов.

Оперативная группа будет отчитываться перед группой экспертов МСЭ по стандартам безопасности − 17-й Исследовательской комиссией МСЭ-Т.

"Мы действуем стратегически и оперативно, но при этом намеренно не торопимся, чтобы правильно заложить основы, − заявил Арно Таддеи, Председатель 17-й Исследовательской комиссии. − Мы знаем направление и в целом то, что мы хотим построить. Сейчас мы формируем надлежащее руководство и структуру, и "ИИ во благо" − это именно та площадка, где мы встретимся с партнерами, которые хотели бы присоединиться к нам".

В ближайшие недели к сопредседателям Оперативной группы присоединится расширенная руководящая команда, состав которой будет окончательно сформирован по итогам широких консультаций. Первое собрание Оперативной группы, открытой для всех заинтересованных экспертов, состоится в Париже в ноябре 2026 года, а второе − в Женеве в январе 2027 года.

Оперативные группы МСЭ способствуют ускорению разработки новых глобальных стандартов и широко используются для оперативного реагирования на стремительно меняющуюся среду ИИ.

"Консенсус, который мы достигаем при разработке стандартов МСЭ, создает ясность, необходимую для роста новых экосистем инноваций, − сказал Директор Бюро стандартизации электросвязи МСЭ Сейдзо Оноэ. − Эта Оперативная группа представляет собой открытую площадку, призванную помочь каждому двигаться вперед с уверенностью и без сомнений".

Другие оперативные группы занимаются вопросами, связанными с ИИ для "умных" городов, воплощенным ИИ и мультимедиа, а также сетями с нативным ИИ. Ранее оперативные группы по ИИ изучали автономные сети, здравоохранение, сельское хозяйство, снижение риска бедствий и беспилотные автомобили.

###

Об МСЭ

Международный союз электросвязи (МСЭ) − учреждение Организации Объединенных Наций в области цифровых технологий, которое задает направление инновациям в интересах человечества и планеты вместе со своими 194 Государствами-Членами и членами, представляющими более 1000 компаний, университетов, структур гражданского общества, а также международных и региональных организаций. МСЭ был создан в 1865 году и координирует на глобальном уровне использование радиочастотного спектра и спутниковых орбит, устанавливает международные стандарты в сфере технологий, содействует расширению универсальной возможности установления соединений и предоставлению цифровых услуг, а также способствует обеспечению для всех, в том числе сообществ, проживающих в наиболее отдаленных районах, возможности пользоваться преимуществами устойчивой цифровой трансформации. От искусственного интеллекта (ИИ) до квантовых технологий, от спутников и подводных кабелей до передовых сетей подвижной и беспроводной широкополосной связи − все это свидетельствует о том, что МСЭ верен идее соединить мир − и не только. Более подробная информация доступна на веб-сайте: www.itu.int.