Обеспечение безопасности ИИ в реальном мире: от принципов управления до оперативных инструментов.
Совет Европы
Сессия 241
От договора к инструментарию: преодоление разрыва в реализации управления ИИ.
Глобальная дискуссия об управлении ИИ породила беспрецедентное количество принципов, деклараций и рамок. Однако главная задача для правительств, международных организаций и институтов финансирования развития больше не заключается в формулировании того, как должен выглядеть ответственный ИИ, а в том, чтобы знать, что делать в понедельник утром, когда министерство здравоохранения закупает систему сортировки пациентов с помощью ИИ, судебная система внедряет алгоритмические инструменты оценки рисков или национальное агентство данных строит цифровую общественную инфраструктуру.
Рамочная конвенция Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права (CETS 225) представляет собой качественный сдвиг в этой области. Будучи первым обязательным международным договором по ИИ, она переводит управление из разряда стремлений в разряд юридических обязательств. Методология HUDERIA — оценка воздействия на права человека, демократию и верховенство права, разработанная CAI/CDNET, — преобразует эти обязательства в структурированные и практические инструменты, которые специалисты могут применять на страновом/секторальном и проектном уровнях.
На этой сессии объединяются три институциональных узла, которые вместе составляют полную операционную архитектуру управления ИИ: нормативный уровень (Совет Европы / CETS 225 / HUDERIA), уровень финансирования развития (Всемирный банк) и уровень технических стандартов (ISO/IEC SC 42). Это достигается не путем институциональной самопрезентации, а путем обоснования каждого вклада реальными проблемами внедрения, озвученными практиками из стран Глобального Юга — участниками, которые больше всего нуждаются в работающих инструментах и которые меньше всего ощутили на себе влияние принципа «эры принципов».
-
C1. роль правительств и всех заинтересованных сторон в содействии использованию ИКТ в целях развития
-
С2 Информационная и коммуникационная инфраструктура
-
C3. доступ к информации и знаниям
-
C4. Наращивание потенциала
-
C5. укрепление доверия и безопасности при использовании ИКТ
-
C6. Разрешающая среда
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронное правительство
-
C7. применение ИКТ: преимущества во всех аспектах жизни - Э-здравоохранение
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронная занятость
-
С8. Культурное разнообразие и самобытность, языковое разнообразие и местное содержание
-
С11. Международное и региональное сотрудничество
Эта сессия напрямую продвигает направления действий Всемирного саммита по информационному обществу, демонстрируя, как первый обязательный международный договор об ИИ (CETS 225) и сопровождающая его методология оценки воздействия (HUDERIA) обеспечивают ответственное управление ИИ в государственном, здравоохранительном и судебном секторах (C6, C7-E-government, C7-E-health). Она моделирует многостороннее и межведомственное сотрудничество между договорным органом по правам человека, финансированием развития и техническими стандартами (C1, C11) и рассматривает пробелы в потенциале государств Глобального Юга, занимающихся закупками ИИ без адекватных нормативных инструментов (C3, C4, C5). Основа сессии на принципах недискриминации, оценки культурных предубеждений и инклюзивного проектирования связана с C8, а представленная в ней обязательная нормативная архитектура формирует благоприятную среду, которую C6 предусматривает для создания надежных цифровых систем.
-
Цель 3: Обеспечение здорового образа жизни и содействие благополучию для всех
-
Цель 4: Обеспечить инклюзивное и справедливое качественное образование и содействовать созданию возможностей для обучения на протяжении всей жизни для всех
-
Цель 5: Достижение гендерного равенства и расширение прав и возможностей всех женщин и девочек
-
Цель 8: Содействие всеохватному и устойчивому экономическому росту, занятости и достойной работе для всех
-
Цель 9: Создание устойчивой инфраструктуры, содействие устойчивой индустриализации и стимулирование инноваций
-
Цель 10: Сокращение неравенства внутри стран и между ними
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
Ответственное управление ИИ является необходимым условием для выполнения Повестки дня на период до 2030 года. На этой сессии демонстрируется, как CETS 225 и HUDERIA предоставляют правительствам — особенно в странах Глобального Юга — обязательные нормативные и методологические инструменты, необходимые для обеспечения того, чтобы системы ИИ в здравоохранении (ЦУР 3), юстиции и государственном управлении (ЦУР 16) служили, а не подрывали права человека и равенство. Решая проблему алгоритмической дискриминации и предвзятости в сфере занятости и предоставления услуг, сессия способствует сокращению неравенства внутри стран и между ними (ЦУР 10). Представленная комплексная архитектура, объединяющая договор о правах человека, гарантии финансирования развития и технические стандарты ISO/IEC, моделирует многоинституциональное партнерство, предусмотренное ЦУР 17 для управления технологиями. Развитие потенциала специалистов из развивающихся государств (ЦУР 4) и рамочная программа по борьбе с дискриминацией, заложенная в HUDERIA (ЦУР 5), дополняют картину управления ИИ как фактора устойчивого развития.
- Задача 1: Ликвидировать все цифровые барьеры и ускорить прогресс в достижении Целей устойчивого развития
- Цель 2: Расширить доступность цифровой экономики и выгоды от нее для всех
- Цель 3: Содействовать созданию инклюзивного, открытого, безопасного и защищенного цифрового пространства, которое уважает, защищает и поощряет права человека.
- Цель 4: Развивать ответственные, справедливые и совместимые подходы к управлению данными
- Цель 5: Улучшение международного управления искусственным интеллектом на благо человечества.
https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence
https://www.coe.int/en/web/artificial-intelligence/cdnet
https://www.coe.int/en/web/artificial-intelligence/huderia-risk-and-impact-assessment-of-ai-systems
https://rm.coe.int/prems-002726-gbr-2006-huderia-texte-web-a4/48802ba7b1