Тестирование управления ИИ перед развертыванием: многосторонняя имитационная среда для стресс-тестирования политики
Университет Бат-Спа
Сессия 381
Структуры, политика, договоры и многосторонние соглашения по управлению ИИ обычно разрабатываются без тестирования в условиях, в которых они фактически должны функционировать. Настольные учения отрабатывают цепочки принятия оперативных решений. Для самого уровня управления эквивалентной методики не существует. В результате возникает структурный разрыв: предполагается, что системы работают до тех пор, пока кризис «серой зоны/порога» не докажет обратное.
Auracelle AI Governance Labs в партнерстве с Университетом Бат-Спа разработали методологию для устранения этого разрыва: асинхронные стресс-тестированные варгейминги управления. Вместо того, чтобы проверять, кто реагирует и как быстро, она проверяет, выдерживает ли сама структура управления, политика, договорная статья, нормативное положение под состязательным давлением, расколом коалиции и состязательным шоком в реальном времени.
ВВУИО+20 проходит в тот момент, когда ИИ уже формирует динамику эскалации, среду дезинформации, логистические сети и институциональное доверие, быстрее, чем могут адаптироваться системы управления. Концепция, продвигаемая на этой сессии, проста: системы управления должны подвергаться стресс-тестированию. Имитация – это недостающий институциональный уровень. Она обеспечивает доказательную базу для директивных органов, участников переговоров по договору и органов по стандартам для принятия обоснованных решений об устойчивости системы управления ИКТ. правила, которые они строят.
-
C1. роль правительств и всех заинтересованных сторон в содействии использованию ИКТ в целях развития
-
C5. укрепление доверия и безопасности при использовании ИКТ
-
C6. Разрешающая среда
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронное правительство
-
C7. применение ИКТ: преимущества во всех аспектах жизни - Электронная наука
-
С10. Этические аспекты информационного общества
-
С11. Международное и региональное сотрудничество
Эта сессия напрямую продвигает работу по Направлению деятельности C5 путем разработки и эмпирической проверки воспроизводимой методики выявления уязвимостей управления в политических основах ИИ до их развертывания и после их развертывания в кризисных условиях. Она вносит вклад в работу C6, показывая, что благоприятная среда для ИИ требует не только разработки нормативных документов, но и систематической проверки на устойчивость. Она связана с Документом C10, поскольку в нем основное внимание уделяется этической целостности положений об управлении ИИ. включая защиту осведомителей, мандаты прозрачности и механизмы принуждения, в условиях состязательной нагрузки. С1 и С11 участвуют через многостороннюю архитектуру самой имитации, которая объединяет представителей государственных органов, гражданского общества, промышленности, научных кругов и военных из разных регионов и часовых поясов через оспариваемый ИИ стол переговоров. C7 Электронное правительство рассматривается путем непосредственного применения результатов моделирования при разработке политики и составлении договоров процессы.
-
Цель 9: Создание устойчивой инфраструктуры, содействие устойчивой индустриализации и стимулирование инноваций
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
Цель 16 является основной связью: справедливые, мирные и инклюзивные общества нуждаются в институтах управления, которые функционируют под давлением. Имитационное моделирование управления, прошедшее стресс-тестирование, обеспечивает эмпирическую основу для создания и проверки этих институтов до того, как они столкнутся с реальным крахом. Цель 9 реализуется путем разработки новой, воспроизводимой имитационной инфраструктуры, которая позволяет внедрять инновации в области управления в различных областях политики, включая киберпространство, ядерную сферу, ИИ и космос. Цель 17 непосредственно обслуживается многосторонней, межведомственной структурой Auracelle Suite, который создан для межгеографического сотрудничества между университетами, аналитическими центрами, оборонными исследовательскими институтами, международными организациями и гражданским обществом, генерируя общие, сопоставимые данные исследований в области управления в ходе сессий.
- Цель 3: Содействовать созданию инклюзивного, открытого, безопасного и защищенного цифрового пространства, которое уважает, защищает и поощряет права человека.
- Цель 4: Развивать ответственные, справедливые и совместимые подходы к управлению данными
- Цель 5: Улучшение международного управления искусственным интеллектом на благо человечества.
Grace-Alice.Evans25@bathspa.ac.uk
YouTube demonstration: https://youtube.com/watch?v=nTznkPu_Dco&feature=shared
LinkedIn: https://www.linkedin.com/in/grace-alice-evans-5a9632a3