Кто сертифицирует ИИ, который перемещается среди нас? Создание независимых средств обеспечения безопасности для ИИ в физическом мире
Ответственный ИИ по вопросам безопасности и этики (RAISE)
Сессия 208
На пути к созданию преднормативной базы для сертификации автономных и киберфизических систем ИИ, работающих в гражданской среде
Предыстория.
Искусственный интеллект больше не ограничивается экранами и центрами обработки данных. Теперь он летает на дронах над населенными районами, ездит на наземных роботах по больницам, аэропортам и городским улицам, а также управляет ассистивными и хирургическими системами, принимая решения, которые действуют непосредственно в физическом мире, часто в присутствии гражданских лиц, которые никогда не соглашались находиться рядом с ними. Тем не менее, в то время как авиация, ядерная энергетика и железнодорожный транспорт опираются на зрелые, независимые режимы сертификации безопасности, ни один эквивалентный орган не сертифицирует безопасность систем ИИ, работающих в открытой физической среде. Рассмотрим простой вопрос: кто удостоверяет, что автономный робот-доставщик или инспекционный дрон, летающий над толпой, безопасен для окружающих людей? На сегодняшний день нет четкого ответа. В Европейском законе об ИИ рассматриваются вопросы управления и классификации рисков; Появляются стандарты ИСО/МЭК; EASA начала работу в области авиации. Но общий случай — ИИ, принимающий последовательные физические решения среди людей — находится между существующими мандатами. Это структурный разрыв в глобальной цифровой архитектуре, который пока не назван в рамках самой ВВУИО.
Соответствующая практика и прецеденты.
Вместо того, чтобы заявлять о преждевременных успехах, эта сессия обосновывает свои доводы доказанной смежной практикой. Морская отрасль отделила страховщика от сертифицирующего органа в 1834 году, признав, что нельзя беспристрастно судить о безопасности того, в чем он заинтересован — основополагающий принцип независимой гарантии третьей стороны, который позже создал современную авиационную сертификацию и критически важное для безопасности программное обеспечение. Более конкретно, методология SORA EASA уже показывает, как оценить оперативный риск, который дрон представляет для людей на земле. Таким образом, методы оценки безопасности автономной системы, работающей среди людей, существуют; не хватает только институционального центра, где они могли бы применяться в общем киберфизическом случае. Сессия опирается на десятилетия сертификации критически важного для безопасности программного обеспечения, чтобы сделать эту точку зрения точной и достоверной.
Концепция развития в направлении ВВУИО+20 и последующей деятельности.
В обзоре ВВУИО+20 подводятся итоги двадцатилетнего опыта укрепления доверия к ИКТ, и действия ИИ в физическом мире – это тот рубеж, на котором теперь необходимо завоевывать "доверие и безопасность". Эта сессия предлагает директивным и регуляторным органам и гражданскому обществу общий словарь для обозначения разрыва, который большинство ощущает, но мало кто называет, и призывает к независимым преднормативным усилиям по определению критериев безопасности для реального ИИ – базирующимся в Женеве, в самом сердце многосторонней системы. В ней правительствам, органам по стандартизации, отрасли и гражданскому обществу предлагается принять участие в ее создании.
-
C5. укрепление доверия и безопасности при использовании ИКТ
-
C7. применение ИКТ: преимущества во всех аспектах жизни - Э-здравоохранение
-
С10. Этические аспекты информационного общества
Это заседание касается непосредственно Направления деятельности C5. На протяжении двух десятилетий термин "доверие и безопасность при использовании ИКТ" в значительной степени означал кибербезопасность – защиту данных и сетей. По мере того, как ИИ начинает физически действовать среди людей, C5 должен распространяться на безопасность в инженерном смысле: гарантия того, что автономная система не причинит вреда окружающим. Это нерассмотренная половина С5. В рамках сессии также рассматриваются С7 (Электронное здравоохранение), в рамках которого автономные и ассистивные медицинские роботы уже работают на пациентах и рядом с ними, и С10, поскольку независимая сертификация является институциональной формой, которую должны принять этические принципы, чтобы их можно было применять, а не просто декларировать.
-
Цель 3: Обеспечение здорового образа жизни и содействие благополучию для всех
-
Цель 9: Создание устойчивой инфраструктуры, содействие устойчивой индустриализации и стимулирование инноваций
-
Цель 11: Сделать города инклюзивными, безопасными, жизнеспособными и устойчивыми
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
Сессия вносит непосредственный вклад в достижение ЦУР 9 – безопасный, сертифицируемый ИИ является предпосылкой создания устойчивой инфраструктуры и инноваций, которые завоевывают общественное доверие, а не разрушают его. Он поддерживает ЦУР 3 везде, где автономные системы работают в здравоохранении, ЦУР 11, когда дроны и роботы работают в общем городском пространстве, и ЦУР 16 через свое основное предложение — независимое, подотчетное учреждение по обеспечению безопасности, пример эффективных и заслуживающих доверия учреждений, к созданию которых призывает цель.
- Цель 3: Содействовать созданию инклюзивного, открытого, безопасного и защищенного цифрового пространства, которое уважает, защищает и поощряет права человека.
- Цель 5: Улучшение международного управления искусственным интеллектом на благо человечества.