Управление и оценка систем ИИ для надежного предоставления услуг
EY (Ernst & Young LLP)
Сессия 177
Инструменты и продукты ИИ все чаще внедряются в критически важных элементах предоставления услуг как в государственном, так и в частном секторе. Для управления потенциальными рисками от такого использования ИИ политики, гражданское общество и руководители бизнеса подчеркивают необходимость надежной реализации процессов управления ИИ. Эта потребность особенно высока для систем ИИ, где сбой может привести к значительному негативному воздействию на права человека. Надлежащая практика управления критически важными системами в других областях (например, кибербезопасность, безопасность ИТ) установила необходимость сочетать использование стандартов и фреймворков управления с надежными процедурами оценки, которые проверяют правильность реализации процессов управления и выявляют потенциальные пробелы или улучшения.
На этом семинаре мы обсудим сферу управления и оценки систем ИИ, а также выявим элементы политики, необходимые для того, чтобы управление и оценка ИИ могли надежно обеспечивать желаемые гарантии для уверенного использования ИИ, необходимые для высокоэффективных сценариев использования.
Мы рассмотрим:
- Текущие политические подходы (как обязательные, так и добровольные) к использованию управления ИИ и его оценкам
- Прогресс в установлении стандартов и минимальных требований для надежной проверки систем ИИ, включая навыки, обучение и экспертизу, необходимые поставщикам оценки
- Особые проблемы, которые необходимо учитывать при создании структур управления и оценки использования ИИ на глобальном Юге.
В ходе обсуждения мы рассмотрим вопросы политики, связанные со следующими вопросами:
- Каковы минимальные требования политики для оценки ИИ, чтобы предоставить надежную информацию о надежности систем ИИ, используемых в приложениях с высоким риском/воздействием?
- Каким образом системы оценки ИИ могут способствовать принятию ИИ в качестве инструмента для достижения Целей устойчивого развития на период до 2030 года?
- Как стандарты управления и оценки ИИ могут помочь сократить глобальный цифровой разрыв?
Сессия состоит из двух половин по тридцать минут каждая. В течение первых 30 минут спикер поделится своими идеями с участниками и ответит на вопросы. Во второй половине роли поменяются, и аудиторию попросят поделиться своим опытом и примерами использования, на основе которых спикеры попытаются составить некоторые первоначальные рекомендации.





-
C3. доступ к информации и знаниям
-
C4. Наращивание потенциала
-
C5. укрепление доверия и безопасности при использовании ИКТ
-
C6. Разрешающая среда
-
С10. Этические аспекты информационного общества
-
Цель 8: Содействие всеохватному и устойчивому экономическому росту, занятости и достойной работе для всех
-
Цель 9: Создание устойчивой инфраструктуры, содействие устойчивой индустриализации и стимулирование инноваций