Политика знаний в эпоху ИИ: расширение прав и возможностей человеческой деятельности через стандарты, права человека и роль корпораций
Международный союз электросвязи, Управление Верховного комиссара Организации Объединенных Наций по правам человека и Гарвардская школа Кеннеди Центр Карра-Райана
Сессия 395
Искусственный интеллект и технологии, основанные на данных, меняют не только экономику и государственные услуги, но и политику самих знаний: что можно знать, кто контролирует эти знания и как они используются для формирования индивидуального и коллективного поведения.
Распространение и распространение знаний все чаще осуществляется при помощи цифровых инфраструктур, которые часто управляются частным сектором. Это вызывает дискуссию об информационной среде и о том, как она соотносится с правами человека. В этом контексте технические стандарты играют основную, но часто упускаемую из виду роль. Формируя потоки данных, архитектуру систем, функциональную совместимость, структуру идентичности, механизмы модерации контента и варианты алгоритмического проектирования, стандарты эффективно определяют, каким образом в масштабах производятся, распространяются и ограничиваются знания.
Стандарты не являются нейтральными: хотя обычно они воспринимаются как чисто технические инструменты, они все чаще функционируют как инфраструктура управления, оказывая влияние на знания и принятие решений, что имеет глубокие последствия для деятельности человека и прав человека, таких как свобода выражения мнений, доступ к информации, неприкосновенность частной жизни, а также свобода мнений и мыслей.
На этой панели будет обсуждаться вопрос о том, как ИИ и технические стандарты пересекаются с политикой знаний, как они могут непреднамеренно усиливать асимметрию власти и как подходы к стандартизации, основанные на правах человека, могут помочь привести технический дизайн в соответствие с демократическими ценностями и правами человека. Роль частного сектора здесь является ключевой, по крайней мере, по двум причинам: во-первых, потому что компании участвуют в разработке технических стандартов и формируют их в организациях и консорциумах по разработке стандартов; а во-вторых, потому что эти компании также используют эти технические стандарты и адаптируются к ним. В этом смысле полезно координировать взаимодействие компаний с правозащитным подходом, уделяя особое внимание Руководящим принципам ООН, а также понять, как группы по правам человека и технологическим стандартам в компаниях могут сотрудничать для создания среды знаний, уважающей права человека.
Оливье Але работает на стыке технологий, управления и прав человека, имеет 20-летний опыт работы в Организации Объединенных Наций, учреждениях по развитию и консалтинге.
В Международном союзе электросвязи (МСЭ) он возглавляет усилия по интеграции прав человека в управление, технические стандарты и возникающие технологии в области ИИ. Он также является научным сотрудником Центра Карра Гарвардской школы Кеннеди, где он продвигает исследования прав в цифровом управлении.
Ранее он руководил крупными цифровыми программами во Французском агентстве развития, Всемирном банке и USAID, а также основал Soukeina, цифровую консалтинговую фирму, реализующую проекты в Африке, Азии и Латинской Америке.
Его работа сосредоточена на создании заслуживающих доверия, основанных на правах и готовых к будущему цифровых экосистем, в которых инновации сочетаются со справедливостью и подотчетностью.
Жуан Брант является секретарем по цифровой политике в Управлении социальных коммуникаций при президенте Республики. Он получил степень доктора политических наук в Университете Сан-Паулу (USP), степень магистра в области регулирования и политики в области связи в Лондонской школе экономики и степень бакалавра в области социальных коммуникаций USP. Он занимал должность исполнительного секретаря Министерства культуры (2015–2016 годы) и специального советника муниципального секретариата культуры Сан-Паулу (2013–2014 годы). Он обладает обширным опытом в таких областях, как свобода выражения мнений, инфраструктура электросвязи и права в интернете. Он участвует в разработке и реализации политики, связанной с ИИ, уделяя особое внимание важности разработки суверенного ИИ, отвечающего социально-экономическим потребностям страны и являющегося одновременно этичным и инклюзивным. Он участвовал в инициативах по продвижению цифрового и медийного образования с целью подготовки общества к вызовам и возможностям цифрового мира.
Изабель Эберт является советником проекта B-Tech при Управлении ООН по правам человека в области предпринимательства и прав человека в технологическом секторе и членом Группы экспертов ОЭСР по искусственному интеллекту.
Она также является приглашенным лектором в Университете Санкт-Галлена по цифровой политике и ответственному ведению бизнеса.
Изабель была научным сотрудником по технологиям и правам человека в Центре Карра Гарвардской школы Кеннеди и приглашенным докторантом в Оксфордском институте Интернета. Она была представителем ЕС в Ресурсном центре бизнеса и прав человека, расположенном в Лондоне, и имеет докторскую степень в области деловой этики с акцентом на управление технологиями в Университете Санкт-Галлена.
Джоэл Кристоф — политический экономист, работающий в области управления ИИ, технических стандартов и прав человека. В своих исследованиях он изучает, как стандарты и регулирование ИИ влияют на неприкосновенность частной жизни, свободу выражения мнений и доступ к информации, включая недавнюю работу, в которой предлагается минимальный стандарт происхождения и оспариваемости ИИ. Он был стипендиатом Центра управления ИИ и Центра политики Карра-Райана Гарвардской школы Кеннеди, а также является стипендиатом программы Globethics «Новые лидеры в этичном управлении ИИ». Его комментарии об управлении ИИ и Законе ЕС об ИИ публиковались в журналах Lawfare, Tech Policy Press и Всемирном экономическом форуме.
Дженна Омасси — менеджер по государственной политике в TikTok, где она руководит взаимодействием и партнерством с многосторонними учреждениями. Она имеет почти десятилетний опыт работы в области международных технологий, безопасности и внешней политики. До работы в TikTok Дженна работала в Ofcom, регуляторе связи Великобритании, и в правительстве Канады.
Хакобо Кастелланос координирует команду по технологиям, угрозам и возможностям в WITNESS, глобальной правозащитной организации, поддерживающей сообщества, использующие видео и технологии для разоблачения несправедливости. Он исследует, как новые технологии, включая генеративный ИИ и манипулируемые медиа, влияют на безопасность, доверие и свободу действий людей, документирующих злоупотребления. Хакобо также является одним из Председатели Целевой группы по угрозам и вреду Коалиции по происхождению и подлинности контента (C2PA), которая разрабатывает открытые стандарты для проверяемого происхождения цифрового контента. Его работа привносит правозащитную призму в техническое проектирование, управление и информационно-пропагандистскую деятельность, на основе консультаций с низовыми группами, журналистами, активистами и технологами по всему миру.
-
C1. роль правительств и всех заинтересованных сторон в содействии использованию ИКТ в целях развития
-
C3. доступ к информации и знаниям
-
C4. Наращивание потенциала
-
C5. укрепление доверия и безопасности при использовании ИКТ
-
C6. Разрешающая среда
-
C9. СМИ
-
С10. Этические аспекты информационного общества
-
С11. Международное и региональное сотрудничество
Эта сессия вносит непосредственный вклад в работу по направлениям деятельности ВВУИО, рассматривая вопрос о том, как искусственный интеллект, технологии, основанные на данных, и технические стандарты влияют на производство, распространение и контроль знаний в информационном обществе. Это особенно актуально для Направления деятельности C3, поскольку оно касается доступа к информации и знаниям в цифровой среде, которая все чаще опосредована частными платформами, алгоритмическими системами и технической инфраструктурой.
Сессия также вносит вклад в работу C1 и C11, собирая вместе представителей международных организаций, академических организаций, гражданского общества и частного сектора для обсуждения общих обязанностей в области управления и стандартизации ИИ. В нем рассматриваются вопросы C5, C6 и C10 и исследуются, каким образом доверие, безопасность, этические соображения и права человека могут быть включены в стандарты и системы управления. Наконец, он перекликается с C9, затрагивая более широкую информационную среду, включая модерацию контента, распространение знаний и последствия использования алгоритмических систем для свободы выражения мнений, доступа к информации, конфиденциальности и свободы мысли.
-
Цель 4: Обеспечить инклюзивное и справедливое качественное образование и содействовать созданию возможностей для обучения на протяжении всей жизни для всех
-
Цель 9: Создание устойчивой инфраструктуры, содействие устойчивой индустриализации и стимулирование инноваций
-
Цель 10: Сокращение неравенства внутри стран и между ними
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
Сессия поддерживает Цели в области устойчивого развития, рассматривая вопрос о том, как управление ИИ и технические стандарты могут уменьшить или усилить неравенство в доступе к информации, знаниям и полномочиям по принятию решений. Сосредоточив внимание на деятельности человека, правах человека и политике знаний в эпоху ИИ, сессия вносит вклад в достижение ЦУР 10 и ЦУР 16, особенно в том, что касается открытых для всех обществ, подотчетного управления и уважения основных свобод.
В ходе обсуждения также поддерживается ЦУР 9 путем рассмотрения роли технических стандартов в формировании цифровых инфраструктур и экосистем инноваций. Она способствует достижению ЦУР 4, способствуя пониманию того, как происходит производство и распространение знаний в среде, опосредованной ИИ. Наконец, многосторонний характер сессии с участием МСЭ, УВКПЧ, академических организаций, гражданского общества и частного сектора напрямую поддерживает ЦУР 17, поощряя создание партнерств для ответственной и уважающей права человека цифровой трансформации.
- Задача 1: Ликвидировать все цифровые барьеры и ускорить прогресс в достижении Целей устойчивого развития
- Цель 3: Содействовать созданию инклюзивного, открытого, безопасного и защищенного цифрового пространства, которое уважает, защищает и поощряет права человека.
- Цель 4: Развивать ответственные, справедливые и совместимые подходы к управлению данными
- Цель 5: Улучшение международного управления искусственным интеллектом на благо человечества.