Будущее ИИ в судебной системе: запуск исследования ЮНЕСКО по использованию ИИ судебными исполнителями
ЮНЕСКО
Сессия 363
Интерес к использованию инструментов искусственного интеллекта (ИИ) судебными операторами растет, и в последние годы увеличился их доступ к генеративным инструментам ИИ. Совсем недавно судьи, прокуроры и юристы по всему миру начали использовать чат-ботов на базе моделей большого языка (LLM) для составления юридических документов, проведения юридических брифингов и разработки аргументов на судебных слушаниях.
Однако формальных указаний по адекватному использованию этих инструментов для отдельных лиц или организаций в секторе правосудия недостаточно. Лишь несколько стран мира издали политику, правила или рекомендации о том, как судебные операторы могут принять и использовать эти инструменты этично и ответственно.
Эти инструменты могут помочь судьям, прокурорам, адвокатам, государственным служащим в сфере отправления правосудия и исследователям улучшить качество своей работы, облегчая поиск информации, автоматизируя задачи и поддерживая процессы принятия решений.
Хотя инструменты ИИ могут способствовать достижению основных целей сектора правосудия, небрежное использование систем ИИ судебными исполнителями может также подорвать права человека, такие как справедливое судебное разбирательство и надлежащая правовая процедура, доступ к правосудию и эффективным средствам правовой защиты, конфиденциальность и защита данных, равенство перед закон и недискриминация, а также судебные ценности, такие как беспристрастность и подотчетность.
На этой сессии будут обсуждаться:
- Проблемы и возможности использования ИИ в судебной системе.
- Последствия ИИ для прав человека, к которым судебная система должна быть готова.
- Результаты исследования ЮНЕСКО по использованию ИИ судебными исполнителями.
- Вклад аудитории в формирование Руководства по использованию систем искусственного интеллекта в судах и трибуналах.
На сессии ЮНЕСКО представит результаты своего исследования по использованию ИИ судебными исполнителями. В рамках этого опроса были получены ответы от более чем 500 судебных операторов из 96 стран относительно использования ими генеративного ИИ. Большинство респондентов, участвовавших в опросе, указали на необходимость разработки руководящих принципов для судей и соответствующих учреждений по использованию ИИ в судебной практике.
Исследование ЮНЕСКО ляжет в основу Руководящих принципов ЮНЕСКО по использованию систем искусственного интеллекта в судах и трибуналах, которые в настоящее время проходят консультации с экспертами и заинтересованными сторонами.
Хуан Давид в настоящее время является доцентом Андского университета. Ранее он был профессором Школы международных, политических и городских исследований Университета дель Росарио. Его исследования сосредоточены на государственной политике, искусственном интеллекте, конкуренции и регулировании, а также управлении природными ресурсами. Он получил докторскую степень в области государственной политики в Оксфордском университете после получения степени магистра права и экономики (LLM) в Университете Болоньи и Университете Эразма в Роттердаме.
Аманда — юрист и политолог с опытом работы в области права и технологий, государственной политики и социотехнических исследований в области искусственного интеллекта. Ее карьера сосредоточена на преодолении разрыва между новыми технологиями и верховенством закона. Ее основными темами исследований были политика и регулирование борьбы с дезинформацией, цифровая и информационная грамотность, ответственное внедрение ИИ в государственном секторе и текущие проблемы этики в индустрии ИИ.
Адъ-профессор Энтони Вонг — президент Международной федерации обработки информации (IFIP). IFIP — это международная организация в области информационных, коммуникационных технологий и науки, охватывающая пять континентов с общим числом членов более полумиллиона и имеющая связи с более чем 4000 учеными из академических и промышленных кругов, входящим в более чем 100 технических рабочих групп. Штаб-квартира ИФИП находится в Австрии и основана под эгидой ЮНЕСКО в 1960 году. Энтони возглавляет рабочую группу ИФИП по управлению ИИ, занимающуюся возникающими возможностями, регуляторными вопросами и проблемами, возникающими в результате быстрого развертывания технологий ИИ и использования данных во всех сегментах. промышленности, общества и правительства. Его недавние опубликованные работы совместно с IFIP Springer Nature Switzerland AG включают «Этика и регулирование искусственного интеллекта» и «Законы и регулирование искусственного интеллекта и автономных систем».
Энтони имеет обширный опыт работы в качестве технолога, новатора, ученого, юриста и директора по информационным технологиям, а также имеет двойную квалификацию в области ИКТ и права. Он является руководителем AGW Legal & Advisory, многопрофильной юридической и консультативной практики, консультирующей во многих областях новых технологий, включая искусственный интеллект, управление данными, цифровую трансформацию, кибербезопасность, защиту конфиденциальности и данных, а также интеллектуальную собственность. Он возглавлял Консультативную группу по ИКТ правительства Нового Южного Уэльса и был советником Совета по ИКТ. Ранее он работал в Совете по отраслевым инновациям австралийского департамента инноваций, промышленности, науки, исследований и высшего образования. Он является адъюнкт-профессором Школы информационных и коммуникационных технологий факультета инженерии, вычислительной техники и естественных наук Технологического университета Суинберна, кампус Саравака.
Ираклий Беридзе, доктор философии, руководитель Центра искусственного интеллекта и робототехники ЮНИКРИ, ООН. Более 20 лет опыта ведения многосторонних переговоров, разработки программ взаимодействия с заинтересованными сторонами с правительствами, агентствами ООН, международными организациями, частным бизнесом и корпорациями, аналитическими центрами, гражданским обществом, фондами, научными кругами и другими партнерами на международном уровне. Г-н Беридзе консультирует правительства и международные организации по многочисленным вопросам, связанным с международной безопасностью, научными и технологическими разработками, новыми технологиями, инновациями и разрушительным потенциалом новых технологий, особенно по вопросам предотвращения преступности, уголовного правосудия и безопасности. Он поддерживает правительства во всем мире в разработке стратегий, планов действий, дорожных карт и политических документов по ИИ. С 2014 года инициировал и руководил одной из первых программ ООН по искусственному интеллекту. Инициирование и организация ряда мероприятий высокого уровня на Генеральной Ассамблее ООН и других международных организациях. Поиск синергии с традиционными угрозами и рисками, а также определение решений, которые ИИ может способствовать достижению Целей устойчивого развития Организации Объединенных Наций. Он является членом различных международных рабочих групп, в том числе Глобального совета по искусственному интеллекту Всемирного экономического форума, Группы высокого уровня ООН по цифровому сотрудничеству, Экспертной группы высокого уровня по искусственному интеллекту Европейской комиссии. Он часто читает лекции и выступает на темы, связанные с технологическим развитием, экспоненциальными технологиями, искусственным интеллектом и робототехникой, а также международной безопасностью. Он имеет многочисленные публикации в международных журналах и журналах и часто цитируется в средствах массовой информации по вопросам, связанным с ИИ. Ираклий Беридзе — международный гендерный чемпион, поддерживающий «Обязательство по равенству групп экспертов IGC». Он является лауреатом награды за присуждение Нобелевской премии мира ОЗХО в 2013 году.
Мириам Станкович имеет богатый исследовательский опыт в руководстве сложными проектами в области защиты и управления данными, права интеллектуальной собственности и технологий, оценки нормативного воздействия новых технологий (ИИ, блокчейн, Интернет вещей, виртуальная/дополненная реальность и 3D-печать), а также передачи технологий. Она также работала старшим советником по правовым и политическим вопросам в крупных международных организациях, таких как Международный союз электросвязи, Всемирный банк, Всемирная организация интеллектуальной собственности, Международная финансовая корпорация, Организация Объединенных Наций по промышленному развитию, Межрегиональный научно-исследовательский институт преступности и правосудия ООН. , Программа развития ООН, Межамериканский банк развития, Африканский банк развития, Африканский союз и Европейский союз.
Она была стипендиатом Фулбрайта в области интеллектуальной собственности и технологического права на юридическом факультете Университета Дьюка и стипендиатом Всемирного банка Макнамары в области экономики развития, прав интеллектуальной собственности и передачи технологий на Школе государственной политики Университета Дьюка. Она является автором многочисленных рецензируемых статей, книг, монографий, глав книг, законов и правительственных отчетов в области международной интеллектуальной собственности, передачи технологий, инноваций, государственной политики и регулирования новых технологий.
Кейтлин Крафт-Бухман — генеральный директор/основатель организации «Женщины за столом» и соучредитель <a+>Альянса инклюзивных алгоритмов. Альянс < A+ >, основанный в 2019 году, представляет собой глобальную коалицию технологов, активистов и ученых, которые выступают за инклюзивный искусственный интеллект и позитивные действия для алгоритмов, чтобы мы приблизились к созданию гендерного и расового равенства в мире, где машинное обучение не связывает уже предвзятая система в наше будущее. <a+>Альянс является лидером Коалиции действий Форума равенства поколений за технологии и инновации. «Женщины за столом», основанная в 2015 году, — это растущая глобальная ОГО по вопросам гендерного равенства и демократии, базирующаяся в Женеве, Швейцария, которая занимается продвижением изменений феминистских систем, используя призму технологий, инноваций и искусственного интеллекта, а также используя рычаги воздействия в области технологий, экономики, устойчивость и демократическое управление. Кейтлин также является соучредителем организации International Gender Champions, основанной в 2015 году со штаб-квартирой в Женеве и центрами в Нью-Йорке, Вене, Найроби, Гааге и Париже, сети лидеров женщин и мужчин, принимающих решения, которые разрушают гендерные барьеры для изменение системы.
Доктор Рэйчел Адамс — главный научный сотрудник Research ICT Africa, где она руководит Центром AI4D Africa Just AI, является директором Африканской обсерватории по ответственному искусственному интеллекту и главным исследователем Глобального индекса ответственного искусственного интеллекта.
Рэйчел — член Экспертного комитета ЮНЕСКО по реализации Рекомендации ЮНЕСКО по этике искусственного интеллекта, научный сотрудник Леверхалмского центра будущего интеллекта при Кембриджском университете, научный сотрудник отдела информационного права и политики. Центра Лондонского университета и научный сотрудник Tayarisha: Африканского центра передового опыта в области цифрового управления при Университете Витватерсранда, Йоханнесбург. Рэйчел ранее работала главным научным специалистом в Исследовательском совете по гуманитарным наукам в Южной Африке.
Рэйчел опубликовала множество публикаций в таких областях, как искусственный интеллект и общество, гендер и искусственный интеллект, прозрачность, открытые данные и защита данных.
Пратик Сибал — программный специалист отдела цифровой политики и цифровой трансформации сектора коммуникации и информации ЮНЕСКО. В этих рамках он координирует работу Сектора в области искусственного интеллекта и цифровой трансформации, уделяя особое внимание судебной системе и политикам. Его работа охватывает исследования, пропаганду, политические рекомендации и наращивание потенциала для управления цифровыми технологиями. Он преподает цифровое управление в Sciences Po, Париж.

Доктор Тауфик Джеласси был назначен помощником Генерального директора ЮНЕСКО по коммуникации и информации 1 июля 2021 года. На этой должности он отвечает за программы Организации по созданию инклюзивных обществ знаний, ведущей цифровой трансформации, разработке стратегии роли ИКТ в образовании и содействие свободе выражения мнений.
Доктор Джеласси имеет докторскую степень. степень доктора информационных систем Нью-Йоркского университета (США) и дипломы последипломного образования Университета Париж-Дофин (Франция).
Доктор Джеласси имеет обширный опыт работы в сфере высшего образования, научных исследований и информационных и коммуникационных технологий. Он занимал руководящие должности в академических, корпоративных и государственных органах Европы, США и Туниса.
Среди прочего он был программным директором и профессором стратегии и технологического менеджмента в бизнес-школе IMD в Лозанне (Швейцария, 2015 г. – июнь 2021 г.). До этого он занимал должность министра высшего образования, научных исследований и информационно-коммуникационных технологий в демократическом переходном правительстве Туниса (2014–2015 гг.). Предыдущие назначения включали должность председателя совета директоров Ooredoo Telecom в Тунисе, декана Национальной школы мостов и дорог (Париж), а также профессора и председателя факультета управления технологиями в INSEAD (Фонтенбло).
-
C4. Наращивание потенциала
-
C5. укрепление доверия и безопасности при использовании ИКТ
Мероприятие высокого уровня будет посвящено обнародованию результатов исследования ЮНЕСКО по использованию ИИ судебными исполнителями. Целью мероприятия будет обсуждение способов, с помощью которых судебные органы могут использовать инструменты ИИ в рамках своих функций ответственным и этичным образом, с целью формирования Руководства ЮНЕСКО по использованию систем ИИ в судах и трибуналах. Это соответствует направлениям действий C4 (Наращивание потенциала) и C5 (Укрепление доверия и безопасности при использовании ИКТ) WSIS.
-
Цель 5: Достижение гендерного равенства и расширение прав и возможностей всех женщин и девочек
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
Целью сессии является обсуждение преимуществ и рисков систем ИИ, включая генеративные системы ИИ, а также рассмотрение потребностей в наращивании потенциала судебных органов по этим темам. При этом на сессии будут рассмотрены такие риски, как алгоритмическая предвзятость в системах искусственного интеллекта, включая гендерную и расовую предвзятость, а также другие возникающие формы дискриминации. Кроме того, публикация результатов исследования ЮНЕСКО по использованию ИИ судебными исполнителями послужит основой для разработки Руководящих принципов, содержащих рекомендации по использованию таких преимуществ и рисков систем ИИ на национальном, региональном и глобальном уровнях управления ИИ. Таким образом, сессия соответствует ЦУР 5 (достижение гендерного равенства и расширение прав и возможностей всех женщин и девочек), ЦУР 16 (содействие справедливому, мирному и инклюзивному обществу) и ЦУР 17 (оживление глобального партнерства в целях устойчивого развития).