Подходит для кого?
Женщины за столом/ФемТехнологии
Сессия 184
Данные, стратифицированные по признаку пола, и целостность ИИ с высоким риском
Призыв
Системы ИИ высокого риска развертываются на женщинах, которых никогда не было в данных. Эта сессия призывает к тому, чтобы данные по признаку пола и отчетность о результатах деятельности в разбивке по признаку пола были установлены в качестве минимальных требований, а не передового опыта для любой системы ИИ, развернутой в здравоохранении или уголовном правосудии. В июле этого года в Женеве параллельно с Форумом ВВУИО 2026 года состоится первый Глобальный диалог по вопросам управления использованием ИИ, и появилась возможность внедрить эти требования на уровень установления многосторонних стандартов.
Предыстория
Системы ИИ в здравоохранении и уголовном правосудии систематически приводят к худшим результатам для женщин — не из-за сбоев на уровне моделей, а потому, что данные, на которых они обучаются, были созданы учреждениями, которые исторически исключали женщин. Клинические испытания по умолчанию проводились по мужской физиологии до 1993 года. Диагностические рекомендации были откалиброваны на мужском теле. Судебные записи были сформированы десятилетиями гендерных оценок достоверности. Когда ИИ тренируется на этой основе, он не корректирует эти исключения. Он их масштабирует.
Последствия количественно оцениваются и документируются. Системы ИИ, обученные на искаженных медицинских данных, снижают точность диагностики на 11,3 процентных пункта. Алгоритмы прогнозирования сердечно-сосудистых заболеваний неизменно менее точны для женщин, даже если они обучены на наборах данных, сбалансированных по полу. Инструменты оценки судебного риска систематически завышают прогнозы рецидивизма у женщин — женщины с рейтингом «высокого риска» совершают повторные преступления менее чем в два раза реже мужчин с таким же баллом. Современные языковые модели позволяют проводить различные клинические оценки на основе идентичных историй болезни в зависимости от того, как пациент обозначен как мужчина или женщина. Это не пограничные случаи. Они представляют собой предсказуемые выходные данные структурно неполных данных, и совокупные показатели точности скрывают их.
Это кризис целостности данных, а не только проблема справедливости. Системы, которые терпят неудачу для половины населения, не являются высокопроизводительными системами. Это системы, сбои в работе которых скрыты метриками, которые мы используем для их оценки.
Соответствующие проекты
Эту сессию ведут два направления работы. В книге «Невидимое по замыслу: женское здоровье как слепое пятно в искусственном интеллекте и медицине» (Women At The Table & FemTechnology, 2025) прослеживается полный шестислойный каскад — от клинических исследований мужского дефолта через предвзятую документацию ЭМК до искаженных выходных данных ИИ — и документируется, как патчи справедливости, применяемые на уровне модели, не могут решить проблему инфраструктуры данных. Гендерная предвзятость в судебных алгоритмах: глобальный анализ алгоритмической дискриминации (Women At The Table, экспертный документ CSW70, 2026 г.) показывает, что та же структурная модель — отсутствие восходящих данных, предвзятые результаты и агрегированные показатели, скрывающие неудачу подгрупп — работает идентично и в ИИ в области уголовного правосудия. Вместе эти документы создают межотраслевую базу данных, которая переосмысливает гендерный разрыв в данных как проблему технического управления, а не стремление к разнообразию.
Концепция ВВУИО на период после 2025 года и на период до 2035 года
Форум ВВУИО 2026 года проходит в поворотный момент – на первом Глобальном диалоге по вопросам управления использованием ИИ, который пройдет в июле 2026 года в Женеве, впервые устанавливаются многосторонние стандарты в области ИИ. Если требования к данным, стратифицированным по признаку пола, не будут включены на этом этапе, их необходимо будет модернизировать — с большими затратами и после еще большего вреда.
Эта сессия призвана своевременно подготовить конкретный результат для этого процесса: рамочное заявление о минимальных данных о стратифицированных по признаку пола данных и дезагрегированных требованиях к отчетности о показателях работы для систем ИИ, характеризующихся высоким риском. Эта концепция не является еще одной декларацией принципов. Это подлежащий представлению документ гражданского общества, готовый к участию в процессе Глобального диалога, консультаций по введению в действие Закона ЕС об ИИ и механизмов договорных органов ООН, включая Общие рекомендации 40 и 41 КЛДЖ, в котором обязательство ВВУИО по созданию ориентированной на интересы людей, открытой для всех и ориентированной на развитие цифровой инфраструктуры преобразуется в осуществимый технический стандарт. То, что ВВУИО определила как концепцию, эта сессия стремится продвигать как требование.
-
C1. роль правительств и всех заинтересованных сторон в содействии использованию ИКТ в целях развития
-
C4. Наращивание потенциала
-
C6. Разрешающая среда
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронное правительство
-
C7. применение ИКТ: преимущества во всех аспектах жизни - Э-здравоохранение
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронная занятость
-
С10. Этические аспекты информационного общества
-
С11. Международное и региональное сотрудничество
C1 – Роль правительств и всех заинтересованных сторон Правительства являются одними из крупнейших поставщиков систем ИИ, используемых в здравоохранении, уголовном правосудии и социальных службах, именно в тех областях, где гендерный разрыв в данных приводит к наиболее серьезным сбоям. Это верно для стран с высоким уровнем дохода и в равной степени верно для Глобального Юга, где развертывание ИИ в государственном секторе ускоряется, а системы закупок все еще создаются. На этой сессии рассматривается обязанность всех правительств требовать подтверждения стратифицированности по признаку пола до развертывания рискованного ИИ в приложениях государственного сектора. В подготовленном рамочном заявлении будут определены конкретные рычаги закупок и регулирования, с помощью которых правительства, в том числе правительства с ограниченным регуляторным потенциалом, смогут сделать дезагрегированную отчетность о результатах деятельности условием развертывания, а не необязательным раскрытием информации.
C4 – Создание потенциала Требование стратифицированных по признаку пола данных может быть выполнено только в том случае, если регуляторные органы, сотрудники по закупкам и гражданское общество знают, что требовать и как интерпретировать то, что они получают. Этот пробел остро ощущается на Глобальном Юге, где структуры управления ИИ являются более новыми, а технические знания в области алгоритмического аудита менее развиты, но где последствия развертывания непроверенных систем наиболее серьезны. Данная сессия вносит непосредственный вклад в развитие этой способности — назвала конкретные показатели, методики аудита и форматы отчетности, которые делают дезагрегированную отчетность о результатах работы значимой на практике. Результаты сессии разработаны таким образом, чтобы их могли сразу же использовать участники, которым необходимо реализовать эти требования в различных регуляторных контекстах.
C6 — Благоприятная среда Данные и отчеты о показателях работы по признаку пола не могут требоваться от систем ИИ, если лежащие в их основе инфраструктуры данных не поддерживают их. Стандарты медицинских данных (HL7/FHIR, ICD, SNOMED) и архитектуры судебных данных должны включать структурированные поля для биологических переменных — менструального цикла, беременности, менопаузы — которые изменяют клиническую значимость каждого элемента данных, который они содержат. На большей части Глобального Юга инфраструктура медицинских данных все еще создается: это момент для того, чтобы убедиться, что она построена правильно, с полями, стратифицированными по полу, встроенными с самого начала, а не модернизированными. На этой сессии стандарты инфраструктуры данных рассматриваются как нормативная база, а не как техническая запоздалая мысль, и к ней привлекаются органы по стандартизации, решения которых определяют, какие области существуют в системах, в которых осуществляется обучение ИИ в глобальном масштабе.
C7 – Электронное здравоохранение Доказательная база наиболее ясна и наиболее развита в области ИИ в здравоохранении. Системы ИИ, обученные на клинических данных мужского пола, снижают точность диагностики женщин на 11,3 процентных пункта. Алгоритмы прогнозирования сердечных заболеваний не работают для женщин даже на наборах данных, сбалансированных по половому признаку. Отсутствующие переменные не являются неясными — это поля жизненного этапа, которые обычно пропускаются в электронных медицинских картах. Для женщин в странах Глобального Юга, где диагностическая инфраструктура более скудная, а клинические инструменты ИИ часто импортируются без местной валидации, эти неудачи усугубляются: системы, которые плохо работают для женщин в контексте, где они были разработаны, работают еще хуже при развертывании в разных группах населения без аудита с разбивкой по полу. На этой сессии будет рассмотрено, какими должны быть требования к данным, стратифицированным по признаку пола, в клиническом ИИ во всем мире и что должна означать валидация данных женщин, прежде чем система будет признана пригодной для развертывания.
C7 – Электронное правительство Инструменты оценки судебных рисков, алгоритмы определения права на получение социального обеспечения и системы распределения социальной помощи – это управляемые государством приложения ИИ, имеющие прямые последствия для жизни женщин. Систематическое завышение прогнозов рецидивизма среди женщин и гендерно дифференцированное распределение услуг социальной помощи, задокументированное в недавних исследованиях, отражает тот же структурный сбой, что и ИИ в здравоохранении: системы, обученные на исторически предвзятых институциональных записях, развернутых без проверки с разбивкой по полу. В странах Глобального Юга эти инструменты все чаще используются в судебных системах и системах социального обеспечения с ограниченными механизмами надзора и значительными препятствиями для юридических проблем, что делает требования проверки перед развертыванием все более важными. На этой сессии рассматриваются требования к управлению ИИ в сфере государственного управления как непосредственно, так и в клинических условиях.
C7 – Электронная занятость Алгоритмический найм, управление показателями деятельности и инструменты отбора кандидатов на занятость применяют ИИ для принятия решений на рынке труда в широком масштабе. Если данные по обучению отражают исторически сложившиеся гендерные модели занятости, эти системы рискуют закодировать и усилить существующее неравенство. В контексте Глобального Юга, где неформальная занятость и изоляция на рынке труда уже непропорционально затрагивают женщин, внедрение ИИ для занятости без валидации с разбивкой по полу добавляет еще один уровень алгоритмического неравенства. Междоменное обрамление этой сессии явно включает в себя ИИ занятости, а минимальные требования рамочного заявления для проверки стратифицированности по признаку пола предназначены для применения в прикладных областях с высоким риском и в разных контекстах дохода.
• C10 – Этические аспекты информационного общества. Совокупные показатели точности не являются достаточным этическим стандартом для ИИ с высоким уровнем риска. Система, которая в среднем работает хорошо, систематически подводя женщин — и в наибольшей степени подводя их в контексте Глобального Юга, где механизмы возмещения ущерба наиболее слабы, — не является высокоэффективной системой. Это система, сбои в работе которой скрыты показателями, используемыми для ее оценки. На этой сессии дезагрегированная отчетность по полу и пересекающимся характеристикам переосмысливается как минимальное выражение этической приверженности ИИ, переводя разговор от принципов к обязательным требованиям. Рамочное заявление призвано придать этическому аспекту Форума ВВУИО 2026 года техническую и оперативную форму, которая не будет охватывать Женеву.
C11 – Международное и региональное сотрудничество Гендерный разрыв в данных в области ИИ – это глобальная проблема, решение которой возможно многостороннее. Обязательства по КЛДЖ, Глобальный цифровой договор и первый Глобальный диалог по управлению на основе ИИ – все это обеспечивает существующие рамки, с помощью которых минимальные требования к данным, стратифицированным по признаку пола, могут быть выдвинуты на международном уровне. Женщины в странах Глобального Юга сталкиваются с комплексными последствиями, связанными с нехваткой данных, более слабой регуляторной средой и развертыванием систем, проверенных на уровне населения, которое их не представляет, что делает международное сотрудничество в области минимальных стандартов не только вопросом управления, но и императивом равенства. Результаты работы этой сессии явно предназначены для представления в процессе Глобального диалога, и его проектные решения посвящены голосам стран Глобального Юга как соавторов требований, а не как получателей стандартов, разработанных где-либо еще. Форум ВВУИО 2026 года – подходящий момент, а Женева – подходящее место, чтобы обеспечить создание первого поколения многосторонних стандартов управления ИИ для всех женщин, а не только для тех, чьи данные были собраны.
-
Цель 3: Обеспечение здорового образа жизни и содействие благополучию для всех
-
Цель 5: Достижение гендерного равенства и расширение прав и возможностей всех женщин и девочек
-
Цель 8: Содействие всеохватному и устойчивому экономическому росту, занятости и достойной работе для всех
-
Цель 10: Сокращение неравенства внутри стран и между ними
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
ЦУР 3 – Хорошее здоровье и благополучие ИИ в здравоохранении является основной областью доказательств сеанса, и задокументированные неудачи — это неудачи в отношении результатов для здоровья: снижение диагностической точности, пропущенные сердечные события, задержка лечения и клинические оценки, которые различаются в зависимости от половой принадлежности пациента, а не от клинической картины. Для женщин Глобального Юга, где возможности системы здравоохранения более ограничены, а клинические инструменты ИИ часто импортируются без местной валидации, эти неудачи напрямую выражаются в предотвратимых заболеваниях, несвоевременном лечении и предотвратимой смерти. Установление минимальных данных по признаку пола и требований к валидации клинического ИИ является необходимым условием для того, чтобы ИИ способствовал, а не подрывал ЦУР 3. На этой сессии это требование выдвигается в качестве конкретного стандарта управления.
ЦУР 5 – Гендерное равенство и расширение прав и возможностей всех женщин и девочек Гендерное равенство является основополагающим обязательством, пронизывающим все элементы этой сессии. Системы ИИ, которые систематически приводят к худшим результатам для женщин в здравоохранении, уголовном правосудии и занятости, не являются нейтральными инструментами – они представляют собой инфраструктуру, которая кодирует и масштабирует историческую изоляцию. Для достижения ЦУР 5 в мире, где решения с высокой степенью риска все чаще автоматизируются, необходимо, чтобы данные, лежащие в основе этих решений, точно представляли женщин, чтобы системы проверялись на соответствие результатам работы женщин перед развертыванием и чтобы женщины, в том числе женщины в странах Глобального Юга, присутствовали в качестве соразработчиков стандартов, регулирующих эти системы, а не только как субъекты их результатов. Рамочное заявление, которое будет подготовлено на этой сессии, является прямым вкладом в техническую реализацию ЦУР 5.
ЦУР 8 – Достойная работа и экономический рост Последствия использования ИИ с гендерным уклоном распространяются не только на здоровье и правосудие, но и на экономическую жизнь. Алгоритмы отбора и найма при приеме на работу, разработанные на исторически гендерных данных о рынке труда, рискуют систематически ставить женщин в невыгодное положение в точке доступа к достойной работе. Неправильная диагностика и несвоевременное лечение — предсказуемые результаты ИИ в здравоохранении, обученного на данных по умолчанию мужчин, — приводят к экономическим издержкам, которые несут женщины: потеря дохода, снижение участия в рабочей силе и бремя ухода, которое ложится на женщин, когда системы здравоохранения не могут точно выявлять и лечить их состояния. В контексте Глобального Юга, где участие женщин в экономике уже ограничено структурными барьерами, эти алгоритмические сбои усугубляют и существующие недостатки. Таким образом, требования к сертификации по признаку пола для трудоустройства и здравоохранения ИИ является вопросом ЦУР 8 в той же степени, что и вопросом ЦУР 5.
ЦУР 10 – Сокращение неравенства Гендерный разрыв в данных в области ИИ является механизмом воспроизводства неравенства. Когда системы ИИ, обученные на исторически предвзятых данных, развертываются в больших масштабах — в клинических условиях, залах судебных заседаний, учреждениях социального обеспечения и процессах найма — они не просто отражают существующее неравенство; они институционализируют их в алгоритмической форме и применяют со скоростью и в таких масштабах, с которыми не может сравниться ни одна человеческая бюрократия. Совокупные показатели, используемые для оценки этих систем, скрывают их дифференцированное воздействие, что позволяет систематическим неудачам женщин, и особенно женщинам на пересечении гендерных, расовых и географических границ, оставаться невидимыми в официальных отчетах о результатах деятельности. Представление отчетов с разбивкой по полу и пересекающимся характеристикам является минимальным техническим требованием для того, чтобы сделать неравенство видимым, а видимость является предпосылкой для подотчетности. Эта сессия продвигает это требование как стандарт управления, применимый как в контексте стран с высоким уровнем дохода, так и в контексте Глобального Юга.
ЦУР 16 – Мир, правосудие и эффективные институты Инструменты судебной оценки риска, которые систематически завышают прогнозы рецидивизма женщин, и алгоритмы социальной помощи, которые выделяют меньше ресурсов женщинам с такими же потребностями, как и мужчины, являются неудачами учреждений, отвечающих за обеспечение правосудия и защиты. Сильные институты в эпоху ИИ требуют, чтобы автоматизированные системы принятия решений, используемые в контексте судебной системы и государственного управления, были проверены по результатам работы всех групп населения, которыми они управляют, а не оптимизированы для совокупных показателей эффективности, за которыми скрываются сбои подгрупп. В юрисдикциях Глобального Юга, где сложнее оспорить алгоритмические решения и слабее институциональные механизмы подотчетности, развертывание непроверенного ИИ для правосудия представляет особенно серьезную угрозу для ЦУР 16. Требования к валидации на гендерной стратификации перед развертыванием являются основой справедливого и подотчетного управления на основе ИИ, и на этой сессии они продвигаются в этом качестве.
ЦУР 17 − Партнерство в интересах устойчивого развития Ни одно правительство, орган по стандартизации или организация гражданского общества не могут устранить гендерный разрыв в данных только по ИИ. Проблема носит структурный, межотраслевой и глобальный характер, и решение требует устойчивого многостороннего партнерства, к которому призывает ЦУР 17. Эта сессия призвана создать именно это: собрать вместе органы по стандартизации данных, разработчиков ИИ, регуляторные органы, членов договорных органов и гражданское общество как с Глобального Севера, так и с Глобального Юга, чтобы выработать общее рамочное заявление, которое может быть использовано в нескольких процессах управления одновременно. Проведение Форума ВВУИО 2026 года одновременно с первым Глобальным диалогом по управлению на основе ИИ делает Форум ВВУИО 2026 года уникальной отправной точкой, позволяющей обеспечить, чтобы первое поколение многосторонних стандартов ИИ отражало подлинное глобальное партнерство, в котором сообщества, несущие наибольшие издержки в связи с гендерным разрывом в данных, представлены в качестве разработчиков решения.
- Задача 1: Ликвидировать все цифровые барьеры и ускорить прогресс в достижении Целей устойчивого развития
- Цель 2: Расширить доступность цифровой экономики и выгоды от нее для всех
- Цель 3: Содействовать созданию инклюзивного, открытого, безопасного и защищенного цифрового пространства, которое уважает, защищает и поощряет права человека.
- Цель 4: Развивать ответственные, справедливые и совместимые подходы к управлению данными
- Цель 5: Улучшение международного управления искусственным интеллектом на благо человечества.