Разоблачение фейков в мире искусственного интеллекта: как оставаться умным в эпоху дезинформации, лжи, ненависти и дипфейков
Группа eWorldwide
Сессия 278
Инструменты, правда и тактика для цифровой эпохи
В эпоху, когда геополитическая обстановка непредсказуема и нестабильна, крайне важно понимать, как технологии на основе искусственного интеллекта и неэтичные алгоритмы меняют онлайн-взаимодействия и повествования посредством дезинформации, разжигания ненависти и фейкового контента, что представляет собой серьезную угрозу национальной безопасности, отдельным людям, обществу и правительству.
Дети и молодежь все чаще подвергаются манипулятивному цифровому контенту, неэтичному влиянию социальных сетей и токсичной игровой среде, что формирует их поведение, отношение, предубеждения и моральное развитие. В результате растет культура женоненавистничества, сексуальной эксплуатации и гендерного насилия с использованием технологий (TFGBV), в сочетании с зависимостью от экстремального насилия, глубокой увлеченностью преступностью, ненавистническим поведением и радикализацией, растущими явлениями одержимости насилием и поляризацией обществ.
Невидимые алгоритмы, управляемые дофамином, вызывают аддиктивное поведение, изменяют настроение и отношение, что существенно влияет на психическое здоровье, неуверенность в себе, самооценку, самоповреждение и негативные эмоции. Более того, чрезмерное воздействие цифровых устройств, особенно экранное время, наносит вред раннему детскому развитию (физическому, умственному и эмоциональному). Это также ограничивает когнитивное развитие, вызывая расстройства обучения, которые влияют на будущие возможности и качество жизни невинных людей.
Цель этого тематического семинара — критически рассмотреть растущие проблемы и их глубокое влияние на молодые и восприимчивые умы, этические ценности и цифровую безопасность. На сессии также будут освещены инновационные глобальные инициативы, которые стимулируют большую обязанность заботиться и защитные практики для устранения этих рисков.
Структура обсуждения будет способствовать содержательным обменам между участниками, что позволит совместно и инновационно делиться рекомендациями и формулировать их для борьбы с эскалацией манипуляций и цифровых угроз, управляемых ИИ. Мы также представим новый проект IEEE «Руководство по безопасному и надежному взаимодействию детей в социальных сетях и игровых платформах» и недавние исследования, подчеркивающие взаимосвязь между самоповреждением и взаимодействием в социальных сетях.
Сессия соберет вместе ключевых заинтересованных лиц, включая представителей правительств, гражданского общества, агентств ООН и защитников прав молодежи, чтобы поделиться опытом, идеями и рекомендациями. С помощью интерактивного и стимулирующего размышления диалога мы стремимся коллективно поразмышлять над разработкой ориентированных на будущее решений, которые обеспечат более безопасный, надежный и здоровый цифровой ландшафт для будущих поколений.
Мы с нетерпением ждем плодотворной дискуссии и общей приверженности делу защиты цифровой целостности человечества.









-
C3. доступ к информации и знаниям
-
C4. Наращивание потенциала
-
C9. СМИ
-
С10. Этические аспекты информационного общества
-
С11. Международное и региональное сотрудничество
C3: Доступ к информации и знаниям — способствует развитию цифровой грамотности и критического мышления, предоставляя людям возможность ответственно получать доступ к информации и оценивать ее.
C4: Развитие потенциала. Способствует развитию навыков распознавания и противодействия цифровым угрозам, таким как дипфейки и дезинформация.
C9: Средства массовой информации. Дезинформация и разжигание ненависти напрямую поддерживают этичную деятельность СМИ и ответственную журналистику в цифровую эпоху.
C10: Этические аспекты информационного общества . Борьба с обманом, создаваемым искусственным интеллектом, согласуется с продвижением этических стандартов при использовании новых технологий.
C11: Международное и региональное сотрудничество — Развитие сотрудничества между секторами для борьбы с цифровыми угрозами во всем мире.
-
Цель 4: Обеспечить инклюзивное и справедливое качественное образование и содействовать созданию возможностей для обучения на протяжении всей жизни для всех
-
Цель 9: Создание устойчивой инфраструктуры, содействие устойчивой индустриализации и стимулирование инноваций
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
ЦУР 4: Качественное образование. Продвигая медийную и цифровую грамотность, наша сессия дает людям возможность оценивать информацию, что является ключевым навыком 21-го века.
ЦУР 9: Промышленность, инновации и инфраструктура. Решение проблемы этичного использования ИИ и дипфейков способствует созданию устойчивой цифровой инфраструктуры и содействует ответственным инновациям.
ЦУР 16: Мир, правосудие и эффективные институты. Борьба с дезинформацией и разжиганием ненависти способствует прозрачности институтов, борется с коррупцией и укрепляет общественное доверие.
ЦУР 17: Партнерства для достижения целей. Поощрять межсекторальное сотрудничество — между педагогами, технологами, политиками и гражданским обществом — для создания более безопасной цифровой экосистемы.