Роль человека в кибервеке
Рамки сотрудничества EC MEDICI
Сессия 141
Технология обычно считается нейтральной, ни хорошей, ни плохой, это цель и использование, которые люди выбирают, чтобы изменить ситуацию. Долгое время исследователи в технологическом секторе не обращали внимания ни на этические и онтологические аспекты, ни на средне- и долгосрочные последствия своих открытий для общества.
Конкуренция была основана на гонке в космос, на Луну, технологических инновациях, суперкомпьютерах, сегодня конкуренция среди крупных игроков, в основном частных компаний, похоже, сосредоточена на квантовых системах и искусственном интеллекте. В то же время происходящий цифровой переход или, скорее, цифровая трансформация неоднократно оказывали глубокое влияние на общество без какой-либо предварительной оценки его воздействия.
Дополнительные преимущества и результаты, достигаемые благодаря цифровым технологиям, включая, конечно же, искусственный интеллект и квантовые вычисления, не вызывают сомнений, но представляется целесообразным тщательно оценить высказанные опасения и потенциальные недостатки.
Несколько романов и, вероятно, гораздо больше научно-фантастических фильмов во времени изображали некоторые будущие общества, основанные на полном контроле сверху вниз или полностью обезболенные приятными товарами, или полностью неспособные использовать критическое мышление.
Среди романов можно назвать «Большого брата — тысячу девятьсот восемьдесят четыре» Джорджа Оруэлла (1949), «451 градус по Фаренгейту» Рэя Брэдбери (1951) и последнее, но не менее актуальное произведение Олдоса Хаксли «Дивный новый мир» (1932).
Эти три романа представляют собой три различные антиутопические модели будущего общества, предсказанные в течение двадцатилетнего периода с 1930-х по 1950-е годы. Глядя на наше общество через эти линзы, мы можем найти несколько аспектов, которые напоминают эти романы.
Если мы рассмотрим научно-фантастические фильмы, то увидим широкий набор фильмов, предлагающих критическое или антиутопическое видение будущего. Начиная с эпического научно-фантастического фильма Стэнли Кубрика «2001: Космическая одиссея» (1968), основанного на романе Артура Кларка. Ярким примером самосознания является ключевой аспект другого научно-фантастического фильма Джона Бэдхэма «Военные игры» (1983). Фильм сосредоточен на действии «первого удара», как это знаково изображено в другом научно-фантастическом фильме Стэнли Кубрика «Доктор Стрейнджлав: или Как я научился перестать беспокоиться и полюбить бомбу» (1964)
Список научно-фантастических фильмов, посвященных «киберкошмарам», бесконечен: «Орлиный глаз» (2008) режиссера Д. Дж. (2001)», «Я робот» режиссера Алекса Пройаса (2004), «Люси» Люка Бессона (2014) и другие.
Расширяя диапазон на всю цифровую область, мы находим большой выбор фильмов, посвященных кибернаблюдению, таких как «Враг государства» Тони Скотта, цифровые недостатки в «Сети» Ирвина Уинклера (1995) и, если мы хотим включить беспилотное автономное оружие в забавную среду, «Игрушки» Барри Левинсона (1992).
В заключение давайте включим антиутопическое общество, изображенное в «Бразилии» Терри Гиллиама (1985), сатиру на технократию, бюрократию, гипернаблюдение, корпоративный этатизм и государственный капитализм, недалеко от видения из «1984» Оруэлла.
Этот ограниченный список образцов, романов и фильмов дает представление о будущих обществах, прогнозируемых примерно через сто лет, все они предлагают антиутопический мир, в котором часто доминируют технологии, тоталитарные государства, централизованный контроль сверху вниз, иногда управляемый автоматическими неконтролируемыми машинами, технологическое наблюдение, наводнение мейнстримной информацией, фильтрация и устранение расходящихся мыслей, ограничение прав человека, искоренение культуры и критического мышления.
Его Святейшество Папа Лев XIV недавно издал энциклику под названием "Magnifica Humanitas", в которой особое внимание уделяется заголовку "О защите человеческой личности во времена искусственного интеллекта". Третий раздел озаглавлен "Технология и доминирование. величие человечества в свете перспектив ИИ», ряд параграфов «Технократическая парадигма и цифровая власть», напоминает энциклика Папы Франциска «Laudato Si», «осуждала растущее доминирование технократической парадигмы в нашем глобализованном мире: тенденцию позволять логике эффективности, контроля и прибыли формировать личные, социальные и экономические решения. Это ясно показывает, что технология – это не просто инструмент.
Считаем ли мы некоторые из этих сценариев реалистичными для ближайшего будущего?
Какова будет роль людей в кибернетическую эпоху?
-
C1. роль правительств и всех заинтересованных сторон в содействии использованию ИКТ в целях развития
-
С2 Информационная и коммуникационная инфраструктура
-
C3. доступ к информации и знаниям
-
C4. Наращивание потенциала
-
C5. укрепление доверия и безопасности при использовании ИКТ
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронное правительство
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - Э-бизнес
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронное обучение
-
C7. применение ИКТ: преимущества во всех аспектах жизни - Э-здравоохранение
-
C7. приложения ИКТ: преимущества во всех аспектах жизни - электронная занятость
-
C7. применение ИКТ: преимущества во всех аспектах жизни - электронная среда
-
С8. Культурное разнообразие и самобытность, языковое разнообразие и местное содержание
-
C9. СМИ
-
С10. Этические аспекты информационного общества
Развитие цифрового гуманизма будет способствовать согласованию с некоторыми SGD (например, 3,4,5,7,8,9,13,15).
Что касается принципов Глобального цифрового договора, то в настоящее время актуальными, среди прочих, являются пункты i и j).
-
Цель 4: Обеспечить инклюзивное и справедливое качественное образование и содействовать созданию возможностей для обучения на протяжении всей жизни для всех
-
Цель 5: Достижение гендерного равенства и расширение прав и возможностей всех женщин и девочек
-
Цель 7: обеспечить доступ к недорогостоящим, надежным, устойчивым и современным источникам энергии для всех
-
Цель 8: Содействие всеохватному и устойчивому экономическому росту, занятости и достойной работе для всех
-
Цель 10: Сокращение неравенства внутри стран и между ними
-
Цель 12: обеспечить устойчивые модели потребления и производства
-
Цель 16: Поощрение справедливых, мирных и инклюзивных обществ
-
Цель 17: Активизация глобального партнерства в интересах устойчивого развития
Цель 16: Содействие созданию справедливых, мирных и открытых для всех обществ
Цель 4: Обеспечение всеохватного и справедливого качественного образования и поощрение возможности обучения на протяжении всей жизни для всех
Цель 8: Способствовать всеохватному и устойчивому экономическому росту, занятости и достойной работе для всех
Что касается конкретно доклада ГА ООН 2025 года, то здесь нас интересуют пункты 81–83 "Управление данными" и
Искусственный интеллект, пункты 84−87
- Задача 1: Ликвидировать все цифровые барьеры и ускорить прогресс в достижении Целей устойчивого развития
- Цель 3: Содействовать созданию инклюзивного, открытого, безопасного и защищенного цифрового пространства, которое уважает, защищает и поощряет права человека.
- Цель 4: Развивать ответственные, справедливые и совместимые подходы к управлению данными
- Цель 5: Улучшение международного управления искусственным интеллектом на благо человечества.
A specific set of references will be provided on the occasion of the session.