Города будущего под управлением ИИ: утопия или киберпанк-концлагерь?
Игровая индустрия давно показала, что за фасадом идеального мегаполиса может скрываться цифровая тюрьма.
Игровая индустрия давно показала, что за фасадом идеального мегаполиса может скрываться цифровая тюрьма
Идеальный город без пробок, преступности и человеческих ошибок — мечта, которую нам активно продают технологические корпорации и футурологи. Они рисуют образ сверкающего мегаполиса как безупречного механизма под управлением всезнающего искусственного интеллекта. Но пока мы восхищаемся перспективой, игровая индустрия нередко предупреждает: за технологический рай придется заплатить свободой. Попробуем разобраться, какое будущее может нас ждать и почему геймеры знают о нем больше остальных.
Блестящий фасад
В фантастике или играх «умный город» на первый взгляд безупречен. Беспилотные такси прибывают за секунду до вашего выхода. Умные сети распределяют энергию без потерь. Система предиктивной аналитики выявляет преступников еще до того, как они совершат зло. Каждый игрок в
SimCity или
Cities: Skylines испытывал пьянящее чувство божественного контроля, когда создаешь идеально работающий мегаполис, в котором каждый житель — винтик в отлаженном механизме.
Этот образ нам продают и другие игры. Вспомните стерильную чистоту Цитадели из
Mass Effect, где множество рас живут в гармонии, или сверкающие корпоративные районы Найт-Сити из
Cyberpunk 2077, обещающие успех каждому. На первый взгляд, перед нами миры абсолютного порядка и технологического триумфа. Но, как знает любой геймер, за каждый работающий механизм приходится платить. И цена эта — не игровая валюта.
В подобной системе не нужно принимать сложные решения или беспокоиться о бытовых мелочах. В
Observer, действие которой происходит в киберпанковом Кракове, жители добровольно запираются в своих квартирах, полностью полагаясь на аугментации и виртуальную реальность, пока система жизнеобеспечения поддерживает их существование.
Всевидящее око
Когда город становится единой операционной системой, его жители превращаются в наборы данных. Цена идеальной безопасности — тотальная и непрерывная слежка. Чтобы предсказывать преступления, система должна знать о человеке абсолютно все: маршруты его передвижений, список покупок, круг общения и даже содержание личной переписки.
Лучше всего эту концепцию раскрывает серия
Watch Dogs со своей системой ctOS. Проданная жителям Чикаго как панацея от всех бед, она превратила город в цифровой аквариум. Каждый горожанин получил уникальный профиль с рейтингом потенциальной угрозы, а каждый его шаг записывался и анализировался. Несогласных, активистов или просто «неудобных» граждан система моментально брала под колпак и могла в любой момент разрушить их жизнь.
Более того, такая система способна превратить слежку в элемент общественной жизни. В
Orwell игрок сам становится оператором государственной системы наблюдения. Он должен прослушивать разговоры, взламывать компьютеры и решать, какая информация достойна внимания властей. Проект показал, как легко человек втягивается в процесс контроля над другими, оправдывая свои действия соображениями безопасности.
Алгоритмическое гетто
Когда ИИ решает, кто достоин лучшей жизни, цифровое неравенство возводится в абсолют. Алгоритмы социального рейтинга определяют, в какой район человеку можно входить, какую работу он может получить и доступно ли ему качественное медобслуживание.
Город Зеркал из
Mirror's Edge Catalyst — яркая иллюстрация такого общества. Блестящий, чистый и безопасный, он на самом деле разделен на областы для разных каст. Наверху живет корпоративная элита. Внизу в тени небоскребов — лишенные прав „отбросы“. Всем этим управляет бездушная система, лишенная сострадания и не дающая вторых шансов.
В
Cloudpunk главная героиня работает курьером в многоуровневом городе Нивалис. Перемещаясь между районами, она видит и заоблачные шпили корпораций, и мрачные трущобы. Доступ к информации, культуре и даже чистому воздуху здесь определяется социальным статусом, который просчитан машиной.
Подавление воли
А что, если человек взбунтуется? В умном городе это практически невозможно. Система может одним кликом лишить всего: заблокировать банковские счета, отключить транспорт, аннулировать цифровую личность. Человек просто перестает существовать в мире данных.
Deus Ex доводит эту идею до предела. Конфликт между «чистыми» людьми и «аугментированными» — это метафора любого социального разделения, усиленного технологиями, с помощью которых власть имущие подавляют инакомыслие, создавая иллюзию выбора там, где его нет.
Система стремится предотвратить саму мысль о бунте. В
Cyberpunk 2077 корпорации управляют желаниями людей через вездесущую рекламу и контроль над медиа. Они продают стиль жизни, импланты и даже идеи. И бунт превращается в модный тренд, эстетику, которую можно купить. Человек неосознанно выбирает из вариантов, заранее одобренных алгоритмом.
Враг не в коде
Но любая система, управляемая ИИ, — это инструмент. Молотком можно построить дом, а можно проломить голову. Проблема не в технологии, а в том, кто ее программирует и с какой целью. Городской ИИ, созданный для блага всех граждан, действительно может стать шагом к утопии. Но ИИ, созданный корпорацией ради прибыли или авторитарным правительством ради контроля, неизбежно построит киберпанк-концлагерь.
Игры раз за разом показывают эту простую истину. Злодеем в
Watch Dogs была не система ctOS, а создавшая ее корпорация Blume. Диктатуру в Городе Зеркал установили не алгоритмы, а люди во главе Конгломерата. Поэтому, глядя на современные проекты «умных городов», стоит задавать правильные вопросы. Не «насколько эффективен этот алгоритм?», а «кто его написал и кому он выгоден?».
Хакеры из группы DedSec в
Watch Dogs используют ту же систему ctOS против ее создателей, превращая инструмент контроля в оружие сопротивления. Этот пример напоминает, что будущее не предопределено. В погоне за комфортом и безопасностью мы можем добровольно запереться в цифровой тюрьме и однажды проснемся в мире, где непредсказуемость, эмоции и право на ошибку — все, что делает нас людьми — будет считаться системным сбоем. А самым страшным статусом в цифровом профиле — «человек».
Представьте, что у вас есть выбор: жить в идеально безопасном и комфортном Городе Зеркал под тотальным контролем ИИ — или в хаотичном, но свободном Найт-Сити, где каждый сам за себя? Или, может, вы предпочтете остаться в нашем несовершенном, но реальном мире? Делитесь своим мнением в комментариях!
