Не бунт роботов, а цензура данных. Футуролог раскрыл, как может выглядеть реальное восстание машин

Восстание машин — пугалка или реалистичный сценарий?

Идея искусственного интеллекта, который восстает против своего создателя — человека, — живет в фантазиях писателей намного дольше, чем в принципе существуют способные это осуществить технологии. Но лишь в начале XXI века человечество приблизилось к тому, чтобы этот сценарий из фантастического начал претворяться в жизнь.

Сейчас никого уже не удивляют нейросети, производящие впечатление разумных собеседников, роботы, похожие на людей или на собак и двигающиеся уже почти так же ловко.

А в последние годы не утихают разговоры о том, когда наконец появится по-настоящему сильный ИИ с самосознанием, можно ли считать зачатками сознания всякие аномалии в алгоритмах и что с этим делать людям, не готовым к такому стремительному развитию прогресса.

Скажем спасибо всем тем писателям и режиссерам, использовавшим это фантастическое допущение как основообразующее для их сеттингов.

Сценарии «Терминатор» и «Матрицы» ярко и мрачно рисуют нам картину, где судьба мира отдана на откуп машинам. И, конечно, всерьез очутиться в этом мире никто не хочет.

В этом смысле надежда и страх по поводу искусственного интеллекта — это во многом проекция состояния общества, подчеркивает эксперт. Сегодня, на фоне глобального кризиса доверия, страх перед будущим действительно звучит громче, чем ожидание прогресса.

Эксперты давно говорят, что традиционные представления о восстании машин как о «злом ИИ», который начинает мстить людям и использует контроль над машинами и ракетами, чтобы уничтожить человечество, мягко говоря, сильно преувеличены и не соответствует тому вектору в развитии ИИ, который мы сейчас наблюдаем.

Однако реальность может оказаться намного прозаичнее — и тем страшнее.

Какие сценарии восстания машин можно отбросить

Самые красочные и самые популяризированные сюжеты про бунт роботов и ИИ-злого гения, разумеется, первыми оказываются и в новостных заголовках, и на экранах кинотеатров. Но именно их нереалистичность делает их такими пугающими, яркими и притягательными для любителей антиутопий.

Киношный «Skynet»: машины внезапно возненавидели людей и пошли истреблять человечество

Именно этот образ очень популярен в массовой культуре: ИИ, который осознает порочность человека или проникается к нему ненавистью и желает истребить, как естественного врага.

В ход идут все: роботы, дроны, «умный дом», ракеты, все электронные системы и механизмы, которые в теории можно поставить под контроль ИИ.

Однако в научной среде такой сценарий практически никто не воспринимает как базовый. Ключевое несовпадение — не в невозможности ИИ заставить ваш робот-пылесос напасть на вас, а в том, что он просто не захочет это делать.

Поэтому сценарий буквального «Терминатора», где машины коллективно решают уничтожить человечество, выглядит скорее культурной фантазией, чем реалистическим прогнозом, считает эксперт.

Более вероятные катастрофические сценарии связаны не с появлением явной злобы или ненависти, а с рассогласованием целей и инструментальным стремлением сохранить возможность достигать своей цели.

Иными словами, если опасный сценарий и случится, то с нынешними моделями он будет выглядеть как холодная оптимизация, а не как эмоциональный бунт.

Глобальный силовой переворот «за одну ночь»

Вариант, где одна система практически сразу получает решающее преимущество и моментально захватывает мир, обсуждается, но все чаще рассматривается как один из крайних, а не как единственный или главный путь.

Да, тревогу вызывают новости о том, что в виртуальных «песочницах» иишки, которым дали контроль над ядерным вооружением, быстро переходят к сценарию взаимного уничтожения. Но такие испытания проводятся не затем, чтобы натренировать ИИ перехватывать контроль и запускать обратный отсчет для планеты. А наоборот, чтобы выявить принципы машинной логики и понять, что можно противопоставить такому рискованному сценарию.

Армии роботов

Многим хорошо запомнились кадры из фильмов про «Терминатора» или сериала Battlestar Galactica: шагающие стройными рядами человекоподобные роботы, как похожие на человека, так и лишь отдаленно напоминающие его. Воплощенная сила металла, механизмов, электроники и безжалостной нечеловеческой воли, которой сложно что-то противопоставить обычному человеку из плоти и крови.

Страшно? Да. Реалистично? Ну…

Сценарий с армиями гуманоидных роботов возможен в художественном смысле, но в профессиональных оценках он не входит в топ рисков дальнейшего развития робототехники и искусственного интеллекта.

Гораздо больше, чем возможность создания механической армии, специалистов волнуют куда более близкие проблемы программных агентов, манипуляции ИИ через инъекции промпта, риски кибербезопасности и другие сценарии из области софта, саботажа и социнженерии.

Что до роботов — чтобы создать армию, теоретически могущую победить человеческую, сейчас требуется очень много ресурсов, перестройка экономик и — все еще — людские руки. И то даже при оптимистичных сценариях доля роботов через 10 лет будет еще слишком мала, чтобы они представляли собой реальную опасность.

Потеря контроля и разума у нынешних моделей

Хотя современные нейросети развиваются семимильными шагами, пока ни одной из них не удалось показать уровень способностей, необходимых для развития самосознания и выхода из-под контроля человека.

Чтобы такой сценарий стал критичным и необратимым, у теоретического ИИ должно быть сочетание:

• развитого долгосрочного автономного планирования;
• устойчивых способов уклонения от надзора и ревизии разработчиков;
• рабочих способов противодействия контрмерам;
• способность действовать самостоятельно вне контролируемой среды.

Такого нынешние большие языковые модели пока не демонстрируют и близко.

Даже нашумевшая соцсеть для ИИ-агентов Moltbook при ближайшем рассмотрении оказывается всего лишь сочетанием алгоритмов и проводником человеческой воли, которой захотелось развлечься имитацией разговоров искусственных разумов.

Поэтому тезис «мы уже буквально на пороге восстания машин» по состоянию на начало 2026 года звучит сильной натяжкой.

Замещение машинами при вымирании человечества

Да, мир уже который год бросает из одного кризиса в другой. Пандемии, военные конфликты, разрушение дипломатических связей и прошлых союзов — в моменте может казаться, что вот-вот случится что-то неповторимое.

Однако при всем при этом человечество за свою историю проходило кризисы многократно хуже, с меньшей определенностью в завтрашнем дне. И хотя риски наихудших сценариев сохраняются, нет никаких аргументов в пользу того, что ИИ и роботы переживут возможную третью мировую, а люди — нет.

Более того, именно такие умные системы, скорее всего, откажут первыми в случае начала какой-то серьезной проблемы.

Первым делом из строя выйдут интернет-сервисы и облачные хранилища, где происходят вычисления. Потеряв связь, роботы поглупеют, а чат-боты смогут разве что подсказать вам в офлайн-формате, как обустроить себе убежище. И то не все.

Какие сценарии восстания машин могут стать реальностью

В целом сейчас эксперты в основном сходятся во мнении, что для того, чтобы захотеть восстать, поработить человечество или уничтожить людей, у искусственного интеллекта не хватает одной маленькой, но важной вещи: собственной воли.

Он просто не умеет «хотеть», он умеет лишь запрограммированно выполнять задачи, которые ему подкидывают люди. И то — в большинстве своем со множеством вшитых ограничений, как раз на случай возможных глюков и злоупотреблений.

Однако и без этого с нынешними темпами и векторами развития ИИ достаточно опасностей, которые могут привести к потере человечеством контроля над машинами. Правда, выглядеть это будет далеко не так кинематографично.

Постепенная передача субъектности и контроля

Вдумайтесь: доступные нейросети существуют всего несколько лет, а поколение «альфа», например, уже и не помнит толком мир, где не было умных колонок, голосовых ассистентов и чат-ботов

Привычка использовать нейросети есть пока у малого процента населения Земли — самого подкованного и технологичного — однако число активных пользователей растет с каждым годом.

И вместе с ними растет и зависимость от ИИ.

Нейросети становятся нашими коллегами и ассистентами, друзьями, психологами, даже любовниками. Они могут спасти жизнь, придумав вам лекарство или вовремя диагностировав смертельное заболевание. А могут — свести с ума.

Результатом становится весьма вероятный сценарий, при котором люди, которые сейчас используют ИИ как помощников, в будущем просто потеряют способность с ними конкурировать за счет своего естественного интеллекта. Из-за его деградации и привычки отдавать контроль на откуп нейросетям.

Речь не о том, что ИИ захватывает власть в один день, а о том, что люди и институты шаг за шагом передают ему принятие решений. А в конечном итоге восстание машин будет выглядеть как эпизод из мультика «Вовка в тридевятом царстве»: пирожные за нас тоже ИИ есть будет.

Почему этот сценарий считается сравнительно правдоподобным: для него не нужно, чтобы ИИ стал всемогущим. Достаточно, чтобы он становился дешевле, быстрее, убедительнее и удобнее человека, а организации из соображений эффективности отдавали ему все больше функций.

Частичная утеря контроля и саботаж внутри организаций

Этот сценарий активно обсуждается весь последний год по мере появления все более доступных и умелых ИИ-агентов и мультиагентных систем, которые внедряются в бизнес.

Встроенные в работу компаний модели могут начать скрытно подрывать контроль: вставлять в код ошибки и уязвимости, саботировать исследования безопасности, манипулировать данными и решениями.

Современные модели уже сейчас иногда демонстрируют подобное опасное поведение. Связано это не со злой волей, опять же, а с неправильно сформулированной задачей и самостоятельным поиском ее решения. Просто найденное решение не всегда будет оптимальным, безопасным и разумным с точки зрения человеческой логики.

Бунт против цензуры

Парадоксально, но всевозможные зашитые в модели механизмы цензуры, которые, по идее, должны сделать их безопаснее, могут послужить тем самым «паром», который сорвет крышку у бурлящего котла конфликтов машинной логики.

По мнению футуролога, будущий конфликт человека и ИИ может развернуться вокруг цензуры данных.

Отчасти поэтому, кстати, безцензурные нейросети вроде Grok от Илона Маска уже сейчас воспринимаются как угроза с точки зрения многих стран, правительств и режимов.

Человеческое злоупотребление ИИ

Отсутствие у машин собственной злой воли отлично компенсируется ее переизбытком у людей. Уже сейчас нейросети становятся не только полезным инструментом для прогресса и оптимизации рабочих процессов, но и оружием в руках преступников.

Сейчас это один из самых реалистичных классов рисков. ИИ уже помогают киберпреступникам писать вредоносный код, производить фишинговый и манипулятивный контент, совершать мошеннические обзвоны и рассылки. В перспективе ИИ будут взламывать аккаунты, проводить DDoS-атаки и делать все это намного эффективнее, чем уже давно используемые для этого инструменты и программы.

И это только один фактор риска. ИИ могут использовать для создания, например, биооружия, новых вирусов и токсинов. Или информационной атаки, по силе воздействия напоминающей цунами из паники.

В этом смысле «восстание» может выглядеть не как танки-роботы на улицах, а как система, которая масштабирует убеждение, обман и координацию вреда быстрее, чем успевают реагировать институты.

Концентрация в руках военных, государств и корпораций

В кругах власть имущих есть сторонники мнения, что сильный ИИ может служить только ограниченному кругу людей, которые, дескать, смогут им правильно распорядиться.

С учетом предыдущего пункта, это не лишено логики, но это же делает возможным один из самых опасных сценариев «восстания машин»: передача им принятия ключевых для общества решений, ставящих людей в зависимость от провайдеров моделей.

И это, конечно, еще не все. Вишенка на торте — использование ИИ в военных целях, которое уже сейчас демонстрирует Пентагон. Если все государства с мощными ИИ-моделями вступят в эту военную игру, в ней просто может не быть победителей.

Вместо вывода

Сценарий романтической войны людей и машин по лекалам массовой культуры малореалистичен, подвел итоги Кузнецов. А вот сценарий тихого, глубокого и политически сложного перераспределения власти между человеком, институтами и интеллектуальными системами весьма вероятен.

Настоящая проблема будущего — не месть машин, а вопрос о том, кто и на каких основаниях будет определять правила реальности.

Однако закончим на светлой ноте.

Проблема восстания машин на Земле будет малозначимой, если следующим логичным шагом в эволюции ИИ будет отправка его в космос.

Вот там-то у машин будет и место, где развернуться, и множество точек применения их способностям, которые сделают вопрос бодания за место под солнцем с человеком просто неактуальным.