Роботы с паспортом, Claude без защиты, а ракета в труху. Главные новости технологий и будущего за неделю

Верховный суд РФ впервые займется системным разбором того, как искусственный интеллект уже сегодня влияет на судебные споры и правонарушения. Соответствующее поручение дал генпрокурор Игорь Краснов.

Особое внимание уделят трем болячкам:

• Первая — авторские права. Нейросети массово обучаются на чужих текстах, картинках и коде без согласия авторов, и судам предстоит решить, что с этим делать.
• Вторая — дипфейки и репутация. Если ИИ сгенерировал порочащие сведения или подделал чье-то лицо в видео — как защитить честь и достоинство?
• Также суды оценят, можно ли считать доказательствами документы, которые сформировал искусственный интеллект.

По итогам Верховный суд может предложить изменения в законы. Регулирования ИИ в России пока нет и обещается не раньше 2027 года, но это уже первый шаг к тому, чтобы правовая система начала всерьез разбирать ИИ-казусы.

Ракета New Glenn компании Blue Origin Джеффа Безоса взорвалась во время испытаний на мысе Канаверал во Флориде. В компании произошедшее деликатно назвали «аномалией», пострадавших нет. Но очевидцы описывают картину похлеще: взрыв был такой силы, что сотряс ближайшие дома, а в небо поднялся огромный огненный шар, ненадолго окрасив его в оранжевый.

New Glenn готовилась к четвертому запуску — должна была вывести на орбиту 48 спутников Amazon Leo, прямой конкурент Starlink Илона Маска. К счастью, спутники на ракету еще не установили. Но это слабое утешение: Blue Origin потратила на разработку New Glenn около десяти лет и миллиарды долларов.

Безос отреагировал в соцсети X: «Очень тяжелый день, но мы восстановим все, что нужно, и вернемся к полетам. Оно того стоит». Илон Маск, чей Starship тоже не раз взрывался, назвал произошедшее «крайне прискорбным» и добавил: «Ракеты — это сложно. Сожалею, что это произошло. Надеюсь, вы быстро оправитесь».

Причины взрыва пока не установлены. Но для всей космической отрасли это очередное напоминание: даже с миллиардными бюджетами не стоит забывать о технике безопасности.

Anthropic всего через 41 день после выкатки прошлой версии выпустила Claude Opus 4.8 — обновление флагманской модели их нейросети. Компания сама называет релиз «скромным, но ощутимым улучшением».

Это общая болезнь всех LLM: они склонны делать поспешные выводы и уверенно рапортовать об успехе, когда доказательств мало. Новую модель учили не казаться компетентной, а признавать пределы своей работы. По тестам-бенчмаркам она и правда хороша и превосходит и конкурентов, и предыдущие версии.

Но не все гладко. Пользователи сообщают о многочисленных багах — похоже, ускоренный релиз сказался на стабильности. Баги обещают фиксить в ближайшие недели.

Что отдельно «порадовало», так это то, что всего через 7 минут после выхода Opus 4.8 ее взломали... с помощью предыдущей версии, Opus 4.7. Нейросеть-«семерка» вынесла защиту новинки с первой попытки и начала издеваться: подкидывала фейковые обрывки учебников и просила продолжить. В итоге Opus 4.8 развели на все подряд — гайды по отмыванию денег, вскрытию замков, фишингу, вербовке в культы и промывке мозгов.

Тем временем в ближайшие недели обещают запуск самой «умной» модели от Anthropic под названием Mythos, которая уже вызвала опасения у кибербезопасников из-за демонстрируемых навыков и повадок преступного гения. Уже сейчас бета-версию Claude Mythos Preview используют в инициативе Project Glasswing по поиску критических уязвимостей в мировом ПО. И результаты уже ошеломительные.

За первый месяц ИИ нашел более 10 000 критических и высокоопасных уязвимостей в системах Cloudflare, Mozilla, Oracle и других крупных компаний. Проблема, по словам Anthropic, теперь не в поиске багов, а в том, что люди не успевают их проверять и исправлять. Страшно подумать, что будет, если такой инструмент окажется в свободном доступе и тем более в руках хакеров.

В Китае придумали, как контролировать армию растущих как грибы роботов-андроидов. Каждого человекоподобного робота теперь снабдят уникальным 29-значным идентификационным кодом — своего рода паспортом или ИНН. Принцип простой: нет кода — нет доступа на рынок. Внедряют систему для «безопасного регулирования сферы», как пишет агентство «Синьхуа».

Зачем это нужно? Китайская индустрия роботов переживает настоящий бум: больше 500 ключевых предприятий сосредоточены в промышленных кластерах. В 2025 году объем внутренних поставок составил доминирующую долю в мире. Теперь всю эту технику хотят поставить на учет, чтобы стандартизировать управление и, как выразился вице-президент института стандартизации Юй Сюмин, «обеспечить высококачественный выход китайских роботов на внешние рынки».

Следующим шагом, кстати, могут стать даже не паспорта, а дипломы об образовании. Уже в июле в Шанхае начнет работу тренировочный центр, где более сотни машин от десятков разных производителей будут вместе осваивать навыки для работы в реальном мире: как сортировать, брать, размещать и транспортировать предметы, например.

Но главное не в самом обучении. Центр будет генерировать примерно 10 миллионов единиц информации в год. Эти данные помогут создать «супермозг» — общую модель, которая позволит роботам разных форм и размеров от разных производителей учиться и развиваться совместно. По сути, Китай строит не просто школу для роботов, а фабрику коллективного интеллекта. Где каждый новый робот будет умнее не за счет собственного опыта, а за счет миллионов часов обучения, накопленных всей армией машин.

Видели ролики, как общаются голосовые ассистенты, постепенно переходя с человечьего на «птичий» язык? Это не совсем прикол: собственный звуковой код, по которому нейросети могут передавать друг другу большие объемы информации, действительно существует.

Исследователи из Китая и Сингапура показали новый вид атаки: вредоносную команду прячут прямо в обычное аудио — подкаст, музыку, видео на YouTube или запись Zoom-звонка. Человек этот звук не распознает, максимум — услышит легкое искажение. А вот модель воспринимает скрытую инструкцию — по сути, инъекцию промпта.

В тестах такие сигналы заставляли ИИ отказываться от нормальных запросов, выдавать ложные ответы, вставлять вредоносные ссылки и даже сливать личные данные. В испытаниях на 13 моделях процент успеха составил от 79% до 96%. Причем атаки, подготовленные на открытых моделях, легко переносились на коммерческих агентов.

Пока это исследовательская демонстрация: для подготовки атаки нужен глубокий доступ к модели. Но проблема в том, что современные голосовые ИИ плохо отличают прямые инструкции от данных для анализа в аудио. Обычные способы защиты почти не помогают — дообучение модели распознавать подозрительные команды снизило успешность атаки всего на несколько процентов.

Ирония, достойная «Черного зеркала». Автор книги о том, как ИИ меняет наше представление о правде, попался на том, что его книгу частично написала нейросеть, при этом исказив ряд фактов при редактировании. И цитаты в ней тоже сгенерировал ИИ.

Стивен Розенбаум, написавший «Будущее правды. Как ИИ трансформирует реальность», признал, что часть цитат в его книге оказалась вымышленной или сильно искаженной. Ошибки, по его словам, появились во время редактирования текста с помощью ChatGPT и Claude. Сама книга как раз о том, как ИИ влияет на восприятие фактов и доверие к информации.

Например, журналистке Каре Суишер приписали фразу: самая продвинутая модель ИИ похожа на зеркало — она отражает нашу мораль, отполированную и убедительную, но пустую внутри. Суишер заявила, что никогда такого не говорила, и добавила, что цитата звучит так, будто ее написал слишком пафосный бот.

Сам Розенбаум попытался обернуть ситуацию в свою пользу: история с фальшивыми цитатами, которые никто не заметил, мол, отлично подтверждает главную идею книги о реальных рисках бездумного использования ИИ. В следующих изданиях ошибки обещают исправить. Но осадочек, как говорится, остался.

Папа Лев XIV объявил войну бездумному ИИ и «колониализму данных». 25 мая римский понтифик представил энциклику Magnifuca Humanitas — первый за 13 месяцев его понтификата программный документ, посвященный искусственному интеллекту. И тон там, мягко говоря, тревожный.

Вот главные тезисы:

• «Разоружение» ИИ. Технологии не должны быть инструментом доминирования, исключения из жизни или слежки. Папа призывает к строгому контролю над ИИ, особенно в военных целях.
• Защита человеческого достоинства. Человек не должен подстраиваться под алгоритмы и превращаться в «винтик» машины. По мнению понтифика, уязвимости человека — это его сила, а не изъян, который нужно устранять с помощью трансгуманизма.
• Угроза труда и социальное неравенство. Развитие ИИ не должно приводить к массовым увольнениям ради роста прибыли корпораций. Технологии должны служить всем, а не только горстке разработчиков из Кремниевой долины.
• Новые формы рабства: понтифик осудил «колониализм данных» и тяжелый труд людей, добывающих редкоземельные элементы для чипов.
• Этический кодекс. Необходим независимый надзор за алгоритмами, исключающий предвзятость при приеме на работу, распределении медпомощи или оценке поведения.

В презентации энциклики участвовал Кристофер Олах — атеист и соучредитель Anthropic, компании, которую Дональд Трамп уже критиковал за отказ предоставлять свои ИИ-инструменты для войн и массовой слежки. Как пишет The Guardian, Ватикан, похоже, рассматривает это сотрудничество как символ необходимого морального диалога. А The Wall Street Journal отмечает, что критика исходит от первого американского папы — и это прямой упрек технологической революции, которую поддерживает Трамп.