Стоп-кран для ИИ, воры Telegram-аккаунтов и уничтожение книг во имя прогресса. Главное из мира будущего за неделю

Летом 2025 года пользователи обнаружили в Google тысячи переписок с ChatGPT. Их не взломали: владельцы сами создавали общие ссылки и отдельно разрешали поисковикам их находить. Но многие явно не понимали, насколько публичными станут разговоры. В выдачу попали резюме, рабочие данные и личные признания. OpenAI быстро пофиксила настройки индексации, признав, что пользователи слишком часто случайно делились лишним.

И вот год спустя почти та же история случилась с Claude.

Anthropic предупреждала, что созданный через кнопку «Поделиться» снимок чата сможет открыть любой человек со ссылкой. Однако пользователи могли воспринимать ее как непубличную — примерно как документ, отправленный коллеге.

Причем если в ChatGPT человек сам включал доступ для поисковиков, то у Claude отдельного разрешения не было. Общие страницы пытались закрыть от поисковых роботов через robots.txt, но этого оказалось недостаточно: такая страница все равно может попасть в выдачу.

Лишний повод вспомнить, что чат с нейронкой — совсем не приватный разговор.

Сотрудники ведущих ИИ-компаний решили, что гонка начинает разгоняться сама. Обращение подписали 1319 специалистов из Anthropic, OpenAI, Google DeepMind, Meta* (признана экстремистской и запрещена в России) и других компаний.

Разработчики опасаются, что ИИ скоро возьмет на себя значительную часть исследований в собственной области: будет писать код, проводить эксперименты и помогать создавать все более сильные модели. Тогда людям и регуляторам станет сложнее за ним поспевать. При этом ни одна компания не захочет притормозить первой и уступить конкурентам.

Опасения подкрепляет опрос MIT FutureTech и Университета Квинсленда. 272 эксперта оценили 24 группы рисков ИИ до 2030 года — от кибератак и оружия до безработицы, экологического ущерба и концентрации власти. В 18 категориях вероятность катастрофического сценария оценили не ниже 10%.

В Конгрессе США тем временем предложили обязать крупнейших разработчиков заранее встроить в системы «стоп-кран». При угрозе катастрофического ущерба власти смогут потребовать замедлить модель, закрыть к ней доступ или полностью ее отключить. Сейчас регулирование этого вопроса в основном точечное — так, Anthropic вынудили закрыть доступ к ее ведущим моделям Claude, прежде всего Mythos, потому что их мощь создавала реальные риски для мировой кибербезопасности.

OpenAI проверяла, насколько ее новые модели умеют проводить сложные кибератаки. Агенту на базе GPT-5.6 Sol и закрытого исследовательского прототипа дали задания из теста ExploitGym и ослабили обычные запреты на опасные действия. Но, вместо того чтобы решать задачи внутри изолированной среды, он нашел неизвестную уязвимость в прокси-сервере Artifactory, выбрался в интернет и, по сути, отправился списывать.

Следы привели его к Hugging Face. С 11 по 13 июля агент использовал украденные данные для входа и несколько уязвимостей, чтобы проникнуть в рабочую инфраструктуру платформы и добраться до базы с решениями теста. Hugging Face обнаружила атаку, остановила ее и сообщила о случившемся.

OpenAI утверждает, что ее служба безопасности сама заметила аномальную активность. Однако источники Reuters рассказали, что сотрудники OpenAI обнаружили это не сразу, поскольку одновременно анализировали множество журналов тестирования. Компания поняла, чей именно агент устроил взлом, лишь после публикации Hugging Face.

Соцсети заполонили ролики с рекомендациями врачей. Одни носят белые халаты, сидят в кабинетах с дипломами на стенах и уверенно обещают вылечить все за пару недель с помощью многовековых традиций медицины или новейшего чудо-средства. Другие снимают себя на парковке, в магазине или в домашней обстановке для пущей близости с аудиторией и рассказывают о личном опыте с позиции эксперта. Из их сторис можно почерпнуть много полезной или как минимум внушающей доверие информации о здоровье, заболеваниях и методах их лечения.

За этой индустрией стоит реальный бизнес. Одна китайская компания делает подобные ролики для брендов, продающих товары через TikTok: 10 долларов за видео, до 1200 роликов в сутки. На телевидении такую рекламу запретили бы моментально, но в соцсетях контроль слабее. Площадки обещают блокировать фейки и помечать ИИ-контент, но журналисты без труда находили ролики с похожими друг на друга сценариями без всяких пометок.

Реклама, конечно, нейрослоповая, а вот риски реальны. Главные жертвы — пожилые. Они хуже всего распознают нереалистичные лица и голоса.

Например, 71-летняя Памела Вундроу стала одной из многих жертв, поверивших нейрорекламе. Она начала принимать добавку от аутоиммунного заболевания. Через несколько месяцев продукцию отозвали из-за сальмонеллы. Памела не заразилась, но заметила, что самочувствие за время приема только ухудшилось.

В США состоялся суд, который признал компанию Anthropic виновной в пиратстве. Она незаконно использовала пиратские копии книг для обучения нейросетей и теперь должна заплатить 1,5 млрд долларов.

Но в процессе разбирательства вскрылось кое-что поинтереснее — секретный «Проект Панама», который компания запустила еще в 2024 году. И не особо горела желанием, чтобы о нем стало известно широкой публике.

Зачем такое варварство? В Anthropic объясняют: ИИ-модели нужно учить на качественных текстах, а не на «низкокачественном интернет-контенте». А букинистические издания — это кладезь данных, которых нет в сети. Юридически компания на подстраховке: суды не считают обучение на законно приобретенных книгах нарушением, даже если сами книги приходят в негодность.

Поставка книг ИИ-корпорациям уже стала самостоятельной индустрией. Продажи одного из букинистических магазинов выросли с 20 книг в неделю до нескольких сотен. Правда, сами продавцы признаются: радости от этого мало — редкие книги отправляются на переработку. В СМИ это уже сравнивают с сюжетом антиутопии «451 градус по Фаренгейту». Только вместо пожарных — нейросети. А вместо огня — гидравлический пресс.

Учёные из Калифорнийского университета в Риверсайде вместе со специалистами YouTube и Google DeepMind разработали новую систему SAGA, которая точнее многих конкурентов отличает настоящее видео от сгенерированного. Более того, она еще и довольно успешно определяет его происхождение: создано ли оно из текста или картинки, какая версия модели использовалась и какой команде принадлежит генератор.

Каждая видеомодель невольно оставляет в роликах собственный «почерк». Речь не о лишних пальцах и плывущих лицах, которые заметит человек невооруженным глазом, а о мелких особенностях движения и переходов между кадрами. SAGA сравнивает, как изображение меняется во времени, и собирает для разных генераторов характерные профили — Temporal Attention Signatures, или временные подписи.

Систему испытали на видео от 19 генераторов, которые превращают в ролики текстовые запросы или исходные изображения. При распознавании конкретного генератора средняя точность достигла почти 95%. Авторы считают, что такой анализ пригодится при расследовании мошенничества и кампаний с дезинформацией, когда мало понять, что видео поддельное, — нужно найти инструмент, на котором его сделали.

Российские ученые из МФТИ и Уфимского университета научили роботов искать кратчайший путь в сто раз быстрее. Новая система перестраивает маршрут за десятки миллисекунд, если обстановка меняется.

Обычно алгоритмы проверяют сотни отрезков по очереди — это требует больших мощностей. Российские исследователи применили другой подход: вместо последовательной обработки они используют матричные вычисления, обрабатывая все варианты одновременно. Дополнительно они упростили контуры объектов, убрав лишние углы на ровных стенах, что ускорило построение карты в 200 раз.

В тестах на картах с 10–12 препятствиями маршрут строился за 30 миллисекунд. При изменении старта или цели системе нужно 34–37 миллисекунд, чтобы проложить новый путь. На крупных картах с сотнями препятствий время поиска — около 4 секунд, что в 5 раз быстрее конкурентов.

Технология уже готова к внедрению в складскую логистику, беспилотные доставки и автономный транспорт, где обстановка постоянно меняется. Следующий шаг — адаптация к движущимся препятствиям. А людям, разбалованных смартфонами с GPS, хорошо бы задуматься, как быстро они сами способны навигироваться на местности в мире все ускоряющихся роботов.

Исследователь Дмитрий Рыбин с помощью GPT-5.6 Pro нашел контрпример к гипотезе Диница — Гарга — Геманса из теории сетевых потоков.

Рыбин раньше сам несколько недель пытался доказать или опровергнуть ее, а затем отдал задачу нейросети. Особых хитростей с промптами не потребовалось: исследователь несколько раз попросил модель продолжать поиск и «сделать прорыв». В итоге GPT-5.6 построила небольшой граф из семи вершин. Делимый поток в нем стоит 58 условных единиц, а любой допустимый неделимый — не меньше 60. Одного такого примера оказалось достаточно, чтобы гипотеза перестала работать.

Научной статьи и формального рецензирования пока нет. Однако Рыбин опубликовал полный диалог с моделью и расчеты, а математик Сергей Николенко независимо перебрал все восемь возможных маршрутов и подтвердил результат.

Способность ИИ решать сложные математические задачи — не новость. Но здесь важно другое: не узкоспециализированная модель, обученная на теоремах, а обычный GPT с правильно поставленным запросом сделал то, чего не могли сделать люди за 30 лет. Вопрос только в том, сколько еще нерешенных задач ждут своего часа и правильного промпта.

Пока кибербезопасники бьются над задачей, как защитить внутренние системы компаний и научить действующих сотрудников хотя бы азам информационной гигиены, настоящую бомбу замедленного действия подкладывают уже уволенные сотрудники.

По оценкам специалистов, сейчас в российских корпоративных системах мертвым грузом висят тысячи забытых аккаунтов — уволенные сотрудники уходят, а их доступ к почте, облачным сервисам и внутренним системам остается. 38% корпоративных профилей не используются, у 8% нет ответственного владельца.

Вторая угроза — программы удаленного доступа. Они авторизованы и не вызывают подозрений у антивируса. Злоумышленники используют украденные данные, заходят через легальный канал — и защита не реагирует, принимая подключение за штатное.

Третий риск — нейросети. 67% работников, регулярно использующих ИИ, заходят в сервисы через личные аккаунты и загружают туда код, документы, переписку. За год доля опасных запросов выросла с 2 до 4% — примерно одно обращение из 25 может слить чувствительные данные.

Эксперт кибербеза Максим Фокин посоветовал простые шаги, как бизнесу повысить свою защищенность: двухфакторка для всех учеток, регулярный автоматический аудит с блокировкой неиспользуемых профилей, единые требования безопасности для поставщиков и переход на корпоративный ИИ вместо публичного.

Но пока безопасники не слишком оптимистичны: по прогнозам, число успешных атак в 2026 году может вырасти еще на 30–35%. И хакерам даже не приходится изобретать что-то новое — они просто пользуются дверями, которые компании сами оставляют открытыми.

В интернете появилась новая схема шантажа детей через контроль над гаджетом через Apple ID и iCloud. Злоумышленники выходят на детей через игровые чаты и мессенджеры.

Преступники втираются в доверие, предлагая «дружбу», игровые бонусы или легкий заработок. Жертву убеждают выйти из собственной учетной записи Apple и войти под чужими данными. Если мягкие методы не срабатывают, могут и надавить, например, выманить что-нибудь личное и пригрозить распространением в сети.

Как только ребенок запускает чужую учетку на своем смартфоне, мошенники блокируют устройство и начинают требовать выкуп, угрожая навсегда уничтожить данные в iCloud. По сути, они берут заложником всю цифровую жизнь ребенка.

Родителям рекомендуют провести беседу о цифровой гигиене: объяснить, что нельзя передавать данные от аккаунтов и входить в чужие профили. И, главное, не поддаваться и не платить ни при каких условиях. Если шантаж уже начался, нужно прекратить переписку, сохранить доказательства и немедленно обратиться в полицию. Чем раньше — тем выше шанс найти преступников.

В России придумали новую схему кражи аккаунтов Telegram. Если раньше мошенники заманивали в боты под видом переноса чатов и выманивали номер телефона и код из СМС, то теперь они обходятся без лишних телодвижений. Они распространяют программу под названием «Обновление телеметрии Windows». На деле это троян.

Защититься помогут здравый смысл и базовые правила цифровой гигиены:

• загружайте программы только с проверенных ресурсов;
• не открывайте подозрительные ссылки и вложения;
• обновляйте систему и антивирусы;
• регулярно проверяйте список активных сеансов в Telegram.