Нейросети научились прятать вредоносное ПО

Нейросети будущего смогут успешно скрывать вредоносные программы от антивирусов. Об этом сообщает издание The Next Web.

Новую особенность нейросетей обнаружили исследователи из Калифорнийского университета в Сан-Диего и Университета Иллинойса. Специалисты предположили, что развитые нейросети способны прятать вирусные программы в строчках кода таким образом, чтобы они не были видны антивирусному ПО. На основе своей теории ученые создали EvilModel — модель «злой» нейросети, цель которой заключается в скрытном заражении оборудования.

Авторы исследования научили модель встраивать вредоносное ПО в параметры нейронной сети таким образом, чтобы оно было невидимым для сканеров вредоносных программ. Чтобы не вызвать подозрений, EvilModel должна выполнять свою основную задачу как «чистая» модель, но тайно прятать ПО от хакеров.

Материалы по теме:

Дивный новый мир.Как технологии виртуальной реальности изменят нашу жизнь к лучшему?

19 ноября 2021

С песнями и плясками.Как Boston Dynamics меняет мир, производя революционных роботов, а потом избивая их?

28 сентября 2021

Ученые объяснили, что в большинстве моделей для хранения параметров используются 32-битные числа. Согласно эксперименту, злоумышленник может хранить до трех байтов вредоносного ПО в каждом параметре, не влияя существенно на его значение. При заражении нейросети хакер разбивает вредоносную программу на трехбайтовые части и встраивает данные в ее параметры.

В итоге авторам эксперимента получилось заразить искомый компьютер вирусом, не вызвав тревоги у защитных систем. С помощью пакетной нормализации и переобучения удалось увеличить объем данных о вредоносном ПО до 36,9 мегабайт, сохранив точность модели выше 90 процентов.

Ранее специалисты Оксфордского университета организовали дискуссию между людьми и искусственным интеллектом. Во время диалога языковая модель Megatron-Turing NLG предупредила человечество об опасности искусственного интеллекта.