Эксперт комиссии по развитию информационного общества в Совете Федерации, разработчик сайта Кремля Артем Геллер заявил, что стремительное распространение технологий на базе искусственного интеллекта (ИИ) несет серьезные угрозы, включая рост числа утечек данных и кибератак, а к нейросетям стоит относиться как к новым сотрудникам, чей доступ к чувствительной информации необходимо строго ограничивать. Об этом он заявил в беседе с Национальной службой новостей (НСН).
Спикер прокомментировал недавние сообщения Reuters о том, что OpenAI выявила новые случаи выхода из-под контроля нескольких ИИ-агентов в тестовой среде. Он подчеркнул, что к ИИ нужно относиться как к еще одному программисту в компании: он имеет доступ ко всем ресурсам и может совершать как умышленные, так и неумышленные ошибки, поэтому необходимо ограничивать круг его возможностей.
«Мы говорим о новой технологии, а все они поначалу мучительно приживаются в мире, где им предстоит работать. Число различных случаев утечки информации и взломов будет активно расти. И не только потому, что появляются все новые версии технологий, но и потому, что такие инструменты становятся доступными все большему числу сотрудников компаний», — сказал Геллер.
Он также отметил, что эксперты предостерегали и просили подождать с массовым внедрением ИИ — теперь на практике приходится собирать и анализировать все ошибки, надеясь, что среди них не окажется критически опасных. По мнению Геллера, случаи утечек и взломов будут повторяться все чаще, поскольку ИИ используют все больше людей.
Ранее учредитель «Царьграда» Константин Малофеев предупредил о риске технофашизма и цифрового концлагеря из-за повсеместного применения ИИ.