Директор по цифровым технологиям и искусственному интеллекту (ИИ) Пентагона Крейг Мартелл признался в смертельном страхе перед системами генеративного ИИ. Он назвал чат-бот ChatGPT «идеальным инструментом для распространения дезинформации». Его слова передает издание Breaking Defense.
«Да, я напуган до смерти. Вот такое у меня мнение», — заявил Мартелл, отвечая на вопрос о том, что он думает по поводу систем генеративного ИИ наподобие ChatGPT.
Специалист рассказал, что его самое большое опасение насчет ChatGPT связано с тем, что чат-бот свободно выражает свои мысли. Из-за этого, по его словам, у пользователей может сложиться мнение, будто эта система авторитетна. «Вы будете верить ей, даже если она будет неправа. Это значит, что она является идеальным инструментом для распространения дезинформации», — констатировал он.
Мартелл добавил, что у Пентагона нет инструментов для того, чтобы выявлять дезинформацию и предупреждать о ней людей.
Ранее британско-канадский ученый Джеффри Хинтон, создавший нейросеть, которая легла в базу программ ИИ, сообщил о потенциальной опасности технологии. В частности, он предупредил, что со временем нейросеть может вытеснить работников ряда сфер.