Ажиотаж вокруг чат-бота ChatGPT, способного писать тексты, неотличимые от созданных реальными людьми, довольно быстро сменился опасениями по поводу того, как интеллектуальная система повлияет на все человечество. Профильные специалисты пытаются предугадать, как чат-боты изменят жизнь людей, и интернет-пространство. Правда, пока их прогнозы выглядят слишком общими. Причина этого кроется в том, что сегодня люди сами не понимают, до какой степени способен «поумнеть» искусственный интеллект. «Лента.ру» изучила наиболее предметные прогнозы о будущем веб-пространства и выяснила, чем дальнейшее развитие ChatGPT грозит человечеству.

Эра доминирования Google заканчивается

Интернет сегодня — это территория, большая часть которой контролируется всего несколькими корпорациями. В их числе — Google, которой принадлежат знаменитый поисковик и видеохостинг YouTube; Meta (признана в РФ экстремистской и запрещена), владеющая Instagram, Facebook (обе соцсети запрещены в России) и WhatsApp; Amazon и Apple. Именно через них проходит значительная часть мирового трафика, внушительная часть которого — это данные о пользователях. Их довольно легко монетизировать с помощью рекламы: за нее бренды по всему миру готовы платить большие суммы.

Именно из-за этого развитие искусственного интеллекта становится серьезной проблемой для нынешних гигантов рынка: чат-боты умеют кратко и простым языком отвечать на запросы пользователей, что устраняет саму необходимость перехода по ссылкам. Для корпорации Google, которая получает 80 процентов прибыли именно от рекламы, такая модель представляет экзистенциальную угрозу.

«У Google возникли серьезные проблемы с бизнес-моделью, — уверен бывший сотрудник этой корпорации и Yahoo Амр Авадалла, который сейчас руководит интеллектуальным стартапом Vectara. — Если Google будет давать вам идеальный ответ на каждый запрос, вы не нажмете ни на одну рекламную ссылку».

Но еще до того как Google сможет задуматься о пересмотре своей бизнес-модели, компании придется разработать аналогичный чат-бот, с которым она в принципе сможет войти в игру. Многие годы корпорация лидировала в сфере ИИ-разработок. К примеру, именно ей принадлежал сервис Google Lens, помогающий распознавать изображения. Однако так же успешно ворваться на рынок чат-ботов корпорация не смогла.

Ее чат-бот, получивший название Google Bard, прямо во время презентации допустил серьезную ошибку. Он приписал телескопу «Джеймс Уэбб» ложное открытие — первые съемки планет за пределами Солнечной системы, которые на самом деле были выполнены другим телескопом и за 17 лет до запуска «Джеймса Уэбба». В итоге акции Alphabet, материнской компании Google, обвалились на восемь процентов (примерно на 100 миллиардов долларов капитализации).

«Мы объединим внешние отзывы с нашим собственным внутренним тестированием, чтобы убедиться, что ответы Google Bard соответствуют высоким стандартам качества, безопасности и верности предоставляемой информации», — отреагировала корпорация, но получила в соцсетях в ответ на это лишь хейтерские комментарии, полные скептицизма.

При этом Google Bard объективно проигрывает в популярности не только ChatGPT, но и Bing от Microsoft. Детище Билла Гейтса вышло на рынок, добавив чат-бота в свой поисковый сервис Bing, используемый в браузере Edge. И хотя журналисты The New York Times и сравнили длительный разговор с ботом с беседой с «занудным и маниакально-депрессивным подростком», он смог поднять стоимость акций Microsoft.

«Представьте, что руководитель Bing прямо сейчас бесконтрольно рыдает где-то в глубинах офиса Microsoft, потому что наконец-то настал момент популярности его детища», — поиронизировала в связи с успехом чат-бота журналист Engadget Карисса Белл.

Чат-боты населят соцсети и сделают их полуавтоматическими

Помимо поисковых систем, интеллектуальных чат-ботов почти наверняка станут активно использовать в социальных сетях. Отдельные исследователи заявляют, что ChatGPT наверняка будут использовать для создания и распространения фейковой информации и манипуляций на выборах.

«Даже если вы говорите, что у нейросетей нет свободы действий, весьма вероятно, что люди будут использовать ИИ в качестве инструмента на выборах, — сказал американский предприниматель Илон Маск, подразумевая предстоящие в 2024 году выборы президента США. — Никто из людей не может писать так же хорошо, как ChatGPT, и, насколько мне известно, никто не делает это настолько хорошо и быстро. Разве что Уильям Шекспир».

При этом представители бизнеса уверены, что интеллектуальные чат-боты почти наверняка совершат революцию в общении людей в социальных сетях, особенно в части коммуникаций с брендами: им не нужны перерывы на обед или сон, они могут за секунду давать ответы на любые вопросы о товарах или услугах и помогать покупателям решать самые разнообразные проблемы.

Эксперименты с соцсетями на самом деле уже начались. Например, LinkedIn мягко начал внедрять интеллектуальных чат-ботов, которые побуждают пользователей вести дискуссии под определенными сообщениями. Западные медиа назвали эту новость ключевой вехой в истории развития интернета, которая может закончиться созданием полуавтоматических социальных сетей. В них чат-ботам, имитирующим реальных людей, может быть отведено еще несколько функций.

Одна из них — сдерживание проблемных пользователей. Предполагается, что те, кто ведет себя агрессивно в сети, будут сталкиваться со своеобразной интеллектуальной формой бана: на сообщения от таких пользователей будут отвечать чат-боты, которые будут игнорировать троллинг и во всем соглашаться с собеседником, тем самым заглушая его желание спорить. При этом другие люди не будут видеть таких переписок.

До конца разобраться в том, какими будут социальные сети, населенные ботами, пока сложно, потому что непонятно, как будет развиваться сам искусственный интеллект. При этом уже сегодня существуют платформы, на которых можно создать себе собеседника-робота, а затем проводить часы в общении с ним. Существуют, правда, негативные примеры такого взаимодействия, например, интеллектуальный чат-бот Replika, создатели которого добавили в него опцию секстинга. В итоге многие обвинили программу в грубых домогательствах, шаблонном и отталкивающем флирте, а также оскорбительном поведении в целом.

В интернете сотрутся языковые различия

Если спросить у самого ChatGPT о том, которое влияние интеллектуальные чат-боты окажут на развитие интернета, то в первую очередь ИИ упоминает изменение коммуникаций, но не между человеком и бизнесом, а между простыми людьми. «Многие могут столкнуться с языковыми барьерами, когда пытаются общаться с людьми, которые говорят на другом языке, и я могу помочь справиться с этими трудностями, предоставляя переводы и помогая в составлении более правильных фраз», — написал ChatGPT в ответ на вопрос «Ленты.ру».

Конечно, возможность переводить сообщения есть во всех популярных соцсетях, а в Google уже давно добавили возможность перевода целых страниц сайтов. Однако качество этих переводов, особенно когда речь шла о непопулярных или сложных языках, было невысоким. ChatGPT же — это именно языковая модель, которая способна достаточно быстро адаптироваться к пониманию тех или иных аспектов речи. Поэтому, например, даже сейчас, когда пользователям из России ограничен доступ к чат-боту, он уже владеет русским языком настолько хорошо, что его ответы на запросы редакции «Ленты.ру» были добавлены в материал без дополнительного редактирования.

Сам ChatGPT, говоря о взаимодействии представителей разных культур в интернете, склонен считать себя объединяющим фактором. По мнению чат-бота, он позволит людям «расширить свой кругозор и узнать больше о других культурах», что «сделает интернет более глобальным местом». При этом программа предсказывает, что с ее появлением и развитием могут возникать и некоторые проблемы.

«Например, некоторые люди могут начать полагаться на меня слишком сильно, что может привести к уменьшению их способности самостоятельно мыслить и выражать свои мысли. Также возможны проблемы с конфиденциальностью, так как я могу запомнить и использовать информацию, которую получаю от пользователей», — признался чат-бот.

ChatGPT могут использовать киберпреступники

Исследователи по всему миру обращают внимание на тот паритет, который сегодня существует между применением передовых технологических разработок во благо людей и атакующими их и бизнес киберпреступниками. Стремительное развитие искусственного интеллекта и чат-ботов может изменить ситуацию, но пока никто не может точно сказать, как именно. Это направление считается одним из наиболее серьезных рисков развития ИИ наряду с проблемой случайного создания сверхинтеллектуального разума и прямой кражей персональных данных пользователей.

Одна из особенностей ChatGPT — способность создавать программный код, в том числе вредоносный. Об этом уже достаточно громко заявляют известные специалисты по кибербезопасности, которые признают пользу чат-ботов для человечества, но одновременно сталкиваются со связанными с ними реальными проблемами в своей работе.

«У нас есть задокументированные случаи того, как ChatGPT применялся для создания новых семейств вредоносных программ и программ-вымогателей, предназначенных для блокировки доступа к пользовательским файлам в обмен на криптовалютный выкуп. Такие разработки, как ChatGPT, однозначно расширяют поверхность атак», — констатировал вице-президент по борьбе с кибермошенничеством компании Visa Майкл Джаббара.

Помимо создания программного кода вредоносных программ, который еще нужно суметь применить и распространить, злоумышленники смогут использовать чат-боты для фишинговых атак. Основное направление фишинга — массовые рассылки, которые благодаря искусственному интеллекту удастся вывести на новый уровень: содержание писем будет более логичным, а способы автоматического распространения существуют уже и сейчас. Кроме того, не исключено, что чат-боты смогут автономно вступать в диалог с жертвой в том случае, если он ведется внутри какого-то мессенджера.

«Продукт наподобие ChatGPT может сэкономить киберпреступникам, в том числе и из России, много денег, которые расходуются на создание различных фишинговых сообщений. Например, сейчас для российских кибермошенников становится серьезным барьером незнание английского языка, они вынуждены нанимать хорошо знающих язык студентов и выпускников лингвистических вузов и тратить на это деньги», — полагает исследователь группы Check Point по анализу угроз Сергей Шикевич.

Конечно, ChatGPT создан таким образом, что он откажется от написания потенциально опасных для других людей писем. Однако многие аналитики предполагают, что обход этого ограничения — вопрос времени. Один из самых простых способов — попросить чат-бот написать сообщение с безвредным предложением, которое не выдает истинные планы отправителя, а уже затем добавить к письму фишинговую ссылку.

«Важно отметить, что хотя языковые модели ИИ, такие как ChatGPT, могут генерировать текст, похожий на фишинговые электронные письма, они не могут выполнять вредоносные действия самостоятельно: требуется задумка и действия самого пользователя, чтобы причинить вред. Таким образом, важно, чтобы пользователи проявляли осторожность и здравый смысл при использовании технологии ИИ, а также проявляли бдительность в защите от фишинга и других вредоносных действий», — написал сам ChatGPT, отвечая на вопрос журналистов издания ZDNet о том, не способствует ли чат-бот упрощению фишинговых кампаний.

***

Теперь создателям интеллектуального чат-бота придется придумать, как противостоять тому, что некоторые стремятся использовать их технологический прорыв не во благо, а во вред человечеству. Если специалистам удастся сделать это, то они смогут впервые за многие годы изменить статус-кво и начать не отвечать на постоянно возникающие угрозы, а препятствовать самим попыткам их создания.