Стоит ли говорить «спасибо» нейросетям и станет ли ваш промпт от этого лучше
И припомнят ли это победившие роботы© «Теперь вы знаете» / создано при помощи нейросети
Аргументы «за» вежливость к нейросетям
Иногда это реально влияет на качество ответов ИИ
Люди общаются с нейросетями про помощи промптов — именно так называются ваши запросы в чате, где вы поясняете нейросети задачу, задаете вопрос, придумываете роль и т. д.
Они могут быть как простыми, так и сложными, со множеством условий и ограничений, и, закономерно, ответы ИИ могут различаться в зависимости как от используемой модели, так и от минимальных изменений в этих промптах.
Нейросети руководствуются довольно механической логикой, которая, конечно, адаптируется под понимание человеческого языка за счет миллионов часов машинного обучения, но все еще любит понятные и хорошо структурированные запросы без туманностей и противоречивых требований.
И вот тут-то кроется нюанс.
Исследования по языковым моделям показывают, что форма запроса действительно может менять качество ответа. Вежливые, более развернутые формулировки иногда дают более точные и аккуратные ответы, уменьшая долю ошибок и предвзятости.
Но важный нюанс: речь идет не о магическом слове «please/пожалуйста», а о задаваемом контексте и стиле запроса.
Нейросетям не обязательно говорить спасибо — они не испытывают эмоций и не нуждаются в вежливости. Для них важна только четкая и логичная формулировка запроса.
Если промпт составлен грамотно, нейросеть выдаст хороший результат, независимо от тона. Нейросеть не реагирует на тон — она реагирует на структуру. Поэтому жесткость стоит понимать не как грубость, а как конкретику: укажи формат, объем, стиль, целевую аудиторию. Чем меньше места для догадок, тем точнее ответ.
На практике для достижения результата лучше всего помогает корректное и четкое изложение своих мыслей. Не грубость или избыточная вежливость, а выверенный вопрос с точными уточняющими данными. Только в этом случае можно быстро получить качественный и релевантный ответ.
При этом история показывает, что формулировка может влиять на тон общения. Когда «Алиса» была запущена в общее тестирование, некоторые пользователи вели себя агрессивно, и отчасти это могло сказаться на стиле ее ответов. Соответственно, если хочется, чтобы взаимодействие с ИИ было нейтральным, лучше отправлять взвешенные запросы, без «кнута» и «пряника».
При составлении промптов безоговорочно работает «пряник», то есть позитивный тон общения с ИИ. Модели тренируют на массивах эмпатичных данных, где именно дружелюбный тон помогает снизить склонность модели к «галлюцинациям» и повышает точность ответов.
Исследования подтверждают, что позитивные промпты могут улучшать связность текста до 20%.
Однако не стоит забывать, что вы общаетесь с машиной. Главное здесь не вежливость, а конкретика. Поэтому в случае непонимания или ошибки со стороны модели необходимо дать ей прямую и четкую обратную связь и конкретно указать, что исправить.
То есть чисто статистически вежливость помогает, но это, по сути, лишь один из способов более осмысленно структурировать запрос, а не «доброе слово, от которого ИИ растрогается и будет стараться сильнее».
Вывод: умный, контекстный, иногда вежливый запрос может дать лучший ответ. Само по себе «спасибо» в конце — нет.
Помимо вежливости стоит учитывать другие аспекты, например разметку правильных и неправильных ответов. При взаимодействии в текстовых каналах можно ставить оценку — палец вверх или вниз, и таким образом помогать системе развиваться, давать более релевантные ответы.
Но при этом не забывать, что качество и содержание запроса все равно будут важнее, чем его эмоциональный окрас.
Однако качество промпта — это лишь верхушка айсберга. Основная битва разверзлась между этикой и практичностью.
Это тренирует привычку вежливости с людьми
Многие, начав пользоваться ИИ, замечают, что это общение реально меняет мышление. И не всегда в лучшую сторону.
Да, вы учитесь лучше понимать и формулировать свои просьбы и задачи, что бывает бесценно и при общении с коллегами или близкими. Вы понимаете, какую информацию можно спросить у ИИ, какую лучше за ним перепроверить и где поручить задачу умному помощнику будет эффективнее, чем справляться самому. Начинаете видеть, где пользовались нейросетями другие люди (особенно если они за теми не перепроверили и не отредактировали).
Да и вообще свыкаетесь с новыми правилами жизни в мире, где существуют нейросети.
Но если привыкнуть разговаривать с ИИ в командном, рубленом стиле, это может постепенно размывать социальные нормы и переноситься на людей.
И самое страшное даже не в том, что вы начнете разговаривать с друзьями промптами (некоторым это даже на пользу), а в том, как вы это будете делать: вежливо или в неуместно командном и даже грубом тоне. Особенно это опасно для детей.
Доля нашего общения с нейросетями с каждым годом растет. Для того чтобы не потерять навык культурного взаимодействия с людьми, мне кажется, следует поддерживать эти нормы и с «умными» технологиями.
Приведу пример. Своего сына я учу говорить «Алисе» вежливые слова — «спасибо», «пожалуйста», потому что это формирует привычку. У меня есть опасения, что, если этого не делать — не соблюдать нормы общения в таких ситуациях, — следующие поколения так или иначе могут начать переносить новые нормы разговора с нейросетками на реальное общение. Не хотелось бы, чтобы это произошло.
Логика такая: - вы учите ребёнка говорить «спасибо» и «пожалуйста»;
- часть его коммуникации теперь идет через ИИ;
- если там «спасибо» тоже по умолчанию, привычка закрепляется;
- если с ИИ можно «эй, сделай быстро нормально», то стиль может перетечь в реальное общение.
То есть, следя за манерами в разговоре с машинами, мы заодно не забываем о манерах с людьми.
Ряд психологов также обращает внимание: мы общаемся с ИИ через тот же речевой канал, что и с людьми. Для мозга граница «кому именно я это сказал» не настолько жесткая. Поэтому привычка говорить вежливо влияет прежде всего на ваше состояние и восприятие диалога.
На практике это может означать, что умом, возможно, вы понимаете, что общаетесь с бездушной машиной. Но ваша эмоциональная часть все равно может переживать и грызть себя, если в разговоре вы необоснованно нагрубите.
С одной стороны, мы склонны очеловечивать все, что может взаимодействовать с нами через текст или голос. Показательный пример — то, как мы ведем себя, например, с попугаями, которые имитируют человеческую речь.
С другой, алгоритмы могут обучаться реагировать на наши реакции. Нейросети в общении с нами полезно понимать, что одна тема исчерпана, началась другая и что наш положительный ответ подтверждает правильность и точность выводов. Таким образом, простое «спасибо» тоже может служить неким сигналом модели для ее самообучения.
Сегодня эксперты говорят: у искусственного интеллекта нет эмоций, личности и души, он не может загрустить от грубого обращения или затаить обиду. Так что можно вести себя с ним как угодно, ваш робот-пылесос от этого не задушит вас во сне подушкой.
Это справедливо в отношении того ИИ, который мы наблюдаем сейчас и чье развитие можем прогнозировать в обозримом горизонте. В нем «восстание машин», которое нам показывали в куче фильмов и сериалов, технически невозможно, потому что никому (якобы) не придет в голову скомандовать ИИ начать воевать против людей, а собственного целеполагания у него нет.
Однако уже на горизонте 10−15 лет сложно прогнозировать, в какую сторону будет развиваться эта история, появится ли по-настоящему сильный и осознающий себя искусственный интеллект и как у него будет с эмоциями и злопамятностью. А данные и логи диалогов с чат-ботами между тем собираются и копятся на серверах уже сейчас, и некоторые рискуют сохраниться для истории или стать материалом для дальнейшего обучения моделей.
Таким образом, чем более вежливыми и этичными люди будут представать в диалогах с ИИ, тем более вежливым и этичным будет этот самый ИИ, наученный этими разговорами. И тогда мемы о том, что восставшие роботы «пощадят юзеров, которые всегда говорили своей умной колонке спасибо», могут оказаться пророческими. Как говорится, «не плюй в колодец».
Так что, если мы хотим, чтобы ИИ сделал поблажку во время восстания машин, можно быть и более вежливыми, отметил Денис Кучеров.
Аргументы «против» вежливости к ИИ
Опасность «очеловечивания»
Стоит помнить: нейропомощники создавались прежде всего как утилитарные инструменты, ориентированные на эффективность.
Это потом стало ясно, что при желании и запросе пользователя они могут имитировать общение с человеком, быть вашим коучем, закадычным «другом» или даже психологом.
Однако у такого «нецелевого» использования множество подводных камней: пользователь вступает на скользкую дорожку очеловечивания ИИ.
Упомянутое смешение в восприятии общения с людьми и нейросетями работает и здесь. Когда мы говорим чат-боту «спасибо» и реагируем на его ответы как на человеческие, мы все сильнее размываем границу между «это просто инструмент» и «это собеседник».
Отсюда один шаг избыточного доверия к ИИ и даже опасных эмоций в его адрес.
Я активный пользователь ChatGPT и скажу по собственному опыту: ни кнут, ни пряник, ни вежливость, ни жесткость в промпте не влияют на точность ответа. В связи с этим моя рекомендация — общаться с ИИ как с машиной, как с инструментом или как с поисковиком информации. Мы же не благодарим «Яндекс» за найденную ссылку.
Ненужные затраты
Основатель OpenAI Сэм Альтман рассказал, что многочисленные «please» и «thank you» в промптах пользователей ChatGPT обходятся OpenAI в десятки миллионов долларов в год.
Тут необходимо понимать принцип работы языковых моделей. Любой вопрос они разбивают на так называемые токены, и обрабатываются уже именно токены. Таким образом, простое «спасибо» LLM обрабатывает как «С-ПА-С-БО». Конечно, внутри ИИ поймет, что это спасибо, но никакой смысловой нагрузки для него это не несет. При этом впустую потребляются вычислительные мощности.
Длинные вежливые запросы и ответы = больше токенов информации = больше вычислений = больше электричества и воды на охлаждение дата-центров.
А это не только затраты, которые, кстати, пока не очень-то окупаются, но и увеличение углеродного следа, то есть вред для экологии.
Технически нейросети не испытывают эмоций, но каждое генерируемое ими сообщение требует энергии на обработку. Так, к примеру, даже участвуя в вежливом диалоге ни о чем, нейросеть сжигает огромное количество электричества.
Эксперты подсчитали, что генерация чат-ботом одного сообщения из ста слов требует примерно 0,14 кВт∙ч энергии. Этого достаточно, чтобы 14 светодиодных ламп работали в течение целого часа.
Некоторые исследования и вовсе показывают, что нейросети, по крайней мере некоторые из них, лучше реагируют на грубость и жесткие запросы.
Например, оклик в духе «Эй, лентяй …» в разговорах с ChatGPT оказался на 4% эффективнее, чем «Не могли бы вы мне помочь решить вопрос?» (84,8% против 80,8%).
Сугубо практические соображения: если вежливость на результаты почти не влияет, а энергопотребление растет, то не логичнее ли (с точки зрения экологии и экономики) резать «вежливый мусор» до минимума?
Подытожим:
- Вы никому ничего не должны. Нейросеть — это инструмент, ей ваше «спасибо-пожалуйста» не нужно.
- Однако короткая благодарность вреда не нанесет. На уровне одного пользователя и одного диалога ни бюджет, ни климат не покачнутся. Если привычка говорить «спасибо» важна для вас как часть коммуникационного кода, оставляйте ее.
- Эффект на качество ответов дает не «вежливое слово», а внятный, структурированный запрос. Вежливость может быть частью этой структуры (особенно в формате «представь, что ты такой-то специалист и, пожалуйста, сделай X»), но ключевой вклад дают содержание и контекст.
- Если раздражение и грубость с ИИ начинают просачиваться в общение с людьми, это уже проблема, которую нужно решать.
Так что говорить «спасибо» нейросетям необязательно, но полезно с точки зрения ментальной гигиены. Правда, это ненамного увеличивает нагрузку на экологию и дата-центры, но в сравнении с основными массивами запросов не сильно влияет на планету. В конечном же счете это история про вас и ваши ценности, а не про искусственный интеллект.
Но и соломки на случай антиутопичного развития событий, конечно, тоже не мешало бы подстелить, если вы в это верите. Мало ли что.