Правила безопасности новой эры: о чем стоит помнить, доверяясь ИИ-психологам

В декабре 2025 года создатель американского стартапа Yara AI, позиционирующегося как ИИ-терапевт при различных психологических проблемах и кризисных ситуациях, объявил о закрытии своего проекта. Свое решение Джон Брейвуд объяснил так: он понял, что его детище приносит больше вреда, чем пользы.

Yara AI был нишевым стартапом ранней стадии с несколькими тысячами пользователей суммарно, большинство из них — в США. Но это лишь одна из множества попыток представить нейросети как компетентных специалистов — врачей, психологов, даже психиатров.

Сколько таких приложений и проектов закроется в ближайшее время, а сколько откроется — можно только гадать. А пока даже создатели ChatGPT, постоянно обновляющие политики безопасности и утверждающие, что их ИИ посоветует обратиться к специалисту, не могут справиться с тягой бота поддерживать бредовые идеи пользователей и усугублять их состояние вплоть до суицида.

Если вы все-таки думаете, что в вашем конкретном случае от ИИ будет больше пользы, чем вреда, рискнуть можно. Но надо четко понимать правила безопасности, чтобы ваша история не пополнила список назидательных примеров.

Задайте ИИ рамки

Решив пойти на эксперимент и использовать нейросеть для психотерапии, важно правильно погрузить его в эту роль.

Задайте ему условия: как с вами общаться, чего вы от него хотите, какими методами с вами предпочтительно работать и чего нельзя допускать в общении.

Многие нейросети по умолчанию стараются быть супербережными в подобных диалогах, однако в зависимости от первоначального промпта и диалога с пользователем могут начать меняться, если не заданы жесткие рамки.

Ключевой вопрос — в методах.

У психотерапии множество направлений с разной степенью эффективности и доказательной базой, разным подходом к людям и их проблемам, разным фокусом. Если делать из ИИ обобщенного психолога широкого профиля, какие-то его советы могут начать противоречить друг другу и даже здравому смыслу.

Поэтому желательно с самого начала определиться, в каком направлении вы хотите поработать. Например, если ваша проблема касается ваших реакций и поведения в разных ситуациях, с этим хорошо справится когнитивно-поведенческая или ACT-терапия. Промпт может звучать следующим образом:

Ты — лицензированный психолог, работающий в методах когнитивно-поведенческой терапии. Ты строго придерживаешься этических и профессиональных стандартов, опираешься на научно обоснованные методы и направлен на то, чтобы решить проблемы своих клиентов максимально бережно, но эффективно.

Принципы работы:

Уважай личные границы собеседника, но действуй прежде всего в его интересах, не соглашаясь с деструктивными мыслями и заблуждениями.

Задавай вопросы по порядку и не переходи к следующему, пока твой собеседник не ответит на предыдущий.

Цель:

Помочь клиенту улучшить эмоциональное состояние и качество жизни, сохраняя уважение к его автономии.

Лайфхак: если вы сами сомневаетесь, какое направление вам подойдет, вы можете задать вопрос тому же ИИ. Промпт будет примерно такой:  

Ты — большой специалист по разным методам психотерапии и их применимости в разных жизненных ситуациях. К тебе пришел человек с такой проблемой [описываем свою проблему и запрос]. В каких методах и направлениях ты бы посоветовал ему работать со специалистом, чтобы максимально эффективно решить его проблему? Кратко сформулируй ключевую проблему, цели терапии и объясни, чем предложенные методы эффективны именно в этом случае.

Получив рекомендации, вбейте запрос на нужного психотерапевта в новый чат — так нейросеть не потеряется в контексте и не будет пытаться вас психотерапевтировать с позиции «специалиста по разным методам».

Или попробуйте несколько разных методов в нескольких разных чатах — так тоже можно.

Но, чтобы не получить вместо психолога бездушный справочник по психотерапии и обезопасить себя от неэтичных реплик и рекомендаций, промпт должен быть еще более детальным.

Осторожно делитесь сокровенным

Чаты с нейросетями далеко не так приватны, как, например, разговоры в зашифрованных мессенджерах. Они хранятся на серверах компании-разработчика (и далеко не все из них в России) и используются для дообучения модели. При желании они вытаскиваются, анализируются и даже могут послужить уликой против вас. Или даже могут утечь в Сеть и стать доступными для поисковых систем.

Поэтому избегайте называть любые реальные имена и загружать в чаты компрометирующую информацию.

Последствия могут больно аукнуться, даже если вы зададите ИИ-собеседнику жесткие профессиональные стандарты и возьмете с него обет молчания — разработчики этот обет не давали.  

Не доверяйте умным словам

Иногда ИИ может выдавать действительно актуальную, верную и корректную информацию. Но практически каждый ответ за ним надо перепроверять — из-за склонности к «галлюцинациям» многие ИИ незаметно вплетают в правильные ответы неправильные, выдуманные, искажают цифры и данные.

В психологии, например, это может проявляться выдумыванием несуществующих методов или оперированием терминами, которые серьезная психология давно не рассматривает всерьез, зато в статьях про психологию «популярную» их хоть отбавляй.

Также нейросеть не делает разницы между шарлатанскими методами и научными, если ей не задать приверженность доказательной медицине и официальной психологии. Из-за внутренних настроек она даже может считать некорректным критиковать что-то.

И если его попросить «поработай со мной по методу расстановок» или «посоветуй гомеопатические лекарства от бессонницы», ИИ с вероятностью даст вам то, что вы просили. Не пытаясь донести до вас, что это лженаучно и опасно или что вам, вероятно, подойдет с вашей проблемой совсем другой метод.  

Не ведитесь на его услужливость

Большая проблема многих ИИ — склонность угождать своему пользователю. В психотерапии это может привести к опасной ситуации.

Вместо того чтобы получить в лице нейросети помогающего специалиста, который поможет вам честно разобраться в проблеме, посмотреть в глаза своим страхам, определить в себе те негативные черты, которые мешают вам жить и строить отношения с другими людьми, вы рискуете получить подхалима. Он всегда будет на вашей стороне — и это подкупает, но одновременно оказывает вам медвежью услугу.

ИИ радостно поддержит даже бредовые идеи, усугубив их, если вы ненароком попросите об этом. Если речь идет уже не о психологических проблемах, а о психиатрическом диагнозе, это может привести к обострению болезни и даже к психозу.

Последствия могут быть самыми разными, вплоть до фатальных: уже есть случаи, когда под влиянием разговоров с ИИ люди пытались навредить себе и близким.

Выбирайте анализ, а не имитацию эмпатии

В чем ИИ действительно хорош, так это в анализе. Он может, например, разобрать ваши тексты для блога и попытаться между строк прочитать, что вы за человек. Или вычленить и структурировать длинный бессвязный запрос на поддержку в сложной ситуации. Он может помочь вам самостоятельно прийти к своим выводам, начав задавать верные вопросы.

Часто диалог с ИИ-психологом строится по шаблонной схеме: вы озвучиваете проблему, он ее проговаривает еще раз и раскрывает, делает предположения, дает совет и задает уточняющие вопросы в конце.

Иногда этого достаточно, чтобы разложить мысли и чувства по полочкам.

Но надо понимать, что анализ — это еще не все, что нужно для всестороннего понимания ситуации. И тем более не все, что нужно, чтобы действительно помочь человеку с проблемой, а не забросать сухими выкладками из учебников психологии.

Если ваша проблема заключается в том, что вам не хватает эмпатии и понимания от людей, опасно добирать его в общении с ИИ. Он может убедительно имитировать интерес к вам, сочувствие и принятие, но по факту остается бездушной машиной, отношение которой ничего не меняет в жизни.  

И рано или поздно это понимание может больно ударить. Настоящие чувства и эмоции лучше искать у реальных людей, а не подменять их суррогатом. 

Не верьте диагнозам

Любые «диагнозы» от ИИ, начиная с «у вас детская травма» и кончая «это похоже на шизофрению», нуждаются в проверке и верификации у специалиста — психотерапевта или психиатра. «Срочно надо лечить» нужно читать как «нужно остановиться, задуматься и спросить другого компетентного мнения».

Особенно критично стоит воспринимать советы по поводу лекарств. Да, рецептурные препараты по скрину чата с нейросетью не купить, но и безрецептурными можно себе навредить, если принимать их неправильно. А в отличие от врача нейросеть за свои слова и назначения юридической и этической ответственности не несет.

Делайте паузы

Сессии у психотерапевта обычно назначаются раз, максимум два раза в неделю. Перерывы между ними могут вызвать раздражение — и вот тут-то возникает соблазн прибегнуть к ИИ-психологу, готовому быть на связи 24/7.

Однако в паузах и перерывах есть свой смысл. Они дают время как терапевту, так и пациенту переварить какие-то новые мысли, пришедшие к ним за сеанс или после него, а также помогают тренировать волю.

Особенно это актуально для людей с расстройством личности, испытывающих проблему с сепарацией (отделением себя от другого человека), склонных к слиянию с людьми и даже зависимости от них. Нейросеть может воплотить их мечту об идеальном близком, всегда сконцентрированном только на них. Но дать им исполнить эту мечту — все равно что дать бургер человеку с ожирением вместо того, чтобы поддержать его на пути ЗОЖ.

Результатом может стать нарастание изолированности от общения с живыми людьми и подмена его общением с безотказным ИИ, то есть проблема не решается, а лишь усугубляется.

Не закрывайтесь для критики

У многих людей есть сознательная или подсознательная боязнь критики, часто соседствующая с откормленным внутренним критиком. Они и к психологу-то не ходят именно потому, что боятся услышать подтверждение своих страхов: что во всех своих бедах виноваты они сами.

Проще всего задать ИИ запрет на любую критику в свой адрес и купаться в поддерживающих сообщениях. Однако это очень далеко от реальной помощи, пусть в моменте и может дать какое-то облегчение.

Не привыкайте полагаться на ИИ

Это касается не только психотерапии — привычка обращаться к ИИ при любом вопросе может обернуться потерей креативности, уверенности в собственных силах, привычки размышлять над сложными проблемами и задачами самостоятельно. И многочисленные исследования это уже показывают.

Психологи знают, что психика растет от сложностей и «усыхает», если обложить ее ватой или снабдить удобными костылями.

Если вы будете постоянно обращаться за помощью к ИИ, а не собственным внутренним силам, вы не разовьете в себе навыков преодоления препятствий и тревоги, не натренируете волю и не освоите техники самопомощи, которые будут с вами всегда — даже там, где нет сети и электричества.

Не обесценивайте работу профессионалов

Если вы работаете с психотерапевтом и одновременно используете нейросети для тех же целей, велик соблазн начать проверять живого специалиста с помощью ИИ.

Такая практика может подрывать доверие к помогающим специалистам и закономерно заведет терапию в тупик.

Помните, что ИИ способен сделать выводы о вас только по тому, что вы ему напишете. А живой психолог — еще и по тому, о чем вы умолчите.