Не запрет, а смещение. Как работают негативные промпты для нейросетей и как их правильно использовать

Что такое негативный промпт

В промптинге выделяют два вида запросов к большой языковой модели: позитивный и негативный. Позитивный основан на прямом указании, что нужно сделать, а негативный — на запрете.

«Нарисуй двух парижанок в черном. Не используй черный цвет» — пример комбинации позитивного и негативного промптов. Причем мы привели его с сознательной ошибкой: если Ренуар с такой противоречивой задачей справился блестяще, то у большой языковой модели неминуемо возникнут проблемы.

Негативный промпт нужен, чтобы повысить качество результата, ограничить нейросеть при использовании того или иного признака.

Нужнее всего негативные промпты при генерации картинок и видео, где нужно контролировать наличие графических элементов, объяснил заместитель исполнительного директора ЦК НТИ по большим данным МГУ Гарник Арутюнян. С текстами негативные промпты работают уже хуже — модели могут частицу «не» проигнорировать. Зато там проще отредактировать вручную.

Как работает негативный промпт внутри модели

В приведенном нами примере ошибку допустил пользователь, но нередко и сам ИИ не реагирует на установленные запреты, хотя с точки зрения человеческой логики задача сформулирована предельно понятно. Почему так происходит?

Дело в том, что модель не понимает отрицание так же, как его понимает человек. Искусственный интеллект не ставит самозапреты, он старается минимизировать схожесть результата с указанным нежелательным признаком.

Признак, упомянутый пользователем, не блокируется — происходит лишь его статистическое ослабление, объяснил эксперт Юрий Тюрин.

**Директор департамента расследований T. Hunter Игорь Бедеров сравнил варианты результата, который может выдать нейросеть, с картой. Благодаря негативному промпту модель пытается направить процесс генерации в другую сторону от тех областей на карте, которые ассоциируются с «запретными» понятиями.

Системный администратор СП. АРМ Константин Глазков представил финальный вектор в виде такой формулы: «Направление к цели» – («Направление к запретному» х «коэффициент силы»). Негативный промпт здесь используется для отталкивания результата от нежелательных состояний.

Основные принципы и правила использования негативного промпта

Негативные промпты часто оказываются эффективными. Однако важно соблюдать несколько принципов. Константин Глазков выделил три основных.

Принцип 1: ясность и прямота. Директивы должны быть четкими: «избегай», «не упоминай», «не используй», «исключи».

• Плохой пример: «Мне не хотелось бы, чтобы текст был слишком сложным».
• Хороший пример: «Не используй профессиональный жаргон и сложные термины. Объясни простыми словами».

Правда, еще лучше сработает позитивная формулировка «Пиши в стиле объяснения для пятилетнего ребенка», считает эксперт.

Принцип 2: конкретика вместо обобщений. Абстрактные оценки плохо даются модели. Вместо «напиши интересно» лучше дать конкретные указания: «Избегай сухого, академического тона. Не используй клише, такие как "в современном динамичном мире"».

Принцип 3: использование разделителей и структуры. «Задание» должно быть четко отделено от «запретов».

В некоторых моделях это, кстати, реализовано технически. Например, в Fusion Brain от «Сбера» есть отдельные поля для промпта и негативного промпта.

Аналитик Егор Кириллов призвал также разделять категории: если в негативе появляется длинный список (no hats, no glasses, no smiling, no background clutter), модель может «потеряться» между конфликтами. Иногда лучше сделать несколько итераций с уточнением.

Можно прямо указывать большой языковой модели «вес» того или иного признака в конечной генерации, например «машины: –1,5», добавил СТО ГК «Цифровые привычки» Сергей Генералов.

Почему негативный промпт работает наоборот

Эксперты выделяют несколько видов ошибок, когда нейросеть не понимает пользователя и его негативный промпт.

Упоминание нежелательной темы или субъекта рассуждений в запросе может бессознательно сконцентрировать внимание модели на ней.

ИИ реагирует на маркеры образов, а не на их отрицание. В итоге «no text» может привести к появлению букв, потому что слово «text» само по себе вызывает ассоциацию с символами.

Отрицание теряет силу при сложных конфликтах.

Если дать запрос «пейзаж без людей», когда в обучающей выборке 90% пейзажей содержали человека, модель может все равно вставить фигуру, потому что статистическая инерция сильнее запрета.

Чрезмерное использование негативных промптов.

Эксперты сходятся в том, что это может слишком ограничить возможности модели и снизить ее креативность. Лучше сосредоточиться на наиболее значимых отрицательных подсказках.

Слишком обширные или расплывчатые запреты.

«Не будь скучным» — такой промпт может оказаться бесполезным, потому что у модели нет единого понимания «скуки».

Внутренние противоречия и логические петли.

Если модель не может разрешить логический конфликт, это приводит к странным результатам или игнорированию указаний. Модель запутается, когда получит задание «кратко раскрыть все аспекты проблемы» — промпты «кратко» и «все аспекты» будут конфликтовать друг с другом.

В нашем примере из начала статьи с «парижанками в черном» конфликт промптов, видимо, так смутил модель, что она сгенерировала девушку и парня — одетых, разумеется, в черный цвет.

Неучет формата вывода.

Однако большинство экспертов отметили: в случае если негативный промпт не работает, лучше всего переформулировать его в позитив.

Можно также дать модели роль, которая по определению исключает нежелательное поведение. Так, если нужен текст без рекламного пафоса, нужно не запрещать пафос, а объяснить, что нейросеть сейчас выступает в качестве технического эксперта, который объективно сравнивает два продукта, перечисляет плюсы и минусы для информированной аудитории.

И завершим историю с парижанками в черном. Нам удалось победить нейросеть, подробно описав, что использовать вместо черного (комбинации синего ультрамарина и красного краплака), и отдельно прописав запрет на черный. Собственно, этот промпт нам Ренуар и подсказал — он своих «Девушек в черном» рисовал, используя как раз эту комбинацию цветов.