Летом 2023 года стриминговый сервис Netflix представил первое в мире реалити-шоу, в котором используется технология дипфейк, — Deep Fake Love. В эфире передачи молодые люди смотрят видео, где им изменяют их возлюбленные, и пытаются определить, настоящие это ролики или же созданные с помощью искусственного интеллекта. Проект стал настоящей пыткой для участников: многие из них признались, что увиденное на шоу будет приходить к ним в кошмарах. Зрители назвали шоу жестоким и токсичным, а его создателей — садистами. О том, как передача разозлила зрителей и спровоцировала дискуссию о том, этично ли использовать ИИ для того, чтобы манипулировать людьми, — в материале «Ленты.ру».
«Иногда единственный способ узнать правду — столкнуться лицом к лицу с ложью», — говорит ведущая шоу Deep Fake Love Ракель Санчес-Сильва, обращаясь к участникам. После этого они по очереди садятся в кресло перед большим экраном и смотрят видео, где их любимые флиртуют, целуются и занимаются сексом с другими.
В шоу участвуют пять пар, которые хотят выяснить, по-настоящему ли они любят друг друга. У каждой из них своя история. Например, Аида и Мануэль встречаются больше года и вовсю планируют будущую свадьбу. Паола и Хави вместе девять лет, незадолго до съемок они задумались насчет переезда в другую страну. Иса и Рубен в отношениях всего восемь месяцев, но уже тоже готовятся к свадьбе.
Участников шоу разлучают с партнерами и селят в роскошные виллы, где их ждут красивые и одинокие парни и девушки. Уже с первых минут герои шоу начинают выражать симпатию к новым знакомым. Например, Габриэла, которая пять лет встречается с Анхелем и утверждает, что у них с возлюбленным крепкая связь, не стесняясь объявляет, что ей понравились сразу три парня.
На виллах молодые люди веселятся круглые сутки: они устраивают вечеринки с алкоголем, танцами и эротическими конкурсами, во время которых слизывают шоколад с тел друг друга или передают кубик льда изо рта в рот. Раз в несколько дней участников отводят в Белую комнату. Там им предстоит увидеть, чем все это время занимались их вторые половинки.
Просмотр роликов, в которых возлюбленные им изменяют, становится серьезным испытанием для участников. Сидя в белом кресле, молодые люди не могут скрыть эмоций: они плачут, устраивают истерики и грозятся покинуть проект. Несмотря на то что герои знают, что видео может быть обманом, многие из них начинают сомневаться в своих партнерах.
Так, Габриэле показался реальным ролик, где ее партнер занимается сексом с другой девушкой, хотя на самом деле он был дипфейком. «Я бы хотела вернуться в прошлое и быть рядом с Анхелем, чтобы ничего этого не произошло, — говорит участница реалити-шоу, вытирая слезы. — Я хотела выйти замуж за этого человека и родить от него детей».
Сразу после выхода Deep Fake Love передачу раскритиковали в сети. Многие пользователи заявили, что это реалити-шоу является самым жестоким из всех, которые они когда-либо видели. Создателей программы назвали садистами за то, что они играют чувствами героев и наносят им психологические травмы.
Пользовательница сайта Reddit, работающая психиатром, считает, что программу не следует смотреть людям, которые испытывают проблемы в отношениях. «Это шоу опасно для человеческого мозга. Я чувствую себя мерзко, когда смотрю его, но вместе с этим я не могу перестать смотреть. Очень тяжело наблюдать за тем, как людям причиняют боль», — призналась она.
Некоторые зрители согласились с тем, что с участниками поступают несправедливо, но при этом добавили, что с интересом смотрят передачу. «Я думаю, что это самое жестокое шоу (…), но оно затягивает», «Это очень токсичное шоу, но оно такое классное», «Deep Fake Love — это настолько плохо, что я не могу перестать его смотреть», — делились мнениями комментаторы.
На проект Netflix также обратила внимание бывший директор по стратегическим коммуникациям Белого дома, телеведущая Алисса Фарах Гриффин. Выступая в эфире американского ток-шоу The View на канале ABC, она заявила, что в такой программе, как Deep Fake Love, не может быть победителей.
О том, что некоторые видео с изменами окажутся фейковыми, герои передачи узнают не сразу. Когда они впервые попадают в Белую комнату и смотрят видео, где их партнеры проводят время с другими, то считают эти ролики настоящими. Многие участники настолько возмущены увиденным на экране, что сразу заявляют, что их отношениям конец.
«Я не верю в это, этого не может быть. Здесь не о чем думать. Я теперь один. Это конец, клянусь матерью!» — кричит Мануэль после того, как ему показали фейковое видео, на котором его невеста Аида целуется с другим мужчиной. Его и остальных героев успокаивает ведущая, объясняя, что при создании некоторых роликов использовался ИИ.
Слова ведущей повергают участников проекта в шок. «Какого черта? Мы должны уйти, не зная, где правда, а где ложь?» — возмущается Паола. «Это безумие. Невероятно. Мы сойдем с ума», — говорит Иса. «Технология дипфейк пугает меня. Мне кажется, она может запутать любого», — признается Мануэль.
От участников передачи скрывают, что одинокие парни и девушки, живущие с ними на виллах, на самом деле являются актерами, главная задача которых — проверить пары на прочность. Для этого они стараются соблазнить героев и пытаются внушить, что им нужно расстаться с возлюбленными. Иногда им это удается: несколько участников шоу поддаются искушению и изменяют возлюбленным.
Даже когда создатели программы показывают участникам шоу настоящие видео, они вырывают слова из контекста и монтируют с ними видео так, чтобы у тех, кто смотрит ролики, создавалось впечатление, будто их возлюбленные говорят о них плохо и задумываются о расставании. В результате некоторые герои верили, что партнеры хотят бросить их, и пытались закрутить роман с присутствующими на вилле.
С каждым походом в Белую комнату влюбленным становится все тяжелее отличить правду от лжи. У некоторых из них не выдерживают нервы. «Я не готов смотреть видео. Неважно, большинство из них фальшивы или всего несколько, они все равно остаются у вас в памяти», — жалуется Мануэль, когда снова оказывается перед экраном.
В финале участникам разрешают встретиться со своими любимыми лицом к лицу в Белой комнате и рассказать о том, изменились ли их чувства друг к другу за время участия в проекте. Там же им показывают, какие ролики были созданы с помощью нейросети, а какие были подлинными. В результате большинство пар расходится со скандалом.
Первое реалити-шоу, в котором используются дипфейки, вышло в разгар забастовки Гильдии киноактеров (SAG-AFTRA) и Гильдии сценаристов (WGA) Голливуда. Одной из причин протестов стало то, что киностудии стали все больше использовать ИИ при производстве фильмов и сериалов: работники индустрии беспокоятся, что в будущем нейросети лишат их работы.
В частности, сценаристы выступают против того, чтобы искусственный интеллект писал за них сценарии для проектов, а актеры не хотят, чтобы на замену им в кино пришли цифровые копии, созданные на основе их образов.
О том, что Netflix, несмотря на забастовку актеров и сценаристов, планирует и дальше делать ставку на искусственный интеллект, говорит тот факт, что вскоре после премьеры Deep Fake Love компания открыла вакансию специалиста по ИИ с окладом в размере 300-900 тысяч долларов в год (примерно 29-87 миллионов рублей).
Интерес к подобным специалистам проявила и другая крупная компания, производящая развлекательный контент, — Disney. В августе корпорация открыла 11 вакансий для специалистов с опытом работы в области ИИ.
Журналистка Саския О’Донохью, посмотревшая Deep Fake Love, заявила, что создатели передачи перешли грань в использовании ИИ, заставив участников страдать. «Вполне возможно, это самое жестокое использование искусственного интеллекта, которое мы видели до сих пор», — написала она в колонке для Euronews.
По мнению журналистки, компании, которые с помощью дипфейков разрушают отношения людей в развлекательных целях, наносят психологический ущерб не только участникам, но и и зрителям. О’Донохью выразила опасения, что из-за популярности Deep Fake Love эту технологию начнут активно использовать в реалити-шоу и других проектах.
Негативно о программе высказалась и сотрудница издания Primetimer Брианна Веллен. Она тоже считает, что проект нанес героям моральный вред, поскольку видео с изменой «забыть непросто, фальшивое оно или нет». Журналистка назвала Deep Fake Love «предупреждением об опасностях использования искусственного интеллекта на телевидении».
Менее категорично о передаче отозвался журналист Джош Розенберг. «Deep Fake Love — одно из самых злых шоу, что я когда-либо видел. И мне оно безумно понравилось», — признался он в статье для издания Esquire. По словам репортера, он был поражен тем, как изощренно мучают героев передачи создатели. «Я просто не мог отвести взгляд от экрана», — добавил он.
Несмотря на травматический опыт, участники передачи благодарны проекту за то, что он позволил им открыть себя и партнеров с новой стороны, а также понять, чего они хотят от жизни. «За время этого приключения я стала более уверенной в себе, научилась верить в себя», — сообщила Паола.