29.02.2024

Летом 2023 года стриминговый сервис Netflix представил первое в мире реалити-шоу, в котором используется технология дипфейк, — Deep Fake Love. В эфире передачи молодые люди смотрят видео, где им изменяют их возлюбленные, и пытаются определить, настоящие это ролики или же созданные с помощью искусственного интеллекта. Проект стал настоящей пыткой для участников: многие из них признались, что увиденное на шоу будет приходить к ним в кошмарах. Зрители назвали шоу жестоким и токсичным, а его создателей — садистами. О том, как передача разозлила зрителей и спровоцировала дискуссию о том, этично ли использовать ИИ для того, чтобы манипулировать людьми, — в материале «Ленты.ру».

«Я хотела выйти замуж за этого человека»

«Иногда единственный способ узнать правду — столкнуться лицом к лицу с ложью», — говорит ведущая шоу Deep Fake Love Ракель Санчес-Сильва, обращаясь к участникам. После этого они по очереди садятся в кресло перед большим экраном и смотрят видео, где их любимые флиртуют, целуются и занимаются сексом с другими.

В шоу участвуют пять пар, которые хотят выяснить, по-настоящему ли они любят друг друга. У каждой из них своя история. Например, Аида и Мануэль встречаются больше года и вовсю планируют будущую свадьбу. Паола и Хави вместе девять лет, незадолго до съемок они задумались насчет переезда в другую страну. Иса и Рубен в отношениях всего восемь месяцев, но уже тоже готовятся к свадьбе.

Участников шоу разлучают с партнерами и селят в роскошные виллы, где их ждут красивые и одинокие парни и девушки. Уже с первых минут герои шоу начинают выражать симпатию к новым знакомым. Например, Габриэла, которая пять лет встречается с Анхелем и утверждает, что у них с возлюбленным крепкая связь, не стесняясь объявляет, что ей понравились сразу три парня.

Ведущая Deep Fake Love Ракель Санчес-Сильва

Ведущая Deep Fake Love Ракель Санчес-Сильва

Кадр: реалити-шоу Deep Fake Love

На виллах молодые люди веселятся круглые сутки: они устраивают вечеринки с алкоголем, танцами и эротическими конкурсами, во время которых слизывают шоколад с тел друг друга или передают кубик льда изо рта в рот. Раз в несколько дней участников отводят в Белую комнату. Там им предстоит увидеть, чем все это время занимались их вторые половинки.

Главная задача героев проекта — определить, являются ли видео, которые им показали, подлинными или нет. Та пара, в которой оба партнера чаще остальных отвечали правильно, получит денежный приз в сто тысяч евро (примерно десять миллионов рублей)

Просмотр роликов, в которых возлюбленные им изменяют, становится серьезным испытанием для участников. Сидя в белом кресле, молодые люди не могут скрыть эмоций: они плачут, устраивают истерики и грозятся покинуть проект. Несмотря на то что герои знают, что видео может быть обманом, многие из них начинают сомневаться в своих партнерах.

Так, Габриэле показался реальным ролик, где ее партнер занимается сексом с другой девушкой, хотя на самом деле он был дипфейком. «Я бы хотела вернуться в прошлое и быть рядом с Анхелем, чтобы ничего этого не произошло, — говорит участница реалити-шоу, вытирая слезы. — Я хотела выйти замуж за этого человека и родить от него детей».

«Настоящая пытка»

Сразу после выхода Deep Fake Love передачу раскритиковали в сети. Многие пользователи заявили, что это реалити-шоу является самым жестоким из всех, которые они когда-либо видели. Создателей программы назвали садистами за то, что они играют чувствами героев и наносят им психологические травмы.

«Deep Fake Love — это самое ужасное, что когда-либо выпускал Netflix», «Если вы хотите потерять веру в человечество, то посмотрите Deep Fake Love на Netflix», «Это шоу отвратительное. Большинство отношений здесь кажутся токсичными. (…) какая садистская концепция!», «Это шоу — мечта садиста. (…) Психологические манипуляции представлены здесь во всей красе», — писали пользователи X (старое название — Twitter) и Reddit.

Пользовательница сайта Reddit, работающая психиатром, считает, что программу не следует смотреть людям, которые испытывают проблемы в отношениях. «Это шоу опасно для человеческого мозга. Я чувствую себя мерзко, когда смотрю его, но вместе с этим я не могу перестать смотреть. Очень тяжело наблюдать за тем, как людям причиняют боль», — призналась она.

Некоторые зрители согласились с тем, что с участниками поступают несправедливо, но при этом добавили, что с интересом смотрят передачу. «Я думаю, что это самое жестокое шоу (…), но оно затягивает», «Это очень токсичное шоу, но оно такое классное», «Deep Fake Love — это настолько плохо, что я не могу перестать его смотреть», — делились мнениями комментаторы.

Кадр: реалити-шоу Deep Fake Love

На проект Netflix также обратила внимание бывший директор по стратегическим коммуникациям Белого дома, телеведущая Алисса Фарах Гриффин. Выступая в эфире американского ток-шоу The View на канале ABC, она заявила, что в такой программе, как Deep Fake Love, не может быть победителей.

Либо партнер изменяет — и отношениям конец. Либо вы ошибочно обвиняете партнера в измене и показываете, что не доверяете ему. Это очень опасно

Алисса Фарах Гриффинбывший директор по стратегическим коммуникациям Белого дома

«Мы сойдем с ума»

О том, что некоторые видео с изменами окажутся фейковыми, герои передачи узнают не сразу. Когда они впервые попадают в Белую комнату и смотрят видео, где их партнеры проводят время с другими, то считают эти ролики настоящими. Многие участники настолько возмущены увиденным на экране, что сразу заявляют, что их отношениям конец.

«Я не верю в это, этого не может быть. Здесь не о чем думать. Я теперь один. Это конец, клянусь матерью!» — кричит Мануэль после того, как ему показали фейковое видео, на котором его невеста Аида целуется с другим мужчиной. Его и остальных героев успокаивает ведущая, объясняя, что при создании некоторых роликов использовался ИИ.

Кадры, которые вы сейчас видели, могут быть реальными или нет. Вы только что столкнулись с современной технологией под названием дипфейк, которая создает точные копии каждого из вас. Да, вы видели их (своих партнеров — прим. «Ленты.ру»), но действительно ли это были они?

Ракель Санчес-Сильваведущая шоу Deep Fake Love

Хави

Хави

Кадр: реалити-шоу Deep Fake Love

Слова ведущей повергают участников проекта в шок. «Какого черта? Мы должны уйти, не зная, где правда, а где ложь?» — возмущается Паола. «Это безумие. Невероятно. Мы сойдем с ума», — говорит Иса. «Технология дипфейк пугает меня. Мне кажется, она может запутать любого», — признается Мануэль.

От участников передачи скрывают, что одинокие парни и девушки, живущие с ними на виллах, на самом деле являются актерами, главная задача которых — проверить пары на прочность. Для этого они стараются соблазнить героев и пытаются внушить, что им нужно расстаться с возлюбленными. Иногда им это удается: несколько участников шоу поддаются искушению и изменяют возлюбленным.

Даже когда создатели программы показывают участникам шоу настоящие видео, они вырывают слова из контекста и монтируют с ними видео так, чтобы у тех, кто смотрит ролики, создавалось впечатление, будто их возлюбленные говорят о них плохо и задумываются о расставании. В результате некоторые герои верили, что партнеры хотят бросить их, и пытались закрутить роман с присутствующими на вилле.

Кадр: реалити-шоу Deep Fake Love

С каждым походом в Белую комнату влюбленным становится все тяжелее отличить правду от лжи. У некоторых из них не выдерживают нервы. «Я не готов смотреть видео. Неважно, большинство из них фальшивы или всего несколько, они все равно остаются у вас в памяти», — жалуется Мануэль, когда снова оказывается перед экраном.

«Хотя я знаю, что эти ролики неправда, у меня все равно стоит перед глазами его измена, мне теперь будут сниться кошмары. Это ужасно», — делится переживаниями Паола после просмотра видео с участием Хави

В финале участникам разрешают встретиться со своими любимыми лицом к лицу в Белой комнате и рассказать о том, изменились ли их чувства друг к другу за время участия в проекте. Там же им показывают, какие ролики были созданы с помощью нейросети, а какие были подлинными. В результате большинство пар расходится со скандалом.

Единственными, кто смог сохранить отношения, стали Иса и Рубен. При этом главный приз выиграли сразу три пары — Иса и Рубен, Паола и Хави, Габриэла и Анхель. Однако в передаче не уточнили, как в итоге распределили приз

«Разрушают отношения ради развлечения зрителей»

Первое реалити-шоу, в котором используются дипфейки, вышло в разгар забастовки Гильдии киноактеров (SAG-AFTRA) и Гильдии сценаристов (WGA) Голливуда. Одной из причин протестов стало то, что киностудии стали все больше использовать ИИ при производстве фильмов и сериалов: работники индустрии беспокоятся, что в будущем нейросети лишат их работы.

Забастовка сценаристов и актеров в США

Забастовка сценаристов и актеров в США

Фото: Mike Blake / Reuters

В частности, сценаристы выступают против того, чтобы искусственный интеллект писал за них сценарии для проектов, а актеры не хотят, чтобы на замену им в кино пришли цифровые копии, созданные на основе их образов.

Пока члены SAG-AFTRA и WGA борются с искусственным интеллектом, Netflix использует эту технологию, чтобы разрушать отношения людей ради развлечения зрителей. Возможно, нет ничего более антиутопичного, чем это

Джон Розенбергжурналист Esquire

Использование цифровых копий актеров — одна из главных тем для разногласий между SAG-AFTRA и AMPTP (Альянс продюсеров кино и телевидения — прим. «Ленты.ру»), которая привела к забастовке членов SAG-AFTRA. (…) Существование шоу [Deep Fake Love] доказывает, что эта проблема актуальна как никогда

Бриана Велленжурналистка Primetimer

О том, что Netflix, несмотря на забастовку актеров и сценаристов, планирует и дальше делать ставку на искусственный интеллект, говорит тот факт, что вскоре после премьеры Deep Fake Love компания открыла вакансию специалиста по ИИ с окладом в размере 300-900 тысяч долларов в год (примерно 29-87 миллионов рублей).

Интерес к подобным специалистам проявила и другая крупная компания, производящая развлекательный контент, — Disney. В августе корпорация открыла 11 вакансий для специалистов с опытом работы в области ИИ.

«Я просто не мог отвести взгляд от экрана»

Журналистка Саския О’Донохью, посмотревшая Deep Fake Love, заявила, что создатели передачи перешли грань в использовании ИИ, заставив участников страдать. «Вполне возможно, это самое жестокое использование искусственного интеллекта, которое мы видели до сих пор», — написала она в колонке для Euronews.

Неважно, изменяют участники друг другу или нет. Пары, которые смотрят видео, очевидно, травмированы самой мыслью о неверности партнера, не говоря уже о том, что они вынуждены видеть лица своих любимых в компрометирующих ситуациях. Психологически мозгу непросто отличить реальность от фальши

Саския О’Донохьюжурналистка Еuronews

По мнению журналистки, компании, которые с помощью дипфейков разрушают отношения людей в развлекательных целях, наносят психологический ущерб не только участникам, но и и зрителям. О’Донохью выразила опасения, что из-за популярности Deep Fake Love эту технологию начнут активно использовать в реалити-шоу и других проектах.

Габриэла и Анхель

Габриэла и Анхель

Кадр: реалити-шоу Deep Fake Love

Негативно о программе высказалась и сотрудница издания Primetimer Брианна Веллен. Она тоже считает, что проект нанес героям моральный вред, поскольку видео с изменой «забыть непросто, фальшивое оно или нет». Журналистка назвала Deep Fake Love «предупреждением об опасностях использования искусственного интеллекта на телевидении».

Менее категорично о передаче отозвался журналист Джош Розенберг. «Deep Fake Love — одно из самых злых шоу, что я когда-либо видел. И мне оно безумно понравилось», — признался он в статье для издания Esquire. По словам репортера, он был поражен тем, как изощренно мучают героев передачи создатели. «Я просто не мог отвести взгляд от экрана», — добавил он.

Несмотря на травматический опыт, участники передачи благодарны проекту за то, что он позволил им открыть себя и партнеров с новой стороны, а также понять, чего они хотят от жизни. «За время этого приключения я стала более уверенной в себе, научилась верить в себя», — сообщила Паола.

«Я пришла на шоу, чтобы понять, следует ли мне выходить замуж. Но теперь все сомнения ушли. Моя цель сейчас — ставить себя на первое место, научиться любить себя и вырасти как личность», — сказала героиня проекта Аида после расставания с Мануэлем