Как спустя месяц используют нейросеть для накладывания лиц знаменитостей порноактрисам

Приложение упростило создание роликов и привело к десяткам примеров на Reddit. Но некоторые пользователи пытаются выйти за пределы порно.

Дэйзи Ридли в ролике, сделанном с помощью Fake App

В декабре 2017 года в сети появились поддельные порноролики с Галь Гадот, Эммой Уотсон и Мейси Уильямс. Пользователь Reddit под ником deepfakes «перенёс» их лица на уже существующие откровенные видео с порносайтов, используя открытые алгоритмы машинного обучения. Об этих роликах впервые подробно рассказала журналистка Motherboard Саманта Коул (Samantha Cole), подняв вопрос об этичности технологии.

Спустя месяц она изучила, как изменилась ситуация с «подрисовыванием» лиц на Reddit, и убедилась, что созданием фейковых порнороликов теперь «занимаются все». TJ выбрал главные выводы из её материала.

Коул насчитала на Reddit десятки новых роликов с популярными актрисами и певицами, хотя ещё в декабре их было 5-6 штук. Это связано с появлением приложения FakeApp: инструмента с нейросетью deepfakes в основе, позволяющего менять лица на видео даже пользователям без навыков программирования и не знакомых с машинным обучением. В январе 2018 года вышла десктоп-версия программы для всех желающих.

На Reddit пользователи приложения объединились на сабреддите r/deepfakes, где делятся роликами и советами для новичков. Журналистка Motherboard отметила, что сообщество развивается с «ужасающей скоростью». За месяц на него подписалось более 18 тысяч человек. А в сети появились порноролики с подставленными лицами Дейзи Ридли, Кэти Перри, Натали Портман, Джессики Альбы, Натали Дормер и других известных актрис.

Джессика Альба в ролике, созданном с помощью FakeApp

Саманта Коул заявила, что некоторые ролики стало сложно отличить от реальности. Если в прошлых версиях нейросети вместе с «подрисованным» лицом можно было увидеть рамку, которая снижала реалистичность, то в новом приложении от неё можно избавиться практически полностью. В январе один из поддельных роликов с Эммой Уотсон появился на сайте CelebJihad, где собираются все утечки интимных фотографий и и видео знаменитостей.

Сам deepfakes, разработавший алгоритм, не причастен к созданию программы, но активно участвует в жизни сабреддита. На вопросы Motherboard он не ответил.

Чтобы создать своё видео, в приложение необходимо загрузить фотографии или видео знаменитости, а также ролик, на который нужно «перенести» лицо. Deepfakes в одном из обсуждений объяснял, что нейросети нужно тренироваться примерно на 500 кадрах с разных ракурсов: меньшее количество повредит детализации, а большее приведёт к проблемам с алгоритмом.

Часто пользователи используют видео актрис и певиц с различных интервью, где их лицо хорошо видно и находится постоянно в одном освещении. Также некоторые участники сообщества обучают нейросеть на видео из Инстаграма или Снэпчата: по их словам, на таких роликах больше естественных эмоций.

Однако для создания поддельного видео с помощью FakeApp необходим мощный компьютер. С ним обучение проходит за 10-12 часов, с бюджетным — около суток. Этапы отображаются в интерфейсе приложения, но пользователи всё равно часто жалуются на напрасно потраченное время: через полдня они видят, что качественного «подрисовывания» не вышло.

Ещё одна проблема — два лица должны «подходить» друг к другу, чтобы результат был более естественным. Из-за этого пользователи Reddit объединяются в чаты и сообща ищут порноактрис, которые напоминали бы знаменитостей. После чего собирают их в одну базу данных, которой делятся с остальными. На сабреддите уже есть «шаблонные» порноактрисы для Эммы Уотсон или Эмилии Кларк, которые позволяют добиться наибольшего сходства.

В противном случае результат может оказаться смазанным или с большим количеством артефактов.

Создатель FakeApp под ником deepfakeapp признал, что приложение до сих пор не решает всех проблем, связанных с тренировкой нейросетей. Но назвал инструмент «хорошей стартовой точкой» для дальнейших улучшений.

Большинство записей на сабреддите deepfakes посвящены «подрисовыванию» порноактрисам лиц знаменитостей. Но не все используют нейросеть только для этого. Некоторые пользователи работают с FakeApp, чтобы заменить актёров в голливудских фильмах или «улучшить» их.

В 2016 году вышел фильм «Изгой Один», действие которого происходит во вселенной Звёздных войн. В одном из моментов в картине показали молодую принцессу Лею, хотя на момент съёмок актрисе Кэрри Фишер было 60 лет (она умерла 27 декабря 2016 года). Лею «омолодили» с помощью CGI: лицо Фишер наложили на норвежскую актрису Ингвильд Дейлу, сыгравшую в сцене.

СМИ раскритиковали этот момент за неестественность. В январе 2018 года пользователь derpfakes попробовал «улучшить» сцену с помощью FakeApp и нескольких сотен фотографий «похожей актрисы». На Reddit отметили, что результат (снизу) получился более натуральным, чем у студии спецэффектов, работающей над «Изгоем Один».

Пользователь под ником Z3ROCOOL22 регулярно публикует на сабреддите ролики, сделанные с помощью FakeApp. Ни один из них не связан с порно: в основном это сцены из фильмов и видео с политиками. Большинство из них нельзя назвать качественными. Например, он пытался «перенести» актёра Дуэйна «Скалу» Джонсона в «Терминатор 2», а Дональда Трампа — в «Тор: Рагнарёк».

Саманта Коул отметила, что одна из попыток всё-таки получилась реалистичной: Z3ROCOOL22 соединил президента Аргентины Маурисио Макри с изображениями Адольфа Гитлера из немецкого фильма «Бункер», где его сыграл Бруно Ганц.

Deepfakeapp в разговоре с Motherboard выразил надежду, что в будущем технологии машинного обучения станут использовать шире, а инструменты вроде FakeApp сделают нейросети доступными для «обычных людей». По мнению создателя приложения, со временем обычные пользователи смогут выдавать результаты, сравнимые с работой крупных компаний по созданию спецэффектов.

Эксперты, опрошенные Коул, согласны, что хоть технология и не новая, но она стала настолько доступной впервые в истории. И это сильно может подорвать «весь институт доверия и надёжности» людей к любому видео.

#технологии #разборы #fakeapp