Женя Кузьмин
27 913

Большие чистки: что происходит с сообществом FakeApp после запретов со стороны крупных сервисов

Нейросеть, «подрисовывающая» лица в порноролике, стала очень популярна, но столкнулась с мерами от Твиттера и Pornhub.

Поделиться

В избранное

В избранном

Порноролик с Галь Гадот, созданный с помощью FakeApp

В декабре 2017 года в сети появились поддельные порноролики с Галь Гадот, Эммой Уотсон и Мейси Уильямс, созданные с помощью нейросети deepfakes. За несколько месяцев количество подобных видео резко увеличилось благодаря простому приложению FakeApp, которое установили более 100 тысяч человек. Появились и примеры использования технологии, не связанные с порно.

О нейросети заговорили в обществе и СМИ, критикуя пользователей приложения за «подрисовку» лиц знаменитостей в порнороликах. К началу февраля подобные работы стали активно удалять крупные сервисы вроде Твиттера, Discord, Imgur и Pornhub. А владельцы FakeApp задумались, не закроют ли главную площадку для творчества — раздел на Reddit. Обновлено: закрыли.

Война за ролики

К моменту написания материала на раздел r/deepfakes, где публикуются ролики и происходят основные обсуждения, подписались более 90 тысяч человек. Ещё в середине января количество подписчиков не превышало 10 тысяч человек. Из-за такой популярности на порноролики со знаменитостями обратили внимание сервисы, куда эти видео загружаются.

27 января мессенджер Discord заблокировал сообщество, участники которого обсуждали работу FakeApp: они делились советами, обменивались «моделями» для подставления лиц и помогали новичкам освоить приложение. Следом основная платформа для пользователей deepfakes и хостинг гифок Gfycat начал удалять со своего сайта все работы, созданные нейросетью, включая «приличные». Представители компании объяснили, что считают подобный контент «неприемлимым».Gfycat был основной платформой для пользователей deepfakes.

Участники раздела перешли на Imgur, но там тоже начали удалять FakeApp-гифки. После этого видео стали появляться на Pornhub: пользователи предположили, что оттуда откровенные ролики точно не пропадут. Однако сервис приравнял их к «порномести»: публикации порновидео без согласия второго участника с целью навредить ему. На Reddit заметили, что странно слышать подобные объяснения от сайта, где есть «слитые» видео секса с Ким Кардашьян. Несмотря на заявление Pornhub, на их сайте всё ещё можно найти видео, созданные сообществом deepfakes.

Также удалять результаты работы FakeApp стал Twitter, при этом в сервисе микроблогов можно публиковать «взрослый» контент с соответствующей пометкой. По словам представителей компании, порнофейки нарушают правила сервиса, запрещающие публиковать интимные видео без согласия всех героев.

Журналистка Саманта Коул, которая уже несколько месяцев пишет о развитии нейросети, заявила, что обратилась за комментарием в Reddit ещё в середине января. Но администрация форума так и не ответила, что собирается делать с разделом и порнофейками. По данным Би-би-си, сейчас в Reddit «рассматривают варианты» последующих действий.

Обновлено в 22:45: Reddit заблокировал сабреддит r/deepfakes с соответствии правилами сайта, запрещающими «недобровольную порнографию». Перед блокировкой число участников сообщества превышало 90 тысяч. Представители Reddit пообещали блокировать не только нарушающие эти правила сообщества (сабреддиты), но и пользователей, которые публикуют подобные ролики.

Торговля видео с «пересадкой» лиц

26 января пользователь под ником DeepFake (созвучно с ником создателя нейросети deepfakes) в одной из записей на Reddit объявил, что готов делать порноролики с помощью FakeApp на заказ. Для этого клиенты должны отправить ему не менее двух минут видео с лицом-«источником», но порноактрису DeepFake выберет сам. Пользователь запросил награду в биткоинах.

Порноролик с Эммой Уотсон, созданный с помощью FakeApp

Начало торговли роликами, сделанных нейросетью, затронуло опасения многих западных СМИ: а что, если на Reddit начнут делать порновидео не только со знаменитостями, но и со знакомыми в реальной жизни? DeepFake не поставил никаких ограничений по «источнику»: только то, что человеку, чьё лицо попадёт в ролик, должно быть только 18 лет.

Заместитель директора по технологической политике адвокатской компании R Streer Чарльз Дуан (Charles Duan) заметил, что подобное развитие технологии может привести к юридическим последствиям.

Думаю, эти видео являются незаконными независимо от того, сделаны они за деньги или нет. Но важно, что коммерческая торговля ими создаёт точку отчёта для отслеживания и прекращения всей этой деятельности. Легко быть анонимным в интернете, но это намного сложнее, если ты хочешь зарабатывать там деньги.

Чарльз Дуан
заместитель директора по технологической политике R Streer

Предложения по созданию FakeApp-роликов на заказ появились на отдельном сабреддите r/deepfakeservice, на который подписаны около 200 человек. Пользователи основного раздела раскритиковали подобные услуги, заявив, что так их технологию подставляют под удар.

Окей, послушайте, дебилы. Перестаньте покупать или продавать видео. Мы установили эти правила с самого создания раздела. Прекратите или уходите куда-нибудь, забрав с собой всех желающих. Сделайте свою нейросеть.

из обсуждения на Reddit

Ответ сообщества

Дональд Трамп в «роли» Томми Вайсо

Критика со стороны общественности и СМИ сильно повлияла на сообщество r/deepfakes, которое не было готово к подобному вниманию. Некоторые пользователи замечали, что их хобби стало напоминать типичный сюжет из сериала «Чёрное зеркало». Другой комментатор сравнил FakeApp с эпизодом из «Бегущего по лезвию 2049», когда ИИ-голограма синхронизировалась с реальным человеком, чтобы заняться сексом.

В разделе появились новые правила, чтобы регулировать возросшее число пользователей. Теперь отдельно прописано, что в порнороликах нельзя использовать лица, которые принадлежат не знаменитостям или несовершеннолетним. Также появился список сервисов, на которые нельзя загружать видео и гифки.

Одной из самых популярных записей раздела за всё время стало «обращение к противникам deepfakes». В неё пользователь Gravity_Horse от лица сообщества заявил: «Мы в курсе, что наше увлечение нельзя назвать полезным или благородным. Это унизительно и вульгарно по отношению к женщинам, которых используют для создания порнофейков». Но, по его словам, это не значит, что сообщество делает ролики из злого умысла. Наоборот: они считают, что тем самым развивают экспериментальную технологию, используя самые доступные методы.

Это очень новая технология. А всё новое пугает людей. Сильно. Но хоть нейросеть и превосходит тот же Photoshop, но принцип тот же. И результат тот же: изменённые изображения.

из заявления на Reddit

Пользователь подчеркнул, что результат работы FakeApp сложно использовать в качестве «порномести», потому что в роликах можно легко найти артефакты, а в крайнем случае — провести специальную проверку. «Никогда не видел "порноместь", сделанную с помощью Photoshop, которую бы воспринимали всерьёз», — заключил он.

Развитие «приличных» видео

В конце января появился призыв разделить deepfakes на несколько разделов на случай, если Reddit закроет основной сабреддит из-за порнороликов. Пользователи предложили оставить основное сообщество для обсуждения самой нейросети и её перспектив, а откровенные видео коллекционировать в другом месте. Идею поддержали другие участники форума, решив, что так они смогут создать «позитивный образ» технологии, которая прочно ассоциируется с порно.

Так на форуме появился раздел r/SFWDeepFakes, посвящённый исключительно «приличным» видео. Его администратором стал пользователь под ником Peter_File, поддерживавший флешмоб с «пересадкой» лица Николаса Кейджа в различные фильмы и ролики.

Николас Кейдж, подставленный на место Эми Адамс

Одним из самых активных участников нового сообщества стал derpfakes, который уже «улучшал» компьютерную графику в фильме «Изгой Один» (позже видео удалили с Gfycat). Его идею по исправлению плохих спецэффектов в фильмах подхватили другие пользователи.

Например, они убрали усы у актёра Генри Кэвилла, игравшего Супермена. Из-за масштабных досъёмок «Лиги справедливости» актёру пришлось играть супергероя с усами, потому что он был задействован ещё и в съёмках фильма «Миссия невыполнима». Усы в итоге так плохо «затёрли», что они стали мемом. Однако на Reddit «улучшили» ситуацию с помощью FakeApp.

Другой участник r/SFWDeepFakes Свен Чарлир (Sven Charleer) объяснил изданию Boing Boing, что использует нейросеть «ради благих целей». Например, подставил лицо жены в вечернее шоу, чтобы она хотя бы так смогла побывать в одной студии со своим любимым актёром Стивом Каррелом. По его словам, у технологии есть коммерческий потенциал, но он не связан с продажей порнороликов: с помощью «подрисовывания» можно создавать и сервисы, которые помогают подобрать одежду к лицу.

#технологии #нейросети #fakeapp

{ "author_name": "Женя Кузьмин", "author_type": "self", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438","\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438","fakeapp"], "comments": 32, "likes": 66, "favorites": 19, "is_advertisement": false, "section_name": "default", "id": "65960", "is_wide": "" }
Популярные материалы
Показать еще
{ "is_needs_advanced_access": true }

Популярные комментарии

Дискуссии по теме
доступны только владельцам клубного аккаунта

Купить за 75₽
Авторизоваться

Преимущества
клубного аккаунта

  • отсутствие рекламы
  • возможность писать комментарии и статьи
  • общение с членами клуба
Подробнее

Преимущества
клубного аккаунта

  • отсутствие рекламы
  • возможность читать и писать комментарии
  • общение с членами клуба
  • возможность создавать записи

Сколько это стоит?

Членство в клубе стоит всего 75₽ в месяц. Или даже дешевле при оплате за год.

Что такое клуб?

Клуб ТЖ это сообщество единомышленников. Мы любим читать новости, любим писать статьи, любим общаться друг с другом.

Вступить в клуб

Комментарии Комм.

Популярные

По порядку

0

Прямой эфир

Вы не против подписаться на важные новости от TJ?

Нет, не против
[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } } ]