{"id":2159,"url":"\/distributions\/2159\/click?bit=1&hash=bdcaacc057300f8506340c06d519a582f487bcff27908d05eb42997a4dbdaef9","title":"\u0420\u0435\u043a\u043b\u0430\u043c\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u043b\u0438, \u0430 \u0442\u043e\u043b\u043a\u0443 \u043d\u0435\u0442","buttonText":"\u041a\u0430\u043a \u0443 \u043c\u0435\u043d\u044f!","imageUuid":"7b040e27-87ca-5e31-ad48-6ae8b0b1ebed","isPaidAndBannersEnabled":false}

Большие чистки: что происходит с сообществом FakeApp после запретов со стороны крупных сервисов Статьи редакции

Нейросеть, «подрисовывающая» лица в порноролике, стала очень популярна, но столкнулась с мерами от Твиттера и Pornhub.

Порноролик с Галь Гадот, созданный с помощью FakeApp

В декабре 2017 года в сети появились поддельные порноролики с Галь Гадот, Эммой Уотсон и Мейси Уильямс, созданные с помощью нейросети deepfakes. За несколько месяцев количество подобных видео резко увеличилось благодаря простому приложению FakeApp, которое установили более 100 тысяч человек. Появились и примеры использования технологии, не связанные с порно.

О нейросети заговорили в обществе и СМИ, критикуя пользователей приложения за «подрисовку» лиц знаменитостей в порнороликах. К началу февраля подобные работы стали активно удалять крупные сервисы вроде Твиттера, Discord, Imgur и Pornhub. А владельцы FakeApp задумались, не закроют ли главную площадку для творчества — раздел на Reddit. Обновлено: закрыли.

Война за ролики

К моменту написания материала на раздел r/deepfakes, где публикуются ролики и происходят основные обсуждения, подписались более 90 тысяч человек. Ещё в середине января количество подписчиков не превышало 10 тысяч человек. Из-за такой популярности на порноролики со знаменитостями обратили внимание сервисы, куда эти видео загружаются.

27 января мессенджер Discord заблокировал сообщество, участники которого обсуждали работу FakeApp: они делились советами, обменивались «моделями» для подставления лиц и помогали новичкам освоить приложение. Следом основная платформа для пользователей deepfakes и хостинг гифок Gfycat начал удалять со своего сайта все работы, созданные нейросетью, включая «приличные». Представители компании объяснили, что считают подобный контент «неприемлимым».Gfycat был основной платформой для пользователей deepfakes.

Участники раздела перешли на Imgur, но там тоже начали удалять FakeApp-гифки. После этого видео стали появляться на Pornhub: пользователи предположили, что оттуда откровенные ролики точно не пропадут. Однако сервис приравнял их к «порномести»: публикации порновидео без согласия второго участника с целью навредить ему. На Reddit заметили, что странно слышать подобные объяснения от сайта, где есть «слитые» видео секса с Ким Кардашьян. Несмотря на заявление Pornhub, на их сайте всё ещё можно найти видео, созданные сообществом deepfakes.

Также удалять результаты работы FakeApp стал Twitter, при этом в сервисе микроблогов можно публиковать «взрослый» контент с соответствующей пометкой. По словам представителей компании, порнофейки нарушают правила сервиса, запрещающие публиковать интимные видео без согласия всех героев.

Журналистка Саманта Коул, которая уже несколько месяцев пишет о развитии нейросети, заявила, что обратилась за комментарием в Reddit ещё в середине января. Но администрация форума так и не ответила, что собирается делать с разделом и порнофейками. По данным Би-би-си, сейчас в Reddit «рассматривают варианты» последующих действий.

Обновлено в 22:45: Reddit заблокировал сабреддит r/deepfakes с соответствии правилами сайта, запрещающими «недобровольную порнографию». Перед блокировкой число участников сообщества превышало 90 тысяч. Представители Reddit пообещали блокировать не только нарушающие эти правила сообщества (сабреддиты), но и пользователей, которые публикуют подобные ролики.

Торговля видео с «пересадкой» лиц

26 января пользователь под ником DeepFake (созвучно с ником создателя нейросети deepfakes) в одной из записей на Reddit объявил, что готов делать порноролики с помощью FakeApp на заказ. Для этого клиенты должны отправить ему не менее двух минут видео с лицом-«источником», но порноактрису DeepFake выберет сам. Пользователь запросил награду в биткоинах.

Порноролик с Эммой Уотсон, созданный с помощью FakeApp

Начало торговли роликами, сделанных нейросетью, затронуло опасения многих западных СМИ: а что, если на Reddit начнут делать порновидео не только со знаменитостями, но и со знакомыми в реальной жизни? DeepFake не поставил никаких ограничений по «источнику»: только то, что человеку, чьё лицо попадёт в ролик, должно быть только 18 лет.

Заместитель директора по технологической политике адвокатской компании R Streer Чарльз Дуан (Charles Duan) заметил, что подобное развитие технологии может привести к юридическим последствиям.

Думаю, эти видео являются незаконными независимо от того, сделаны они за деньги или нет. Но важно, что коммерческая торговля ими создаёт точку отчёта для отслеживания и прекращения всей этой деятельности. Легко быть анонимным в интернете, но это намного сложнее, если ты хочешь зарабатывать там деньги.

Чарльз Дуан

Предложения по созданию FakeApp-роликов на заказ появились на отдельном сабреддите r/deepfakeservice, на который подписаны около 200 человек. Пользователи основного раздела раскритиковали подобные услуги, заявив, что так их технологию подставляют под удар.

Окей, послушайте, дебилы. Перестаньте покупать или продавать видео. Мы установили эти правила с самого создания раздела. Прекратите или уходите куда-нибудь, забрав с собой всех желающих. Сделайте свою нейросеть.

из обсуждения на Reddit

Ответ сообщества

Дональд Трамп в «роли» Томми Вайсо

Критика со стороны общественности и СМИ сильно повлияла на сообщество r/deepfakes, которое не было готово к подобному вниманию. Некоторые пользователи замечали, что их хобби стало напоминать типичный сюжет из сериала «Чёрное зеркало». Другой комментатор сравнил FakeApp с эпизодом из «Бегущего по лезвию 2049», когда ИИ-голограма синхронизировалась с реальным человеком, чтобы заняться сексом.

В разделе появились новые правила, чтобы регулировать возросшее число пользователей. Теперь отдельно прописано, что в порнороликах нельзя использовать лица, которые принадлежат не знаменитостям или несовершеннолетним. Также появился список сервисов, на которые нельзя загружать видео и гифки.

Одной из самых популярных записей раздела за всё время стало «обращение к противникам deepfakes». В неё пользователь Gravity_Horse от лица сообщества заявил: «Мы в курсе, что наше увлечение нельзя назвать полезным или благородным. Это унизительно и вульгарно по отношению к женщинам, которых используют для создания порнофейков». Но, по его словам, это не значит, что сообщество делает ролики из злого умысла. Наоборот: они считают, что тем самым развивают экспериментальную технологию, используя самые доступные методы.

Это очень новая технология. А всё новое пугает людей. Сильно. Но хоть нейросеть и превосходит тот же Photoshop, но принцип тот же. И результат тот же: изменённые изображения.

из заявления на Reddit

Пользователь подчеркнул, что результат работы FakeApp сложно использовать в качестве «порномести», потому что в роликах можно легко найти артефакты, а в крайнем случае — провести специальную проверку. «Никогда не видел "порноместь", сделанную с помощью Photoshop, которую бы воспринимали всерьёз», — заключил он.

Развитие «приличных» видео

В конце января появился призыв разделить deepfakes на несколько разделов на случай, если Reddit закроет основной сабреддит из-за порнороликов. Пользователи предложили оставить основное сообщество для обсуждения самой нейросети и её перспектив, а откровенные видео коллекционировать в другом месте. Идею поддержали другие участники форума, решив, что так они смогут создать «позитивный образ» технологии, которая прочно ассоциируется с порно.

Так на форуме появился раздел r/SFWDeepFakes, посвящённый исключительно «приличным» видео. Его администратором стал пользователь под ником Peter_File, поддерживавший флешмоб с «пересадкой» лица Николаса Кейджа в различные фильмы и ролики.

Николас Кейдж, подставленный на место Эми Адамс

Одним из самых активных участников нового сообщества стал derpfakes, который уже «улучшал» компьютерную графику в фильме «Изгой Один» (позже видео удалили с Gfycat). Его идею по исправлению плохих спецэффектов в фильмах подхватили другие пользователи.

Например, они убрали усы у актёра Генри Кэвилла, игравшего Супермена. Из-за масштабных досъёмок «Лиги справедливости» актёру пришлось играть супергероя с усами, потому что он был задействован ещё и в съёмках фильма «Миссия невыполнима». Усы в итоге так плохо «затёрли», что они стали мемом. Однако на Reddit «улучшили» ситуацию с помощью FakeApp.

Другой участник r/SFWDeepFakes Свен Чарлир (Sven Charleer) объяснил изданию Boing Boing, что использует нейросеть «ради благих целей». Например, подставил лицо жены в вечернее шоу, чтобы она хотя бы так смогла побывать в одной студии со своим любимым актёром Стивом Каррелом. По его словам, у технологии есть коммерческий потенциал, но он не связан с продажей порнороликов: с помощью «подрисовывания» можно создавать и сервисы, которые помогают подобрать одежду к лицу.

0
32 комментария
Написать комментарий...
Типичный Денис

Такие пуши провоцируют на дрочение.

Ответить
Развернуть ветку
Уголовный Паша

Эм, а почему ещё не вернули Кевина Спейси в фильмы из которых его вырезали?)

Ответить
Развернуть ветку
Товарный танк88

Полагаю, бороться с этим бесполезно. Алгоритмы будут совершенствоваться, а методы распространения какие-нибудь да найдутся. На мой взгляд, обществу нужно меняться. Если на любого человека можно будет сделать кучу качественных порнороликов без признаков подделки, то все просто перестанут обращать внимание на порноместь. Мы же привыкли к фотоаппаратам и уже давно не считаем (большинство, по крайней мере), что фотографирование отнимает у человека душу.

Ответить
Развернуть ветку
Обязанный Макс

Комментарий недоступен

Ответить
Развернуть ветку
Товарный танк88

Почему нет? Лет через 50 кто-нибудь напишет программу, которая сделает порноролики на каждого пользователя соцсетей с нормальной аватаркой.

Ответить
Развернуть ветку
Обязанный Макс

Комментарий недоступен

Ответить
Развернуть ветку
Товарный танк88

Сегодня это дорого и долго, а завтра кто-нибудь создаёт вирус, который на компьютере пользователя делает порнуху на весь список контактов и рассылает всем.

Ответить
Развернуть ветку
Новогодний кран

Тебе не нужна нейросеть для прорисовки лиц в порно, если у тебя есть фантазия, которая сгенерирует любую картинку в твоей голове.

Ответить
Развернуть ветку
Сильный бокал

Комментарий недоступен

Ответить
Развернуть ветку
Безопасный цветок

почти все эксперты сходятся, что вопрос лежит в «серой» области права, особенно в случае с США. один юрист прямо сказал: вы, конечно, можете подать в суд, но тут очень сложно доказать, что это позорит честь актрис, к примеру. но на незаконность можно зайти через использования видео и авторских прав

Ответить
Развернуть ветку
Сильный бокал

Комментарий недоступен

Ответить
Развернуть ветку
Традиционный корабль

сам порно-ролик, например, является охраняемым авторским правом

Ответить
Развернуть ветку
Типичный Денис

Сделайте ролик с Климовым.

Ответить
Развернуть ветку
Традиционный корабль
Ответить
Развернуть ветку
Разноцветный корабль

не открывай ящик пандоры

Ответить
Развернуть ветку
Смелый Женя

Блин, на гифке с Тори Блэк вообще не узнал бы Эмму Уотсон, если бы не подпись

Ответить
Развернуть ветку
Зимний кофе

Главное что Тори Блэк без лица узнал :)

Ответить
Развернуть ветку
Откровенный паук например

Кто вообще узнает порноактрис по лицу?

Ответить
Развернуть ветку
Типичный Денис

Не, я понял: надо сделать ролик с Путиным, Кабаевой и третья Липницкая там, дочура.

Ответить
Развернуть ветку
Тайный дым

Почему Липницкая, Путин же с Сотниковой фотографировался после ОИ в Сочи.

Ответить
Развернуть ветку
Типичный Денис

Ее тоже в кадр.

Ответить
Развернуть ветку
Ленинградский Влад

Комментарий недоступен

Ответить
Развернуть ветку
Типичный Денис

Императрицу забыл)

Ответить
Развернуть ветку
Обязанный Макс

Комментарий недоступен

Ответить
Развернуть ветку
Жалкий фонарь

Лишь бы в лужу пернуть.

Ответить
Развернуть ветку
Загадочный каякер

А на тж можно размещать такие видосы?

Ответить
Развернуть ветку
Обязанный Макс

Комментарий недоступен

Ответить
Развернуть ветку
Плохой вентилятор

Окей, послушайте, дебилы. Перестаньте покупать или продавать видео. Мы установили эти правила с самого создания раздела. Прекратите или уходите куда-нибудь, забрав с собой всех желающих. Сделайте свою нейросеть.

Ты либо в тренде, либо уходи.

Ответить
Развернуть ветку
Быстрый Кирилл

И двойников тоже запретить! А близнецов вообще убивать ещё в роддоме

Ответить
Развернуть ветку
Знакомый череп

Читаю новость, и хочется, как Рэнди Марш в серии про кошачью мочу, смотреть вниз и говорить "и голые сиськи так и не дают рассмотреть"...

Ответить
Развернуть ветку
Центральный цветок

Кажется теперь Николаса Кейджа можно засунуть в любой фильм

Ответить
Развернуть ветку
Редкий будильник

Почти все сабреддиты сегодня забанили. Для этого админам пришлось добавить новые правила. И, походу, последней каплей для них были репорты от одного чела, которому неделю назад дали права модератора r/deepfakes - он им отправлял публикации с цп и типа такого, что другими модераторами сразу удалялось. Тем не менее, админы решили забанить все сабреддиты, где были какие-либо посты, сделанные с помощью этой нейросети. Он даже для них список собрал после этого анонса: https://www.reddit.com/r/announcements/comments/7vxzrb/_/dtvyzcv?context=1000

Ответить
Развернуть ветку
Читать все 32 комментария
null