Дело DeepNude живёт — западные исследователи нашли сеть телеграм-каналов и ботов, позволяющих «раздеть» девушку на фото

Есть опасения, что снимки будут использовать для шантажа, но качество обработки оставляет желать лучшего.

Летом 2019 года появилось приложение DeepNude, позволяющее «удалить» одежду с фотографии при помощи нейросетей. Это позволяло сделать поддельные обнажённые снимки женщин разной степени реалистичности. Сервис быстро набрал популярность, но закрылся спустя сутки: создатели заявили, что «мир ещё не готов к DeepNude», так как слишком высока вероятность злоупотребления сервисом.

Несмотря на это, вскоре сервис выставили на продажу, а фрагменты кода DeepNude появились в открытом доступе на GitHub. Но об «оголяющем» алгоритме постепенно забыли.

Спустя почти полтора года, в октябре 2020 года, эксперты по кибербезопасности фирмы Sensity сообщили о «дипфейк-экосистеме» в телеграме — каналах, чатах и ботах, посвящённых «раздеванию» девушек с помощью алгоритмов. В их названиях в том или ином виде фигурирует DeepNude, и они работают по схожему принципу — убирают одежду с любого фото.

Исследователи Sensity насчитали более 100 тысяч подписчиков сети и подчеркнули, что большая из них — из России и других стран восточной Европы. По словам экспертов фирмы, с помощью ботов сгенерировали десятки тысяч фейковых нюдсов, и 70% из них принадлежат не знаменитостям, а обычным людям. В подавляющем большинстве случаев — девушкам. Глава Sensity Джорджио Патрини (Giorgio Patrini)утверждает, что DeepNude буквально «встроен» в телеграм: речь, вероятно, о расширенных возможностях ботов в мессенджере и их интеграции в чаты.

По словам исследователей, сеть Deepnude-сообществ распространяется за пределы телеграма: каналы, чаты и бота активно рекламируют во «ВКонтакте». Проверка TJ показала, что в соцсети действительно можно найти тематические паблики, посты и чат-ботов.

Во «ВКонтакте» ответили TJ: «„ВКонтакте“ выступает против такого контента и публикации ссылок на подобные ресурсы. Наша команда блокирует сообщества, которые распространяют таких ботов. Мы проведём дополнительную проверку и заблокируем сообщества, которые нарушают правила. Подобные чат-боты и сообщества никогда не продвигались через рекламные инструменты „ВКонтакте“».

Эксперты Sensity опасаются, что фейковые сгенерированные нюдсы в будущем могут использовать для шантажа, унижения и дискредитации девушек. Патрини предупреждает: «Если вы когда-либо публиковали хотя бы одну фотографию в соцсетях — вы под угрозой».

TJ проверил работу самого популярного из таких ботов. Но на деле результатам работы алгоритма пока далеко до того, чтобы с их помощью кого-то шантажировать. Бот действительно сразу сообщает, что концентрируется на «оголении» девушек и предлагает искать объекты для обработки в инстаграме. Но сразу же появляются условие: фото должно быть в купальнике или нижнем белье, девушка должна стоять по центру, лицом и грудью к объективу.

Но даже соблюдение всех правил не гарантирует качественный результат: бот даёт сгенерировать два бесплатных нюдса. И в обоих случаях ни о какой реалистичности речи не шло. Алгоритм не смог полноценно «раздеть» объект, просто сделав купальник прозрачнее: возможно, в платной версии такого нет. По этим примерам кажется, что оригинальный DeepNude работал гораздо лучше.

Проверка Би-би-си тоже не привела к реалистичным результатам — в одном из случаев на груди девушки вместо соска оказался пупок. В то же время журналист Washington Post Дрю Харвелл назвал сгенерированные нюдсы «убедительными».

Ким Кардашьян

Эмили Ратаковски

В описании телеграм-бота создателем указан пользователь под ником P. Он же оказался администратором крупнейшего чата и канала про DeepNude. В разговоре с Би-би-си он заявил: «[Исследование] меня сильно не волнует. Это развлечение, в котором нет цели кому-то навредить. Никто не станет кого-то шантажировать результатами — качество слишком нереалистичное».

В другом интервью P отметил, что пользователи сами несут ответственность за свои действия, и инструменталом DeepNude можно легко воспользоваться и за пределами телеграма. Действительно, при поиске в сети можно найти несколько разных сайтов на основе оригинального DeepNude, а также тредов на 4chan и Reddit.

«За всё время мы не получили ни одной жалобы от девушки. Да и для работы нейросети необходимо фото с минимумом одежды. Девушки, выкладывающие снимки в купальнике на всеобщее обозрение — зачем они это делают? 90% размещают такой контент для привлечения внимания, подчёркивая сексуальность», — отметил P.

P подчёркивает, что следит за тем, чтобы сервис не использовали для «раздевания» несовершеннолетних. По данным Sensity, в общедоступной галерее DeepNude в телеграме были снимки девушек младше 18 лет. Сейчас галерея недоступна. Харвелл также отметил, что P удалил основной чат, посвящённый сервису.

В Sensity заявили, что передали результаты исследования администрации Telegram и «ВКонтакте». Однако представители «ВКонтакте» рассказали TJ обратное: «Sensity пишут, что они пытались с нами связаться и не получили ответ от нас. Но мы не получали от них писем и свяжемся сами».

#соцсети #telegram #deepfake