Журналисты обнаружили приложение, позволяющее создать дипфейк-порно с кем угодно в несколько кликов Статьи редакции

После нескольких попыток связаться с создателями сервис временно приостановил работу. Но одного прецедента достаточно для появления аналогов, считают исследователи.

13 сентября издание MIT Technology Review рассказало о приложении, которое предлагает пользователям создать порноролик с применением дипфейк-технологий, загрузив любую фотографию. Для работы с сервисом не требуется технических навыков — видео делается в несколько кликов.

По словам журналистов, это один из первых примеров полноценного приложения для подобной задачи — ранее ни один сервис «не заходил за эту этическую черту». При этом уже существовали платформы, позволяющие с помощью нейросетей «раздевать» девушек и переносить лица на откровенные снимки.

• Развитие дипфейков тесно связно с порно: с первых же дней технологию использовали для переноса чужой внешности в сцены из эротических видео. В 2019 году компания DeepTrace сообщала, что 96% всех дипфейков создали для подмены лиц в порно.
• С развитием технологии стали появляться сервисы для автоматического создания фото. Часть из них использовались для эротического контента, но в большинстве случаев их быстро блокировали;
• Приложение, обнаруженное авторами MIT, предлагает конкретную задачу и простой интерфейс. Журналисты не стали его называть, давать ссылок или демонстрировать результаты работы. Исследователи обеспокоены тем, что такое освещение в медиа делает рекламу и побуждает к созданию дипфейк-порно даже тех, кто до этого не задумывался о таком использовании технологии. Подобное произошло с приложением DeepNude, автор которого после материалов о сервисе выставил технологию на продажу, что потом привело к целой сети подобных платформ;

• Сервис предлагает загрузить любое фото (хотя в описании предлагается использовать собственные фото, а для теста можно выбрать одно из сгенерированных лиц) и выбрать порно-ролик из предложенных. После он показывает демо-версию результата — для полного видео необходимо заплатить;
• По словам журналистов, результат далёк от идеального: лица мерцают и искажаются, особенно при повороте головы. Однако эксперты отмечают, что не все знакомы с технологией — люди могут легко поверить подделке;
• Психологи считают, что такой вид психологического давления может быть опаснее «порно из мести», когда бывший партнёр публикует реальные интимные записи. Даже нереалистичные видео могут навредить жертве, чьё лицо вставили в порно-видео;

• MIT рассказал о нескольких жертвах порно-дипфейков. В 2018 году индийская журналистка Рана Айюб после публикации ролика с её лицом подверглась травле в соцсетях, что помешало её работе. Также ранее в этом году уволили учительницу из Великобритании — кто-то опубликовал поддельные фотографии с её лицом;
• Наличие в сервисе роликов с гей-порно несёт дополнительную угрозу, считают журналисты: прямо сейчас в 71 стране гомосексуальные отношения запрещены законом, в 11 из них нарушителей наказывают смертной казнью;
• С 17 августа MIT направил несколько запросов создателям приложения, но так и не получили ответа. Вскоре на главной странице появилось сообщение о том, что сервис временно недоступен. Однако журналисты считают, что теперь исключить появление аналогичных сервисов невозможно.

#дипфейк #технологии #сервисы