Журналисты обнаружили приложение, позволяющее создать дипфейк-порно с кем угодно в несколько кликов
После нескольких попыток связаться с создателями сервис временно приостановил работу. Но одного прецедента достаточно для появления аналогов, считают исследователи.
Фотографии одной из жертв, чьё лицо использовали для дипфейк-порно Фото Раны Айюб
13 сентября издание MIT Technology Review рассказало о приложении, которое предлагает пользователям создать порноролик с применением дипфейк-технологий, загрузив любую фотографию. Для работы с сервисом не требуется технических навыков — видео делается в несколько кликов.
По словам журналистов, это один из первых примеров полноценного приложения для подобной задачи — ранее ни один сервис «не заходил за эту этическую черту». При этом уже существовали платформы, позволяющие с помощью нейросетей «раздевать» девушек и переносить лица на откровенные снимки.
- Развитие дипфейков тесно связно с порно: с первых же дней технологию использовали для переноса чужой внешности в сцены из эротических видео. В 2019 году компания DeepTrace сообщала, что 96% всех дипфейков создали для подмены лиц в порно.
- С развитием технологии стали появляться сервисы для автоматического создания фото. Часть из них использовались для эротического контента, но в большинстве случаев их быстро блокировали;
- Приложение, обнаруженное авторами MIT, предлагает конкретную задачу и простой интерфейс. Журналисты не стали его называть, давать ссылок или демонстрировать результаты работы. Исследователи обеспокоены тем, что такое освещение в медиа делает рекламу и побуждает к созданию дипфейк-порно даже тех, кто до этого не задумывался о таком использовании технологии. Подобное произошло с приложением DeepNude, автор которого после материалов о сервисе выставил технологию на продажу, что потом привело к целой сети подобных платформ;
Каждый раз, когда вы преподносите сервис таким образом, вы создаёте ещё один уголок в интернете, привлекающий новых пользователей.
- Сервис предлагает загрузить любое фото (хотя в описании предлагается использовать собственные фото, а для теста можно выбрать одно из сгенерированных лиц) и выбрать порно-ролик из предложенных. После он показывает демо-версию результата — для полного видео необходимо заплатить;
- По словам журналистов, результат далёк от идеального: лица мерцают и искажаются, особенно при повороте головы. Однако эксперты отмечают, что не все знакомы с технологией — люди могут легко поверить подделке;
- Психологи считают, что такой вид психологического давления может быть опаснее «порно из мести», когда бывший партнёр публикует реальные интимные записи. Даже нереалистичные видео могут навредить жертве, чьё лицо вставили в порно-видео;
Если кто-то начинает сомневаться, жертва ли он на самом деле, это негативно сказывается на его восстановлении в психологическом плане.
- MIT рассказал о нескольких жертвах порно-дипфейков. В 2018 году индийская журналистка Рана Айюб после публикации ролика с её лицом подверглась травле в соцсетях, что помешало её работе. Также ранее в этом году уволили учительницу из Великобритании — кто-то опубликовал поддельные фотографии с её лицом;
- Наличие в сервисе роликов с гей-порно несёт дополнительную угрозу, считают журналисты: прямо сейчас в 71 стране гомосексуальные отношения запрещены законом, в 11 из них нарушителей наказывают смертной казнью;
- С 17 августа MIT направил несколько запросов создателям приложения, но так и не получили ответа. Вскоре на главной странице появилось сообщение о том, что сервис временно недоступен. Однако журналисты считают, что теперь исключить появление аналогичных сервисов невозможно.
Такие сервисы похожи на контент из даркнета. Если мы не позволим им быть доступными для всех, то как минимум снизим количество случаев их использования.
#дипфейк #технологии #сервисы