Рубрика развивается при поддержке
Advertisement

Почему я считаю, что в истории о поддельных порно-роликах со знаменитостями есть плюсы Статьи редакции

Редактор TJ о плюсах и минусах скандальной разработки, которая наложила лица Галь Гадот и Скарлетт Йоханссон на лица девушек в фильмах для взрослых.

Скриншот Саманты Коул с SendVids

В начале осени 2017 года пользователь Reddit начал публиковать отрывки из порно-роликов, где лицо актрисы заменялось лицами Галь Гадот, Скарлетт Йоханссон, Мэйси Уильямс или Обри Плаза. Позже он выложил в открытый доступ собственную разработку на основе самообучающихся алгоритмов, которая позволила создавать подобный контент.

12 декабря 2017 года журналистка Motherboard Саманта Коул опубликовала статью, заголовок которой гласил: «Поддельное порно на основе искусственного интеллекта здесь, и мы в заднице». В статье журналистка не раз дала понять, что относится к разработке с подозрением.

Редактор TJ согласен — в подобном контенте нет ничего хорошего, но из истории следует извлечь ценный урок, а не заваливать осуждением.

Как работает алгоритм

По интернету разошёлся только ролик с Галь Гадот, так как он оказался самым качественным. Согласно сюжету, в нём героиня занимается сексом со своим сводным братом. Внимательный зритель быстро разглядит помехи и артефакты, возникающие на лице актрисы, и поймёт, что это фейк. Всё потому что алгоритм пока допускает ошибки, но он самообучается, а значит его эффективность вырастет.

После публикации разработки на Reddit (она сразу же разошлась среди энтузиастов) автор DeepFakes уточнил, что принципы её работы «до стыдного элементарны». Для создания программы программист использовал библиотеки с открытым исходным кодом типа TensorFlow. Google бесплатно раздаёт эту разработку специалистам, студентам и всем, кто заинтересован в машинном обучении.

Для обучения искусственного интеллекта автор использовал изображения в Google, стоковые фотографии, ролики на YouTube и порно-видео. Благодаря этому компьютер стал различать изображения Галь Гадот и эротических роликов, после чего научился накладывать поверх лиц порноактрис лица знаменитостей. Чем чаще компьютер практиковался, тем быстрее получалось.

Почему разработка заслуживает осуждения

Саманта Коул утверждает, что алгоритмом могут воспользоваться злоумышленники. Они создадут видео о том, что их жертва никогда не делала и не говорила. То есть, средней руки программист сможет обратить алгоритм против жертвы, подорвав её репутацию. «Лёгкость, с которой кто-то может это сделать, пугает», — пишет Коул.

Журналистка приводит статистику — за 2015-2016 годы люди загрузили в «Google Фото» около 24 миллиардов селфи, и теперь злоумышленнику ничего не стоит найти вашу фотографию и подставить её в порно.

«Это очень пугает. Отчасти это показывает, как некоторые мужчины видят в женщинах лишь объект для манипуляций, который можно заставить делать что угодно. Это демонстрирует полное отсутствие уважения к работе людей в сфере порно», — сказала бывшая порноактриса Алиа Джанине в разговоре с Коул.

Позиция журналистки и актрисы понятна. С точки зрения этики разработка DeepFakes оскорбительна — никто не заслуживает подобного отношения к себе. Но пугает не столько это (в интернете хватает способов испортить человеку жизнь), сколько отношение к этой истории.

Почему разработка заслуживает право на существование

Есть риск, что технология попадёт не в те руки, и ей воспользуются в корыстных целях. Не сомневаюсь, что многие неискушённые в интернете люди сходу не поймут, что ролик с Галь Гадот — фейк. А ведь сейчас разработка в лучшем случае на стадии бета-версии, и алгоритмы самообучения будут только совершенствоваться.

Но разработку DeepFakes — как и любую технологию — можно применить и во благо. Подобно тому, как в «Форсаж 7» или «Изгой-один» использовали цифровые копии умерших актёров. В последней картине в кадре появилась цифровая версия умершего Питера Кушинга, и она стоила создателям немало денег и усилий. Но что если благодаря алгоритмам такое воссоздание станет дешевле и проще?

Искусственный интеллект NVIDIA умеет быстро превращать видео с заснеженным пейзажем в летний день. DeepFakes использовал его при разработке своего алгоритма

По словам исследователя возможностей искусственного интеллекта Алекса Шампандарда, технологии цифровой замены лиц существуют десятилетия. Но история с DeepFakes показывает, что для их реализации нужны не десятки профессионалов, а лишь программист с современным компьютером. И далеко не все из них будут тратить время на создание поддельных порно-роликов со знаменитостями.

DeepFakes утверждает, что его разработка может увеличить интерес пользователей к машинному обучению. Спорный тезис, но у него есть право на существование. Чем больше будет появляться подобных фейковых роликов, тем быстрее люди научатся их отлавливать.

Может ли разработка DeepFakes навредить людям? Вполне, она уже это сделала. Может ли она помочь в развитии машинного обучения? Я думаю, да, но для этого нужно обсуждать и разбирать историю с разных сторон, а не воспринимать как «чернуху» и не подавать как катастрофу в «эпоху хакеров».

Некоторые СМИ, в том числе и российские, при написании новости об алгоритме сослались на Motherboard, но почему-то не отразили положительные моменты технологии (о них в оригинальной статье есть несколько абзацев). Другие издания вовсе не стали писать о случившимся, в том числе и TJ. Вероятно, редакторы посчитали историю слишком одиозной (а может и просто пропустили, я не знаю).

Но я считаю, что смотреть на эту историю только с этической стороны, то есть видеть только негатив, будет ошибкой. Отвратительно, что кто-то делает порно-ролики со знаменитыми актрисами без их разрешения. Но это старая тема, которую вряд ли можно победить игнорированием или порицанием. Значит, есть смысл как минимум попытаться взглянуть на ситуацию с положительной стороны.

{ "author_name": "Roman Persianinov", "author_type": "editor", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438","\u043c\u043d\u0435\u043d\u0438\u044f","fakeapp","deepfake"], "comments": 96, "likes": 59, "favorites": 19, "is_advertisement": false, "subsite_label": "tech", "id": 63642, "is_wide": true, "is_ugc": false, "date": "Thu, 14 Dec 2017 21:51:00 +0300", "is_special": false }
0
96 комментариев
Популярные
По порядку
Написать комментарий...
Многие Орзэмэс

Отчасти это показывает, как некоторые мужчины видят в женщинах лишь объект для манипуляций, который можно заставить делать что угодно.

не обошлось без феми-высера. Типа порноактрисы не этим зарабатывают(делают, что от них ожидают мужчины). Типа женщины от природы на такое не способны - использовать фото парня, который им нравится, в порнухе. Ну что за йобаный пиздец у них в головах?!?!

39
Проклятый Женя

Да эта фраза вообще женщинам подходит идеально:
Это очень пугает. Отчасти это показывает, как некоторые женщины видят в мужчинах лишь объект для манипуляций, который можно заставить делать что угодно.

Манипуляции кем-то больше женская фишка, чем мужская.

15
Смертный кофе

Ну и кто, по твоему, больше заинтересован в подобной разработке? Явно ~90% пользователей будут мужского пола.

0
Этнический Петя

Ну фишка-то в том, что разработка снизит возможность женщин манипулировать мужиками, это их на самом деле беспокоит.

6
Смертный кофе

Каким это образом вообще? Это раз.
Вы сами рады быть под манипуляцией - это два.

–4
Этнический Петя

Манипуляция манипуляции рознь, чувак.

0
Смертный кофе

Ну и что означает это твоё выражение

–3
Этнический Петя

А что значит твоё "сами рады"? Есть взаимные манипуляции, в рамках гласного или негласного договора между парой. Люди идут друг другу на мелкие уступки, делают что-то друг для друга и это норм.

А есть откровенное наебалово, когда один использует другого, а чтобы тот не понял этого - манипулирует им, отвлекая его от единственной правильной мысли - "какого хуя происходит?".

3
Смертный кофе

В чём именно состоит это наебалово, я не розумію. Есть дрочер Костя, он хочет сунуть свой инструмент в естьоднатян, она им ОЧЕНЬ ПОДЛО манипулирует, и тут встаёт вопрос, это обман, или условия незримого контракта? Костя ведь может в любой момент развернуться и уйти дрочить домой. Почему бы ему так не поступить, тем самым, как-никак, но обломать спрос, чем ныть в интернетиках про кровавых коварных всеми манипулирующих женщин? Гордость мешает, или чувство собственности? Это этим проблемам обезьян я должен посочувствовать?

–4
Этнический Петя

Тут речь про общество и возмущённых феменисток, а не про меня. Но даже если бы ты пытался - ты слишком далёк от какого-то понимания реальных отношений, чтобы выстроить близкую к жизни теорию.

0
Смертный кофе

Господи, твоё имя в моём рассуждении ради шутки, а в остальном, возразить нечего что ли?
Вот поэтому я и пишу - вы сами рады обманываться. Вам пишешь об этом - "Кудах что ты знаешь я больше видел!!1", ну и кушайте своё дерьмо тогда, не обляпайтесь.

–1
Этнический Петя

Ну что я могу возразить каким-то нелепым, далёким от жизни умствованиям ребёнка, судящего о незнакомым ему вещам по постам с лепры?

Пашенька, повзрослей уже. Или полностью откажись от оценочного восприятия этой области (аки будда) или наберись смелости уже разобраться, что к чему на самом деле.

–1
Полезный колос

По сути ты ему не возразил.
А прав-то как раз он

0
Специфический бинокль

Вопрос в том, понимает ли он, что им манипулируют или нет

0
Смертный кофе

Это очевидно

0
Специфический бинокль

Сегодня что, день очевидного?
Если он понимает, то это уже перестает быть манипуляцией, это уже осознанный выбор

Психологическая манипуляция — тип социального, психологического воздействия, социально-психологический феномен, представляющий собой стремление изменить восприятие или поведение других людей при помощи скрытой, обманной и насильственной тактики

1
Смертный кофе

Я не понимаю в чём заключается манипуляция в данной ситуации.

0
Легкий историк

Цифры с потолка, как я это люблю. Женщины так же не против зайти на порнхаб как и мужчины.

0
Искренний ключ

Плюсы: можно мастурбировать на Галь Гадот
Минусы: сегодня она, завтра ты

29
Условный микрофон

Минусы: сегодня она, завтра ты

Кхм, это разве минус?

4
Армейский завод

Я был бы не против, если бы все думали что у меня физическая форма как лысенького из Браззерс. И не только форма.

0
Полезный колос

Может в итоге люди перестанут стрематься выкладывать порно с собой в интернет?

3
Искренний ключ

Скорее начнут стрематься светить лицо

1
Полезный колос

Это нереально же

1
Искренний ключ

И да, первый вариант заголовка смотрелся смешнее

0
Сердечный мангал

выставлял меня дурачком

1
Примитивный танк88

Можно мастурбировать на Гал Гадот

И до этого неплохо получалось

0
Исходный Мика

У этой технологии есть огромный плюс: можно вставлять в порно лица поборников морали. А еще можно вставлять в гей-порно лица кавказцев, считающих, что за шутки про проституток можно бить людей. Это их быстро остановит.

23
Подробный теркин30см

хочу голосовать за тебя

6
Контрольный шар

Комментарий удален по просьбе пользователя

4
Энергичный украинец

That escalated quickly

0
Эффективный спрей

Дык порнуха всегда была двигателем технологий

18
Либеральный спрей

В начале каждая порно-студия постарается заполучить специалиста по цифровой обработке изображений. Потом начнут появляться относительные недорогие, но сверхуспешные порно-блокбастеры. А затем Порнхаб купит Диснея

7
Контрольный шар

Комментарий удален по просьбе пользователя

3
Полезный колос

Это тебе не клмменты в интернетиках писать!

0
Солнечный Мурод

Дык порнуха всегда была двигателем технологий

ну да, колесо, паровой двигатель, ядерная бомба...

0
Валютный танк88

Ну не надо передёргивать: https://geektimes.ru/post/290465/

P. S.: Хотя нет, о чём это я? Передёргивайте на здоровье!

1
Сердечный мангал

главный аргумент, которым я забыл воспользоваться, конечно

0
Домашний чувак

Плюсы совершенно в другом. В том, что снизится давление на селебрити, да и обычных людей, потому что любое видео может теперь быть фейком. И без экспертизы нельзя будет понять, подделка это или нет.
Поэтому общий запрос на такое «жареное» снизится из-за недоверия к нему. И шейминг умрёт.
Хорошая технология.

8
Кавказский нос

Комментарий удален по просьбе пользователя

0
Мобильный шмель

А разве не стали?

2
Кавказский нос

Комментарий удален по просьбе пользователя

0
Мобильный шмель

Видя любую фотку в актуальном Интернете, достаточно не отставший от поезда технологий человек допускает, что она обработана. И чем она необычнее, тем больше вероятность. А теперь сравни с доверием к фотопруфам в альбоме из условных 80х. Хотя Сталинский фотошоп функционировал уже 40 лет как. Инструмент стал более распространен, возможность его применения априори учитывается

3
Кавказский нос

Комментарий удален по просьбе пользователя

1
Домашний чувак

Вы сталкивались? Именно в отношении вас?
Популярным людям станет легче. Вернее удобнее. Дно, конечно, опустится ниже. Но кого волнует дно? Скептики станут скептичнее.

0
Занятый Мика

Комментарий удален по просьбе пользователя

7
Сердечный мангал

ну, это как минимум неприлично.

–1
Занятый Мика

Комментарий удален по просьбе пользователя

5
Сердечный мангал

ну ладно. так а что хорошего?

0
Занятый Мика

Комментарий удален по просьбе пользователя

14
Сердечный мангал

Илюхер-Илюхер. взрослый же ты человек

0
Занятый Мика

Комментарий удален по просьбе пользователя

18
Сердечный мангал

нет, как можно

2
Солнечный Мурод

ты процедурный вопрос у Илюхера уточняешь?
тебе блок-схема нужна?

1
Фактический крюк

что неприличного в дрочке?

0
Неожиданный блик

Развитие технологий подделки приведет, скорее всего, к тому, что тема секса (и порно) детабуируется к большому облегчению одних и ужасу других, более консервативных стран и культур.

4
Таможенный вентилятор

Всё потому что алгоритм пока допускает ошибки, но он самообучается, а значит его эффективность вырастет.

Вот прямо пикча про статью

3
Сердечный мангал

да нет, что вы. я, конечно, наивный, но понимаю, что это не так легко и быстро работает

0
Таможенный вентилятор

Ну тогда по пунктам

То есть, средний руки программист сможет обратить алгоритм против жертвы, подорвав её репутацию.

Ага. Первые 10 человек пострадают, а потом уже раструбят на весь мир. First world problems в общем.
Всё потому что алгоритм пока допускает ошибки, но он самообучается, а значит его эффективность вырастет.

Эффективность уже не вырастет на этих данных, нужны больше данных и получится другая сеть, а не тупо увеличить время обучения.
Может ли она помочь в развитии машинного обучения?

В развитии нет, там и без этого умные люди работают, в популяризации слова "DeepLearining" среди широких масс.
«Лёгкость, с которой кто-то может это сделать, пугает», — пишет Коул.

Ну если она не предполагала, что такое возможно, то ее и не жалко. Вроде очевидно, что 1000 китайцев могут кадр за кадром перерисовать лицо на видео. Любое лицо на любое видео. ДА ЭТО БУДЕТ ДОРОГО. Но очевидно, что это возможно.
Почему разработка заслуживает осуждения

Ой да, ДАВАЙТЕ ОСУЖДАТЬ УМНОЖЕНИЕ МАТРИЦ И СЛОЖЕНИЕ ВЕКТОРОВ, им станет стыдно и они перестанут работать.
Почему разработка заслуживает право на существование

Потому что все несогласные пойдут нахуй, у нас информационный век и ничего они не смогут сделать.
DeepkFakes утверждает, что его разработка может увеличить интерес пользователей к машинному обучению.

Мало ли что он там может утверждать. Если люди не знают ML вряд ли они смогут даже поставить корректную задачу (не повторить туториал один-в-один, а что-то другое)

Как-то вот так.

12
Сердечный мангал

жёстко вы!

0
Таможенный вентилятор

Ну вообще мне очень смешно, когда люди, которые совсем не разбираются в теме (это не к тебе, я говорю об уровне совсем деревянных людей) начинают обвинять нейронки в чем-то. А нейронки это просто условное перемножение-сложение матриц-векторов по заданным наперед правилам.
Это как грозу обвинять в том, что кто-то имеет плохой характер.

0
Зеленый динозавр

Ну данные данными. Можно же минимизировать «фейковость», попробовать превратить это в критерий игры с самим собой. плюс недавно вот прикрутили сеточки к построению 3д модели по фото, как ее там маг фейс или что т такое в апп сторе.

0
Таможенный вентилятор

Можно же минимизировать «фейковость»

попробовать превратить это в критерий игры с самим собой

Ну это же все то же показывает, что это не самообучение, а сознательное улучшение алгоритма (человеком). Самообучение на тех же данных ничего не даст (вряд ли он критично недообучил систему)
игры

Если что, там и так GAN внутри на обучении.

0
Банальный Слава

То есть подрочить на качественный фей Йохансон не получится?

0
Примитивный танк88

Вот именно. Какая-то серия «Я познаю мир» от гуманитариев из средних вузов про машинное обучение.

0
Лунный торшер
3
Мобильный шмель

Пф, а сейчас можно открыть графический редактор и прицепить твою голову куда угодно. Суть та же и никого уже не удивляет. Также и подобные инструменты через 5 лет станут абсолютной нормой

2
Примитивный танк88

Галь Гадот стала Мисс Израиль в свои 18, у неё изящная фигура и длинные стройные ноги, а лицо её прилепили к какой-то рядовой порноактрисе со средним телом. На месте Галь Гадот я бы снял настоящее порно с настоящей Галь Гадот, чтобы эта оскорбительная в своей жалкости подделка навсегда исчезла за ненадобностью.

2
Истинный чувак

После публикации разработки на Reddit (она сразу же разошлась среди энтузиастов)

Прошу энтузиастов поднять руку. Интересно, сколько вас тут на тж

0
Сердечный мангал

руки заняты (извините)

18
Этнический Петя

Друг интересуется, существует ли видео с Йохансон. Может, это обман. Не поверит, пока не увидит. Очень хочется его убедить)

5
Этнический Петя

А вообще друг нашёл, оно есть, да.
Но качество пока так себе, друг рассчитывал на большее.

3
Сердечный мангал

Привередливый у вас друг

0
Этнический Петя

Да там лицо около брови отваливается по текстурам, ну.
В смысле, друг на это жаловался.

1
Силовой кавалер

Надо выложить программу в открытый доступ. Это защитит всех, чьи порновидосы по ошибке или по чьему-то злому попадают в интернет.

1
Таможенный вентилятор

или по чьему-то злому умыслу НЕ попадают в интернет

1
Силовой кавалер

И тех и тех.

0
Сердечный мангал

Так он и выложил на Reddit. Её сразу умыкнули активисты.

0
Силовой кавалер

Вот и хорошо.

0
Многие Орзэмэс

за 2015-2016 годы люди загрузили в «Google Фото» около 24 миллиардов селфи, и теперь злоумышленнику ничего не стоит найти вашу фотографию и подставить её в порно

ЛОШАААРЫЫЫ!!!

1
Пожилой вентилятор

По-моему, охуенная технология. О каких приличиях речь идёт я хз, на что подрочить это личное дело каждого.

1
Примитивный танк88

Это сейчас так, но скоро фемки протолкнут законы об обязательности дрочки на жирух.

0
Верхний бас

Наконец-то появилось порно с Emma Watson и теперь можно успокоиться. https://www.reddit.com/r/CelebFakes/comments/75gic3/oc_emma_watson/

1
Фактический крюк

Эти технологии уже реальность. Смысла их нет никакого прятать. Наоборот, чем больше людей знают, тем тяжелее сделать фейк.

На у тем кто загружает фотки давно пора понять, все что попадает в сеть перестает быть твоим

1
Пожарный рубин

Саманта Коул утверждает, что алгоритмом могут воспользоваться злоумышленники. Они создадут видео о том, что их жертва никогда не делала

Наоборот, теперь можно делать все, что угодно, а в ответ на бурные реакции отвечать "это фейк, это все нейросеть"

1
Новенький утюг

Почему я считаю, что поддельное порно со знаменитостями — это ужасно

Почему вообще кому-то нужно объяснять, что это так?

0
Сердечный мангал

точняк, Толя. Упростил заг

0
Смелый Гоша

алгоритмы совершенствуются так быстро, что скоро мы будем жить в мире, где фейки от реальности не отличить

0
Закрытый спрей

Чем больше будет появляться подобных фейковых роликов, тем быстрее люди научатся их отлавливать.

Вот именно. Поэтому нужно запустить мегапроект: порнокомпромат на абсолютного каждого пользователя, скажем, фейсбука.

0
Турецкий лолипоп

Мейси Уильямс? Серьезно?

0
Искренний ключ

А чем она тебе не нравится?

0
Этнический Петя

Вай нот?

0
Основной дым

Чуваки! Я не успел Галечку заценить... есть у кого перезалив где-нибудь? А то там ссылки что-то не работают в оригинале.

0
Либеральный спрей

На порнхабе поищи, найдется все

0
Исполнительный щит

такс, такс, такс, долгими зимними вечерами я знаю чем заняться :)

0
Валютный танк88

Есть риск, что технология попадёт не в те руки, и ей воспользуются в корыстных целях.

Обычный людской страх перед всем новым. Почти про любую технологию можно так сказать, но это не повод её не развивать.

0
Читать все 96 комментариев
null