{"id":1015,"title":"\u0410\u043b\u044c\u0431\u043e\u043c \u043e \u043b\u044e\u0431\u0432\u0438 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0432\u043e\u0439\u043d\u044b \u0431\u0435\u0437 \u0435\u0434\u0438\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 ","url":"\/redirect?component=advertising&id=1015&url=https:\/\/tjournal.ru\/umg\/472440-poslushat-novoe-oulavyur-arnalds-i-strunnyy-kvartet&placeBit=1&hash=2f79f2d1dce5a3269d2e27f43f5810c5215f9449ef7975dca45f4a27e2574b04","isPaidAndBannersEnabled":false}

Почему я считаю, что в истории о поддельных порно-роликах со знаменитостями есть плюсы Статьи редакции

Редактор TJ о плюсах и минусах скандальной разработки, которая наложила лица Галь Гадот и Скарлетт Йоханссон на лица девушек в фильмах для взрослых.

Скриншот Саманты Коул с SendVids

В начале осени 2017 года пользователь Reddit начал публиковать отрывки из порно-роликов, где лицо актрисы заменялось лицами Галь Гадот, Скарлетт Йоханссон, Мэйси Уильямс или Обри Плаза. Позже он выложил в открытый доступ собственную разработку на основе самообучающихся алгоритмов, которая позволила создавать подобный контент.

12 декабря 2017 года журналистка Motherboard Саманта Коул опубликовала статью, заголовок которой гласил: «Поддельное порно на основе искусственного интеллекта здесь, и мы в заднице». В статье журналистка не раз дала понять, что относится к разработке с подозрением.

Редактор TJ согласен — в подобном контенте нет ничего хорошего, но из истории следует извлечь ценный урок, а не заваливать осуждением.

Как работает алгоритм

По интернету разошёлся только ролик с Галь Гадот, так как он оказался самым качественным. Согласно сюжету, в нём героиня занимается сексом со своим сводным братом. Внимательный зритель быстро разглядит помехи и артефакты, возникающие на лице актрисы, и поймёт, что это фейк. Всё потому что алгоритм пока допускает ошибки, но он самообучается, а значит его эффективность вырастет.

После публикации разработки на Reddit (она сразу же разошлась среди энтузиастов) автор DeepFakes уточнил, что принципы её работы «до стыдного элементарны». Для создания программы программист использовал библиотеки с открытым исходным кодом типа TensorFlow. Google бесплатно раздаёт эту разработку специалистам, студентам и всем, кто заинтересован в машинном обучении.

Для обучения искусственного интеллекта автор использовал изображения в Google, стоковые фотографии, ролики на YouTube и порно-видео. Благодаря этому компьютер стал различать изображения Галь Гадот и эротических роликов, после чего научился накладывать поверх лиц порноактрис лица знаменитостей. Чем чаще компьютер практиковался, тем быстрее получалось.

Почему разработка заслуживает осуждения

Саманта Коул утверждает, что алгоритмом могут воспользоваться злоумышленники. Они создадут видео о том, что их жертва никогда не делала и не говорила. То есть, средней руки программист сможет обратить алгоритм против жертвы, подорвав её репутацию. «Лёгкость, с которой кто-то может это сделать, пугает», — пишет Коул.

Журналистка приводит статистику — за 2015-2016 годы люди загрузили в «Google Фото» около 24 миллиардов селфи, и теперь злоумышленнику ничего не стоит найти вашу фотографию и подставить её в порно.

«Это очень пугает. Отчасти это показывает, как некоторые мужчины видят в женщинах лишь объект для манипуляций, который можно заставить делать что угодно. Это демонстрирует полное отсутствие уважения к работе людей в сфере порно», — сказала бывшая порноактриса Алиа Джанине в разговоре с Коул.

Позиция журналистки и актрисы понятна. С точки зрения этики разработка DeepFakes оскорбительна — никто не заслуживает подобного отношения к себе. Но пугает не столько это (в интернете хватает способов испортить человеку жизнь), сколько отношение к этой истории.

Почему разработка заслуживает право на существование

Есть риск, что технология попадёт не в те руки, и ей воспользуются в корыстных целях. Не сомневаюсь, что многие неискушённые в интернете люди сходу не поймут, что ролик с Галь Гадот — фейк. А ведь сейчас разработка в лучшем случае на стадии бета-версии, и алгоритмы самообучения будут только совершенствоваться.

Но разработку DeepFakes — как и любую технологию — можно применить и во благо. Подобно тому, как в «Форсаж 7» или «Изгой-один» использовали цифровые копии умерших актёров. В последней картине в кадре появилась цифровая версия умершего Питера Кушинга, и она стоила создателям немало денег и усилий. Но что если благодаря алгоритмам такое воссоздание станет дешевле и проще?

Искусственный интеллект NVIDIA умеет быстро превращать видео с заснеженным пейзажем в летний день. DeepFakes использовал его при разработке своего алгоритма

По словам исследователя возможностей искусственного интеллекта Алекса Шампандарда, технологии цифровой замены лиц существуют десятилетия. Но история с DeepFakes показывает, что для их реализации нужны не десятки профессионалов, а лишь программист с современным компьютером. И далеко не все из них будут тратить время на создание поддельных порно-роликов со знаменитостями.

DeepFakes утверждает, что его разработка может увеличить интерес пользователей к машинному обучению. Спорный тезис, но у него есть право на существование. Чем больше будет появляться подобных фейковых роликов, тем быстрее люди научатся их отлавливать.

Может ли разработка DeepFakes навредить людям? Вполне, она уже это сделала. Может ли она помочь в развитии машинного обучения? Я думаю, да, но для этого нужно обсуждать и разбирать историю с разных сторон, а не воспринимать как «чернуху» и не подавать как катастрофу в «эпоху хакеров».

Некоторые СМИ, в том числе и российские, при написании новости об алгоритме сослались на Motherboard, но почему-то не отразили положительные моменты технологии (о них в оригинальной статье есть несколько абзацев). Другие издания вовсе не стали писать о случившимся, в том числе и TJ. Вероятно, редакторы посчитали историю слишком одиозной (а может и просто пропустили, я не знаю).

Но я считаю, что смотреть на эту историю только с этической стороны, то есть видеть только негатив, будет ошибкой. Отвратительно, что кто-то делает порно-ролики со знаменитыми актрисами без их разрешения. Но это старая тема, которую вряд ли можно победить игнорированием или порицанием. Значит, есть смысл как минимум попытаться взглянуть на ситуацию с положительной стороны.

0
96 комментариев
Популярные
По порядку
Написать комментарий...
Молодой химик

Отчасти это показывает, как некоторые мужчины видят в женщинах лишь объект для манипуляций, который можно заставить делать что угодно.
не обошлось без феми-высера. Типа порноактрисы не этим зарабатывают(делают, что от них ожидают мужчины). Типа женщины от природы на такое не способны - использовать фото парня, который им нравится, в порнухе. Ну что за йобаный пиздец у них в головах?!?!

Ответить
39
Развернуть ветку
Молодой химик

Да эта фраза вообще женщинам подходит идеально:
Это очень пугает. Отчасти это показывает, как некоторые женщины видят в мужчинах лишь объект для манипуляций, который можно заставить делать что угодно.
Манипуляции кем-то больше женская фишка, чем мужская.

Ответить
15
Развернуть ветку
Молодой химик

Ну и кто, по твоему, больше заинтересован в подобной разработке? Явно ~90% пользователей будут мужского пола.

Ответить
0
Развернуть ветку
Молодой химик

Ну фишка-то в том, что разработка снизит возможность женщин манипулировать мужиками, это их на самом деле беспокоит.

Ответить
6
Развернуть ветку
Молодой химик

Каким это образом вообще? Это раз.
Вы сами рады быть под манипуляцией - это два.

Ответить
–4
Развернуть ветку
Молодой химик

Манипуляция манипуляции рознь, чувак.

Ответить
0
Развернуть ветку
Молодой химик

Ну и что означает это твоё выражение

Ответить
–3
Развернуть ветку
Молодой химик

А что значит твоё "сами рады"? Есть взаимные манипуляции, в рамках гласного или негласного договора между парой. Люди идут друг другу на мелкие уступки, делают что-то друг для друга и это норм.

А есть откровенное наебалово, когда один использует другого, а чтобы тот не понял этого - манипулирует им, отвлекая его от единственной правильной мысли - "какого хуя происходит?".

Ответить
3
Развернуть ветку
Молодой химик

В чём именно состоит это наебалово, я не розумію. Есть дрочер Костя, он хочет сунуть свой инструмент в естьоднатян, она им ОЧЕНЬ ПОДЛО манипулирует, и тут встаёт вопрос, это обман, или условия незримого контракта? Костя ведь может в любой момент развернуться и уйти дрочить домой. Почему бы ему так не поступить, тем самым, как-никак, но обломать спрос, чем ныть в интернетиках про кровавых коварных всеми манипулирующих женщин? Гордость мешает, или чувство собственности? Это этим проблемам обезьян я должен посочувствовать?

Ответить
–4
Развернуть ветку
Молодой химик

Тут речь про общество и возмущённых феменисток, а не про меня. Но даже если бы ты пытался - ты слишком далёк от какого-то понимания реальных отношений, чтобы выстроить близкую к жизни теорию.

Ответить
0
Развернуть ветку
Молодой химик

Господи, твоё имя в моём рассуждении ради шутки, а в остальном, возразить нечего что ли?
Вот поэтому я и пишу - вы сами рады обманываться. Вам пишешь об этом - "Кудах что ты знаешь я больше видел!!1", ну и кушайте своё дерьмо тогда, не обляпайтесь.

Ответить
–1
Развернуть ветку
Молодой химик

Ну что я могу возразить каким-то нелепым, далёким от жизни умствованиям ребёнка, судящего о незнакомым ему вещам по постам с лепры?

Пашенька, повзрослей уже. Или полностью откажись от оценочного восприятия этой области (аки будда) или наберись смелости уже разобраться, что к чему на самом деле.

Ответить
–1
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Молодой химик

Вопрос в том, понимает ли он, что им манипулируют или нет

Ответить
0
Развернуть ветку
Молодой химик

Это очевидно

Ответить
0
Развернуть ветку
Молодой химик

Сегодня что, день очевидного?
Если он понимает, то это уже перестает быть манипуляцией, это уже осознанный выбор

Психологическая манипуляция — тип социального, психологического воздействия, социально-психологический феномен, представляющий собой стремление изменить восприятие или поведение других людей при помощи скрытой, обманной и насильственной тактики

Ответить
1
Развернуть ветку
Молодой химик

Я не понимаю в чём заключается манипуляция в данной ситуации.

Ответить
0
Развернуть ветку
Молодой химик

Цифры с потолка, как я это люблю. Женщины так же не против зайти на порнхаб как и мужчины.

Ответить
0
Развернуть ветку
Молодой химик

Плюсы: можно мастурбировать на Галь Гадот
Минусы: сегодня она, завтра ты

Ответить
29
Развернуть ветку
Молодой химик

Минусы: сегодня она, завтра ты
Кхм, это разве минус?

Ответить
4
Развернуть ветку
Молодой химик

Я был бы не против, если бы все думали что у меня физическая форма как лысенького из Браззерс. И не только форма.

Ответить
0
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
3
Развернуть ветку
Молодой химик

Скорее начнут стрематься светить лицо

Ответить
1
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Молодой химик

И да, первый вариант заголовка смотрелся смешнее

Ответить
0
Развернуть ветку
Молодой химик

выставлял меня дурачком

Ответить
1
Развернуть ветку
Молодой химик

Можно мастурбировать на Гал Гадот

И до этого неплохо получалось

Ответить
0
Развернуть ветку
Молодой химик

У этой технологии есть огромный плюс: можно вставлять в порно лица поборников морали. А еще можно вставлять в гей-порно лица кавказцев, считающих, что за шутки про проституток можно бить людей. Это их быстро остановит.

Ответить
23
Развернуть ветку
Молодой химик

хочу голосовать за тебя

Ответить
6
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
4
Развернуть ветку
Молодой химик

That escalated quickly

Ответить
0
Развернуть ветку
Молодой химик

Дык порнуха всегда была двигателем технологий

Ответить
18
Развернуть ветку
Молодой химик

В начале каждая порно-студия постарается заполучить специалиста по цифровой обработке изображений. Потом начнут появляться относительные недорогие, но сверхуспешные порно-блокбастеры. А затем Порнхаб купит Диснея

Ответить
7
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
3
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Молодой химик

Дык порнуха всегда была двигателем технологий
ну да, колесо, паровой двигатель, ядерная бомба...

Ответить
0
Развернуть ветку
Молодой химик

Ну не надо передёргивать: https://geektimes.ru/post/290465/

P. S.: Хотя нет, о чём это я? Передёргивайте на здоровье!

Ответить
1
Развернуть ветку
Молодой химик

главный аргумент, которым я забыл воспользоваться, конечно

Ответить
0
Развернуть ветку
Молодой химик

Плюсы совершенно в другом. В том, что снизится давление на селебрити, да и обычных людей, потому что любое видео может теперь быть фейком. И без экспертизы нельзя будет понять, подделка это или нет.
Поэтому общий запрос на такое «жареное» снизится из-за недоверия к нему. И шейминг умрёт.
Хорошая технология.

Ответить
8
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Молодой химик

А разве не стали?

Ответить
2
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Молодой химик

Видя любую фотку в актуальном Интернете, достаточно не отставший от поезда технологий человек допускает, что она обработана. И чем она необычнее, тем больше вероятность. А теперь сравни с доверием к фотопруфам в альбоме из условных 80х. Хотя Сталинский фотошоп функционировал уже 40 лет как. Инструмент стал более распространен, возможность его применения априори учитывается

Ответить
3
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Молодой химик

Вы сталкивались? Именно в отношении вас?
Популярным людям станет легче. Вернее удобнее. Дно, конечно, опустится ниже. Но кого волнует дно? Скептики станут скептичнее.

Ответить
0
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
7
Развернуть ветку
Молодой химик

ну, это как минимум неприлично.

Ответить
–1
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
5
Развернуть ветку
Молодой химик

ну ладно. так а что хорошего?

Ответить
0
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
14
Развернуть ветку
Молодой химик

Илюхер-Илюхер. взрослый же ты человек

Ответить
0
Развернуть ветку
Молодой химик

Комментарий удален по просьбе пользователя

Ответить
18
Развернуть ветку
Молодой химик

нет, как можно

Ответить
2
Развернуть ветку
Молодой химик

ты процедурный вопрос у Илюхера уточняешь?
тебе блок-схема нужна?

Ответить
1
Развернуть ветку
Молодой химик

что неприличного в дрочке?

Ответить
0
Развернуть ветку
Молодой химик

Развитие технологий подделки приведет, скорее всего, к тому, что тема секса (и порно) детабуируется к большому облегчению одних и ужасу других, более консервативных стран и культур.

Ответить
4
Развернуть ветку
Молодой химик

Всё потому что алгоритм пока допускает ошибки, но он самообучается, а значит его эффективность вырастет.
Вот прямо пикча про статью

Ответить
3
Развернуть ветку
Молодой химик

да нет, что вы. я, конечно, наивный, но понимаю, что это не так легко и быстро работает

Ответить
0
Развернуть ветку
Молодой химик

Ну тогда по пунктам

То есть, средний руки программист сможет обратить алгоритм против жертвы, подорвав её репутацию.
Ага. Первые 10 человек пострадают, а потом уже раструбят на весь мир. First world problems в общем.
Всё потому что алгоритм пока допускает ошибки, но он самообучается, а значит его эффективность вырастет.
Эффективность уже не вырастет на этих данных, нужны больше данных и получится другая сеть, а не тупо увеличить время обучения.
Может ли она помочь в развитии машинного обучения?
В развитии нет, там и без этого умные люди работают, в популяризации слова "DeepLearining" среди широких масс.
«Лёгкость, с которой кто-то может это сделать, пугает», — пишет Коул.
Ну если она не предполагала, что такое возможно, то ее и не жалко. Вроде очевидно, что 1000 китайцев могут кадр за кадром перерисовать лицо на видео. Любое лицо на любое видео. ДА ЭТО БУДЕТ ДОРОГО. Но очевидно, что это возможно.
Почему разработка заслуживает осуждения
Ой да, ДАВАЙТЕ ОСУЖДАТЬ УМНОЖЕНИЕ МАТРИЦ И СЛОЖЕНИЕ ВЕКТОРОВ, им станет стыдно и они перестанут работать.
Почему разработка заслуживает право на существование
Потому что все несогласные пойдут нахуй, у нас информационный век и ничего они не смогут сделать.
DeepkFakes утверждает, что его разработка может увеличить интерес пользователей к машинному обучению.
Мало ли что он там может утверждать. Если люди не знают ML вряд ли они смогут даже поставить корректную задачу (не повторить туториал один-в-один, а что-то другое)

Как-то вот так.

Ответить
12
Развернуть ветку
Молодой химик

жёстко вы!

Ответить
0
Развернуть ветку
Молодой химик

Ну вообще мне очень смешно, когда люди, которые совсем не разбираются в теме (это не к тебе, я говорю об уровне совсем деревянных людей) начинают обвинять нейронки в чем-то. А нейронки это просто условное перемножение-сложение матриц-векторов по заданным наперед правилам.
Это как грозу обвинять в том, что кто-то имеет плохой характер.

Ответить
0
Развернуть ветку
Молодой химик

Ну данные данными. Можно же минимизировать «фейковость», попробовать превратить это в критерий игры с самим собой. плюс недавно вот прикрутили сеточки к построению 3д модели по фото, как ее там маг фейс или что т такое в апп сторе.

Ответить
0
Развернуть ветку
Молодой химик

Можно же минимизировать «фейковость»
попробовать превратить это в критерий игры с самим собой
Ну это же все то же показывает, что это не самообучение, а сознательное улучшение алгоритма (человеком). Самообучение на тех же данных ничего не даст (вряд ли он критично недообучил систему)
игры
Если что, там и так GAN внутри на обучении.

Ответить
0
Развернуть ветку
Молодой химик

То есть подрочить на качественный фей Йохансон не получится?

Ответить
0
Развернуть ветку
Молодой химик

Вот именно. Какая-то серия «Я познаю мир» от гуманитариев из средних вузов про машинное обучение.

Ответить
0
Развернуть ветку
Молодой химик
Ответить
3
Развернуть ветку
Молодой химик

Пф, а сейчас можно открыть графический редактор и прицепить твою голову куда угодно. Суть та же и никого уже не удивляет. Также и подобные инструменты через 5 лет станут абсолютной нормой

Ответить
2
Развернуть ветку
Молодой химик

Галь Гадот стала Мисс Израиль в свои 18, у неё изящная фигура и длинные стройные ноги, а лицо её прилепили к какой-то рядовой порноактрисе со средним телом. На месте Галь Гадот я бы снял настоящее порно с настоящей Галь Гадот, чтобы эта оскорбительная в своей жалкости подделка навсегда исчезла за ненадобностью.

Ответить
2
Развернуть ветку
Молодой химик

После публикации разработки на Reddit (она сразу же разошлась среди энтузиастов)
Прошу энтузиастов поднять руку. Интересно, сколько вас тут на тж

Ответить
0
Развернуть ветку
Молодой химик

руки заняты (извините)

Ответить
18
Развернуть ветку
Молодой химик

Друг интересуется, существует ли видео с Йохансон. Может, это обман. Не поверит, пока не увидит. Очень хочется его убедить)

Ответить
5
Развернуть ветку
Молодой химик

А вообще друг нашёл, оно есть, да.
Но качество пока так себе, друг рассчитывал на большее.

Ответить
3
Развернуть ветку
Молодой химик

Привередливый у вас друг

Ответить
0
Развернуть ветку
Молодой химик

Да там лицо около брови отваливается по текстурам, ну.
В смысле, друг на это жаловался.

Ответить
1
Развернуть ветку
Молодой химик

Надо выложить программу в открытый доступ. Это защитит всех, чьи порновидосы по ошибке или по чьему-то злому попадают в интернет.

Ответить
1
Развернуть ветку
Молодой химик

или по чьему-то злому умыслу НЕ попадают в интернет

Ответить
1
Развернуть ветку
Молодой химик

И тех и тех.

Ответить
0
Развернуть ветку
Молодой химик

Так он и выложил на Reddit. Её сразу умыкнули активисты.

Ответить
0
Развернуть ветку
Молодой химик

Вот и хорошо.

Ответить
0
Развернуть ветку
Молодой химик

за 2015-2016 годы люди загрузили в «Google Фото» около 24 миллиардов селфи, и теперь злоумышленнику ничего не стоит найти вашу фотографию и подставить её в порно
ЛОШАААРЫЫЫ!!!

Ответить
1
Развернуть ветку
Молодой химик

По-моему, охуенная технология. О каких приличиях речь идёт я хз, на что подрочить это личное дело каждого.

Ответить
1
Развернуть ветку
Молодой химик

Это сейчас так, но скоро фемки протолкнут законы об обязательности дрочки на жирух.

Ответить
0
Развернуть ветку
Молодой химик

Наконец-то появилось порно с Emma Watson и теперь можно успокоиться. https://www.reddit.com/r/CelebFakes/comments/75gic3/oc_emma_watson/

Ответить
1
Развернуть ветку
Молодой химик

Эти технологии уже реальность. Смысла их нет никакого прятать. Наоборот, чем больше людей знают, тем тяжелее сделать фейк.

На у тем кто загружает фотки давно пора понять, все что попадает в сеть перестает быть твоим

Ответить
1
Развернуть ветку
Молодой химик

Саманта Коул утверждает, что алгоритмом могут воспользоваться злоумышленники. Они создадут видео о том, что их жертва никогда не делала

Наоборот, теперь можно делать все, что угодно, а в ответ на бурные реакции отвечать "это фейк, это все нейросеть"

Ответить
1
Развернуть ветку
Молодой химик

Почему я считаю, что поддельное порно со знаменитостями — это ужасно

Почему вообще кому-то нужно объяснять, что это так?

Ответить
0
Развернуть ветку
Молодой химик

точняк, Толя. Упростил заг

Ответить
0
Развернуть ветку
Молодой химик

алгоритмы совершенствуются так быстро, что скоро мы будем жить в мире, где фейки от реальности не отличить

Ответить
0
Развернуть ветку
Молодой химик

Чем больше будет появляться подобных фейковых роликов, тем быстрее люди научатся их отлавливать.
Вот именно. Поэтому нужно запустить мегапроект: порнокомпромат на абсолютного каждого пользователя, скажем, фейсбука.

Ответить
0
Развернуть ветку
Молодой химик

Мейси Уильямс? Серьезно?

Ответить
0
Развернуть ветку
Молодой химик

А чем она тебе не нравится?

Ответить
0
Развернуть ветку
Молодой химик

Вай нот?

Ответить
0
Развернуть ветку
Молодой химик

Чуваки! Я не успел Галечку заценить... есть у кого перезалив где-нибудь? А то там ссылки что-то не работают в оригинале.

Ответить
0
Развернуть ветку
Молодой химик

На порнхабе поищи, найдется все

Ответить
0
Развернуть ветку
Молодой химик

такс, такс, такс, долгими зимними вечерами я знаю чем заняться :)

Ответить
0
Развернуть ветку
Молодой химик

Есть риск, что технология попадёт не в те руки, и ей воспользуются в корыстных целях.

Обычный людской страх перед всем новым. Почти про любую технологию можно так сказать, но это не повод её не развивать.

Ответить
0
Развернуть ветку
Читать все 96 комментариев
null