Голландская студия научила нейросеть определять нарисованные пенисы и стыдить пользователей за такие рисунки Материал редакции

Так компания хочет обратить внимание на проблему цензуры, которую технологические корпорации устанавливают в соцсетях.

В закладки
Аудио
«По разным причинам мы не можем допустить публикацию этой хоккейной клюшки, прости»

В 2016 году Google запустил игру Quick, Draw!, в которой нейросеть угадывала зарисовки пользователя. Через год компания опубликовала открытую базу данных рисунков, но в ней отсутствовало самое популярное изображение в мире — пенис.

Исправить «ошибку» Google взялась голландская студия дизайна Moniker, которую спонсирует Mozilla. Компания создала искусственный интеллект Do not Draw a Penis, определяющий зарисовки пенисов.

Если нарисовать пенис, то искусственный интеллект ответит: «Мы полагаем, что это была ошибка» или «Нам не нравится, что вы рисуете неприличные вещи», после чего сотрёт зарисовку. Другие объекты нейросеть иногда угадывает, а если не может их определить, то называет рисунок абстракцией или даёт общие комментарии вроде «Мы все обожаем рисовать».

«Ты хорошо об этом подумал?»

Если нарисовать пенис несколько раз, то нейросеть берёт управление в свои руки и начинает изображать мужские половые органы в различных вариациях. Попутно она грубит и оскорбляет пользователя.

Идея кажется шуткой, но Moniker и Mozilla высказывают серьёзный тезис: «Должны ли мы беспокоиться о том, какие моральные нормы устанавливают технологические корпорации, ведь мы живём в мире, где они решают, на что нам разрешено смотреть в интернете?»

Представитель Moniker Роул Вотерс рассказал The Verge, что неспособность искусственного интеллекта Google распознать пенис, по большому счёту, незначительна, но она символизирует власть технических корпораций. Он отметил запрет сосков в Фейсбуке и Инстаграме как пример более серьёзного американского ханжества, которые навязывается всему миру.

Мы считаем, что наши нравственные принципы не должны устанавливать технологические гиганты. Мы ставим под вопрос факт того, что мы отдали ответственность за нашу социальную инфраструктуру в обмен на «бесплатное» использование [соцсетей], даже не осознавая этого.

Вы не считаете, что это немного странно, когда «правилам сообщества» публикации фото в Инстаграме должны следовать все граждане мира, представители любых культур?

Роул Вотерс
представитель Moniker

Вотерс рассказал, что ему нравится проект Quick, Draw!, и он даже использовал инструмент компании TensorFlow, чтобы создать альтернативу. Но он отметил, что компании всё чаще используют искусственный интеллект, чтобы модерировать свои платформы. Из-за этого вероятность ошибочной цензуры возрастает.

При этом возрастает и вероятность самоцензуры: зная, что искусственный интеллект может определить «непристойные» мысли или эмоции, пользователи вообще не станут их выражать, полагает Вотерс.

При этом Вотерс не считает, что его проект – это манифест свободы слова. «Скорее он напоминает о непрошеной власти корпораций и их патерналистских тенденциях. Для нас нарисовать пенис — это непринуждённый символ бунтарства», — отметил он.

{ "author_name": "Дарья Лейзаренко", "author_type": "editor", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438","\u0441\u043e\u0446\u0441\u0435\u0442\u0438","\u0438\u0441\u043a\u0443\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442","mozilla","instagram","google"], "comments": 28, "likes": 41, "favorites": 5, "is_advertisement": false, "subsite_label": "internet", "id": 102278, "is_wide": false, "is_ugc": false, "date": "Mon, 17 Jun 2019 16:25:17 +0300", "is_special": false }
0
{ "id": 102278, "author_id": 217590, "diff_limit": 1000, "urls": {"diff":"\/comments\/102278\/get","add":"\/comments\/102278\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/102278"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 214343, "last_count_and_date": null }
28 комментариев
Популярные
По порядку
Написать комментарий...
21

hockey stick

ложки для мёда

Дарья, поздравляю вас с полноценным принятием в команду тж. Светлая память недолго жившим адекватным переводам.

Ответить
3

Ладно тебе, когда много текста пишешь глаза иногда тебя предают и ты читаешь вообще какую-то хуйню, а не то, что написано на самом деле.

Ответить
3

я прочитала honey вместо hockey((((

Ответить
0

Да понятно, со всеми бывает. Будешь нарушать часто — встанешь на один уровень с Чумаковым (а это плохо).

Ответить
2

не обижайте Колю!

Ответить
0

А ему нравится когда его обижают девушки?

Ответить
0

не знаю, у него спроси

Ответить
0

Комментарий удален по просьбе пользователя

Ответить
3

спасибо, я исправила! представим, что никто этого не видел

Ответить
13

Ширяев, почини

Ответить
3

Чето я 5 раз нарисовал хуи и оно ничего не определило

Ответить
18

Комментарий удален по просьбе пользователя

Ответить
0

5 раз?

Ответить
2

Я же говорю, скорее нужно встроить ограничители эротических снов для лиц, младше 18 лет (для других юрисдикций — до 21). Тоже можно выводить стыдливую подпись «а что бы подумала твоя мать?» итд. В общем, надо как-то регулировать вопрос, а то некий правовой хаос существует. То же самое сделать с рисованием всего этого и матом.

Ответить
2

«а что бы подумала твоя мать?»

Ей бы тоже понравилось?

Ответить
1

Для нас нарисовать пенис — это непринуждённый символ бунтарства

Ответить
1

Охуенно!

*любитель рисовать хуи в треде*

Ответить
0

Эта разработка стоила затраченного на нее времени. Пенисов не существует.

Ответить
0

Ожидал увидеть "Спасибо за наводку lsk". Разочарован

Ответить
0

«Нам не нравится, что вы рисуете неприличные вещи»

Поэтому мы назовем сайт так, чтобы все их рисовали

Ответить
0

ето ирония

Ответить
0

а Кхалиси еще работает ?

Ответить
0

Нет конечно, она умерла в последней серии 8го сезона

Ответить
0

Работает🤔

Ответить
0

Мы живём в мире, которым правят ебанувшиеся фригидные геронтократы.

Ответить
0

Акула из икеи уже не та.

Ответить
Обсуждаемое
Новости
Глава Росгвардии Золотов призвал назначить Павлу Устинову условный срок, а его 3,5 года «перевести» блогеру Синице
По его мнению, осуждённый за твит Синица «ещё малым сроком отделался».
Технологии
5 мифов о солнечной энергетике
На заре развития солнечной энергетики появились утверждения, часть из которых уже навсегда осталась в прошлом, а часть изначально не имела практического подтверждения.
Новости
В детском саду в Коми чиновники торжественно открыли окна
Красные ленточки перерезали также в честь новых балконных дверей.
Популярное за три дня
Новости
Оксимирон призвал делиться в соцсетях цитатами из литературы в знак солидарности с фигурантами «московского» дела
Он также представил сайт с отрывками произведений и статьями из Уголовного кодекса, которые они могли бы нарушить.
Новости
Российские учителя опубликовали открытое письмо с требованием освободить осуждённых по «московскому делу»
Преподаватели также попросили проверить законность действий полиции и Росгвардии.
Интернет и мемы
Росгвардейские частушки с просторов интернета, озвученные ботом из телеграма
В связи с недавними событиями народный фольклор пополнился еще одним произведением. Оно посвящено Росгвардейцу Александру Лягину, которому актер Павел Устинов якобы "вывихнул плечо".

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovy", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "ccydt", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } } ]