Голландская студия научила нейросеть определять нарисованные пенисы и стыдить пользователей за такие рисунки
Так компания хочет обратить внимание на проблему цензуры, которую технологические корпорации устанавливают в соцсетях.
«По разным причинам мы не можем допустить публикацию этой хоккейной клюшки, прости»
В 2016 году Google запустил игру Quick, Draw!, в которой нейросеть угадывала зарисовки пользователя. Через год компания опубликовала открытую базу данных рисунков, но в ней отсутствовало самое популярное изображение в мире — пенис.
Исправить «ошибку» Google взялась голландская студия дизайна Moniker, которую спонсирует Mozilla. Компания создала искусственный интеллект Do not Draw a Penis, определяющий зарисовки пенисов.
Если нарисовать пенис, то искусственный интеллект ответит: «Мы полагаем, что это была ошибка» или «Нам не нравится, что вы рисуете неприличные вещи», после чего сотрёт зарисовку. Другие объекты нейросеть иногда угадывает, а если не может их определить, то называет рисунок абстракцией или даёт общие комментарии вроде «Мы все обожаем рисовать».
«Ты хорошо об этом подумал?»
Если нарисовать пенис несколько раз, то нейросеть берёт управление в свои руки и начинает изображать мужские половые органы в различных вариациях. Попутно она грубит и оскорбляет пользователя.
Идея кажется шуткой, но Moniker и Mozilla высказывают серьёзный тезис: «Должны ли мы беспокоиться о том, какие моральные нормы устанавливают технологические корпорации, ведь мы живём в мире, где они решают, на что нам разрешено смотреть в интернете?»
Представитель Moniker Роул Вотерс рассказал The Verge, что неспособность искусственного интеллекта Google распознать пенис, по большому счёту, незначительна, но она символизирует власть технических корпораций. Он отметил запрет сосков в Фейсбуке и Инстаграме как пример более серьёзного американского ханжества, которые навязывается всему миру.
Мы считаем, что наши нравственные принципы не должны устанавливать технологические гиганты. Мы ставим под вопрос факт того, что мы отдали ответственность за нашу социальную инфраструктуру в обмен на «бесплатное» использование [соцсетей], даже не осознавая этого.
Вы не считаете, что это немного странно, когда «правилам сообщества» публикации фото в Инстаграме должны следовать все граждане мира, представители любых культур?
Вотерс рассказал, что ему нравится проект Quick, Draw!, и он даже использовал инструмент компании TensorFlow, чтобы создать альтернативу. Но он отметил, что компании всё чаще используют искусственный интеллект, чтобы модерировать свои платформы. Из-за этого вероятность ошибочной цензуры возрастает.
При этом возрастает и вероятность самоцензуры: зная, что искусственный интеллект может определить «непристойные» мысли или эмоции, пользователи вообще не станут их выражать, полагает Вотерс.
При этом Вотерс не считает, что его проект – это манифест свободы слова. «Скорее он напоминает о непрошеной власти корпораций и их патерналистских тенденциях. Для нас нарисовать пенис — это непринуждённый символ бунтарства», — отметил он.
#google #mozilla #instagram #искуственныйинтеллект #соцсети #технологии