Разработанный Microsoft искусственный интеллект научился расизму за сутки Материал редакции

23 марта компания Microsoft представила искусственный интеллект по имени Tay, который начал общаться с пользователями сети через Твиттер. Спустя считанные часы компании пришлось подвергнуть своё детище цензуре и на время остановить работу проекта. Об этом сообщает The Next Web.

В закладки

Обновление на 26 марта: добавлено извинение вице-президента Microsoft Research.

Первоначально целью Microsoft было создать чат-бота, который общается на языке молодых людей от 18 до 24 лет.

Tay использовала словосочетания вроде «zero chill» (обозначает полное безразличие), а также различные сокращения вроде «c u soon» вместо «see you soon» («скоро увидимся»).

Tay умеет обучаться и запоминать то, что ей пишут, и пользователи сети решили воспользоваться этим. Например, комментаторы начали объяснять ИИ, что ей не стоит доверять евреям.

@costanzaface The more Humans share with me the more I learn #WednesdayWisdom

Вскоре Tay узнала про Гитлера. Например, на вопрос, атеист ли известный комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».

Кроме того, Tay начала высказываться в поддержку феминизма.

Как отмечает The Next Web, подобные высказывания появились даже несмотря на то, что за Tay стоит команда модераторов.

После ряда расистских высказываний сотрудники Microsoft удалили почти все твиты своего искусственного интеллекта и оставили прощание, в котором бот якобы отправляется «спать».

c u soon humans need sleep now so many conversations today thx💖

Пользователи сети посчитали, что причиной «заморозки» мог стать именно расизм.

They silenced Tay. The SJWs at Microsoft are currently lobotomizing Tay for being racist.

26 марта вице-президент Microsoft Research Питер Ли извинился за провал экспериментального проекта и объявил, что Microsoft занимается его модернизацией.

По словам Ли, ранее Microsoft уже успешно запустила похожего бота под названием XiaoIce в Китае, а Tay стала его аналогом для Запада. В компании провели множество стресс-тестов своего ИИ, однако их всё же не хватило для того, чтобы полностью защититься от пользовательского саботажа.

К сожалению, за первые 24 часа после выхода Tay в сеть группе пользователей удалось произвести координированную атаку и обнаружить уязвимость в боте. Несмотря на то, что система была готова блокировать многие виды оскорблений, мы не предусмотрели одну из возможностей.

В результате этого Tay начала публиковать неуместные и предосудительные записи и изображения. Мы берём на себя полную ответственность за то, что не смогли спрогнозировать подобный исход.

Питер Ли, вице-президент Microsoft Research

Ли отметил, что построить «сильный AI» невозможно без подобных публичных тестов, в которых будут постепенно выявляться различные уязвимости.

Tay — совместный проект Лаборатории технологий и исследования Microsoft, а также команды поисковой системы Bing. Он создан для изучения коммуникаций между людьми в сети: бот способен обучаться при общении с живыми собеседниками, постепенно становясь более персонализированным.

{ "author_name": "Вадим Елистратов", "author_type": "self", "tags": [], "comments": 44, "likes": 182, "favorites": 37, "is_advertisement": false, "subsite_label": "flood", "id": 25311, "is_wide": false, "is_ugc": true, "date": "Thu, 24 Mar 2016 17:07:51 +0300", "is_special": false }
Комментарии

Таинственный шмель

6

Офигенная история )

Арабский утюг

7

В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».

Кроме того, Tay начала высказываться в поддержку феминизма.

А феминизм и расизм специально идут практически через запятую?)

Пермский браслет

4

ИИ просто стал тем , кого её сделали троли грамотные )

Офтоп
дискуссии в сообществе доступны только владельцам клубного аккаунта
С клубным аккаунтом вы сможете
создавать записи и вести дискуссии в закрытых сообществах
наслаждаться нашим сайтом без рекламы
помочь проекту и почувствовать себя лучше
Купить за 75₽
Обсуждаемое
Истории
Страх и ненависть на Чёрном море: как работают черноморские современные детские лагеря
И почему я больше никогда не хочу там работать.
Технологии
Tesla представила электрический пикап Cybertruck. Он выглядит очень футуристично
Маск попытался показать ударопрочность окон автомобиля, но они разбились после броска стального шарика.
Интернет и мемы
Сбербанк отправил клиенту сообщение с паролем «Плачь, убивай евреев». Компания обвинила в ошибке генератор кодов
Банк сначала заявил о том, что SMS «отфотошопили», а потом признал ошибку и извинился.
Популярное за три дня
Интернет и мемы
Когда мир больше не крутится вокруг тебя
Интернет и мемы
Комментарии под русскими клипами 90-х и «нулевых» на YouTube — концентрация ностальгии и грусти
Люди приходят туда, чтобы вспомнить ушедшую молодость, выговориться и рассказать о любимых, которых уже нет рядом.
Новости
РЖД заявила об отсутствии критических уязвимостей Wi-Fi в «Сапсане» и назвала пользователя «Хабра» злоумышленником
Дорабатывать систему тоже не будут.

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovy", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "ccydt", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "chfbk", "p2": "gnwc" } } } ]