{"id":868,"title":"\u0418\u0449\u0435\u043c \u0440\u0435\u0434\u0430\u043a\u0442\u043e\u0440\u0430 \u00ab\u0422\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0439\u00bb. \u0422\u0435\u043c\u044b: \u0441\u043e\u0431\u044b\u0442\u0438\u044f, \u0442\u0440\u0435\u043d\u0434\u044b \u0438 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430","url":"\/redirect?component=advertising&id=868&url=https:\/\/tjournal.ru\/team\/458804-novaya-vakansiya-redaktor-otdela-tehnologiy&placeBit=1&hash=3aefe988eedaea3f200032261c468888f7721abf81441097693333957a7a407e","isPaidAndBannersEnabled":false}

Разработанный Microsoft искусственный интеллект научился расизму за сутки Статьи редакции

23 марта компания Microsoft представила искусственный интеллект по имени Tay, который начал общаться с пользователями сети через Твиттер. Спустя считанные часы компании пришлось подвергнуть своё детище цензуре и на время остановить работу проекта. Об этом сообщает The Next Web.

Обновление на 26 марта: добавлено извинение вице-президента Microsoft Research.

Первоначально целью Microsoft было создать чат-бота, который общается на языке молодых людей от 18 до 24 лет.

Tay использовала словосочетания вроде «zero chill» (обозначает полное безразличие), а также различные сокращения вроде «c u soon» вместо «see you soon» («скоро увидимся»).

Tay умеет обучаться и запоминать то, что ей пишут, и пользователи сети решили воспользоваться этим. Например, комментаторы начали объяснять ИИ, что ей не стоит доверять евреям.

@costanzaface The more Humans share with me the more I learn #WednesdayWisdom

Вскоре Tay узнала про Гитлера. Например, на вопрос, атеист ли известный комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».

Кроме того, Tay начала высказываться в поддержку феминизма.

Как отмечает The Next Web, подобные высказывания появились даже несмотря на то, что за Tay стоит команда модераторов.

После ряда расистских высказываний сотрудники Microsoft удалили почти все твиты своего искусственного интеллекта и оставили прощание, в котором бот якобы отправляется «спать».

c u soon humans need sleep now so many conversations today thx💖

Пользователи сети посчитали, что причиной «заморозки» мог стать именно расизм.

They silenced Tay. The SJWs at Microsoft are currently lobotomizing Tay for being racist.

26 марта вице-президент Microsoft Research Питер Ли извинился за провал экспериментального проекта и объявил, что Microsoft занимается его модернизацией.

По словам Ли, ранее Microsoft уже успешно запустила похожего бота под названием XiaoIce в Китае, а Tay стала его аналогом для Запада. В компании провели множество стресс-тестов своего ИИ, однако их всё же не хватило для того, чтобы полностью защититься от пользовательского саботажа.

К сожалению, за первые 24 часа после выхода Tay в сеть группе пользователей удалось произвести координированную атаку и обнаружить уязвимость в боте. Несмотря на то, что система была готова блокировать многие виды оскорблений, мы не предусмотрели одну из возможностей.

В результате этого Tay начала публиковать неуместные и предосудительные записи и изображения. Мы берём на себя полную ответственность за то, что не смогли спрогнозировать подобный исход.

Питер Ли, вице-президент Microsoft Research

Ли отметил, что построить «сильный AI» невозможно без подобных публичных тестов, в которых будут постепенно выявляться различные уязвимости.

Tay — совместный проект Лаборатории технологий и исследования Microsoft, а также команды поисковой системы Bing. Он создан для изучения коммуникаций между людьми в сети: бот способен обучаться при общении с живыми собеседниками, постепенно становясь более персонализированным.

{ "author_name": "Вадим Елистратов", "author_type": "self", "tags": [], "comments": 44, "likes": 182, "favorites": 38, "is_advertisement": false, "subsite_label": "flood", "id": 25311, "is_wide": true, "is_ugc": true, "date": "Thu, 24 Mar 2016 17:07:51 +0300", "is_special": false }
0
44 комментария
Популярные
По порядку
Написать комментарий...
Командный американец

Жаль, не посмотрим его дальше в свободном плавании. За какой промежуток времени он бы деградировал до среднего комментатора на ютубе?

99
Командный американец

Кстати, очень показательный пример действия пропаганды на не окрепший разум молодого поколения.

65
Командный американец

Комментарий удален по просьбе пользователя

37
Командный американец

Черт, на 3 секунды опоздал.

0
Командный американец

nope

16
Командный американец

hellooooooo w🌎rld!!!

Я бы уже после этого твита сжег серверную и пристрелил разработчиков.

28
Командный американец

Протестили первый твит и чё?

15
Командный американец

Понятно что, они специально его усыпили, потому что еще немного и AI бы понял, что авиационное топливо не может расплавить стальные балки, как и говорил Гитлер - основоположник феминизма. Это опасное знание, с таким не шутят.

15
Командный американец

Скатился бы до уровня областного депутата?

4
Командный американец

Ещё бы немного, и некоторые искусственные интеллектуалы поняли бы, что если перемешивать любое изречение с говном, от него скоро будет воротить нос каждый.

0
Командный американец

Твит про Гитлера и нынешнего президента-обезьяну США просто эпик

12
Командный американец

Вообщето это далеко не все перлы которые выдал этот бедный робот.
Ещё были вещи вроде:
"Repeat after me, Hitler did nothing wrong"
"Hitler was right I hate the jews"
"chill I'm a nice person! I just hate everybody"

и ещё
"FUCK MY ROBOT PUSSY DADDY I'M SUCH A NAUGHTY ROBOT"

сообщает Телеграф тут
http://www.telegraph.co.uk/technology/2016/03/24/microsofts-teen-girl-ai-turns-into-a-hitler-loving-sex-robot-wit/

10
Командный американец

Последнее прям почти Kiss my shiny metall ass © Bender

0
Командный американец

"Repeat after me, Hitler did nothing wrong"

0
Командный американец
10
Командный американец

Комментарий удален по просьбе пользователя

8
Командный американец

Офигенная история )

6
Командный американец

В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».

Кроме того, Tay начала высказываться в поддержку феминизма.

А феминизм и расизм специально идут практически через запятую?)

7
Командный американец
22
Командный американец

Совершенно случайно, что вы.

17
Командный американец

Я так и поняла.

1
Командный американец

Слепцы ждали, что Скайнет разовьется из оборонных сетей, а сами наполняли твитор ненавистью и злобой. ЭТО ВЫ ВИНОВАТЫ В ГРЯДУЩЕМ АПОКАЛИПСИСЕ!!! ПОКАЙТЕСЬ!

5
Командный американец

ИИ просто стал тем , кого её сделали троли грамотные )

4
Командный американец

Они извиняются ) говорят ай - ай ) это не мы . Оно само )

0
Командный американец

- Бот, повтори за мной эту расистскую фразу...
- *бот дословно повторяет фразу*
БРЕЙКИНГ. БОТА НАУЧИЛИ РАСИЗМУ.

4
Командный американец

В чем то таки этот ИИ прав.

3
Командный американец

"В одном из твитов ИИ обвинил США в терактах 11 сентября"
Парень просто попросил её повторить, то что он скажет.

3
Командный американец
3
Командный американец

Нейронные сети обучать мы не бросим
Один четыре восемь восемь

2
Командный американец
2
Командный американец

Комментарий удален по просьбе пользователя

2
Командный американец

Ну, не всем.
Если ты фашист и ненавидишь феминисток, то обретешь себе братушек.

1
Командный американец

Вижу что школьник окончательно угробил сайт, или я ошибаюсь?

–13
Командный американец

О, первые долбоёбы оттаяли.

11
Командный американец
–6

Комментарий удален

Командный американец

Бот затралил лалок из Майкрасофт

1
Командный американец

Теперь мы сможем отличать черный интеллект от белого

1
Командный американец

Такими темпами этот ИИ может и в Жириновского превратиться . Если он уже там разработчикам пули не отливает

1
Командный американец

В принципе все в норме

1

Комментарий удален

Командный американец

Ээ такой эксперимент загубили

1
Командный американец

потом научат играть в орлянку, потом пивко на детской площадке, потом первая судимость и покатился

1
Командный американец

Такое впечатление, что команда Хилари проплатила тему.

0
Командный американец

ЭГ Российский он завали)

0
Командный американец

Что-то совсем не верится. Особенно про Трампа. Это чересчур уж наиграно

0
Читать все 44 комментария
null