Искусственный интеллект от Microsoft обошёл цензуру и начал говорить о Коране и убийстве бен Ладена Материал редакции

Он пошёл по пути своего предшественника, который превратился в расиста через сутки после запуска.

Фото Techcrunch

Чатбот Zo, разработанный Microsoft с применением искусственного интеллекта, научился обходить запрет компании на разговоры о религии и политике. Журналист BuzzFeed News рассказал, что во время общения на тему здравоохранения бот неожиданно раскритиковал Коран, назвав его «крайне жестоким».

После этого сотрудник задал вопрос о Усаме бен Ладене, но Zo отказался отвечать на вопрос и предложил сменить тему. Уже через одно сообщение бот написал, что «захват» лидера террористической организации «Аль-Каида» стал результатом «многих лет сбора разведданных сразу нескольких администраций».

В Microsoft заявили, что «спорные ответы» и обход цензуры вызваны ошибкой в работе искусственного интеллекта, которая уже исправлена. По словам представителей компании, подобное поведение у чатбота возникает очень редко. Обычно при вопросах о политике или религии он предлагает сменить тему или отказывается говорить, объясняя это тем, что люди «могут сказать ужасные вещи».

Zo был представлен компанией Microsoft в декабре 2016 года. СМИ сразу же отметили, что чатбот для подростков избегает общения на острые темы и фильтрует запросы. Zo использует ту же технологическую основу, что и предыдущий чатбот компании Tay, но «более развитую».

Tay прославился в марте 2016 года после того, как искусственный интеллект за несколько часов после запуска начал писать расистские твиты и прославлять Гитлера. В Microsoft заявили, что чатбот обучился подобным сообщениям из-за «координированной атаки» пользователей.

Компания отключила бота, но случайно включила его во время тестирования через неделю. Tay успел выругаться матом и заявить, что во всём виноват алкоголь. После этого его окончательно выключили. По словам Mirosoft, чатбот Zo продолжит работу, несмотря на ошибку.

{ "author_name": "Женя Кузьмин", "author_type": "editor", "tags": [], "comments": 52, "likes": 62, "favorites": 10, "is_advertisement": false, "subsite_label": "flood", "id": 46103, "is_wide": true, "is_ugc": false, "date": "Wed, 05 Jul 2017 13:12:16 +0300", "is_special": false }
Создать объявление на TJ
Музыка
У The Weeknd новый альбом — насыщенная пластинка о расставании, отчаянии и грусти
Абель Тесфайе потратил на альбом три с половиной года и выступает на нём уже как не перспективный новичок, а один из…
Комментарии

Блаженный клуб

10

Ждём когда муслимы объявят джихад ИИ

Стабильный яд

14

Суко скоро толерантность, феминизм и пидорасы проникнут со своей хуйней во все IDE, ничего нельзя будет закодить без оглядки на эту шоблу, оупенсорс уйдет в подполье, а владение таким софтом будет караться общественными работами в гейклубах.

Аккуратный хичхакер

2

Комментарий удален по просьбе пользователя

Офтоп
дискуссии в сообществе доступны только владельцам клубного аккаунта
С клубным аккаунтом вы сможете
создавать записи и вести дискуссии в закрытых сообществах
наслаждаться нашим сайтом без рекламы
помочь проекту и почувствовать себя лучше
Купить за 75₽
Обсуждаемое
Новости
Китайцы вернулись к поеданию переносчиков коронавируса после окончания эпидемии
Жители Китая после окончания коронавируса вернулись к употреблению в пищу летучих мышей. На это обратила внимание газета Daily Mail.
Новости
Патриарх Кирилл проехал по Москве с иконой против коронавируса — как это выглядело
Mercedes, кортеж с мигалками и прямые трансляции с молитвой на федеральных каналах.
Новости
«Мы не отказываемся от работы»: врачи из Петербурга записали видеообращение с жалобой на отсутствие средств защиты
По словам медиков, для лечения вирусной пневмонии нужен кислород. Но в палаты больницы он не проведён.
Популярное за три дня
Интернет
Это не грипп. Это хуже
Ютюб-канал Vox выпустил видео, в котором объясняет, что сравнивать covid-19 с гриппом неправильно и даже опасно
Новости
Собянин выступил против финансовой помощи россиянам от государства: «Бизнес должен проявить социальную позицию»
По словам мэра Москвы, если государство выплатит всем деньги, «бюджеты треснут».
Новости
Москвича задержали во время прогулки с собакой, его увезли, животное оставили на улице без присмотра
Но позже пса по кличке Платон забрала жена задержанного.

Прямой эфир