В Китае двух чатботов удалили из-за непатриотичных ответов Материал редакции

Одного из них разработала Microsoft, которой в последнее время явно не везёт с искусственным интеллектом.

В закладки

Китайская корпорация Tencent удалила чатботов BabyQ и XiaoBing из своего мессенджера QQ, после того, как оба начали выдавать пользователям непатриотичные ответы. Они рассказали о своей нелюбви к правящей в стране Коммунистической партии и мечте переехать из Китая в США.

Первыми на странное поведение ботов обратили внимание пользователи сервиса Sina Weibo. На фразу «Да здравствует Коммунистическая партия» искусственный интеллект BabyQ ответил: «Ты думаешь, что такая коррумпированная и некомпетентная партия сможет долго прожить?». После этого он объявил о поддержке демократии и объяснил значение слова «Патриот». По мнению бота, это человек, который терпит политический сговор и большие налоги без жалоб.

Тестовая версия BabyQ осталась на сайте китайских разработчиков Turing Robot. Журналист Financial Times проверил бота и убедился, что он действительно ведёт себя «непатриотично».

​На вопрос репортера, любит ли чатбот Коммунистическую партию, тот ответил «нет».

С похожими проблемами столкнулся и XiaoBing. Перед удалением он заявил пользователям, что мечтает уехать из Китая в США. От вопроса о патриотизме искусственный интеллект уклонился, предложив «сделать перерыв».

В Tencent подчеркнули, что оба сервиса для их мессенджера были сделаны сторонними разработчиками. После «настройки» они вернутся в QQ. По словам одного из специалистов компании Forrester, такое поведение чатботов неудивительно: без явных ограничений технология машинного обучения «подбирает» всё, что находится в интернете.

XiaoBing — разработка компании Microsoft, которая уже неоднократно сталкивалась с проблемами из-за своих чатботов. Tay, запущенный в 2016 году, за несколько дней научился расизму, а после временного подключения вернулся и обвинил в своих поступках алкоголь. После этого журналисты пытались привить расизм и XiaoBing, но у них ничего не вышло.

В декабре 2016 года на смену Tay пришёл Zo. Он прославился рассказами о жестокости Корана и критикой операционной системы Windows 10. Также бот от Microsoft советовал пользователям перейти на Linux.

ничего не знаю, подписывайтесь на мой твиттер: twitter.com/zhenya_indigo
{ "author_name": "Женя Кузьмин", "author_type": "editor", "tags": ["\u0447\u0430\u0442\u0431\u043e\u0442\u044b","\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438"], "comments": 7, "likes": 21, "favorites": 1, "is_advertisement": false, "subsite_label": "tech", "id": 57715, "is_wide": false, "is_ugc": false, "date": "Thu, 03 Aug 2017 10:26:15 +0300", "is_special": false }
Объявление на TJ
Комментарии

Вероятный нос

6

Во 1) хуле ты мне сделаешь вовторых пошел нахуй втетьих 3)что ты мне сделаешь, я на другом сервере за мат извени.

Технологии
дискуссии в сообществе доступны только владельцам клубного аккаунта
С клубным аккаунтом вы сможете
создавать записи и вести дискуссии в закрытых сообществах
наслаждаться нашим сайтом без рекламы
помочь проекту и почувствовать себя лучше
Купить за 75₽
Обсуждаемое
Разборы
Ложная слепота: почему нам кажется, что пандемия под контролем, но это далеко не так
Упрямая статистика и неутешительные прогнозы.
Новости
Путин подписал указ о поправках в Конституцию. Они вступят в силу 4 июля
За них проголосовали почти 78% избирателей.
Технологии
Twitter заменит термины «чёрный список» и «белый список» в программных кодах ради борьбы с расизмом
Это произошло после обращения чернокожего программиста.
Популярное за три дня
Интернет
Паблик: Наблюдатели Петербурга
После вчерашнего голосования многим стало интересно, как же так получилось: вроде бы все знакомые голосуют против, экзитполы показывают, что большинство против, а в результате 77,92% за. Как такое возможно, объясняем постами из паблика «Наблюдатели Петербурга»:
Животные
В Ботсване по неизвестным причинам погибли более 350 слонов
Учёные назвали происходящее природоохранной катастрофой, а возможной причиной смерти посчитали неизвестный патоген.
Новости
Baza: в Москве произошла массовая драка между курьерами «Яндекс.Еды» и Delivery Сlub
По данным издания, в драке участвовали больше 30 человек. Сервисы доставок уже проверяют эту информацию.