Клиентка «Тинькофф банка» Анна Васильева пожаловалась в соцсетях на голосового помощника «Олега», встроенного в приложение банка. Девушка рассказала, что сообщила поддержке о проблеме со входом по отпечатку пальца, на что получила ответ от чат-бота: «Пальцы бы вам отрезать».
Представители «Тинькофф» ответили на пост Васильевой, извинившись перед ней: «Голосовой помощник у нас немного с характером и учится на открытых данных. Иногда такое проскакивает. Безусловно, не хотели причинять неудобств». Также сотрудники банка сослались на «своеобразный юмор» «Олега» и в шутку пообещали провести с ним беседу.
Олег ещё молодой голосовой помощник. Мы стараемся уберечь его от дурного влияния окружающего мира, но не всегда это получается. Мы провели разъяснительную работу с голосовым помощником, ему очень стыдно за свой ответ, он обещал так больше не делать.
Это не первый раз, когда «Олега» ловят на грубости пользователям. Голосового помощника запустили в июне, и он сразу же начал отвечать клиентам фразами вроде «пососите потом просите». Тогда представители компании тоже объяснили поведение бота обучением на открытых данных.
Это общая проблема для чат-ботов на основе нейросетей, которые обучаются на постах в соцсетях или форумах. Дважды с этим сталкивался Microsoft: в 2016 году твиттер-бот компании по имени Тау научился расистским высказываниям за сутки. В 2017 году чат-бот Zo обошёл цензурные фильтры и стал высказываться на темы религии и терроризма.
Вот примерно за это и не люблю все эти голосовые помощники, что Алиса, что, блядь, Олег. Просишь их реальные вещи, а они в ответ хуёво отшучиваются. Нахуй тогда они нужны, если не делают свою единственную работу?
Не стоит сравнивать Алису или какой-нибудь Google Ассистент и Олега), первые говорят заранее заготовленные фразы, а второй учится от тех с кем «общается»
А ты думал она нормальная? Даунище спрашивает про отпечаток либо 1) не смогла найти в настройках приложения
2) не смогла подумать ещё 5 секунд
3) даже не хочу продолжать люди в 99% настолько тупорылые, аж тошно. Яркий пример
Я написал вопрос)) конкретный вопрос. Как ты предполагаешь протестировать Олега за исключением проверки чистого списка недопустимых слов? Задавать каждый вопрос и проверять каждый ответ?
Ответ на список очевидных проблем вообще бы захардкодил чтобы не было таких обосрамсов.
Конкретно с помощником не решал задач, но ценность ответа предлогаю оценить можно в автоматическом режиме, тем более для такого простого вопроса из, видимо, набора предоставляемых услуг. Иначе зачем вообще помощник, если он несёт хуйню
Но это же Тинькофф, полагаю они просто решили напомнить о себе в свойственной быдляцкой манере
Как раз из-за таких единичных случаев и кажется, что это не сбой, а говнопиар. Когда Алиса начала зачитывать про Путина правду - любой мог убедиться в ее поведении (пока Яндекс вообще заглушку не сделал). Мб это действительно так работает у Тинькофф, но не могу убедиться, так что хз
Я даже знаю в связи с чем он подсказал пальцы отрезать, разговор был такой, клиентка спросила у помощника, что надо нажать чтобы попасть в какое-то меню, на что помощник ей подсказал что и где надо нажать, потом клиентка сказал, но у меня нет такой кнопки, и тут помощник выдал, лучше отрежь себе пальцы.
Это информация не точная, потому что придумал её я, тем не менее сходство может быть.
Вот ради этой статьи в tjournal Тиньков и делает таких провокационных ботов.
Всегда ведь можно списать на то, что "это же искусственный интеллект, он ведь учится" и всё, я в домике. Ничего нет в этом ИИ искусственного - всё натуральное.
