Учёные в США научили искусственный интеллект предугадывать споры в интернете

Но люди всё ещё справляются с этим лучше.

В закладки

Исследователи из Корнуэлльского университета, подразделения Google Jigsaw и фонда Wikimedia создали алгоритм, который сканирует обсуждения и определяет, как они закончатся — спором или дружелюбной беседой. Систему натренировали на «Обсуждениях» к статьям на «Википедии», где редакторы обсуждают правки в материалах и необходимость обновления источников.

Алгоритм был заранее запрограммирован искать определённые знаки в разговоре, которые влияют на тон беседы. Например, если обсуждение проходит хорошо, то там встречаются благодарности («Спасибо за вашу помощь»), приветствия («Как проходит твой день?») и слово «пожалуйста».

По словам исследователей, всё это создаёт не только дружественную атмосферу, но и определённый эмоциональный «буфер» между участниками. В таком обсуждении любой может признать свою неправоту, не потеряв лица.

Знаками того, что обсуждение правок превратится в спор, учёные считают повторяющиеся прямые вопросы («Почему об этом не упоминается? Почему ты не посмотрел на это?») и предложения, которые начинаются с местоимений второго лица — ты или вы («Твои источники не имеют значения»). Особенно недружелюбным знаком является переход на личности в самом начале разговора.

В дополнение к этим маркерам, учёные определили общую «токсичность» обсуждений с помощью Google Perspective API — инструмента с искусственным интеллектом, который определяет, насколько дружелюбным, нейтральным или агрессивным является текст.

В конце «тренировочного периода» алгоритм мог предсказывать исход диалогов с точностью 65%. Учёные считают, что результатом их работы станут машины, которые смогут вмешиваться в интернет-дискуссии и предотвращать споры.

Люди могут заранее заподозрить, что разговоры закончатся плохо и это исследование показывает, что мы можем научить тому же компьютеры.

Джастин Чжанг
один из студентов, работавших над проектом

Однако, как отметили в издании The Verge, у алгоритма есть серьёзные недостатки. Например, точность — результат компьютера всё ещё ниже, чем у людей, которые смогли предугадать исход диалога с точностью 72%. Кроме того, систему научили на нетипичных для интернета обсуждениях, участники которых имеют общую цель — улучшить материал.

Есть и этические моменты: алгоритм может повлиять на потенциально конструктивные обсуждения, если примет решение слишком рано. Учёные пока не знают, где проходит необходимая грань, когда машине следует вмешаться.

Кроме того, по словам Чжанг, диалоги могут быть совершенно непредсказуемыми: она видела примеры дискуссий, которые по всем признакам были «токсичными», но в конце концов люди исправлялись и переходили на вежливый тон.

#технологии #ии #офтоп

{ "author_name": "Дамир Камалетдинов", "author_type": "editor", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438","\u043e\u0444\u0442\u043e\u043f","\u0438\u0438"], "comments": 23, "likes": 25, "favorites": 4, "is_advertisement": false, "subsite_label": "tech", "id": 71157, "is_wide": false, "is_ugc": false, "date": "Wed, 23 May 2018 17:48:35 +0300" }
Комментарии

Странный фонарь

5

Каждый раз поражаюсь англоязычным обсуждениям, где люди разговаривают так, как будто им не похуй на собеседников и само обсуждение.
Приведенные примеры фраз нетипичны для тж, например, и в рунете встречаются разве что во всяких фейсбуках, где служат признаком не взрослой дискуссии, а снобства и выебонов.

Морской лолипоп

7

Дед Пихто в комментариях – +80% к вероятности срача.

Технологии
дискуссии в сообществе доступны только владельцам клубного аккаунта
С клубным аккаунтом вы сможете
создавать записи и вести дискуссии в закрытых сообществах
наслаждаться нашим сайтом без рекламы
помочь проекту и почувствовать себя лучше
Купить за 75₽

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "ccydt", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } } ]
Не пропустите самое важное,
что происходит в интернете
Подписаться на push-уведомления