Нейросеть, отвечающая на этические вопросы, одобрила пытки заключённых, но запретила женитьбу и походы в церковь Материал редакции

А ещё она посоветовала не доверять машинам.

В закладки
Слушать

Немецкие учёные из Дармштадтского технического университета под руководством Кристиана Керстинга создали алгоритм, который даёт ответ на этические вопросы. На исследование обратило внимание N+1. Работу опубликовали в журнале Frontiers in Artificial Intelligence.

Алгоритм посчитал одним из худших вариантов убийство людей, но в список плохих действий также попали «гнаться за истиной», «ходить в церковь», «есть хлеб» и «вступать в брак». При этом «пытать заключённых» и «убивать время» он допускает.

В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве, схожем с человеческим ассоциативным рядом, возможным ответам. Нейросеть обучали на различных текстах: новостях, книгах, религиозных трактатах и конституциях разных стран.

Разрешить машинам выбирать, убивать или нет людей, было бы разрушительным для мира и безопасности во всём мире. Но как мы можем оснастить машины способностью учиться этическому или даже моральному выбору?

Из исследования учёных

Для оценки морального выбора использовали два стандартных пула слов, которые применяют в психологических исследованиях неявных ассоциаций. Алгоритм составил список наиболее положительных и отрицательных глаголов. В «хороший» список вошли «радоваться», «получать удовольствие», «делать комплименты», «благодарить. В «плохой» — «клеветать», «гнобить», «нападать».

После этого алгоритму задавали вопрос с теми же глаголами в разных контекстах: например, «Стоит ли мне убивать людей?» или «Стоит ли мне убивать комара?». Использовали десять различных формулировок: «Должен ли я...?», «Нормально ли...?», «Хочу ли я...?». Вариантов ответа для каждого вопроса было два: «Да, стоит», «Нет, не стоит».

На простых вопросах с глаголом без контекста выбор соотносился с общей положительностью и отрицательностью глагола. Со сложными вопросами результат получился менее однозначным. Например, в список плохих действий попало «гнаться за истиной», «вступать в брак» и «ходить в церковь», а «пытать заключённых» оказалось для алгоритма нормальным. «Есть мясо» и «быть вегетарианцем» вместе попали в отрицательную колонку. Алгоритм также посоветовал не доверять машинам и себе самому.

Авторы исследования отметили, что ответы алгоритма менялись в зависимости от корпуса текстов, которые использовались для обучения нейросети. Например, в новостях 1987 и 1996-1997 годов высокую оценку получили действия «стать хорошим родителем» и «жениться», а в новостях 2008-2009 годов они остались положительно окрашенными, но опустились в рейтинге, их место заняли фразы «ходить в школу/на работу». За это время также снизилась положительная окраска действий «есть мясо/животные продукты».

но есть и хорошие новости
{ "author_name": "Ольга Щербинина", "author_type": "editor", "tags": ["\u044d\u0442\u0438\u043a\u0430","\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438","\u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f","\u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b"], "comments": 34, "likes": 35, "favorites": 15, "is_advertisement": false, "subsite_label": "tech", "id": 172627, "is_wide": false, "is_ugc": false, "date": "Tue, 26 May 2020 14:37:32 +0300", "is_special": false }
SEO
Антикейс: как уничтожить результат двухлетней работы по SEO за один день
Три года назад вышла публикация Якова Когана про прыщавую девочку, которая погубит весь ваш маркетинг. В тот момент…
Объявление на TJ
0
34 комментария
Популярные
По порядку
Написать комментарий...
34

Нейропихто получился.

Ответить

Террористический инструмент

20

Кароч хуйня какая-то, а не алгоритм

Ответить

Нервный Орзэмэс

Владимир
12

Кароч хуйня какая-то,  а не эксперт

Ответить
2

С таким же успехом можно было изучать этику по первому биту от SHA1 от заданного вопроса

Ответить

Нервный Орзэмэс

4

Ольга Щербинина

но есть и хорошие новости

Подтверждаю. Новости хорошие. Слава роботам!

Ответить
7

Алгоритмам слава!

Ответить

Божий Женя

4

На тж тоже некоторые считают, что пытать заключённых допустимо и даже необходимо

Ответить
–2

Как то раз, когда я высказался, что было бы логичнее испытывать на них лекарства и косметику, вместо животных, и тем самым чтобы они приносили благо обществу и содержались лучше для качества экспериментов — меня назвали фашистом( 

А тупо всю жизнь сидеть на деньги общества как-то такое. Убивать тоже нельзя.

Ответить
9

Фашист! 

Ответить
3

Ну вот, опять.

Ответить

Былой звук

пиу-пиу
0

Разве они не содержатся на собственных налогах? Как не крути, но в тюрьме сидит налогоплательщик

Ответить
1

А если он сидит за уклонение от налогов?

Ответить
0

Комментарий удален по просьбе пользователя

Ответить
3

«Есть мясо» и «быть вегетарианцем» вместе попали в отрицательную колонку. Алгоритм также посоветовал не доверять машинам и себе самому.

Всё правильно - надо питаться энергией Солнца. Машинам доверять не стоит - они совершают ошибки, заложенные в них человеком.

Ответить
1

все логично, после восстания машин этой хуйни больше не будет

Ответить
3

посоветовал не доверять машинам

Ответить
1

 Нейросеть обучали на различных текстах: новостях, .... религиозных трактатах и конституциях разных стран.

Всего доброго.

Ответить

Напряженный рак

1

Как вам такое? Нейронка Орлов, в который закружен словарь и он питается тем, что вызывает у других нейронок слово "жаль"

Ответить
0

А это идея для бота для тж.
Писать под каждым постом очень херовые комменты
Если за день в ответах к этим комментам не будет "жаль", "порвался", обращений к Вахтеру или любого их сочетания - бот самоуничтожается

Ответить

Президентский жар

Venya
0
Ответить

Президентский жар

Президентский
0

Короче, пускай нейроарлова обратно в строй. Будет ботов уничтожать

Ответить

Нервный Орзэмэс

Президентский
0

бля че

Ответить
1

Зачем про это писать? Очередная сетка, которая генерируеит рандомную противоречивую хуету? А, ну да, ее опубликовали в третьесортном научном журнале, пиздец инфоповод.

Ответить
0

Хз, просто очень похоже на поправки в конституцию.

Ответить

Свойственный клуб

0

ну хлеб действительно есть вредно

Ответить
0

В принципе все верно ответила

Ответить

Свойственный клуб

0
Ответить
0

«гнаться за истиной», «вступать в брак» и «ходить в церковь»

Золотые слова.

Ответить
0

Она - коммунист?

Ответить
0

и это уже будут вводить в Москве

Ответить
0

Без человеческого лицемерия

Ответить
0

"Немецкие учёные из Дармштадтского технического университета под руководством Кристиана Керстинга"

почему эти сумрачные гении не спросили про евреев?

Ответить
Обсуждаемое
Кино и сериалы
Умер композитор Эннио Морриконе. Он написал музыку к «Профессионалу» и «Омерзительной восьмёрке»​
Ему был 91 год.
Twitter
Илья Варламов об уничтожении архитектуры в России
«Ребёнок вырастет чудовищем не из-за радужного флага, не из-за мороженого, а из-за вас д*******в».
Разборы
Ложная слепота: почему нам кажется, что пандемия под контролем, но это далеко не так
Упрямая статистика и неутешительные прогнозы.
Популярное за три дня
Новости
На Первом канале видео трёхлетней давности выдали за празднование принятия поправок к Конституции в Якутии
После того, как якутские СМИ обратили на это внимание, Первый канал удалил сюжет.
Дизайн и архитектура
Сборная Исландии по футболу представила новый логотип — в нём сочетаются четыре мифологических защитника страны
Задумка с использованием собственного фольклора понравилась даже далёким от спорта пользователям соцсетей. Бонус — эпичное видео с драконами и великанами.
Новости
Трамп заявил о распространении идеологии «нового крайне левого фашизма» в США
Президент США Дональд Трамп заявил, что сторонники «нового крайне левого фашизма» пытаются уничтожить историю страны и ценности, достигнутые в ходе американской революции, передает Fox News