Эксперты по искусственному интеллекту подписали открытое письмо о защите человечества от машин

Базирующаяся в Бостоне волонтёрская организация «Институт будущего жизни» (Future of Life Institute или FLI) предложила экспертам по искусственному интеллекту подписать открытое письмо с обещанием защитить человечество от машин.

Текст под заголовком «Научно-исследовательские приоритеты для создания надёжного и полезного искусственного интеллекта» был опубликован на сайте FLI 11 января, однако его уже успели подписать профессора Массачусетского технологического института, основатели компании Deep Mind, приобретённой Google в начале 2014 года, создатели суперкомпьютера IBM Watson, участники группы Microsoft Research и другие эксперты области.

Письмо-манифест состоит из трёх абзацев и вывода. В первых двух из них FLI даёт краткий обзор последним достижениям в области искусственного интеллекта вроде машинного перевода, распознавания речи или автоматической классификации изображений, и отмечает, что технология может принести человечеству в будущем огромную пользу. По мнению организации, на определённом этапе мир, придуманный людьми, начнут заполнять объекты, придуманные роботами.

Однако в конце письма FLI подводит к мысли, что учёные слишком озабочены развитием способности искусственного интеллекта эффективно решать конкретные задачи и не задумываются о том, что он может в определённый момент начать выбирать себе цели самостоятельно и отказаться от человеческого вмешательства.

Мы рекомендуем расширить исследования в направлении повышения надёжности и полезности систем искусственного интеллекта: они должны делать то, что мы хотим, чтобы они сделали.

Из текста открытого письма FLI

В 2014 году проблема искусственного интеллекта всё чаще начала попадать в заголовки СМИ. В июне знаменитый учёный Стивен Хокинг заявил, что человечество проиграет в битве с роботами, а в последующие несколько месяцев эту тему неоднократно поднимал Элон Маск.

Глава Tesla Motors рассказал, что занимается искусственным интеллектом (он вкладывает средства в компанию Deep Mind), чтобы следить за этим крайне опасным изобретением. Маск сравнил эту технологию с ядерным оружием и даже предполагал, что человечество может быть лишь «биологическим загрузчиком» для роботизированных форм жизни, которые начнут править планетой в будущем.

#Элон_Маск #Стивен_Хокинг #Элон_Маск_об_искусственном_интеллекте #искуственный_интеллект #проблемы_искусственного_интеллекта #Future_of_Life_Institute

{ "author_name": "Вадим Елистратов", "author_type": "self", "tags": ["\u044d\u043b\u043e\u043d_\u043c\u0430\u0441\u043a_\u043e\u0431_\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c_\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0435","\u044d\u043b\u043e\u043d_\u043c\u0430\u0441\u043a","\u0441\u0442\u0438\u0432\u0435\u043d_\u0445\u043e\u043a\u0438\u043d\u0433","\u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b_\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e_\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430","\u0438\u0441\u043a\u0443\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439_\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442","future_of_life_institute"], "comments": 48, "likes": 12, "favorites": 2, "is_advertisement": false, "subsite_label": "flood", "id": 53665, "is_wide": true, "is_ugc": true, "date": "Mon, 12 Jan 2015 11:38:42 +0300" }
Комментарии

Методический самолет

4

Все это обман ради скрытой рекламы нового терминатора

Случайный бас

11

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Глубокий единорожек88

6

Да сами люди опасны для людей, чего уж там.

Офтоп
дискуссии в сообществе доступны только владельцам клубного аккаунта
С клубным аккаунтом вы сможете
создавать записи и вести дискуссии в закрытых сообществах
наслаждаться нашим сайтом без рекламы
помочь проекту и почувствовать себя лучше
Купить за 75₽

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "ccydt", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } } ]
Оперативные новости со всего мира
Подписаться на push-уведомления