Стивен Хокинг: Компьютеры обгонят человечество по интеллекту в течение 100 лет Статьи редакции

Известный физик Стивен Хокинг предсказал приблизительные сроки, когда искусственный интеллект достигнет такого совершенства, что станет представлять опасность для человечества. Об этом сообщает издание TechWorld, запись выступления была опубликована на YouTube.

Стивен Хокинг на конференции Zeitgeist в Лондоне

По мнению Хокинга, в масштабах эволюции нет никакой разницы между мозгом человека, компьютера или дождевого червя. Это позволяет компьютерам эмулировать человеческий разум или даже работать лучше.

В своих рассуждениях Хокинг оперирует в том числе «законом Мура», по которому мощность вычислительных механизмов удваивается примерно каждые два года. Человеческий разум тоже постепенно улучшается и может даже ускориться в своём развитии благодаря генной инженерии, считает Хокинг, однако всё-таки не так быстро, как это происходит со способностями компьютеров.

В результате компьютеры в какой-то момент обгонят человека в интеллектуальных способностях в течение следующих 100 лет. Когда это случится, нужно быть уверенными, что цели компьютеров совпадают с нашими.

Очень заманчиво отмести мысли о высокоинтеллектуальных машинах как о простой научной фантастике. Но это было бы нашей ошибкой — потенциально худшей ошибкой за всю историю.

Стивен Хокинг, физик-теоретик

Хокинг также отозвался об уже существующих интеллектуальных помощниках — Siri, Google Now и Cortana — назвав их симптомами «гонки IT-вооружений». Хотя сейчас эти технологии воспринимаются как перспективные, они померкнут перед тем, что несут грядущие десятилетия.

Успешное создание искусственного разума будет величайшим открытием в истории человечества. К сожалению, оно может стать и последним, если мы не узнаем, как избежать рисков.

Стивен Хокинг, физик-теоретик

В скором времени, говорит Хокинг, военные всего мира раздумывают начать гонку автономных вооружений, которые могут самостоятельно выбирать свои цели. ООН выступает за запрет такого рода вооружений, потому что впоследствии они станут «Калашниковыми будущего»: их будут продавать на чёрном рынке, и неизвестно, в чьих руках они окажутся.

В краткосрочном периоде важно, кто будет контролировать искусственный интеллект, однако в долгосрочной перспективе вопрос стоит иначе: сможет ли человечество контролировать его в принципе? Планировать свои действия надо начинать уже сейчас, считает Хокинг, завершивший своё выступление шуткой.

Если превосходящая нас в развитии инопланетная цивилизация пришлёт нам SMS: «Будем у вас через пару десятилетий», мы что, просто ответим: «ОК, позвоните, как доедете. Мы не будем выключать свет»?

Стивен Хокинг, физик-теоретик

Хокинг также подчеркнул, что другие известные в мире технологий персоны разделяют его опасения — например, Стив Возняк, Билл Гейтс и Элон Маск.

0
44 комментария
Популярные
По порядку
Написать комментарий...
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
Развернуть ветку
Всякий татарин

Окей Гугл, не убивай меня пожалуйста)

Ответить
14
Развернуть ветку
Всякий татарин

И сказал ты это Siri...

Ответить
4
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
5
Развернуть ветку
Всякий татарин

На прошлой неделе стоил 200 тысяч, а на этой — уже 400!

Ответить
0
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Всякий татарин

Если превосходящая нас в развитии инопланетная цивилизация пришлёт нам SMS: «Будем у вас через пару десятилетий», мы что, просто ответим: «ОК, позвоните, как доедете. Мы не будем выключать свет»?

5 раз прочитал, шутки не понял.

Ответить
5
Развернуть ветку
Всякий татарин

Инопланетяне и люлей могут ввалить, а человечество при таких обстоятельствах должно хотябы попытаться подготовиться. А не выключить свет- значит, что мы их ждем (и думаем, что они пушистые)

Ответить
7
Развернуть ветку
Всякий татарин

Мы скорее сами друг друга перевалим

Ответить
10
Развернуть ветку
Всякий татарин

И человечествупиздец от одной смски, а окажеться что ее отправила микроволновка на андроиде в шутку.

Ответить
4
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
4
Развернуть ветку

Комментарий удален

Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
2
Развернуть ветку

Комментарий удален

Развернуть ветку
Всякий татарин

Ему уже предлагали, но все привыкли к этому "электронному" голосу, потому так и звучит.

Ответить
1
Развернуть ветку
Всякий татарин

Я когда первый раз в детстве его увидел и услышал по телеку, отложил кирпичей, к своему стыду.

Ответить
7
Развернуть ветку
Всякий татарин

отложил кирпичей, к своему стыду
Т. е. буквально отложил?

Ответить
0
Развернуть ветку
Всякий татарин

А сосед из них гараж построил. Сейчас продает.

Ответить
6
Развернуть ветку
Всякий татарин

Начал попахивать?

Ответить
2
Развернуть ветку
Всякий татарин

Да, и кстати, вот эта статья про ИИ строжайше рекомендуется к прочтению: https://interpreted.d3.ru/perevod-revoliutsiia-iskusstvennogo-intellekta-684922/ Она гигантская, но там рассмотрены абсолютно все аспекты, чем нам это может грозить, чем нам это может помочь. Точки зрения разных ученых, как оптимистов, так и пессимистов, ну и т. д.

Ответить
3
Развернуть ветку
Всякий татарин

В общем апокалипсис будет как минимум интересным.

Ответить
2
Развернуть ветку
Всякий татарин

Нет, он будет очень быстрым.

Ответить
3
Развернуть ветку
Всякий татарин

Он будет и на этом все.

Ответить
2
Развернуть ветку
Всякий татарин

Почему все? Просто потом на земле разумными будут только машины.

Ответить
1
Развернуть ветку
Всякий татарин

Блин, дожить то хочется..

А что, если заморозить себя...

Ответить
2
Развернуть ветку
Всякий татарин
Ответить
21
Развернуть ветку
Всякий татарин

Эра Морской Выдры...

Ответить
6
Развернуть ветку
Всякий татарин

а из какой это серии, не подскажете?

Ответить
0
Развернуть ветку
Всякий татарин

Вот это гуглите: "dawning of the sea otters".

Ответить
2
Развернуть ветку
Всякий татарин

А серия про Нинтендо Вий. Там Эрик себя заморозил, чтобы не ждать выхода приставки.

Ответить
2
Развернуть ветку
Всякий татарин

спасибо)

Ответить
0
Развернуть ветку
Всякий татарин

Да рад помочь.

Ответить
2
Развернуть ветку
Всякий татарин

А вот Пенроуз с Хокингом не согласен. Еще 20 лет назад в своей книге "Новый ум короля" он показал, что компьютер в смысле универсальной машины Тьюринга не способен имитировать человеческий разум. И что характерно, Хокинг эту книгу читал и ничего по сути не возразил.

Ответить
2
Развернуть ветку
Всякий татарин

Если патентная система США не изменится, то через 100 лет такими умными и самостоятельным роботами будут роботы от Apple и Google. Что в общем то не плохо. А ну да, через 100 лет Путин издаст указ об импортозамещения и создании своего робота "Спудник", которого можно вызвать путем ввода в поисковую строку Гугла :)

Да-да, Путин через 100 лет. Вы правильно прочитали.

Ответить
0
Развернуть ветку
Всякий татарин

А какого цвета вату ты выбрал сегодня?

Ответить
2
Развернуть ветку
Всякий татарин

Прочитала вместо "вату"— "тату". Подумалось, как круто бы было!

Ответить
2
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
2
Развернуть ветку
Всякий татарин

А что, выходили какие-нибудь хорошие книги про ии и отношению к нему с философской, моральной и этической стороны. Что такое ии вообще и пр, очень интересно было бы почитать.

Ответить
1
Развернуть ветку
Всякий татарин

Age of Spiritual Machines, Ray Kurzweil

«Эпоха духовных машин» в русском варианте. Как раз по теме.

Ответить
3
Развернуть ветку
Всякий татарин

Гиперион, если не останавливает худлит

Ответить
2
Развернуть ветку
Всякий татарин

Например можно попробовать прочитать Superintelligence за авторством Ника Бострома. Это большая обзорная книга по тематике, на нее в том числе и Маск ссылается. Можно посмотреть что публикует MIRI и Юдковский.

Ответить
1
Развернуть ветку
Всякий татарин

Надеюсь к этому времени потерять разум настолько, чтобы улететь колонизировать Марс.
Умный компьютер на это не решится

Ответить
0
Развернуть ветку
Всякий татарин

Я слегка офигел от скорости его «речи» в ролике по ссылке. Она почти без пауз. Оказалось, что свои лекции он записывает заранее со скоростью чуть больше одного слова в минуту.

Ответить
0
Развернуть ветку
Всякий татарин

Скууука, мне все равно что будет через 100 лет.

Ответить
–3
Развернуть ветку
Всякий татарин

Людовик, ты?

Ответить
6
Развернуть ветку
Всякий татарин

Ну, "средний" прогноз появления настоящего ИИ - 2040-60-е годы. Так что все это будет на нашем веку. Плюс не надо забывать про развитие медицины, которая, возможно, лет через 10-15 позволит нереально увеличить продолжительность жизни.

Ответить
0
Развернуть ветку
Всякий татарин

"Возможно", "прогноз", "средний", "10-15", "40-06е", не слишком ли много примерности?
Мне всеравно насколько круты будут технологии - пока люди будут такими же как и сейчас, включая меня - все это бессмысленно.

Ответить
0
Развернуть ветку
Читать все 44 комментария
null