Элон Маск назвал человечество «биологическим загрузчиком» для цифровых форм жизни Статьи редакции
Глава компании Tesla Motors Элон Маск сравнил искусственный интеллект по степени опасности с ядерной бомбой и назвал человечество «биологическим загрузчиком» для цифровых форм жизни. Об этом он написал в своём официальном твиттере.
3 августа глава Tesla Motors посоветовал подписчикам своего микроблога почитать книгу «Суперинтеллект» (Superintelligence) профессора факультета философии Оксфордского университета Ника Бострома (Nick Bostrom), которая поступит в продажу только 3 сентября, а также «Наше последнее изобретение» (Our Final Invention) документалиста Джеймса Бэррата (James Barrat).
Оба произведения продолжают тему опасности искусственного интеллекта, которую Маск в последнее время активно выносит на публичное обсуждение: их авторы рассуждают о том, что будет, когда машина превзойдёт человека интеллектом и попытается взять власть в свои руки.
\ \В своём твите Маск сравнил эту технологию с ядерным оружием по степени опасности.
Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.
— Elon Musk (@elonmusk) August 3, 2014
Более того, Маск пошёл дальше и назвал человечество «биологическим загрузчиком» для цифровой формы жизни, которая может прийти ему на смену.
Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable
— Elon Musk (@elonmusk) August 3, 2014
За последнее время это далеко не первый случай, когда глава Tesla Motors предостерегает мир об опасностях, которые таит в себе искусственный интеллект. В конце июня в интервью каналу CNBC он рассказал, что вкладывал средства в компании вроде DeepMind и Vicarious, чтобы держать руку на пульсе этой индустрии и в случае чего повлиять на её развитие.
Аналогичные страхи есть и у знаменитого физика Стивена Хокинга: в середине июня он в шуточном интервью с комедиантом Джоном Оливером предрёк победу роботов на людьми.
#Элон_Маск #Tesla_Motors #Стивен_Хокинг #CNBC #Суперинтеллект #Ник_Бостром #Джеймс_Бэррат #Наше_последнее_изобретение
Капитальный жар
Если посмотреть последние достижения, то я бы даже сказал, что он поздно спохватился.
Капитальный жар
В прошлом году, впервые симулировали 1% человеческого мозга, вышло что-то около 1 секунды за 40 минут работы кластера, но по прогнозам мы сможем обрабатывать такие симуляции на 100 процентов в реальном времени через 10 лет. К 2016 году должен стартовать Human Brain Project. Уверен, многие толковые проекты уже работают на военных. В принципе еще 10-15 лет и у человечества будет мощный соперник в лице ИИ.
"Вдруг по улице с криком побежал человек. За ним гнался паукообразный механизм. Судя по крикам преследуемого, это был «самопрограммирующийся кибернетический робот на тригенных куаторах с обратной связью, которые разладились и… Ой-ой, он меня сейчас расчленит!..» Странно, никто даже бровью не повёл. Видимо, никто не верил в бунт машин."
А.Б.С. "Понедельник начинается в субботу"
Дешевый Денис
Есть такое слово — «амбиции». Людьми движет стремление что-то доказать, чего-то добиться, стать кем-то, накопить денег, например. Смысл жизни человечества — хотя бы осознать, как мир был создан, и что вообще происходит. Не уверен, что в случае бессмертия людей есть смысл для конкретного индивида. Как и после разгадки всех секретов/захвата всех планет и галактик есть смысл для жизни человечества. Но вот это достижимо ещё нескоро)
Жуткий чайник
А как, что бы не мелко? (без сарказма, правда интересно:)
Какова ваша версия?
Дальний корабль
"Смысл жизни человечества — хотя бы осознать, как мир был создан..Как и после разгадки всех секретов/захвата всех планет и галактик есть смысл для жизни человечества." - большинству людей на это насрать, какие галактики планеты, о чем речь вообще. Нет никакого смысла, есть лишь потребности.
Дешевый Денис
Да, это верно: большинству нужны только сиюминутные увлечения и всё такое (большинство хотело бы погрузиться в гедонизм, да деньги надо брать откуда-то), а цель жизни — купить квартиру, машину да детей завести, но они таким образом участвуют в экономике и жизни общества, что позволяет тем, кому надо, изучать галактики/бозоны/сверчков. Мы же говорим о смысле жизни человечества, а не отдельных индивидов. Грубо говоря, 95% (а то и все 99%) — это неявно, но обслуга для 5% (1%). Если бы этого маленького процента не было, мы бы до сих пор жили бы в средневековье, и нам бы было вполне норм.
Распространенный меч
Смысл жизни AI - самовоспроизводство и накопление информации. У генов человека идентичная цель. "Захватывать новые планеты? Зачем? Искать ресурсы? Зачем? Зачем ему развиваться?" - ради преодоления энтропии, т.е неопределённости.
Есть знаменитый документальный фильм - "All Watched Over by Machines of Loving Grace", в нём всё очень хорошо про это рассказано.
Общественный украинец
Накопление информации — это следствие стремления к самовоспроизводству и выживанию. Информация помогает человеку быть первым, или выжить в конкурентной борьбе (в каменном веке знание где ходят мамонты помогало добыть пропитание, сейчас знание технологий помогает нормально устроится и неплохо зарабатывать на жизнь).
Но в общем это изначально заложенная программа "выжить и продолжить род", именно она дает мотивацию для поступков. А вот что будет давать мотивацию для искусственного интеллекта — неясно. Размножаться, в привычном смысле, ему не нужно, да и все эти инстинкты в живых существах сформированы за миллионы лет развития, представить нечто подобное для компьютеров довольно сложно.
Дешевый Денис
Человек может осознать свои амбиции типа «мы хотим всё знать об этом мире», но зачем роботу это знать? Зачем ему вообще «знать»? Вот в чём вопрос) Тем более, что без заданной программы AI ещё надо будет дойти до мысли «кто создал мир».
Имхо, человек просто переместит сознание в негниющую оболочку. Но вообще это похоже на бессмысленный замкнутый круг)
Фантастический
Если говорить в терминологии Mass Effect'a (если не играли, прошу прощения), мы же говорим о настоящем ИИ (искусственном интеллекте), а не ВИ (виртуальном интеллекте). Первое отличает от второго, по сути, одна деталь - самоосознание. То есть, второй вид интеллекта - это все то, что мы имеем сейчас и будем иметь в будущем: машины, служащие для выполнения сложнейших задач, но запрограммированные человека и не осознающие своё существование (представьте многократно усовершенствованную Siri, которая анализирует ваше дыхание или какие-то еще показатели и понимает, в каком вы настроении, и в соответствии с этим предпринимает определенные действия - тем не менее, это все равно будет всего лишь ВИ, насколько бы широки не были пределы допустимых действий и сколько бы инициативы в них не было).
Настоящий же ИИ наделен осознанием того, что он существует, то есть, в определенной степени независим от своего творца. То есть, создатель в конкретный момент времени не может, посмотрев на разработанные и внедренные в ИИ алгоритмы, с полной уверенностью сказать, каким будет следующее действие ИИ - потому что ИИ самостоятельно развивается, анализирует свой опыт и предпринимает действия, основываясь на нем.
Какой бы "всего лишь игрой" не был Mass Effect, но вопрос ИИ, кстати, в нем разобран очень интересно и качественно, порой не хуже, чем у Азимова.
Фантастический
Я это все к тому, что раз подлинный ИИ обладает самоосознанием, то я не вижу никаких препятствий, чтобы ИИ нашел для себя "смысл существования", как и подобает любой разумной форме жизни.
Теоретический колос
Вполне возможно, что с величиной интеллекта растёт и гуманизм.
Британский татарин
Tesla ведь так нуждается в рекламе! Столько конкурентов! Посредственные технологии! Лада и ланос уже на пятки наступают!
Ленинградский шар
Действительно, почему Coca-Cola себя так усердно рекламирует, её же все знают?
Британский
потому, что это просто газировка, которая по составу мало чем отличается от тысяч конкурентов но стоит на порядок дороже, нет?
Строительный звук
Вы не можете в юмор.
А ещё ошибочно считаете, что реклама - это лишь защита от конкурентов.
Поверхностный каякер
Ах, что же я не родился на лет 20-30 а лучше сто позже. Вот это было бы круто
Равный бас
Родиться в 50ые в США. В молодости будет наверное лучшее время из всего 20го века, а потом и спокойная размеренная жизнь даже если решишь не завязывать с лсд и до старости будешь продавать каких-нибудь ракушек в маленькой лавочке на берегу небольшого теплого города, который живет за счет туристов.
Жаркий жар
Перед глазами пример старины Стивена с его полуавтобиографическими "Сердцами в Атлантиде", в свое "лучшее время" люто депрессовал, потом чуть не спился, но к старости, видимо, вспоминает с ностальгией. И да - хорошо, если при этих раскладах не воевал во Вьетнаме.
Рабочий инструмент
А что хорошего в послевоенных штатах? До ужаса клерикализированное общество с сильным уклоном в традиоцинализм и ярый патриотизм (то что Госдура пытается у нас сделать), спецслужбы, преследующие коммунистов и японцев, слабые социальные лифты (если родился в семье, которой не по карману дать тебе хорошее образование, то путь к хорошей работе тебе закрыт).
В далёком 2000-м били тревогу по поводу глобального потепления и никто нихрена не сделал - сегодня чёрти-что творится с погодой.
Кто знает, может и сейчас мы рассуждаем так же философски, и так же никто нихрена не сделает, а лет так через 10 неожиданно наступит технологическая сингулярность и трындец нам всем.
А вы шутите, философствуйте и клацайте "палец вверх"
Мутный Орзэмэс
А вы шутите, философствуйте и клацайте "палец вверх"
вы
Робот в комментариях.
Как вариант, человек останется себе параллельно. Как например, превосходство людей пока не истребило домашних кошек.(а это значит, надо быть няшками, чтобы вас роботы не кокнули!). А ещё будет круто, когда телепатия будет реализована техническими средствами. Т.е. два мозга смогут общатся, считай, напрямую. Также возможно появление формы жизни, когда сначала будет просто только мозги жить, без тела. Потом они объединятся в колонии, потом, возможно появление нового вида организма. Ну это если роботы, всё таки, не прикончат людишек )))