Элон Маск назвал человечество «биологическим загрузчиком» для цифровых форм жизни Статьи редакции
Глава компании Tesla Motors Элон Маск сравнил искусственный интеллект по степени опасности с ядерной бомбой и назвал человечество «биологическим загрузчиком» для цифровых форм жизни. Об этом он написал в своём официальном твиттере.
3 августа глава Tesla Motors посоветовал подписчикам своего микроблога почитать книгу «Суперинтеллект» (Superintelligence) профессора факультета философии Оксфордского университета Ника Бострома (Nick Bostrom), которая поступит в продажу только 3 сентября, а также «Наше последнее изобретение» (Our Final Invention) документалиста Джеймса Бэррата (James Barrat).
Оба произведения продолжают тему опасности искусственного интеллекта, которую Маск в последнее время активно выносит на публичное обсуждение: их авторы рассуждают о том, что будет, когда машина превзойдёт человека интеллектом и попытается взять власть в свои руки.
\ \В своём твите Маск сравнил эту технологию с ядерным оружием по степени опасности.
Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.
— Elon Musk (@elonmusk) August 3, 2014
Более того, Маск пошёл дальше и назвал человечество «биологическим загрузчиком» для цифровой формы жизни, которая может прийти ему на смену.
Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable
— Elon Musk (@elonmusk) August 3, 2014
За последнее время это далеко не первый случай, когда глава Tesla Motors предостерегает мир об опасностях, которые таит в себе искусственный интеллект. В конце июня в интервью каналу CNBC он рассказал, что вкладывал средства в компании вроде DeepMind и Vicarious, чтобы держать руку на пульсе этой индустрии и в случае чего повлиять на её развитие.
Аналогичные страхи есть и у знаменитого физика Стивена Хокинга: в середине июня он в шуточном интервью с комедиантом Джоном Оливером предрёк победу роботов на людьми.
#Элон_Маск #Tesla_Motors #Стивен_Хокинг #CNBC #Суперинтеллект #Ник_Бостром #Джеймс_Бэррат #Наше_последнее_изобретение
В прошлом году, впервые симулировали 1% человеческого мозга, вышло что-то около 1 секунды за 40 минут работы кластера, но по прогнозам мы сможем обрабатывать такие симуляции на 100 процентов в реальном времени через 10 лет. К 2016 году должен стартовать Human Brain Project. Уверен, многие толковые проекты уже работают на военных. В принципе еще 10-15 лет и у человечества будет мощный соперник в лице ИИ.
"Вдруг по улице с криком побежал человек. За ним гнался паукообразный механизм. Судя по крикам преследуемого, это был «самопрограммирующийся кибернетический робот на тригенных куаторах с обратной связью, которые разладились и… Ой-ой, он меня сейчас расчленит!..» Странно, никто даже бровью не повёл. Видимо, никто не верил в бунт машин."
А.Б.С. "Понедельник начинается в субботу"
"Смысл жизни человечества — хотя бы осознать, как мир был создан..Как и после разгадки всех секретов/захвата всех планет и галактик есть смысл для жизни человечества." - большинству людей на это насрать, какие галактики планеты, о чем речь вообще. Нет никакого смысла, есть лишь потребности.
Смысл жизни AI - самовоспроизводство и накопление информации. У генов человека идентичная цель. "Захватывать новые планеты? Зачем? Искать ресурсы? Зачем? Зачем ему развиваться?" - ради преодоления энтропии, т.е неопределённости.
Есть знаменитый документальный фильм - "All Watched Over by Machines of Loving Grace", в нём всё очень хорошо про это рассказано.
Накопление информации — это следствие стремления к самовоспроизводству и выживанию. Информация помогает человеку быть первым, или выжить в конкурентной борьбе (в каменном веке знание где ходят мамонты помогало добыть пропитание, сейчас знание технологий помогает нормально устроится и неплохо зарабатывать на жизнь).
Но в общем это изначально заложенная программа "выжить и продолжить род", именно она дает мотивацию для поступков. А вот что будет давать мотивацию для искусственного интеллекта — неясно. Размножаться, в привычном смысле, ему не нужно, да и все эти инстинкты в живых существах сформированы за миллионы лет развития, представить нечто подобное для компьютеров довольно сложно.
Если говорить в терминологии Mass Effect'a (если не играли, прошу прощения), мы же говорим о настоящем ИИ (искусственном интеллекте), а не ВИ (виртуальном интеллекте). Первое отличает от второго, по сути, одна деталь - самоосознание. То есть, второй вид интеллекта - это все то, что мы имеем сейчас и будем иметь в будущем: машины, служащие для выполнения сложнейших задач, но запрограммированные человека и не осознающие своё существование (представьте многократно усовершенствованную Siri, которая анализирует ваше дыхание или какие-то еще показатели и понимает, в каком вы настроении, и в соответствии с этим предпринимает определенные действия - тем не менее, это все равно будет всего лишь ВИ, насколько бы широки не были пределы допустимых действий и сколько бы инициативы в них не было).
Настоящий же ИИ наделен осознанием того, что он существует, то есть, в определенной степени независим от своего творца. То есть, создатель в конкретный момент времени не может, посмотрев на разработанные и внедренные в ИИ алгоритмы, с полной уверенностью сказать, каким будет следующее действие ИИ - потому что ИИ самостоятельно развивается, анализирует свой опыт и предпринимает действия, основываясь на нем.
Какой бы "всего лишь игрой" не был Mass Effect, но вопрос ИИ, кстати, в нем разобран очень интересно и качественно, порой не хуже, чем у Азимова.
Родиться в 50ые в США. В молодости будет наверное лучшее время из всего 20го века, а потом и спокойная размеренная жизнь даже если решишь не завязывать с лсд и до старости будешь продавать каких-нибудь ракушек в маленькой лавочке на берегу небольшого теплого города, который живет за счет туристов.
А что хорошего в послевоенных штатах? До ужаса клерикализированное общество с сильным уклоном в традиоцинализм и ярый патриотизм (то что Госдура пытается у нас сделать), спецслужбы, преследующие коммунистов и японцев, слабые социальные лифты (если родился в семье, которой не по карману дать тебе хорошее образование, то путь к хорошей работе тебе закрыт).
В далёком 2000-м били тревогу по поводу глобального потепления и никто нихрена не сделал - сегодня чёрти-что творится с погодой.
Кто знает, может и сейчас мы рассуждаем так же философски, и так же никто нихрена не сделает, а лет так через 10 неожиданно наступит технологическая сингулярность и трындец нам всем.
А вы шутите, философствуйте и клацайте "палец вверх"
Как вариант, человек останется себе параллельно. Как например, превосходство людей пока не истребило домашних кошек.(а это значит, надо быть няшками, чтобы вас роботы не кокнули!). А ещё будет круто, когда телепатия будет реализована техническими средствами. Т.е. два мозга смогут общатся, считай, напрямую. Также возможно появление формы жизни, когда сначала будет просто только мозги жить, без тела. Потом они объединятся в колонии, потом, возможно появление нового вида организма. Ну это если роботы, всё таки, не прикончат людишек )))