Скайнет и пропаганда: глава лаборатории машинного интеллекта «Яндекса» развеивает страхи про ИИ и нейросети Материал редакции

Почему «Судный день» вряд ли случится скоро, а люди не потеряют работу.

В закладки
Аудио
«Терминатор 3: Восстание машин» Paramount Pictures

31 октября празднуют Хэллоуин, а в России выходит «Терминатор: Тёмные судьбы». В канун Дня всех святых принято пугать людей, а ключевая тема франшизы — ИИ, вышедший из-под контроля и поработивший человечество.

Редакция TJ составила список «страшилок» о нейросетях и искусственном интеллекте, а руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов рассказал, насколько они соответствуют реальности.

ИИ отдадут часть управления оружием и он использует его против людей

Я не специалист в вооружении, но сильно удивлюсь, если технологии ИИ не работают там давно. Это могут быть вспомогательные системы вроде компьютерного зрения или идентификации объектов. В будущем могут появиться беспилотные танки.

При этом на Земле и так много ядерного оружия и нет полной уверенности в адекватности людей, принимающих решения. Поэтому ИИ в армии кажется не самой большой опасностью.

Вооружение на основе технологий ИИ на самом деле существует уже сейчас. В России такие разработки показывали концерны «Калашников», «Высокоточные комплексы» и «Техмаш». Их опытные образцы могут самостоятельно уничтожать цели, но итоговое решение пока всё равно принимает оператор-человек.

Разные страны, включая США и Россию постепенно внедряют искусственный интеллект в оборонные системы. Разрабатывающие их специалисты специально выстраивают ограничения, которые позволят избежать угрозы для человека, хотя с этической точки зрения это сложная задача.

ИИ станет инструментом пропаганды политических сил. Нейросети начнут создавать контент для влияния на людей

Могут. И наверняка генерируют. Происходит одновременное развитие и алгоритмов, которые генерируют и алгоритмов, которые распознают сгенерированное. Я не знаю, что происходит на поле пропаганды, но вот в задачах SEO ИИ уже давно создаёт контент. И в отзывах у нас такая же история. И в политике, наверное.

Но в любом случае, на мнение людей влияют люди. Нейросети, как и другие инструменты, — это просто средство.

Вашингтонский университет и Институт искусственного интеллекта Аллена создали нейросеть для написания фейковых новостей, чтобы бороться с фейковыми новостями. По мнению авторов проекта, лучший детектор ложной информации можно получить только благодаря генератору фейков.

Решением проблемы фейковых новостей может стать создание независимой организации, которая будет следить за информацией и отсеивать пропаганду и фальшивки. Пример подобной борьбы уже существует — «Глобальный интернет-форум по борьбе с терроризмом» борется против пропаганды, распространяемой террористами.

В будущем мы не сможем отличить человека от ИИ во время разговора и роботы смогут внушить определённую точку зрения

Между задачей для бота — например, вызвать такси и задачей внушить что-либо лежит пропасть. Хотя, возможно, дойдёт и до манипуляций роботами. Но мне кажется, что если тобой может манипулировать робот, то это серьёзный повод задуматься о своём развитии.

В штате Миннесота небольшой колонией мух руководит нейросеть. Система даёт им питание, определяя их потребности по поведению, а жизнь насекомых зависит от способности электронного мозга распознать муху. Например, если нейросеть ошибётся, то муха останется голодной и может умереть.

В ходе эксперимента ИИ учится классифицировать поведение насекомых и выявлять алгоритм, чтобы предсказывать их действия. Пока нейросеть иногда ошибается и мухам приходится страдать от голода и жажды, а ИИ действует по правилам, заложенным инженерам. Но люди не насекомые, поэтому опасаться манипуляций от ИИ не стоит. Тем более, до нужного уровня самостоятельности нейросетям пока ещё далеко.

С помощью ИИ можно будет создавать цифровые копии людей, чтобы общаться с ними после смерти как в «Чёрном зеркале»

Такое в обозримом будущем не очень реально. Стилизация — задача решаемая, но тут ведь не просто стилизация нужна, а мысли, жизнь, поведение. На это ИИ не способен. То есть создать «дубликат» всё же можно, но он не будет полноценной копией человека.

Как минимум три стартапа работают над технологиями сохранения личности человека в цифровой форме. После смерти Романа Мазуренко основатель стартапа Replika Евгения Куйда попросила друзей и близких погибшего загрузить сообщения в нейросеть и создала чат-бота, который напоминал Романа.

Компания Eter9 разрабатывает социальную сеть на базе технологий искусственного интеллекта, которая постоянно обучается у пользователя и со временем создаёт его виртуальный дубликат. Предполагается, что копия сможет жить и после смерти пользователя.

Аналогичную цель преследует стартап Eterni.me. Однако он собирает уже опубликованные записи человека в соцсетях и создаёт имитацию личности в приложении. При этом ни одной из компаний не удалось создать полноценную копию живого человека, ведь мозг пока повторить невозможно — ИИ слишком рационален.

С помощью нейросетей и биохимии можно будет накачать «мозгом» что угодно, как в эпизоде про йогурт в Love, Death & Robots

Вот это как раз правда. Мы проводим эксперимент с йогуртом, который уже второй год стоит в тепле. Пару месяцев назад он изобрёл колесо, а сейчас уже пытается заигрывать с Алисой. Может, они и договорятся. До угрозы захвата власти ещё далеко, но мы продолжаем наблюдения.

Мозг — одна из самых сложных известных людям структур во вселенной и пока учёным не удавалось полноценно воспроизвести его в лаборатории. В 2019 году исследователи из Великобритании после многих лет вырастили один из самых сложных миниатюрных мозгов и он даже начал присоединять себя к соседним тканям, однако ему далеко до полноценного интеллекта.

Кроме того, встроить нейросеть в органические материалы в данный момент невозможно. Нейросети в компьютерах — примитивные модели, принимающей решения и внедрить их в биологические тела не получится. Можно попытаться создать нейронные связи и запустить на них эту систему, но эти связи должны быть из определённых тканей и с определённой структурой. Поэтому взять тот же йогурт и пустить по нему ток, чтобы «оживить» — не получится.

Беспилотные машины будут защищать человека внутри ценой человека снаружи. А самоуправление машины можно будет взломать

ИИ в беспилотниках не занимается вопросами защиты чьей-либо жизни. Он просто старается минимизировать вероятность аварии, столкновения. Задача, которую решают создатели беспилотников — в разы или даже на порядки снизить количество ДТП. Как по мне, так это очень этично.

Я не знаю, как взломать беспилотник. Это очень сложная система. И как и с любой сложной системой, его проще не взломать, а сломать.

Некоторые автомобили уже давно управляются с помощью сенсоров, а не механики. Например, в Сhevrolet Volt руль и колёса не связаны напрямую — всё управляется компьютером. И так как у машины есть удалённый контроль, её можно взломать.

В 2014 году хакеры Чарли Миллер и Крис Валашек смогли только с помощью своих ноутбуков по беспроводной связи соединиться с ехавшим автомобилем и отключить у него тормоза. Такая опасность существует, поэтому безопасность должна быть приоритетом — компьютеры в автомобилях уже давно, просто сейчас становятся умнее и теперь управляют тормозом, газом и направлением движения.

ИИ уже предсказывает увольнения, а в будущем начнёт проводить роботизированные собеседования или подбирать собутыльников на корпоратив

Поведение человека перед увольнением довольно характерно, так что нет ничего удивительного в том, что это получается предсказывать.

А чем плохи роботизированные собеседования? Можно считать, что это просто тест, который помогает и кандидату, и собеседующему экономить время и нервы. Да и в целом, если в полной мере заработают системы, которые помогут каждому найти такую работу, где он будет максимально эффективен и где ему будет интересно — я только за.

А что касается подбора собутыльников и не только… Вот назовите мне хоть одну причину, по которой дейтинговые ресурсы не должны применять машинное обучение? Так что автоматический подбор уже происходит.

В 2018 году консальтинговая компания Deloitte включила роботизацию и ИИ в список главных трендов на рынке управления персоналом. По данным аналитиков, 93% времени рекрутёров уходит на типовые задачи, а 65% поддаются автоматизации.

При этом если примеры использования ИИ в отборе кандидатов широко известны, то об адаптации или увольнении сотрудников такого сказать пока нельзя. Вряд ли в ближайшее время управление персоналом можно будет автоматизировать полностью, но доля ИИ в этой сфере будет расти.

ИИ лишит работы миллионы людей — водителей, консультантов, журналистов, уборщиков и не только

Думаю, что всё будет развиваться не быстро, и те, кто работает по этим специальностям, так и доработают. Но спрос будет мигрировать в другие области, и молодёжь просто будет выбирать другие профессии.

Технологии искусственного интеллекта лучше всего справляются с рутинными задачами, но не превосходят человека в эмпатии, суждениях, отношениях и жизненном опыте. Многие путают искусственный интеллект с искусственным сознанием, но на самом деле ИИ хорош в решении проблем, но не способен сопереживать.

Поэтому нейросети вряд ли сможет полностью лишить нас работы. Скорее, наоборот, он создаст больше карьерных возможностей: чем больше машин и устройств с ИИ будет появляться, тем больше понадобится людей, которые будут им помогать.

Боту для текстов всегда будет нужен редактор или более опытный автор, а ИИ, отвечающему за подбор кадров — консультант, который будет ему в этом помогать. Но даже если искусственному интеллекту передадут ряд обязанностей, работодателям придётся выявить у сотрудников навыки, которые помогут им работать в условиях автоматизации.

Из-за развития рынка ИИ появится неравенство: богатые смогут использовать больше возможностей технологии, а бедным оставят скудные базовые функции

Ну нет. ИИ как раз хорош своей масштабируемостью. А значит, и отсутствием эксклюзива. То есть чем больше в чём-либо ИИ и меньше человека, тем доступнее это будет. Например, когда все такси станут беспилотными, они станут намного более доступными. А такси с водителем-человеком будет дорогой экзотической услугой.

Доступность технологий для населения конкретной страны обычно зависит от уровня ее экономического развития. Например, в 2018 году интернетом пользовались 3,9 миллиарда человек или 51,2% населения планеты. То есть, доступность сети с каждым годом растёт, а развитые страны находятся в лидерах списка.

При этом в развитых странах мира доля жителей, пользующихся интернетом, выросла до 80,9% (в 2005 году было 51,3%), в развивающихся — до 45,3% (было 7,7%). В странах СНГ средний уровень проникновения интернета достиг отметки 71,3%.

Сейчас интернет — часть повседневной жизни, а технологии искусственного интеллекта и нейросети активно используются в приложениях вроде FaceApp. ИИ станет таким же доступным как и интернет — это лишь вопрос времени.

{ "author_name": "Дамир Камалетдинов", "author_type": "editor", "tags": ["\u044f\u043d\u0434\u0435\u043a\u0441","\u0445\u044d\u043b\u043b\u043e\u0443\u0438\u043d","\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438","\u043c\u043d\u0435\u043d\u0438\u044f","\u0438\u043d\u0442\u0435\u0440\u0432\u044c\u044e","\u0438\u0438"], "comments": 26, "likes": 20, "favorites": 35, "is_advertisement": false, "subsite_label": "analysis", "id": 123761, "is_wide": false, "is_ugc": false, "date": "Thu, 31 Oct 2019 20:52:52 +0300", "is_special": false }
0
{ "id": 123761, "author_id": 50011, "diff_limit": 1000, "urls": {"diff":"\/comments\/123761\/get","add":"\/comments\/123761\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/123761"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 245417, "last_count_and_date": null }
26 комментариев
Популярные
По порядку
Написать комментарий...
–4

Яндекс

Увидел Яндекс - поставил минус.

Ответить
8

Увидел носителя 47 хромосом - отписал ему под комментом.  

Ответить
1

Постоянство — признак мастерства

Ответить
0

хейтитт яндекс тут модно, но эксперт вполне годный, мне было интересно читать

Ответить
2

Как-то не сильно впечатляют ответы. Этот эксперт из Яндекса напоминает наивного деревенского простачка 

Ответить
1

деревенский дурачок тут ты, мне, например, интересно было читать: комментарии по делу и с юмором.

Ответить
0

Мне удалось заставить дребезжать в тебе какую-то личную струну? Только не говори, что он - твой любовник - и ты обиделась из-за того, что я неуважительно о нём высказался.

Ответить
2

Половина из этого нахер не надо

Ответить
2

Беспилотные машины будут защищать человека внутри ценой человека снаружи. А самоуправление машины можно будет взломать

Как будто что-то плохое. Приоритет жизни пассажира звучит намного логичнее. Я бы не хотел чтобы машина со мной внутри сворачивала в дерево если на дорогу выбежал ребенок. 

Ответить
0

Лихачёв вот сотрудничал с Яндексом и работу потерял

Ответить
2

Но спрос будет мигрировать в другие области, и молодёжь просто будет выбирать другие профессии.

Все пойдут в IT, ага

Ответить
1

Я не знаю, как взломать беспилотник. Это очень сложная система.

Дальше можно не читать

Ответить
0

Ну давай мамкин хакер, расскажи, как элементарно просто взломать беспелотник

Ответить
0

Микроскопом расфигачить!

Ну а если серьёзно - они же разные бывают.
Есть копеечные, а есть мавики за штуку баксов.

Сам не взламывал, но читал достаточно таких новостей.

https://habr.com/ru/post/398603/

Ответить
0

Сразу видно, чел шарит, сам конечно ничего не взламывал, но статьи на Хабре читал зато

Ответить
1

Я такой, я да!

Ответить
0

не удалось создать полноценную копию живого человека, ведь мозг пока повторить невозможно — ИИ слишком рационален

Про рациональность - бред какой-то.
Искусственного интеллекта до сих пор не существует, потому что
а) мы ещё недостаточно хорошо понимаем устройство мозга и саму природу личности и сознания
б) вычислительной мощности современных компьютеров не хватает для такой задачи, и может никогда и не хватить

Никто не знает, осуществима ли эта задача в принципе, и если да - когда это будет возможно и каким будет созданный ИИ. Возможно, человеческий мозг в принципе будет неспособен постичь принципы его мышления

Ответить
–2

Ну, Александру Ашкинадзе, конечно, куда виднее что и как. Ноунейм хуйло, блять.

Ответить
0

Разъебал так разъебал. Как же оправиться после такого...

Ответить
0

Но я бы хотел увидеть это своими глазами, конечно

Ответить
0

А создание копии реальной личности - задача, вероятно, ещё более сложная

Ответить
0

Хорошая попытка Скайнет! )

Ответить
0

Джона убили. Какая разница теперь что будет со скайнет и пр и тд

Ответить
0

"что всё будет развиваться не быстро, и те, кто работает по этим специальностям, так и доработают. Но спрос будет мигрировать в другие области, и молодёжь просто будет выбирать другие профессии."
Или прогресс пойдет так быстро что не успеем придумать как переучить миллионы людей с водил, белых воротничков   на программистов,и другие новые профессии.Много народу оставят за бортом.

" А такси с водителем-человеком будет дорогой экзотической услугой." Как никому ненужные лифтеры.

Ответить
Обсуждаемое
Технологии
Пользователь «Хабра» рассказал, как взломал Wi-Fi в «Сапсане» и получил доступ к данным пассажиров. В РЖД всё отрицают
Он успел сделать это за одну поездку от скуки из-за отсутствия интернета.
Интернет и мемы
В серии «Южного парка» на «Кинопоиске HD» замазали обозначение марихуаны. Но в кадре осталось целое поле с ней
Цензуре подверглась и песня про «порядочную траву» из заставки.
Истории
Большая статья про сон: из чего он состоит и зачем нужен
А ещё личный опыт путешествий прямо в сны, чтобы посмотреть их изнутри.
Популярное за три дня
Кино и сериалы
Николас Кейдж сыграет Николаса Кейджа в мета-фильме про Николаса Кейджа
Если этого недостаточно, то в фильме будет сразу два Николаса Кейджа — современный и его версия из 1990-х.
Новости
В Сиэтле арестовали капитана полиции — он пытался заплатить проститутке, но та оказалась его коллегой под прикрытием
Они даже работали в одном департаменте.
Новости
«Я легко могу сделать из вас гея»: мэр Ташкента угрожает журналистам расправой
В сети появилась аудиозапись, где мэр Ташкента Джахонгир Артыкходжаев угрожает журналистам расправой в случае отказа в сотрудничестве.

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "i", "ps": "cndo", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovy", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "ezfk" } } }, { "id": 6, "disable": true, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "clmf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byswn", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "cndo", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223677-0", "render_to": "inpage_VI-223677-0-130073047", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=cndo&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudv", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "ccydt", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "cndo", "p2": "fzvc" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "chfbk", "p2": "gnwc" } } } ]