Скайнет и пропаганда: глава лаборатории машинного интеллекта «Яндекса» развеивает страхи про ИИ и нейросети
Почему «Судный день» вряд ли случится скоро, а люди не потеряют работу.
«Терминатор 3: Восстание машин» Paramount Pictures
31 октября празднуют Хэллоуин, а в России выходит «Терминатор: Тёмные судьбы». В канун Дня всех святых принято пугать людей, а ключевая тема франшизы — ИИ, вышедший из-под контроля и поработивший человечество.
Редакция TJ составила список «страшилок» о нейросетях и искусственном интеллекте, а руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов рассказал, насколько они соответствуют реальности.
ИИ отдадут часть управления оружием и он использует его против людей
Я не специалист в вооружении, но сильно удивлюсь, если технологии ИИ не работают там давно. Это могут быть вспомогательные системы вроде компьютерного зрения или идентификации объектов. В будущем могут появиться беспилотные танки.
При этом на Земле и так много ядерного оружия и нет полной уверенности в адекватности людей, принимающих решения. Поэтому ИИ в армии кажется не самой большой опасностью.
Вооружение на основе технологий ИИ на самом деле существует уже сейчас. В России такие разработки показывали концерны «Калашников», «Высокоточные комплексы» и «Техмаш». Их опытные образцы могут самостоятельно уничтожать цели, но итоговое решение пока всё равно принимает оператор-человек.
Разные страны, включая США и Россию постепенно внедряют искусственный интеллект в оборонные системы. Разрабатывающие их специалисты специально выстраивают ограничения, которые позволят избежать угрозы для человека, хотя с этической точки зрения это сложная задача.
ИИ станет инструментом пропаганды политических сил. Нейросети начнут создавать контент для влияния на людей
Могут. И наверняка генерируют. Происходит одновременное развитие и алгоритмов, которые генерируют и алгоритмов, которые распознают сгенерированное. Я не знаю, что происходит на поле пропаганды, но вот в задачах SEO ИИ уже давно создаёт контент. И в отзывах у нас такая же история. И в политике, наверное.
Но в любом случае, на мнение людей влияют люди. Нейросети, как и другие инструменты, — это просто средство.
Вашингтонский университет и Институт искусственного интеллекта Аллена создали нейросеть для написания фейковых новостей, чтобы бороться с фейковыми новостями. По мнению авторов проекта, лучший детектор ложной информации можно получить только благодаря генератору фейков.
Решением проблемы фейковых новостей может стать создание независимой организации, которая будет следить за информацией и отсеивать пропаганду и фальшивки. Пример подобной борьбы уже существует — «Глобальный интернет-форум по борьбе с терроризмом» борется против пропаганды, распространяемой террористами.
В будущем мы не сможем отличить человека от ИИ во время разговора и роботы смогут внушить определённую точку зрения
Между задачей для бота — например, вызвать такси и задачей внушить что-либо лежит пропасть. Хотя, возможно, дойдёт и до манипуляций роботами. Но мне кажется, что если тобой может манипулировать робот, то это серьёзный повод задуматься о своём развитии.
В штате Миннесота небольшой колонией мух руководит нейросеть. Система даёт им питание, определяя их потребности по поведению, а жизнь насекомых зависит от способности электронного мозга распознать муху. Например, если нейросеть ошибётся, то муха останется голодной и может умереть.
В ходе эксперимента ИИ учится классифицировать поведение насекомых и выявлять алгоритм, чтобы предсказывать их действия. Пока нейросеть иногда ошибается и мухам приходится страдать от голода и жажды, а ИИ действует по правилам, заложенным инженерам. Но люди не насекомые, поэтому опасаться манипуляций от ИИ не стоит. Тем более, до нужного уровня самостоятельности нейросетям пока ещё далеко.
С помощью ИИ можно будет создавать цифровые копии людей, чтобы общаться с ними после смерти как в «Чёрном зеркале»
Такое в обозримом будущем не очень реально. Стилизация — задача решаемая, но тут ведь не просто стилизация нужна, а мысли, жизнь, поведение. На это ИИ не способен. То есть создать «дубликат» всё же можно, но он не будет полноценной копией человека.
Как минимум три стартапа работают над технологиями сохранения личности человека в цифровой форме. После смерти Романа Мазуренко основатель стартапа Replika Евгения Куйда попросила друзей и близких погибшего загрузить сообщения в нейросеть и создала чат-бота, который напоминал Романа.
Компания Eter9 разрабатывает социальную сеть на базе технологий искусственного интеллекта, которая постоянно обучается у пользователя и со временем создаёт его виртуальный дубликат. Предполагается, что копия сможет жить и после смерти пользователя.
Аналогичную цель преследует стартап Eterni.me. Однако он собирает уже опубликованные записи человека в соцсетях и создаёт имитацию личности в приложении. При этом ни одной из компаний не удалось создать полноценную копию живого человека, ведь мозг пока повторить невозможно — ИИ слишком рационален.
С помощью нейросетей и биохимии можно будет накачать «мозгом» что угодно, как в эпизоде про йогурт в Love, Death & Robots
Вот это как раз правда. Мы проводим эксперимент с йогуртом, который уже второй год стоит в тепле. Пару месяцев назад он изобрёл колесо, а сейчас уже пытается заигрывать с Алисой. Может, они и договорятся. До угрозы захвата власти ещё далеко, но мы продолжаем наблюдения.
Мозг — одна из самых сложных известных людям структур во вселенной и пока учёным не удавалось полноценно воспроизвести его в лаборатории. В 2019 году исследователи из Великобритании после многих лет вырастили один из самых сложных миниатюрных мозгов и он даже начал присоединять себя к соседним тканям, однако ему далеко до полноценного интеллекта.
Кроме того, встроить нейросеть в органические материалы в данный момент невозможно. Нейросети в компьютерах — примитивные модели, принимающей решения и внедрить их в биологические тела не получится. Можно попытаться создать нейронные связи и запустить на них эту систему, но эти связи должны быть из определённых тканей и с определённой структурой. Поэтому взять тот же йогурт и пустить по нему ток, чтобы «оживить» — не получится.
Беспилотные машины будут защищать человека внутри ценой человека снаружи. А самоуправление машины можно будет взломать
ИИ в беспилотниках не занимается вопросами защиты чьей-либо жизни. Он просто старается минимизировать вероятность аварии, столкновения. Задача, которую решают создатели беспилотников — в разы или даже на порядки снизить количество ДТП. Как по мне, так это очень этично.
Я не знаю, как взломать беспилотник. Это очень сложная система. И как и с любой сложной системой, его проще не взломать, а сломать.
Некоторые автомобили уже давно управляются с помощью сенсоров, а не механики. Например, в Сhevrolet Volt руль и колёса не связаны напрямую — всё управляется компьютером. И так как у машины есть удалённый контроль, её можно взломать.
В 2014 году хакеры Чарли Миллер и Крис Валашек смогли только с помощью своих ноутбуков по беспроводной связи соединиться с ехавшим автомобилем и отключить у него тормоза. Такая опасность существует, поэтому безопасность должна быть приоритетом — компьютеры в автомобилях уже давно, просто сейчас становятся умнее и теперь управляют тормозом, газом и направлением движения.
ИИ уже <a href="https://vc.ru/story/50073-osnovatel-abbyy-david-yan-o-servise-yva-dlya-analiza-povedeniya-sotrudnikov-opasnostyah-ii-i-rolevyh-modelyah" rel="nofollow noreferrer noopener" target="_blank">предсказывает</a> увольнения, а в будущем начнёт проводить роботизированные собеседования или подбирать собутыльников на корпоратив
Поведение человека перед увольнением довольно характерно, так что нет ничего удивительного в том, что это получается предсказывать.
А чем плохи роботизированные собеседования? Можно считать, что это просто тест, который помогает и кандидату, и собеседующему экономить время и нервы. Да и в целом, если в полной мере заработают системы, которые помогут каждому найти такую работу, где он будет максимально эффективен и где ему будет интересно — я только за.
А что касается подбора собутыльников и не только… Вот назовите мне хоть одну причину, по которой дейтинговые ресурсы не должны применять машинное обучение? Так что автоматический подбор уже происходит.
В 2018 году консальтинговая компания Deloitte включила роботизацию и ИИ в список главных трендов на рынке управления персоналом. По данным аналитиков, 93% времени рекрутёров уходит на типовые задачи, а 65% поддаются автоматизации.
При этом если примеры использования ИИ в отборе кандидатов широко известны, то об адаптации или увольнении сотрудников такого сказать пока нельзя. Вряд ли в ближайшее время управление персоналом можно будет автоматизировать полностью, но доля ИИ в этой сфере будет расти.
ИИ лишит работы миллионы людей — водителей, консультантов, журналистов, уборщиков и не только
Думаю, что всё будет развиваться не быстро, и те, кто работает по этим специальностям, так и доработают. Но спрос будет мигрировать в другие области, и молодёжь просто будет выбирать другие профессии.
Технологии искусственного интеллекта лучше всего справляются с рутинными задачами, но не превосходят человека в эмпатии, суждениях, отношениях и жизненном опыте. Многие путают искусственный интеллект с искусственным сознанием, но на самом деле ИИ хорош в решении проблем, но не способен сопереживать.
Поэтому нейросети вряд ли сможет полностью лишить нас работы. Скорее, наоборот, он создаст больше карьерных возможностей: чем больше машин и устройств с ИИ будет появляться, тем больше понадобится людей, которые будут им помогать.
Боту для текстов всегда будет нужен редактор или более опытный автор, а ИИ, отвечающему за подбор кадров — консультант, который будет ему в этом помогать. Но даже если искусственному интеллекту передадут ряд обязанностей, работодателям придётся выявить у сотрудников навыки, которые помогут им работать в условиях автоматизации.
Из-за развития рынка ИИ появится неравенство: богатые смогут использовать больше возможностей технологии, а бедным оставят скудные базовые функции
Ну нет. ИИ как раз хорош своей масштабируемостью. А значит, и отсутствием эксклюзива. То есть чем больше в чём-либо ИИ и меньше человека, тем доступнее это будет. Например, когда все такси станут беспилотными, они станут намного более доступными. А такси с водителем-человеком будет дорогой экзотической услугой.
Доступность технологий для населения конкретной страны обычно зависит от уровня ее экономического развития. Например, в 2018 году интернетом пользовались 3,9 миллиарда человек или 51,2% населения планеты. То есть, доступность сети с каждым годом растёт, а развитые страны находятся в лидерах списка.
При этом в развитых странах мира доля жителей, пользующихся интернетом, выросла до 80,9% (в 2005 году было 51,3%), в развивающихся — до 45,3% (было 7,7%). В странах СНГ средний уровень проникновения интернета достиг отметки 71,3%.
Сейчас интернет — часть повседневной жизни, а технологии искусственного интеллекта и нейросети активно используются в приложениях вроде FaceApp. ИИ станет таким же доступным как и интернет — это лишь вопрос времени.
#нейросети #ии #яндекс #интервью #мнения #хэллоуин