Технологии
Никита Логинов

От безобидных робособак до службы в полиции: какой путь прошли роботы Boston Dynamics и могут ли стать оружием

Несмотря на массу недостатков, они всё ближе к автономным боевым роботам, о которых давно мечтают военные.

В феврале 2015 года компания Boston Dynamics познакомила мир со своим четвероногим роботом Spot. Робособака ловко бегала по пересечённой местности и удерживалась на «лапах» при ударах и толчках. Позже компания показала гуманоидного робота Atlas, который так же непринуждённо двигался на своих двоих.

Впрочем, успехи Boston Dynamics восхитили и позабавили не всех. Многие СМИ и пользователи интернета назвали новых роботов компании «жуткими» и «пугающими». А Netflix воплотил эти страхи в очередной серии «Чёрного зеркала», где робособаки, похожие на Spot, методично истребляют людей.

Почти неуязвимые роботы-убийцы — главные антигерои Metalhead, одной из серий «Чёрного зеркала» Кадр из сериала

Почему роботы Boston Dynamics так пугают

Образ робота-убийцы живёт в культуре давно, вспомнить хотя бы «Терминатор» или «Вирус» 1998 года. Здесь Boston Dynamics и «Чёрное зеркало» ничего нового не добавили. Для реальных силовых структур роботы тоже давно обыденность. Ударные беспилотники, наземные роботы-сапёры или разведчики регулярно мелькают в новостях и на Youtube.

Робот-сапёр ФСБ во время антитеррористической операции в Тверской области Фото: РИА Новости / ФСБ РФ

Разведывательно-боевой робот SWORDS уже 20 лет на службе армии и спецслужб США Фото: National Defense Magazine

Ударный БПЛА MQ-9 Reaper готовят к вылету в Афганистане. Такие же беспилотники в начале 2020 года уничтожили в Ираке кортеж иранского генерала Сулеймани Фото: Reuters/Josh Smith

Но все наземные роботы, которые есть у США, России, Европы и Китая, передвигаются на колёсах или на гусеничном ходу. По сильно пересечённой местности такие роботы не смогут угнаться за обычными людьми. Город с его проходами, коридорами и лестницами для существующих роботов вовсе непреодолим.

Интеллектом они тоже не блещут: плохо справляются с препятствиями, не могут «умно» реагировать на разные ситуации. Нынешние роботы управляются либо заранее написанными программами, либо человеком дистанционно. Из-за такой негибкости даже самые продвинутые беспилотники часто попадают в аварии.

Военным и полиции хочется большего. Им нужны по-настоящему автономные боевые и разведывательные единицы, которым можно отдавать обобщённые приказы и которые могут свободно двигаться по лесу и по городу, не нуждаясь в постоянном контроле.

Роботы Boston Dynamics близки к этому. Они передвигаются на конечностях под управлением мощных, хорошо обученных нейросетей. Искусственный интеллект позволяет этим роботам двигаться почти так же естественно, как двигаются живые существа. И очень гибко реагировать на изменения обстановки вокруг.

Всё это обеспечивает уже базовая прошивка роботов. Её можно глубоко менять и расширять под свои нужды. Нетрудно представить, на что станут способны Atlas или Spot, если настроить их на работу против людей и вооружить. Из мирных инженерных устройств они превратятся в опасных «терминаторов».

Насколько вероятно такое развитие событий

Сама компания категорически против того, чтобы её роботы или установленное на них оборудование причиняли вред людям. Это прописано в пользовательском соглашении, об этом регулярно напоминают представители компании.

Но Boston Dynamics не всегда следовала пацифизму. История компании началась с работы на военно-морские силы США, а робота BigDog (первую робособаку) создавали по заказу DARPA, отделения Минобороны по перспективным исследованиям. Работать на «оборонку» компания перестала только в 2013 году, когда её купил Google.

Похоже, что пацифизм Boston Dynamics — не моральная позиция сотрудников, а политика владельцев. Но владельцы часто меняются: в 2017 году Google продал компанию японскому SoftBank, а в конце 2020 года 80% её акций купила корейская Hyundai. Причиной такой частой смены собственников могут быть постоянные убытки, непосильные даже для крупных корпораций.

Пытаясь выйти на окупаемость, Boston Dynamics в 2020 году начала продавать своих роботов частным организациям. Получится ли у компании стать прибыльной, и не вернётся ли она к оборонным контрактам — вопрос открытый.

Само пользовательское соглашение Boston Dynamics не запрещает силовым структурам использовать её роботов. Оно запрещает только причинять этими роботами вред людям. Но можно легально приспособить робособак Spot или двуногих Atlas под разведку, поиск мин, переноску снаряжения.

Силовые структуры этим уже занимаются. В 2019 году робособаку Spot начала испытывать полиция Массачусетса, а с 2020 года её стали использовать в полиции Нью-Йорка. В 2021 году роботы Boston Dynamics пришли и в армию — их опробовали французские вооружённые силы в качестве разведчиков.

Фото: Saint-Cyr Coëtquidan

Слишком заманчиво, чтобы запрещать

Мир с автономными роботами-убийцами пугает людей. Философы и учёные ведут дискуссии о том, открывать ли этот ящик Пандоры, и если да, то как это регулировать. Опросы показывают, что 61% взрослых в 26 странах мира против автономных боевых систем. Их призывают запретить правозащитники, правительства, международные организации, известные люди вроде Илона Маски и Ноама Хомского. Против выступает и церковь.

Машины, наделённые властью и правом лишать людей жизни, политически неприемлемы, отвратительны с моральной точки зрения и должны быть запрещены на международном уровне

Антониу Гутерриш на саммите 2018 года

Проблемы возникают не только морально-этические, но и чисто технические. Например, смогут ли автономные роботы понять, что противник сдаётся или выведен из строя ранением, и что его незачем убивать? Специалисты в этом сомневаются.

Женевская конвенция 1949 года о гуманном поведении на войне требует, чтобы любая атака диктовалась военной необходимостью и не затрагивала гражданских, и чтобы ущерб от атаки был соразмерен военному потенциалу цели. Все эти суждения субъективны, они не по силам нынешним системам искусственного интеллекта… [Автономные боевые роботы] могут нарушить базовые принципы человечности, если начнут принимать решения, кому жить, а кому умереть.

Стюарт Рассел в интервью журналу Nature

Однако военных, похоже, всё это мало волнует. Они видят в автономных боевых роботах хорошую возможность снизить потери живой силы. И главное — такие роботы это сильный козырь в гонке вооружений, которую американские военные боятся проиграть Китаю и России. Президент США Джо Байден тоже считает, что запрет на автономные боевые системы угрожает безопасности страны.

В идеале такие системы должны быть согласованно запрещены во всех странах мира. В реальности такое вряд ли случится. Поэтому роботы Boston Dynamics имеют все шансы превратиться из забавных, удивительных и безобидных аппаратов в нечто очень опасное для человека.

#роботы #bostondynamics #лонгриды