Роботы-начальники: семь примеров, как люди и бизнесы передаются под власть машин

Самые главные «побочки» коронавируса — не физиологические, а социальные и экономические. Ничего принципиально нового он в жизнь человечества не привнёс — зато разогнал и так уже шедшие процессы, главные из которых — переход на удалённую работу и автоматизация. И показал, в какую сторону меняются отношения человека и машин.

В закладки

Роботы и программы по-прежнему призваны помогать человеку, но теперь всё очевиднее, что эта помощь заключается, в том числе, в принятии роли надсмотрщиков — будь то роботы, следящие за соблюдением социальной дистанции, или программы, напоминающие сотрудникам о том, что солнце ещё высоко и рабочий день пока не окончен. Всё во имя блага самого человека, разумеется.

Робот-овчарка

За годы своей деятельности Boston Dynamics разработали уже целый зоопарк и несколько двуногих антропоморфных роботов, а один из их самых известных проектов – робопес Spot. Он развивает скорость до 1.6 м/сек, изучает окружающее пространство через стереокамеры с суммарным углом обзора в 360°, весит 25 килограмм – легкий, небольшой, маневренный. Spot был представлен компанией в 2016 году и предлагался в основном к использованию на производстве, например, для удаленной проверки производственных помещений.

Освоению новых ролей немало поспособствовала пандемия: в мае 2020 года робопес вышел на патрулирование парков в Сингапуре, чтобы контролировать соблюдение мясными мешками социальной дистанции.

Каждый робот патрулировал свой участок сингапурского парка Бишан-Анг Мо Кио. При встрече с группой людей робот озвучивал заранее записанное сообщение: «Сохраним здоровье Сингапура! Для вашей безопасности и безопасности окружающих вас людей, пожалуйста, оставайтесь на расстоянии не менее одного метра. Спасибо».

Полностью автономными роботов Spot назвать нельзя – в течение тестового периода их контролировали специалисты. Однако с учетом текущего уровня развития компьютерного зрения и систем принятия решений несложно представить, как робопес определяет маршрут и цель самостоятельно – это вполне реализуемо.

Уже сейчас Spot снабжен камерами, которые используются для выявления групп людей. Но правительство Сингапура заявило, что роботы не будут использовать распознавание лиц или собирать личные данные граждан. Как может распорядиться возможностями пса другой хозяин – неизвестно, а простор для это теперь есть: с 16 июня 2020 года робопес поступил в продажу (до этого он сдавался предприятиям в аренду).

Пандемия изменяет условия жизни, но многим не нравится контроль, и не все охотно подчиняются требованиям держать дистанцию и соблюдать меры предосторожности в полном объеме. Одной из ситуаций, повлиявших на вывод робопса в парк, стал конфликт между прохожим и сотрудником парка, связанный с необходимостью социального дистанцирования.

Будут ли пешеходы спокойнее реагировать на контроль и ограничения, если они будут звучать от желтого робопса, разговаривающего вежливым женским голосом? Выглядит это все довольно антиутопично, но пока вроде бы никто на робопсов не нападал.

Робот-Мойдодыр

Еще одна разработка, актуальная для событий 2020 года: в Fujitsu разработали систему контроля мытья рук на основе искусственного интеллекта. Для её обучения было использовано две тысячи видео мытья рук с различными видами мыла и умывальников.

Система может распознавать сложные движения рук и определять, используется ли мыло, проверяя соответствие мытья рук рекомендованной министерством здравоохранения Японии шестишаговой процедуре (есть у них и такая!), включающей в себя мытье ладоней, пальцев, промежутков между пальцами, запястий, чистку ногтей.

В Fujitsu считают, что их нейросеть может применяться для контроля соблюдения правил гигиены работниками гостиничной отрасли, производства продуктов питания, медицины и так далее, но коммерческой версии системы пока нет.

Система может определять чистоту рук, но не личности людей. Хотя, если её объединить с системой распознавания лиц, то компании смогут следить ещё и за тем, кто конкретно является грязнулей в коллективе.

Тем временем в России уже не только объединено распознавание лиц с контролем мытья рук, но комбинация уже запатентована и продается в виде готового решения. Компания «Дамате», занимающаяся производством молока и мяса, использует разработанную в Сколково систему «Директива». Разработчики «Директивы: санитария» обещают проверку санитарной обработки рук в соответствии с международными стандартами со 100% точностью. В «Дамате» сейчас имеется 20 точек контроля мытья рук, через которые проходят 2250 сотрудников и планируется установить 21 систему на строящемся заводе по глубокой переработке мяса индейки в Пензенской области. Цель внедрения системы – не повышение прибыли (наоборот, внедрение и техподдержка системы обходятся недешево), а предотвращение проблем, когда всего одна пара недомытых рук может заразить потребителей, вызвать финансовые проблемы и подпортить репутацию.

Электронный ГАИшник

Еще один пример автоматизированного контроля – искусственный интеллект, выписывающий штрафы вместо ГИБДД. Еще с 2018 года московские власти взялись за разработку интеллектуальных систем контроля транспортного потока. Нейронная сеть используется для обработки миллионов фотографий и автоматического определения нарушений.

Каких-либо новых принципов выявлений нарушений не предполагается: система просто призвана разгрузить техников Центра организации дорожного движения (ЦОДД), обрабатывающих фотографии с камер для ГИБДД, чтобы у них было больше времени на изучение спорных случаев и отсеивание в брак ошибочных штрафов. Насколько совершенна такая система и будет ли она выписывать штрафы несправедливо?

Вполне возможно, т.к. результат сильно зависит от исходных данных (качества фотографий) и от принципов работы модели машинного обучения, использующейся в системе. Логичнее задать вопрос следующим образом: будет ли процент ошибок искусственного интеллекта меньше или больше, чем процент ошибок живых специалистов, выполняющих ту же задачу? Но вряд ли мы узнаем ответ: штрафы остаются источником дохода для государства независимо от того, кто их выписал, и кто-то наверху вряд ли будет подсчитывать некий процент несправедливостей и стремиться его уменьшить. Так что справедливость интеллектуального контроля в данном случае зависит не только от применяемых технологий, но и от целей, которые за ними стоят.

Известно только то, что ошибки делают и живые люди, и программы, и казусы («Штраф за тень и птица без номеров: как ошибаются дорожные камеры») происходят не только в России. Однако там, где есть автоматизированное выписывание штрафов, можно внедрить и автоматизированную борьбу с неправильно назначенными штрафами: в Дубае искусственный интеллект помогает бороться с ошибками, которые допускают люди при выписывании штрафов, а в Германии существует так называемый цифровой адвокат.

Робот-жена автолюбителя

Более человеколюбивая интеллектуальная система контроля – это умный круиз-контроль. Одна из разработок в этой сфере принадлежит Hyundai: в октябре 2019 года было объявлено о выпуске системы SCC-ML (Smart Cruise Control + Machine Learning). В ней учитывается дистанция до другого автомобиля, время реакций на смену дорожных условий и скорость. В отличие от привычных систем круизконтроля SCC-ML не только поддерживает дистанцию до впереди идущего автомобиля и заданную скорость, но и способна обучаться на примере действий водителя.

В 2019 году Nvidia Corporation, активно занимающаяся решениями для водителей, создала нейронную сеть, регулирующую за водителя дальний свет. Сеть реагирует на попадающие в поле зрения камеры автомобили, у которых включен задний фонарь или фара в текущем кадре камеры. Доступны 2 режима: в первом режиме (Auto High Beam) система освещения дальнего света автоматически включается при слабой освещенности дороги.

Припаркованные автомобили считаются неактивными и игнорируются, а при обнаружении активных автомобилей система автоматически переключается на ближний свет или выключается. Как только активные транспортные средства выходят за рамки камеры, дальний свет автоматически включается снова. Во втором режиме (Adaptive Driving Beam) ИИ снижает яркость отдельных светодиодов в фарах, создавая зоны без бликов.

Подобные разработки – компромисс между полностью беспилотным управлением и помощью водителю, который управляет машиной самостоятельно, но с помощью интеллектуального контроля со стороны системы. Так же, как и уже привычный парктроник, они забирают часть функций у водителя, чтобы облегчить процесс вождения. Для большинства пользователей не имеет значения, как именно реализованы эти решения технически – важно, чтобы на них можно было положиться.

Робот-начальник

В повседневные рабочие процессы офисных работников тоже вмешиваются автоматизированные системы, которые совершенствуются и приобретают новые функции, основанные на данных о психике. Производитель софта для контроля за удалёнными сотрудниками Kickidler выпустил функцию «Автокик» для (само)контроля сотрудников. «Автокик» состоит из двух частей: инструментов самоконтроля в виде отчета и автоматических уведомлений сотруднику о его нарушениях.

Что считать нарушением – может настраиваться начальством, так что с этой точки зрения задача «Автокика» — автоматизация пинков, раздаваемых начальством. Зачем тогда остаётся нужным начальство, ещё раз?

На первый взгляд, программа, которая наблюдает за всем, что вы делаете на своем устройстве в рабочее время – это дополнительный контроль от лица начальства, которое хочет, чтобы вы максимально эффективно тратили рабочее время. Если же присмотреться внимательно, она действует также в интересах самих сотрудников, потому что продуктивность невозможно повысить там, где сотрудник некомфортно себя чувствует. Уже проходит время, когда считалось, что из человека нужно выжимать максимум принуждением под лозунгами в стиле «Выйди из зоны комфорта! Добейся максимума! Поставь перед собой цель и иди к ней, несмотря ни на что!».

Многие работодатели уже знают: чтобы выйти из зоны комфорта, нужно сначала в нее войти.

А что понимать под комфортом для сотрудника, проводящего целый день в интеллектуальной или коммуникативной работе перед монитором? Рассуждения об осмысленности и степени интересности работы оставим за кадром – надеемся, вам нравится ваша работа. Но кроме мотивации, существуют и психофизиологические ограничения.

Некоторые исследования показывают, что человек эффективен на работе менее трех часов в день, а уровень концентрации резко падает уже через 20 минут. В целом в психологии считается, что длительность эффективного произвольного внимания взрослого человека – максимум 45-50 минут. После этого требуется переключение внимания на задачу другого типа. В популярной технике тайм-менеджмента Pomodoro стандартными считаются отрезки 25 минут, но их можно адаптировать под себя, а главной остается идея частых перерывов в монотонной деятельности.

«Автокик» как раз может подсказать сотруднику, работающему долго без перерывов, сделать небольшую паузу в работе. Эту функцию можно использовать для заботы о здоровье – напоминание о перерыве может намекать на необходимость физической активности: раз в несколько рабочих отрезков времени можно сделать небольшую зарядку или гимнастику для глаз.

Робот-няня

Разработки на основе искусственного интеллекта также могут определять уровень стресса, помогать в тренировке навыков концентрации внимания и расслабления. Например, у участников интенсива по подготовке кадров для цифровой экономики и Национальной технологической инициативы (НТИ) «Остров 10-21» собирались данные и использовались системой на основе искусственного интеллекта для корректировки образовательного процесса. Основная цель – избежать эмоционального выгорания и снижения эффективности из-за стресса.

Зеленоградская группа компаний «Нейроботикс» выпустила в продажу нейрогарнитуру NeuroPlay, которая позволяет замерять электроактивность мозга человека. Пользователь гарнитуры может корректировать работу мозга в соответствии с выбранной тренировкой для борьбы с тревожностью, бессонницей, раздражением, нарушением внимания, стрессом. Для улучшений придется выполнять рекомендации, выдаваемые системой. Подобные разработки контролируют психическое и физическое состояние человека и, обрабатывая полученные данные, помогают улучшать самочувствие и повышать продуктивность.

Робот, следящий, чтобы не выражались

В интересах бизнеса программы научились даже контролировать речь сотрудников: сервис Anryze предложил брокерской компании Weeden and Co технологию по контролю за употреблением брокерами определенных слов при общении с клиентами. Дело в том, что брокерам запрещено гарантировать доходность от продаваемых бумаг. Компании, нарушившие запрет, могут получить штраф от $5 млн, а также их ждет разбор инцидента и репутационные риски. Сервис Anryze вылавливает в речи сотрудника запрещенные слова и анализирует контекст, в котором они были сказаны.

Если брокер произносит слова о гарантии доходности, то сразу же после разговора получает информацию о возможном нарушении закона. В целом, контроль вряд ли приятен сам по себе, но он просто подкрепляет и так существующее ограничение на произнесение некоторых фраз – своего рода издержки профессии.

Добровольно в Матрицу

Факт остаётся фактом: люди в собственных интересах передают контроль над собой машинам. Для бизнеса и государства в целом одни плюсы, кроме высокой стоимости разработки, а что касается обычных людей – приватность и самостоятельность они обменивают на получение рекомендаций и снятие ответственности за принятие решений.

В Соединенных Штатах можно почувствовать напряженность между гарантированием индивидуальных прав и защитой коллективных интересов во время этого кризиса в области здравоохранения. Таким образом, ГАФАМ имеет в своем распоряжении в Соединенных Штатах информацию, которая была бы чрезвычайно ценной во время кризиса: огромное количество данных об американском населении. Ларри Бриллиант, эпидемиолог и исполнительный директор Google.org, утверждает, что эта информация может «изменить лицо общественного здравоохранения» и считает, что «мало вещей в жизни важнее, чем вопрос о том, не слишком ли мощны основные технологии, но пандемия, несомненно, одна из них» (Н. Скола, Big Tech сталкивается с ловушкой «Большого Брата» на коронавирусе, POLITICO, 18 марта 2020 г).

Поэтому правительство США обратилось к этим компаниям с просьбой предоставить доступ к агрегированным и анонимным данным, особенно в отношении мобильных телефонов, для борьбы с распространением вируса (Т. Ромм, Э. Двоскин, С. Тимберг, Правительство США и технологическая индустрия обсуждают способы использования данных о местоположении смартфонов для борьбы с коронавирусом, The Washington Post, 18 марта 2020 г).

Однако эти компании проявляют осторожность в связи с юридическим риском и потенциальным нанесением ущерба имиджу (С. Оверли, Белый дом ищет помощи в борьбе с коронавирусом в Силиконовой долине, POLITICO, 11 марта 2020 г.).

Законодательное регулирование данных, вероятно, помогло бы наладить диалог между государственным и частным секторами и определить, какие виды чрезвычайных ситуаций должны подпадать под коллективный интерес в отношении индивидуальных прав (а также условия и гарантии такого механизма), однако за последние два года Конгресс не добился никакого прогресса в отношении такого закона.

Закончить этот обзор хотелось бы словами Юваля Ной Харари из статьи «Мир после коронавируса» (The Financial Times, 20 марта 2020 г):

Временные меры по контролю и массовому мониторингу населения с помощью этой технологии не должны считаться тривиальными и не должны стать постоянными.

{ "author_name": "Егор Коткин", "author_type": "self", "tags": [], "comments": 18, "likes": 7, "favorites": 15, "is_advertisement": false, "subsite_label": "tech", "id": 185589, "is_wide": false, "is_ugc": true, "date": "Tue, 07 Jul 2020 16:18:48 +0300", "is_special": false }
Объявление на TJ
0
18 комментариев
Популярные
По порядку
Написать комментарий...
3

Ожидание: робот жарит бургеры, пробивает шахты и красит дороги вместо людей.
Реальность: робот пинает подчинённых и выкатывает иски брокерам.

Ответить
2

Если роботизация, как пугают фаталисты, приближает нас к трансгуманизму, то есть ли в автоматизации альтернативные проекты, усиливающие в человеке что-то человеческое? 

Ответить
2

Трансгуманизм и есть человеческое, выведенное на новый уровень где животное начало заменяется технологиями. Впрочем, человека человеком делает сочетание разума и животного, если убрать животную часть (не только тело, но и эмоции, инстинкты, бессознательное) — то, что останется, уже тоже будет чем-то другим, нежели человек. Точно так же, как обезьяна, заговорив, перестала быть обезьяной.

Ответить
2

Неожиданная цитата Харари в конце статьи, в его книгах упоминается неизбежность цифрового контроля. Или это уже моя интерпретация🤔

Ответить
1

Если роботизация, как пугают фаталисты, приближает нас к трансгуманизму, то есть ли в автоматизации альтернативные проекты, усиливающие в человеке что-то человеческое? 

Ответить
1

Технический прогресс не остановить, но Индустрия 4.0 обещает стать беспощадной к 90%. Будут ли 10% от этого чувствовать себя счастливыми? Время решит, надеюсь, хотя бы 50/50

Ответить
–1

Ничего подобного она не обещает. 

Ответить
0

Без работы и без БОД? No money, no honey.

Ответить
–2

Индустрия 4.0 не приходит в вакууме, она существует в более широком социальном контексте. Всё, что обещает она — это автоматизацию. Как люди адаптируются к новым условиям — это уже вопрос другого порядка. В самой по себе индустриальной революции нет ничего принципиально угрожающего. 

Ответить
1

Пожар в лесу не приходит в вакууме, он существует в более широком ландшафтно-биологическом контексте. Всё, что пожар обещает - это сгорание. Как звери адаптируются к новым условиям - это уже вопрос другого порядка. В самом по себе пожаре нет ничего принципиально угрожающего.

14:38 "Нам необходимо уже сейчас начать думать о том, что делать, когда большая часть населения станет безработной - не по своей вине".

Ответить
0

Вот и поговорили. 

Ответить
1

Если ты производишь кухонные ножи, некто буйный может одним из них зарезать кого-то. Может не зарезать. Если ты заменяешь человека на робота в некоей фирме или отрасли в целом, ты увольняешь человека - иначе в чём смысл замены? Это буквально причина и следствие, а ты пишешь, мол, ничего не знаю, сквозь мою повязку на глазах не видно, что замена людей на машины прямо ведёт к безработице.
И ролик посмотри.

Ответить
1

Дополнительно. Технократия без здравой социальной и экономической политики не улучшает жизнь большинства. Проще говоря, новые инструменты должны применяться с огглядкой на социально - экономическую реальность, чтобы улучшать жизнь, и не закрепляться в качестве мнимого спутника за, например, автократией.

Ответить
0

Да, уж, каждый о себе, получается...

Ответить
1

Я имею в виду, с практической точки зрения — какая разница? Никакие изменения в истории не происходят со стопроцентным одобрением. Кто-то за, кто-то против, большинство не в курсе.

Ответить
0

"Tо, что останется" может и вдохновляет на подвиги авторов кибертехнологов, но как к этому отнесется большинство "кожаных ублюдков"?

Ответить
0

А какая разница? 

Ответить
0

Концовка вообще не к месту, словно навязываешь око Большого Брата.
 Временные меры по контролю и массовому мониторингу населения с помощью этой технологии не должны считаться тривиальными и не должны стать постоянными.

Ответить
Обсуждаемое
Технологии
Apple обновила 27-дюймовый iMac. Он вторым в истории Mac получил Full HD-камеру, новые процессоры и SSD по умолчанию
До этого в компьютеры Mac устанавливали веб-камеры с разрешением 720p.
Интернет
Пользовательница Твиттера общалась фразами «Алисы» в Tinder. Её собеседники не поняли, что разговаривают с ИИ
Голосового помощника «Алису» называют «интересной» и «забавной», а некоторые даже зовут на свидание.
Новости
Власти Чечни вернули из Москвы около 100 выходцев из республики и заставили их извиниться за «недостойные поступки»
Их посчитали правонарушителями и наркоманами.
Популярное за три дня
Новости
Трое мужчин спаслись с необитаемого острова в Тихом океане благодаря огромной надписи SOS на песке
Они пробыли там три дня, пока призыв о помощи не увидели спасатели.
Разборы
Под детскими стримами на «Одноклассниках» много пишут с сексуальным подтекстом. Соцсеть призывает помогать с блокировкой
В соцсетях жалуются, что в «Одноклассниках» перекладывают ответственность на пользователей, но сами они уверяют, что удаляют тех, кто просит детей раздеваться и показывать нижнее бельё.
Москва
В московском парке Горького произошла массовая драка между десантниками и росгвардейцами
По данным СМИ, есть пострадавшие и задержанные.

Комментарии