В США зафиксировали первый ошибочный арест из-за технологии распознавания лиц — система указала на невиновного человека

Мужчину, которого алгоритмы спутали с магазинным вором, продержали под стражей более суток. И потом объяснили это «ошибкой компьютера».

Ошибка технологии распознавания лица привела к неправомерному аресту темнокожего мужчины в Детройте. Об этом сообщается в жалобе Американского союза гражданских свобод (ACLU), поданной на местный департамент полиции. СМИ называют это первым известным случаем в стране, когда работа подобным алгоритмов приводила к ошибочному задержанию.

В январе 2020 года 42-летний житель Детройта Роберт Уильямс (Robert Williams) провёл в заключении более суток. До этого в местном магазине Shinola кто-то украл пять часов общей стоимостью в 3,8 тысячи долларов. Полицейские взяли нечёткие кадры с камер наблюдения (на них попал подозреваемый) и пропустили через систему распознавания лиц от компании Rank One Computing. Она показала совпадение с фотографией на водительском удостоверении Уильямса.

Неизвестно, были ли у полиции дополнительные свидетельства вины Уильямса. В ACLU отметили, что фото подозреваемого показали охраннику магазина, и тот идентифицировал вора, хотя не был свидетелем преступления.

При этом в полицейском отчёте о результатах проверки алгоритмом указано, что система не должна использоваться в качестве единственной причины для ареста. Тем не менее, Уильямс провёл под стражей более 30 часов, после чего офицеры отпустили его со словами: «Должно быть, компьютер ошибся».

В жалобе ACLU требуют от полиции Детройта снятия ареста, публичных извинений и удаления фотографий из полицейских баз данных для распознавания лиц. Также речь зашла о прекращении тестирования алгоритмов для поимки преступников: «Это первый известный случай в США, но могут быть ещё и другие». Сам Уильямс в колонке для Washington Post подчеркнул, что он бы и не узнал о роли алгоритмов в своём аресте, если бы об этом не проговорился один из офицеров.

ACLU подала жалобу и обнародовала инцидент на фоне всё больших опасений по поводу технологий распознавания лиц. В июне IBM, Amazon и Microsoft практически одновременно заявили, что либо прекратят, либо приостановят работу над подобными системами, а также перестанут продавать наработки полиции. Это произошло после масштабных протестов из-за смерти афроамериканца Джорджа Флойда во время задержания.

#технологии #новости