В США зафиксировали первый ошибочный арест из-за технологии распознавания лиц — система указала на невиновного человека Материал редакции

Мужчину, которого алгоритмы спутали с магазинным вором, продержали под стражей более суток. И потом объяснили это «ошибкой компьютера».

В закладки
Слушать

Ошибка технологии распознавания лица привела к неправомерному аресту темнокожего мужчины в Детройте. Об этом сообщается в жалобе Американского союза гражданских свобод (ACLU), поданной на местный департамент полиции. СМИ называют это первым известным случаем в стране, когда работа подобным алгоритмов приводила к ошибочному задержанию.

В январе 2020 года 42-летний житель Детройта Роберт Уильямс (Robert Williams) провёл в заключении более суток. До этого в местном магазине Shinola кто-то украл пять часов общей стоимостью в 3,8 тысячи долларов. Полицейские взяли нечёткие кадры с камер наблюдения (на них попал подозреваемый) и пропустили через систему распознавания лиц от компании Rank One Computing. Она показала совпадение с фотографией на водительском удостоверении Уильямса.

Неизвестно, были ли у полиции дополнительные свидетельства вины Уильямса. В ACLU отметили, что фото подозреваемого показали охраннику магазина, и тот идентифицировал вора, хотя не был свидетелем преступления.

При этом в полицейском отчёте о результатах проверки алгоритмом указано, что система не должна использоваться в качестве единственной причины для ареста. Тем не менее, Уильямс провёл под стражей более 30 часов, после чего офицеры отпустили его со словами: «Должно быть, компьютер ошибся».

В жалобе ACLU требуют от полиции Детройта снятия ареста, публичных извинений и удаления фотографий из полицейских баз данных для распознавания лиц. Также речь зашла о прекращении тестирования алгоритмов для поимки преступников: «Это первый известный случай в США, но могут быть ещё и другие». Сам Уильямс в колонке для Washington Post подчеркнул, что он бы и не узнал о роли алгоритмов в своём аресте, если бы об этом не проговорился один из офицеров.

ACLU подала жалобу и обнародовала инцидент на фоне всё больших опасений по поводу технологий распознавания лиц. В июне IBM, Amazon и Microsoft практически одновременно заявили, что либо прекратят, либо приостановят работу над подобными системами, а также перестанут продавать наработки полиции. Это произошло после масштабных протестов из-за смерти афроамериканца Джорджа Флойда во время задержания.

ничего не знаю, подписывайтесь на мой твиттер: twitter.com/zhenya_indigo
{ "author_name": "Женя Кузьмин", "author_type": "editor", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438","\u043d\u043e\u0432\u043e\u0441\u0442\u0438"], "comments": 40, "likes": 27, "favorites": 4, "is_advertisement": false, "subsite_label": "tech", "id": 181597, "is_wide": false, "is_ugc": false, "date": "Wed, 24 Jun 2020 19:54:45 +0300", "is_special": false }
Объявление на TJ
0
40 комментариев
Популярные
По порядку
Написать комментарий...

Гениальный Данила

35

Технологию заставить публично извиниться

Ответить
0

и преклонить колено

Ответить
0

В принципе, если не присматриваться, то не отличить!

Ответить

Ручной алмаз

9

Не могу их винить. Для меня черные тоже на одно лицо.

Ответить

Собачий пистолет

Ручной
7

А вот отвечу на шутку серьёзно. Может это у меня одного, но негров отлично различаю, даже самых трушных, чего не скажешь об азиатах — от там пиздец, нейросеть в ступоре.

Ответить
6

вот тоже серьезно. я из дальнего востока. азиат. у нас есть некоторые русские и они серьезно отличались от русских, которых показывали по телеку.
учился в москве. и вот смотреть трушных славян русских со светлыми русыми прямыми волосами и голубыми глазами со светлой кожей, то иванушек от иванушки не отличишь. все на одно лицо. и русские, и белорусы, и украинцы, и сербы. 
просто тут главное трушность. понятно, что сейчас у среднестатистического русского и евреи будут на роду, и кавказцы, и молдаване и так далее. 
а вот китайцы как бы не очень смешиваются как я понял. если даже да, то среди азиатов же. вот и получается

Ответить

Младший чувак

Zakhar
6

Последнее — неправда, смешивались они со всеми соседями крайне активно. Китайцы как таковые включают в себя около 50 этносов. И многие различаются даже фенотипически довольно сильно. Самая заметная разница, конечно, — это северные китайцы и южные.

Ответить
0

ну, я и говорю, что смешиваются с родственными национальностями. как русские с украинцами, белорусами. и там отличий никаких не будет

Ответить
4

Когда жил среди азиатов, всех чётко различал, затем начал жить среди европейцев и навык различать азиатов ослабел

Вывод, нейронкие нужна бОльшая база для обучения
PS но конечно с неграми сложнее думаю, а если качество съемки не оч, так вобще хуёво.

Ответить
2

Есть очень черные негры (как правило из Африки), даже в США такие редкость, потому что популяция американских негров серьезно смешались с более светлыми или вообще с белыми. Вот этих черных как уголь вообще фиг отличишь друг от друга, у нас на таких глаз не наметан совершенно. Я недавно видел двух таких студентов, рост у обоих за два метра, на вид как близнецы. Понятно, что если пообщаться, присмотреться, то быстро научишься различать, но когда видишь их в толпе первый раз, они кажутся совершенно одинаковыми.

Ответить

Младший чувак

Ручной
5

https://www.pnas.org/content/116/29/14532
 
Зрительная кора так работает, что обобщает лица других рас и заставляет меньше «всматриваться» в индивидуальные
различия в чертах лиц, если мы смотрим на людей другой расы. То есть это своего рода иллюзия и невнимательность вместе для простоты восприятия.

Ответить
0

Я тоже негров не различаю практически, сериал прослушка был просто болью) с азиатами такая ж херь

Ответить
9

Я не расист, но он же ниггер, значит в чем-то другом виновен? Зачем отпускать?

Ответить
6

Как говорится, был бы ниггер, а статя найдётся 

Ответить
2

Если человек пишет "я не расист, но", то этот человек расист😀

Ответить

Голый бас

Антон
0

Я не расист, но мне не нравятся ни оливки, ни маслины.

Ответить
–1

Ты не расист, а просто дурак

Ответить
1

Почему?

Ответить

Голый бас

Сергей
1

Потому что Марк Туллий думал, что так быстро срубит халявный лайкосов.

Ответить
3

Detroit: Become Kojanniy meshock 

Ответить
0

Hello, Lieutenant. My name is Connor. I'm the android sent by Cyberlife.

Ответить
1

Вы бы хоть прочитали что там написано для начала

Спойлер: она не может быть причиной ареста

Ответить

Печатный Женя

Кирилл
1

Ну в итоге после репорта нейросети охранник в магазине обделался и указал на него.

Ответить
1

к неправомерному аресту темнокожего мужчины в Детройте

Ответить
1

28 залутанных магазинов!

Ответить

Общий Мика

1

То есть если бы его по фотороботу кожаные мешки арестовали, то проблемы бы не было ?

Ответить

Младший чувак

Общий
0

Просто к человекам больше незаслуженного доверия. Хотя Элизабет Лофтус давно доказала, что доверять биомозгам надо с осторожностью. Как-никак, нейроны не представляют собой строгую последовательность кода.

Ответить
1

@Женя Кузьмин добавь данные, сколько преступников каждый год с помощью распознавания лиц и без физического участия полиции задерживается.

Ответить
1

Ублюдки конечно и надо за такое судиться на компенсацию, но снимать с тестирования эту штуку за такое просто нелепо. Я считаю эту штуку стоит применять только после хорошей отладки и бетатеста

Ответить
0

Уважаемый компьютер сыграл в 50/50.

Ответить
0

эпично обделались.

Ответить
0

Подобную систему при одинаковых "способностях" можно настроить так, чтобы она либо как можно реже "пропускала" воров, либо как можно реже "находила" не-воров. Типа это инструмент с параметрами, а не оракул. 

Ответить
0

По хорошему к такому указанию вора должна еще прилагаться степень уверенности системы в своем решении. Ну и главное что охранник это должен все знать.

Ответить
0

Даже при упоре в precision, все равно будут фолс позитивс, на данный момент арест черного по ошибке это конечно ебать беда, но в целом ошибки точно будут всегда, запрещать такое из за повестки - глупо (ну, мое имхо)

Ответить
0

Хотелось бы какой-то состязательности чтоли. Если разработчики обучили сетку на китайцах, охранник долбоеб, а менты не знают что такое вероятность, что простой черный парень может противопоставить этой репрессивной машине.

Например я в качестве контраргумента вытаскиваю из своего телефона отчет где я был в такой-то день в такое-то время, и что я логинился в это время лицом например. Но если менты получат всю базу перемещений, то получится наоборот - привлекут всех false positives кто рядом ходил не вникая в подробности.

Ответить
0

Ну, я согласен, что при соответствующей власти, подобные технологии это большой брат во плоти, но я верю в светлое будущее. А в светлом будущем такого беспредела не будет) Энивей, есть 2 стороны медали, отказываться от подобных крутейших вещей ( ладно ещё из за возможности юзать такое в качестве репрессий, но блять точно не из-за расизма!!) это шаг назад

Ответить
0

охранника магазина тоже получается можно привлечь за лжесвидетельство? 

Ответить
Обсуждаемое
Новости
Кавказцы толпой избили видеоблогера Коваленко
Святослав Коваленко подвергся избиению со стороны толпы чеченцев из-за своей деятельности по защите прав потребителей. Нападение засняли на камеру.
Новости
Илон Маск пригласил семью Королёва на запуск SpaceX. Внук учёного назвал его «очень весёлым человеком»
«Он был одним из лучших», — написал про Королёва Маск. «Он был лучшим», — твитнул в ответ «Роскосмос».
Истории
«Как кость в горле у федеральной власти»: почему жители Хабаровска защищают своего губернатора
TJ поговорил с участниками митингов в поддержку арестованного Сергея Фургала.
Популярное за три дня
Истории
«Как кость в горле у федеральной власти»: почему жители Хабаровска защищают своего губернатора
TJ поговорил с участниками митингов в поддержку арестованного Сергея Фургала.
Новости
Схимонах Сергий Романов пообещал начать «полномасштабную духовную войну», если Путин не передаст ему свои полномочия
Монах также назвал патриарха Кирилла богоотступником.
Новости
Илон Маск пригласил семью Королёва на запуск SpaceX. Внук учёного назвал его «очень весёлым человеком»
«Он был одним из лучших», — написал про Королёва Маск. «Он был лучшим», — твитнул в ответ «Роскосмос».