Рубрика развивается при поддержке
Advertisement

В США зафиксировали первый ошибочный арест из-за технологии распознавания лиц — система указала на невиновного человека Статьи редакции

Мужчину, которого алгоритмы спутали с магазинным вором, продержали под стражей более суток. И потом объяснили это «ошибкой компьютера».

Ошибка технологии распознавания лица привела к неправомерному аресту темнокожего мужчины в Детройте. Об этом сообщается в жалобе Американского союза гражданских свобод (ACLU), поданной на местный департамент полиции. СМИ называют это первым известным случаем в стране, когда работа подобным алгоритмов приводила к ошибочному задержанию.

В январе 2020 года 42-летний житель Детройта Роберт Уильямс (Robert Williams) провёл в заключении более суток. До этого в местном магазине Shinola кто-то украл пять часов общей стоимостью в 3,8 тысячи долларов. Полицейские взяли нечёткие кадры с камер наблюдения (на них попал подозреваемый) и пропустили через систему распознавания лиц от компании Rank One Computing. Она показала совпадение с фотографией на водительском удостоверении Уильямса.

Неизвестно, были ли у полиции дополнительные свидетельства вины Уильямса. В ACLU отметили, что фото подозреваемого показали охраннику магазина, и тот идентифицировал вора, хотя не был свидетелем преступления.

При этом в полицейском отчёте о результатах проверки алгоритмом указано, что система не должна использоваться в качестве единственной причины для ареста. Тем не менее, Уильямс провёл под стражей более 30 часов, после чего офицеры отпустили его со словами: «Должно быть, компьютер ошибся».

В жалобе ACLU требуют от полиции Детройта снятия ареста, публичных извинений и удаления фотографий из полицейских баз данных для распознавания лиц. Также речь зашла о прекращении тестирования алгоритмов для поимки преступников: «Это первый известный случай в США, но могут быть ещё и другие». Сам Уильямс в колонке для Washington Post подчеркнул, что он бы и не узнал о роли алгоритмов в своём аресте, если бы об этом не проговорился один из офицеров.

ACLU подала жалобу и обнародовала инцидент на фоне всё больших опасений по поводу технологий распознавания лиц. В июне IBM, Amazon и Microsoft практически одновременно заявили, что либо прекратят, либо приостановят работу над подобными системами, а также перестанут продавать наработки полиции. Это произошло после масштабных протестов из-за смерти афроамериканца Джорджа Флойда во время задержания.

0
40 комментариев
Популярные
По порядку
Написать комментарий...
Вторичный пистолет

Технологию заставить публично извиниться

35

и преклонить колено

0

В принципе, если не присматриваться, то не отличить!

0
Вторичный пистолет

Не могу их винить. Для меня черные тоже на одно лицо.

9
Вторичный пистолет

А вот отвечу на шутку серьёзно. Может это у меня одного, но негров отлично различаю, даже самых трушных, чего не скажешь об азиатах — от там пиздец, нейросеть в ступоре.

7

вот тоже серьезно. я из дальнего востока. азиат. у нас есть некоторые русские и они серьезно отличались от русских, которых показывали по телеку.
учился в москве. и вот смотреть трушных славян русских со светлыми русыми прямыми волосами и голубыми глазами со светлой кожей, то иванушек от иванушки не отличишь. все на одно лицо. и русские, и белорусы, и украинцы, и сербы. 
просто тут главное трушность. понятно, что сейчас у среднестатистического русского и евреи будут на роду, и кавказцы, и молдаване и так далее. 
а вот китайцы как бы не очень смешиваются как я понял. если даже да, то среди азиатов же. вот и получается

6
Вторичный пистолет

Последнее — неправда, смешивались они со всеми соседями крайне активно. Китайцы как таковые включают в себя около 50 этносов. И многие различаются даже фенотипически довольно сильно. Самая заметная разница, конечно, — это северные китайцы и южные.

6

ну, я и говорю, что смешиваются с родственными национальностями. как русские с украинцами, белорусами. и там отличий никаких не будет

0

Когда жил среди азиатов, всех чётко различал, затем начал жить среди европейцев и навык различать азиатов ослабел

Вывод, нейронкие нужна бОльшая база для обучения
PS но конечно с неграми сложнее думаю, а если качество съемки не оч, так вобще хуёво. ред.

4

Есть очень черные негры (как правило из Африки), даже в США такие редкость, потому что популяция американских негров серьезно смешались с более светлыми или вообще с белыми. Вот этих черных как уголь вообще фиг отличишь друг от друга, у нас на таких глаз не наметан совершенно. Я недавно видел двух таких студентов, рост у обоих за два метра, на вид как близнецы. Понятно, что если пообщаться, присмотреться, то быстро научишься различать, но когда видишь их в толпе первый раз, они кажутся совершенно одинаковыми. ред.

2
Вторичный пистолет

https://www.pnas.org/content/116/29/14532
 
Зрительная кора так работает, что обобщает лица других рас и заставляет меньше «всматриваться» в индивидуальные
различия в чертах лиц, если мы смотрим на людей другой расы. То есть это своего рода иллюзия и невнимательность вместе для простоты восприятия.

5

Я тоже негров не различаю практически, сериал прослушка был просто болью) с азиатами такая ж херь

0

Я не расист, но он же ниггер, значит в чем-то другом виновен? Зачем отпускать?

9

Как говорится, был бы ниггер, а статя найдётся 

6

Если человек пишет "я не расист, но", то этот человек расист😀

2

Я не расист, но мне не нравятся ни оливки, ни маслины.

0

Ты не расист, а просто дурак

–1

Почему?

1

Потому что Марк Туллий думал, что так быстро срубит халявный лайкосов.

1

Detroit: Become Kojanniy meshock 

3

Hello, Lieutenant. My name is Connor. I'm the android sent by Cyberlife.

0

Вы бы хоть прочитали что там написано для начала

Спойлер: она не может быть причиной ареста

1
Вторичный пистолет

Ну в итоге после репорта нейросети охранник в магазине обделался и указал на него.

1
Вторичный пистолет

Комментарий удален по просьбе пользователя

1

28 залутанных магазинов!

1
Вторичный пистолет

То есть если бы его по фотороботу кожаные мешки арестовали, то проблемы бы не было ?

1
Вторичный пистолет

Просто к человекам больше незаслуженного доверия. Хотя Элизабет Лофтус давно доказала, что доверять биомозгам надо с осторожностью. Как-никак, нейроны не представляют собой строгую последовательность кода.

0

Комментарий удален по просьбе пользователя

1

Ублюдки конечно и надо за такое судиться на компенсацию, но снимать с тестирования эту штуку за такое просто нелепо. Я считаю эту штуку стоит применять только после хорошей отладки и бетатеста

1
Вторичный пистолет

Уважаемый компьютер сыграл в 50/50.

0

эпично обделались.

0
Вторичный пистолет

Подобную систему при одинаковых "способностях" можно настроить так, чтобы она либо как можно реже "пропускала" воров, либо как можно реже "находила" не-воров. Типа это инструмент с параметрами, а не оракул. 

0
Вторичный пистолет

По хорошему к такому указанию вора должна еще прилагаться степень уверенности системы в своем решении. Ну и главное что охранник это должен все знать.

0

Даже при упоре в precision, все равно будут фолс позитивс, на данный момент арест черного по ошибке это конечно ебать беда, но в целом ошибки точно будут всегда, запрещать такое из за повестки - глупо (ну, мое имхо)

0
Вторичный пистолет

Хотелось бы какой-то состязательности чтоли. Если разработчики обучили сетку на китайцах, охранник долбоеб, а менты не знают что такое вероятность, что простой черный парень может противопоставить этой репрессивной машине.

Например я в качестве контраргумента вытаскиваю из своего телефона отчет где я был в такой-то день в такое-то время, и что я логинился в это время лицом например. Но если менты получат всю базу перемещений, то получится наоборот - привлекут всех false positives кто рядом ходил не вникая в подробности.

0

Ну, я согласен, что при соответствующей власти, подобные технологии это большой брат во плоти, но я верю в светлое будущее. А в светлом будущем такого беспредела не будет) Энивей, есть 2 стороны медали, отказываться от подобных крутейших вещей ( ладно ещё из за возможности юзать такое в качестве репрессий, но блять точно не из-за расизма!!) это шаг назад

0

охранника магазина тоже получается можно привлечь за лжесвидетельство? 

0
Читать все 40 комментариев
null