В США зафиксировали первый ошибочный арест из-за технологии распознавания лиц — система указала на невиновного человека Материал редакции

Мужчину, которого алгоритмы спутали с магазинным вором, продержали под стражей более суток. И потом объяснили это «ошибкой компьютера».

В закладки
Слушать

Ошибка технологии распознавания лица привела к неправомерному аресту темнокожего мужчины в Детройте. Об этом сообщается в жалобе Американского союза гражданских свобод (ACLU), поданной на местный департамент полиции. СМИ называют это первым известным случаем в стране, когда работа подобным алгоритмов приводила к ошибочному задержанию.

В январе 2020 года 42-летний житель Детройта Роберт Уильямс (Robert Williams) провёл в заключении более суток. До этого в местном магазине Shinola кто-то украл пять часов общей стоимостью в 3,8 тысячи долларов. Полицейские взяли нечёткие кадры с камер наблюдения (на них попал подозреваемый) и пропустили через систему распознавания лиц от компании Rank One Computing. Она показала совпадение с фотографией на водительском удостоверении Уильямса.

Неизвестно, были ли у полиции дополнительные свидетельства вины Уильямса. В ACLU отметили, что фото подозреваемого показали охраннику магазина, и тот идентифицировал вора, хотя не был свидетелем преступления.

При этом в полицейском отчёте о результатах проверки алгоритмом указано, что система не должна использоваться в качестве единственной причины для ареста. Тем не менее, Уильямс провёл под стражей более 30 часов, после чего офицеры отпустили его со словами: «Должно быть, компьютер ошибся».

В жалобе ACLU требуют от полиции Детройта снятия ареста, публичных извинений и удаления фотографий из полицейских баз данных для распознавания лиц. Также речь зашла о прекращении тестирования алгоритмов для поимки преступников: «Это первый известный случай в США, но могут быть ещё и другие». Сам Уильямс в колонке для Washington Post подчеркнул, что он бы и не узнал о роли алгоритмов в своём аресте, если бы об этом не проговорился один из офицеров.

ACLU подала жалобу и обнародовала инцидент на фоне всё больших опасений по поводу технологий распознавания лиц. В июне IBM, Amazon и Microsoft практически одновременно заявили, что либо прекратят, либо приостановят работу над подобными системами, а также перестанут продавать наработки полиции. Это произошло после масштабных протестов из-за смерти афроамериканца Джорджа Флойда во время задержания.

ничего не знаю, подписывайтесь на мой твиттер: twitter.com/zhenya_indigo
{ "author_name": "Женя Кузьмин", "author_type": "editor", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438","\u043d\u043e\u0432\u043e\u0441\u0442\u0438"], "comments": 40, "likes": 27, "favorites": 4, "is_advertisement": false, "subsite_label": "tech", "id": 181597, "is_wide": false, "is_ugc": false, "date": "Wed, 24 Jun 2020 19:54:45 +0300", "is_special": false }
Хакатон
Как узнать, что игра станет хитом, или зачем издателю прототип
Расскажем, почему для этого не надо торопиться с геймплеем, стилистикой или стараться всё сделать идеально с первого…
Объявление на TJ
0
40 комментариев
Популярные
По порядку
Написать комментарий...

Универсальный утюг

35

Технологию заставить публично извиниться

Ответить
0

В принципе, если не присматриваться, то не отличить!

Ответить

Неподвижный калькулятор

9

Не могу их винить. Для меня черные тоже на одно лицо.

Ответить

Вирусный ГОСТ

Неподвижный
7

А вот отвечу на шутку серьёзно. Может это у меня одного, но негров отлично различаю, даже самых трушных, чего не скажешь об азиатах — от там пиздец, нейросеть в ступоре.

Ответить
6

вот тоже серьезно. я из дальнего востока. азиат. у нас есть некоторые русские и они серьезно отличались от русских, которых показывали по телеку.
учился в москве. и вот смотреть трушных славян русских со светлыми русыми прямыми волосами и голубыми глазами со светлой кожей, то иванушек от иванушки не отличишь. все на одно лицо. и русские, и белорусы, и украинцы, и сербы. 
просто тут главное трушность. понятно, что сейчас у среднестатистического русского и евреи будут на роду, и кавказцы, и молдаване и так далее. 
а вот китайцы как бы не очень смешиваются как я понял. если даже да, то среди азиатов же. вот и получается

Ответить

Существенный шмель

Zakhar
6

Последнее — неправда, смешивались они со всеми соседями крайне активно. Китайцы как таковые включают в себя около 50 этносов. И многие различаются даже фенотипически довольно сильно. Самая заметная разница, конечно, — это северные китайцы и южные.

Ответить
0

ну, я и говорю, что смешиваются с родственными национальностями. как русские с украинцами, белорусами. и там отличий никаких не будет

Ответить
4

Когда жил среди азиатов, всех чётко различал, затем начал жить среди европейцев и навык различать азиатов ослабел

Вывод, нейронкие нужна бОльшая база для обучения
PS но конечно с неграми сложнее думаю, а если качество съемки не оч, так вобще хуёво.

Ответить
2

Есть очень черные негры (как правило из Африки), даже в США такие редкость, потому что популяция американских негров серьезно смешались с более светлыми или вообще с белыми. Вот этих черных как уголь вообще фиг отличишь друг от друга, у нас на таких глаз не наметан совершенно. Я недавно видел двух таких студентов, рост у обоих за два метра, на вид как близнецы. Понятно, что если пообщаться, присмотреться, то быстро научишься различать, но когда видишь их в толпе первый раз, они кажутся совершенно одинаковыми.

Ответить

Существенный шмель

Неподвижный
5

https://www.pnas.org/content/116/29/14532
 
Зрительная кора так работает, что обобщает лица других рас и заставляет меньше «всматриваться» в индивидуальные
различия в чертах лиц, если мы смотрим на людей другой расы. То есть это своего рода иллюзия и невнимательность вместе для простоты восприятия.

Ответить
0

Я тоже негров не различаю практически, сериал прослушка был просто болью) с азиатами такая ж херь

Ответить
8

Я не расист, но он же ниггер, значит в чем-то другом виновен? Зачем отпускать?

Ответить
6

Как говорится, был бы ниггер, а статя найдётся 

Ответить
2

Если человек пишет "я не расист, но", то этот человек расист😀

Ответить

Неизвестный спрей

Антон
0

Я не расист, но мне не нравятся ни оливки, ни маслины.

Ответить
0

Ты не расист, а просто дурак

Ответить
0

Почему?

Ответить

Неизвестный спрей

Сергей
1

Потому что Марк Туллий думал, что так быстро срубит халявный лайкосов.

Ответить
3

Detroit: Become Kojanniy meshock 

Ответить
0

Hello, Lieutenant. My name is Connor. I'm the android sent by Cyberlife.

Ответить
1

Вы бы хоть прочитали что там написано для начала

Спойлер: она не может быть причиной ареста

Ответить
1

Ну в итоге после репорта нейросети охранник в магазине обделался и указал на него.

Ответить
1

к неправомерному аресту темнокожего мужчины в Детройте

Ответить
1

28 залутанных магазинов!

Ответить

Хороший Илья

1

То есть если бы его по фотороботу кожаные мешки арестовали, то проблемы бы не было ?

Ответить

Существенный шмель

Хороший
0

Просто к человекам больше незаслуженного доверия. Хотя Элизабет Лофтус давно доказала, что доверять биомозгам надо с осторожностью. Как-никак, нейроны не представляют собой строгую последовательность кода.

Ответить
1

@Женя Кузьмин добавь данные, сколько преступников каждый год с помощью распознавания лиц и без физического участия полиции задерживается.

Ответить
1

Ублюдки конечно и надо за такое судиться на компенсацию, но снимать с тестирования эту штуку за такое просто нелепо. Я считаю эту штуку стоит применять только после хорошей отладки и бетатеста

Ответить
0

Уважаемый компьютер сыграл в 50/50.

Ответить
0

эпично обделались.

Ответить
0

Подобную систему при одинаковых "способностях" можно настроить так, чтобы она либо как можно реже "пропускала" воров, либо как можно реже "находила" не-воров. Типа это инструмент с параметрами, а не оракул. 

Ответить
0

По хорошему к такому указанию вора должна еще прилагаться степень уверенности системы в своем решении. Ну и главное что охранник это должен все знать.

Ответить
0

Даже при упоре в precision, все равно будут фолс позитивс, на данный момент арест черного по ошибке это конечно ебать беда, но в целом ошибки точно будут всегда, запрещать такое из за повестки - глупо (ну, мое имхо)

Ответить
0

Хотелось бы какой-то состязательности чтоли. Если разработчики обучили сетку на китайцах, охранник долбоеб, а менты не знают что такое вероятность, что простой черный парень может противопоставить этой репрессивной машине.

Например я в качестве контраргумента вытаскиваю из своего телефона отчет где я был в такой-то день в такое-то время, и что я логинился в это время лицом например. Но если менты получат всю базу перемещений, то получится наоборот - привлекут всех false positives кто рядом ходил не вникая в подробности.

Ответить
0

Ну, я согласен, что при соответствующей власти, подобные технологии это большой брат во плоти, но я верю в светлое будущее. А в светлом будущем такого беспредела не будет) Энивей, есть 2 стороны медали, отказываться от подобных крутейших вещей ( ладно ещё из за возможности юзать такое в качестве репрессий, но блять точно не из-за расизма!!) это шаг назад

Ответить
0

охранника магазина тоже получается можно привлечь за лжесвидетельство? 

Ответить
Обсуждаемое
Интернет
Канье Уэст объявил о планах баллотироваться в президенты США — за четыре месяца до выборов. Его поддержал Илон Маск
Рэпер давно говорил, что хочет стать президентом в 2020 или 2024 годах, но планирует ли он вступить в гонку всерьёз? В любом случае, его заявление вызвало реакцию в сети.
Музыка
Запись в подсайте Музыка
Давайте делиться треками, которые некогда раздербанили вам сердечки в кашу? Начну с парочки своих:
Разборы
Журналистке Светлане Прокопьевой грозит шесть лет за мнение о теракте. Чем необычно и важно её дело
В чём власти нашли «оправдание терроризма» и что не так с обвинениями — напоминаем перед приговором.
Популярное за три дня
Twitter
Илья Варламов об уничтожении архитектуры в России
«Ребёнок вырастет чудовищем не из-за радужного флага, не из-за мороженого, а из-за вас д*******в».
Разборы
Журналистке Светлане Прокопьевой грозит шесть лет за мнение о теракте. Чем необычно и важно её дело
В чём власти нашли «оправдание терроризма» и что не так с обвинениями — напоминаем перед приговором.
Интернет
Приходите к нам в ботанику, орнитологию и электронику, у нас есть вещи, которые трудно друг от друга отличить
Представители разных сфер рекламируют свою деятельность и увлечения, но в то же время показывают тонкости — нужно разбираться в видах почти одинаковых жёлтых цветков или конденсаторов.