Технологии
Denis Shiryaev
5209

Почему все еще нельзя применять нейронки чтобы искать преступников

Всем привет, это короткая история о том, как Mash пытается применить нейронки для восстановления лица преступника и почему это плохая идея.

В закладки

Сегодня скинули пост на одном из каналов Mash:

В Питере и области ловят опасного преступника. Запомните его.

Мужчину на видео подозревают в нападении на 76-летнюю пенсионерку в парке Александрино (Кировский район). Бабушке нанесли множественные колюще-режущие, украли сумку. Она прожила еще сутки, но сегодня скончалась.

Увид...
В Питере и области ловят опасного преступника. Запомните его.

Мужчину на видео подозревают в нападении на 76-летнюю пенсионерку в парке Александрино (Кировский район). Бабушке нанесли множественные колюще-режущие, украли сумку. Она прожила еще сутки, но сегодня скончалась.

Увидите этого человека — немедленно звоните в полицию.

В конце ролика — детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит.

В конце поста приписка:

>В конце ролика — детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит.

Речь про эту картинку

Я хочу предупредить всех кто балуется этим видом восстановления лиц (в их примере результат работы приложения Remini), что эти «восстановления лиц» нельзя, на данном этапе развития технологий, применять для каких-то выводов или преследования кого-то, потому что они просто генерирую фейковые данные.

Нейронная сеть в приложении Reminu (GAN-алгоритм) обучена на сотнях тысячах лиц людей, все что она умеет, это «примерно дорисовывать лица» чтобы было реалистично и похоже, но гарантировать то, что кто-то невинный не пострадает от такого подхода — нельзя.

Все чаще слышно в последнее время про AI-этику и часто это что-то преувеличенное (вроде GPT2 моделей), но тут, конкретный случай — лицо сгенерированное нейронной сетью не может быть поводом чтобы кого-то задерживать, преследовать, таких преступников нужно ловить классическими способами.

Вот пример:

1) Фото примерно испорченное до состояние того, что у них на видео;

2) Восстановленная версия;

3) Реальная картинка.

Fig 2. нейронный Дружко

В общем, аккуратнее с алгоритмами, товарищи, они все еще придумывают фейковые вещи.

UPD 01.07.2020. Преступника поймали, реальное фото:

Подозреваемый в убийстве в парке Александрино задержан. Сегодня он ограбил ещё одну женщину — и последнюю.

Около 8 утра в 112 сообщили о нападении. Некто ударил по голове 51-летнюю леди, вырвал у неё из рук сумку и убежал. В общем, как в первый раз, но без ножа. Инфа ушла всем ...
Подозреваемый в убийстве в парке Александрино задержан. Сегодня он ограбил ещё одну женщину — и последнюю.

Около 8 утра в 112 сообщили о нападении. Некто ударил по голове 51-летнюю леди, вырвал у неё из рук сумку и убежал. В общем, как в первый раз, но без ножа. Инфа ушла всем патрульным. Скоро они нашли в кустах мужика, который потрошил краденую сумку. Полиция считает, что это Андрей Максимов, который недавно вышел из ИК-3, маньячина со стажем, много раз судимый за такие дела.

Кстати, по поводу портрета злодея, который мы составили с помощью нейросетки. А ничего так, похож! Но не на 100%. Так что это пока больше игрушка, хотя и полезная. Нейросеть "додумывает", а не реально "восстанавливает", и к результатам надо относиться с осторожностью.
Привет, котик 💖 на созвоне 🤙
{ "author_name": "Denis Shiryaev", "author_type": "editor", "tags": ["\u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0438"], "comments": 67, "likes": 66, "favorites": 20, "is_advertisement": false, "subsite_label": "tech", "id": 181882, "is_wide": false, "is_ugc": false, "date": "Thu, 25 Jun 2020 16:52:11 +0300", "is_special": false }
Хакатон
Как узнать, что игра станет хитом, или зачем издателю прототип
Расскажем, почему для этого не надо торопиться с геймплеем, стилистикой или стараться всё сделать идеально с первого…
Объявление на TJ
0
67 комментариев
Популярные
По порядку
Написать комментарий...
59

Ну вот, например:

Ответить
1

Это другое™

Ответить
0

Борьба с расизмом, однако

Ответить
0

Белая версия Обамы

Ответить

Правительственный Орзэмэс

4

Дружко похож 🤷‍♂️

Ответить

Существенный шмель

Правительственн…
19

Нет.

Ответить

Существенный шмель

Существенный
4

Видишь, Денис, даже живые люди не видят разницы между лицами. Куда там нейросети?!

Ответить
14

Попробуй с другой фоткой, там еще и в каждом кадре будет лицо не похожее на предыдущее, зависит от шума

Ответить

Правительственный Орзэмэс

Denis
1

Да похож-похож. Главная же фишка в том, что наши мозги работают на аппроксимации и даже имея точный-точный портрет можно найти на улице пару тысяч таких Дружко, а имея этот приближенный можно узнать оригинал. Это всё фигня, короче, просто у мэша кривая формулировка. 

Ответить

Правительственный Орзэмэс

Правительственн…
1

@Кодзим Дедстрендыч промазал, это тебе ответ :)

Ответить

Тесный Мурод

10

Улучшенный Дружко похож на Ивахнова
@Олег Ивахнов 

Ответить
5

Мм, искать «преступников» таким способом действительно невозможно. Однако можно искать подозреваемых. ☝️

Ответить

Правительственный Орзэмэс

Виталий
4

Вот, типа вы в любом случае найдёте только приблизительно похожего мужика.

А ещё может быть как в этой эпичной истории: https://en.m.wikipedia.org/wiki/Richard_Lee_McNair

Чувак был известен своей способностью к побегам. Например, он однажды отправил самого себя из тюрьмы на волю в грузовом ящике.
А на этом видео у него получилось убедить полицейского, что он просто мимо пробегал. Справедливости ради стоит заметить, что видео старое и фоточки у полицейского были в плохом качестве.
https://youtu.be/vBrnBmUmVzI

Ответить
2

уж явно лучше чем ФОТОРОБОТ, да

Ответить
6

Вроде нейронка нормально улучшила — пропали складки, посвежел цвет лица. Если бы нейронка ещё волосы дорисовала, то вообще было бы пять.

Ответить
2

А такой вопрос
Даже такая нейронка эффективнее фоторобота по описанию очевидцев или нет? 

Ответить
13

Просто это другая формулировка, так и нужно говорить – не "детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит."

А:
"Фоторобот составлен нейронной сетью, относитесь с пониманием".

Потому что нейронки подводят.

Ответить
1

Ну то бишь это вопрос формулировок и составлять фоторобот для поиска подозреваемого с помощью нейронки - ок, а тыкать в кого-то одного и говорить что это он сделал, давайте его посадим - не ок 

Ответить
2

Конечно, люди должны адекватно понимать что это не "восстановление" это "рисование".

Ответить
0

Лучше выложи фотку где нейросеть обаму в белого покрасила

Ответить
8

Особенно, если у очевидца плохая память на лица, типа меня. Я до сих пор путаю Киру Найтли и Натали Портман.
А всякое "тонкий нос", "широкие брови", "прямые губы" для меня вообще какая-то мутная дичь.

Ответить
0

Как можно путать самую красивую женщину в мире и Киру Найтли?

Ответить
0

Ты сейчас про Киру Портман или Натали Найтли?

Ответить

Полноценный

Серёжа
4

Какая Кира тут прекрасная ❤️

Ответить
0

Акира, а он не в курсе.

Ответить

Неподвижный калькулятор

Серёжа
0

Сам удивляюсь - как можно перепутать гладильную доску с чем-то еще?

Ответить

Существенный шмель

Евгений
5

Фоторобот — тоже хуйня, по сути. Некоторые люди слишком хуёво различают лица.

Ответить
2

Не отрицаю, у самого память на лица такая, что даже самых близких людей не опишу нормально

Ответить
0

Можно дорисовать нейронкой, а потом опросить очевидцев. Например, remini дорисовывает похожие глаза/носы. В результате может получится совсем другой человек.

Ответить

Существенный шмель

5

Видимо, додумывать нейронкой дешевле и проще, чем поставить камеры получше.

Ответить

Существенный шмель

Существенный
1

Technology Reversal:
Раньше мы смеялись над мемом из CSI, теперь мем из CSI смеётся над нами.

Ответить
–1

Дешевле, чем хранить тысячи часов видеозаписей в HD для каждой камеры.

Ответить

Существенный шмель

Конрад
0

Почему тысячи? Неделя — это 168 часов. Вполне достаточно. Плюс содержание заключённого выйдет дороже, чем нормальная камера, ещё дороже выйдет обвинение невиновного из-за святой уверенности в безошибочности нейронки.

Ответить
4

Вообще видно что на видео и нейролицо ваообще разные

Ответить
0

Как ты объяснишь что на среднем фото с нейро-Дружко – ты? Вылитый почти!

Ответить
2

Да пиздец одно лицо лол.

Ответить
11

Для меня все лысые на одно лицо

Ответить
1

Ага, как и узкоглазые с черномазыми. А лысого узкоглазого нигера хер кто когда опознает вообще))

Ответить
1

Живу 10 лет с лысым мужиком, и уже иногда получается его отличать от других лысых, но не всегда

На самом деле каждый раз угораю с того, что его сравнивают с Брюсом Уиллисом или Стэтэмом

Ответить

Правительственный Орзэмэс

Олег
0

Ты зачем бабулю зарезал? Как тебе не стыдно! А, стоп. Ты зачем шоу на ютубе открыл, потерял популярность и закрыл?

Ответить

Существенный шмель

Denis
0

Не он.

Ответить
4

-Наведи на того подозрительного мужика
-Приблизь
-Ещё
-Улучши

Ответить
4

Да уж. В деталях совсем разные лица. С мутного фото твой мозг хотя бы сам может подаунскейлить и оценить схожесть конкретного лица. С улучшенной фоткой можно неосознанно наебать себя, пытаясь найти именно такое, так как с ней не идет информация о кол-ве шума в изначальной фотке, от которого избавились. Следовательно, непонятно, насколько "широким" должен быть поиск относительно детализированного лица. Чем более нетипичные черты у разыскиваемого, тем менее он будет похож. Херовая затея в принципе.

Ответить
0

Да как бы и бог с ним, если бы она просто генерировала рандомное лицо, но тут ещё хуже: нейронка ж ничего не "придумывает", она, грубо говоря, делает составной портрет из лиц вполне реальных людей. Где гарантия, что среди данных, которые через неё прогоняли для обучения, нейронка не найдёт лица абсолютно невиновного рандомного человека, удивительно похожего на размытое пятно исходного кадра? Может же в теории такое быть?
Или я хуйню спорол, @Denis Shiryaev ? А то я вообще не спец в этих ваших айти

Ответить
2

Где гарантия, что… нейронка не найдёт лица абсолютно невиновного рандомного человека…?

В процессе уголовного розыска ищутся подозреваемые. Факт вины в совершении преступления устанавливает только и исключительно суд.

Ответить
4

В процессе уголовного розыска ищется человек, а статья находится

Ответить
2

Владимир, в этой парадигме описанный способ розыска не добавляет ничего нового. 🤷🏼‍♂️

Ответить

Правительственный Орзэмэс

Nick
1

Если по фотороботу или мыльной фотке задерживать, то всё тоже самое

Ответить
2

Как я себе это вижу: при составлении фоторобота свидетель говорит следователю, что "у него точно был кривой нос — наверное, сломан. И глаза, кажется, миндалевидные, но может и раскосые, точно не помню". На фоторобот попадут и кривой нос, и миндалевидные глаза, но когда по этому фотороботу найдут 10 человек, то следователь будет знать, что является более весомым признаком.
А в случае с нейронкой ты не знаешь, какие черты лица подозреваемого нейронка угадала, а какие — просто взяла от фонаря по похожим.

Ответить
0

Это не задача идентификации, в данном случае матан под капотом не так работает

Ответить
0

Та я понимаю, что нейронка не выбирает из готового, но если предположить, что каждое лицо собирается из тысячи паззлов, взятых из тысячи лиц, то есть статистическая вероятность, что восемьсот паззлов из этой тысячи будут взяты из одного лица, потому что ну тупо подходит каждый отдельной взятый паззл.

Ответить
1

На данном уровне развития ничем не лучше лотереи с пресловутым фотороботом. Дружко с его неординарной внешностью узнается с трудом. А с ноунеймом вообще не прокатит.

Ответить

Недовольный рубин

1

Мэш хайпожоры, им вообще поебать на любую этику

Ответить
0

fake it till you make it

Ответить
0

А что не так? Чет не понял вроде все похоже

Ответить

Существенный шмель

Jesus
0

Нeт.

Ответить
0

Это просто пиздец, из-за такой хуйни могут реально невиновного человека обвинить

Ответить

Многолетний колос

0

Нейронка назыаается PULSE, в код в свободном доступе. Если кому нужно пишите. 

Ответить
0

Нет, нейронка не называется PULSE, PULSE даунскейл делает и восстанавливает, и ограничена celeb датасетом, там мало лиц

Ответить
0

Меш же помойка, их не подводит только жажла генерировать кал

Ответить
0

Это плохая идея, потому что нейросеть "додумывает", а не берет с помощью магии какую-то точную информацию из мира духов.

Ответить
0

Fig 2.

Умнай штоле?

Ответить
0

Еще одно подтверждение того, что распознавание лиц фуфло https://www.securitylab.ru/news/509490.php

Ответить
Обсуждаемое
Новости
Трамп заявил о распространении идеологии «нового крайне левого фашизма» в США
Президент США Дональд Трамп заявил, что сторонники «нового крайне левого фашизма» пытаются уничтожить историю страны и ценности, достигнутые в ходе американской революции, передает Fox News
Twitter
Илья Варламов об уничтожении архитектуры в России
«Ребёнок вырастет чудовищем не из-за радужного флага, не из-за мороженого, а из-за вас д*******в».
Новости
Шесть пилотов «Формулы-1» не стали преклонять колено в знак протеста против расизма. Среди них — россиянин Даниил Квят
Акцию провели перед стартом Гран-при Австрии. Хоть и не все пилоты повторили жест, но они вышли в футболках против расизма.
Популярное за три дня
Разборы
Журналистке Светлане Прокопьевой грозит шесть лет за мнение о теракте. Чем необычно и важно её дело
В чём власти нашли «оправдание терроризма» и что не так с обвинениями — напоминаем перед приговором.
Новости
Шесть пилотов «Формулы-1» не стали преклонять колено в знак протеста против расизма. Среди них — россиянин Даниил Квят
Акцию провели перед стартом Гран-при Австрии. Хоть и не все пилоты повторили жест, но они вышли в футболках против расизма.
Интернет
Путину пожаловались на мороженое «Радуга», увидев в нём пропаганду ЛГБТ. В сети ждут, что скоро запретят и саму радугу
Глава союза женщин России посчитала радужные билборды и название мороженого «незаметной рекламой нетрадиционных ценностей». Поправки в Конституцию только вступили в силу, а уже началось!