Рубрика развивается при поддержке
Advertisement
Технологии
Denis Shiryaev

Почему все еще нельзя применять нейронки чтобы искать преступников

Всем привет, это короткая история о том, как Mash пытается применить нейронки для восстановления лица преступника и почему это плохая идея.

Сегодня скинули пост на одном из каналов Mash:

В Питере и области ловят опасного преступника. Запомните его.

Мужчину на видео подозревают в нападении на 76-летнюю пенсионерку в парке Александрино (Кировский район). Бабушке нанесли множественные колюще-режущие, украли сумку. Она прожила еще сутки, но сегодня скончалась.

Увид...
В Питере и области ловят опасного преступника. Запомните его.

Мужчину на видео подозревают в нападении на 76-летнюю пенсионерку в парке Александрино (Кировский район). Бабушке нанесли множественные колюще-режущие, украли сумку. Она прожила еще сутки, но сегодня скончалась.

Увидите этого человека — немедленно звоните в полицию.

В конце ролика — детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит.

В конце поста приписка:

>В конце ролика — детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит.

Речь про эту картинку

Я хочу предупредить всех кто балуется этим видом восстановления лиц (в их примере результат работы приложения Remini), что эти «восстановления лиц» нельзя, на данном этапе развития технологий, применять для каких-то выводов или преследования кого-то, потому что они просто генерирую фейковые данные.

Нейронная сеть в приложении Reminu (GAN-алгоритм) обучена на сотнях тысячах лиц людей, все что она умеет, это «примерно дорисовывать лица» чтобы было реалистично и похоже, но гарантировать то, что кто-то невинный не пострадает от такого подхода — нельзя.

Все чаще слышно в последнее время про AI-этику и часто это что-то преувеличенное (вроде GPT2 моделей), но тут, конкретный случай — лицо сгенерированное нейронной сетью не может быть поводом чтобы кого-то задерживать, преследовать, таких преступников нужно ловить классическими способами.

Вот пример:

1) Фото примерно испорченное до состояние того, что у них на видео;

2) Восстановленная версия;

3) Реальная картинка.

Fig 2. нейронный Дружко

В общем, аккуратнее с алгоритмами, товарищи, они все еще придумывают фейковые вещи.

UPD 01.07.2020. Преступника поймали, реальное фото:

Подозреваемый в убийстве в парке Александрино задержан. Сегодня он ограбил ещё одну женщину — и последнюю.

Около 8 утра в 112 сообщили о нападении. Некто ударил по голове 51-летнюю леди, вырвал у неё из рук сумку и убежал. В общем, как в первый раз, но без ножа. Инфа ушла всем ...
Подозреваемый в убийстве в парке Александрино задержан. Сегодня он ограбил ещё одну женщину — и последнюю.

Около 8 утра в 112 сообщили о нападении. Некто ударил по голове 51-летнюю леди, вырвал у неё из рук сумку и убежал. В общем, как в первый раз, но без ножа. Инфа ушла всем патрульным. Скоро они нашли в кустах мужика, который потрошил краденую сумку. Полиция считает, что это Андрей Максимов, который недавно вышел из ИК-3, маньячина со стажем, много раз судимый за такие дела.

Кстати, по поводу портрета злодея, который мы составили с помощью нейросетки. А ничего так, похож! Но не на 100%. Так что это пока больше игрушка, хотя и полезная. Нейросеть "додумывает", а не реально "восстанавливает", и к результатам надо относиться с осторожностью.
0
67 комментариев
Популярные
По порядку
Написать комментарий...

Ну вот, например:

59
Абстрактный дебаркадер
39

Это другое™

1
Абстрактный дебаркадер

Борьба с расизмом, однако

0

Белая версия Обамы

0
Абстрактный дебаркадер

Комментарий удален по просьбе пользователя

4
Абстрактный дебаркадер

Нет.

19
Абстрактный дебаркадер

Видишь, Денис, даже живые люди не видят разницы между лицами. Куда там нейросети?!

4

Попробуй с другой фоткой, там еще и в каждом кадре будет лицо не похожее на предыдущее, зависит от шума

14
Абстрактный дебаркадер

Комментарий удален по просьбе пользователя

1
Абстрактный дебаркадер

Комментарий удален по просьбе пользователя

1

Улучшенный Дружко похож на Ивахнова
@Олег Ивахнов 

10

Мм, искать «преступников» таким способом действительно невозможно. Однако можно искать подозреваемых. ☝️

5
Абстрактный дебаркадер

Комментарий удален по просьбе пользователя ред.

4

уж явно лучше чем ФОТОРОБОТ, да

2
Абстрактный дебаркадер

Вроде нейронка нормально улучшила — пропали складки, посвежел цвет лица. Если бы нейронка ещё волосы дорисовала, то вообще было бы пять.

6

Комментарий удален по просьбе пользователя

2

Просто это другая формулировка, так и нужно говорить – не "детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит."

А:
"Фоторобот составлен нейронной сетью, относитесь с пониманием".

Потому что нейронки подводят.

13

Комментарий удален по просьбе пользователя

1

Конечно, люди должны адекватно понимать что это не "восстановление" это "рисование".

2
Абстрактный дебаркадер

Лучше выложи фотку где нейросеть обаму в белого покрасила

0
Абстрактный дебаркадер

Особенно, если у очевидца плохая память на лица, типа меня. Я до сих пор путаю Киру Найтли и Натали Портман.
А всякое "тонкий нос", "широкие брови", "прямые губы" для меня вообще какая-то мутная дичь.

8

Как можно путать самую красивую женщину в мире и Киру Найтли?

0
Абстрактный дебаркадер

Ты сейчас про Киру Портман или Натали Найтли?

0
Абстрактный дебаркадер

Какая Кира тут прекрасная ❤️

4

Акира, а он не в курсе.

0
Абстрактный дебаркадер

Сам удивляюсь - как можно перепутать гладильную доску с чем-то еще?

0
Абстрактный дебаркадер

Фоторобот — тоже хуйня, по сути. Некоторые люди слишком хуёво различают лица.

5

Комментарий удален по просьбе пользователя

2
Абстрактный дебаркадер

Можно дорисовать нейронкой, а потом опросить очевидцев. Например, remini дорисовывает похожие глаза/носы. В результате может получится совсем другой человек.

0
Абстрактный дебаркадер

Видимо, додумывать нейронкой дешевле и проще, чем поставить камеры получше.

5
Абстрактный дебаркадер

Technology Reversal:
Раньше мы смеялись над мемом из CSI, теперь мем из CSI смеётся над нами.

1

Дешевле, чем хранить тысячи часов видеозаписей в HD для каждой камеры.

–1
Абстрактный дебаркадер

Почему тысячи? Неделя — это 168 часов. Вполне достаточно. Плюс содержание заключённого выйдет дороже, чем нормальная камера, ещё дороже выйдет обвинение невиновного из-за святой уверенности в безошибочности нейронки.

0
Абстрактный дебаркадер

Вообще видно что на видео и нейролицо ваообще разные

4

Как ты объяснишь что на среднем фото с нейро-Дружко – ты? Вылитый почти!

0
Абстрактный дебаркадер

Да пиздец одно лицо лол.

2

Для меня все лысые на одно лицо

11

Ага, как и узкоглазые с черномазыми. А лысого узкоглазого нигера хер кто когда опознает вообще))

1

Живу 10 лет с лысым мужиком, и уже иногда получается его отличать от других лысых, но не всегда

На самом деле каждый раз угораю с того, что его сравнивают с Брюсом Уиллисом или Стэтэмом

1
Абстрактный дебаркадер

Комментарий удален по просьбе пользователя

0
Абстрактный дебаркадер

Не он.

0

-Наведи на того подозрительного мужика
-Приблизь
-Ещё
-Улучши

4

Да уж. В деталях совсем разные лица. С мутного фото твой мозг хотя бы сам может подаунскейлить и оценить схожесть конкретного лица. С улучшенной фоткой можно неосознанно наебать себя, пытаясь найти именно такое, так как с ней не идет информация о кол-ве шума в изначальной фотке, от которого избавились. Следовательно, непонятно, насколько "широким" должен быть поиск относительно детализированного лица. Чем более нетипичные черты у разыскиваемого, тем менее он будет похож. Херовая затея в принципе.

4

Да как бы и бог с ним, если бы она просто генерировала рандомное лицо, но тут ещё хуже: нейронка ж ничего не "придумывает", она, грубо говоря, делает составной портрет из лиц вполне реальных людей. Где гарантия, что среди данных, которые через неё прогоняли для обучения, нейронка не найдёт лица абсолютно невиновного рандомного человека, удивительно похожего на размытое пятно исходного кадра? Может же в теории такое быть?
Или я хуйню спорол, @Denis Shiryaev ? А то я вообще не спец в этих ваших айти

0

Где гарантия, что… нейронка не найдёт лица абсолютно невиновного рандомного человека…?

В процессе уголовного розыска ищутся подозреваемые. Факт вины в совершении преступления устанавливает только и исключительно суд.

2

В процессе уголовного розыска ищется человек, а статья находится

4

Владимир, в этой парадигме описанный способ розыска не добавляет ничего нового. 🤷🏼‍♂️

2
Абстрактный дебаркадер

Комментарий удален по просьбе пользователя

1

Как я себе это вижу: при составлении фоторобота свидетель говорит следователю, что "у него точно был кривой нос — наверное, сломан. И глаза, кажется, миндалевидные, но может и раскосые, точно не помню". На фоторобот попадут и кривой нос, и миндалевидные глаза, но когда по этому фотороботу найдут 10 человек, то следователь будет знать, что является более весомым признаком.
А в случае с нейронкой ты не знаешь, какие черты лица подозреваемого нейронка угадала, а какие — просто взяла от фонаря по похожим.

2

Это не задача идентификации, в данном случае матан под капотом не так работает

0

Та я понимаю, что нейронка не выбирает из готового, но если предположить, что каждое лицо собирается из тысячи паззлов, взятых из тысячи лиц, то есть статистическая вероятность, что восемьсот паззлов из этой тысячи будут взяты из одного лица, потому что ну тупо подходит каждый отдельной взятый паззл.

0

На данном уровне развития ничем не лучше лотереи с пресловутым фотороботом. Дружко с его неординарной внешностью узнается с трудом. А с ноунеймом вообще не прокатит.

1
Абстрактный дебаркадер

Мэш хайпожоры, им вообще поебать на любую этику

1

fake it till you make it

0

А что не так? Чет не понял вроде все похоже

0
Абстрактный дебаркадер

Нeт.

0

Это просто пиздец, из-за такой хуйни могут реально невиновного человека обвинить

0
Абстрактный дебаркадер

Нейронка назыаается PULSE, в код в свободном доступе. Если кому нужно пишите. 

0

Нет, нейронка не называется PULSE, PULSE даунскейл делает и восстанавливает, и ограничена celeb датасетом, там мало лиц

0

Меш же помойка, их не подводит только жажла генерировать кал

0

Это плохая идея, потому что нейросеть "додумывает", а не берет с помощью магии какую-то точную информацию из мира духов.

0

Fig 2.

Умнай штоле?

0

Еще одно подтверждение того, что распознавание лиц фуфло https://www.securitylab.ru/news/509490.php

0
Читать все 67 комментариев
null