{"id":1064,"title":"\u041f\u0440\u043e\u0439\u0434\u0438\u0442\u0435 \u044d\u0442\u043e\u0442 \u0442\u0435\u0441\u0442, \u043f\u043e\u043a\u0430 \u043a\u0440\u0438\u043f\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u044e \u0438\u0437 \u0435\u0434\u044b \u043d\u0435 \u0437\u0430\u043f\u0440\u0435\u0442\u0438\u043b\u0438","url":"\/redirect?component=advertising&id=1064&url=https:\/\/tjournal.ru\/special\/kaleidofood&placeBit=1&hash=f30606208ead4bb67ee3624f20be3cd7a9b9c0ae8b2bd8a40218541848752d25","isPaidAndBannersEnabled":false}
Технологии
Denis Shiryaev

Почему все еще нельзя применять нейронки чтобы искать преступников

Всем привет, это короткая история о том, как Mash пытается применить нейронки для восстановления лица преступника и почему это плохая идея.

Сегодня скинули пост на одном из каналов Mash:

В Питере и области ловят опасного преступника. Запомните его.

Мужчину на видео подозревают в нападении на 76-летнюю пенсионерку в парке Александрино (Кировский район). Бабушке нанесли множественные колюще-режущие, украли сумку. Она прожила еще сутки, но сегодня скончалась.

Увид...
В Питере и области ловят опасного преступника. Запомните его.

Мужчину на видео подозревают в нападении на 76-летнюю пенсионерку в парке Александрино (Кировский район). Бабушке нанесли множественные колюще-режущие, украли сумку. Она прожила еще сутки, но сегодня скончалась.

Увидите этого человека — немедленно звоните в полицию.

В конце ролика — детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит.

В конце поста приписка:

>В конце ролика — детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит.

Речь про эту картинку

Я хочу предупредить всех кто балуется этим видом восстановления лиц (в их примере результат работы приложения Remini), что эти «восстановления лиц» нельзя, на данном этапе развития технологий, применять для каких-то выводов или преследования кого-то, потому что они просто генерирую фейковые данные.

Нейронная сеть в приложении Reminu (GAN-алгоритм) обучена на сотнях тысячах лиц людей, все что она умеет, это «примерно дорисовывать лица» чтобы было реалистично и похоже, но гарантировать то, что кто-то невинный не пострадает от такого подхода — нельзя.

Все чаще слышно в последнее время про AI-этику и часто это что-то преувеличенное (вроде GPT2 моделей), но тут, конкретный случай — лицо сгенерированное нейронной сетью не может быть поводом чтобы кого-то задерживать, преследовать, таких преступников нужно ловить классическими способами.

Вот пример:

1) Фото примерно испорченное до состояние того, что у них на видео;

2) Восстановленная версия;

3) Реальная картинка.

Fig 2. нейронный Дружко

В общем, аккуратнее с алгоритмами, товарищи, они все еще придумывают фейковые вещи.

UPD 01.07.2020. Преступника поймали, реальное фото:

Подозреваемый в убийстве в парке Александрино задержан. Сегодня он ограбил ещё одну женщину — и последнюю.

Около 8 утра в 112 сообщили о нападении. Некто ударил по голове 51-летнюю леди, вырвал у неё из рук сумку и убежал. В общем, как в первый раз, но без ножа. Инфа ушла всем ...
Подозреваемый в убийстве в парке Александрино задержан. Сегодня он ограбил ещё одну женщину — и последнюю.

Около 8 утра в 112 сообщили о нападении. Некто ударил по голове 51-летнюю леди, вырвал у неё из рук сумку и убежал. В общем, как в первый раз, но без ножа. Инфа ушла всем патрульным. Скоро они нашли в кустах мужика, который потрошил краденую сумку. Полиция считает, что это Андрей Максимов, который недавно вышел из ИК-3, маньячина со стажем, много раз судимый за такие дела.

Кстати, по поводу портрета злодея, который мы составили с помощью нейросетки. А ничего так, похож! Но не на 100%. Так что это пока больше игрушка, хотя и полезная. Нейросеть "додумывает", а не реально "восстанавливает", и к результатам надо относиться с осторожностью.
0
67 комментариев
Популярные
По порядку
Написать комментарий...
German Times

Ну вот, например:

Ответить
59
Развернуть ветку
Всякий татарин
Ответить
39
Развернуть ветку
Denis Shiryaev

Это другое™

Ответить
1
Развернуть ветку
Всякий татарин

Борьба с расизмом, однако

Ответить
0
Развернуть ветку
Ярослав Агин

Белая версия Обамы

Ответить
0
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
4
Развернуть ветку
Всякий татарин

Нет.

Ответить
19
Развернуть ветку
Всякий татарин

Видишь, Денис, даже живые люди не видят разницы между лицами. Куда там нейросети?!

Ответить
4
Развернуть ветку
Denis Shiryaev

Попробуй с другой фоткой, там еще и в каждом кадре будет лицо не похожее на предыдущее, зависит от шума

Ответить
14
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Пешка Комитета

Улучшенный Дружко похож на Ивахнова
@Олег Ивахнов 

Ответить
10
Развернуть ветку
Виталий Иванович Иванов

Мм, искать «преступников» таким способом действительно невозможно. Однако можно искать подозреваемых. ☝️

Ответить
5
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
4
Развернуть ветку
Эмиль Рубанов

уж явно лучше чем ФОТОРОБОТ, да

Ответить
2
Развернуть ветку
Всякий татарин

Вроде нейронка нормально улучшила — пропали складки, посвежел цвет лица. Если бы нейронка ещё волосы дорисовала, то вообще было бы пять.

Ответить
6
Развернуть ветку
Решительный космос

Комментарий удален по просьбе пользователя

Ответить
2
Развернуть ветку
Denis Shiryaev

Просто это другая формулировка, так и нужно говорить – не "детализированный портрет, полученный нами при помощи нейросетки. Обычно она не подводит."

А:
"Фоторобот составлен нейронной сетью, относитесь с пониманием".

Потому что нейронки подводят.

Ответить
13
Развернуть ветку
Решительный космос

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Denis Shiryaev

Конечно, люди должны адекватно понимать что это не "восстановление" это "рисование".

Ответить
2
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Всякий татарин

Особенно, если у очевидца плохая память на лица, типа меня. Я до сих пор путаю Киру Найтли и Натали Портман.
А всякое "тонкий нос", "широкие брови", "прямые губы" для меня вообще какая-то мутная дичь.

Ответить
8
Развернуть ветку
Серёжа Смирнов

Как можно путать самую красивую женщину в мире и Киру Найтли?

Ответить
0
Развернуть ветку
Всякий татарин

Ты сейчас про Киру Портман или Натали Найтли?

Ответить
0
Развернуть ветку
Серёжа Смирнов

💔

Ответить
0
Развернуть ветку
Всякий татарин

Какая Кира тут прекрасная ❤️

Ответить
4
Развернуть ветку
Константин Курасов

Акира, а он не в курсе.

Ответить
0
Развернуть ветку
Всякий татарин

Сам удивляюсь - как можно перепутать гладильную доску с чем-то еще?

Ответить
0
Развернуть ветку
Всякий татарин

Фоторобот — тоже хуйня, по сути. Некоторые люди слишком хуёво различают лица.

Ответить
5
Развернуть ветку
Решительный космос

Комментарий удален по просьбе пользователя

Ответить
2
Развернуть ветку
Всякий татарин

Можно дорисовать нейронкой, а потом опросить очевидцев. Например, remini дорисовывает похожие глаза/носы. В результате может получится совсем другой человек.

Ответить
0
Развернуть ветку
Всякий татарин

Видимо, додумывать нейронкой дешевле и проще, чем поставить камеры получше.

Ответить
5
Развернуть ветку
Всякий татарин

Technology Reversal:
Раньше мы смеялись над мемом из CSI, теперь мем из CSI смеётся над нами.

Ответить
1
Развернуть ветку
Конрад Карлович

Дешевле, чем хранить тысячи часов видеозаписей в HD для каждой камеры.

Ответить
–1
Развернуть ветку
Всякий татарин

Почему тысячи? Неделя — это 168 часов. Вполне достаточно. Плюс содержание заключённого выйдет дороже, чем нормальная камера, ещё дороже выйдет обвинение невиновного из-за святой уверенности в безошибочности нейронки.

Ответить
0
Развернуть ветку
Всякий татарин

Вообще видно что на видео и нейролицо ваообще разные

Ответить
4
Развернуть ветку
Denis Shiryaev

Как ты объяснишь что на среднем фото с нейро-Дружко – ты? Вылитый почти!

Ответить
0
Развернуть ветку
Всякий татарин

Да пиздец одно лицо лол.

Ответить
2
Развернуть ветку
Denis Shiryaev

Для меня все лысые на одно лицо

Ответить
11
Развернуть ветку
Максим Хрущаков

Ага, как и узкоглазые с черномазыми. А лысого узкоглазого нигера хер кто когда опознает вообще))

Ответить
1
Развернуть ветку
Яня

Живу 10 лет с лысым мужиком, и уже иногда получается его отличать от других лысых, но не всегда

На самом деле каждый раз угораю с того, что его сравнивают с Брюсом Уиллисом или Стэтэмом

Ответить
1
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
0
Развернуть ветку
Всякий татарин

Не он.

Ответить
0
Развернуть ветку
Женечка

-Наведи на того подозрительного мужика
-Приблизь
-Ещё
-Улучши

Ответить
4
Развернуть ветку
Владимир Прохоровитч

Да уж. В деталях совсем разные лица. С мутного фото твой мозг хотя бы сам может подаунскейлить и оценить схожесть конкретного лица. С улучшенной фоткой можно неосознанно наебать себя, пытаясь найти именно такое, так как с ней не идет информация о кол-ве шума в изначальной фотке, от которого избавились. Следовательно, непонятно, насколько "широким" должен быть поиск относительно детализированного лица. Чем более нетипичные черты у разыскиваемого, тем менее он будет похож. Херовая затея в принципе.

Ответить
4
Развернуть ветку
Владимир Прохоровитч
Ответить
2
Развернуть ветку
Владимир Прохоровитч
Ответить
2
Развернуть ветку
Nick Logveniuk

Да как бы и бог с ним, если бы она просто генерировала рандомное лицо, но тут ещё хуже: нейронка ж ничего не "придумывает", она, грубо говоря, делает составной портрет из лиц вполне реальных людей. Где гарантия, что среди данных, которые через неё прогоняли для обучения, нейронка не найдёт лица абсолютно невиновного рандомного человека, удивительно похожего на размытое пятно исходного кадра? Может же в теории такое быть?
Или я хуйню спорол, @Denis Shiryaev ? А то я вообще не спец в этих ваших айти

Ответить
0
Развернуть ветку
Виталий Иванович Иванов

Где гарантия, что… нейронка не найдёт лица абсолютно невиновного рандомного человека…?

В процессе уголовного розыска ищутся подозреваемые. Факт вины в совершении преступления устанавливает только и исключительно суд.

Ответить
2
Развернуть ветку
Vladimir Ignatov

В процессе уголовного розыска ищется человек, а статья находится

Ответить
4
Развернуть ветку
Виталий Иванович Иванов

Владимир, в этой парадигме описанный способ розыска не добавляет ничего нового. 🤷🏼‍♂️

Ответить
2
Развернуть ветку
Всякий татарин

Комментарий удален по просьбе пользователя

Ответить
1
Развернуть ветку
Nick Logveniuk

Как я себе это вижу: при составлении фоторобота свидетель говорит следователю, что "у него точно был кривой нос — наверное, сломан. И глаза, кажется, миндалевидные, но может и раскосые, точно не помню". На фоторобот попадут и кривой нос, и миндалевидные глаза, но когда по этому фотороботу найдут 10 человек, то следователь будет знать, что является более весомым признаком.
А в случае с нейронкой ты не знаешь, какие черты лица подозреваемого нейронка угадала, а какие — просто взяла от фонаря по похожим.

Ответить
2
Развернуть ветку
Pavel Averyanov

Это не задача идентификации, в данном случае матан под капотом не так работает

Ответить
0
Развернуть ветку
Nick Logveniuk

Та я понимаю, что нейронка не выбирает из готового, но если предположить, что каждое лицо собирается из тысячи паззлов, взятых из тысячи лиц, то есть статистическая вероятность, что восемьсот паззлов из этой тысячи будут взяты из одного лица, потому что ну тупо подходит каждый отдельной взятый паззл.

Ответить
0
Развернуть ветку
Руслан Турченко

На данном уровне развития ничем не лучше лотереи с пресловутым фотороботом. Дружко с его неординарной внешностью узнается с трудом. А с ноунеймом вообще не прокатит.

Ответить
1
Развернуть ветку
Всякий татарин

Мэш хайпожоры, им вообще поебать на любую этику

Ответить
1
Развернуть ветку
Brown Zweig

fake it till you make it

Ответить
0
Развернуть ветку
Jesus Surfer

А что не так? Чет не понял вроде все похоже

Ответить
0
Развернуть ветку
Всякий татарин

Нeт.

Ответить
0
Развернуть ветку
Danya Rubik

Это просто пиздец, из-за такой хуйни могут реально невиновного человека обвинить

Ответить
0
Развернуть ветку
Всякий татарин

Нейронка назыаается PULSE, в код в свободном доступе. Если кому нужно пишите. 

Ответить
0
Развернуть ветку
Denis Shiryaev

Нет, нейронка не называется PULSE, PULSE даунскейл делает и восстанавливает, и ограничена celeb датасетом, там мало лиц

Ответить
0
Развернуть ветку
Zasad Asdasd

Меш же помойка, их не подводит только жажла генерировать кал

Ответить
0
Развернуть ветку
Mikki Rurk

Это плохая идея, потому что нейросеть "додумывает", а не берет с помощью магии какую-то точную информацию из мира духов.

Ответить
0
Развернуть ветку
Marat Khamadeev

Fig 2.
Умнай штоле?

Ответить
0
Развернуть ветку
Ярослав Агин

Еще одно подтверждение того, что распознавание лиц фуфло https://www.securitylab.ru/news/509490.php

Ответить
0
Развернуть ветку
Читать все 67 комментариев
null