Израильские учёные обманули популярные системы распознавания лиц — для этого хватило девять фейковых фото пожилых мужчин

Фальшивые «мастер-лица» позволяют пройти идентификацию как минимум в 40% случаев.

Специалисты Школы компьютерных наук имени Блаватника и Школы электротехники в Тель-Авиве разработали способ взлома трёх популярнейших систем идентификации людей по лицу — Dlib, FaceNet и SphereFace. Оказалось, их можно обмануть с помощью «мастер-лиц» несуществующих людей. Учёные опубликовали своё открытие в хранилище предварительных версий научных статей.

Исследователи использовали нейросеть StyleGAN от Nvidia для создания огромного массива лиц несуществующих людей, после чего отобрали самые подходящие варианты с помощью другой нейросети — она проверяла, как часто системы идентификации срабатывают на каждом сгенерированном лице.

Учёные пришли к выводу, что лучшие варианты для обмана системы — изображения пожилых мужчин без растительности на лице. Набора из девяти «мастер-лиц» такого типа достаточно, чтобы пройти идентификацию в 40-60 процентах случаев — как минимум одно из этих лиц система примет за реального человека.

Исследователи отмечают, что есть более сложные системы идентификации, которые требуют повернуть голову в разные стороны, закрыть и открыть глаза, улыбнуться и совершить прочие действия, чтобы убедиться в реальности человека перед камерой. По мнению учёных, такие системы тоже можно обмануть с помощью дипфейков, наделив сгенерированные лица реалистичной анимацией.

Системы идентификации людей по лицу используются в государственных и частных организациях — китайских и российских силовых органах, московском метро, банкоматах Сбербанка. Одновременно с этим появляются услуги по обману этих систем и происходят случаи необоснованных арестов из-за ложного срабатывания.

#новости #нейросети #безопасность #уязвимости #биометрия