Исследователи из Бельгии обманули систему компьютерного зрения листком бумаги
Чтобы стать «невидимым» для алгоритма, оказалось достаточно прикрыться цветной распечаткой.
Исследователи из Лёвенского католического университета обманули алгоритм YOLOv2 с помощью цветного листа бумаги. Система не распознавала одного из исследователей, пока он держал распечатку.
Специальное изображение на листке сработало как «плащ невидимка» для ИИ. Теперь исследователи намерены разработать принт на одежду, который позволит скрыться от систем компьютерного зрения.
При этом пока их метод работает только с конкретным алгоритмом YOLOv2 и не сработает на системах компьютерного зрения от Google и других компаний. Кроме того, подобный способ становится бесполезным, если за камерами следит человек.
Эксперты считают, что состязательные примеры несут опасность. Например, их можно использовать, чтобы заставить самоуправляемую машину думать, что знак стоп это фонарный столб.
#видео #ии #нейросети