Чтобы стать «невидимым» для алгоритма, оказалось достаточно прикрыться цветной распечаткой.

Исследователи из Лёвенского католического университета обманули алгоритм YOLOv2 с помощью цветного листа бумаги. Система не распознавала одного из исследователей, пока он держал распечатку.

Специальное изображение на листке сработало как «плащ невидимка» для ИИ. Теперь исследователи намерены разработать принт на одежду, который позволит скрыться от систем компьютерного зрения.

При этом пока их метод работает только с конкретным алгоритмом YOLOv2 и не сработает на системах компьютерного зрения от Google и других компаний. Кроме того, подобный способ становится бесполезным, если за камерами следит человек.

Исследователи обманули ИИ с помощью известного феномена — состязательных примеров. Это особые изображения, которые сбивают с толку системы компьютерного зрения. Они могут представлять собой стикеры, объёмные фигуры и даже картины.

Эксперты считают, что состязательные примеры несут опасность. Например, их можно использовать, чтобы заставить самоуправляемую машину думать, что знак стоп это фонарный столб.

Источник: tjournal.ru