Израильские ученые придумали, как прятаться от систем распознавания лиц: оказалось, обмануть хитрые алгоритмы можно с помощью обычной косметички

В современном мире технологии развиваются семимильными шагами. Это касается и систем распознования лиц, подключенных к городским камерам. Но израильские ученые нашли их слабое место. Новое исследование показало – программное обеспечение можно обмануть. И поможет в этом грамотный макияж. Ученые создали искусственный интеллект (ИИ), с помощью которого можно понять, как накрасить лицо, чтобы городские камеры не смогли его идентифицировать.

Тестирование программы

Программа наглядно показывает пользователям места нанесения румян или тонального крема для обмана алгоритмов распознавания лиц. В качестве тестовой площадки для ИИ израильские ученые выбрали ArcFace. Это модель машинного обучения, сравнивающая два изображения на предмет схожести. Другими словами, она показывает, разные лица на фото или это один и тот же человек.

Для тестирования набирали команду из двадцати добровольцев, в которой присутствовали десять женщин и десять мужчин. Их лица «ловили» реальные камеры под разными углами и при разном освещении. В итоге эксперимента участникам, прибегнувшим к специальному макияжу, удалось обмануть систему распознавания в 98,8 % случаев. В стандартных условиях ArcFace примерно в 47,6 % случаев верно идентифицировала лицо. Но при использовании макияжа данный показатель снизился до 1,2 %.

Вывод

Выходит, система оценивала самые выдающиеся черты лица, и авторы новой программы добились своей цели, «обманув» именно эту уникальную функцию. Разработанный ими искусственный интеллект демонстрировал на цифровой карте лица человека как раз те области, которые использовались уличным программным обеспечением для распознавания лиц и считались «хорошо идентифицируемыми». Потом ИИ выводил на экран цифровую проекцию макияжа, которая демонстрировала места для нанесения косметики с целью изменения контуров лица.