Необычные очки заставляют систему распознавания лиц считать, что вы Милла Йовович

Очки выглядят слега экстравагантно, но обыкновенные человек и не подумает, что их владелец может попытаться обмануть программу.

Очки выглядят слега экстравагантно, но обыкновенные человек и не подумает, что их владелец может попытаться обмануть программу.
Фото Carnegie Mellon University.

Очки буквально сбивают с толку программное обеспечение.

Очки буквально сбивают с толку программное обеспечение.
Фото Carnegie Mellon University.

Очки выглядят слега экстравагантно, но обыкновенные человек и не подумает, что их владелец может попытаться обмануть программу.
Очки буквально сбивают с толку программное обеспечение.
Система распознавания лиц имеет несколько уязвимых мест, чем и воспользовались изобретательные учёные. Они создали необычные очки, надев которые, человек "меняется в лице". По крайней мере, для программного обеспечения.

Новые очки кардинально меняют внешность человека. И вычислить его личность будет не под силу даже самому "опытному" программному обеспечению для распознавания лиц, уверяют создатели. Или, по крайней мере, это поможет его немного запутать.

Команда исследователей из Университета Карнеги – Меллон смогла одурачить алгоритмы распознавания лиц, используя старый трюк: пару поддельных очков.

Для этого исследователи всего лишь напечатали особые узоры на передней части оправы. Они позволяют владельцу очков не только скрывать личность, но и притворяться другим человеком для "глаз" алгоритмов.

Например, один учёный – мужчина – в таких очках походил для программного обеспечения на американскую актрису Миллу Йовович, а его коллега – женщина из Южной Азии – "замаскировалась" под мужчину с Ближнего Востока. Оба исследователя смогли обмануть алгоритм для распознавания лиц Face++ с успехом в 90 процентов.

Впрочем, новая система пока тоже не идеальна: мужчине с Ближнего Востока, пытавшемуся использовать очки, чтобы походить на британского актёра Клайва Оуэна, удалось обмануть Face++ только в 16 процентах случаев.

"Наши очки будут смотреться как совершенно обычные, просто с привлекательным черепаховым узором на оправе", — говорит разработчик Махмуд Шариф (Mahmood Sharif). Это означает, что разработка сможет обмануть компьютер даже без ведома человека. Ведь для него ничего необычного в инновационной оправе не будет.

Очки буквально сбивают с толку программное обеспечение.

Отмечается, что узорчатые очки обманывают систему распознавания лиц за счёт нейронных сетей. Эти компьютереые алгоритмы не полагаются на те же особенности, которые использует человек для распознавания лица. Системы часто фокусируются на таких вещах, как цвет разных пикселей и затем медленно собирают данные, чтобы сравнить того человека, что располагается в кадре, с другими подобными изображениями. Так ими и вычисляется личность персонажа на фото.

Но если даже небольшая часть лица изменилась, то программа может "запутаться" – из-за этого, в частности, компьютер может перепутать двух людей, которые в действительности выглядят совсем по-разному.

Исследователи решили этим воспользоваться. Они разработали уникальные очки с узором, которые меняет способ интерпретации системой особенностей лица человека. Оправа, по сути, как бы накладывает на лицо пиксели, которые нарушают правильный порядок расчётов в программном обеспечении. Это запутывает программу, она не распознаёт истинную личность человека, а напротив, принимает его за другого, которое есть в базе. Например, за Миллу Йовович.

Добавим, что системы распознавания лиц постепенно начинают использоваться повсеместно. Например, примерно 50 процентов жителей США есть в базе данных распознавания лиц полиции. В то же время соцсеть Facebook (запрещена в РФ) использует программное обеспечение для распознавания лица, чтобы автоматически отмечать людей на фотографии. Некоторые магазины даже используют эти технологии для идентификации особо ценных клиентов, а новая система MasterCard предлагает использовать селфи вместо пин-кода.

Конечно, одурачивание программного обеспечения может помочь защитить частную жизнь человека, но эта технология также может быть использована для мошенничества. Естественно, что в расчёт надо брать и этот момент.

Более подробно о разработке можно узнать в статье журнала Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security.