Программа Fawkes искажает изображения для защиты от распознавания лиц
13 марта 2020 года
Fawkes – программа, разработанная учеными из Чикагского университета на основе предыдущей работы группы исследователей Google. Последние изучали глубокое обучение нейронных сетей. Их доклад за 2014 год показал, что еле заметные искажения изображений делают лица и другие объекты неузнаваемыми для машин. Открытие породило волну исследований, посвященных обходу систем распознавания лиц с помощью состязательных атак (обман нейросетей путем введения нестандартных данных).
Новая программа получила название в честь печально известного английского революционера Гая Фокса (Guy Fawkes), чье лицо изображено на масках членов протестного движения Anonymous. Программа работает следующим образом: она добавляет к изображению небольшое количество пикселей. Эти изменения незаметны для человеческого глаза, а системы распознавания лиц их замечают, но классифицируют неправильно. Замаскированные Fawkes изображения успешно обманывали системы распознавания Amazon, Microsoft и Megvii в 100% тестов.
Fawkes позволяет пользователям «в любое время сделать себе прививку против неавторизованных моделей распознавания лиц без заметного искажения своих фотографий», – говорят создатели программы.
Однако команда разработчиков заявила, что Fawkes – далеко не идеальное решение. У большинства людей есть десятки, если не сотни, собственных фотографий, размещенных в интернете, которые системы распознавания уже могли бы извлечь. По данным исследования, успешность Fawkes падала до 39%, когда обучающий набор алгоритма включал менее 85% замаскированных фотографий для конкретного человека.
Fawkes – уже не первая попытка создать инструмент противодействия распознаванию лиц. В 2018 году группа инженеров и технологов из Гарвардского центра «Интернет и общество» имени Беркмана Кляйна обнародовала EqualAIs — онлайн-инструмент, который использовал аналогичный метод.
Fawkes еще не доступна широкой публике, но если это когда-нибудь случится, то, по мнению экспертов, разработчики систем распознавания лиц довольно быстро найдут ответ на нее. Ведь, как и во многих областях кибербезопасности, facial recognition — это всё-таки игра в кошки-мышки....
Источники
править |
Эта статья содержит материалы из статьи «Программа Fawkes искажает изображения для защиты от распознавания лиц», опубликованной на сайте Роскомсвободы и распространяющейся на условиях лицензии Creative Commons Attribution-ShareAlike 3.0 Unported (CC BY-SA 3.0). |  |
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.
