Из-за ошибки технологии распознавания лиц арестовали невиновного
25 июня 2020 года
Афроамериканец Роберт Уильямс провел более суток в полицейском участке Детройта в январе. Случилось это после того, как программа распознавания лиц Rank One подключила фотографию его водительских прав к видео, зафиксировавшему магазинную кражу, сообщает Американский союз гражданских свобод Мичигана (ACLU). Охранник магазина, просмотрев размытое изображение наблюдения за инцидентом, подтвердил, что Роберт действительно был тем вором.
По словам Уильямса, позже полицейские отпустили его, сказав, что «компьютер», должно быть, ошибся. Уильямс также рассказал, что он бы и не узнал о роли алгоритмов в своём аресте, но об этом проговорился один из офицеров. Это первый известный в стране случай, когда распознавание лиц привело к ошибочному задержанию.
В Rank One пообещали добавить в свою политику правила по отзыву ПО, нарушающего кодекс этики компании, и провести технический обзор дополнительных гарантий для предотвращения злоупотреблений.
Ранее IBM, Amazon и Microsoft приостановили продажу технологии распознавания лиц правоохранительным органам. Действия технических гигантов обусловлены рисками, связанными с использованием искусственного интеллекта (ИИ), особенно когда речь идёт о предвзятости и возможном вторжении в частную жизнь. Также нельзя не учитывать контекст последних событий в США, связанных с протестами и беспорядками, вспыхнувшими после гибели безоружного темнокожего американца Джорджа Флойда во время его задержания полицией.
Не одно исследование подтвердило, что технология распознавания лиц несовершенна и предвзята, особенно в вопросе людей с другим цветом кожи и отдельно женщин. Учитывая недостатки технологии и широту её использования правоохранительными органами, ACLU предполагает, что Роберт не первый человек, который был незаконно арестован таким образом. Он просто первый, о ком узнали.
ACLU также обращает внимание на то, что технология наблюдения часто используется тайно, без какого-либо надзора и служит порой единственным основанием для ареста, хоть полиция обычно и утверждает, что это не так. Но даже исправление недостатков технологии не сделает её менее безопасной, убеждены в ACLU: сегодня полицейские пришли по ошибке, а завтра потому, что совершенно точный алгоритм идентифицировал человека на акции протеста, которая не понравилась правительству.
ACLU штата Мичиган подаёт жалобу на полицию Детройта, но ущерб уже нанесён. Образец ДНК Роберта, фотография и отпечатки пальцев были взяты, когда он прибыл в следственный изолятор, и теперь хранятся в архиве....
Источники править
 |
Эта статья содержит материалы из статьи «Из-за ошибки технологии распознавания лиц арестовали невиновного», опубликованной на сайте Роскомсвободы и распространяющейся на условиях лицензии Creative Commons Attribution-ShareAlike 3.0 Unported (CC BY-SA 3.0). |  |
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.
