Использование программного обеспечения для распознавания лиц привело к тому, что полиция Детройта незаконно арестовала 32-летнюю Порчу Вудрафф по обвинению в ограблении и угоне автомобиля, сообщает The New York Times. Будучи на восьмом месяце беременности, она провела под стражей 11 часов, ее допрашивали и конфисковали iPhone в качестве улики, прежде чем отпустить. Это очередной случай ложного ареста из-за использования технологии распознавания лиц, которую многие критики считают ненадежной.
Ошибка представляется особенно примечательной, поскольку на видеозаписи с камеры наблюдения, которая неверно идентифицировала Вудрафф, не было видно беременной женщины, а Вудрафф на момент ареста была очень заметно беременной.
Инцидент начался с автоматизированного поиска лиц полицией Детройта. Мужчина, которого ограбили, сообщил о преступлении, и полиция использовала DataWorks Plus для сканирования видеозаписи с камеры наблюдения в базе данных уголовных фотографий. Фотография Вудрафф 2015 года из предыдущего нерелевантного ареста была идентифицирована как совпадение. После этого жертва ошибочно подтвердила ее опознание по фотографии, что привело к аресту.
Вудрафф были предъявлены обвинения в ограблении и угоне автомобиля в суде, прежде чем ее выпустили под залог в 100 000 долларов. Через месяц обвинения против нее были сняты прокурором округа Уэйн. Вудрафф подала иск против города Детройта о незаконном аресте, а начальник полиции Детройта Джеймс Уайт заявил, что обвинения вызывают обеспокоенность и что это дело рассматривается со всей серьезностью.
По данным The New York Times, этот инцидент является шестым недавним сообщенным случаем, когда человек был ложно обвинен в результате использования технологии распознавания лиц полицией, и третьим в Детройте. Все шесть ложно обвиненных были чернокожими. Полиция Детройта проводит в среднем 125 поисков с использованием распознавания лиц в год, почти исключительно среди чернокожих мужчин, согласно данным, изученным The Times.
Город Детройт в настоящее время сталкивается с тремя исками, связанными с незаконными арестами на основании использования технологии распознавания лиц. Группы защиты гражданских прав, в том числе Американский союз защиты гражданских свобод Мичигана, призывают к более тщательному сбору доказательств в делах, связанных с автоматизированным поиском лиц, а также к прекращению практики, приведшей к ложным арестам.
Надежность распознавания лиц еще не установлена
Арест Вудрафф и недавняя тенденция к ложным арестам вызвали новый виток дискуссии о надежности технологии распознавания лиц в расследованиях уголовных преступлений. Критики утверждают, что тенденция подчеркивает недостатки технологии распознавания лиц и риски, которым она подвергает невиновных людей.
Особенно рискованно для людей с темным цветом кожи. В посте 2020 года на веб-сайте Гарвардского университета Алекс Наджиби подробно описывает повсеместную расовую дискриминацию в технологии распознавания лиц, отмечая исследования, которые демонстрируют значительные проблемы с точным определением чернокожих людей.
В докладе Школы права Джорджтауна 2022 года об использовании распознавания лиц в правоохранительных органах говорится, что «несмотря на 20-летнюю практику использования распознавания лиц в качестве криминалистического метода расследования, надежность распознавания лиц в том виде, в котором оно обычно используется в расследованиях уголовных преступлений, еще не установлена».
Кроме того, в заявлении Джорджтауна по поводу доклада 2022 года говорится, что как биометрический инструмент расследования, распознавание лиц «может быть особенно подвержено ошибкам, возникающим из-за субъективных человеческих суждений, когнитивных искажений, низкокачественных или фальсифицированных доказательств и недостаточно эффективных технологий», а также то, что оно «недостаточно хорошо работает, чтобы надежно служить целям, для которых сами правоохранительные органы хотят его использовать».
Низкая точность технологии распознавания лиц обусловлена многими факторами, включая непроверенные алгоритмы, предвзятость обучающих наборов данных, разные углы фотографирования и низкое качество изображений, используемых для идентификации подозреваемых. Кроме того, структура лица не является таким уникальным идентификатором, как считают люди, особенно в сочетании с другими факторами, такими как низкое качество данных.
Эта низкая точность представляется еще более проблематичной в сочетании с таким явлением, как автоматизация предвзятости, которая представляет собой тенденцию доверять решениям машин, несмотря на потенциальные противоречивые свидетельства.
Эти проблемы привели к тому, что некоторые города, включая Сан-Франциско, Окленд и Бостон, запретили его использование. Однако Reuters сообщил в 2022 году, что некоторые города начинают пересматривать запреты на распознавание лиц как инструмент борьбы с преступностью на фоне «всплеска преступности и усиления лоббирования со стороны разработчиков».
Что касается Вудрафф, ее опыт привел к госпитализации из-за обезвоживания и глубокой психологической травме. Ее адвокат Иван Л. Лэнд подчеркнул в The Times необходимость для полиции проводить дальнейшее расследование после совпадения в распознавании лиц, а не полагаться исключительно на технологию. “Это пугает. Я обеспокоен, — сказал он. — Кто-то всегда похож на кого-то другого».