Рост использования высококлассных инструментов распознавания лиц розничными предприятиями Великобритании вызвал беспокойство как у отдельных лиц, так и у гражданских правозащитных групп. Теперь эти средства наблюдения получили дополнительное усиление от искусственного интеллекта.
Подобно недавним быстрым улучшениям генеративного программного обеспечения ИИ, такого как ChatGPT, распознавание лиц также наблюдает значительные улучшения, обусловленные ИИ. Британская полиция уже широко применяет распознавание лиц, что вызывает много критики.
Такие услуги уже доступны для частных предприятий по весьма разумным ценам. По мере улучшения благодаря силе ИИ, они становятся все более привлекательными для бизнеса, чтобы использовать их для обнаружения кражи в магазинах и идентификации «нежелательных» клиентов. Если вы симпатизируете этим предприятиям, вы, возможно, не видете в этом проблемы, но возникли опасения по поводу расширения ИИ-средств наблюдения в нашей жизни.
В недавнем отчете The New York Times описывается, как Facewatch предоставляет данные и услуги по распознаванию лиц розничным предприятиям, подписывающимся на их услуги. Если обнаруживается вор в магазине (или кто-либо другой, кого предприятие не желает видеть), Facewatch помечает это каждый раз, когда его распознает, после этого предупреждает компанию, и затем на усмотрение компании, наблюдает за этим человеком или выгоняет его с территории.
Если вор повторно пытается совершить кражу или пытается украсть что-то стоимостью более 100 фунтов стерлингов (131 доллар), его заносят в специальный список, составленный для каждой соответствующей географической зоны, что позволяет делиться его данными с другими предприятиями, подписанными на услуги Facewatch в этой области.
Кто следит за наблюдателями?
Такой антиутопический публичный наблюдательный режим не остался незамеченным. Гражданская группа «Большой брат наблюдает» выразила опасения, утверждая, что это несоразмерная реакция по сравнению с относительно незначительным правонарушением воровства в магазинах.
Кроме того, если вы попадаете в один из этих списков, практически нет способа узнать, почему вы там оказались и как подать апелляцию. В системе Facewatch, как только человек попадает в список, его имя остается там на год. В настоящее время почти 400 предприятий в Великобритании используют Facewatch, и число таких учреждений растет.
Хотя перед отправкой предупреждения выполняются несколько уровней проверок, включая окончательную проверку человеком, обученным «супер-распознавателем», Facewatch признала, что (очень редко) ошибки все же возникают. Также неясно, как обучаются эти «супер-распознаватели» и в чем именно смысл помощи ИИ, если все равно требуется участие человеческого персонала.
«Большой брат наблюдает» описал этот процесс как привнесение «уровня безопасности, как в аэропорту», в самые обыденные повседневные задачи, такие как покупка продуктов. Управление информации Великобритании, ответственное за регулирование таких вопросов конфиденциальности, провело расследование в отношении Facewatch и пришло к выводу, что она может продолжать свою деятельность. Однако это было сделано при условии внесения изменений в ее работу. Facewatch должна была пересмотреть критерии, по которым человек попадает в список наблюдения.
Всегда на страже
Facewatch была основана в 2010 году Саймоном Гордоном, владельцем винного бара XIX века в центре Лондона, который изначально финансировал разработку программного обеспечения, когда пытался бороться с карманниками на своем предприятии.
Он заявил, что Facewatch видит «экспоненциальный рост» и вызывает значительный интерес у владельцев бизнеса за рубежом. Он также намерен расширить клиентскую базу Facewatch в Соединенных Штатах.
Европейский союз в настоящее время разрабатывает законодательство, регулирующее подобные сценарии и использование инструментов, работающих на основе ИИ.
Тем не менее, особенно в эпоху, когда технология ИИ проникает во все аспекты нашего общества, нам теперь приходится иметь дело с любыми этическими проблемами, которые возникают. Служба транспортной безопасности США, использует широкое распространение ИИ-поддерживаемого распознавания лиц, подобно британской полиции, без какого-либо законодательства, ограничивающего их, и нет причин, по которым американские предприятия не приняли бы Facewatch — особенно при снижении цен и повышении точности технологии.