Компания Uber была признана не соответствующей требованиям Европейского союза по обеспечению прозрачности алгоритмов в ходе судебного разбирательства, возбужденного двумя водителями, чьи учетные записи были заблокированы гигантом такси, в том числе с использованием автоматических меток учетных записей.
Uber также не удалось убедить суд ограничить ежедневные штрафы в размере 4 тыс. евро, налагаемые за постоянное несоблюдение требований, которые на сегодняшний день превышают полмиллиона евро (584 тыс. евро).
Окружной суд Амстердама принял решение в пользу двух водителей, которые ведут судебную тяжбу по поводу доступа к данным. Однако апелляционный суд решил, что Uber предоставила третьему водителю достаточно информации о причинах, по которым алгоритм отметил его аккаунт как потенциально мошеннический.
Водители подали в суд на Uber, чтобы получить информацию, которая, по их мнению, должна быть предоставлена им по закону в отношении значимых автоматизированных решений, принимаемых в отношении них.
Общий регламент Европейского союза по защите данных (General Data Protection Regulation, GDPR) предусматривает право человека не быть объектом исключительно автоматизированных решений, имеющих юридическое или существенное значение, а также право на получение информации о принятии таких алгоритмических решений, включая получение «содержательной информации» о задействованной логике, ее значении и предполагаемых последствиях такой обработки данных для субъекта.
Суть проблемы заключается не в проверках на мошенничество и/или риски, которые якобы проводятся сотрудниками Uber в отношении отмеченных учетных записей водителей, а в самих автоматических метках, которые инициируют эти проверки.
В апреле апелляционный суд в Нидерландах также вынес решение в пользу работников платформ, которые судились с Uber и другой платформой Ola по поводу прав доступа к данным, связанным с предполагаемым роботизированным увольнением, постановив, что платформы не могут ссылаться на исключения в отношении коммерческой тайны, чтобы отказать водителям в доступе к данным о подобных решениях, принимаемых с помощью искусственного интеллекта.
В последнем решении Uber попыталась повторить аргумент о коммерческой тайне, чтобы возразить против раскрытия водителям дополнительных данных о причинах, по которым искусственный интеллект отмечает их учетные записи. Кроме того, компания обычно утверждает, что ее системы защиты от мошенничества не будут функционировать, если предоставить водителям полную информацию о том, как они работают.
В случае с двумя водителями, оспорившими доводы Uber, было установлено, что компания вообще не предоставила никакой информации об «исключительно» автоматических отметках, которые запускают проверку учетных записей. Таким образом, было установлено, что компания продолжает нарушать правила ЕС о прозрачности алгоритмов.
Судья также предположил, что Uber, возможно, «намеренно» пытается скрыть определенную информацию, поскольку не хочет давать представление о своей бизнес-модели и модели получения прибыли.
В случае с другим водителем, в отношении которого суд, напротив, решил, что Uber предоставила «четкую и на данный момент достаточную информацию», компания пояснила, что процесс принятия решений, вызвавший пометку, начался с автоматизированного правила, которое рассматривало (1) количество отмененных поездок, за которые этот водитель получил плату за отмену; (2) количество выполненных поездок; и (3) соотношение количества отмененных и выполненных поездок водителя за определенный период.
«Далее было пояснено, что, поскольку данный водитель за короткий период времени совершил непропорционально большое количество поездок, за которые он получил комиссию за отмену, автоматизированное правило сигнализирует о возможном мошенничестве с комиссией за отмену», — говорится в решении суда.
Водитель обратился в Uber за дополнительной информацией, утверждая, что предоставленные ему данные все еще неясны или слишком кратки и не имеют смысла, поскольку он не знает, где проходит та черта, за которой Uber может признать водителя мошенником.
Однако в данном случае судья согласился с Uber в том, что гигант рынка транспортных средств не обязан предоставлять эту дополнительную информацию, поскольку в этом случае «безнаказанное мошенничество чуть ниже этой черты стало бы по-детски легким», как выразилась Uber.
Более широкий вопрос о том, была ли компания Uber права, классифицируя этого водителя (или двух других) как мошенника, на данном этапе судебного разбирательства не рассматривался.
Продолжающийся судебный процесс в Нидерландах, похоже, направлен на определение того, где может проходить граница между тем, какой объем информации платформы, использующие алгоритмическое управление работниками, должны предоставлять им по запросу в соответствии с правилами ЕС о защите данных, и тем, насколько «черный ящик» их искусственного интеллекта, по их утверждениям, необходим для размывания деталей, чтобы системы защиты от мошенничества не могли быть обмануты с помощью анализа водителей.
Представитель Uber, к которому обратились за ответом на это решение, прислал TechCrunch следующее заявление:
Это решение касается трех водителей, которые потеряли доступ к своим учетным записям несколько лет назад в силу весьма специфических обстоятельств. В то время, когда учетные записи этих водителей были отмечены, они были проверены нашими группами доверия и безопасности, которые специально обучены выявлять типы поведения, которые могут потенциально повлиять на надёжность водителя. Суд подтвердил, что проверка была проведена нашими сотрудниками, что является стандартной практикой, когда наши системы выявляют потенциально мошенническое поведение.
В судебном споре за водителей выступают организация по защите прав доступа к данным Worker Info Exchange (WIE) и профсоюз App Drivers & Couriers.
В своем заявлении Антон Эккер из юридической фирмы Ekker law, представляющей интересы водителей, сказал: «Водители уже несколько лет борются за свое право на получение информации об автоматических отключениях. Апелляционный суд Амстердама подтвердил это право в своем принципиальном решении от 4 апреля 2023 года. То, что Uber до сих пор отказывается выполнять решение суда, вызывает серьезные возражения. Однако я убежден, что принцип прозрачности в конечном итоге восторжествует».
В своем заявлении, комментируя решение суда, Джеймс Фаррар, директор WIE, добавил: «Будь то Верховный суд Великобритании по правам работников или Апелляционный суд Нидерландов по защите данных, Uber привычно нарушает закон и игнорирует постановления даже самых высокопоставленных судов. Водители и курьеры Uber измучены годами безжалостной алгоритмической эксплуатации на работе и изнурительными судебными тяжбами, чтобы добиться хоть какого-то подобия справедливости, в то время как правительство и местные регулирующие органы сидят сложа руки и ничего не делают для обеспечения соблюдения правил. Вместо этого правительство Великобритании занято демонтажем тех немногих средств защиты работников от автоматизированного принятия решений в законопроекте о защите данных и цифровой информации, который в настоящее время находится на рассмотрении парламента. Аналогичным образом, предложенная Директива ЕС о работе платформ будет бессмысленным бумажным тигром, если правительства не начнут всерьез заниматься обеспечением соблюдения правил».