На поле битвы онлайн-отзывов искусственный интеллект соревнуется с искусственным интеллектом.
Генеративный искусственный интеллект, способный создавать отзывы, звучащие подобно человеческим, встречается с искусственным интеллектом, обученным обнаруживать фальшивые отзывы. Это конфликт, который имеет значение как для потребителей, так и для будущего контента в Интернете.
Сауд Халифа, основатель и генеральный директор компании Fakespot, стартапа, использующего искусственный интеллект для обнаружения фальшивых отзывов, заявил, что его компания заметила всплеск фейковых отзывов, созданных при помощи искусственного интеллекта. Fakespot работает над способом обнаружения контента, написанного платформами искусственного интеллекта, такими как ChatGPT.
«То, что сегодня очень отличается, заключается в том, что модели обладают достаточными знаниями, чтобы писать о чем угодно», — сказал он.
Фальшивые онлайн-отзывы существуют примерно так же давно, как и настоящие онлайн-отзывы, но проблема приобретает новую остроту благодаря более широким опасениям относительно передовой технологии искусственного интеллекта, которая теперь широко доступна в Интернете.
После многих лет борьбы с этой проблемой путем индивидуального контроля, Федеральная торговая комиссия в прошлом месяце предложила новое правило для борьбы с фальшивыми отзывами. Если правило будет утверждено, оно запретит написание фейковых отзывов, оплату за отзывы, скрытие честных отзывов и другие обманчивые практики, а также предусмотрит крупные штрафы для нарушителей.
Однако неясно, что является фальшивым отзывом, а технология обнаружения фальшивых отзывов все еще находится в стадии разработки.
«Мы не знаем — действительно не имеем возможности знать — в какой степени злоумышленники фактически используют любые из этих инструментов и насколько много из отзывов создано ботами, по сравнению с теми отзывами, которые созданы людьми», — сказал Майкл Атлесон, юрист в отделе рекламных практик FTC. «Это действительно серьезная проблема, и это просто малая часть опасений, что эти чат-боты, будут использоваться для создания всевозможного фейкового контента в Интернете».
Есть некоторые признаки того, что фейковые отзывы, созданные с помощью искусственного интеллекта, уже довольно распространены. В апреле CNBC сообщил, что некоторые отзывы на Amazon имеют явные признаки участия искусственного интеллекта, многие из них начинаются фразой «Как модель языка ИИ…».
Amazon — один из многих онлайн-продавцов, которые борются с фейковыми отзывами уже много лет. Представитель компании заявил, что еженедельно они получают миллионы отзывов, и заблокировали 200 миллионов подозрительных фейковых отзывов в 2022 году. Компания использует комбинацию человеческих расследований и искусственного интеллекта для обнаружения фейковых отзывов, применяя модели машинного обучения, которые анализируют такие факторы, как история отзывов пользователя, активность входа в систему и связь с другими аккаунтами.
Дополнительно усложняет проблему то, что фейковые отзывы, созданные с помощью искусственного интеллекта, не полностью противоречат правилам Amazon. Представитель Amazon заявил, что компания разрешает клиентам размещать отзывы, созданные с помощью искусственного интеллекта, при условии, что они являются аутентичными и не нарушают политику.
Гигант электронной коммерции также указал на то, что ему может потребоваться помощь. В июне Дармеш Мехта, вице-президент по обслуживанию торговых партнеров Amazon, в своем блоге призвал к большему сотрудничеству между «частным сектором, потребительскими группами и правительством» для решения растущей проблемы фейковых отзывов.
Ключевой вопрос заключается в том, сможет ли искусственный интеллект обнаруживать фейковые отзывы, созданные искусственным интеллектом. Как заявил Халифа, первые обнаруженные Fakespot фейковые отзывы, созданные искусственным интеллектом, появились несколько месяцев назад в Индии и были созданы так называемыми «фермами фейковых отзывов» — компаниями, которые продают фальшивые отзывы массово. Генеративный искусственный интеллект имеет потенциал значительно облегчить их работу.
«Это определенно сложный тест для этих инструментов обнаружения», — сказал Бхуван Дхингра, доцент кафедры компьютерных наук Дюкского университета. «Потому что, если модели точно соответствуют тому, как люди пишут что-то, то вы не сможете отличить одно от другого. Я бы не ожидал увидеть, чтобы какой-либо детектор проходил этот тест с большим успехом в ближайшее время.»
Несколько исследований показали, что люди не очень хорошо обнаруживают отзывы, написанные искусственным интеллектом. Множество технологов и компаний работают над системами обнаружения контента, созданного с помощью искусственного интеллекта, некоторые из них, такие как OpenAI, компания, стоящая за ChatGPT, даже работают над искусственным интеллектом для обнаружения своего собственного искусственного интеллекта.
Бен Чжао, профессор компьютерных наук в Чикагском университете, сказал, что практически невозможно, чтобы искусственный интеллект справился с задачей выявления фейковых отзывов, созданных искусственным интеллектом, потому что отзывы, созданные ботами, часто неотличимы от человеческих.
«Это непрерывная игра в кошки-мышки, но в конце концов нет ничего фундаментального, что отличает созданный искусственным интеллектом контент», — сказал он. «Вы найдете системы, которые утверждают, что они могут отличать тексты, написанные людьми, от текстов ChatGPT. Но техники, лежащие в их основе, довольно просты по сравнению с тем, что они пытаются выявить».
Согласно данным, 90% потребителей заявляют, что они читают отзывы при покупках в Интернете, и это вызывает беспокойство у некоторых защитников прав потребителей.
«Это пугает потребителей», — сказала Тереза Мюррей, руководитель офиса по защите интересов потребителей в Группе исследований общественного интереса США. «Уже сейчас искусственный интеллект помогает нечестным компаниям создавать отзывы, звучащие правдоподобно и реально, и делает их тысячами за считанные секунды».