Искусственный интеллект настолько прогрессировал в создании дипфейков, что мошенническая реклама от имени MrBeast проскользнула мимо технологии модерации рекламы TikTok и появилась на платформе.
В рекламе очень влиятельный блогер якобы предлагал 10 000 зрителям iPhone 15 Pro всего за 2 доллара. В большинстве случаев, это был бы очевидный признак мошенничества, но от MrBeast это могло быть вполне правдоподобно.
MrBeast, 25-летний Джимми Дональдсон с большим количеством подписчиков, чем любой другой человек на YouTube, прославился созданием абсурдных розыгрышей, в которых он дарит людям дома и машины без всяких условий (если только они согласятся сняться в его видео). Или, совсем недавно, участники из «каждой страны на Земле» соревновались за приз в 250 000 долларов в серии мини-игр, подобных Олимпийским играм.
Так что, если вы не особо проницательны в распознавании мошенничества, и просматриваете TikTok поздно ночью, когда вы не очень соображаете, вполне может показаться правдоподобным, что MrBeast купит 10 000 iPhone, чтобы раздать через рекламу в TikTok. В конце концов, он действительно раздавал бесплатные iPhone не подозревающим ничего сладкоежкам на Хэллоуин.
Если быть объективным, то это может объяснить, как дипфейк-реклама прошла модерацию на TikTok. TikTok использует сочетание модерации людьми и — иронично — технологии ИИ для проверки рекламы перед публикацией. Так что, по сути, ИИ TikTok сразился с ИИ, создавшим этот дипфейк MrBeast, и проиграл.
TikTok сообщил, что удалил эту рекламу через несколько часов после публикации, потому что она нарушала рекламную политику TikTok. TikTok не запрещает рекламодателям полностью использовать синтетические или манипулированные медиа, но платформа требует, чтобы рекламодатели очень четко указывали, если они используют такие технологии.
TikTok не уникален в использовании ИИ для модерации рекламы. Meta* говорит, что она в основном полагается на «автоматизированные технологии», но, как и TikTok, использует людей-рецензентов, чтобы обучать свой ИИ, а иногда вручную проверяет рекламу.
Обманчивые дипфейки не новы, но по мере того, как ИИ становится особенно модным среди инвесторов и потребителей, технология становится более доступной, чем когда-либо. В то время как интернет-знаменитости вроде MrBeast привлекают молодое поколение, старшие потребители тоже обманываются. На этой неделе актер Том Хэнкс и ведущая CBS Гейл Кинг предупредили своих подписчиков, что их используют в мошеннической рекламе.
«ОСТОРОЖНО!!» написал Том Хэнкс в Instagram*. «Там есть видео, продвигающее какой-то стоматологический план с ИИ-версией меня. Я не имею к этому никакого отношения».
FTC уже выпустила предупреждения о маркетинге с использованием дипфейков, но на практике такую рекламу сложно регулировать в масштабе. И по мере приближения глобальных выборов, последствия такой обманчивой рекламы могут стать более серьезными.
*Деятельность Meta (Facebook и Instagram) запрещена в России как экстремистская.