Глава финансового регулятора Великобритании предупреждает, что банки, инвесторы и страховые компании должны увеличить свои расходы для борьбы с мошенниками, использующими искусственный интеллект для совершения мошенничества.
Нихил Рати, исполнительный директор Финансового управления и контроля Великобритании (FCA), заявил в своей речи в Лондоне в среду, что имеются риски «увеличения масштаба, сложности и эффективности кибермошенничества, кибератак и мошенничества использованием личных данных», поскольку искусственный интеллект (ИИ) становится все более широко распространенным.
Быстрый прогресс в совершенствовании генеративного искусственного интеллекта компаниями, такими как OpenAI и Midjourney, заставили компании оперативно разрабатывать способы использования этой технологии для повышения производительности.
Технология также вызывает опасения из-за легкости, с которой пользователи могут подделывать язык, звук и видео.
Премьер-министр Риши Сунак надеется сделать Великобританию центром регулирования искусственного интеллекта. Работа FCA в области искусственного интеллекта является частью широкой работы по выработке правил регулирования сектора крупных технологических компаний, поскольку они все чаще предлагают финансовые продукты.
Рати предупредил, что технология искусственного интеллекта будет увеличивать риски, особенно для финансовых учреждений. Ожидается, что старшие руководители этих компаний будут «окончательно нести ответственность за деятельность компании», включая принимаемые решения, осуществляемые с помощью искусственного интеллекта.
«По мере дальнейшего внедрения искусственного интеллекта инвестиции в предотвращение мошенничества, операционную и киберустойчивость должны ускоряться одновременно», — сказал он.
«Мы будем занимать жесткую позицию в этом вопросе — полная поддержка полезных инноваций наряду с пропорциональной защитой».
Уже произошли случаи финансовых мошенничеств с использованием искусственного интеллекта. Рати привел пример «дипфейка» видео известного борца за финансовую справедливость Мартина Льюиса, которое якобы рекламирует спекулятивные инвестиции.
Льюис назвал это видео «ужасающим» и потребовал, чтобы регуляторы заставили крупные технологические компании предпринять меры для предотвращения подобных мошенничеств.
Рати считает, что искусственный интеллект принесет пользу финансовому сектору, улучшая финансовые модели, повышая производительность в обслуживании клиентов и улучшая обнаружение мошенничества и отмывания денег.
Однако он заявил, что существуют и другие потенциальные риски для финансовых рынков, включая повышенную волатильность ценовых движений, вызванную автоматизированными торговыми роботами, а также предвзятые наборы данных, которые могут стать еще более вредными, если искусственный интеллект будет на них полагаться.
«Использование искусственного интеллекта может как приносить пользу рынкам, так и вызывать дисбалансы и риски, которые могут повлиять на целостность, ценообразование, прозрачность и справедливость рынков, если его использование будет неограниченным», — заявил он.