Комиссия по ценным бумагам и биржам США (SEC) выразила обеспокоенность влиянием генеративного искусственного интеллекта на финансовые рынки.
На выступлении перед Национальным пресс-клубом в понедельник, председатель SEC Гэри Генслер заявил, что недавние достижения в области генеративного искусственного интеллекта увеличивают вероятность того, что институты будут полагаться на один и тот же набор информации для принятия решений.
Генслер отметил, что большой спрос на данные и вычислительную мощность может привести к тому, что только несколько технологических платформ могут доминировать в этой области, ограничивая выбор моделей искусственного интеллекта, которые могут использовать компании. Если модель предоставляет неточную или несущественную информацию, финансовые учреждения могут использовать одни и те же ошибочные данные и принимать одни и те же неправильные решения, что создает риск появления чего-то подобного финансовому кризису 2008 года, когда банки играли в «следование за лидером» на основе информации от кредитных рейтинговых агентств, или когда происходил набег на Silicon Valley Bank под влиянием Twitter. Генслер сравнил потенциальные последствия с чем-то подобным кризису 2008 года, который, по его словам, показал риски «централизованного набора данных или модели» в финансовой сфере.
«Искусственный интеллект может повысить финансовую хрупкость, так как он может способствовать стадному поведению, когда отдельные участники принимают похожие решения, потому что получают одинаковый сигнал от базовой модели или агрегатора данных», — сказал Генслер. Он добавил, что рост генеративного искусственного интеллекта и других моделей глубокого обучения «может усугубить врожденную сетевую связность глобальной финансовой системы».
Финансовый сектор давно использует системы искусственного интеллекта. Некоторые страховые компании и кредиторы применяют алгоритмы и обработку естественного языка для анализа финансовых данных перед принятием решения о сумме займа. Торговые фирмы полагаются на искусственный интеллект для обнаружения мошенничества и получения сигналов с рынка гораздо быстрее, чем человек, смотрящий на экран компьютера.
Генслер сосредоточился на больших языковых моделях, называя генеративный искусственный интеллект и LLMs «самой трансформационной технологией нашего времени». Его выступление иногда смешивало это с более общей категорией технологии искусственного интеллекта — хотя эти системы не представляют одни и те же риски и вопросы. Генслер также отметил, что генеративный искусственный интеллект еще не широко используется в финансовой сфере.
Это не первый случай, когда Генслер поднимает тревогу относительно влияния искусственного интеллекта на финансовые рынки. Когда он еще был в Массачусетском технологическом институте (MIT), Генслер и его соавтор Лили Бэйли написали статью, исследующую то, как текущие регулятивные структуры не могут решить проблемы, возникающие при использовании искусственного интеллекта в финансах.
Также регулирование искусственного интеллекта не новая тема для SEC. В 2018 году агентство создало FinHub — ресурсный центр, созданный для ответов на вопросы по искусственному интеллекту, криптовалютам и другим вопросам, связанным с финтехом. Оно активно ведет дела против компаний в сфере новых технологий, которые, по ее мнению, нарушили закон, особенно в сфере криптовалют.
Сама SEC также использует машинное обучение для помощи в мониторинге рынка с целью осуществления своей политики.
Генслер сказал, что текущие руководящие принципы в области управления рисками должны быть обновлены, чтобы быть в ногу с новой и мощной технологией, но он отметил, что может потребоваться пересмотр использования этой технологии всей финансовой отраслью.
Конечно, и другие правительственные агентства также начали расследование компаний, занимающихся искусственным интеллектом. Федеральная торговая комиссия (FTC) объявила на прошлой неделе об открытии расследования в отношении OpenAI.