FTC направила запрос на предоставление информации объемом в 20 страниц в связи с опасениями о возможных «ложных, вводящих в заблуждение или клеветнических» генерациях.
OpenAI, наиболее известная благодаря своему искусственному интеллекту ChatGPT, оказалась под наблюдением Федеральной торговой комиссии США (FTC) в связи с обвинениями в нарушении законов о защите прав потребителей, что может поставить под угрозу личные данные и репутацию людей, сообщает газета The Washington Post и агентство Reuters.
В рамках расследования FTC направила запрос на предоставление информации в 20 страницах компании OpenAI, фокусируясь на стратегиях управления рисками, связанными с их моделями искусственного интеллекта. Агентство исследует, занималась ли компания обманными или нечестными практиками, приводящими к ущербу для репутации потребителей.
Расследование также направлено на выяснение того, как OpenAI реагировала на возможность своих продуктов генерировать ложные, вводящие в заблуждение или клеветнические высказывания о реальных людях. В индустрии искусственного интеллекта такие ложные генерации иногда называются «галлюцинациями» или «фабуляциями».
В частности, газета The Washington Post предполагает, что акцент FTC на вводящих в заблуждение или ложных утверждениях является реакцией на недавние инциденты, связанные с ChatGPT от OpenAI, такие как случай, когда он, якобы, сфабриковал клеветнические заявления о Марке Уолтерсе, радиоведущем из Джорджии. Искусственный интеллект ложно утверждал, что Уолтерс обвиняется в растрате и мошенничестве, связанных с Фондом второй поправки, что привело к подаче Уолтерсом иска против OpenAI о клевете. Еще один инцидент связан с тем, что искусственная модель ложно утверждала, что адвокат сделал сексуально откровенные замечания во время поездки студентов на Аляску, событие, которое никогда не происходило.
Расследование FTC является значительным регуляторным вызовом для OpenAI, которая вызвала равное количество восторга, страха и шумихи в технологической индустрии после выпуска ChatGPT в ноябре. В то время как компания завораживает мир технологий и продуктами на основе искусственного интеллекта, о которых многие ранее думали, что они будут доступны лишь через годы или десятилетия, ее деятельность вызывает вопросы о потенциальных рисках, связанных с создаваемыми ими моделями искусственного интеллекта.
По мере усиления толчка в индустрии в сторону более мощных моделей искусственного интеллекта, государственные агентства по всему миру обращают все больше внимания на то, что происходит за кулисами. Сталкиваясь с быстро меняющейся технологией, регуляторы, такие как FTC, стремятся применить существующие правила, охватывающие модели искусственного интеллекта, начиная от авторских прав и защиты данных до более конкретных вопросов, связанных с данными, используемыми для обучения этих моделей, и сгенерированным ими контентом.
В июне агентство Reuters сообщило, что лидер большинства в Сенате США Чак Шумер (Демократическая партия, штат Нью-Йорк) призвал к «комплексному законодательству», регулирующему прогресс в области искусственного интеллекта, чтобы обеспечить необходимые меры безопасности. Шумер планирует провести серию форумов по этой теме позже в этом году, отмечает агентство новостей.
Это не первое регуляторное препятствие для OpenAI. В марте компания столкнулась с протестами в Италии, когда регуляторы заблокировали ChatGPT из-за обвинений в нарушении правил конфиденциальности GDPR Европейского союза. После согласия OpenAI на внедрение функций проверки возраста и предоставления пользователям из Европы возможности блокировать использование их данных для обучения модели искусственного интеллекта, услуга ChatGPT была восстановлена.
OpenAI имеет две недели после получения запроса на то, чтобы запланировать звонок с FTC для обсуждения возможных изменений в запросе или проблем с его выполнением.