OpenAI закрыла свой инструмент искусственного интеллекта для обнаружения текста, ссылаясь на «низкую точность» при определении, написана ли работа человеком или ChatGPT, своим чат-ботом на основе искусственного интеллекта.
«Мы работаем над тем, чтобы учесть отзывы и в настоящее время исследуем более эффективные техники проверки», — говорит OpenAI.
Компания работает над улучшенной версией для текста и заявляет, что «приняла обязательство» сделать то же самое для аудио- и визуального контента, такого как тот, который создается с помощью генератора изображений Dall-E.
OpenAI впервые выпустила инструмент для обнаружения текста в январе 2023 года, указав на важность наличия систем, способных выявлять ложные утверждения, созданные искусственным интеллектом. В том же месяце OpenAI опубликовала статью, написанную совместно с преподавателями Стэнфордского и Джорджтаунского университетов, в которой описывается риск автоматизированных кампаний дезинформации.
«Генеративные языковые модели значительно улучшились и теперь могут производить реалистичные текстовые результаты, которые трудно отличить от текста, написанного человеком», — говорится в статье. «Для злоумышленников эти языковые модели обещают автоматизировать создание убедительного и вводящего в заблуждение текста».
Такие злоумышленники могут быть студентами, пытающимися списать на задании, или это может быть вмешательством в выборы, и всем, что находится между ними. В статье признается, что мало что можно сделать, чтобы полностью предотвратить влияние искусственного интеллекта на человеческий мир, теперь, когда технология разработана и публично доступна, говоря, что «нельзя ожидать полной защиты от угрозы операций, основанных на искусственном интеллекте».
Инструменты обнаружения искусственного интеллекта могут стать началом, хотя инструмент OpenAI был ограничен и неточен с самого начала. Для его работы требовалось вручную вводить текст длиной не менее 1000 символов, который OpenAI затем определял как искусственный интеллект или человек. Он успешно классифицировал только 26% текста, написанного искусственным интеллектом, как «вероятно написанный искусственным интеллектом», и неправильно помечал текст, написанный человеком, как написанный искусственным интеллектом в 9% случаев.
До его закрытия классификатор искусственного интеллекта особенно плохо справлялся с текстами длиной менее 1000 символов, написанными на неанглийских языках. В целом, OpenAI не рекомендовала использовать его как «основной инструмент для принятия решений», но компания все же сделала его общедоступным, чтобы получить обратную связь и обучение. OpenAI отключила эту ссылку 20 июля и не указала, когда будет доступна улучшенная версия.