OpenAI представила возможности тонкой настройки для GPT-3.5 Turbo, облегченной версии GPT-3.5. Это позволяет клиентам OpenAI настраивать модель искусственного интеллекта, генерирующую текст, с помощью собственных данных, повышая ее надежность для конкретных случаев использования.
OpenAI утверждает, что точно настроенные версии GPT-3.5 Turbo могут соответствовать или превосходить возможности GPT-4, флагманской модели OpenAI, для «определенных узких задач».
«С момента выпуска GPT-3.5 Turbo разработчики и предприятия просили предоставить возможность настраивать модель для создания уникальных и дифференцированных возможностей для своих пользователей», — написала OpenAI в своем блоге 22 августа. «Это обновление дает разработчикам возможность настраивать модели, которые лучше работают для их сценариев использования, и запускать эти пользовательские модели в большом масштабе».
Тонкая настройка позволяет компаниям сделать так, чтобы GPT-3.5 Turbo лучше следовал инструкциям, последовательно отвечал на определенном языке, улучшал форматирование ответов, таких как фрагменты кода, и адаптировал тон в соответствии с голосом бренда.
Ранние тестировщики сократили длину подсказок до 90% за счет встраивания инструкций непосредственно в точно настроенную модель, что ускорило вызовы API и снизило затраты.
Тонкая настройка требует подготовки данных, загрузки файлов и создания задания через API OpenAI. Данные должны проходить через системы модерации для обеспечения стандартов безопасности. OpenAI планирует тонкую настройку пользовательского интерфейса с панелями мониторинга.
Издержки:
- Обучение: $0.008 за 1,000 токенов
- Входные данные: $0,012 за 1 000 токенов.
- Выходные данные: $0,016 за 1,000 токенов.
Тонкая настройка на 100 000 токенов (75 000 слов) будет стоить около 2,40 доллара.
OpenAI также выпустила обновленные базовые модели GPT-3 babbage-002 и davinci-002, которые также могут быть доработаны, с поддержкой пагинации и «более широкими возможностями расширения». Оригинальные модели, как планирует OpenAI выйдут из эксплуатации 4 января 2024 года.
Тонкая настройка для GPT-4, которая понимает не только текст, но и изображения, появится осенью 2023 года.