Во вторник Meta* объявила о Llama 2, новой версии своей большой языковой модели.
Много внимания уделяется LLM, таким как GPT-4 от OpenAI, который используется в ChatGPT, и PaLM 2 от Google, который используется в Bard, но не стоит забывать о попытках Meta* конкурировать в области генеративного искусственного интеллекта. В отличие от GPT-4 и PaLM 2, которые являются закрытыми моделями, Llama 2 имеет открытый исходный код. Она уже показывает сходные результаты в некоторых тестах, и вероятно, будет только улучшаться благодаря участию общественности.
Вот что вам нужно знать о новой LLM от Meta*:
Llama 2 имеет открытый исходный код, в отличие от своих основных конкурентов
Meta* сделала Llama 2 открытой и бесплатной для исследований и коммерческого использования, потому что это дает общественности больше возможностей формировать и получать выгоду от трансформационной технологии.
«Предоставление бизнесу, стартапам, предпринимателям и исследователям доступа к инструментам, разработанным в масштабах, которые им было бы сложно создать самостоятельно, с использованием вычислительной мощности, к которой они иначе не имели бы доступа, откроет перед ними мир возможностей для экспериментов, инноваций в захватывающих направлениях и, в конечном итоге, для получения экономической и социальной выгоды», — говорится в блоге, объявляющем релиз.
Google и OpenAI не раскрыли детали разработки своих собственных LLM, такие как количество параметров или использованные данные для обучения моделей. В отличие от этого, Llama 2 свободно доступна через Hugging Face, Amazon Web Services и Microsoft Azure, что позволяет разработчикам получить доступ к ее коду и данным, что позволит им создавать и улучшать модель. Llama 2 имеет три разных предварительно обученных размера моделей: 7 миллиардов, 13 миллиардов и 70 миллиардов параметров, к которым можно получить доступ.
Microsoft Azure — предпочтительный партнер Llama 2
Вместе с выпуском Llama 2, Meta* также объявила о партнерстве с облачной вычислительной платформой Azure от Microsoft. Начиная с этой недели, клиенты Azure могут использовать Llama 2 в качестве опции для создания приложений. Да, вы можете скачать Llama 2 напрямую, но через платформу искусственного интеллекта Azure вы получаете возможности тонкой настройки, безопасности и вывода, специально разработанные для работы с LLM.
Это партнерство соответствует публичной позиции двух технологических гигантов о демократизации искусственного интеллекта. Azure представляет собой платную подписку, но Microsoft сделала бесплатными инструменты Bing и Edge, работающие на основе искусственного интеллекта GPT-4 от OpenAI, который получил значительные инвестиции от Microsoft. Все это говорит о том, что Microsoft серьезно занимается генеративным искусственным интеллектом и использует мощные партнерства для его развития. Для Meta* партнерство с Microsoft является ценным каналом для использования Llama 2 разработчиками Azure.
Как Llama 2 сравнивается с ChatGPT
Действительно ли Llama 2 может свергнуть ChatGPT с пьедестала лучшей LLM? Пока нет, но, возможно, в будущем.
В исследовательской статье Meta* сравнивала производительность Llama 2 на различных академических показателях с другими моделями, включая GPT-3.5 и GPT-4 от OpenAI, а также PaLM и PaLM 2 от Google. Llama 2 не показала таких высоких результатов на наборах данных, измеряющих общие знания, математические навыки начальной школы или навыки программирования, но Meta* провела еще одно исследование с использованием оценок людей, которое дало интересные результаты. Люди оценивали 4000 запросов на «полезность», сравнивая различные модели. В этом Llama 2 победила ChatGPT, набрав 35,9% «побед» против 32,5% у ChatGPT.
Эти оценки сравниваются с закрытыми моделями, но по сравнению с другими моделями с открытым исходным кодом, Llama 2 превосходит их. LLM от Meta* показала лучшие результаты, чем другие модели с открытым исходным кодом (MPT и Falcon) во всех аспектах.
Грубо говоря, интеллект Llama 2 оценивается как схожий с GPT-3.5, а в форме чат-бота он оценивается немного более полезным, чем ChatGPT. Теоретически, с усилиями со стороны сообщества разработчиков Llama 2 будет только улучшаться.
*Meta признана экстремистcкой организацией в России.