С тех пор как в конце прошлого года OpenAI выпустила ChatGPT, такие термины, как генеративный ИИ и большие языковые модели, стали у всех на слуху. Но если заглянуть глубже, то для работы больших языковых моделей обычно требуется много дорогих чипов GPU. Компания SambaNova представила сегодня чип, который, как она утверждает, позволит значительно снизить стоимость, обрабатывая модели с 5 триллионами параметров.
Компания SambaNova, возможно, не является таким известным брендом, как Google, Microsoft или Amazon, но она уже несколько лет занимается созданием полнофункционального решения для ИИ, включающего аппаратное и программное обеспечение, и, по данным Crunchbase, привлекла более 1 млрд. долл. от таких инвесторов, как Intel Capital, BlackRock и SoftBank Vision Fund. Сегодня компания представила свой новейший чип SN40L — четвертое поколение собственных чипов ИИ.
По словам основателя и генерального директора компании Родриго Ляна, идея создания собственных чипов заключается в том, чтобы контролировать базовое аппаратное обеспечение для достижения максимальной эффективности, что становится все более необходимым по мере перехода к обработке ресурсоемких больших языковых моделей.
«Нам нужно перестать использовать грубую силу, применяя все новые и новые чипы для больших языковых моделей. Поэтому мы пошли дальше и создали SN40L, который настроен специально для очень, очень больших языковых моделей, чтобы обеспечить работу искусственного интеллекта для предприятий», — сказал Лян в интервью.
Лян утверждает, что его новые чипы в 30 раз эффективнее за счет уменьшения количества микросхем, необходимых для работы таких моделей. Он утверждает, что для работы одной и той же модели с триллионом параметров на чипах конкурентов потребовалось бы 50-200 чипов, в то время как SambaNova позволила сократить этот показатель всего до восьми чипов.
«Сколько ресурсов требуется для реального запуска модели с триллионом параметров, например GPT-4? Я могу сделать это на восьми сокетах, я могу поставить ее на рынок, я могу полностью оптимизировать ее на этом оборудовании, и вы получите современную точность», — сказал он.
Это смелое заявление, но компания поставляет аппаратно-программное решение полного стека, включающее все необходимое для создания приложений искусственного интеллекта. «Мы занимаемся созданием ресурсов ИИ, что позволяет быстро обучать модели на основе ваших частных данных, и это становится активом вашей компании», — сказал он. Он отмечает, что, хотя SambaNova помогает заказчику обучать модель, она остается в его собственности. Мы говорим заказчику: «Это ваши данные и ваша модель. После того как мы обучили модель на ваших данных, мы фактически передаем право собственности на модель компании на неограниченный срок».
По словам Ляна, предоставляя аппаратное и программное обеспечение в виде многолетней подписки, заказчик получает большую уверенность в затратах на свои проекты в области ИИ.
По словам компании, новый чип SN40L доступен уже сегодня, и полностью совместим с чипами предыдущего поколения.