Основатель и главный исполнительный директор Nvidia Дженсен Хуанг вчера заявил, что компания приняла судьбоносное стратегическое решение в 2018 году, и мало кто догадывался, что оно переопределит ее будущее и поможет переопределить развивающуюся отрасль. Это, конечно, принесло огромные дивиденды, но Хуанг сказал, что это только начало близкого ИИ-ориентированного будущего – будущего, которое в основном обеспечивается оборудованием Nvidia. Был ли этот успешный рискованный ход удачным или умным? Ответ, похоже, «да».
Он сделал эти замечания и размышления во время ключевой речи на конференции SIGGRAPH в Лос-Анджелесе. Тот переломный момент пятилетней давности, сказал Хуанг, был выбор в пользу принятия ИИ-ориентированной обработки изображений в виде трассировки лучей и интеллектуального масштабирования: RTX и DLSS соответственно.
«Мы поняли, что растеризация достигла своих пределов», — сказал он, ссылаясь на традиционный широко используемый метод рендеринга 3D-сцены. “2018 год стал моментом «поставить компанию на карту». Это потребовало, чтобы мы переосмыслили аппаратное обеспечение, программное обеспечение, алгоритмы. И в то время, когда мы переосмысливали компьютерную графику с помощью ИИ, мы переосмысливали GPU для ИИ».
Хотя трассировка лучей и DLSS все еще находятся в процессе внедрения в разнообразном и сложном мире потребительских GPU и игр, архитектура, которую они создали для этого, оказалась идеальным партнером для растущего сообщества разработчиков машинного обучения.
Огромное количество вычислений, необходимых для обучения все более крупных генеративных моделей, лучше всего обслуживалось не традиционными центрами обработки данных с некоторыми возможностями GPU, а такими системами, как H100, изначально предназначенными для выполнения необходимых операций в масштабе. Было бы справедливо сказать, что разработка ИИ в некотором смысле ограничивалась лишь доступностью этих вычислительных ресурсов. Nvidia оказалась во владении бума масштаба Beanie Baby и продала примерно столько же серверов и рабочих станций, сколько ей удалось изготовить.
Но Хуанг утверждал, что это было только начало. Новые модели не только нуждаются в обучении, но и в запуске в реальном времени миллионами, возможно миллиардами пользователей на регулярной основе.
«Будущее — это LLM во главе практически всего: «Человек» — это новый язык программирования», — сказал он. Все, от визуальных эффектов до быстро оцифровывающегося производственного рынка, проектирования заводов и тяжелой промышленности в той или иной степени внедрит интерфейс на естественном языке, как предположил Хуанг.
“Целые заводы будут программно-определяемыми и роботизированными, а выпускаемые ими автомобили сами по себе будут роботизированными. Таким образом, это роботизированно спроектированные роботы, которые строят роботов”, — сказал он.
Некоторые могут не разделять его взгляды, которые, хотя и правдоподобны, также очень благоприятны для интересов Nvidia.
Но, хотя степень зависимости от LLM может быть неизвестна, немногие сказали бы, что она вообще не будет принята, и даже консервативная оценка того, кто будет ее использовать и для чего, потребует серьезных инвестиций в новые вычислительные ресурсы.
Инвестирование миллионов долларов в вычислительные ресурсы прошлого поколения, такие как стойки на базе ЦП, является глупостью, когда нечто вроде GH200, только что представленного аппаратного обеспечения для разработки ИИ, предназначенного для центров обработки данных, может выполнять ту же работу менее чем за десятую часть стоимости и энергопотребления.
Он с восторгом представил видео, на котором показана LEGO-подобная сборка нескольких вычислительных узлов Grace Hopper в блейд, затем в стойку, затем в ряд GH200, все соединенные на таких высоких скоростях, что они представляли собой «крупнейший в мире одиночный GPU», включающий полный эксафлопс вычислительной мощности для машинного обучения.
«Это реальный размер, кстати», — сказал он, встав на середине визуализации для драматического эффекта. “И, вероятно, на нем даже запускается Crysis».
По его словам, они станут базовыми единицами цифровой отрасли будущего, ориентированной на ИИ.
“Я не знаю, кто это сказал, но… чем больше вы покупаете, тем больше экономите. Если я могу попросить вас запомнить одну вещь из моего сегодняшнего выступления, это было бы это», — сказал он, вызвав смех игровой аудитории собравшейся на SIGGRAPH.
Ни слова не было сказано о многочисленных проблемах ИИ, регулировании или общей концепции того, как ИИ уже несколько раз менялся за последний год. Это, безусловно, радужный взгляд на мир, но когда вы продаете кирки и лопаты во время золотой лихорадки, вы можете позволить себе так думать.