Специалист по GPU-технологиям NVIDIA добивается значительных успехов в областях CPU и DPU, пишет на портале eWeek основатель и главный аналитик ZK Research Зьюс Керравала.
Исторически проводимые компанией мероприятия GPU Technology Conference (GTC) были сфокусированы на разработчиках, геймерах, специалистах по данным, автопроизводителях и других отраслях промышленности, которые использовали основной продукт NVIDIA — GPU. Но за последние несколько лет компания сделала ряд шагов, как путем приобретений, так и внутренних разработок, чтобы расширить свою экспертизу на другие типы чипов.
Обсудим несколько ключевых объявлений, которые NVIDIA сделала на апрельской GTC 2021.
NVIDIA выходит на рынок CPU с Project Grace
Исторически сложилось так, что NVIDIA всегда фокусировалась на GPU, но никогда не оспаривала ценность CPU. Не секрет, что рост производительности согласно закону Мура заканчивается и производительность CPU выходит на плато. Существуют некоторые теории о том, как перезапустить закон Мура, в том числе путем отказа от самого кремния. На нынешней GTC NVIDIA объявила о проекте Project Grace, названном в честь Грейс Хоппер, ставшей пионером компьютерного программирования в
Преимуществом x86 является возможность варьирования серверных конфигураций CPU, памяти, PCI Express и периферийных устройств для удовлетворения потребностей приложений. Однако обработка больших объемов данных была и остается проблемой. Это особенно актуально для систем рекомендаций и является основной причиной того, что лидер в области CPU Intel не может захватить рынок ИИ.
Grace расшивает узкие места
СЕО NVIDIA Дженсен Хуанг проиллюстрировал такое узкое место на примере, когда CPU с
Именно такая концепция лежит в основе Grace, где архитектура специально создана для ускоренных вычислений и обработки больших объемов данных, необходимых для ИИ. Grace использует ARM-процессоры, разработчика которых сейчас приобретает NVIDIA, и NVLink для создания намного более быстрой производительности CPU.
Если быть точным, то Grace не является заменой CPU в ПК. Это узкоспециализированный процессор, нацеленный на рабочие нагрузки, такие как NLP-модели, которые имеют миллиарды или даже триллионы параметров. NVIDIA утверждает, что при объединении Grace с ее GPU система обеспечит
NVIDA объявляет о выпуске DPU BlueField-3
В прошлом году компания объявила о выпуске сопроцессора обработки данных (DPU). Для тех, кто не знаком с DPU: аналогией может служить сетевая карта (NIC), которая используется для разгрузки многих задач CPU. Выгружая эти функции, серверный CPU может справляться с бóльшим количеством рабочих нагрузок. В традиционных системах сетевая карта выполняет основные сетевые задачи и оставляет CPU выполнение таких задач, как обеспечение безопасности, программно-определяемое хранение и др.
В октябре прошлого года NVIDIA объявила о выпуске DPU BlueField-2 и 2X. Сейчас компания представила BlueField-3 — первый DPU, предназначенный для ИИ и ускоренных вычислений. Эта карта оптимизирована для работы в многопользовательских нативных облачных средах и предлагает программно-определяемые аппаратно-ускоренные возможности для сети, хранения, безопасности и управления на ЦОД-скоростях. Один BlueField-3 обладает вычислительными возможностями 300 процессорных ядер, высвобождая драгоценные циклы серверного процессора.
Новый DPU будет иметь 16 ядер ARM A78 и обеспечивать пропускную способность 400 Гбит/с. Он также будет включать аппаратные ускорители для хранения, сети, кибербезопасности, потоковой передачи данных, линейного шифрования и синхронизации времени в 5G-среде. Для сравнения: BlueField-2 содержит 8 ядер Arm A72 и обеспечивает производительность 200 Гбит/с.
Как сообщил Хуанг, BlueField-4 будет анонсирован в 2024 г.
Синергетика ускоряет инновации
Но NVIDIA не ограничивается аппаратным обеспечением. Набор для разработки программного обеспечения DOCA позволяет разработчикам создавать сервисы с DPU-ускорением при помощи стандартизированных API. Именно комбинация аппаратного и программного обеспечения позволяет NVIDIA успешно конкурировать с Intel.
BlueField уже имеет большую партнерскую экосистему, включающую Dell Technologies, Inspur, Lenovo и Supermicro, которые интегрируют BlueField в свои системы. Облачные провайдеры Baudu, JD.com и UCloud также объявили о том, что будут использовать DPU. Об их поддержке заявили поставщики систем безопасности Fortinet и Guardicore, а также поставщики Edge-систем Cloudflare, Juniper и F5.
Начав с GPU, NVIDIA выросла и распространила свой опыт на DPU и CPU, и сочетание этих трех компонентов будет способствовать ускорению инноваций. «Двадцать лет назад все это была научная фантастика. Десять лет назад это была мечта. Сегодня мы живем ею», — заявил Хуанг.