NVIDIA представила новую платформу для ускорения AI-облаков на основе Ethernet

Компания NVIDIA анонсировала запуск новой платформы NVIDIA Spectrum-X, которая предназначена для повышения производительности и эффективности облачных решений на базе Ethernet, использующих искусственный интеллект (AI). Платформа NVIDIA Spectrum-X объединяет в себе Ethernet-коммутатор NVIDIA Spectrum-4, DPU (data processing unit) NVIDIA BlueField-3 и специальное программное обеспечение для ускорения AI-приложений. Благодаря этому платформа достигает почти вдвое лучших показателей по общей производительности и энергоэффективности AI, а также обеспечивает стабильную и предсказуемую работу в многопользовательских средах.

Платформа NVIDIA Spectrum-X поддерживает стандарты Ethernet и совместима с существующими Ethernet-стеками. Она может применяться в различных AI-приложениях, таких как генеративные модели языка (GPT и BERT), распределенное обучение и параллельная обработка, обработка естественного языка (NLP), компьютерное зрение, высокопроизводительное моделирование (NVIDIA Omniverse и NVIDIA OVX) и аналитика данных (Spark). Платформа начинается с коммутатора Spectrum-4, который является первым Ethernet-коммутатором, созданным специально для AI-сетей. Он имеет пропускную способность 51 Тбит/с и может подключать 128 портов 400 Гбит/с или 64 порта 800 Гбит/с. Коммутатор работает в паре с DPU BlueField-3, которая отвечает за передачу и очередность данных, а также с оптическими трансиверами LinkX, которые создают оптимизированную для AI-облаков сеть на базе 400GbE.

Платформа NVIDIA Spectrum-X также улучшает многопользовательскую работу за счет изоляции производительности, гарантируя оптимальную и постоянную работу AI-задач для разных клиентов. Она может определять узкие места в производительности и имеет автоматическую проверку состояния сети для обеспечения лучшей видимости производительности AI.

Для ускорения работы платформы NVIDIA Spectrum-X использует программное обеспечение и наборы инструментов разработчика (SDK) от NVIDIA, такие как Cumulus Linux, pure SONiC, NetQ и DOCA. Они позволяют платформе достигать экстремальной производительности.

В качестве образца и испытательного стенда для эталонных дизайнов NVIDIA Spectrum-X компания NVIDIA строит гипермасштабный генеративный AI-суперкомпьютер Israel-1, который будет развернут в ее израильском дата-центре на серверах Dell PowerEdge XE9680 на базе восьми-GPU платформы NVIDIA HGX H100 с DPU BlueField-3 и коммутаторами Spectrum-4.

Среди компаний, которые предлагают решения на базе NVIDIA Spectrum-X, можно назвать Dell Technologies, Lenovo и Supermicro.

NVIDIA Spectrum-X является частью стратегии NVIDIA по созданию программно-определяемых AI-дата-центров нового поколения. Ранее компания уже представила свой первый процессор для центров обработки данных Grace , который также оптимизирован для работы с AI-задачами. Кроме того, компания продолжает развивать свою линейку GPU для AI, включая новый чип Grace Hopper , который уже поступил в полное производство.

NVIDIA также активно сотрудничает с другими лидерами индустрии по развитию AI-технологий. Например, она объединилась с Google Cloud для создания Vertex AI , единой платформы для разработки и управления AI-моделями. А вместе с Microsoft она запустила сервис Azure Arc , который позволяет развертывать AI-приложения на любых устройствах с DPU BlueField.