Nvidia представляет совершенно новый тип Ethernet для генеративного ИИ

Nvidia представляет совершенно новый тип Ethernet для генеративного ИИ

30 мая 2023 г.

Nvidia объявила подробности о новой сетевой платформе, разработанной специально для генеративных рабочих нагрузок ИИ и обещающей молниеносную работу в сети без потерь.

Новая технология компании Spectrum-X построена на базе Spectrum-4 Ethernet. коммутатор и BlueField-3 DPU, а также обещает увеличение производительности и энергоэффективности в 1,7 раза.

В пресс-релиз, компания заявила: «Предоставление сквозных возможностей снижает время работы массивных генеративных моделей искусственного интеллекта на основе трансформаторов», что, в свою очередь, позволяет компаниям работать и принимать решения быстрее, раскрывая потенциал экономии.

Spectrum-X Ethernet

Старший вице-президент Nvidia по сетям Гилад Шейнер (Gilad Shainer) сказал: «Spectrum-X — это новый класс сетей Ethernet, который устраняет барьеры для рабочих нагрузок искусственного интеллекта нового поколения, способных преобразовать целые отрасли».

Его ключевой компонент, Ethernet-коммутатор Spectrum-4, способен развивать скорость до 51 Тбит/с. Для потребителей это означает, что в сочетании с DPU BlueField-3 и оптикой Nvidia LinkX активируется сеть 400 Gigabit Ethernet.

Компания стремилась дать представление о мощных сетевых возможностях, которые суперкомпьютеры с искусственным интеллектом теперь могут использовать в реальных случаях:

«Nvidia Spectrum-X обеспечивает беспрецедентное масштабирование 256 подключенных портов 200 Гбит/с. с помощью одного коммутатора или 16 000 портов в двухуровневой топологии leaf-spine для поддержки роста и расширения облаков ИИ при сохранении высокого уровня производительности и минимизации сетевых задержек».

Генеральный директор Nvidia Дженсен Хуан продемонстрировал чип-переключатель Spectrum-4 во время своей презентации на вступительной речи на выставке Computex, поделившись более подробной информацией о его конструкции. По его словам, сто миллиардов транзисторов на кристалле размером 90x90 мм потребляют около 500 Вт.

Nvidia уже тестирует свой Spectrum-X в своем израильском центре обработки данных в Israel 1, гипермасштабном суперкомпьютере с генеративным искусственным интеллектом, на котором работает Dell. Серверы PowerEdge XE9680 на базе восьмипроцессорной платформы Nvidia HGX H100.


Оригинал
PREVIOUS ARTICLE
NEXT ARTICLE