Суперкомпьютеры 23 года: высокопроизводительные чипы NVIDIA обеспечивают поддержку рабочих нагрузок искусственного интеллекта

На конференции Supercomputing '23 в Денвере 13 ноября NVIDIA объявила о расширении доступности суперчипа NVIDIA GH200 Grace Hopper для высокопроизводительных вычислений, а также систем и облачных экземпляров HGX H200 для обучения искусственному интеллекту.

Перейти к:

Суперкомпьютер NVIDIA HGX GH200 расширяет возможности генеративного искусственного интеллекта и высокопроизводительных вычислений Чип NVIDIA GH200 подходит для суперкомпьютеров и обучения искусственному интеллекту.

Суперкомпьютер NVIDIA HGX GH200 расширяет возможности генеративного искусственного интеллекта и высокопроизводительных вычислений

Суперкомпьютерная платформа HGX GH200, построенная на базе графического процессора NVIDIA H200 Tensor Core, будет доступна у производителей серверов и поставщиков оборудования, сотрудничающих с NVIDIA. Ожидается, что поставки HGX GH200 от поставщиков облачных услуг и производителей начнутся во втором квартале 2024 года.

Amazon Web Services, Google Cloud, Microsoft Azure, CoreWeave, Lambda, Vultr и Oracle Cloud Infrastructure будут предлагать инстансы на базе H200 в 2024 году.

NVIDIA HGX H200 имеет следующие особенности:

Графический процессор NVIDIA H200 с тензорными ядрами для генеративного искусственного интеллекта и высокопроизводительных вычислительных задач, требующих огромных объемов памяти (141 ГБ памяти со скоростью 4,8 терабайта в секунду). Удвоенная скорость вывода на Llama 2, LLM с 70 миллиардами параметров, по сравнению с NVIDIA H100. Совместимость с суперчипом NVIDIA GH200 Grace Hopper с HBM3e. Возможность развертывания в центрах обработки данных любого типа, в том числе на серверах существующих партнеров ASRock Rack, ASUS, Dell Technologies, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Supermicro, Wistron и Wiwynn. Может обеспечить вывод и обучение для крупнейших моделей LLM, превышающих 175 миллиардов параметров. Более 32 петафлопс вычислений глубокого обучения FP8 и 1,1 ТБ совокупной памяти с высокой пропускной способностью.

«Чтобы создать интеллект с помощью генеративного искусственного интеллекта и приложений HPC, огромные объемы данных должны эффективно обрабатываться на высокой скорости с использованием большой и быстрой памяти графического процессора», — сказал Ян Бак, вице-президент по гипермасштабированию и HPC в NVIDIA, в пресс-релизе.

Чип NVIDIA GH200 подходит для суперкомпьютеров и обучения искусственному интеллекту.

NVIDIA теперь будет предлагать суперкомпьютеры HPE Cray EX2500 с чипом GH200 (рис. A) для расширенных возможностей суперкомпьютеров и обучения искусственному интеллекту. HPE анонсировала суперкомпьютерное решение для генеративного искусственного интеллекта, составляющее часть конфигурации суперкомпьютера NVIDIA HPE Cray EX2500.

Рисунок А

GH200 включает в себя архитектуры процессора NVIDIA Grace на базе Arm и графического процессора Hopper с использованием технологии межсоединения NVIDIA NVLink-C2C. GH200 будет упакован в системы Dell Technologies, Eviden, Hewlett Packard Enterprise, Lenovo, QCT и Supermicro, объявила NVIDIA на выставке Supercomputing '23.

SEE: В июле NVIDIA анонсировала обучение искусственному интеллекту как услугу (TechRepublic)

«Организации быстро внедряют генеративный искусственный интеллект для ускорения трансформации бизнеса и технологических прорывов», — сказал Джастин Хотард, исполнительный вице-президент и генеральный менеджер подразделения высокопроизводительных вычислений, искусственного интеллекта и лабораторий HPE, в своем блоге. «Работая с NVIDIA, мы рады предоставить полноценное суперкомпьютерное решение для генеративного искусственного интеллекта, основанное на таких технологиях, как Grace Hopper, которое облегчит клиентам ускорение крупномасштабного обучения и настройки моделей искусственного интеллекта на новый уровень эффективности».

Что может GH200?

Такие проекты, как проект HPE, показывают, что суперкомпьютеры имеют применение для генеративного обучения ИИ, которое можно использовать в корпоративных вычислениях. GH200 взаимодействует с пакетом программного обеспечения NVIDIA AI Enterprise для таких рабочих нагрузок, как речь, рекомендательные системы и гипермасштабный вывод. Его можно использовать в сочетании с данными предприятия для запуска больших языковых моделей, обученных на данных предприятия.

NVIDIA заключила партнерство с новым исследовательским центром суперкомпьютеров

NVIDIA объявила о партнерстве с суперкомпьютерными центрами по всему миру. Научный суперкомпьютер JUPITER немецкого Юлихского суперкомпьютерного центра будет использовать суперчипы GH200. JUPITER будет использоваться для создания базовых моделей искусственного интеллекта для исследований климата и погоды, материаловедения, разработки лекарств, промышленного проектирования и квантовых вычислений для научного сообщества. Суперкомпьютер Vista Техасского центра перспективных вычислений и будущий суперкомпьютер Isambard-AI Бристольского университета также будут использовать суперчипы GH200.

Доступ к GH200 предлагают различные поставщики облачных услуг.

Облачные провайдеры Lambda и Vultr уже предлагают NVIDIA GH200 в раннем доступе. Oracle Cloud Infrastructure и CoreWeave планируют предлагать экземпляры NVIDIA GH200 в будущем, начиная с первого квартала 2024 года для CoreWeave; Oracle не уточнил дату.