На конференции Supercomputing '23 в Денвере 13 ноября NVIDIA объявила о расширении доступности суперчипа NVIDIA GH200 Grace Hopper для высокопроизводительных вычислений, а также систем и облачных экземпляров HGX H200 для обучения искусственному интеллекту.
Перейти к:
- Суперкомпьютер NVIDIA HGX GH200 расширяет возможности генеративного искусственного интеллекта и высокопроизводительных вычислений
Чип NVIDIA GH200 подходит для суперкомпьютеров и обучения искусственному интеллекту.
Суперкомпьютер NVIDIA HGX GH200 расширяет возможности генеративного искусственного интеллекта и высокопроизводительных вычислений
Суперкомпьютерная платформа HGX GH200, построенная на базе графического процессора NVIDIA H200 Tensor Core, будет доступна у производителей серверов и поставщиков оборудования, сотрудничающих с NVIDIA. Ожидается, что поставки HGX GH200 от поставщиков облачных услуг и производителей начнутся во втором квартале 2024 года.
Amazon Web Services, Google Cloud, Microsoft Azure, CoreWeave, Lambda, Vultr и Oracle Cloud Infrastructure будут предлагать инстансы на базе H200 в 2024 году.
NVIDIA HGX H200 имеет следующие особенности:
- Графический процессор NVIDIA H200 с тензорными ядрами для генеративного искусственного интеллекта и высокопроизводительных вычислительных задач, требующих огромных объемов памяти (141 ГБ памяти со скоростью 4,8 терабайта в секунду).
Удвоенная скорость вывода на Llama 2, LLM с 70 миллиардами параметров, по сравнению с NVIDIA H100.
Совместимость с суперчипом NVIDIA GH200 Grace Hopper с HBM3e.
Возможность развертывания в центрах обработки данных любого типа, в том числе на серверах существующих партнеров ASRock Rack, ASUS, Dell Technologies, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Supermicro, Wistron и Wiwynn.
Может обеспечить вывод и обучение для крупнейших моделей LLM, превышающих 175 миллиардов параметров.
Более 32 петафлопс вычислений глубокого обучения FP8 и 1,1 ТБ совокупной памяти с высокой пропускной способностью.
«Чтобы создать интеллект с помощью генеративного искусственного интеллекта и приложений HPC, огромные объемы данных должны эффективно обрабатываться на высокой скорости с использованием большой и быстрой памяти графического процессора», — сказал Ян Бак, вице-президент по гипермасштабированию и HPC в NVIDIA, в пресс-релизе.
Чип NVIDIA GH200 подходит для суперкомпьютеров и обучения искусственному интеллекту.
NVIDIA теперь будет предлагать суперкомпьютеры HPE Cray EX2500 с чипом GH200 (рис. A) для расширенных возможностей суперкомпьютеров и обучения искусственному интеллекту. HPE анонсировала суперкомпьютерное решение для генеративного искусственного интеллекта, составляющее часть конфигурации суперкомпьютера NVIDIA HPE Cray EX2500.
Рисунок А
GH200 включает в себя архитектуры процессора NVIDIA Grace на базе Arm и графического процессора Hopper с использованием технологии межсоединения NVIDIA NVLink-C2C. GH200 будет упакован в системы Dell Technologies, Eviden, Hewlett Packard Enterprise, Lenovo, QCT и Supermicro, объявила NVIDIA на выставке Supercomputing '23.
SEE: В июле NVIDIA анонсировала обучение искусственному интеллекту как услугу (TechRepublic)
«Организации быстро внедряют генеративный искусственный интеллект для ускорения трансформации бизнеса и технологических прорывов», — сказал Джастин Хотард, исполнительный вице-президент и генеральный менеджер подразделения высокопроизводительных вычислений, искусственного интеллекта и лабораторий HPE, в своем блоге. «Работая с NVIDIA, мы рады предоставить полноценное суперкомпьютерное решение для генеративного искусственного интеллекта, основанное на таких технологиях, как Grace Hopper, которое облегчит клиентам ускорение крупномасштабного обучения и настройки моделей искусственного интеллекта на новый уровень эффективности».
Что может GH200?
Такие проекты, как проект HPE, показывают, что суперкомпьютеры имеют применение для генеративного обучения ИИ, которое можно использовать в корпоративных вычислениях. GH200 взаимодействует с пакетом программного обеспечения NVIDIA AI Enterprise для таких рабочих нагрузок, как речь, рекомендательные системы и гипермасштабный вывод. Его можно использовать в сочетании с данными предприятия для запуска больших языковых моделей, обученных на данных предприятия.
NVIDIA заключила партнерство с новым исследовательским центром суперкомпьютеров
NVIDIA объявила о партнерстве с суперкомпьютерными центрами по всему миру. Научный суперкомпьютер JUPITER немецкого Юлихского суперкомпьютерного центра будет использовать суперчипы GH200. JUPITER будет использоваться для создания базовых моделей искусственного интеллекта для исследований климата и погоды, материаловедения, разработки лекарств, промышленного проектирования и квантовых вычислений для научного сообщества. Суперкомпьютер Vista Техасского центра перспективных вычислений и будущий суперкомпьютер Isambard-AI Бристольского университета также будут использовать суперчипы GH200.
Доступ к GH200 предлагают различные поставщики облачных услуг.
Облачные провайдеры Lambda и Vultr уже предлагают NVIDIA GH200 в раннем доступе. Oracle Cloud Infrastructure и CoreWeave планируют предлагать экземпляры NVIDIA GH200 в будущем, начиная с первого квартала 2024 года для CoreWeave; Oracle не уточнил дату.