NVIDIA DGX Cloud AI Supercomputing предлагает обучение ИИ как услугу

27 июля 2023 г.

Облачная инфраструктура NVIDIA DGX, которая позволяет организациям арендовать место на суперкомпьютерном оборудовании, подходящем для обучения генеративным моделям ИИ, теперь общедоступна. Услуга стоимостью 36 999 долл. США за инстанс в месяц, о которой впервые было объявлено в марте, конкурирует с собственным сервером NVIDIA DGX стоимостью 200 000 долл. США. Он работает в инфраструктуре Oracle Cloud и на оборудовании NVIDIA, расположенном в США и Великобритании.

Перейти к:

Что делает облако NVIDIA DGX? Что заставляет работать платформу NVIDIA DGX Cloud for AI? Как меняется доступ к вычислениям ИИ

Что делает облако NVIDIA DGX?

DGX Cloud — это версия аппаратного обеспечения NVIDIA с удаленным доступом, включая тысячи графических процессоров NVIDIA, подключенных к сети в Oracle Cloud Infrastructure.

Система искусственного интеллекта DGX — это аппаратное обеспечение, на котором обучался ChatGPT в первую очередь, поэтому NVIDIA имеет правильную родословную для организаций, которые хотят развернуть свои собственные модели генеративного искусственного интеллекта. При обучении ChatGPT Microsoft соединила десятки тысяч графических чипов NVIDIA A100, чтобы получить необходимую мощность; теперь NVIDIA хочет значительно упростить этот процесс — по сути, предоставляя обучение ИИ как услугу.

По словам NVIDIA, фармацевтические компании, производители и финансовые учреждения, использующие обработку естественного языка и чат-ботов с искусственным интеллектом, входят в число существующих клиентов DGX Cloud.

Организации, заинтересованные в DGX Cloud, могут подать заявку на регистрацию.

ПОСМОТРЕТЬ: ChatGPT теперь доступен в виде приложения для Android (TechRepublic).

Что заставляет работать платформу NVIDIA DGX Cloud for AI?

Ключом к успеху платформы DGX Cloud for AI является высокопроизводительная структура с малой задержкой, которая позволяет масштабировать рабочие нагрузки между кластерами взаимосвязанных систем, позволяя нескольким экземплярам работать так, как если бы все они были частью одного графического процессора.

Стоимость подписки в размере 36 999 долларов США за инстанс в месяц позволяет организации арендовать место на восьми графических процессорах NVIDIA с тензорными ядрами 80 ГБ для 640 ГБ памяти графического процессора на узел — массив суперкомпьютеров — все это доступно в веб-браузере. Клиенты могут управлять тренировочными нагрузками и отслеживать их с помощью программной панели NVIDIA Base Command Platform.

«Пользовательский интерфейс DGX Cloud (NVIDIA Base Command Platform) позволяет предприятиям быстро выполнять и управлять разработкой моделей, не беспокоясь о базовой инфраструктуре», — отметил Тони Пайкедей, старший директор DGX Platforms в NVIDIA, в электронном письме TechRepublic.

Оттуда организации могут использовать NVIDIA AI Enterprise, программную часть платформы. Он предоставляет библиотеку из более чем 100 комплексных сред искусственного интеллекта и предварительно обученных моделей, что делает разработку и развертывание производственного искусственного интеллекта относительно простым.

Paikeday отметил, что клиенты, уже использующие DGX Cloud, обычно выбирают его, потому что традиционные вычисления не предоставляют столько выделенных ресурсов.

Клиенты хотят «вычислительного масштаба и межсетевого взаимодействия, которое позволит им распараллелить эти очень большие рабочие нагрузки на множестве параллельных вычислительных экземпляров, работающих как один массивный суперкомпьютер», — сказал он.

Как меняется доступ к вычислениям ИИ

По мере того, как генеративный ИИ становится все более распространенным, организации реагируют на потребность в изменениях в способах использования ИИ, от общедоступной электростанции, такой как GPT-4, до частных экземпляров, в которых организации могут использовать свои собственные данные и разрабатывать свои собственные варианты использования. Соответственно изменится и доступ к необходимым мощным вычислительным мощностям.

«Доступность NVIDIA DGX Cloud обеспечивает новый пул супервычислительных ресурсов ИИ с почти мгновенным доступом», — сказал Пэт Мурхед, главный аналитик Moor Insights & Strategy, в пресс-релизе NVIDIA.

«Генеративный ИИ сделал быстрое внедрение ИИ бизнес-императивом для ведущих компаний в каждой отрасли, что побудило многие предприятия искать более ускоренную вычислительную инфраструктуру», — сказал он.

«Мы находимся на этапе iPhone с искусственным интеллектом. Стартапы спешат создавать прорывные продукты и бизнес-модели, а действующие игроки стремятся отреагировать», — сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA, во время первоначального объявления в марте. «Облако DGX предоставляет клиентам мгновенный доступ к супервычислениям NVIDIA AI в облаках глобального масштаба».

---

Оригинал