IBM построила экономичный суперкомпьютер с искусственным интеллектом в своем облаке
21 февраля 2023 г.Ответ IBM на экономичный суперкомпьютер уже несколько месяцев работает, но только недавно она раскрыла какую-либо осязаемую информацию о своем так называемом проекте Vela.
Возвращаясь к своему < href="https://research.ibm.com/blog/AI-supercomputer-Vela-GPU-cluster" target="_blank">блог для обсуждения деталей, IBM сообщила, что исследование, проведенное пятью сотрудников компании, решает проблемы с предыдущими суперкомпьютерами и их неготовность к задачам ИИ.
Чтобы настроить модель суперкомпьютера для этого будущего типа рабочей нагрузки, компания проливает свет на решения это сделано с точки зрения использования доступного, но мощного оборудования.
Суперкомпьютер IBM Vela AI
В работе подчеркивается, что «создание [традиционного] суперкомпьютера означало голые металлические узлы, высокопроизводительное сетевое оборудование… параллельные файловые системы и другие элементы, обычно связанные с высокопроизводительными вычислениями (HPC)».
Хотя очевидно, что эти суперкомпьютеры могут справляться с большими рабочими нагрузками ИИ, в том числе разработанными для OpenAI, стартап, стоящий за популярным ChatGPT живой чат, отсутствие оптимизации означает, что традиционным суперкомпьютерам может не хватать ценной мощности и иметь избыток в других областях, что приводит к ненужным расходам.
Хотя уже давно принято, что «голые» металлические узлы являются наиболее идеальными для ИИ, IBM хотела изучить возможности их размещения внутри виртуальной машины (ВМ). Результатом, по словам Big Blue, является огромный прирост производительности.
«После значительного количества исследований и открытий мы разработали способ раскрыть все возможности узла (графические процессоры, процессоры, сеть, и хранилище) в виртуальную машину, так что накладные расходы на виртуализацию составляют менее 5 %, что является самым низким показателем в отрасли, о котором нам известно».
Что касается конструкции узла, Vela оснащен 80 ГБ памяти или графическим процессором, 1,5 ТБ DRAM и четырьмя накопителями NVMe емкостью 3,2 ТБ.
Хотя современные суперкомпьютеры в настоящее время способны справляться с рабочими нагрузками ИИ, огромные разработки в области искусственного интеллекта в сочетании с насущной потребностью в экономической эффективности подчеркивают необходимость такой машины.
- Нужно где-то хранить все эти данные? Как насчет лучших решений для облачного хранения или лучшие инструменты облачного резервного копирования прямо сейчас
Оригинал