AMD представляет парк чипов для тяжелых рабочих нагрузок ИИ

В четверг компания AMD объявила о предстоящем выпуске своих самых мощных на сегодняшний день чипов искусственного интеллекта — ускорителей Instinct MI325X.

«Наша цель — создать открытую отраслевую экосистему искусственного интеллекта, чтобы каждый мог добавлять свои инновации», — заявила Лиза Су, председатель и генеральный директор AMD, на презентации компании Advancing AI 2024 в Сан-Франциско.

Процессор Epyc 5-го поколения позиционирует AMD как аутсайдера для NVIDIA Blackwell на рынке ИИ. Во время той же презентации AMD также представила несколько новых продуктов, включая новый серверный ЦП, разработанный для корпоративных, ИИ и облачных приложений.

Ускорители AMD Instinct MI325X расширяют возможности инфраструктуры ИИ

Ускорители AMD Instinct MI325X ускоряют обучение базовой модели, тонкую настройку и вывод — процессы, задействованные в современном быстро распространяющемся генеративном ИИ, — и оснащены 256 ГБ HBM3E с поддержкой 6,0 ТБ/с. Архитектура AMD CDNA 4 обеспечивает работу новой линейки.

AMD утверждает, что производительность и пропускная способность этих ускорителей превосходят главного конкурента NVIDIA H200. Технологическая компания также утверждает, что ускорители Instinct MI325X могут ускорить производительность вывода на Mistral 7B AI в 1,3 раза, на Llama 3.1 70B в 1,2 раза и на Mistra's Mixtral 8x7B в 1,4 раза по сравнению с H200.

AMD в первую очередь нацелена на гиперскейлеров с этим продуктом. В частности, гиперскейлеры хотят расширить свое ИИ-совместимое оборудование в центрах обработки данных и обеспечить питанием мощную облачную инфраструктуру.

Instinct MI325X должен поступить в продажу в последнем квартале 2024 года. В первом квартале 2025 года они появятся в устройствах от Dell Technologies, Eviden, Gigabyte, Hewlett Packard Enterprise, Lenovo и Supermicro. После этого AMD продолжит расширять свою серию MI350, и во второй половине 2025 года ожидаются ускорители серии Instinct MI350 на 288 ГБ.

Серверный процессор AMD Epyc 5-го поколения включает в себя до 192 ядер

Последнее поколение процессоров AMD Epyc под кодовым названием «Turin» также дебютировало в Сан-Франциско, продемонстрировав архитектуру Zen 2 Core. Процессоры AMD Epyc серии 9005 поставляются в бесчисленном количестве конфигураций — с количеством ядер от восьми до 192 — и ускоряют обработку графических процессоров для рабочих нагрузок ИИ. Главным конкурентом AMD в этой области являются серверы на базе ЦП Intel Xeon 8592+.

Плотность производительности является ключевым преимуществом, заявила AMD. Более производительные графические процессоры позволяют использовать примерно на 71% меньше энергии и примерно на 87% меньше серверов в центре обработки данных, заявила компания. AMD делает оговорку, отмечая, что факторы окружающей среды включают в себя множество предположений, если не применяются к конкретному варианту использования и местоположению.

СМОТРЕТЬ: Исследователи безопасности обнаружили, что некоторые мошенники получают прибыль с помощью видео, созданного искусственным интеллектом, которое может обмануть программное обеспечение для распознавания лиц.

Все процессоры серии Epyc 9005 были выпущены в четверг. Cisco, Dell, Hewlett Packard Enterprise, Lenovo, Supermicro, а также основные ODM-производители и поставщики облачных услуг поддерживают новую линейку чипов.

«Благодаря новым ускорителям AMD Instinct, процессорам EPYC и сетевым ядрам AMD Pensando, постоянному росту нашей экосистемы открытого программного обеспечения и возможности объединить все это в оптимизированную инфраструктуру ИИ, AMD подчеркивает критически важный опыт в создании и развертывании решений ИИ мирового класса», — сказал Форрест Норрод, исполнительный вице-президент и генеральный менеджер бизнес-группы решений для центров обработки данных компании AMD, в пресс-релизе.

Два новых продукта охватывают фронтенд- и бэкенд-технологии для сетей ИИ

Для сетей ИИ в гипермасштабируемых средах AMD разработала Pensando Salina DPU (фронт-энд) и Pensando Pollara 400 NIC (бэк-энд). Первый управляет передачей данных, безопасно и быстро доставляя данные в кластер ИИ. Последний, NIC или сетевая интерфейсная карта, управляет передачей данных между ускорителями и кластерами с использованием одобренной консорциумом Ultra Ethernet конструкции. AMD заявила, что это первый в отрасли NIC ИИ, который делает это. DPU поддерживает пропускную способность 400G.

Более широкая цель этой технологии — дать возможность большему количеству организаций использовать генеративный ИИ на устройствах, в центрах обработки данных или в облаке.

AMD ожидает, что AMD Pensando Salina DPU и AMD Pensando Pollara 400 NIC поступят в продажу в первой половине 2025 года.

Скоро: ноутбуки серии Ryzen Pro 300 для коммерческого использования

OEM-производители начнут поставлять ноутбуки с процессорами AMD Ryzen Pro 300-й серии позднее в 2024 году. Впервые представленная в июне серия Ryzen Pro 300 является ключевым компонентом ПК с искусственным интеллектом. В частности, они помогают Microsoft продвигать функции искусственного интеллекта Copilot+ в ее текущих и будущих коммерческих устройствах.

«Партнерство Microsoft с AMD и интеграция процессоров Ryzen AI PRO в ПК Copilot+ демонстрируют нашу общую нацеленность на предоставление нашим клиентам эффективного опыта на основе искусственного интеллекта», — заявил в пресс-релизе Паван Давулури, корпоративный вице-президент подразделения устройств Windows+ компании Microsoft.

Lenovo построила свой ThinkPad T14s Gen 6 AMD на базе процессоров Ryzen AI PRO 300 Series. Лука Росси, президент Lenovo Intelligent Devices Group, рассказал о чипах в пресс-релизе, заявив: «Это устройство обеспечивает выдающуюся вычислительную мощность ИИ, повышенную безопасность и исключительное время автономной работы, предоставляя профессионалам инструменты, необходимые для максимальной производительности и эффективности».

TechRepublic дистанционно освещал мероприятие AMD «Advancing AI».