Специальные кремниевые чипы AWS — признак того, что будет с облачными вычислениями в Азиатско-Тихоокеанском регионе

Всплеск вычислений ИИ привел к задержкам поставок чипов с поддержкой ИИ, поскольку спрос превысил предложение. Мировые гиганты Microsoft, Google и AWS наращивают производство кремниевых чипов на заказ, чтобы снизить зависимость от доминирующих поставщиков графических процессоров NVIDIA и AMD.

В результате предприятия Азиатско-Тихоокеанского региона вскоре могут обнаружить, что им придется использовать расширяющийся набор типов чипов в облачных центрах обработки данных. Выбор чипов будет зависеть от вычислительной мощности и скорости, необходимых для различных рабочих нагрузок приложений, стоимости и отношений с поставщиками облачных услуг.

Крупнейшие поставщики облачных технологий инвестируют в специальные кремниевые чипы

Задачи с интенсивными вычислениями, такие как обучение модели большого языка ИИ, требуют огромных вычислительных мощностей. Поскольку спрос на вычисления с использованием искусственного интеллекта вырос, сверхсовременные полупроводниковые чипы от NVIDIA и AMD стали очень дорогими и их трудно защитить.

Доминирующие поставщики гипермасштабных облаков отреагировали на это ускорением производства кремниевых чипов на заказ в 2023 и 2024 годах. Эти программы позволят снизить зависимость от доминирующих поставщиков, чтобы они могли предоставлять вычислительные услуги ИИ клиентам по всему миру и в Азиатско-Тихоокеанском регионе.

Google

Компания Google представила свои первые специальные процессоры на базе ARM, выпустив процессор Axion во время конференции Cloud Next в апреле 2024 года. Опираясь на работу по созданию специализированных микросхем за последнее десятилетие, шаг к производству собственных процессоров предназначен для поддержки различных вычислений общего назначения, включая обучение искусственному интеллекту на базе ЦП.

Ожидается, что для клиентов облачных сервисов Google в Азиатско-Тихоокеанском регионе чип расширит возможности искусственного интеллекта Google в его центрах обработки данных и станет доступен клиентам Google Cloud позднее в 2024 году.

Майкрософт

Microsoft также представила свой собственный первый собственный ускоритель, оптимизированный для задач искусственного интеллекта и генеративного искусственного интеллекта, который он назвал Azure Maia 100 AI Accelerator. К этому присоединяется собственный процессор Cobalt 100 на базе ARM, оба из которых были официально анонсированы на Microsoft Ignite в ноябре 2023 года. Специальный процессор компании для искусственного интеллекта уже используется для таких задач, как запуск большой языковой модели OpenAI ChatGPT 3.5. Мировой технологический гигант заявил, что ожидает более широкого внедрения в облачные центры обработки данных Azure для клиентов с 2024 года.

АВС

Инвестиции AWS в специальные кремниевые чипы начались в 2009 году. К настоящему моменту компания выпустила четыре поколения процессоров Graviton, которые внедрены в центры обработки данных по всему миру, в том числе в Азиатско-Тихоокеанском регионе; процессоры были разработаны с целью повышения ценовой производительности для облачных рабочих нагрузок. К ним присоединились два поколения Inferentia для глубокого обучения и вывода ИИ, а также два поколения Trainium для обучения моделей ИИ с более чем 100B параметрами.

AWS обсуждает выбор кремния для облачных клиентов из Азиатско-Тихоокеанского региона

На недавнем саммите AWS, проходившем в Австралии, Дэйв Браун, вице-президент AWS Compute & Networking Services, рассказал TechRepublic, что причина, по которой облачный провайдер разработал собственный чип, заключалась в предоставлении клиентам выбора и улучшении «ценовой эффективности» доступных вычислений.

«Предоставление выбора было очень важным», — сказал Браун. «Наши клиенты могут найти процессоры и ускорители, которые лучше всего подходят для их рабочих задач. А поскольку мы производим собственный кремний, мы можем предоставить им больше вычислительных ресурсов по более низкой цене», — добавил он.

NVIDIA, AMD и Intel среди поставщиков чипов AWS

AWS имеет давние отношения с крупными поставщиками полупроводниковых чипов. Например, отношения AWS с NVIDIA, ныне доминирующим игроком в области искусственного интеллекта, насчитывают 13 лет, а Intel, выпустившая ускорители Гауди для искусственного интеллекта, была поставщиком полупроводников с момента основания облачного провайдера. AWS предлагает чипы AMD в дата-центрах с 2018 года.

Вариант кремния на заказ пользуется спросом из-за ценового давления

Браун сказал, что лихорадка по оптимизации затрат, охватившая организации в последние два года на фоне замедления мировой экономики, привела к тому, что клиенты перешли на AWS Graviton во всех регионах, в том числе в Азиатско-Тихоокеанском регионе. Он сказал, что чипы получили широкое распространение на рынке — более чем 50 000 клиентов по всему миру, включая всех 100 крупнейших клиентов гиперскейлера. «Крупнейшие учреждения переходят на Graviton из-за повышения производительности и экономии средств», — сказал он.

СМОТРИТЕ: Инструментов оптимизации затрат на облачные технологии недостаточно, чтобы контролировать расходы на облачные технологии.

Южнокорейские и австралийские компании среди пользователей

Широкое внедрение специализированных микросхем AWS приводит к тому, что клиенты в Азиатско-Тихоокеанском регионе используют эти возможности.

Leonardo.Ai: быстрорастущий австралийский стартап по созданию изображений Leonardo.Ai использовал чипы Inferentia и Trainium для обучения и вывода генеративных моделей искусственного интеллекта. Браун заявил, что они добились сокращения затрат на вывод на 60% и уменьшения задержки на 55%. Kakaopay Securities: Южнокорейское финансовое учреждение Kakaopay Securities «широко использует Graviton», сказал Браун. По словам Брауна, благодаря этому банковский игрок добился сокращения операционных расходов на 20% и повышения производительности на 30%.

Преимущества специального кремния для корпоративных облачных клиентов

Корпоративные клиенты в Азиатско-Тихоокеанском регионе могут получить выгоду от расширения спектра возможностей вычислений, независимо от того, измеряется ли это производительностью, стоимостью или соответствием различным облачным рабочим нагрузкам. Специальные варианты кремния также могут помочь организациям достичь целей устойчивого развития.

Улучшены результаты производительности и задержки.

Конкуренция со стороны поставщиков облачных услуг в тандеме с поставщиками чипов может способствовать повышению производительности чипов, будь то в категории высокопроизводительных вычислений для обучения моделей ИИ или инноваций в области логического вывода, где задержка имеет большое значение.

Потенциал для дальнейшей оптимизации затрат на облако

Оптимизация затрат на облако стала серьезной проблемой для предприятий, поскольку расширение облачных рабочих нагрузок привело к резкому увеличению затрат клиентов. Больше вариантов оборудования дает клиентам больше возможностей для снижения общих затрат на облако, поскольку они могут более тщательно выбирать подходящие вычисления.

Возможность сопоставления вычислений с рабочими нагрузками приложений

Растущий ассортимент специализированных кремниевых чипов в рамках облачных сервисов позволит предприятиям лучше согласовывать рабочие нагрузки своих приложений с конкретными характеристиками базового оборудования, гарантируя, что они смогут использовать наиболее подходящий кремний для конкретных сценариев использования.

Повышение устойчивости за счет меньшего энергопотребления

Прогнозируется, что к 2028 году устойчивое развитие станет пятеркой основных факторов для клиентов, приобретающих поставщиков облачных услуг. Поставщики реагируют: например, AWS заявила, что выбросы углекислого газа можно сократить с помощью чипов Graviton4, которые на 60% более эффективны. Специально разработанный кремний поможет повысить общую устойчивость облака.