Альтернатива графическому процессору d-Matrix привлекает 110 миллионов долларов на вывод искусственного интеллекта
7 сентября 2023 г.Microsoft и другие инвесторы вложили 110 миллионов долларов в d-Matrix, компанию по производству чипов искусственного интеллекта, сообщило агентство Reuters во вторник. d-Matrix примечателен тем, что фокусируется на чипах для вывода. Проще говоря, вывод ИИ — это процесс повышения точности прогнозов генеративного ИИ или большой языковой модели. Это происходит после тренировки.
Поддержка логического вывода дает d-Matrix ценную нишу и позволяет избежать конкуренции с NVIDIA, широкомасштабной технологической компанией, которая производит графические процессоры и системные блоки, а также другое программное и аппаратное обеспечение.
Перейти к:
- Что такое d-матрица?
Что такое построение d-матрицы?
Почему d-Matrix выделяется среди производителей ИИ-чипов
Как чиплеты вписываются в глобальную нехватку чипов
Что такое d-матрица?
d-Matrix — компания из Кремниевой долины, которая производит вычислительные платформы (чипы) для генеративного искусственного интеллекта и больших языковых моделей. Ее флагманским продуктом является Corsair, вычислительная машина в памяти для вывода ИИ. Способность конструкции полностью хранить модель искусственного интеллекта в памяти является новой и основана на предыдущих чипсетах d-Matrix Nighthawk, Jayhawk-I и Jayhawk II.
Что такое построение d-матрицы?
Благодаря новому раунду финансирования d-Matrix будет работать над коммерциализацией Corsair. Он хочет решить проблему, с которой компании, занимающиеся искусственным интеллектом и LLM, не имеют достаточной вычислительной мощности для выполнения необходимых им рабочих нагрузок. Чтобы решить эту проблему с памятью, d-Matrix создала платформы Digital Memory In Compute на базе чиплетов, которые, по словам d-Matrix, могут снизить общую стоимость владения процессом вывода.
Ожидается, что Corsair будет запущен в следующем году, в 2024 году.
Почему d-Matrix выделяется среди производителей ИИ-чипов
d-Matrix выделяется тем, что производство чипов является конкурентоспособным, и многие небольшие компании испытывают проблемы с поиском финансирования. NVIDIA вытеснила многие мелкие компании и инвесторов с рынка ИИ-чипов. В частности, по данным Reuters, доминирование NVIDIA как в аппаратном, так и в программном обеспечении затрудняет проникновение других компаний.
NVIDIA отказалась комментировать инвестиции в d-Matrix.
Инвестиции в размере 110 миллионов долларов в d-Matrix получены в рамках раунда финансирования серии B от инвестиционных компаний Temasek и Playground Global, а также M12, венчурного фонда Microsoft. До этого d-Matrix привлекла 44 миллиона долларов в рамках раунда финансирования с Playground Global.
«Текущая траектория вычислений ИИ неустойчива, поскольку совокупная стоимость владения для выполнения выводов ИИ быстро растет», — сказал Сид Шет, соучредитель и генеральный директор d-Matrix, в пресс-релизе. «Команда d-Matrix меняет экономику затрат на внедрение искусственного интеллекта с помощью вычислительного решения, специально созданного для студентов LLM, и этот раунд финансирования подтверждает нашу позицию в отрасли».
«D-Matrix — это компания, которая сделает генеративный искусственный интеллект коммерчески жизнеспособным», — заявила в том же пресс-релизе Саша Остоич, партнер Playground Global.
«Мы вступаем в фазу производства, когда вывод LLM TCO становится решающим фактором в том, сколько, где и когда предприятия используют передовой искусственный интеллект в своих услугах и приложениях», — сказал Майкл Стюарт из M12, венчурного фонда Microsoft, в пресс-релизе.
Как чиплеты вписываются в глобальную нехватку чипов
Индустрия генеративного искусственного интеллекта, которая стремительно развивается с момента коммерциализации ChatGPT в ноябре 2022 года, сегодня сталкивается с двумя серьезными проблемами. Во-первых, использование генеративного искусственного интеллекта чрезвычайно затратно: по состоянию на март 2023 года обучение LLM обходится в 4 миллиона долларов.
Во-вторых, по-прежнему сложно найти графические процессоры, необходимые для обучения ИИ и которые производит NVIDIA. Их настолько не хватает, что страны по всему миру начинают инициативы по развитию производства чипов. Например, в начале сентября Китай вложил 40 миллиардов долларов в свою индустрию микросхем; хотя нет никаких признаков того, что эти чипы не предназначены специально для продуктов генеративного искусственного интеллекта или LLM.
SEE: Вот все, что вам нужно знать о нехватке чипов, в том числе о том, почему она началась. (Техреспублик)
Механизмы DIMC и чиплеты, производимые d-Matrix, являются альтернативой решениям на базе графических процессоров, поэтому d-Matrix может предложить решение серьезной проблемы.
Оригинал