Забудьте об Intel и AMD: следующим крупным конкурентом Nvidia может стать компания, о которой вы никогда не слышали.
20 мая 2024 г.В последние годы Nvidia добилась огромного успеха в своем переходе на искусственный интеллект, поскольку большие языковые модели и «премиальные компьютеры с искусственным интеллектом» с графическим ускорением, похоже, станут горячей новинкой в 2024 году. Однако новые, более мелкие компании соперничают друг с другом. за свою долю рынка, и они не те, которых вы ожидаете.
Как сообщает The Economist, в области графических процессоров произошли разработки за пределами лучшие видеокарты производства Nvidia и AMD для вычислений с использованием искусственного интеллекта. Это связано с тем, что некоторые из современных крупных языковых моделей работают во многих конфигурациях, включающих взаимосвязанные графические процессоры и память, например, с Cerebras' аппаратное обеспечение.
Компания Cerebras Systems Inc. была основана всего девять лет назад, но, похоже, получила огромную выгоду от недавнего бума вычислений в области искусственного интеллекта. В нем реализованы такие инновации, которые, похоже, заставят нынешнее поколение H100 и предстоящий GB200 умереть с позором благодаря «одному огромному чипу» с кабелем, содержащим до 900 000 ядер графического процессора, например, с его чипом CS-3.
чип Cerebras CS-3 абсолютно затмевает двойной размер кристалла огромного GB200. Он размером с руль, и его нужно держать двумя руками. Производитель описал его как «самый быстрый и масштабируемый в мире ускоритель искусственного интеллекта», который специально создан для «обучения самых передовых в мире моделей искусственного интеллекта».
Более того, американский производитель заявил, что его Wafer Scale Engine является «чипом, который нарушил закон Мура». Как показывают внутренние тесты, CS-3 уверенно опережает H100 с общим количеством транзисторов 10 000 000 000 000. Для справки: у GB200 запланировано 208 000 000 000, а у CS-3 ошеломляющее увеличение на 4707%.
Однако не только Cerebras делает здесь шаги, но и новая начинающая компания Groq также занимается разработкой оборудования для вычислений на базе искусственного интеллекта. Вместо того, чтобы идти дальше своих конкурентов, компания разработала так называемые специализированные LPU (языковые процессоры), которые созданы для эффективного и быстрого запуска больших языковых моделей.
По словам компании, Groq LPU Механизм вывода – это "комплексная система ускорения системы вывода, обеспечивающая высокую производительность, эффективность и точность при простой конструкции". В настоящее время он использует Llama-2 70B, крупномасштабный генеративный язык и текстовую модель со скоростью 300 токенов на пользователя в секунду.
Это возможно благодаря тому, что LPU находится в центре обработки данных совместно с центральным и графическим процессорами, что обеспечивает низкую задержку и доставку в реальном времени. Подумайте об этом как о более сложном NPU в основе чипа, точно настроенном для одной конкретной цели и в гораздо большем масштабе, и вы окажетесь правы в деньгах.
Прибыльность рынка ИИ означает конкуренцию
Финансовый успех Nvidia в последние годы ни для кого не является секретом, поскольку Команда Green даже на какое-то время была более ценной, чем Amazon, даже давая Alphabet (материнской компании Google) конкурировать за свои деньги. Учитывая такие цифры, неудивительно, что все больше производителей бросают свои шляпы на ринг и атакуют яремную вену.
Есть ли здесь шанс у таких компаний, как Cerebras и Groq, или даже у более мелких компаний, таких как MatX, еще неизвестно, однако, поскольку вычисления с использованием искусственного интеллекта все еще находятся в зачаточном состоянии, сейчас настало время, когда мы увидим наибольшее количество экспериментов с как оборудование может удовлетворить нужды конечного пользователя. Некоторые будут масштабироваться, другие будут работать умнее.
Вам также может понравиться...
- Что такое проект Астра ? Объяснение футуристического универсального помощника Google
- Google возвращает классический поиск без искусственного интеллекта – и мы очень рады
- Google Live Caption вскоре может стать более эмоционально выразительным на Android
Оригинал