Как дешево создать собственную альтернативу ChatGPT? есть один способ
24 марта 2023 г.За пару тысяч долларов в месяц теперь вы можете зарезервировать мощность одного Графический процессор Nvidia HGX H100 от компании CoreWeave . H100 является преемником A100, графического процессора, который сыграл важную роль в обучении ChatGPT LLM (модели для больших языков). . Цены начинаются с 2,33 доллара в час, это 56 долларов в день или около 20 000 долларов в год; для сравнения, один HGX H100 стоит около 28 000 долларов США на открытом рынке NVH100TCGPU-KIT) и менее оптом.
Вы будете платить дополнительно за спотовые цены (4,76 долл. , в отличие от модели NVLINK), его пока нельзя заказать. Допустимая конфигурация экземпляра графического процессора должна включать как минимум один графический процессор, как минимум один виртуальный ЦП и как минимум 2 ГБ ОЗУ. При развертывании виртуального частного сервера (VPS) конфигурация экземпляра GPU должна также включает не менее 40 ГБ хранилища уровня NVMe на корневом диске.
Эта новость появилась после шквала объявлений на Nvidia GTC 2023, где генеративный ИИ был слева, справа и в центре. Технология использует обучение LLM, которое позволяет заниматься творческой работой, включая написание научных работ. , стендап-комедия или сонет; создание иллюстраций из блока текста; а в случае с NovelAI, одним из первых клиентов CoreWeave, создание литературы.
Конечно, вы можете проверить, что сделали наши коллеги в Tomshardware и запустите альтернативу ChatGPT на локальном ПК.
Монополия Nvidia
Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA, руководил выпуском ряда графических процессоров, предназначенных для определенных сегментов быстрорастущего рынка ИИ-контента: L4 для ИИ-видео, L40 для генерации изображений и H100 NVL (по сути, два H100 в конфигурации SLI). Nvidia, которой в апреле 2023 года исполняется 30 лет, хочет захватить как можно большую часть рынка, предлагая оборудования и программного обеспечения с прицелом на развертывание собственного оборудования как услуги.
Компания представила облачную версию своего сервера DGX H100, которая включает в себя восемь карт H100 и может быть арендован чуть менее чем за 37 000 долларов США у Oracle, а также у Microsoft и Google. Хотя это звучит дорого, просто имейте в виду, что DGX H100 стоит больше, чем 500 000 долларов от корпоративного поставщика Insight, и это не включает стоимость фактической эксплуатации устройства (техническое обслуживание, совместное размещение, коммунальные услуги и т. д.).
Внезапный интерес Nvidia к тому, чтобы стать собственным поставщиком услуг, скорее всего, вызовет у ее партнеров небольшое неудобство. председатель TIEA (Тайваньская ассоциация Интернета и электронной коммерции), которая объединяет некоторые из самых громких имен в индустрии технологического оборудования, были достаточно ясны, чтобы объявить вчера, что компания «примет участие в сотрудничестве» с ведущими поставщиками облачных услуг (CSP) и, вероятно, ускорит поиск альтернативы Nvidia, чтобы установить равновесие .
Все взоры прикованы к AMD (с ее графическим процессором MI300 Instinct< /a>) и Intel, но в тени скрывается список претендентов (Graphcore, Cerebras, Kneron, IBM и другие), которые захотят получить кусок растущего пирога.
Оригинал