Основной блог Nvidia Computex 2024: презентация центра обработки данных Nvidia, как это было

Nvidia начинает конференцию Computex 2024 в этом году довольно рано с пресс-мероприятия Computex вечером перед тем, как конференция официально начнется со вступительного выступления доктора Лизы Су из AMD.

AMD традиционно открывала конференцию Computex первым программным докладом мероприятия, но в 2023 году AMD уступила место генеральному директору Nvidia Дженсену Хуангу, и в результате AMD неофициально бойкотировала выставку в прошлом году.

Однако именно так обстоят дела между этими двумя главными соперниками технологических компаний, и даже несмотря на то, что Су из AMD вернул себе привычную позицию компании в качестве открывающего конференцию, оставьте Nvidia возможность найти способ немного пролить дождь на AMD. Он вернулся к известности благодаря неожиданному пресс-мероприятию накануне вечером.

Но я здесь не для того, чтобы выбирать чью-либо сторону. Скорее, я здесь для того, чтобы познакомить вас с последними новостями от Team Green, какими бы они ни были, и помочь вам представить все это в контексте. Так что оставайтесь со мной, пока Nvidia раскрывает свои планы на оставшуюся часть 2024 года, но, учитывая, как складывались последние два года для Nvidia, я уже могу сказать вам заранее, что что бы ни раскрывала Nvidia, все будет связано с искусственным интеллектом. все время. 

Как посмотреть программный доклад Nvidia

Я пошел дальше и добавил ссылку на основной доклад Nvidia ниже, на случай, если вы захотите следить за мной, с моими горячими мнениями и анализом под лентой.

Добро пожаловать на Computex 2024, ребята! Это Джон, редактор компонентов TechRadar, и я нахожусь в Тайбэе на крупнейшем компьютерном мероприятии года — Computex 2024.

Сегодняшнее мероприятие пройдет в спортивном центре NTU в Национальном тайваньском университете, который был заполнен до отказа еще до того, как я узнал, что мы можем зарегистрироваться, так что я буду смотреть его в прямом эфире вместе со всеми вами. С другой стороны, это также означает, что мне не придется покидать свой очень хороший номер в отеле с кондиционером, что является благословением после жары последних двух дней.

Вы можете следить за видео выше и хранить его здесь, пока я изучаю любые новости, которые Nvidia публикует во время этого мероприятия, и даю свой внутренний анализ по мере того, как они происходят.

Хорошо, через несколько минут мы начнем, хотя, похоже, прямая трансляция немного отстает.

Прямую трансляцию я все еще веду, а пока позвольте мне сказать вам, что последние пару дней здесь, в Тайбэе, шел как сумасшедший дождь. Надеюсь, к конференции на этой неделе погода прояснится, хотя прогноз погоды не выглядит таким жарким.

Также обратите внимание на коптильню Богарта в Нанганге, Тайбэй. Лучшее барбекю, которое я пробовал с тех пор, как учился в школе в Техасе. Всегда приятно пройти мимо всех магазинов, где подают лапшу, и пельменей в городе, а затем почувствовать вкус дома.

Хорошо, прямая трансляция начинается, так что начнем.

Думаю, это первый раз, когда я увидел Дженсена без кожаной куртки.

Знаете ли вы, что Nvidia серьезно увлекается искусственным интеллектом? Что ж, если вы этого не сделали, вы все об этом услышите. И я имею в виду все об этом. Я гарантирую, что 95% этого выступления будет посвящено исключительно искусственному интеллекту.

Omniverse — это «большая вещь» промышленного рендеринга и моделирования Nvidia, поэтому, если вам не нужно планировать настоящую фабрику, а не просто играть на ней в Satisfactory, тогда Omniverse — для вас. Для остальных не так уж и много. 

Вычислительная инфляция, да? Что ж, это такая же хорошая аналогия конца закона Мура, как и любая другая.

Так что подобные разговоры о компьютерных науках мне интересны, но я понимаю, почему это не официальный доклад Computex. По сути, это лекция по микроархитектуре, поэтому, если у вас начинают тускнеть глаза, я обязательно это пойму. Однако Дженсен говорит о том, как Nvidia превратилась из компании с оборотом в 100 миллиардов долларов в компанию с оборотом в 2 триллиона долларов примерно за 18 месяцев.

Итак, одна из причин, почему графический процессор способен «ускоряться» Вычисления, с которыми сталкиваются центральные процессоры, заключаются в том, что графические процессоры с нуля созданы для параллельной обработки графики. 

Хорошо, задача коммивояжера — одна из тех задач в информатике, которая настолько неразрешима для вычислений, что на решение ее классическому компьютеру потребуется 100 000 лет. Неправильно утверждать, что квантовый компьютер может решить эту задачу. Мы не знаем, может ли квантовый компьютер сделать это, поэтому Nvidia не собирается решать задачу коммивояжера с помощью CUDA и ускоренных вычислений.

Проблема с TSP заключается в том, что у вас есть продавец, которому нужно объездить X городов по маршруту. Проблема в том, что все города находятся на разном расстоянии друг от друга, поэтому как найти наиболее эффективный маршрут, по которому продавец сможет добраться до всех городов в своем списке, чтобы свести к минимуму общие затраты на поездку.

Эффективного алгоритма, решающего эту проблему, не существует, и неизвестно, существует ли он. Если количество городов в списке составляет 10 городов, решить эту проблему несложно, но если этому продавцу придется путешествовать по 100 городам, потребуется около миллиона лет, чтобы грубой силой пробраться через него и найти наиболее эффективный маршрут.

Проблема в масштабе. Чем больше городов вы добавите, тем больше времени потребуется на решение проблемы, и этот экспоненциальный рост будет иметь разрушительные масштабы. CUDA может найти более эффективный способ найти маршрут примерно для 25 или 30 городов, но это не решение подобных проблем оптимизации.

И поверьте мне, если бы Nvidia решила проблему коммивояжера, это оказало бы на мир на много порядков большее влияние, чем генеративный ИИ. Решение TSP означает, что вы также решите сотни других задач, таких как прогноз погоды, логистика доставки и сворачивание белков в медицине. Это было бы самое революционное достижение со времен исчисления, и оно было бы во всех новостях и в каждом журнале по информатике на Земле.

Земля 2.0 — это просто очень продвинутая симуляция, ничем не отличающаяся от очень продвинутого суперкомпьютера. Очень мощный, но не по-настоящему революционный.  

Итак, давайте поговорим подробнее об этих терминах. Говоря об этих суперкомпьютерах с искусственным интеллектом, Дженсен говорит о тензорном ядре. Это тип схемы, которая может очень эффективно выполнять умножение матриц. Умножение матриц — это очень трудоемкий процесс вычислений, поэтому использование специализированной интегральной схемы (AISC) — это способ создать часть схемы обработки, которая делает только одно и ничего больше. Тензорное ядро ​​— это ASIC с умножением матриц, и, как выяснилось, машинное обучение очень зависит от умножения матриц.

Вот как работает аппаратное обеспечение тензорного ядра Nvidia, которое находится в его лучшие видеокарты, а также процессоры для центров обработки данных позволили Nvidia стать лидером в области искусственного интеллекта, которым она является сейчас.

Если вы надеялись услышать на этом выступлении о видеокартах, мне очень жаль, что вам пришлось это пережить. Это невероятно сухо для повседневного потребителя.

Если вы инженер-электрик или ученый-компьютерщик, я знаю, что вы, должно быть, очень взволнованы этим докладом. Такие люди, как мы, никогда не получают больших выступлений, удовлетворяющих нашу зануду.

Да, и как в прошлом году Computex 2023 Nvidia Основной доклад, этот основной доклад посвящен продаже оборудования искусственного интеллекта Nvidia покупателям центров обработки данных, которые, вероятно, очень разочарованы ценой, которую им приходится платить за оборудование Nvidia.

Nvidia фактически обладает монополией на эту технологию, поэтому, если вы представляете цену, которую Microsoft и Open AI приходится платить Nvidia за оборудование, необходимое для запуска ChatGPT и Copilot, умножьте эту цену в уме на пять или даже на 10. Это Jensen' Мы предлагаем им оправдать цену, которую им приходится платить за эти чипы.

Так что же происходит с NIM?

Чтобы продолжать лидировать в области искусственного интеллекта и продавать свое оборудование различным отраслям, которые, возможно, не перешли на искусственный интеллект, Nvidia фактически бесплатно предоставляет им компакт-диск AOL, чтобы они могли впервые войти в Интернет и, надеюсь, найдут его полезным. достаточно того, что они готовы платить AOL 3 доллара в час за доступ в Интернет на коммутируемой скорости.

Да, я только что утомил себя этой ссылкой, но NIM — это способ Nvidia продемонстрировать различным отраслям, что существуют эффективные варианты использования оборудования искусственного интеллекта Nvidia, которые они еще не рассматривали.

О черт. Не называйте их цифровыми людьми.

«Цифровые люди» сводит человечество к нашей особой полезности.

О, я ненавижу это. Это совершенно античеловечно.

Я понимаю, что у Nvidia ACE есть бизнес-приложения, но помоги мне Бог, если мне понадобится позвонить в мою кабельную компанию, чтобы починить мой Интернет, и они дадут мне Nvidia ACE NIM с кошачьими ушками, который все еще не сможет решить мою проблему. Я с нетерпением жду возможности увидеть, что Nvidia ACE может сделать для игр, но я абсолютно боюсь, что компании будут использовать эти чертовы штуки как еще один барьер между мной и кем-то, кто действительно может решить мою проблему.

Чем больше вы удаляете людей из решения проблемы, тем хуже в конечном итоге будет решение. Это детище того, кто видит в людях-работниках только расходы, которые нужно сократить или в конечном итоге устранить, а не неотъемлемые части того, как должны работать мир и экономика.

Я скучаю по Nvidia, которая только что выпустила видеокарты.

Хорошо, Nvidia Blackwell. Два чипа с 10-терабитным (терабайтным? Я это пропустил) межсоединением. Это будет чрезвычайно мощный... чип? Система? Я даже не знаю, как назвать эти вещи. Да, технически это процессор, но это уже и не процессор.

Хорошо, это было 10 ТБ/с. Это очень много данных, которые нужно переместить за секунду.

Это чертовски большой SoC.

Хорошо, давайте поговорим о выбросах углекислого газа в результате всего этого? Мы говорим о 15 000 Вт для этой маленькой стойки из восьми графических процессоров с Blackwell? На самом деле мы просто собираемся сделать ставку на обитаемость единственной планеты во Вселенной, которая, как известно, подходит для жизни человека, на то, смогут ли эти ИИ в какой-то момент в будущем решить для нас проблему изменения климата, не так ли?

Забудьте об Артемиде и полете на Луну. Забудьте Марс. Забудьте о космосе. Нам необходимо как можно скорее инвестировать все, что у нас есть, в развитие ядерного синтеза. 

Этот графический процессор DGX, стоящий за Дженсеном, будет обнаружен выжившими (не обязательно людьми, если быть ясным) в какой-то момент в будущем Земли, так же, как Элой сталкивается с Аидом и этими военными боевыми машинами в Horizon: Zero Dawn.

К сожалению, моя степень магистра была посвящена научной части компьютерных наук, а не информационным технологиям и управлению ИТ, поэтому я не буду лгать, я примерно так же потерян во всех этих вопросах подключения, как и большинство из вас.

Однако, ИТ-специалисты, сейчас ваш момент. Наслаждаться.

Миллионы графических процессоров центров обработки данных. Хорошо, давайте займемся математикой.

В кластере графических процессоров Blackwell было 8 графических процессоров, и ему требовалось 15 000 Вт. Это 1875 Вт на графический процессор.

1 000 000 x 1 875 Вт = 1 875 000 000 Вт.

Это 1,875 гигаватт мощности. Типичный ядерный реактор выдает мощность около 1 гигаватта.

По крайней мере, нас может спасти от климатической катастрофы тот простой факт, что наши энергосистемы не могут справиться с таким устойчивым спросом на электроэнергию. Что ж, возможно, это не спасёт от катастрофы, но, по крайней мере, всё не будет намного, намного хуже, чем могло бы быть, если всё, что говорит Дженсен, сбудется. 

Nvidia Rubin — это следующее поколение архитектуры GPU после Blackwell. Здесь не так много информации, поэтому неясно, будет ли Rubin использоваться в видеокартах серии Nvidia 6000, но, честно говоря, на данный момент я не думаю, что Nvidia будет выпускать видеокарты GeForce через три или четыре года.

Я в этом отношении отличаюсь от других, и многие люди называют меня сумасшедшим, когда я это говорю, но я просто не понимаю, почему Nvidia тратит больше усилий на производство кремния для игровых графических процессоров, когда кремния не хватает и прибыль можно получить Кремниевые центры обработки данных AI намного выше.

Вы все помните то время, когда на дне искусственного интеллекта Теслы, когда Илон Маск представил гуманоидного «робота» Теслы, и это просто танцевал кто-то в костюме робота? Это было абсолютно весело. Я не помню имени этого робота, но это не имеет значения, его никогда не построят, так что это не имеет значения.

Однако Nvidia — это роботы, которые будут управлять всем в будущем. Они умны, потому что знают, что гуманоидный робот не имеет никакого смысла за пределами научной фантастики или исследований. Атлас и Атлас II компании Boston Dynamics — это интересные упражнения, но поставьте робота на колеса, дайте ему одну-две шарнирные руки и центральный процессор для навигации, и это все, что вам нужно для управления всей обрабатывающей промышленностью.

Из всех проблем, которые у меня возникли с этим докладом, это не потому, что Дженсен полон всего этого. Что угодно, но только не это. Все, что мы видим, — это будущее, и Nvidia будет в его центре, к лучшему или к худшему.

Беспилотных автомобилей никогда не будет.

Роботы-гуманоиды, беспилотные автомобили и проблема коммивояжера — все они страдают от одной и той же проблемы, а именно масштаба. Всем этим колесным роботам на сцене прямо сейчас нужно учитывать лишь небольшой набор переменных, чтобы работать.

Роботы-гуманоиды имеют многие тысячи переменных, которые им необходимо отслеживать в режиме реального времени, чтобы поддерживать баланс. Точно так же беспилотные автомобили должны отслеживать тысячи точек данных, если не больше, в режиме реального времени, чтобы принимать решения, и это очень сложные проблемы для классической компьютерной системы.

Графический процессор с параллельной обработкой может лучше справиться с этими проблемами, но проблема с беспилотными автомобилями и т.п. заключается в том, что в отличие от рендеринга графики на дисплее многие из этих переменных взаимозависимы, поэтому вы не отслеживаете значения тысяч. Из-за множества переменных вам нужно рассчитать, как изменение одной переменной повлияет на другие переменные, и это та же неразрешимость, из-за которой задачу коммивояжера так сложно решить с помощью компьютера.

Лучшее, что мы когда-либо получим, это если мировое правительство полностью наложит запрет на водителей-людей, и каждая машина на дороге будет «беспилотной». машина. В этом мире вы имеете дело только с локальной сетевой проблемой, связанной с автомобилями, движущимися по дороге в вашем районе. Это выполнимо.

Хорошо, я понимаю, почему это не было официальным докладом Computex. Если вы надеялись на новости о потребительских товарах, вы получили 10–15-секундное упоминание о нескольких ноутбуках RTX с расширенными функциями искусственного интеллекта, но, учитывая, как быстро Дженсен преодолел все это, чтобы вернуться в центр обработки данных, вещи действительно говорят о многом. вы все, что вам нужно знать о том, где сейчас находится Nvidia. Они больше не являются компанией по производству графики, как, как сообщается, Дженсен сказал сотрудникам несколько месяцев назад, и каждый программный доклад и прямая трансляция Nvidia, которые я смотрел за последние полтора года, действительно только подтверждают этот факт.

Nvidia на 100% собирается стать производителем чипов искусственного интеллекта, и какой бы игровой придаток ни оставался в течение нескольких лет, он будет все меньше и меньше привлекать внимание компании.

Честно говоря, в этом нет ничего особенно плохого. Nvidia печатает деньги, продавая оборудование искусственного интеллекта OpenAI, Google и всем остальным, так что с точки зрения бизнеса это имеет смысл. Было бы верхом безумия не позиционировать себя в центре отрасли, которая приносит вам в 10 раз большую прибыль, чем то, что вы делали раньше.

Ее доходы от искусственного интеллекта, даже если AMD и Intel в конечном итоге начнут производить оборудование для центров обработки данных с искусственным интеллектом, которое составит настоящую конкуренцию всему, что производит Nvidia в будущем, все равно затмят те деньги, которые принесут продукты GeForce. GeForce может продолжаться в течение некоторого времени, особенно на мобильных устройствах, где чипы RTX могут стать способом взаимодействия с более широкой экосистемой искусственного интеллекта Nvidia, но я думаю, что в конечном итоге рынок потребительской графики уступит AMD и Intel. Я просто не думаю, что сердце Nvidia больше сосредоточено на потребительских графических играх.

Все еще есть что-то грустное в том, что Дженсен берет в руки видеокарту GeForce RTX Super — скорее всего, RTX 4080 Super, учитывая ее размер в руке — и говорит (и я здесь перефразирую), что «мы думаем об этом как о GPU, но мы все знаем, что это' — перенести видеокарту в стойку центра обработки данных DGX и указать на гигантский черный обелиск на сцене — «это настоящий графический процессор».

Но это не так. Эти продукты для центров обработки данных называются графическими процессорами из-за устаревшей терминологии для архитектуры, которую Nvidia разработала для создания компьютерных кадров 3D-графики для игр, фильмов и многого другого. Эти чипы для центров обработки данных, вероятно, тоже будут делать то же самое, и видеокарта в его руке и башня процессоров, заключенная в металл позади него, могут иметь много общих схем, но это радикально разные вещи.

Если Nvidia помогает лучше спать по ночам, называя то, что она производит сейчас, графическими процессорами, то именно они имеют оценку в 2 триллиона долларов, и они могут делать все, что захотят. Но какая-то часть меня, часть меня, всю жизнь являющаяся компьютерным геймером, чувствует, что Nvidia решила, что компьютерные геймеры, которые изначально привели компанию к успеху два десятилетия назад, больше не имеют большого значения.

Может быть, мы и не знаем, но, тем не менее, это отстой, и я знаю, что я не одинок в ощущении, что меня оставили без даже «спасибо за все», — сказал он. или даже просто до свидания.