Как будет выглядеть компьютер с искусственным интеллектом следующего поколения? Intel подтверждает необходимую мощность для NPU — его будет достаточно быстро, чтобы запустить Copilot локально

Как будет выглядеть компьютер с искусственным интеллектом следующего поколения? Intel подтверждает необходимую мощность для NPU — его будет достаточно быстро, чтобы запустить Copilot локально

28 марта 2024 г.

Microsoft Copilot в будущем сможет работать локально на вашем компьютере с искусственным интеллектом, это было подтверждено, как и аппаратное обеспечение требования с точки зрения мощности NPU (Neural Processing Unit) потребуется в этих устройствах, ориентированных на искусственный интеллект.

Tom's Hardware сообщает, что на саммите Team Blue по искусственному интеллекту в Тайбэе в ходе сессии вопросов и ответов Тодд Левеллен, вице-президент группы клиентских вычислений Intel, подтвердил на нашем родственном сайте, что NPU ПК следующего поколения с искусственным интеллектом должен будет достичь 40 TOPS (измерение вычислительной мощности применительно к задачам искусственного интеллекта).

Обратите внимание, что это NPU следующего поколения компьютеров с искусственным интеллектом — по-видимому, на горизонте появится армия устройств – а не устройств текущего поколения, которые работают с гораздо меньшими показателями TOPS (мы вернемся к этому чуть позже). ).

Как уже упоминалось, было дополнительно подтверждено, что в будущем Microsoft Copilot AI сможет работать локально на ПК с искусственным интеллектом, чему будет способствовать дополнительная вычислительная мощность NPU, а не необходимость быть в сети и использовать возможности облака для Ответы AI-ассистента. Или, по крайней мере, некоторые, а возможно, и большая часть функций Copilot будет выполняться локально.

Левеллен пояснил: «И когда мы перейдем к следующему поколению [ПК с искусственным интеллектом], это позволит нам запускать больше вещей локально, точно так же, как они будут запускать Copilot с большим количеством элементов Copilot, работающих локально на клиенте. Возможно, это не означает, что все в Copilot работает локально, но вы получите множество ключевых возможностей, которые будут работать на NPU». <час>

Анализ: достаточно локальный

Локальный запуск Copilot (по крайней мере, для некоторых, а то и для многих функций ИИ) означает получение более быстрого ответа, поскольку рабочая нагрузка выполняется на ноутбук сам по себе будет означать, что ИИ приятный и быстрый.

Конечно, облако отлично подходит для тяжелой работы, но оно влечет за собой необходимость ждать, пока что-то произойдет удаленно (и, как всегда, зависит от капризов вашего интернет-соединения, которое может быть нестабильным, особенно когда вы в пути с ноутбуком). .

С гораздо более мощными NPU в картах и ​​новым чипом Snapdragon X Elite, обещающим обеспечить производительность обработки 45 TOPS в таких устройствах, как Qualcomm уже очень ясно дала понять, насколько быстро Процессор Snapdragon предназначен для рабочих нагрузок искусственного интеллекта).

Локальная работа с Copilot без передачи данных в облако более безопасна по очевидным причинам: всегда лучше избегать отправки данных в Интернет, особенно если они конфиденциальны по своей природе, если вы можете. И, конечно же, локальная обработка также лучше с точки зрения конфиденциальности (хотя, если вам нужна строгая конфиденциальность, передача данных в ИИ и взаимодействие с ним любым способом, скажем так, ограничит эту цель).

Также стоит отметить, что в другом месте Intel раскрыла некоторые подробности о ПК с искусственным интеллектом, и что им потребуется не только установить NPU и Copilot, но и специальный Клавиша второго пилота на клавиатуре, который Microsoft раскрыла еще в начале 2024 года. (Ну, технически это небольшая серая зона, но это, безусловно, спорно, и мы обдумывать более широкие проблемы, связанные с длина здесь).

В прошлом слышался еще один слух: Компьютерам с искусственным интеллектом потребуется 16 ГБ системной оперативной памяти, но этот самородок еще не подтвержден. Опять же, это может быть связано с целью запуска Copilot или, по крайней мере, большей его части локально на ноутбуке.

Вам также может понравиться...


Оригинал
PREVIOUS ARTICLE
NEXT ARTICLE