TOPS объяснил: насколько мощным является новый чип Apple M4 для iPad?
8 мая 2024 г.Apple анонсировала чип M4, новое мощное обновление, которое скоро появится в iPad следующего поколения (и, в дальнейшем, лучшие Macbook и Mac). Вы можете проверить наш подробное освещение мероприятия Apple, но один элемент презентации привел некоторых пользователей в замешательство: что именно означает TOPS?
TOPS — это аббревиатура от «триллионов операций в секунду», и, по сути, это аппаратная мера возможностей ИИ. Больше TOPS означает более высокую производительность встроенного искусственного интеллекта, в данном случае Neural Engine, установленного на чипе Apple M4.
Чип M4 способен выполнять 38 TOPS - это 38 000 000 000 000 операций в секунду. Если это звучит как ошеломляюще большая цифра, то так оно и есть! Современные нейронные процессоры (NPU) такие как Neural Engine от Apple, развиваются невероятно быстрыми темпами; например, собственный чип A16 Bionic от Apple, который дебютировал в iPhone 14 Pro менее двух лет назад предлагал 17 TOPS.
Новый чип Apple даже не самый мощный AI-чип, который скоро появится на рынке: предстоящий Snapdragon X Elite предположительно предлагает 45 TOPS и, как ожидается, появится на ноутбуках с Windows позднее в этом году.
Как рассчитывается TOPS?
Процессы, с помощью которых мы измеряем производительность ИИ, все еще находятся в относительном зачаточном состоянии, но TOPS предоставляет полезный и доступный пользователю показатель для определения того, насколько «хорошо» работает ИИ. при работе с инструментами искусственного интеллекта работает данный процессор.
Я собираюсь перейти к техническим вопросам, поэтому, если вас не интересует математика, смело переходите к следующему разделу! Текущий отраслевой стандарт расчета TOPS: TOPS = 2 × количество единиц MAC × частота / 1 триллион. 'MAC' означает умножение-накопление; Операция MAC — это, по сути, пара вычислений (умножение и сложение), которые выполняются каждым блоком MAC в процессоре один раз за каждый такт, обеспечивая работу формул, которые обеспечивают функционирование моделей искусственного интеллекта. Каждый NPU имеет установленное количество блоков MAC, определяемое микроархитектурой NPU.
'Частота' здесь определяется тактовой частотой рассматриваемого процессора, а именно, сколько циклов он может обрабатывать в секунду. Это общий показатель, также используемый в процессорах, графических процессорах и других компонентах, по существу обозначающий, насколько «быстро» работает компьютер. компонент есть.
Итак, чтобы вычислить, сколько операций в секунду может обрабатывать NPU, мы просто умножаем количество единиц MAC на 2 для нашего количества операций, а затем умножаем это на частоту. Это дает нам 'OPS' цифру, которую затем делим на триллион, чтобы сделать ее более приятной (и более удобной для нулевой клавиши при ее наборе).
Проще говоря, больше TOPS означает лучшую и более быструю производительность ИИ.
Почему TOPS важен?
Проще говоря, TOPS — это лучший на данный момент способ оценить производительность устройства для выполнения локальных рабочих нагрузок искусственного интеллекта. Это относится как к отрасли, так и к широкой общественности; это простое число, которое позволяет профессионалам и потребителям сразу сравнить базовую производительность ИИ различных устройств.
TOPS применим только для ИИ на устройстве. Это означает, что облачные инструменты ИИ (например, любимый в Интернете бот ИИ, ChatGPT) обычно не выигрывает от улучшения TOPS. Однако локальный искусственный интеллект становится все более распространенным: популярное профессиональное программное обеспечение, такое как пакет Adobe Creative Cloud, начинает реализовывать больше функций на основе искусственного интеллекта, которые зависят от возможностей вашего устройства.
Следует отметить, что TOPS ни в коем случае не является идеальной метрикой. В конце концов, это теоретическая цифра, полученная на основе статистики оборудования, и она может сильно отличаться от реальной производительности. Такие факторы, как доступность электропитания, тепловые системы и разгон, могут влиять на фактическую скорость, с которой NPU может выполнять рабочие нагрузки искусственного интеллекта.
Однако с этой целью сейчас мы начинаем видеть появление тестов искусственного интеллекта, таких как Procyon AI от UL Benchmarks (создатели популярных программ тестирования 3DMark и PCMark). Это может дать гораздо более реалистичное представление о том, насколько хорошо вы можете ожидать, что TechRadar проведет тесты производительности ИИ в рамках нашего сравнительного анализа в ближайшем будущем!
Оригинал