Может ли ваш ПК или Mac использовать искусственный интеллект на устройстве? Этот удобный новый инструмент Opera позволит вам узнать
вычисления techradar.com Новости

Может ли ваш ПК или Mac использовать искусственный интеллект на устройстве? Этот удобный новый инструмент Opera позволит вам узнать

7 июня 2024 г.

Opera хочет, чтобы обычные пользователи могли легко узнать, может ли их ПК или Mac локально запускать ИИ, и с этой целью встроила соответствующий инструмент в свой браузер.

Когда мы говорим о локальном запуске ИИ, мы имеем в виду само устройство, используя вашу систему и ее ресурсы для выполнения всей рабочей нагрузки ИИ – в отличие от того, когда ваш компьютер подключается к облаку, чтобы получить вычислительную мощность для выполнения поставленной задачи.

Локальное использование ИИ может оказаться непростой задачей, особенно если у вас нет современного процессора со встроенным NPU для ускорения рабочих нагрузок искусственного интеллекта, происходящих на вашем устройстве, поэтому очень удобно иметь инструмент для сравнительного анализа, который показывает, насколько способно ваше оборудование с точки зрения выполнения этих задач. эффективно решать задачи искусственного интеллекта на устройстве.

Однако есть одна загвоздка: тест «Готов ли ваш компьютер к ИИ?» в настоящее время доступен только в версии для разработчиков браузера Opera. Поэтому, если вы хотите попробовать его, вам нужно будет загрузить эту версию для разработчиков (тестовую) в браузер.

Как только это будет сделано, вы можете заставить Opera загрузить LLM (большую языковую модель), с помощью которой можно запускать тесты, и она различными способами проверяет производительность вашего ПК (количество токенов в секунду, задержка первого токена, время загрузки модели и многое другое).

Если все это звучит как бред, на самом деле это не имеет значения, поскольку после выполнения всех этих тестов, которые могут занять от нескольких минут до примерно 20, инструмент предоставит простую и четкую оценку готовности вашей машины. для ИИ или нет.

Имейте в виду еще один нюанс: если вы получаете результат «готов к работе с ИИ», то локальная производительность хорошая, а «ИИ не готов» говорит сам за себя — вы можете забыть о выполнении локальных задач ИИ — но есть средний результат «ИИ» Это означает, что ваше устройство способно выполнять задачи ИИ локально, но это может быть довольно медленно, в зависимости от того, что вы делаете.

Opera AI Результат теста

(Изображение предоставлено автором : Opera)

Для экспертов эти результаты более подробны, и вы можете изучить их, если захотите, но здорово получить краткую оценку возможностей ИИ на вашем ПК. Также можно загрузить различные (все более крупные) модели ИИ для тестирования, а также более мощные версии, рассчитанные на современные ПК с новейшим оборудованием и NPU.

Анализ: почему важна локальная обработка ИИ

Замечательно иметь легко доступный тест, который каждый может использовать, чтобы получить хорошее представление о возможностях своего ПК для локальной работы ИИ. Выполнение задач ИИ локально, в пределах устройства, очевидно, важно для конфиденциальности, поскольку вы не отправляете какие-либо данные со своего компьютера в облако.

Более того, некоторые функции ИИ будут частично или полностью использовать локальную обработку, и последнее мы уже видели: Новые краеугольные функции искусственного интеллекта Windows 11 для компьютеров Copilot+, напомним , является показательным примером, поскольку он работает полностью на устройстве по соображениям безопасности и конфиденциальности. (Тем не менее, это было вызвав бурю споров с момента анонса Microsoft, но это уже другая история).

Таким образом, возможность легко распознавать работу искусственного интеллекта вашего ПК — это полезная возможность, хотя прямо сейчас загрузка версии Opera для разработчиков, вероятно, не является проблемой, через которую вам захочется пройти. Тем не менее, мы предполагаем, что эта функция появится в полной версии Opera достаточно скоро, поэтому вам, вероятно, не придется долго ждать ее появления.

Opera, безусловно, серьезно настроена подняться в рейтинге лучших веб-браузеров, используя искусственный интеллект, и одним из последних шагов является проектирование в Google Gemini, чтобы помочь улучшить его помощника Aria AI.

ВАМ ТАКЖЕ МОЖЕТ ПОНРАВИТЬСЯ...

Оригинал

Recent Post

Categories

PREVIOUS ARTICLE
NEXT ARTICLE