Meta представляет серию Llama 4 AI с новой экспертной архитектурой

5 апреля Meta представила свою новую модель AI: Llama 4, которая включает в себя Llama 4 Maverick и Llama 4 Scout, адаптированная для разговора и обработки больших файлов, соответственно, вместе с не выпущенной моделью «учителя» под названием Llama 4 Behemoth.

Llama 4 является первой серией Meta, которая приняла «смеси экспертов (MOE)». Этот подход активирует только выбранные части нейронной сети, называемых «экспертами» для обработки конкретных подзадач. Задача будет разбита на подзадачи и каждая из них направлена ​​на наиболее подходящих экспертов, повышая эффективность ресурсов.

Каковы специфики о Llama 4 Maverick и Scout?

Llama 4 Maverick оснащена 128 экспертами и 17 миллиардами активных параметров, которые представляют часть знаний модели, используемой для обработки данного ввода. Мета описывает его как «модель рабочей лошадки продукта для общего помощника и вариантов использования чата», специализируясь на интерпретации изображений и творческом письме.

Интересно, что компания Марка Цукерберга может похвастаться тем, что Maverick предлагает «лучшее в своем классе соотношение производительности и стоимости», когда дело доходит до разговоров. Стоимость играла в умах ИИ гигантов с момента неожиданного выпуска Deepseek в январе, который занял всего 5,6 миллиона долларов.

Смотрите: предложение Meta за 800 миллионов долларов для Startup было отклонено - вот почему

Тем не менее, эксперты по искусственному искусству заметили, что версия Llama 4 Maverick, опубликованная на LMARENA, которая оценивает основные модели крупных языков по различным задачам, «оптимизирована для разговорности» и отличается от общедоступной версии. Это говорит о том, что Meta представила измененную версию Lmarena, которая будет оцениваться в своем таблице лидеров.

Llama 4 Scout также имеет 17 миллиардов активных параметров и всего 16 экспертов, но Meta говорит, что это «лучшая мультимодальная модель в мире в своем классе». Он имеет необычайно большое контекстное окно из 10 миллионов токенов, которое представляет объем информации, которую он может обрабатывать в подсказке, поэтому он хорошо работает при суммировании больших документов и в последовательных рассуждениях.

Meta говорит, что и Scout, и Maverick являются его «лучшими» еще из -за дистиллированной из Llama 4 Behemoth, с колоссальными 28 миллиардами активных параметров и 16 экспертов. Хотя он уже занимает высокую оценку по LMARENA, он все еще обучается и не был выпущен. Согласно информации, объявление Llama 4 было отложено, по крайней мере, дважды из -за неэффективных моделей в технических показателях и разговорной жизни.

Как вы можете получить доступ к Llama 4 Maverick и Scout?

Scout и Maverick можно скачать на llama.com и обнять лицо или использовать через чат -боты Meta AI в WhatsApp, Messenger и Instagram в 40 странах. Мультимодальные функции могут использоваться только в США и на английском языке в настоящее время.

Некоторые партнеры уже объявили интеграцию; Разработчики могут создавать и развернуть приложения ИИ с моделями Llama 4 в Microsoft Azure Foundry и Databricks.

Лама 4 аполитичен

Мета заявил, что он работал специально для «удаления смещения» из моделей Llama 4. Уровень отказов на вопросы по «обсуждению политических и социальных тем» более чем на 5% ниже, чем у Llama 3.3, и, среди вопросов, которые он снижает, его ответы описываются как «значительно более сбалансированные».

Команда президента США Дональда Трампа выразила скептицизм в отношении нейтралитета моделей искусственного интеллекта, а его ИИ и крипто -царь Дэвид Сакс предположил, что CHATGPT Openai «запрограммирован на разбуждение» на подкасте. Эксперты ИИ говорят, что в конечном итоге предвзятость связана с учебными данными и может привести к политическим убеждениям в любом направлении, а не только налево.

Тем не менее, фирма Цукерберга сделала ряд недавних шагов, которые предполагают, что она хочет остаться на стороне с администрацией США. Республиканский стратег Джоэл Каплан был нанят в качестве политики Мета вскоре после того, как Трамп принял должность; Он рассматривает регулирование социальных сетей как прямую проблему свободы слова.

В январе Meta сообщила, что компания прекращает свою стороннюю программу проверки фактов и перемещая свои команды модерации контента из Калифорнии в Техас, чтобы «помочь убрать обеспокоенность тем, что предвзятые сотрудники чрезмерно цензуры». Meta также устранила свои инициативы по разнообразию, справедливости и включению после того, как Трамп раскритиковал такие программы.

Кроме того, Meta сказала, что модели Llama 4 реагируют с «сильным политическим хулиганством» на «спорные» темы с точки зрения Грока, чат -бота, созданного XAI, компании, принадлежащей нынешнему советнику Белого дома Элон Маск.

Llama 4 не может использоваться в E.U.

Согласно политике приемлемого использования LLAMA 4, люди «доминируют» или компании с «основным местом бизнеса» в Европейском Союзе не могут использовать или распространять модели. Однако эти люди или компании могут использовать модели Llama 4, если они включены в продукт или услугу, к которой они имеют доступ в регионе.

Это, вероятно, является результатом проблем Meta с E.U. Законодательство, особенно когда дело доходит до ИИ. В июне 2024 года Meta задержала подготовку своих крупных языковых моделей по открытому контенту, разделяемому в Facebook и Instagram после E.U., регуляторы предположили, что это может потребоваться явное согласие со стороны владельцев контента. Meta AI до сих пор не была выпущена в блоке.

См.: Мета предлагает менее персонализированную рекламу для пользователей ЕС

Мета подписала открытое письмо с призывом европейских регуляторов обратиться к «непоследовательному принятию регулирующих решений» и непредсказуемых требований соответствия в сентябре прошлого года. Затем, в феврале, Meta заявила, что готова обострить свои опасения по поводу того, что компания считает несправедливым Е.У. Правила непосредственно Трампу.

Существуют и другие ограничения, когда речь идет о использовании Llama 4, поскольку коммерческие организации с более чем 700 миллионами активных пользователей в месяц должны запросить разрешение от Meta перед использованием своих моделей. Инициатива с открытым исходным кодом заявила, что такое ограничение выводит AI «из категории« открытого исходного кода », несмотря на то, что Meta претендует на обратное.