Microsoft Copilot анонсирован для Azure

Генеративный помощник Microsoft по искусственному интеллекту Copilot теперь доступен в ограниченной предварительной версии для ИТ-команд, использующих Azure, объявила компания сегодня во время конференции Microsoft Ignite. Microsoft планирует расширить Copilot для Azure до мобильного приложения Azure и интерфейса командной строки Azure в неопределенное время в будущем.

Во время Microsoft Ignite также были анонсированы услуги NVIDIA по созданию моделей генеративного искусственного интеллекта. Базовые модели NVIDIA AI доступны в каталоге NVIDIA NGC, Hugging Face или каталоге моделей искусственного интеллекта Microsoft Azure, где бы они ни предлагались по всему миру. Microsoft Copilot для Azure доступен везде, где портал Azure может работать в общедоступном облаке.

Перейти к:

Copilot переходит в Microsoft Azure для управления ИТ-инфраструктурой В Microsoft Azure добавлена ​​служба базовой модели генеративного искусственного интеллекта. Еще больше новостей NVIDIA от Microsoft Ignite

Copilot переходит в Microsoft Azure для управления ИТ-инфраструктурой

ИТ-команды могут использовать Copilot в Microsoft Azure (рис. A) для управления облачной инфраструктурой. Copilot будет использовать те же данные и интерфейсы, что и инструменты управления Microsoft Azure, а также ту же политику, управление и контроль доступа на основе ролей.

Рисунок А

Второй пилот для Azure может:

Помощь в проектировании и настройке сервисов. Ответить на вопросы. Авторские команды. Устраняйте проблемы, используя данные, организованные из служб Azure. Предоставление рекомендаций по оптимизации ИТ-среды с точки зрения затрат. Ответьте на вопросы о обширных облачных средах. Создайте запросы языка запросов Kusto для использования в Azure Resource Graph. Напишите сценарии интерфейса командной строки Azure.

В Microsoft Azure добавлена ​​служба базовой модели генеративного искусственного интеллекта.

Базовые модели NVIDIA AI для предприятий теперь можно запускать в Microsoft Azure, что ускоряет создание и выполнение генеративного искусственного интеллекта, объявила NVIDIA 15 ноября. Доступ к моделям, включая Llama 2 и Stable Diffusion, можно получить через конечные точки NVIDIA AI Foundation.

Каждая корпоративная компания, использующая эту услугу, будет иметь свои собственные хранилища данных, доступ к которым осуществляется посредством генерации с расширенным поиском. Вместо написания SQL-запросов для подключения к существующим хранилищам данных генерация с расширенным поиском получает доступ к данным через модель внедрения. Встраивание сохраняет семантическое представление контента в виде вектора в векторной базе данных. Когда сотрудник выполняет поиск в этой базе данных, запрос преобразуется во встроенную форму и ищет векторные базы данных, чтобы найти ближайший семантически связанный контент. Затем большая языковая модель использует этот контент в качестве подсказки для создания тщательно подобранного ответа.

«Это тот же рабочий процесс, что и LLM для получения ответов и ответов, но теперь он использует хранилище корпоративных данных корпоративной компании для получения правильных, актуальных и актуальных ответов», — сказал Манувир Дас, вице-президент по корпоративным вопросам. вычислительной техники в NVIDIA во время предварительного брифинга 14 ноября перед запуском Microsoft Ignite.

NVIDIA объявила, что все аппаратное и программное обеспечение для сквозного корпоративного процесса генеративного искусственного интеллекта теперь работает в Microsoft Azure.

«Что делает этот вариант использования настолько мощным, так это то, что независимо от того, в какой отрасли и предприятии работает компания, и независимо от того, какую должность выполняет конкретный сотрудник в этой компании, генеративный ИИ может использоваться для повышения продуктивности этого сотрудника», — Дас сказал во время предварительного брифинга.

ПОСМОТРЕТЬ: Узнайте, как Microsoft Azure конкурирует с корпоративным сервисом облачных вычислений Google Cloud. (Техреспублик)

Разработчики смогут запускать генеративный искусственный интеллект на основе нового семейства моделей NVIDIA NeMo Megatron-LM 3 и других моделей NVIDIA в браузере с помощью сервиса моделей NVIDIA AI Foundation. По словам Даса, NVIDIA планирует поддерживать агрессивный темп выпуска продуктов и платформ генеративного искусственного интеллекта, и компания планирует выпускать более крупные модели NeMo с сотнями миллиардов параметров.

Служба базовой модели предоставляет разработчикам доступ к моделям искусственного интеллекта сообщества, таким как Llama 2, Stable Diffusion XL и Mistral. Базовые модели NVIDIA AI доступны бесплатно в каталоге NVIDIA NGC, Hugging Face и каталоге моделей Microsoft Azure.

Еще больше новостей NVIDIA от Microsoft Ignite

Tensor RT-LLM v0.6 будет доступен в Windows, обеспечивая более быстрый вывод и дополнительные инструменты разработчика для локального искусственного интеллекта на устройствах NVIDIA RTX. По словам Даса, Stable Diffusion, Megatron-LM и другие модели генеративного искусственного интеллекта могут выполняться локально на устройстве Windows.

По словам Даса, это часть усилий NVIDIA по использованию возможностей генеративного искусственного интеллекта на клиентских устройствах с графическими процессорами. Например, помощник по кодированию на базе TensorRT-LLM в VS Code может использовать локальную оболочку Tensor RT-LLM для OpenAI Chat API в плагине Continue.dev для доступа к локальному LLM вместо облака OpenAI и, таким образом, предоставлять разработчику ответ на их запрос быстрее.

Кроме того, NVIDIA объявила о новых возможностях для производителей автомобилей в виде облачных сервисов Omniverse в Microsoft Azure, которые позволяют создавать планы виртуальных заводов и моделировать автономные транспортные средства для автомобильной промышленности.