AWS запускает новые чипы для обучения искусственному интеллекту и собственного чат-бота с искусственным интеллектом

Amazon Web Services анонсировала чат-бота с искусственным интеллектом для корпоративного использования, новые поколения своих обучающих чипов для искусственного интеллекта, расширенное партнерство и многое другое во время AWS re:Invent, проходившего с 27 ноября по 1 декабря в Лас-Вегасе.

Основной доклад генерального директора AWS Адама Селипски, состоявшийся во второй день конференции, был посвящен генеративному искусственному интеллекту и тому, как дать организациям возможность обучать мощные модели с помощью облачных сервисов.

Перейти к:

Анонсированы чипы Graviton4 и Trainium2 Amazon Bedrock: добавлены ограждения контента и другие функции. Amazon Вопрос: Amazon вступает в гонку чат-ботов Amazon S3 Express One Zone открывает свои двери Salesforce CRM доступна на AWS Marketplace Amazon удаляет ETL из большего количества интеграций Amazon Redshift Представляем сканер аутентификации Amazon One Enterprise NVIDIA и AWS заключили облачное соглашение

Анонсированы чипы Graviton4 и Trainium2

AWS анонсировала новые поколения своих чипов Graviton, которые представляют собой серверные процессоры для облачных рабочих нагрузок, и Trainium, обеспечивающий вычислительную мощность для обучения базовой модели искусственного интеллекта.

По словам Селипски, Graviton4 (рис. A) имеет на 30% лучшую вычислительную производительность, на 50% больше ядер и на 75% большую пропускную способность памяти, чем Graviton3. Первым инстансом на базе Graviton4 станут инстансы R8g для EC2 для рабочих нагрузок с интенсивным использованием памяти, доступные через AWS.

Trainium2 появится в инстансах Amazon EC2 Trn2, и каждый инстанс сможет масштабироваться до 100 000 чипов Trainium2. Это дает возможность за несколько недель обучить большую языковую модель с 300 миллиардами параметров, говорится в пресс-релизе AWS.

Рисунок А

Anthropic будет использовать высокопроизводительный чип машинного обучения Inferentia от Trainium и Amazon для своих моделей искусственного интеллекта, объявили Селипски и Дарио Амодей, генеральный директор и соучредитель Anthropic. Эти чипы могут помочь Amazon занять место Microsoft на рынке чипов для искусственного интеллекта.

Amazon Bedrock: добавлены ограждения контента и другие функции.

Селипский сделал несколько объявлений об Amazon Bedrock, сервисе по созданию фундаментальных моделей, во время re:Invent:

Агенты для Amazon Bedrock, как правило, доступны в предварительной версии уже сегодня. Специальные модели, созданные с использованием индивидуальной тонкой настройки и постоянного предварительного обучения, уже сегодня доступны в предварительной версии для клиентов в США. Скоро появятся ограждения для Amazon Bedrock; Guardrails позволяет организациям адаптировать Bedrock к собственным ограничениям контента ИИ с помощью мастера естественного языка. Базы знаний для Amazon Bedrock, которые связывают фундаментальные модели в Amazon Bedrock с внутренними данными компании для извлечения расширенной генерации, теперь общедоступны в США.

Amazon Вопрос: Amazon вступает в гонку чат-ботов

Amazon запустила собственного генеративного помощника с искусственным интеллектом Amazon Q, предназначенного для взаимодействия на естественном языке и создания контента для работы. Он может вписываться в существующие удостоверения, роли и разрешения в разрешениях безопасности предприятия.

Amazon Q можно использовать во всей организации и получить доступ к широкому спектру другого программного обеспечения для бизнеса. Amazon позиционирует Amazon Q как ориентированный на бизнес и специализированный сервис для отдельных сотрудников, которые могут задавать конкретные вопросы об их продажах или задачах.

Amazon Q особенно подходит для разработчиков и ИТ-специалистов, работающих в AWS CodeCatalyst, поскольку он может помочь устранить ошибки или сетевые подключения. Amazon Q будет присутствовать в консоли управления AWS и документации в CodeWhisperer, в платформе бессерверных вычислений AWS Lambda или в приложениях для общения на рабочем месте, таких как Slack (рис. B).

Рисунок Б

Amazon Q имеет функцию, которая позволяет разработчикам приложений обновлять свои приложения, используя инструкции на естественном языке. Эта функция Amazon Q доступна в предварительной версии в AWS CodeCatalyst сегодня и вскоре появится в поддерживаемых интегрированных средах разработки.

СЭЭ: Управление данными — один из многих факторов, которые необходимо учитывать при развертывании генеративного ИИ. (Техреспублик)

Многие функции Amazon Q в других сервисах и продуктах Amazon уже сегодня доступны в предварительной версии. Например, администраторы контакт-центра теперь могут получить доступ к Amazon Q в Amazon Connect.

Amazon S3 Express One Zone открывает свои двери

По словам Селипски, Amazon S3 Express One Zone, который теперь доступен для всех, представляет собой новый класс хранилища S3, специально созданный для высокопроизводительного облачного объектного хранилища с малой задержкой для часто используемых данных. Он предназначен для рабочих нагрузок, требующих задержки в несколько миллисекунд, таких как финансы или машинное обучение. Сегодня клиенты перемещают данные из S3 в собственные решения для кэширования; с помощью Amazon S3 Express One Zone они могут выбрать свою собственную географическую зону доступности и перенести часто используемые данные рядом со своими высокопроизводительными вычислениями. Селипски заявил, что Amazon S3 Express One Zone может работать с затратами на доступ на 50 % ниже, чем у стандартного Amazon S3.

Salesforce CRM доступна на AWS Marketplace

27 ноября AWS объявила, что партнерство Salesforce с Amazon будет распространяться на некоторые продукты Salesforce CRM, доступные на AWS Marketplace. В частности, облако данных Salesforce, сервисное облако, облако продаж, отраслевые облака, Tableau, MuleSoft, Platform и Heroku будут доступны совместным клиентам Salesforce и AWS в США. Ожидается, что будет доступно больше продуктов, а географическая доступность увеличится. будет расширен в следующем году.

Новые опции включают в себя:

Сервис искусственного интеллекта Amazon Bedrock будет доступен в рамках уровня доверия Эйнштейна Salesforce. Salesforce Data Cloud будет поддерживать обмен данными между технологиями AWS, включая Amazon Simple Storage Service.

«Salesforce и AWS упрощают разработчикам безопасный доступ и использование данных и технологий генеративного искусственного интеллекта для быстрой трансформации своих организаций и отраслей», — сказал Селипски в пресс-релизе.

И наоборот, AWS будет чаще использовать продукты Salesforce, такие как Salesforce Data Cloud, внутри компании.

Amazon удаляет ETL из большего количества интеграций Amazon Redshift

ETL может быть громоздкой частью кодирования транзакционных данных. В прошлом году Amazon объявила об интеграции Amazon Aurora, MySQL и Amazon Redshift с нулевым ETL.

Сегодня AWS представила новые возможности интеграции с Amazon Redshift с нулевым ETL:

Аврора PostgreSQL Amazon RDS для MySQL Амазон ДинамоБД

Все три доступны в предварительной версии по всему миру.

Следующее, что хотел сделать Amazon, — это сделать поиск по транзакционным данным более плавным; многие люди используют для этого Amazon OpenSearch Service. В ответ Amazon объявила, что DynamoDB с нулевым ETL и сервисом OpenSearch доступен уже сегодня.

Кроме того, стремясь сделать данные более доступными для обнаружения в Amazon DataZone, Amazon добавила новую возможность добавлять описания бизнеса в наборы данных с помощью генеративного искусственного интеллекта.

Представляем сканер аутентификации Amazon One Enterprise

Amazon One Enterprise обеспечивает управление безопасностью доступа к физическим объектам в таких отраслях, как гостиничный бизнес, образование или технологии. Это полностью управляемый онлайн-сервис в сочетании со сканером ладони AWS One для биометрической аутентификации, администрируемый через Консоль управления AWS. Amazon One Enterprise в настоящее время доступен в предварительной версии в США.

NVIDIA и AWS заключили облачное соглашение

NVIDIA анонсировала новый набор графических процессоров, доступных через AWS: графические процессоры NVIDIA L4, графические процессоры NVIDIA L40S и графические процессоры NVIDIA H200. AWS станет первым поставщиком облачных услуг, который перенесет чипы H200 с NV link в облако. Посредством этой связи графический процессор и процессор могут совместно использовать память для ускорения обработки, объяснил генеральный директор NVIDIA Дженсен Хуанг во время выступления Селипски. Инстансы Amazon EC2 G6e с графическими процессорами NVIDIA L40S и инстансы Amazon G6 с графическими процессорами L4 начнут развертываться в 2024 году.

Кроме того, на AWS появится NVIDIA DGX Cloud, платформа NVIDIA для создания искусственного интеллекта. Точная дата его появления пока не объявлена.

NVIDIA привлекла AWS в качестве основного партнера в проекте Ceiba, суперкомпьютере NVIDIA с производительностью 65 экзафлопс, включающем 16 384 суперчипа NVIDIA GH200.

NVIDIA НеМо Ретривер

Еще одно объявление, сделанное во время re:Invent, — это NVIDIA NeMo Retriever, который позволяет корпоративным клиентам обеспечивать более точные ответы от своих мультимодальных генеративных приложений искусственного интеллекта с использованием генерации с расширенным поиском.

В частности, NVIDIA NeMo Retriever — это микросервис семантического поиска, который подключает пользовательские LLM к приложениям. Модели внедрения NVIDIA NeMo Retriever определяют семантические отношения между словами. Затем эти данные передаются в LLM, который обрабатывает и анализирует текстовые данные. Бизнес-клиенты могут подключить этот LLM к своим собственным источникам данных и базам знаний.

NVIDIA NeMo Retriever доступен в раннем доступе через платформу NVIDIA AI Enterprise Software везде, где к нему можно получить доступ через AWS Marketplace.

Первыми партнерами, работающими с NVIDIA над сервисами генерации дополненной информации, являются Cadence, Dropbox, SAP и ServiceNow.

Примечание. TechRepublic виртуально освещает AWS re:Invent.