AWS Summit New York 2024: ограждения для Amazon Bedrock Gaans Клод 3 Хайку и контекстное заземление

Amazon была одним из технологических гигантов, которые в прошлом году согласились с рядом рекомендаций Белого дома относительно использования генеративного искусственного интеллекта. Соображения конфиденциальности, рассмотренные в этих рекомендациях, продолжают внедряться, а последние из них были включены в объявления на саммите AWS в Нью-Йорке 9 июля. В частности, контекстное обоснование Guardrails для Amazon Bedrock предоставляет настраиваемые фильтры контента для организаций, развертывающих собственные генеративные фильтры. ИИ.

Руководитель направления AWS по ответственному ИИ Дия Винн поговорила с TechRepublic на виртуальном предварительном брифинге о новых объявлениях и о том, как компании сочетают обширные знания в области генеративного ИИ с конфиденциальностью и инклюзивностью.

Объявления саммита AWS NY: изменения в ограждениях для Amazon Bedrock

Guardrails для Amazon Bedrock, фильтра безопасности для приложений генеративного ИИ, размещенных на AWS, имеет новые улучшения:

Пользователи предварительной версии Claude 3 Haiku от Anthropic теперь смогут точно настроить модель с помощью Bedrock, начиная с 10 июля. В Guardrails для Amazon Bedrock были добавлены контекстные проверки заземления, которые обнаруживают галлюцинации в ответах модели для приложений генерации и обобщения с расширенным поиском.

Кроме того, Guardrails расширяется до независимого API ApplyGuardrail, с помощью которого компании Amazon и клиенты AWS могут применять меры безопасности к генеративным приложениям искусственного интеллекта, даже если эти модели размещены за пределами инфраструктуры AWS. Это означает, что создатели приложений могут использовать фильтры токсичности, фильтры контента и отмечать конфиденциальную информацию, которую они хотели бы исключить из приложения. Винн сказал, что до 85% вредоносного контента можно уменьшить с помощью специальных ограждений.

Контекстное заземление и API ApplyGuardrail будут доступны 10 июля в некоторых регионах AWS.

Контекстное обоснование Guardrails для Amazon Bedrock является частью более широкой стратегии AWS по ответственному ИИ.

Контекстное обоснование связано с общей стратегией AWS по ответственному ИИ с точки зрения постоянных усилий AWS по «развитию науки, а также продолжению инноваций и предоставлению нашим клиентам услуг, которые они могут использовать при разработке своих услуг и продуктов ИИ», — сказал Винн. сказал.

«Одна из областей, о которой мы часто слышим как о беспокойстве или соображении клиентов, связана с галлюцинациями», — сказала она.

Контекстное заземление и Guardrails в целом могут помочь смягчить эту проблему. По словам Винн, ограждения с контекстным заземлением могут уменьшить до 75% галлюцинаций, ранее наблюдавшихся при генеративном искусственном интеллекте.

Взгляд клиентов на генеративный ИИ изменился, поскольку за последний год генеративный ИИ стал более распространенным явлением.

«Когда мы начали работать с клиентами, клиенты не обязательно приходили к нам, верно?» - сказала Винн. «Знаете, мы рассматривали конкретные варианты использования и помогали поддерживать такие разработки, но сдвиг за последний год плюс в конечном итоге заключался в том, что появилась большая осведомленность [о генеративном искусственном интеллекте], и поэтому компании просят и хотят больше узнать о том, как мы строим, и о том, что они могут сделать, чтобы обеспечить безопасность своих систем».

По ее словам, это означает «решение вопросов предвзятости», а также уменьшение проблем безопасности и галлюцинаций ИИ.

Дополнения к корпоративному помощнику Amazon Q и другие анонсы саммита AWS NY Summit

AWS анонсировала множество новых возможностей и настроек продуктов на саммите AWS в Нью-Йорке. Основные моменты включают в себя:

Возможность настройки разработчиками в корпоративном помощнике ИИ Amazon Q для обеспечения доступа к кодовой базе организации. Добавление Amazon Q в SageMaker Studio. Общая доступность Amazon Q Apps, инструмента для развертывания генеративных приложений на базе ИИ на основе данных компании. Доступ к Scale AI на Amazon Bedrock для настройки, конфигурирования и тонкой настройки моделей ИИ. Векторный поиск для Amazon MemoryDB, ускоряющий скорость поиска векторов в векторных базах данных на AWS.

СМОТРЕТЬ: Amazon недавно анонсировала облачные экземпляры на базе Graviton4, которые могут поддерживать AI-чипы AWS Trainium и Inferentia.

AWS достигает цели по обучению облачным вычислениям раньше запланированного срока

На своем саммите в Нью-Йорке AWS объявила, что реализовала свою инициативу по обучению 29 миллионов человек по всему миру навыкам облачных вычислений к 2025 году, что уже превысило это число. В 200 странах и территориях 31 миллион человек прошли учебные курсы по облачным технологиям AWS.

Обучение и роли ИИ

Предложений по обучению AWS много, поэтому мы не будем перечислять их все здесь, но бесплатное обучение облачным вычислениям проводится по всему миру, как очно, так и онлайн. Это включает в себя обучение генеративному искусственному интеллекту в рамках инициативы AI Ready. Винн выделил две роли, которые люди могут подготовить для новой карьеры в эпоху ИИ: инженер-оперативник и инженер ИИ.

«Возможно, вам не обязательно привлекать специалистов по данным», — сказал Винн. «Они не обучают базовые модели. Возможно, у вас получится что-то вроде инженера по искусственному интеллекту. Инженер по искусственному интеллекту настроит базовую модель, добавив ее в приложение.

«Я думаю, что роль инженера по искусственному интеллекту становится все более заметной и популярной», — сказал Винн. «Я думаю, что во-вторых, теперь у вас есть люди, отвечающие за оперативное проектирование. Это новая роль или область навыков, которая необходима, потому что это не так просто, как люди могут подумать, верно, предоставить свой вклад или подсказку, правильный контекст и детали, чтобы получить некоторые детали, которые вы, возможно, захотите из большого языковая модель».

TechRepublic освещал саммит AWS NY удаленно.