Google применяет инструменты генеративного искусственного интеллекта для облачной безопасности
30 августа 2023 г.На мероприятии Google Next '23 на этой неделе компания Google рассказала, как с использованием своей базовой модели PaLM 2 она применяет генеративный искусственный интеллект Duet AI к решениям безопасности в Google Cloud, включая управление состоянием, анализ и обнаружение угроз, а также сетевое и безопасность данных.
СМОТРИТЕ: Google AI в рабочей области: нулевое доверие и цифровой суверенитет (TechRepublic)
Как объяснил Сунил Потти, вице-президент и генеральный менеджер по безопасности Google Cloud, во время пресс-брифинга перед мероприятием на прошлой неделе, компания использует модель Duet AI в трех областях:
- Анализ и обобщение данных об угрозах, собранных подразделением Google по анализу угроз Mandiant. Эта функция находится в предварительной версии и станет общедоступной в этом году.
Для платформы Google Chronicle Security Operations, чтобы сократить объем работы и ускорить обнаружение угроз и реагирование на них. Это предварительная версия, и ожидается, что она станет общедоступной в этом году.
Еще одна новая функция Chronicle, в которой эксперты Mandiant будут активно анализировать последние разведданные организации в поисках необнаруженных атак.
«Мы работаем в трех областях, где генеративный искусственный интеллект может принести реальную пользу безопасности», — сказал Потти на пресс-конференции.
Перейти к:
- Дуэт ИИ в разведке угроз Mandiant
Искусственный интеллект Duet для операций по обеспечению безопасности Chronicle
В Chronicle появилась функция Mandiant Hunt
Ускорение ИИ Duet с помощью PaLM 2
ИИ в сфере безопасности: тушим огонь огнем
Дуэт ИИ в разведке угроз Mandiant
Потти пояснил, что Google дополнит свое подразделение по анализу угроз Mandiant, которое оно приобрело в 2022 году, с помощью Duet AI, чтобы ускорить обнаружение новых угроз и улучшить видимость ряда уязвимостей, в том числе в коде. Он также переведет идеи Mandiant о тактике, методах и процедурах, используемых субъектами угроз, с кратким изложением разведывательных данных об угрозах на естественном языке и в легком для понимания формате (рис. A).
Рисунок А
Искусственный интеллект Duet для операций по обеспечению безопасности Chronicle
Интеграция Duet AI в Chronicle явно решает проблему рабочей нагрузки операций по обеспечению безопасности и увеличения количества инструментов, а также косвенно решает проблему нехватки операторов безопасности в командах SOC, объяснил Потти.
«Я никогда не встречал директора по информационной безопасности, который бы говорил, что в его команде достаточно талантов или людей. Генеративный ИИ открывает множество возможностей для масштабирования талантов, поэтому операции первого уровня могут быть столь же продуктивными, как и операции второго уровня», — сказал он.
Google позволяет аналитикам делать такие вещи, как запросы на естественном языке. «Когда я говорил о повышении уровня талантов в сфере безопасности, это отличный пример. Вам не обязательно быть знакомым с синтаксисом нашей единой модели данных; вместо этого вы можете задавать вопросы на естественном языке», — сказал Потти (рис. B).
Рисунок Б
По словам Потти, Mandiant генерирует огромные объемы данных о показателях компрометации, которые можно обобщить с помощью Duet AI. «Это позволяет нам легко использовать Duet AI для просмотра тысяч отчетов Intel, обобщать эти данные с учетом того, что наиболее специфично для пользователя или обстоятельств, и настраивать их в соответствии с типом аудитории, получающей отчет».
По словам Потти, внедрение Duet AI в Chronicle позволит администраторам безопасности генерировать сводные данные по всем аспектам дела, связанным с безопасностью. Он отметил, что платформа Chronicle, управляемая искусственным интеллектом, будет рекомендовать следующие шаги для защиты.
СМОТРИТЕ: Исследование Google Cloud: большой риск распространения учетных данных (TechRepublic)
Потти сказал, что в рамках своих сервисов SOC Google также интегрирует Duet AI в свой командный центр безопасности, чтобы обеспечить видимость уязвимостей клиентов в Google Cloud и выполнять автоматизированные задачи. Например, он может определить, уязвимы ли активы для атак, составить сводную информацию о том, какие ресурсы можно использовать, и предоставить предложения по устранению уязвимостей.
Он сказал, что инновации расширяют новые возможности моделирования системы контроля доступа контроллера доступа к терминалу, которая может просматривать корпоративную среду Google Cloud пользователя, чтобы определить, какие активы имеют уязвимости, угрозы или были скомпрометированы. Он также ищет потенциальное раскрытие привилегированных данных организации или способность злоумышленника повысить привилегии.
«С помощью Duet AI и нашего Центра управления безопасностью мы помогаем обобщить эти пути атак, чтобы службы безопасности могли быстро понять, что это за пути, и рекомендовать шаги для устранения некоторых из этих проблем. Это улучшения, которые помогают снизить нагрузку, с которой команды безопасности сталкиваются каждый день», — сказал он.
В Chronicle появилась функция Mandiant Hunt
Также на Google Next ’23 компания анонсировала Mandiant Hunt for Chronicle. Новая функция использует персонал Mandiant для поиска угроз поверх сред Chronicle, чтобы находить угрозы, которые группа операций по обеспечению безопасности могла пропустить.
По данным Google, эксперты Mandiant строят гипотезы, используя надежную и адаптируемую стратегию сбора и анализа наряду с традиционным автоматическим поиском индикаторов компрометации.
SEE: Mandiant видит распространение вредоносного ПО, но меры по обнаружению приносят свои плоды (TechRepublic)
«Думайте об этом как о способе пополнить сегодняшнюю команду безопасности клиентов лучшими в мире следователями по реагированию на инциденты», — сказал Потти. «Поскольку Chronicle получает данные из очень многих источников, мы можем использовать не только данные конечных точек, но и данные сети и идентификационные данные для выполнения этих запросов».
Ускорение ИИ Duet с помощью PaLM 2
По словам Потти, чтобы настроить Duet AI для функций безопасности, Google использовал свой Vertex AI PaLM 2. Google добавил, что PaLM 2 значительно улучшает расширенные способности рассуждения PaLM первого поколения, включая код и математические вычисления, классификацию и ответы на вопросы, перевод и многоязычное владение и создание естественного языка.
Потти сказал, что Google обучил PaLM 2 на данных безопасности из своего подразделения анализа угроз Mandiant для создания генеративной модели искусственного интеллекта, которую она называет Sec-PaLM 2, которая предназначена для оптимизации для поддержки задач по обеспечению безопасности. Он отметил, что архитектура плагинов означает, что клиенты Google Cloud могут легко настраивать ее. «Он способствует инновациям и позволяет клиентам и партнерам использовать его в качестве модели в саду Vertex AI», — сказал он.
ИИ в сфере безопасности: тушим огонь огнем
Этот шаг Google отражает быстро растущую гонку вооружений между субъектами угроз и защитниками вокруг применения генеративного искусственного интеллекта и других инструментов машинного обучения. Злоумышленники используют эти новые технологии для написания вредоносных программ, выдачи себя за бренды и проведения множества эксплойтов социальной инженерии.
Check Point Software использует ИИ уже около десяти лет, и примерно 40 из 70 ее модулей используют ИИ и машинное обучение. Пит Николетти, директор по глобальной информационной безопасности компании Check Point Software, сказал, что ИИ на данном этапе является обязательным.
«В наши дни, если у вас нет ИИ для борьбы с ИИ, вы станете статистикой», — сказал он. «Это снижает планку для злоумышленников». Он отметил, что хакеры используют ИИ двумя способами: первый — генерация кода. «Они преодолевают барьеры систем ChatGPT и заставляют их создавать фрагменты кода, а не полноценные программы-вымогатели нулевого дня», — сказал он. Второе — это автоматическое создание спама, то есть взятие взломанного контента и создание новых средств социальной инженерии. «С помощью возможностей искусственного интеллекта по написанию сценариев и созданию контента вы можете сделать это за считанные минуты и запустить за секунды».
Оригинал