Google борется с дезинформацией ИИ с помощью меток поиска и добавляет обновления безопасности темной сети

16 мая 2023 г.

Google добавит искусственный интеллект к нескольким функциям онлайн-безопасности и даст пользователям больше информации о том, могла ли их информация быть размещена в даркнете, объявил технический гигант на конференции Google I/O 10 мая. Новые функции безопасности будут развернуты. для выбора рынков в ближайшие недели или месяцы.

Перейти к:

Поиск изображений будет помечать контент, созданный искусственным интеллектом Безопасный просмотр получает полировку AI Обращая внимание на темную паутину Фильтрация спама в Gmail и безопасность Карт будут усилены

Поиск изображений будет помечать контент, созданный искусственным интеллектом

Одна из проблем, связанных с распространением искусственного интеллекта, заключается в том, что может стать трудно проверить, являются ли изображения реальными или сгенерированными в цифровом виде. Для предприятий наличие быстрого способа определить разницу может предотвратить путаницу в отношении авторских прав и происхождения изображений, созданных искусственным интеллектом. Организации также могут использовать эти ярлыки как часть политики компании в отношении использования контента, созданного ИИ.

Google хочет опередить эту проблему с помощью функции «Об этом изображении», которая указывает, является ли изображение оригинальным или сгенерированным искусственным интеллектом (рис. A).

Рисунок А

Пример функции «Об этом изображении», подтверждающей, что изображение было создано с помощью художественного сервиса искусственного интеллекта Midjourney. Изображение: Google

Помимо обнаружения фотореалистичных фотографий, созданных искусственным интеллектом, функция «Об этом изображении» предоставляет информацию о том, когда изображение и подобные изображения были впервые проиндексированы Google, где оно впервые появилось и где еще оно появлялось в Интернете. Этот контекст может помочь выявить дезинформацию и манипуляции с фотографиями, а также искусственно сгенерированные изображения.

Google предлагает генерацию изображений с помощью ИИ и планирует развернуть разметку, которая будет помечать эти изображения как созданные ИИ в поиске. Другие компании, такие как Midjourney и Shutterstock, сотрудничают с Google, чтобы маркировать свои изображения, когда они появляются в поиске (рис. B).

Рисунок Б

Изображение, созданное программой искусственного интеллекта Midjourney с меткой разметки в поиске Google. Изображение: Google

Google говорит, что About This Image будет доступен «в ближайшие месяцы».

SEE: Теперь вы можете попробовать генеративный ИИ Google Bard, конкурента ChatGPT.

Безопасный просмотр получает полировку AI

Кроме того, Google улучшит свои функции безопасного просмотра, используя ИИ для сканирования опасных сайтов и файлов. Новый API безопасного просмотра для Chrome и Android сканирует скомпрометированные сайты и другие потенциальные пути атак с помощью ИИ, обученного распознавать злоумышленников. По словам Google, API может обнаруживать и блокировать на 25% больше попыток фишинга в месяц, чем существующие функции безопасности.

Обращая внимание на темную паутину

Подписчики Google One в США могут запускать отчеты даркнета, чтобы узнать, указан ли их адрес электронной почты или другая личная информация в списках целей злоумышленников. Затем Google может предложить способы защиты учетных записей пользователей. Google теперь расширяет эту функцию для всех в США с учетной записью Gmail. Это произойдет «в ближайшие несколько недель», а затем последуют некоторые международные рынки.

«Расширение Google своего отчета о темной сети сверх планов Google One — это шаг в правильном направлении и часть ответственности Google в экосистеме», — сказал Рой Акерман, соучредитель и генеральный директор компании Rezonate, занимающейся идентификацией и безопасностью. «Тем не менее, мы видели существующих клиентов Google One, которые могут знать, что их информация доступна в даркнете, но никаких действий не предпринимается. Знания недостаточно; должны быть предприняты действия, чтобы понять потенциальный риск, и должны быть внесены изменения в учетную запись ».

Например, пользователь, чей номер социального страхования был украден, может сообщить об этом правительству. О краже учетных данных банковского счета можно было сообщить в банк, а коммерческую информацию, связанную с учетной записью, можно было сообщить в ИТ-отдел компании.

Фильтрация спама в Gmail и безопасность Карт будут усилены

Некоторые другие функции не получают улучшений ИИ, но расширяются.

Например, в будущем Gmail будет обрабатывать спам немного по-другому. У пользователей появятся новые возможности разделения и просмотра файлов и определения того, что может быть спамом. Тот же тип фильтрации спама, который используется в Gmail, также появится на Google Диске (рис. C).

Рисунок С

Демонстрация функции отчетов о спаме на Google Диске. Изображение: Google

Google делает ставку на то, что пароли уйдут в прошлое, предлагая больше вариантов входа, включая пароли.

Карты Google облегчат пользователям удаление истории поиска. Google предполагает, что это может помешать людям заметить, что кто-то купил им подарок-сюрприз; это также может предотвратить более зловещее использование, такое как преследование.

Чтобы узнать больше об объявлениях Google о вводе/выводе, прочитайте о том, как большая языковая модель PaLM 2 будет интегрирована в Поиск, Карты и другие повседневные службы.

---

Оригинал