Google будет отмечать в результатах поиска изображения, созданные с помощью искусственного интеллекта

Google скоро начнет определять, когда контент в результатах поиска и рекламы генерируется искусственным интеллектом — если вы знаете, где искать.

В сообщении в блоге от 17 сентября технологический гигант объявил, что в ближайшие месяцы метаданные в поиске, изображениях и рекламе будут указывать, было ли изображение сфотографировано камерой, отредактировано в Photoshop или создано с помощью ИИ. Google присоединяется к другим технологическим компаниям, включая Adobe, в маркировке изображений, созданных с помощью ИИ.

Что такое C2PA и учетные данные контента?

Стандарты водяных знаков ИИ были созданы Коалицией за происхождение и подлинность контента, органом по стандартизации, к которому Google присоединился в феврале. C2PA была совместно основана Adobe и некоммерческой организацией Joint Development Foundation для разработки стандарта отслеживания происхождения онлайн-контента. Самым значительным проектом C2PA на данный момент является их стандарт маркировки ИИ, Content Credentials.

Google помогла разработать версию 2.1 стандарта C2PA, которая, по словам компании, обеспечивает улучшенную защиту от несанкционированного доступа.

SEE: В феврале компания OpenAI заявила, что ее фотореалистичные видеоролики Sora AI будут включать метаданные C2PA, но Sora пока недоступна для публики.

В руководящий комитет C2PA входят Amazon, Meta, OpenAI, Sony и другие организации.

«Учетные данные контента могут выступать в качестве цифровой маркировки качества для всех видов контента и служить основой для восстановления доверия и прозрачности в Интернете», — написал Энди Парсонс, старший директор Инициативы по обеспечению подлинности контента в Adobe, в пресс-релизе в октябре 2023 года.

«Об этом изображении» для отображения метаданных C2PA в Circle to Search и Google Lens

C2PA развернула свой стандарт маркировки быстрее, чем большинство онлайн-платформ. Функция «Об этом изображении», которая позволяет пользователям просматривать метаданные, появляется только в Google Images, Circle to Search и Google Lens на совместимых устройствах Android. Пользователь должен вручную открыть меню для просмотра метаданных.

В рекламе Google Search: «Наша цель — со временем усилить эту [систему водяных знаков C2PA] и использовать сигналы C2PA для информирования о том, как мы применяем ключевые политики», — написала вице-президент Google по доверию и безопасности Лори Ричардсон в своем блоге.

Google также планирует включить информацию C2PA в видеоролики YouTube, снятые камерой. Компания планирует раскрыть больше информации позднее в этом году.

Правильная атрибуция изображений с помощью ИИ важна для бизнеса

Предприятия должны обеспечить осведомленность сотрудников о распространении изображений, созданных с помощью ИИ, и обучить сотрудников проверять происхождение изображений. Это помогает предотвратить распространение дезинформации и возможные юридические проблемы, если сотрудник использует изображения, на использование которых у него нет разрешения.

Использование изображений, созданных с помощью ИИ, в бизнесе может запутать вопросы авторских прав и атрибуции, поскольку может быть сложно определить, как была обучена модель ИИ. Изображения ИИ иногда могут быть слегка неточными. Если клиент ищет определенную деталь, любая ошибка может снизить доверие к вашей организации или продукту.

C2PA следует использовать в соответствии с политикой вашей организации в области генеративного ИИ.

C2PA — не единственный способ идентификации контента, созданного ИИ. Видимые водяные знаки и перцептивное хеширование — или дактилоскопирование — иногда предлагаются в качестве альтернативных вариантов. Кроме того, художники могут использовать фильтры отравления данных, такие как Nightshade, чтобы сбить с толку генеративный ИИ, не давая моделям ИИ обучаться на их работах. Google запустила собственный инструмент обнаружения ИИ, SynthID, который в настоящее время находится в стадии бета-тестирования.