Борьба с дипфейками в Австралии: учетные данные контента — начало

Растет консенсус относительно того, как решить проблему дипфейков в средствах массовой информации и бизнесе, возникающую с помощью таких технологий, как искусственный интеллект. Ранее в этом году Google объявила, что присоединяется к Коалиции по происхождению и аутентичности контента в качестве члена руководящего комитета — в состав других организаций C2PA входят OpenAI, Adobe, Microsoft, AWS и RIAA. В условиях растущей обеспокоенности по поводу дезинформации и дипфейков, создаваемых искусственным интеллектом, ИТ-специалисты захотят обратить пристальное внимание на работу этого органа, и особенно на учетные данные контента, поскольку в отрасли формализуются стандарты, регулирующие управление визуальными и видеоданными.

Что такое учетные данные контента?

Учетные данные контента — это форма цифровых метаданных, которые создатели могут прикреплять к своему контенту, чтобы обеспечить правильное распознавание и повысить прозрачность. Эти защищенные от несанкционированного доступа метаданные включают информацию об создателе и творческом процессе, которая встроена непосредственно в контент во время экспорта или загрузки. Content Credentials имеет наилучшие шансы на достижение глобально стандартизированного и согласованного способа маркировки контента благодаря весу компаний, стоящих за этой концепцией.

СМОТРИТЕ: Adobe добавляет Firefly и учетные данные для контента в программу Bug Bounty

Использование учетных данных контента дает несколько преимуществ. Это поможет завоевать авторитет и доверие аудитории, предоставляя больше информации о создателе и творческом процессе. Эта прозрачность может помочь в борьбе с дезинформацией и дезинформацией в Интернете. Прикрепляя к своей работе идентификационную и контактную информацию, авторы могут облегчить другим возможность найти их и связаться с ними, повысив их видимость и узнаваемость. Точно так же станет легче выявлять и деплатформировать или удалять незаконный контент.

Дипфейки — это проблема, с которой Австралия пытается справиться

Австралия, как и большая часть остального мира, борется с массовым ростом дипфейкового мошенничества. Третий ежегодный отчет Sumsub о мошенничестве с личными данными выявил рост количества дипфейков в Австралии на 1530% за последний год и отметил, что их изощренность также растет.

Ситуация стала настолько тревожной, что правительство недавно объявило о стратегии противодействия некоторым конкретным примерам такого контента, а затем установило способы обращения с ним как с любой другой формой незаконного контента.

Дипфейки являются особенно мощными источниками дезинформации, поскольку глаз можно очень быстро обмануть. Исследования показывают, что для идентификации изображения требуется всего 13 миллисекунд — временной интервал, намного меньший, чем время, необходимое для его обработки и определения достоверности. Другими словами, дипфейки представляют собой такой риск, потому что они могут оказать желаемое воздействие на человека еще до того, как их можно будет проанализировать и отклонить.

СМОТРЕТЬ: Дипфейки искусственного интеллекта становятся риском для организаций Азиатско-Тихоокеанского региона

Например, ведущая научная организация Австралии, CSIRO, опубликовала информацию о том, «как распознать дипфейк», и это руководство требует тщательного анализа.

«Если это видео, вы можете проверить, правильно ли синхронизирован звук с движением губ. Соответствуют ли слова рту? Другие вещи, на которые следует обратить внимание, — это неестественное моргание или мерцание вокруг глаз, странное освещение или тени, а также выражения лица, которые не соответствуют эмоциональному тону речи», — сказала эксперт CSIRO, доктор Кристен Мур, в рекомендациях.

Таким образом, каким бы полезным ни был этот совет, информирования конечной цели дипфейков о том, как их идентифицировать, будет недостаточно, чтобы помешать им сеять хаос в обществе.

Правительству и частному сектору необходимо объединиться для борьбы с дипфейками

Правительство, объявляющее дипфейки незаконными, является позитивным шагом в защите тех, кто может стать их жертвой. Однако ИТ-индустрия должна будет разработать способы идентификации и управления этим контентом.

Уже известны громкие случаи, когда крупные бизнес-деятели, такие как Дик Смит и Джина Райнхарт, «требовали», чтобы такие организации, как Meta, были более активными в предотвращении мошенничества с искусственным интеллектом после того, как их изображения были использованы в дипфейках.

Как отметил австралийский комиссар по электронной безопасности, «разработка инноваций, помогающих выявлять дипфейки, пока не поспевает за самой технологией». Со своей стороны, австралийское правительство взяло на себя обязательство бороться с дипфейками посредством:

Повышение осведомленности о дипфейках, чтобы австралийцы получили аргументированный и основанный на фактических данных обзор проблемы, а также были хорошо информированы о доступных им вариантах. Поддержка людей, подвергшихся нападкам через систему подачи жалоб. Любой австралиец, чья фотография или видео были изменены в цифровом формате и опубликованы в Интернете, может обратиться в eSafety за помощью в их удалении. Предотвращение вреда путем разработки образовательного контента о дипфейках, чтобы австралийцы могли критически оценивать онлайн-контент и более уверенно ориентироваться в онлайн-мире. Поддержка промышленности посредством нашей инициативы «Безопасность благодаря дизайну», которая помогает компаниям и организациям внедрять безопасность в свои продукты и услуги. Поддерживая усилия отрасли по сокращению или ограничению перераспределения вредных дипфейков, поощряя их разрабатывать: политику, условия обслуживания и стандарты сообщества в отношении дипфейков, политику проверки и удаления для управления оскорбительными и незаконными дипфейками, методы выявления и маркировки дипфейков в своем сообществе.

В конечном счете, чтобы эта концепция была успешной, необходима поддержка со стороны отрасли, а также организаций, предоставляющих технологии и наиболее глубоко инвестирующих в ИИ. Здесь на помощь приходят учетные данные контента.

Шаги, которые необходимо предпринять для борьбы с дипфейками

Учетные данные по контенту — лучший шанс сформировать стандарты для борьбы с дипфейками. Поскольку этот подход ориентирован на индустрию и поддерживается влиятельнейшими игроками в контент-индустрии, это означает, что незаконный контент может быть помечен в огромной части Интернета — аналогично тому, как веб-сайты, наполненные вирусами, могут быть помечены до такой степени, что они становятся практически недоступными для поиска в поисковых системах.

По этой причине ИТ-специалисты и другие специалисты, работающие с искусственным интеллектом для создания контента, захотят понимать учетные данные контента так же, как веб-разработчики понимают безопасность, SEO и стандарты, которые должны защищать контент от пометки. Шаги, которые им следует предпринять, включают:

Внедрение учетных данных контента. Прежде всего, ИТ-специалистам необходимо убедиться, что их организация активно принимает и интегрирует учетные данные контента в рабочие процессы, чтобы гарантировать подлинность и отслеживаемость контента. Пропаганда прозрачности: как внутри, так и снаружи, вместе с партнерами и клиентами, выступайте за то, чтобы организации были прозрачными в использовании ИИ и применяли этические практики при создании и распространении контента. Поддержка регулирования. Взаимодействуйте с отраслевыми органами и государственными учреждениями для формирования политики и правил, направленных на решение проблем, связанных с дипфейками. Это включает в себя участие в различных расследованиях, которые правительство будет проводить в отношении ИИ, чтобы помочь сформировать политику. Сотрудничество: работайте с другими специалистами и организациями над разработкой стандартизированных методов и инструментов для выявления и снижения рисков, связанных с дипфейками. Подготовка стратегий реагирования: разработайте план на случай обнаружения дипфейков, включая шаги по уменьшению ущерба и общению с заинтересованными сторонами. Использование ресурсов сообщества. Наконец, используйте ресурсы сообществ кибербезопасности и правительственных органов, таких как комиссар по электронной безопасности, чтобы оставаться в курсе событий и быть готовыми.

Без сомнения, дипфейки станут одной из наиболее серьезных проблем, на которую технологической индустрии и ИТ-специалистам придется найти ответ. Content Credentials предлагает отличную отправную точку, к которой может стремиться отрасль.