OpenAI, Microsoft и Adobe поддерживают законопроект Калифорнии о водяных знаках ИИ

OpenAI, Microsoft и Adobe публично поддерживают законопроект AB-3211, который обяжет технологические компании маркировать контент, созданный с помощью ИИ в Калифорнии.

Согласно законодательству, водяные знаки должны быть добавлены к метаданным фотографий, видео и аудиозаписей, которые были созданы или существенно изменены с помощью систем генеративного искусственного интеллекта.

Законопроект также потребует от крупных социальных сетей, таких как X и Instagram, применять «легко понимаемые» метки к загруженному контенту, на которые пользователи могут нажать для просмотра. Визуальные метки должны применяться к аудиоклипам и музыкальным видео.

OpenAI выразила свою поддержку в письме к члену Ассамблеи штата Калифорния Баффи Уикс, с которым ознакомился Reuters. Adobe и Microsoft также поддержали законопроект в похожих письмах, с которыми ознакомился TechCrunch.

«Новые технологии и стандарты могут помочь людям понять происхождение контента, который они находят в Интернете, и избежать путаницы между созданным человеком и фотореалистичным контентом, созданным ИИ», — написал в своем письме директор по стратегии OpenAI Джейсон Квон, сообщает Reuters.

В письме Квона также подчеркивается, что прозрачность и требования к провенансу особенно важны в год выборов, поскольку можно сгенерировать убедительный синтетический контент, который может повлиять на голоса избирателей. Например, в начале августа в социальных сетях были распространены изображения фанатов Тейлор Свифт, поддерживающих Дональда Трампа, созданные с помощью искусственного интеллекта.

Энн Перкинс, директор по политике и связям с правительством в Adobe, сказала, что Adobe предоставила техническую экспертизу возможностей технологии происхождения для помощи в создании AB-3211. Она сказала TechRepublic: «Adobe всегда была согласна с целью AB-3211, чтобы принести больше доверия и прозрачности в наш мир, управляемый ИИ.

«Сегодняшний законопроект обеспечивает эффективную структуру, которая позволяет доверять хорошим актерам, одновременно защищая людей от вредоносных дипфейков, создаваемых ИИ, что особенно важно в год выборов, когда дезинформация имеет тенденцию циркулировать, а ставки высоки. Мы аплодируем члену Ассамблеи Уиксу за продвижение этого важнейшего законопроекта, который позволяет процветать инновациям ИИ, одновременно защищая общественность от неправомерного использования этой технологии».

AB-3211 был одобрен Государственной ассамблеей и комитетом по ассигнованиям Сената. Затем последует голосование в Сенате штата, после чего законопроект будет передан губернатору Гэвину Ньюсому для принятия или вето до конца сентября.

TechRepublic обратилась за комментариями к OpenAI и Microsoft.

SEE: Apple присоединяется к добровольному обязательству правительства США по обеспечению безопасности ИИ

Группа поддержки критикует законопроект

Microsoft и Adobe входят в Коалицию по происхождению и авторитету контента, отраслевую группу, разрабатывающую стандарты для проверки контента, созданного с помощью ИИ. Группа помогла создать метаданные C2PA, фреймворк для встраивания проверяемых метаданных в цифровой контент, который используется DALL-E 3.

Однако BSA, группа поддержки индустрии программного обеспечения, в которую входят Microsoft и Adobe, возражала против AB-3211 в письме в Комитет по защите прав потребителей и защите прав потребителей Ассамблеи Калифорнии в апреле. Она выразила несогласие с:

Широта контента, который должен быть помечен водяными знаками. Требование предоставить инструменты для проверки водяных знаков. «Неработоспособная» система уведомлений и отчетности, которую он предлагает.

С тех пор законодатели внесли в законопроект несколько поправок, которые, судя по всему, успокоили обеспокоенность компаний.

Калифорния жонглирует несколькими законопроектами, связанными с ИИ

Закон AB-3211 отделен от SB-1047, спорного закона Калифорнии об искусственном интеллекте.

SB-1047 направлен на предотвращение масштабного ущерба человечеству или финансовых потерь от моделей ИИ путем предъявления разработчикам строгих требований безопасности. Ранее в этом месяце Комитет по ассигнованиям Калифорнии принял SB-1047, но он все еще должен быть одобрен Ассамблеей и Сенатом штата, прежде чем станет законом.

Большая часть Кремниевой долины, включая OpenAI, Meta, Google и Hugging Face, публично осудила SB-1047. Но ранее на этой неделе Илон Маск обратился к X, чтобы выразить, что он считает, что законопроект должен быть принят. Он написал: «Более 20 лет я выступаю за регулирование ИИ, так же как мы регулируем любой продукт/технологию, которые представляют потенциальный риск для общественности».

Двое бывших сотрудников OpenAI также написали письмо Ньюсому, в котором раскритиковали своего бывшего работодателя за противодействие законопроекту SB-1047.

«OpenAI выступает даже против крайне легких требований SB1047, большинство из которых OpenAI, по ее словам, добровольно обязуется соблюдать, что ставит под сомнение прочность этих обязательств», — написали они. OpenAI не согласна с «неправильной характеристикой [их] позиции» исследователями, согласно Business Insider

AB-3211 и SB-1047 — это всего лишь два из как минимум 65 законопроектов, связанных с ИИ, которые законодатели намеревались внести в Калифорнии в этом году, стремясь сбалансировать технологический прогресс с защитой прав потребителей.