Губернатор Калифорнии наложил вето на предложенный законопроект о безопасности искусственного интеллекта

Губернатор Калифорнии Гэвин Ньюсом наложил вето на спорный законопроект о регулировании ИИ SB 1047 29 сентября. Законопроект «не обеспечивает гибкого, всеобъемлющего решения для сдерживания потенциальных катастрофических рисков», — написал офис губернатора. В объявлении были указаны альтернативные меры как для содействия индустрии ИИ в Калифорнии, так и для предотвращения вреда.

Ньюсом: законопроект «может дать обществу ложное чувство безопасности»

SB 1047, Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта, был бы самым строгим регулированием в стране в отношении генеративного ИИ. Он был направлен на обеспечение защиты отраслевых осведомителей, обязал крупных разработчиков ИИ иметь возможность полностью закрыть свои модели и возложить на крупные компании ИИ ответственность за соблюдение строгих протоколов безопасности.

Законопроект был принят Ассамблеей и Сенатом штата Калифорния в августе.

В своем заявлении о наложении вето на законопроект Ньюсом сказал, что SB 1047 «устанавливает нормативную базу, которая может создать у общественности ложное чувство безопасности в отношении контроля над этой быстроразвивающейся технологией», поскольку законопроект фокусируется на крупных и дорогих моделях, а не на более мелких моделях в ситуациях высокого риска.

«Хотя законопроект SB 1047 имеет благие намерения, он не учитывает, развернута ли система ИИ в средах с высоким риском, предполагает ли она принятие критически важных решений или использование конфиденциальных данных», — написал Ньюсом. «Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что его развертывает крупная система. Я не считаю, что это лучший подход к защите общественности от реальных угроз, создаваемых технологией».

Однако 29 сентября губернатор указал на несколько новых инициатив, связанных с генеративным ИИ:

Калифорнийскому Управлению по чрезвычайным ситуациям потребуется расширить свою текущую работу по оценке потенциальных угроз генеративного ИИ Штат соберет группу экспертов и ученых по ИИ, включая профессора Стэнфордского университета и «бабушку» ИИ Фэй-Фэй Ли, чтобы «помочь Калифорнии разработать работоспособные ограждения». Штат соберет ученых, заинтересованных лиц из числа трудящихся и частный сектор для «изучения подходов к использованию технологии GenAI на рабочем месте».

Является ли законопроект Калифорнии об искусственном интеллекте слишком суровым или недостаточным?

Сенатор Скотт Винер (демократ от Калифорнии) является основным автором законопроекта SB 1047. Он раскритиковал решение Ньюсома в сообщении X в воскресенье.

«Это вето — неудача для всех, кто верит в надзор над крупными корпорациями, принимающими критически важные решения, влияющие на безопасность и благополучие общественности и будущее планеты», — написал он.

«В сообщении губернатора о вето перечислен ряд критических замечаний к законопроекту SB 1047: законопроект не заходит достаточно далеко, но заходит слишком далеко; риски носят неотложный характер, но мы должны действовать осторожно», — написал Винер в официальном ответе на решение Ньюсома. «SB 1047 был создан некоторыми из ведущих умов ИИ на планете, и любые намеки на то, что он не основан на эмпирических данных, являются явно абсурдными».

Федеральное правительство пристально следило за Калифорнией, поскольку штат потенциально мог создать прецедент для регулирования ИИ. До сих пор оно в значительной степени воздерживалось от внедрения широких или конкретных правил ИИ, выбирая вместо этого добровольные соглашения.

СМОТРЕТЬ: Правительство США подписало международный договор, в котором говорится, что ИИ должен уважать человеческое достоинство и подлежать надзору.

Такие компании, как OpenAI, Meta и Google, выступили против законопроекта SB 1047 из-за замедления инноваций или использования «технически невыполнимых требований». Другие участники рынка технологий, включая Илона Маска и Anthropic, которые внесли свой вклад в разработку законопроекта, поддержали способ, которым законопроект устраняет потенциальные риски ИИ.

Что означает право вето для бизнеса?

Для заинтересованных сторон в бизнесе, вовлеченных в стратегию ИИ, вето означает, что крупномасштабные проекты ИИ в Калифорнии будут подвергаться меньшему государственному контролю, чем могли бы. Ньюсом одобрил ряд других правил ИИ, включая запрет на deepfakes во время избирательного сезона и правила использования ИИ в таких отраслях, как здравоохранение и страхование.

Вето также означает, что крупные модели ИИ могут продолжать разрабатываться в Калифорнии без «аварийных выключателей». Организации могут вводить собственное управление ИИ по своему желанию. В августе Deloitte обнаружила, что «баланс инноваций с регулированием» является наиболее важной этической проблемой при развертывании и разработке ИИ среди опрошенных ими организаций.