Законопроект ЕС об искусственном интеллекте: может ли новый европейский свод правил по искусственному интеллекту стать глобальным прецедентом?

22 июня 2023 г.

На прошлой неделе европейские законодатели приблизились к принятию новаторского закона об искусственном интеллекте, продвигая законодательство, направленное на установление эталона для быстро развивающейся, но минимально регулируемой технологии.

В среду, 14 июня, Европарламент одобрил законопроект, известный как Закон об искусственном интеллекте. Заявленный как первый в мире всеобъемлющий закон об искусственном интеллекте, закон представляет собой свод правил для принятия и использования технологии искусственного интеллекта в 27 государствах-членах Европейского Союза.

Закон об искусственном интеллекте предлагает запретить в Европе использование искусственного интеллекта с высокой степенью риска, включая использование технологии распознавания лиц в реальном времени в общественных местах и ​​других систем искусственного интеллекта, которые Европейский парламент считает «навязчивыми и дискриминационными», таких как системы и модели социальной оценки. которые используют «подсознательные или целенаправленно манипулятивные методы».

Законопроект также включает более строгие требования к генеративным моделям искусственного интеллекта, таким как ChatGPT, которые будут вынуждены раскрывать, когда контент был сгенерирован машиной, и разрабатывать свои модели со встроенными мерами для предотвращения создания незаконного контента.

Перейти к:

Прецедент в законе об ИИ Риск-ориентированный подход к правилам ИИ Смешанная реакция технического сообщества Когда примут новый закон?

Прецедент в законе об ИИ

Новаторское законодательство Европы призвано создать прецедент регулирования искусственного интеллекта во всем мире, где бурное использование ИИ и инструментов машинного обучения заставило политиков изо всех сил пытаться не отставать.

Дейдра Клун, член Европейского парламента, назвала Закон об ИИ «новаторским законодательным актом», который может стать «де-факто глобальным подходом к регулированию ИИ».

Выступая перед депутатами Европарламента 13 июня, Клун сказал: «Это одна из первых глобальных попыток регулирования ИИ… ИИ способен решать самые насущные проблемы, включая изменение климата или серьезные заболевания, и мы хотим заложить основу для этого. здесь, в Европейском Союзе».

Клун добавил: «Мы не можем сделать это полностью самостоятельно, но мы должны быть лидерами в обеспечении того, чтобы эта технология разрабатывалась и использовалась с соблюдением этических норм, а также поддерживала инновации и экономический рост».

Риск-ориентированный подход к правилам ИИ

Законопроект ЕС предлагает основанный на оценке риска подход к регулированию ИИ, который классифицирует системы искусственного интеллекта на основе их потенциальной угрозы для пользователей, что уже давно является предметом ожесточенных споров.

Системы ИИ, которые, как считается, несут «неприемлемый» уровень риска, будут строго запрещены в соответствии с законодательством ЕС за некоторыми исключениями. Системы и функции ИИ, признанные неприемлемыми — и, следовательно, запрещенными — в соответствии с законопроектом, включают:

Когнитивно-поведенческое манипулирование людьми или конкретными уязвимыми группами: например, игрушки с голосовым управлением, поощряющие опасное поведение у детей. Социальная оценка: классификация людей на основе поведения, социально-экономического статуса или личных характеристик. Системы биометрической идентификации в режиме реального времени и удаленной биометрической идентификации: возможный пример — инструменты распознавания лиц.

Исключением в случае систем удаленной биометрической идентификации будет преследование за тяжкие преступления в случаях, когда идентификация происходит после «значительной задержки», хотя в таких случаях потребуется одобрение суда.

Системы искусственного интеллекта с высоким риском включают те, которые используются в продуктах, регулируемых ЕС, таких как игрушки и автомобили, а также в конкретных областях, таких как биометрическая идентификация, управление критической инфраструктурой, трудоустройство и правоохранительные органы. Согласно новым правилам ЕС, эти системы должны быть зарегистрированы в базе данных ЕС.

СМОТРЕТЬ: Политика этики искусственного интеллекта (TechRepublic Premium)

Системы ИИ, способные влиять на избирателей в ходе политических кампаний, а также системы рекомендаций, используемые платформами социальных сетей, также включены в список высокого риска Закона об ИИ.

Между тем, инструменты генеративного ИИ, такие как ChatGPT и Google Bard, а также другие системы ИИ, считающиеся ограниченным риском, должны будут принять более строгие меры безопасности в соответствии с новыми правилами ЕС. Эти меры безопасности включают более строгие требования к прозрачности и позволяют пользователям принимать обоснованные решения о том, взаимодействуют ли они с моделями ИИ и как.

Пользователи должны быть проинформированы, когда они взаимодействуют с ИИ, а также им должна быть предоставлена ​​возможность прекратить или продолжить использование приложений ИИ после того, как они взаимодействуют с ними.

«Абсолютный минимум, который мы должны предложить здесь, — это прозрачность», — сказал Клун. «Должно быть ясно, что этот контент не был создан людьми. И мы также делаем еще один шаг и просим разработчиков этих крупных моделей быть более прозрачными и делиться своей информацией с поставщиками, а также тем, как эти системы были обучены и как они были разработаны. Это должно решить проблему экологической устойчивости этих систем и изменить ее».

Смешанная реакция технического сообщества

В то время как Европейский закон об искусственном интеллекте в конечном итоге направлен на регулирование использования искусственного интеллекта таким образом, чтобы обеспечить баланс безопасности и прозрачности с инновационным потенциалом, члены технического сообщества выразили обеспокоенность тем, что усиление контроля и возможные санкции за нарушение правил могут ограничить инновации.

Кевин Бочек, вице-президент по экосистеме и сообществу компании Venafi, занимающейся кибербезопасностью, заявил, что Европейский парламент «прямо нацелился на инновации искусственного интеллекта Силиконовой долины», и предупредил о «потенциально огромном влиянии на американский бизнес и их инвесторов».

«ЕС значительно ограничит нынешний подход к ИИ еженедельных выпусков продуктов и ежедневных обновлений моделей», — сказал Бочек TechRepublic. «Требования блока к прозрачности, сертификации и безопасности не соответствуют тому, как в настоящее время внедряют инновации поставщики программного обеспечения и облачных вычислений. Это открывает возможность европейским стартапам и открытым исходным кодам играть более важную роль в ИИ, чем мы видим сегодня».

Новые правила ЕС также могут усложнить жизнь компаниям, которые работают в Европе, но имеют штаб-квартиры в других странах.

Грег Хэнсон, вице-президент группы по продажам платформ в регионе EMEA и Латинской Америке в компании по разработке программного обеспечения Informatica, поделился с TechRepublic, что европейский закон об ИИ потребует от компаний из США и других стран обеспечить полную прозрачность происхождения данных, на основе которых их модели ИИ были построены для обеспечения соответствия.

«Организациям, чьи данные пересекают международные границы — а это большинство, — теперь им необходимо будет иметь полное представление о том, как и где обрабатываются их данные, чтобы соответствовать различным географическим законам», — сказал Хэнсон TechRepublic.

«Например, организация со штаб-квартирой в США, но работающая в Европе, должна будет полностью понимать качество своих данных и иметь возможность полностью отслеживать их по своей цепочке поставок данных… Это означает необходимость точности, ясности данных, происхождения и управления. будет усиливаться».

ПОСМОТРЕТЬ: Эксперты хвалят GDPR за пятилетний рубеж (TechRepublic)

Закон об ИИ включает исключения из правил для исследовательской деятельности и компонентов ИИ, предоставляемых по лицензиям с открытым исходным кодом.

Чтобы помочь предприятиям эффективно использовать ИИ при защите прав граждан, государственными органами будут созданы регулятивные песочницы для тестирования новых систем ИИ перед их развертыванием.

Между тем, граждане будут иметь расширенные права подавать жалобы на системы ИИ и получать объяснения решений, основанных на системах ИИ с высоким риском, а реформированное Управление ЕС по ИИ возьмет на себя ответственность за контроль за тем, как применяется свод правил.

Несмотря на это, Камалес Ларди, консультант по цифровой трансформации и автор книги «Человеческая сторона цифровой трансформации бизнеса», предупредил, что регулирующие органы «продолжат играть в догонялки», если ограничения в проекте закона не будут быстро устранены.

«Закон использует традиционный подход к регулированию и соблюдению требований к динамичному и быстро меняющемуся ландшафту, который представляет собой генеративный ИИ», — сказал Ларди TechRepublic.

«Закон недостаточно затрагивает темы, связанные с авторским правом, даже с учетом того, что дебаты и определения того, что считается границами авторского права, все еще обсуждаются».

Ларди также отметил, что внедрение Закона об ИИ будет «кошмаром», учитывая количество компаний, которые в настоящее время используют решения на основе ИИ или планируют сделать это в ближайшем будущем. «Рассмотрение заявок и оценка соответствия будут сложной задачей, и полагаться на самооценку в долгосрочной перспективе будет недостаточно», — добавила она.

«Компаниям может потребоваться внести существенные изменения в свои методы сбора и управления данными, чтобы соответствовать новым стандартам конфиденциальности данных, установленным законодательством».

Когда примут новый закон?

ЕС надеется завершить работу над Законом об искусственном интеллекте к концу 2023 года, хотя даже в случае успеха новый закон, как ожидается, не вступит в силу в течение нескольких лет — возможно, примерно в 2026 году.

Несмотря на сложности, которые необходимо будет решить за это время, Хэнсон сказал, что приветствует введение знакового европейского законодательства об искусственном интеллекте.

«Решение ЕС регулировать системы искусственного интеллекта, передающие данные, — разумный законодательный шаг», — заявил Хэнсон. «Это не только защитит потенциал технологии, которая может способствовать экономическому росту, но и защитит саму суть бизнеса», — сказал он.

«ИИ, в частности, ставит точность данных на острие ножа. Неверные данные, которые в конечном итоге подпитывают модели ИИ, окажут негативное влияние на бренд. Но точные, достоверные и своевременные данные дадут организациям столь необходимое конкурентное преимущество и будут стимулировать организационный рост».

---

Оригинал