Закон ЕС об искусственном интеллекте: новые европейские правила для искусственного интеллекта

8 декабря Европейский Союз достиг предварительного соглашения по долгожданному Закону об искусственном интеллекте, став первой мировой державой, принявшей правила, регулирующие использование ИИ.

В законе изложены общеевропейские меры, направленные на обеспечение безопасного и этичного использования ИИ, а также ограничения на использование живого распознавания лиц и новые требования прозрачности для разработчиков базовых моделей ИИ, таких как ChatGPT.

Перейти к:

Что такое Закон об искусственном интеллекте? Каковы наказания за нарушение Закона об искусственном интеллекте? Насколько важен Закон об искусственном интеллекте? Какие проблемы возникли в связи с Законом об искусственном интеллекте? Что критики говорят о Законе об искусственном интеллекте? Что будет дальше с Законом об искусственном интеллекте?

Что такое Закон об искусственном интеллекте?

Закон об искусственном интеллекте представляет собой свод общеевропейских законов, направленных на обеспечение гарантий использования искусственного интеллекта в Европе и одновременно гарантирующий, что европейский бизнес может извлечь выгоду из быстро развивающихся технологий.

Законодательство устанавливает риск-ориентированный подход к регулированию, который классифицирует системы искусственного интеллекта на основе их предполагаемого уровня риска и воздействия на граждан.

Следующие случаи использования запрещены Законом об искусственном интеллекте:

Системы биометрической категоризации, использующие чувствительные характеристики (например, политические, религиозные, философские убеждения, сексуальная ориентация, раса). Нецелевое извлечение изображений лиц из Интернета или записей с камер видеонаблюдения для создания баз данных для распознавания лиц. Распознавание эмоций на рабочем месте и в учебных заведениях. Социальный рейтинг, основанный на социальном поведении или личных характеристиках. Системы искусственного интеллекта, которые манипулируют поведением людей, чтобы обойти их свободную волю. ИИ используется для эксплуатации уязвимостей людей из-за их возраста, инвалидности, социального или экономического положения.

Однако к предварительному соглашению в его нынешнем виде есть оговорки. Возможно, наиболее важным является тот факт, что Закон об искусственном интеллекте не вступит в силу до 2025 года, оставив нормативный вакуум, в котором компании смогут разрабатывать и внедрять искусственный интеллект беспрепятственно и без какого-либо риска штрафных санкций. До тех пор ожидается, что компании будут соблюдать законодательство добровольно, что, по сути, предоставит им свободу самоуправления.

Что нужно знать разработчикам ИИ?

Разработчики систем ИИ, которые считаются представляющими высокий риск, должны будут выполнить определенные обязательства, установленные европейскими законодателями, включая обязательную оценку того, как их системы ИИ могут повлиять на фундаментальные права граждан. Это относится к страховому и банковскому секторам, а также к любым системам искусственного интеллекта, наносящим «значительный потенциальный вред здоровью, безопасности, основным правам, окружающей среде, демократии и верховенству закона».

Модели ИИ, которые считаются высокоэффективными и представляют собой системный риск (то есть могут вызвать широкомасштабные проблемы, если что-то пойдет не так), должны подчиняться более строгим правилам. Разработчики этих систем будут обязаны проводить оценку своих моделей, а также «оценивать и снижать системные риски, проводить состязательное тестирование, сообщать (Европейской) комиссии о серьезных инцидентах, обеспечивать кибербезопасность и сообщать об их энергоэффективности». Кроме того, граждане Европы будут иметь право подавать жалобы и получать объяснения по поводу решений, принятых системами искусственного интеллекта высокого риска, которые влияют на их права.

Чтобы поддержать европейские стартапы в создании собственных моделей искусственного интеллекта, Закон об искусственном интеллекте также поощряет нормативные песочницы и тестирование в реальных условиях. Они будут созданы национальными властями, чтобы позволить компаниям разрабатывать и обучать свои технологии искусственного интеллекта до того, как они будут представлены на рынке, «без неоправданного давления со стороны отраслевых гигантов, контролирующих цепочку создания стоимости».

А как насчет ChatGPT и генеративных моделей искусственного интеллекта?

Поставщики систем искусственного интеллекта общего назначения должны соответствовать определенным требованиям прозрачности в соответствии с Законом об искусственном интеллекте; это включает в себя создание технической документации, соблюдение европейских законов об авторском праве и предоставление подробной информации о данных, используемых для обучения базовых моделей ИИ. Это правило применяется к моделям, используемым в генеративных системах искусственного интеллекта, таких как ChatGPT OpenAI.

SEE: Генеративный искусственный интеллект: лидеры бизнеса Великобритании сталкиваются с инвестиционными проблемами, поскольку каждый претендует на звание эксперта (TechRepublic)

Каковы наказания за нарушение Закона об искусственном интеллекте?

Компаниям, не соблюдающим законодательство, грозят штрафы в размере от 35 миллионов евро (38 миллионов долларов США) или 7% мирового оборота до 7,5 миллионов евро (8,1 миллиона долларов США) или 1,5% от оборота, в зависимости от нарушения и размера компании. .

Насколько важен Закон об искусственном интеллекте?

Символично, что Закон об искусственном интеллекте представляет собой поворотный момент для индустрии искусственного интеллекта. Несмотря на бурный рост в последние годы, технология искусственного интеллекта остается в значительной степени нерегулируемой, в результате чего политикам приходится с трудом успевать за темпами инноваций.

ЕС надеется, что его свод правил ИИ создаст прецедент, которому последуют другие страны. В своем сообщении на X (ранее Twitter) еврокомиссар Тьерри Бретон назвал Закон об искусственном интеллекте «стартовой площадкой для стартапов и исследователей ЕС, которые возглавят глобальную гонку искусственного интеллекта», а Драгош Тудораш, депутат Европарламента и член Renew Europe Group, заявил, что закон будет ужесточен. Способность Европы «вводить инновации и лидировать в области искусственного интеллекта», одновременно защищая граждан.

Какие проблемы возникли в связи с Законом об искусственном интеллекте?

Принятие Закона об искусственном интеллекте сопровождалось задержками, которые подорвали позицию ЕС как лидера в разработке всеобъемлющих правил в области искусственного интеллекта. Наиболее примечательным стало появление и последующий стремительный рост ChatGPT в конце прошлого года, который не был учтен в планах, когда ЕС впервые заявил о своем намерении регулировать ИИ в Европе в апреле 2021 года.

Как сообщает Euractiv, это привело переговоры в замешательство: некоторые страны выразили нежелание включать правила в модели фондов на том основании, что это может заблокировать инновации на европейской стартап-сцене. Тем временем США, Великобритания и страны «Большой семерки» предприняли шаги по публикации руководящих принципов в области ИИ.

СМОТРИТЕ: Саммит по безопасности ИИ в Великобритании: мировые державы дают «знаковое» обещание обеспечить безопасность ИИ (TechRepublic)

Что критики говорят о Законе об искусственном интеллекте?

Некоторые группы по защите конфиденциальности и защите прав человека утверждают, что эти правила в отношении ИИ не заходят достаточно далеко, обвиняя законодателей ЕС в предоставлении смягченной версии того, что они первоначально обещали.

Группа по защите прав на конфиденциальность European Digital Rights назвала Закон об искусственном интеллекте «компромиссом высокого уровня» по «одному из самых спорных цифровых законодательств в истории ЕС» и предположила, что пробелы в законодательстве угрожают подорвать права граждан.

Группа особенно критиковала ограниченный запрет Закона на распознавание лиц и интеллектуальную полицейскую деятельность, утверждая, что широкие лазейки, неясные определения и исключения для определенных органов власти оставляют системы искусственного интеллекта открытыми для потенциального злоупотребления в надзоре и правоохранительной деятельности.

Элла Якубовска, старший политический советник European Digital Rights, заявила в своем заявлении: «Трудно радоваться закону, который впервые в ЕС предпринял шаги по легализации публичного распознавания лиц в реальном времени по всему блоку. В то время как парламент упорно боролся за ограничение ущерба, общий пакет мер по биометрическому надзору и профилированию остается в лучшем случае вялым. Наша борьба с биометрической массовой слежкой будет продолжаться».

Amnesty International также раскритиковала ограниченный запрет на распознавание лиц с помощью ИИ, заявив, что это создает «разрушительный глобальный прецедент».

Мгер Акопян, советник по вопросам искусственного интеллекта в Amnesty International, заявил в своем заявлении: «Три европейских института – Комиссия, Совет и Парламент – фактически дали зеленый свет антиутопической цифровой слежке в 27 государствах-членах ЕС, создав во всем мире разрушительный прецедент в отношении искусственного интеллекта». регулирование разведки (ИИ).

«Поэтому отсутствие полного запрета на распознавание лиц — это чрезвычайно упущенная возможность остановить и предотвратить колоссальный ущерб правам человека, гражданскому пространству и верховенству закона, которые уже находятся под угрозой на всей территории ЕС».

Что будет дальше с Законом об искусственном интеллекте?

Закон об искусственном интеллекте в настоящее время ожидает официального принятия как Европейским парламентом, так и Советом, чтобы стать законом Европейского Союза. Соглашение будет вынесено на голосование на предстоящем заседании парламентских комитетов по внутреннему рынку и гражданским свободам.