Что такое Управление ЕС по искусственному интеллекту? Создан новый орган для надзора за внедрением универсальных моделей и Закона об искусственном интеллекте

Европейская комиссия обнародовала подробности о своем новом офисе по искусственному интеллекту, который создается для управления внедрением моделей общего назначения и Закона об искусственном интеллекте в ЕС. Офис будет состоять из пяти подразделений, охватывающих различные области, включая регулирование, инновации и искусственный интеллект на благо общества.

Модели общего назначения относятся к базовым моделям ИИ, которые можно использовать для широкого спектра целей, некоторые из которых могут быть неизвестны разработчику, например, GPT-4 от OpenAI.

Вступая в силу 16 июня, офис будет отвечать за такие задачи, как составление кодексов практики и консультирование по моделям ИИ, разработанным до того, как Закон об ИИ вступит в силу в полном объеме. Оно также предоставит доступ к ресурсам тестирования ИИ и обеспечит интеграцию самых современных моделей в реальные приложения.

Европейская комиссия решила создать в январе 2024 года Управление ИИ для поддержки европейских стартапов и МСП в разработке надежного ИИ. Он находится в составе General Directorate Connect, департамента, отвечающего за цифровые технологии.

В офисе будет работать более 140 сотрудников, включая технических специалистов, помощников по административным вопросам, юристов, специалистов по политике и экономистов. Его возглавит руководитель Управления искусственного интеллекта, который будет действовать под руководством ведущего научного консультанта и советника по международным делам.

Маргрет Вестагер, исполнительный вице-президент проекта «Европа, готовая к эпохе цифровых технологий», заявила в пресс-релизе: «Открытый сегодня офис ИИ поможет нам обеспечить последовательное выполнение Закона об ИИ. Вместе с разработчиками и научным сообществом офис будет оценивать и тестировать ИИ общего назначения, чтобы гарантировать, что ИИ служит нам как людям и поддерживает наши европейские ценности».

Задачи, за которые будет отвечать AI Office

Обеспечение последовательного внедрения Закона об искусственном интеллекте в государствах-членах. Обеспечение соблюдения правил Закона об искусственном интеллекте и применение санкций. Разработка кодексов практики и проведение тестирования и оценки моделей ИИ. Использование опыта Европейского совета по искусственному интеллекту, независимой научной группы, крупных технологических компаний, малого и среднего бизнеса и стартапов, научных кругов, аналитических центров и гражданского общества при принятии решений. Предоставление рекомендаций по передовым практикам искусственного интеллекта и доступ к ресурсам тестирования, таким как AI Factory и European Digital Innovation Hubs. Финансирование и поддержка инновационных исследований в области искусственного интеллекта и робототехники. Поддержка инициатив, обеспечивающих интеграцию моделей искусственного интеллекта, созданных и обученных в Европе, в новые приложения, стимулирующие экономику. Создание стратегического, последовательного и эффективного европейского подхода к ИИ, который будет служить ориентиром для других стран.

Пять подразделений AI Office

1. Отдел регулирования и соблюдения требований

Подразделение регулирования и соблюдения требований будет отвечать за обеспечение единообразного применения и соблюдения Закона об искусственном интеллекте во всех государствах-членах Союза. Сотрудники будут проводить расследования и применять санкции в случае нарушений.

2. Подразделение по безопасности ИИ

Подразделение по безопасности ИИ разработает тестовые фреймворки, которые идентифицируют системные риски, присутствующие в моделях ИИ общего назначения, и соответствующие меры по их смягчению. Модель представляет системный риск, когда совокупный объем вычислений, используемых для ее обучения, превышает определенный порог, согласно Закону ЕС об ИИ.

Это подразделение может стать ответом на создание Институтов безопасности ИИ в Великобритании, США и других странах мира. На майском саммите AI в Сеуле ЕС. договорились с 10 странами о создании совместной сети институтов безопасности ИИ.

СМ.: Великобритания и США договорились о сотрудничестве в разработке тестов безопасности для моделей ИИ

3. Превосходство в отделе искусственного интеллекта и робототехники

Команда Excellence in AI and Robotics будет поддерживать и финансировать разработку моделей и их интеграцию в полезные приложения. Он также координирует инициативу GenAI4EU, целью которой является поддержка интеграции генеративного искусственного интеллекта в 14 отраслей, включая здравоохранение, климат и производство, а также государственный сектор.

4. ИИ на благо общества

Подразделение искусственного интеллекта на благо общества будет сотрудничать с международными организациями для работы над приложениями искусственного интеллекта, которые принесут пользу обществу в целом, например, для моделирования погоды, диагностики рака и цифровых двойников для художественных реконструкций. Подразделение следует апрельскому решению ЕС. сотрудничать с США в исследованиях, направленных на решение «глобальных проблем на благо общества».

СМОТРЕТЬ: Великобритания и страны G7 будут использовать ИИ для развития государственных услуг

5. Группа по координации инноваций и политики в области искусственного интеллекта

Подразделение по координации инноваций и политики в области ИИ будет отвечать за общую реализацию стратегии ЕС в области ИИ. Оно будет отслеживать тенденции и инвестиции, поддерживать тестирование ИИ в реальных условиях, создавать фабрики ИИ, которые предоставляют инфраструктуру суперкомпьютерных услуг ИИ, и сотрудничать с европейскими центрами цифровых инноваций.

ЕС Коротко о законе об искусственном интеллекте

Одной из основных обязанностей Управления по искусственному интеллекту является обеспечение соблюдения Закона об искусственном интеллекте, первого в мире всеобъемлющего закона об искусственном интеллекте, во всех государствах-членах. Закон представляет собой свод общеевропейских законов, направленных на обеспечение гарантий использования ИИ в Европе и одновременно гарантирующий, что европейский бизнес может извлечь выгоду из быстро развивающихся технологий.

СМОТРИТЕ: Как подготовить свой бизнес к ЕС. Работа с искусственным интеллектом совместно с подразделением KPMG в ЕС Центр искусственного интеллекта

Хотя Закон об искусственном интеллекте был одобрен в марте, еще предстоит предпринять несколько шагов, прежде чем предприятия начнут соблюдать его положения. ЕС Закон об искусственном интеллекте сначала должен быть опубликован в ЕС. Официальный журнал», который, как ожидается, произойдет к июлю этого года. Он вступит в силу через 20 дней после публикации, но требования будут применяться поэтапно в течение следующих 24 месяцев.

Управление ИИ должно опубликовать рекомендации по определению систем ИИ и запретам в течение шести месяцев после вступления закона в силу, а также кодексы практики в течение девяти месяцев.

Компании, которые не соблюдают требования ЕС. Закон об искусственном интеллекте грозит штрафами в размере от 35 миллионов евро (38 миллионов долларов США) или 7% мирового оборота до 7,5 миллионов евро (8,1 миллиона долларов США) или 1,5% оборота, в зависимости от нарушения и размера компании.

Репутация ЕС в области регулирования ИИ

Тот факт, что три подразделения офиса — «Совершенство в области искусственного интеллекта и робототехники», «ИИ на благо общества» и «Инновации в области искусственного интеллекта и координация политики» — сосредоточены на развитии инноваций в области искусственного интеллекта и расширении вариантов использования, позволяет предположить, что ЕС не одержима стремлением задушить прогресс своими ограничениями, как предполагают критики Закона об искусственном интеллекте. В прошлом году Сэм Альтман из OpenAI заявил, что он особенно опасается чрезмерного регулирования в ЕС.

Помимо Закона об искусственном интеллекте, ЕС. предпринимает ряд шагов для обеспечения соответствия моделей искусственного интеллекта GDPR. 24 мая рабочая группа ChatGPT Европейского совета по защите данных постановила, что OpenAI не сделала достаточно, чтобы гарантировать, что ее чат-бот дает точные ответы. Точность и конфиденциальность данных являются двумя важными столпами GDPR, и в марте 2023 года Италия временно заблокировала ChatGPT за незаконный сбор личных данных.

В отчете, обобщающем выводы целевой группы, исследователи написали: «Хотя меры, принятые для соблюдения принципа прозрачности, полезны для предотвращения неправильной интерпретации результатов ChatGPT, их недостаточно для соблюдения принципа точности данных».