Генеральный директор Dovetail выступает за сбалансированный подход к инновациям и регулированию ИИ

Генеральный директор австралийского технологического стартапа Dovetail поддержал необходимость регулирования ИИ, чтобы гарантировать, что быстро развивающаяся технология не будет использоваться в «гнусных целях». Однако он сказал, что практические аспекты соответствия определят, насколько легко или сложно будет компаниям, внедряющим ИИ, соблюдать требования.

За последние семь лет Бенджамин Хамфрис расширил платформу анализа данных о клиентах Dovetail до 120 человек в Австралии и США. Он сообщил TechRepublic, что правительствам необходимо предпринять некоторые действия для защиты «общего блага общества» от некоторых потенциальных случаев использования ИИ.

Он отметил, что предложение Австралии об обязательных защитных ограждениях ИИ вряд ли помешает инновациям в Dovetail, поскольку предложение ориентировано на высокорисковый ИИ. Однако любые шаги, требующие обширных человеческих проверок результатов ИИ в масштабах технологических продуктов, могут оказаться непосильными, если они станут обязательными.

СМОТРЕТЬ: Изучите предлагаемые в Австралии обязательные ограждения для искусственного интеллекта

Регулирование ИИ необходимо для защиты граждан от худшего потенциала ИИ

Хамфрис, чья платформа Dovetail использует модели ИИ Anthropic для предоставления клиентам более глубокого понимания их клиентских данных, сказал, что регулирование ИИ приветствуется в определенных областях или вариантах использования с высоким уровнем риска. В качестве примера он привел необходимость регулирования, чтобы ИИ не дискриминировал соискателей на работу на основе предвзятых данных обучения.

«Я человек технологий, но на самом деле я против того, чтобы технологии разрушали благо человечества», — сказал он. «Нужно ли регулировать ИИ ради большего блага общества? Я бы сказал да, определенно; я думаю, что страшно то, что вы можете сделать, особенно с возможностью генерировать фотографии и тому подобное», — сказал он.

Ожидается, что предложенные Австралией новые правила в отношении ИИ приведут к введению ограничений для разработки ИИ в условиях высокого риска. Эти меры включают внедрение процессов управления рисками и тестирование моделей ИИ перед запуском. Он сказал, что они, скорее всего, повлияют на бизнес в условиях высокого риска.

«Я не думаю, что это окажет огромное влияние на объем инноваций», — сказал Хамфрис.

SEE: Gartner считает, что австралийские ИТ-руководители должны внедрять ИИ в своем собственном темпе

«Я думаю, что регулирование сосредоточено на областях высокого риска... и нам и так уже приходится соблюдать всевозможные правила. Это включает в себя Закон о конфиденциальности Австралии, и мы также делаем много вещей в ЕС, поэтому нам приходится иметь дело с GDPR. Так что в этом смысле это ничем не отличается», — пояснил он.

Хамфрис сказал, что регулирование важно, потому что у организаций, разрабатывающих ИИ, есть свои собственные стимулы. Он привел социальные сети в качестве связанного примера области, где общество может выиграть от продуманного регулирования, поскольку он считает, что, учитывая их историю, «социальным сетям есть за что ответить».

«У крупных технологических компаний стимулы совсем другие, чем у нас, граждан», — отметил он. «Это довольно страшно, когда у вас есть такие, как Meta, Google и Microsoft, и другие, с очень серьезными коммерческими стимулами и множеством моделей создания капитала, которые будут служить их целям».

Соответствие ИИ законодательству будет зависеть от специфики нормативных актов

Процесс подачи отзывов по предложенным правительством Австралии обязательным ограждениям завершился 4 октября. По словам Хамфриса, влияние итоговых правил ИИ может зависеть от того, насколько конкретными будут меры по обеспечению соответствия и сколько ресурсов потребуется для обеспечения соответствия.

«Если бы в обязательном регулировании говорилось, что при предоставлении по сути ответа ИИ программный интерфейс должен позволять пользователю как бы проверить факты ответа, то я думаю, что это было бы относительно легко соблюсти. Это вопрос человеческого участия», — сказал Хамфрис.

Dovetail уже встроила эту функцию в свой продукт. Если пользователи запрашивают данные клиентов, чтобы получить ответ, сгенерированный ИИ, Хамфрис сказал, что ответ помечается как сгенерированный ИИ. И пользователям предоставляются ссылки на исходный материал, где это возможно, чтобы они могли сами проверить выводы.

СМ.: Почему генеративный ИИ становится источником «дорогостоящих ошибок» для покупателей технологий

«Но если бы регламент гласил: «Эй, вы знаете, каждый ответ, который предоставляет ваше программное обеспечение, должен быть проверен сотрудником Dovetail», очевидно, мы не сможем этого выполнить, потому что каждый час наше программное обеспечение выполняет тысячи таких поисков», — сказал он.

В представлении об обязательных ограничениях, предоставленном TechRepublic, технологическая компания Salesforce предложила Австралии использовать подход, основанный на принципах. Она заявила, что составление иллюстративного списка, как в ЕС и Канаде, может непреднамеренно охватить малорисковые варианты использования, что увеличит нагрузку по обеспечению соответствия.

Как Dovetail интегрирует ответственный ИИ в свою платформу

Dovetail следит за тем, чтобы внедрение ИИ в его продукт было ответственным. Хамфрис сказал, что во многих случаях именно этого теперь ожидают клиенты, поскольку они научились не доверять моделям ИИ и их результатам полностью.

Инфраструктурные соображения для ответственного ИИ Dovetail использует сервис AWS Bedrock для генеративного ИИ, а также антропологические LLM. Хамфрис сказал, что это дает клиентам уверенность в том, что их данные изолированы от других клиентов и защищены, и что нет риска утечки данных. Dovetail не использует пользовательские данные, вводимые клиентами, для тонкой настройки моделей ИИ.

Сгенерированные ИИ выходные данные помечены и могут быть проверены С точки зрения пользовательского опыта все сгенерированные ИИ выходные данные Dovetail помечены как таковые, чтобы сделать их понятными для пользователей. В тех случаях, когда это возможно, клиентам также предоставляются цитаты в сгенерированных ИИ ответах, так что пользователь может исследовать любые инсайты, полученные с помощью ИИ, более подробно.

Сводки, созданные ИИ, могут редактироваться пользователями-людьми Сгенерированные ИИ ответы Dovetail могут активно редактироваться людьми в цикле. Например, если сводка видеозвонка создается с помощью функции сводки стенограммы, пользователи, получившие сводку, могут редактировать ее, если обнаружат наличие ошибки.

Удовлетворение ожиданий клиентов с участием человека

По словам Хамфриса, теперь клиенты ожидают, что процесс будет контролироваться искусственным интеллектом или человеком.

«Это то, чего ожидает рынок, и я думаю, что это хорошее ограждение, потому что, если вы делаете выводы из нашего программного обеспечения для информирования о своей бизнес-стратегии, дорожной карте или чем-то еще, чем вы занимаетесь, вы захотите убедиться, что эти выводы точны», — сказал он.

Хамфрис отметил, что регулирование ИИ, возможно, должно быть на высоком уровне, чтобы охватить большое разнообразие вариантов использования.

«Необходимо, чтобы это было на достаточно высоком уровне, чтобы охватить все различные варианты использования», — сказал Хамфрис. «Они настолько распространены, варианты использования ИИ, что, я думаю, им [правительству] будет очень сложно написать что-то достаточно конкретное. Это немного похоже на минное поле, если честно».