Искусственный интеллект меняет взгляд предприятий на доверие: мнение Deloitte и SAP

Независимо от того, создаете ли вы или настраиваете политику ИИ или пересматриваете подход вашей компании к доверию, сохранение доверия клиентов может стать все более сложным из-за непредсказуемости генеративного ИИ. Мы поговорили с Майклом Бондаром из Deloitte, директором и руководителем корпоративного доверия, и Шардулом Викрамом, главным технологом и руководителем отдела данных и ИИ в SAP Industries and CX, о том, как предприятия могут поддерживать доверие в эпоху ИИ.

Организации выигрывают от доверия

Во-первых, Бондар сказал, что каждая организация должна определить доверие применительно к ее конкретным потребностям и клиентам. Deloitte предлагает для этого инструменты, такие как система «домен доверия», которую можно найти в некоторых загружаемых платформах Deloitte.

Организации хотят, чтобы их клиенты доверяли им, но люди, участвующие в обсуждении вопросов доверия, часто колеблются, когда их спрашивают, что именно означает доверие, сказал он. Компании, которым доверяют, показывают более высокие финансовые результаты, лучшую динамику акций и повышенную лояльность клиентов, обнаружил Deloitte.

«И мы увидели, что почти 80% сотрудников чувствуют мотивацию работать на надежного работодателя», — сказал Бондарь.

Викрам определил доверие как веру в то, что организация будет действовать в интересах клиентов.

Размышляя о доверии, клиенты задаются вопросом: «Каково время безотказной работы этих услуг?» - сказал Викрам. «Являются ли эти услуги безопасными? Могу ли я доверить этому конкретному партнеру обеспечение безопасности моих данных и обеспечение их соответствия местным и глобальным нормам?»

Deloitte обнаружила, что доверие «начинается с сочетания компетентности и намерений, то есть организации способна и надежно выполнять свои обещания», — сказал Бондар. «Но также обоснование, мотивация и причины этих действий соответствуют ценностям (и) ожиданиям различных заинтересованных сторон, а человечность и прозрачность заложены в эти действия».

Почему организациям может быть сложно повысить уровень доверия? Бондарь объяснил это «геополитической нестабильностью», «социально-экономическим давлением» и «опасениями» вокруг новых технологий.

Генеративный ИИ может подорвать доверие, если клиенты не будут проинформированы о его использовании

Генеративный ИИ — это вершина понимания, когда речь идет о новых технологиях. Если вы собираетесь использовать генеративный ИИ, он должен быть надежным и прочным, чтобы не снижать доверие, отметил Бондар.

«Конфиденциальность — это ключ», — сказал он. «Необходимо уважать конфиденциальность потребителей, а данные клиентов должны использоваться в рамках и только в рамках их предназначения».

Это включает в себя каждый этап использования ИИ, от первоначального сбора данных при обучении больших языковых моделей до предоставления потребителям возможности отказаться от использования их данных ИИ каким-либо образом.

На самом деле, по словам Викрама, обучение генеративного ИИ и выяснение того, где он дает сбои, может стать подходящим моментом для удаления устаревших или неактуальных данных.

СМОТРЕТЬ: Microsoft отложила запуск функции AI Recall, требуя больше отзывов от сообщества

Он предложил следующие методы поддержания доверия клиентов при внедрении ИИ:

Обеспечьте обучение сотрудников безопасному использованию ИИ. Сосредоточьтесь на учениях по военным играм и медиаграмотности. Помните о представлениях вашей организации о достоверности данных. Получите согласие на данные и/или соответствие требованиям интеллектуальной собственности при разработке или работе с генеративной моделью ИИ. Добавляйте водяные знаки на контент ИИ и обучайте сотрудников распознавать метаданные ИИ, когда это возможно. Предоставьте полное представление о ваших моделях и возможностях ИИ, прозрачно рассказывая о том, как вы используете ИИ. Создайте центр доверия. Центр доверия — это «цифрово-визуальный связующий слой между организацией и ее клиентами, где вы обучаете, (и) делитесь последними угрозами, новейшими практиками (и) новейшими вариантами использования, которые мы видели творят чудеса, если все делать правильно», — сказал Бондарь.

CRM-компании, скорее всего, уже соблюдают правила — такие как Калифорнийский закон о правах на конфиденциальность, Общие правила защиты данных Европейского Союза и правила SEC по раскрытию информации в киберпространстве — которые также могут повлиять на то, как они используют данные клиентов и искусственный интеллект.

Как SAP укрепляет доверие к продуктам генеративного искусственного интеллекта

«В SAP у нас есть команда DevOps, команды по инфраструктуре, команда по безопасности и команда по соблюдению нормативных требований, глубоко встроенные в каждую продуктовую команду», — сказал Викрам. «Это гарантирует, что каждый раз, когда мы принимаем решение о продукте, каждый раз, когда мы принимаем архитектурное решение, мы думаем о доверии как о чем-то с самого начала, а не как о второстепенной мысли».

SAP реализует доверие, создавая связи между командами, а также создавая и соблюдая этическую политику компании.

«У нас есть политика, согласно которой мы не можем ничего отправлять, пока это не будет одобрено комитетом по этике», — сказал Викрам. «Это одобрено воротами качества… Это одобрено коллегами по безопасности. Таким образом, это на самом деле добавляет уровень процесса поверх операционных задач, и их объединение фактически помогает нам реализовать доверие или обеспечить его соблюдение».

Когда SAP внедряет собственные продукты генеративного искусственного интеллекта, применяются те же правила.

SAP выпустила несколько продуктов генеративного искусственного интеллекта, в том числе CX AI Toolkit для CRM, который может писать и перезаписывать контент, автоматизировать некоторые задачи и анализировать корпоративные данные. CX AI Toolkit всегда будет показывать свои источники, когда вы запрашиваете информацию, сказал Викрам; это один из способов, с помощью которых SAP пытается завоевать доверие своих клиентов, использующих продукты искусственного интеллекта.

Как внедрить генеративный ИИ в организацию надежным способом

В целом компаниям необходимо включить в свои ключевые показатели эффективности генеративный искусственный интеллект и надежность.

«При использовании ИИ, и особенно при использовании генеративного ИИ, клиенты ищут дополнительные ключевые показатели эффективности или показатели, например: как нам обеспечить доверие, прозрачность и проверяемость результатов, которые мы получаем от системы генеративного ИИ? ?» - сказал Викрам. «Системы по умолчанию или по определению недетерминированы с высокой точностью.

«И теперь, чтобы использовать эти конкретные возможности в моих корпоративных приложениях, в моих центрах доходов, мне нужно иметь базовый уровень доверия. По крайней мере, что мы делаем, чтобы минимизировать галлюцинации или принести правильные идеи?»

По словам Викрама, руководители высшего звена горят желанием опробовать ИИ, но они хотят начать с нескольких конкретных вариантов использования за раз. Скорость, с которой появляются новые продукты ИИ, может противоречить этому желанию взвешенного подхода. Распространены опасения по поводу галлюцинаций или некачественного контента. Например, генеративный ИИ для выполнения юридических задач демонстрирует «повсеместные» случаи ошибок.

Но организации хотят попробовать ИИ, сказал Викрам. «Я создаю приложения искусственного интеллекта последние 15 лет, и никогда такого не было. Никогда не было такого растущего аппетита, и не просто желания знать больше, но и делать больше с этим».