Австралийским организациям необходимо завоевать доверие потребителей к данным и искусственному интеллекту

Глобальные данные подчеркивают тревожную тенденцию: австралийские организации начинают отставать из-за «разрыва доверия» между тем, что клиенты ожидают от них делать с данными и конфиденциальностью, и тем, что происходит на самом деле.

Новые данные показывают, что 90% людей хотят, чтобы организации трансформировались, чтобы правильно управлять данными и рисками. Поскольку нормативно-правовая база отстает, австралийским организациям, чтобы добиться этого, придется действовать быстрее, чем нормативно-правовая база.

Австралийским предприятиям необходимо серьезно отнестись

Согласно недавнему крупному глобальному исследованию Cisco, более 90% людей считают, что генеративный ИИ требует новых методов управления данными и рисками (рис. A). Между тем, 69% обеспокоены возможностью нарушения юридических прав и прав интеллектуальной собственности, а 68% обеспокоены риском раскрытия информации общественности или конкурентам.

По сути, хотя клиенты ценят ценность, которую ИИ может принести им с точки зрения персонализации и уровня обслуживания, они также недовольны последствиями для их конфиденциальности, если их данные используются как часть моделей ИИ.

ПРЕМИУМ: Австралийским организациям следует рассмотреть политику этики ИИ.

Около 8% участников опроса Cisco были из Австралии, хотя в исследовании вышеупомянутые опасения не разбиваются по территориям.

Австралийцы чаще нарушают политику безопасности данных, несмотря на опасения по поводу конфиденциальности данных

Другое исследование показывает, что австралийцы особенно чувствительны к тому, как организации используют свои данные. По данным исследования Quantum Market Research и Porter Novelli, 74% австралийцев обеспокоены киберпреступностью. Кроме того, 45% обеспокоены тем, что их финансовая информация может быть похищена, а 28% обеспокоены тем, что их документы, удостоверяющие личность, такие как паспорта и водительские права (рисунок B).

Однако австралийцы также в два раза чаще, чем в среднем по миру, нарушают политику безопасности данных на работе.

Как сказал вице-президент Gartner, аналитик Надер Ханейн, организации должны быть глубоко обеспокоены этим нарушением доверия клиентов, поскольку клиенты будут вполне счастливы взять свои кошельки и уйти.

«Дело в том, что сегодня потребители более чем счастливы перейти дорогу к конкурентам и в некоторых случаях заплатить больше за ту же услугу, если именно там, по их мнению, о их данных и данных их семьи заботятся лучше всего. — сказал Ханейн.

Добровольное регулирование в австралийских организациях не способствует конфиденциальности данных

Частично проблема заключается в том, что в Австралии правильные действия в отношении конфиденциальности данных и искусственного интеллекта в значительной степени являются добровольными.

СМОТРИТЕ: На чем австралийским ИТ-руководителям необходимо сосредоточиться в преддверии реформ в области конфиденциальности.

«С точки зрения регулирования, большинство австралийских компаний сосредоточены на раскрытии нарушений и отчетности, учитывая все громкие инциденты, произошедшие за последние два года. Но когда дело доходит до основных аспектов конфиденциальности, к компаниям в Австралии предъявляются небольшие требования. Основные принципы конфиденциальности, такие как прозрачность, права потребителей на конфиденциальность и явное согласие, просто отсутствуют», — сказал Ханейн.

Только те австралийские организации, которые ведут бизнес за границей и сталкиваются с внешним регулированием, нуждаются в улучшении — Ханейн привел в качестве примера GDPR и законы Новой Зеландии о конфиденциальности. Другим организациям придется сделать укрепление доверия со своими клиентами своим внутренним приоритетом.

Укрепление доверия к использованию данных

Хотя использование данных в ИИ в Австралии может быть в значительной степени нерегулируемым и добровольным, есть пять вещей, которые ИТ-команда может – и должна – отстаивать во всей организации:

Прозрачность сбора и использования данных. Прозрачность сбора данных может быть достигнута за счет четких и понятных политик конфиденциальности, форм согласия и возможностей отказа. Подотчетность при управлении данными: каждый в организации должен осознавать важность качества и целостности данных при сборе, обработке и анализе данных, а также должна существовать политика, поощряющая поведение. Высокое качество и точность данных. Сбор и использование данных должны быть точными, поскольку дезинформация может сделать модели ИИ ненадежными, что впоследствии может подорвать доверие к безопасности данных и управлению ими. Упреждающее обнаружение инцидентов и реагирование на них. Неадекватный план реагирования на инциденты может привести к нанесению ущерба репутации и данным организации. Контроль клиента над своими данными. Все услуги и функции, связанные со сбором данных, должны позволять клиенту получать доступ к своим данным, управлять ими и удалять их на своих условиях и тогда, когда они этого хотят.

Саморегулирование сейчас, чтобы подготовиться к будущему

В настоящее время закон о конфиденциальности данных, включая данные, собранные и используемые в моделях ИИ, регулируется старыми правилами, созданными еще до того, как модели ИИ начали использоваться. Таким образом, единственное регулирование, которое применяют австралийские предприятия, является самоопределяемым.

Однако, как сказал Ханейн из Gartner, существует широкое согласие относительно правильного пути управления данными при использовании этих новых и преобразующих способов.

SEE: Австралийские организации сосредоточат внимание на этике сбора и использования данных в 2024 году.

«Еще в феврале 2023 года был опубликован отчет о пересмотре Закона о конфиденциальности, содержащий множество хороших рекомендаций, направленных на модернизацию защиты данных в Австралии», — сказал Ханейн. «Семь месяцев спустя, в сентябре 2023 года, федеральное правительство отреагировало. Из 116 предложений в первоначальном отчете правительство ответило положительно на 106».

На данный момент некоторые руководители и советы директоров могут не согласиться с идеей добровольного регулирования, но польза от этого состоит в том, что организация, которая может продемонстрировать, что она предпринимает эти шаги, получит выгоду от более высокой репутации среди клиентов и будет восприниматься как принимающая их заботы. серьезно относимся к использованию данных.

Между тем, некоторые внутри организации могут быть обеспокоены тем, что введение саморегулирования может помешать инновациям. Как сказал в ответ на это Ханейн: «Вы бы отложили внедрение ремней безопасности, зон деформации и подушек безопасности, опасаясь, что эти аспекты замедлят развитие автомобильной промышленности?»

Настало время ИТ-специалистам взять на себя ответственность и начать устранять этот разрыв в доверии.