machine-learning human-ai-collaboration human-in-the-loop-ai ai-design user-experience-in-ai-design ai-framework ai-product-design ai-powered-decision-making machine-learning-for-ux-design

Ориентированная на человека структура для разработки сложных решений ИИ для принятия стратегических решений

15 июля 2025 г.

В Tesco Technology разработка сложной внутренней платформы моделирования для решений с высокими ставками прояснила одну вещь: даже самые продвинутые инструменты ИИ могут вводить в заблуждение, если они не являются интуитивными, удобными для пользователя и не предназначены для работы для людей, использующих их. Это подняло фундаментальный вопрос: как мы можем сделать расширенные инструменты, ориентированные на данные по-настоящему ориентированные на пользователя? Чтобы ответить на это, нам нужно было разработать структуру для сложных систем ИИ, которые преодолевают разрыв между дизайном, ориентированным на человека, и разработкой искусственного интеллекта.

Эта практическая структура помогает дизайнерам, ученым данных и инженерам найти общий язык. Он выравнивает голос и потребности пользователей с дизайном систем ИИ, гарантируя, что человеческое понимание влияет не только на интерфейсы, но и на основную логику и поведение инструментов ИИ, чтобы пользователи доверяли и фактически наслаждались их использованием. Эта структура направляет вас через каждую фазу разработки продукта, от ранних исследований до обратной связи после запуска, подчеркивая, где и как люди должны быть «в» и «на» цикл. Это позволяет сложным системам ИИ не только функциональных, но и прозрачных, обучаемых и заслуживающих доверия систем, которые предназначены для поддержки принятия решений, а не замены лиц, принимающих решения, особенно в стратегических контекстах и без изучения данных.

Введение

В мире дизайна мы часто ссылаемся на дизайн, ориентированный на человека, подход, ориентированный на эмпатию, удобство использования и решение реальных пользовательских проблем, но в науке о данных и технике пользователей часто считаются в конце процесса, как правило, как валидаторы входных данных. В то время как некоторые команды по -прежнему расставляют приоритеты в технической осуществимости, в идеале, проектирование системы должна быть обусловлена потребностями и пониманием пользователей.

Это часто рассматривается с точки зрения концепции технологического детерминизма, в которой говорится, что люди, культура и экономика развиваются в результате технологического прогресса. Напротив, социальное построение технологий предполагает, что люди формируют технологии, чтобы вызвать изменения, а не наоборот. Тем не менее, на практике на разработку технологий часто влияют такие ограничения, как доступность данных, ограничения системы или организационные приоритеты, а не только идеальные потребности пользователей или социальные цели. Эта структура в большей степени соответствует социальной конструкции технологий, в которой пользователи активно формируют эволюцию системы, а не пассивно адаптируются к ней, что необходимо в стратегических контекстах.

Общие термины

Человек в петле (Hitl):Люди активно участвуют в процессе принятия решений. Спросите: «Должен ли пользователь формировать или одобрить действия ИИ, прежде чем его принять?»

Человек на петле (HOTL):Люди обеспечивают обратную связь и надзор после того, как ИИ принял решение. Спросите: «Пользователь отслеживает, интерпретирует или улучшает выход ИИ?»

Generative-AI (Genai) и крупные языковые модели (LLMS):Вычислительные методы генерации нового контента, такого как текст, изображения, код, видео или аудио из учебных данных. Кроме того, они могут служить многоагентными помощниками, которые могут выполнять несколько задач в масштабе.

Double Diamond (DD):Четкое, всеобъемлющее и визуальное описание процесса проектирования. Он включает в себя обнаружение, определение, разработку, доставку фаз.

Системы ИИ, которые работают без надзора за человеком, могут быть мощными, но также вводящими в заблуждение, особенно в областях с высокими ставками со стратегическими решениями (например, здравоохранение, финансы). Горячие структуры обеспечивают жизненно важный баланс между автономией и подотчетностью. Люди следят за операциями ИИ, вмешиваются при необходимости и обеспечивают безопасность, этическое соответствие и постоянное улучшение системы. В отличие от полностью автоматизированных систем, HOTL назначает людям надзорную роль, такую как мониторинг, руководство и вмешательство в критические моменты, в то же время позволяя ИИ работать плавно на заднем плане.

Почему это важно

Без надлежащего контроля и границ ИИ может принимать предвзятые или непреднамеренно вредные решения. HOTL гарантирует, что эксперты по человеческим вопросам предоставляют качественные суждения и контекстуальные идеи, которые не могут быть получены в данных или доступны для системы. Этот надзор не только снижает риск, но и дает человеческим нюансами суждений, с которыми ИИ не может справиться в одиночку. Включение человеческого надзора повышает доверие, предоставляя постоянную обратную связь, которая со временем улучшает ИИ.

Структура с ключевыми действиями

1. Исследование и исследование

ДД: Откройте для себя

Hotl Focus: пользователь Insight информирует модель и дизайн инструментов.

Перед написанием кода или проектирования экранов погрузитесь в мир пользователя. Их контекст, потребности, среда, проблемы и поведение должны стимулировать ваше техническое направление и стратегию данных.

Провести качественное и количественное исследование.
Соберите пользовательский контекст, поведенческие шаблоны и пользовательский опыт.
Карта пользователей путешествует по поверхности болевых точек, потребностей и мотивации.
Интегрируйте легкие инструменты исследования в платформу (например, Micro-Surveys, обратная связь по процессу).
Определить оптимальную частоту обратной связи.

2. Связь и дизайн интерфейса

ДД: Определите

Hotl: Интерфейсы направляют и стимулируют взаимодействие человека с моделями.

Четко определяйте проблемы и системные структуры для задач моделирования. Уточнить взаимодействия и продемонстрировать поведение системы, чтобы уменьшить когнитивную нагрузку.

Перевести исследование в действительные проектные решения, позволяя пользователям действовать, учиться и вмешиваться значимыми способами.
Перевести исследования в четкие определения проблем и паттерны взаимодействия системного взаимодействия.
Проектирование и реализация 5 типов связи: ○ Предупреждения (например, предупреждения о ошибках) ○ Уведомления (например, оповещения о завершении, уведомления по электронной почте) ○ Индикаторы состояния (например, загрузка, успех, ожидание) ○ Учебные сообщения ○ Сообщения политики.
Используйте визуальные сигналы, чтобы управлять пользовательской когнитивной нагрузкой (цвет, значки, анимация), чтобы указать уверенность, уверенность или срочность.

2.1. Входные данные и механизмы доверия

DD: определить - разработать

2.1.1. Предварительная обработка данных

HOTL: System предупреждает пользователей, но активное принятие решений не требуется.

Автоматизируйте предварительную обработку, где это возможно, чтобы уменьшить ручную работу.
Уведомить пользователей об ошибках загрузки или неверных форматов.
Создайте прозрачные руководства ввода модели.

2.1.2. Входные данные, которые направляют поведение системы (например, параметры сценария или границы решений)

HITL: пользователи формируют входы и устанавливают элементы управления.

Пользователи сегмента на основе их ролей и уровня опыта.
Позвольте опытным пользователям вручную устанавливать переменные моделирования.

Предоставьте пресеты для начинающих.

2.1.3. Выходной валидатор

HITL: установите пороги утверждения для результатов высокого риска, прежде чем предпринять какие-либо действия.

Реализуйте контрольные точки, где требуется одобрение пользователя.
Создайте аудиторские маршруты для пользовательских решений для различных сегментов пользователей (которые одобрили что и когда).
Создайте прозрачные выходные руководства по модели.

2.1.4. Доверие и безопасность в цикле

Hotl: команда идентифицирует аномалии и определяет пороги, которые требуют отзывов пользователей.

Определите пороговые значения, которые запускают обязательную проверку пользователя.

Отслеживание ошибок проверки с течением времени для улучшения логики или необходимости проведения и разработки дополнительного обучения.

3. Обработка связи

DD: Разработка - доставить

Hotl: обратная связь должна быть четкой и применимой на практике.

Просто показывать результаты недостаточно, важно объяснить пользователей их значение и что делать дальше. Необходимо знать о способности пользователя понимать общение. Предоставьте учебный опыт, где пользователи могут не только понять сообщение, но и узнать, что делать в ответ на него.

Проектируйте сообщения с ясностью, актуальностью и действующей деятельностью.
Включите объяснения или ссылки для дальнейшей помощи.
Провести пользовательский тестирование на эффективность обмена сообщениями.
Отслеживание метрик для понимания и соответствующего ответа пользователя.

DD: Deliver

HOTL: Help users in complex environments.

Поскольку системы становятся более сложными, интуитивная навигация и ясность становятся критическими. Архитектура четкой информации позволяет пользователям знать, где найти контент (например, интуитивно понятный макет, доступность).

Разработать интуитивно понятную навигацию и группировку контента.
Создайте карту сайта с разделами (например, обучение, обратная связь, поддержка).
Проверьте структуру с помощью тестов на содержание карт и юзабилити.
Добавьте функцию поиска.
Поддерживайте последовательность во время поездок пользователей для достижения ключевых целей пользователя.

5.1. Обучение

ДД: Доставка

HOTL: Встроенные и тренировочная поддержка более глубокая взаимодействие.

Пользователи нуждаются в уверенности, чтобы глубоко взаимодействовать с моделями. Это может быть достигнуто с помощью превосходной тренировки и подкрепления. Необходимо создавать различные виды учебных материалов, для начинающих и профессионалов. Это может включать видеоконтент, успешные тематические исследования и обновления.

Создайте многоуровневый учебный контент (от вступительного до продвинутого).
Записывают короткие учебные видео, пошаговые руководства и выставки успешных вариантов использования.
Отправьте уведомления пользователям о новом /дополнительном контенте (через сообщения в приложении, электронную почту, оповещения).
Запустите юзабилитивые тесты для проверки эффективности обучения.

5.2. Применение знаний

Продвигать:

Удержание знаний, когда пользователь может запомнить сообщение, когда возникает ситуация, в которой нужно применять это знание.
Передача знаний, когда пользователь может распознавать ситуации, в которых применимо сообщение и понимать, как его применить.

Ключевые действия:

Создайте механизмы для непрерывного обучения (например, встроенные советы, контекстуальные подсказки и руководство).
Усиление обучения с периодическими микропроизводствами.
Создать сценарии практики.
Провести пользовательский тестирование, чтобы обеспечить эффективность.

6.1. Обратная связь

DD: повторный открытие - переопределить

Hotl: отзывы пользователей помогают непрерывно улучшать систему.

Живая система развивается со своими пользователями, поэтому обратная связь не должна быть запоздалой мыслью; Это должно быть функцией системы. Необходимо создать механизм для обеспечения непрерывного улучшения на основе взаимодействия с пользователями и обратной связи путем организации сбора информации о пост-внедрении, интеграции системы и петли обратной связи человека (сочетание ввода системы + системы).

Создайте механизмы для непрерывной коллекции отзывов пользователей (например, после задания, встроенные советы и руководство).
Установите автоматическую сбору обратной связи на основе данных об использовании системы (например, триггер ошибок, автоматически откройте окно для отправки обратной связи команде).
Расписание периодических обзоров обратной связи с межфункциональными командами.
Установите панели мониторинга для аналитики обратной связи.
Обновите систему итеративно на основе реального мира.

6.2. Непрерывное улучшение

Изменения версии документа с помощью журналов изменений, видимых для пользователей.

6.3. Моделирование данных

HITL: Пользователи настраивают или выбирают сценарии.

Интегрируйте петли обратной связи, где пользователи исправляют, проверяют или выберите лучший сценарий.

7. Персонализация

ДД: заново открыть

Hotl: контекстуальная значимость улучшает удобство использования и понимания.

Создайте персонализированный пользовательский опыт на основе роли пользователя. Специальный опыт увеличивает принятие и удовлетворение.

Сегментируйте пользователей и предоставляют элементы пользовательского интерфейса на основе ролей.
Адаптировать глубину обучения и частоту на группу пользователей.
Рекомендуйте контент динамически на основе прошлых действий, ошибок, обратной связи или задаваемых вопросов.

8. Сотрудничество

DD: переопределить - развивать

HITL: Пользователи являются сотрудниками, а не только валидаторами.

Вовлеките пользователей и вашу команду в процесс итеративного улучшения. Их понимание имеет решающее значение для улучшения систем ИИ.

Установите сеансы обратной связи и семинары по созданию с различными сегментами пользователя.
Поощряйте междисциплинарное сотрудничество (проектирование, инженерия, наука данных, управление).
Создайте и поддерживайте общий документ для постоянного понимания пользователей и отзывов.
Установить основу для расстановки приоритетов и реализации предложений.

Заключение

Дизайн, ориентированный на человека,-это больше, чем просто рабочий процесс; Это философия, которая признает пользователей в качестве со-создателей систем ИИ. Интегрируя дизайнерское мышление и машинное обучение, эта структура гарантирует, что технология обслуживает людей, а не наоборот. Это означает создание интуитивных интерфейсов, которые позволяют пользователям путем включения прозрачности, доверия и непрерывной обратной связи.

В двух словах:

Оригинал