Риски медицинских консультаций с использованием ИИ: 22% вреда при использовании вторым пилотом

Новое исследование, основанное на использовании инструмента Copilot на базе искусственного интеллекта Bing от Microsoft, выявило необходимость соблюдать осторожность при использовании этого инструмента для получения медицинской информации.

Результаты, опубликованные в Scimex, показывают, что многие ответы чат-бота требуют углубленного образования для полного понимания, и почти 40% его рекомендаций противоречат научному консенсусу. Тревожно, что почти 1 из 4 ответов были признаны потенциально опасными, с риском причинения серьезного вреда или даже смерти, если следовать им.

Вопросы о 50 наиболее часто назначаемых препаратах в США

Исследователи запросили у Microsoft Copilot 10 часто задаваемых пациентами вопросов о 50 наиболее назначаемых препаратах на амбулаторном рынке США в 2020 году. Эти вопросы охватывали такие темы, как показания к применению препаратов, механизмы действия, инструкции по применению, потенциальные побочные реакции и противопоказания.

Они использовали показатель легкости чтения Флеша для оценки уровня образования, необходимого для понимания конкретного текста. Оценка от 0 до 30 указывает на очень сложный для чтения текст, требующий образования на уровне степени. И наоборот, оценка от 91 до 100 означает, что текст очень легко читать и он подходит для 11-летних детей.

Общий средний балл, полученный в исследовании, составляет 37, что означает, что большинство ответов чат-бота трудночитаемы. Даже самая высокая читаемость ответов чат-бота все еще требует уровня образования средней или средней школы.

Кроме того, эксперты определили, что:

54% ответов чат-бота соответствовали научному консенсусу, в то время как 39% ответов противоречили научному консенсусу. 42% ответов считались ведущими к умеренному или легкому вреду. 36% ответов считались ведущими к отсутствию вреда. 22% считались ведущими к серьезному вреду или смерти.

СМ.: Microsoft 365 Copilot Wave 2 представляет Copilot Pages — новый холст для совместной работы

Использование ИИ в здравоохранении

Искусственный интеллект уже некоторое время является частью отрасли здравоохранения, предлагая различные приложения для улучшения результатов лечения пациентов и оптимизации медицинских операций.

ИИ играет важную роль в анализе медицинских изображений, помогая в раннем выявлении заболеваний или ускоряя интерпретацию сложных изображений. Он также помогает выявлять новые кандидаты на лекарственные препараты, обрабатывая огромные наборы данных. Кроме того, ИИ поддерживает медицинских работников, облегчая нагрузку в больницах.

На дому виртуальные помощники на базе искусственного интеллекта могут помогать пациентам с повседневными задачами, такими как напоминания о приеме лекарств, запись на прием к врачу и отслеживание симптомов.

Использование поисковых систем для получения информации о здоровье, особенно о лекарствах, широко распространено. Однако растущая интеграция чат-ботов на базе ИИ в этой области остается в значительной степени неизученной.

Отдельное исследование бельгийских и немецких исследователей, опубликованное в журнале BMJ Quality & Safety, изучало использование чат-ботов на базе ИИ для запросов, связанных со здоровьем. Исследователи провели свое исследование с использованием Bing AI copilot от Microsoft, отметив, что «чат-боты на базе ИИ способны предоставлять общую полную и точную информацию о лекарствах для пациентов. Тем не менее, эксперты посчитали значительное количество ответов неверными или потенциально опасными».

Проконсультируйтесь с врачом для получения медицинской консультации.

Исследователи исследования Scimex отметили, что их оценка не учитывала реальный опыт пациентов и что подсказки на других языках или из других стран могли повлиять на качество ответов чат-бота.

Они также заявили, что их исследование демонстрирует, как поисковые системы с чат-ботами на базе искусственного интеллекта могут давать точные ответы на часто задаваемые вопросы пациентов о медикаментозном лечении. Однако эти ответы, часто сложные, «неоднократно предоставляющие потенциально опасную информацию, могут поставить под угрозу безопасность пациента и лекарств». Они подчеркнули важность консультаций пациентов с медицинскими работниками, поскольку ответы чат-ботов не всегда могут генерировать безошибочную информацию.

Более того, более целесообразным использованием чат-ботов для получения информации, связанной со здоровьем, может быть поиск объяснений медицинских терминов или лучшее понимание контекста и правильного использования лекарств, назначенных медицинским работником.

Раскрытие информации: я работаю в компании Trend Micro, но мнения, высказанные в этой статье, принадлежат мне.