Новое исследование, основанное на использовании инструмента Copilot на базе искусственного интеллекта Bing от Microsoft, выявило необходимость соблюдать осторожность при использовании этого инструмента для получения медицинской информации.
Результаты, опубликованные в Scimex, показывают, что многие ответы чат-бота требуют углубленного образования для полного понимания, и почти 40% его рекомендаций противоречат научному консенсусу. Тревожно, что почти 1 из 4 ответов были признаны потенциально опасными, с риском причинения серьезного вреда или даже смерти, если следовать им.
Вопросы о 50 наиболее часто назначаемых препаратах в США
Исследователи запросили у Microsoft Copilot 10 часто задаваемых пациентами вопросов о 50 наиболее назначаемых препаратах на амбулаторном рынке США в 2020 году. Эти вопросы охватывали такие темы, как показания к применению препаратов, механизмы действия, инструкции по применению, потенциальные побочные реакции и противопоказания.
Они использовали показатель легкости чтения Флеша для оценки уровня образования, необходимого для понимания конкретного текста. Оценка от 0 до 30 указывает на очень сложный для чтения текст, требующий образования на уровне степени. И наоборот, оценка от 91 до 100 означает, что текст очень легко читать и он подходит для 11-летних детей.
Общий средний балл, полученный в исследовании, составляет 37, что означает, что большинство ответов чат-бота трудночитаемы. Даже самая высокая читаемость ответов чат-бота все еще требует уровня образования средней или средней школы.
Кроме того, эксперты определили, что:
- 54% ответов чат-бота соответствовали научному консенсусу, в то время как 39% ответов противоречили научному консенсусу.
42% ответов считались ведущими к умеренному или легкому вреду.
36% ответов считались ведущими к отсутствию вреда.
22% считались ведущими к серьезному вреду или смерти.
СМ.: Microsoft 365 Copilot Wave 2 представляет Copilot Pages — новый холст для совместной работы
Использование ИИ в здравоохранении
Искусственный интеллект уже некоторое время является частью отрасли здравоохранения, предлагая различные приложения для улучшения результатов лечения пациентов и оптимизации медицинских операций.
ИИ играет важную роль в анализе медицинских изображений, помогая в раннем выявлении заболеваний или ускоряя интерпретацию сложных изображений. Он также помогает выявлять новые кандидаты на лекарственные препараты, обрабатывая огромные наборы данных. Кроме того, ИИ поддерживает медицинских работников, облегчая нагрузку в больницах.
На дому виртуальные помощники на базе искусственного интеллекта могут помогать пациентам с повседневными задачами, такими как напоминания о приеме лекарств, запись на прием к врачу и отслеживание симптомов.
Использование поисковых систем для получения информации о здоровье, особенно о лекарствах, широко распространено. Однако растущая интеграция чат-ботов на базе ИИ в этой области остается в значительной степени неизученной.
Отдельное исследование бельгийских и немецких исследователей, опубликованное в журнале BMJ Quality & Safety, изучало использование чат-ботов на базе ИИ для запросов, связанных со здоровьем. Исследователи провели свое исследование с использованием Bing AI copilot от Microsoft, отметив, что «чат-боты на базе ИИ способны предоставлять общую полную и точную информацию о лекарствах для пациентов. Тем не менее, эксперты посчитали значительное количество ответов неверными или потенциально опасными».
Проконсультируйтесь с врачом для получения медицинской консультации.
Исследователи исследования Scimex отметили, что их оценка не учитывала реальный опыт пациентов и что подсказки на других языках или из других стран могли повлиять на качество ответов чат-бота.
Они также заявили, что их исследование демонстрирует, как поисковые системы с чат-ботами на базе искусственного интеллекта могут давать точные ответы на часто задаваемые вопросы пациентов о медикаментозном лечении. Однако эти ответы, часто сложные, «неоднократно предоставляющие потенциально опасную информацию, могут поставить под угрозу безопасность пациента и лекарств». Они подчеркнули важность консультаций пациентов с медицинскими работниками, поскольку ответы чат-ботов не всегда могут генерировать безошибочную информацию.
Более того, более целесообразным использованием чат-ботов для получения информации, связанной со здоровьем, может быть поиск объяснений медицинских терминов или лучшее понимание контекста и правильного использования лекарств, назначенных медицинским работником.
Раскрытие информации: я работаю в компании Trend Micro, но мнения, высказанные в этой статье, принадлежат мне.