Исследование выявило неточности и потенциальные угрозы в ответах чат-ботов на базе искусственного интеллекта
В журнале BMJ Quality & Safety было проведено исследование, которое показало, что ответы чат-ботов, работающих на основе искусственного интеллекта, могут быть неточными и вредными для пациентов.
Трудности чтения и неполнота информации
Исследователи обнаружили, что ответы чат-ботов трудно читать, они часто содержат неполную или неточную информацию, что может представлять угрозу для безопасности пациентов. Кроме того, было выявлено, что чат-боты не всегда способны понять основную цель вопроса пациента.
Анализ 50 наиболее часто назначаемых препаратов
В исследовании рассматривались 50 наиболее часто назначаемых лекарств в США в 2020 году. Исследователи использовали поисковую систему Bing copilot с функциями чат-бота на базе искусственного интеллекта.
Вопросы и ответы по каждому препарату
В ходе исследования были заданы 10 вопросов по каждому из 50 препаратов. Вопросы касались того, для чего используется препарат, как он действует, инструкция по применению, распространенные побочные эффекты и противопоказания.
Неудовлетворительные результаты исследования
Результаты исследования показали, что ответы чат-бота были трудночитаемыми, неполными и неточными. В 126 из 484 ответов были обнаружены несоответствия справочным данным, а в 16 из 484 ответов была обнаружена полная противоречивость.
Важность консультации с медицинскими работниками
Исследователи пришли к выводу, что пациентам по-прежнему необходимо консультироваться со своими медицинскими работниками, поскольку чат-боты не всегда могут предоставить точную информацию.
Осторожное использование поисковых систем на базе ИИ
Рекомендуется с осторожностью использовать поисковые системы на базе искусственного интеллекта до тех пор, пока не будут доступны системы цитирования с более высокой степенью точности.
Литература:
Wahram Andrikyan et al, Artificial intelligence-powered chatbots in search engines: a cross-sectional study on the quality and risks of drug information for patients, BMJ Quality & Safety (2024). DOI: 10.1136/bmjqs-2024-017476
Ведущий специалист отдела организации клинических исследований, терапевт, врач ультразвуковой диагностики АО «СЗМЦ» (г. Санкт-Петербург), главный редактор, учредитель сетевого издания Medical Insider, а также автор статей
E-mail для связи – [email protected];
