Искусственный интеллект в медицине может помогать врачам точнее ставить диагнозы и выбирать лечение, но нынешнее регулирование таких систем недостаточно защищает пациентов. Авторы нового комментария предупреждают: без отдельных прав для пациентов технологии могут привести не только к ошибкам, но и к чрезмерному лечению, недостаточному лечению и дискриминации отдельных групп.
Почему одних правил «по уровню риска» мало
Речь идет об искусственном интеллекте (ИИ) — компьютерных системах, которые анализируют данные и помогают принимать решения. В медицине такие системы могут оценивать снимки, прогнозировать риски болезни или предлагать варианты лечения. Машинное обучение — один из подходов ИИ, при котором программа ищет закономерности в больших наборах данных.
По словам авторов, главная проблема в том, что даже полезные медицинские алгоритмы остаются неточными, непрозрачными и могут воспроизводить предвзятость. Непрозрачность означает, что врачу и пациенту не всегда понятно, почему система выдала именно такой вывод. Предвзятость возникает, когда алгоритм хуже работает для отдельных групп людей — например, из-за возраста, пола, происхождения или особенностей данных, на которых его обучали.
Закон Европейского союза об искусственном интеллекте относит медицинские системы ИИ к категории высокого риска и вводит строгие обязанности для разработчиков и пользователей таких технологий. Однако авторы считают, что этого недостаточно: регулирование смотрит прежде всего на безопасность системы в целом, но хуже учитывает права конкретного пациента.
Что может быть важно для самого пациента
Авторы выделяют три слабых места нынешнего подхода. Во-первых, у пациентов разные представления о том, что для них приемлемо: один человек готов доверить алгоритму часть решения, другой хочет, чтобы окончательное слово всегда оставалось за врачом. Во-вторых, нужно учитывать долгосрочные последствия внедрения ИИ — например, как он меняет работу врача, доступ к лечению и распределение медицинских ресурсов. В-третьих, пациенты почти не участвуют в создании правил, хотя именно на них эти правила будут влиять.
Ведущий автор Томас Плуг (Thomas Ploug) подчеркивает, что пациенты по-разному оценивают точность, риск предвзятости и роль ИИ в собственном лечении. Поэтому, по его словам, регулирование должно учитывать не только безопасность на уровне системы, но и индивидуальные права и участие пациента.
Какие права предлагают закрепить
Авторы предлагают отдельно прописать права пациентов в ситуациях, когда диагноз или план лечения формируются с участием ИИ. Среди таких прав они называют право запросить объяснение вывода алгоритма, дать согласие на использование ИИ или отозвать его, получить второе мнение и отказаться от диагностики или скрининга, если они основаны на общедоступных данных, использованных без согласия пациента.
Для пациента это означает простую вещь: ИИ не должен превращаться в «черный ящик», решение которого невозможно обсудить. Человек должен понимать, как технология повлияла на медицинское заключение, и иметь возможность попросить врача пересмотреть результат.
Доверие важнее скорости
Авторы предупреждают: если врачи, регуляторы и пациентские организации не включатся в обсуждение сейчас, права пациентов могут не успеть за быстрым развитием медицинского ИИ. Томас Плуг (Thomas Ploug) отмечает, что ИИ уже меняет здравоохранение, но не должен делать это ценой автономии пациента и доверия к медицине.
Статья опубликована в Journal of the Royal Society of Medicine. Ее авторы — Томас Плуг (Thomas Ploug), Рикке Франк Йоргенсен (Rikke Frank Jørgensen), Ханне Мари Мотцфельдт (Hanne Marie Motzfeldt), Наоми Плуг(Naomi Ploug) и Сёрен Хольм (Søren Holm).
Похожий вопрос — как правильно распределять ответственность между человеком и алгоритмом — подробно разбирается в материале «Как люди и машины учатся понимать друг друга: гибридное выравнивание».
Литература
Ploug T., Jørgensen R. F., Motzfeldt H. M., Ploug N., Holm S. The need for patient rights in AI-driven healthcare – risk-based regulation is not enough // Journal of the Royal Society of Medicine. 2025. Vol. 118, № 8. P. 248–252. DOI: 10.1177/01410768251344707.