Ученые утверждают, что FDA надзор за инструментами искусственного интеллекта здравоохранения

Группа исследователей во главе с научным сотрудником Лео Сели (Leo Celi) из Массачусетского технологического института (Massachusetts Institute of Technology) опубликовала в журнале «PLOS Digital Health» аналитический отчет, призывающий к пересмотру системы регулирования медицинских ИИ-технологий. Основная проблема — традиционные подходы FDA не учитывают способность ИИ постоянно обучаться и меняться после одобрения.

Ключевые риски ИИ в медицине

Авторы выделяют три основные проблемы:

1. Непрерывное обучение — алгоритмы могут изменять свое поведение непредсказуемым образом

2. Смещение данных — системы, обученные на узких выборках, дают ошибки для уязвимых групп населения

3. Недостаток прозрачности — отсутствие требований к раскрытию информации о тренировочных данных

Лео Сели (Leo Celi) поясняет:
«Сегодняшняя система регуляции создана для статичных медицинских устройств. ИИ требует принципиально иного подхода».

Предлагаемые решения

Ученые рекомендуют FDA:

1. Усилить требования к прозрачности

• Обязательное раскрытие данных обучения алгоритмов

• Создание публичных реестров для мониторинга реальной работы ИИ

2. Внедрить этические стандарты

• Налоговые льготы для компаний, следующих этическим принципам

• Включение пациентов и общественных организаций в процесс принятия решений

3. Модернизировать образование

• Специальные программы для медиков по оценке ИИ-инструментов

• Обучение выявлению алгоритмических ошибок

Перспективы регулирования

Авторы предлагают создать:

• Гибкую систему контроля, адаптирующуюся к развитию технологий

• Непрерывный мониторинг эффективности и безопасности

• Оценку рисков для разных групп пациентов

Как отмечают исследователи:
«Наш подход позволит сохранить инновационный потенциал ИИ, не жертвуя безопасностью пациентов и не усугубляя неравенство в здравоохранении».

Заключение

Этот отчет может стать основой для новой парадигмы регулирования медицинского ИИ. В ближайшие годы FDA предстоит найти баланс между:

• Стимулированием инноваций

• Гарантиями безопасности

• Предотвращением дискриминации в диагностике и лечении

Работа выполнена при поддержке Национальных институтов здоровья США (National Institutes of Health) и Фонда Роберта Вуда Джонсона (Robert Wood Johnson Foundation).