Ошибки искусственного интеллекта могут помочь лучше понять, как любые предсказательные системы — человеческий мозг или программа — достраивают смысл, когда данных не хватает.
В статье-перспективе, опубликованной в журнале NPP—Digital Psychiatry and Neuroscience, авторы сравнили ошибки больших языковых моделей и систем распознавания речи с конфабуляциями и галлюцинациями в психиатрии.
Когда ChatGPT «уверенно ошибается»
Большие языковые модели — программы, которые строят текст по вероятностям, — иногда дают правдоподобные, но неверные ответы. Такие ошибки часто называют «галлюцинациями», но авторы считают этот термин неточным.
Для ChatGPT ближе понятие конфабуляции. В медицине конфабуляция — это ложное воспоминание, которое человек не выдумывает намеренно, а как бы «заполняет пробел» в памяти.
У искусственного интеллекта нет человеческой памяти, сознания или намерений. Но внешне поведение похоже: когда вопрос расплывчатый или данных недостаточно, система может выдать связный и уверенный ответ, оторванный от реальности.
Почему Whisper может «слышать» лишнее
Иначе устроены ошибки автоматического распознавания речи — программ, которые переводят звук в текст. Например, Whisper иногда добавляет слова, которых не было в записи, особенно если сигнал плохой или шумный.
Здесь сходство с человеческими слуховыми галлюцинациями тоже ограничено. Человек действительно переживает ложное восприятие звука. Программа ничего не «слышит» в человеческом смысле — она вычисляет наиболее вероятное соответствие между звуком и текстом.
Что это говорит о мозге и машинах
Главная мысль статьи не в том, что искусственному интеллекту «нужен психиатр». Скорее, ошибки ИИ показывают общую проблему систем, построенных на предсказании: когда информации мало, они стремятся создать связное объяснение.
Авторы подчеркивают: аналогии с психиатрией полезны, только если помнить об их границах. Человеческие симптомы связаны с сознанием, эмоциями, памятью и работой мозга. Ошибки программ возникают из статистических закономерностей и ограничений обучения.
Похожая тема — почему люди иногда выбирают простые, но неверные объяснения — обсуждалась в материале о том, как мышление стремится к простоте даже ценой точности.
Как уменьшить риск ошибок
Авторы предлагают использовать проверки достоверности: оценку неопределенности, повторную самопроверку ответа, поиск по надежным источникам, сравнение нескольких моделей и более строгую настройку запросов.
Но полностью полагаться на такие системы нельзя. В медицине, науке и образовании человеческий контроль остается обязательным.
Литература
de Boer J. N., Ciampelli S., Hailemariam A. K., Koops S., Sommer I. E. C. Does ChatGPT need a psychiatrist? Similarities between human psychopathology and errors in large language models // NPP—Digital Psychiatry and Neuroscience. — 2026. — Vol. 4, № 1. — Article 12. DOI: 10.1038/s44277-026-00064-1.