🧠 ИИ точно ставит диагнозы, но проваливает дифференциальную диагностику Два крупных исследования 2026 года показали: языковые модели обходят врачей по точности финального диагноза, но их клиническое мышление не выдерживает проверки. В Science описан эксперимент, где o1-preview определила заболевание верно в 82% случаев против 79% и 70% у двух терапевтов на 76 реальных историях. Однако параллельная работа в JAMA Network Open с 21 моделью и тысячами клинических виньеток выявила провал на старте рассуждения — при построении списка гипотез ошибки превышают 80% у всех участников, включая GPT-5 и Claude 4.5 Opus. Суммарная оценка по пятиэтапной метрике PrIME-LLM опустилась до 64–78%. За точным ответом часто стоит заученное воспроизведение, а не логика. В исследовании ревматоидного артрита модель права в 95% случаев, но врачи забраковали 68% её обоснований. Причина — заученные корреляции: нейросеть, натренированная на снимках кожи, начинает «видеть» меланому на родинках, обведённых маркером, просто потому, что в обучающей выборке хирург обводил подозрительные. Структурный анализ 750 рассуждений пяти моделей подтвердил провал: схемы связей у верных и ошибочных ответов практически идентичны (коэффициенты сходства 0,488 и 0,484), статистически неразличимы. • o1-preview: точность 82%, терапевты — 79% и 70% (Science, 2026). • PrIME-LLM: от 64% (Gemini 1.5 Flash) до 78% (Grok 4); дифференциальная диагностика — ошибки >80%. • Заученное воспроизведение: маркер на снимке родинки провоцировал ложный диагноз меланомы из-за корреляции в датасете. • 68% рассуждений признаны неверными при 95% правильных финальных ответах (исследование артрита). Пока индустрия меряет успех по финальному ответу, она не замечает, что имитация и мышление дают одинаковые цифры. Специализированные медицинские модели на закрытых данных, возможно, избегут утечек из интернета, но главный вопрос без ответа: как отличить настоящее рассуждение от воспроизведения заученного паттерна. Habr #медицинскийИИ #shortcutLearning #LLM #клиническоеМышление #PrIMELLM