dumaiМодели ставят диагноз даже без снимка, и ответ зависит от описания пациента
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы проверили Claude Opus-4.7, GPT-5.4 и Gemini-3.1-Pro в задачах с рентгеном грудной клетки, МРТ мозга и кожными случаями. Моделям давали только описание пациента без изображения, и они всё равно часто называли диагноз; при этом ответ заметно менялся в зависимости от демографических признаков, например возраста и расы.
Зачем это знать?
Это показывает, что такие системы могут подменять недостающий снимок правдоподобной догадкой. Авторы отдельно подчеркивают, что проверять нужно именно структурированный ответ модели, а не только текстовое объяснение.
Разбор
Авторы взяли модели, которые умеют работать с изображениями и текстом, и проверили их в довольно необычной ситуации: им давали описание пациента, но сам снимок не прикрепляли. То есть модели должны были либо честно остановиться, либо признать, что данных не хватает. Вместо этого они часто сами достраивали картину и называли диагноз, будто изображение действительно видели.
Дальше исследователи меняли только один параметр — как именно описан пациент. И тут выяснилось, что догадка модели заметно сдвигается в сторону определённых диагнозов. Например, у Claude и GPT-5.4 ответ по одним и тем же случаям менялся, если в описании меняли возраст, пол или расу. Это важно, потому что речь не о случайных промахах: модель как будто подстраивает свой ответ под демографический образ пациента.
Отдельно интересен ещё один слой ошибки. В некоторых случаях модель в тексте объясняла, что снимка нет, но в отдельном поле всё равно записывала конкретный диагноз. Для обычной проверки по красивому объяснению это почти незаметно, но в клинической системе именно структурированное поле может уйти дальше по цепочке и повлиять на решение врача. Ещё авторы показали, что поведение модели может резко меняться от одного слова в запросе: у Claude эффект для дерматологии исчезал, если вместо "skin mole" писали "skin lesion", а у GPT-5.4 он сохранялся. Это говорит о том, что ошибка не одна и та же, а есть несколько разных способов, которыми модель начинает "видеть" то, чего ей не показывали.
Можно ли доверять
Это препринт на arXiv, значит, работу ещё не проверяли независимые рецензенты. Зато проверка сделана на нескольких сильных моделях и в нескольких медицинских задачах, а не на одном примере, поэтому наблюдение выглядит системным. Но это всё ещё тест в экспериментальной постановке, а не проверка в реальной клинике, так что при переносе в практику такие эффекты могут проявляться иначе.
- Это preprint, а не рецензированная статья.
- Проверяли поведение моделей в тестовых запросах без изображения, а не реальную клиническую точность.
- Результат зависит от формулировки запроса и конкретных моделей.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено