dumaiПрепринт — материал ещё не прошёл рецензирование
MedRSI: медицинский ИИ учится на ошибках и создаёт инструменты
Кратко
Система разбирала диагностические ошибки, придумывала новые способы работы и добавляла их в постоянный набор только после отдельной проверки. В тестах на болезнях глаз и сердца, а также на двух закрытых клинических задачах, она обошла системы, заранее спроектированные людьми, и нашла решения, которых не закладывали разработчики. Результаты получены на тестовых наборах, а не в реальной медицинской практике.
Зачем это знать
Если независимые проверки подтвердят этот результат, такой подход указывает, что медицинские ИИ в будущем смогут постепенно расширять свои возможности после запуска, а не ограничиваться набором, заданным разработчиками заранее.
Разбор
MedRSI устроена не как один фиксированный медицинский алгоритм, а как конвейер улучшений. После неудачной диагностики система оценивает, какую ошибку важнее исправить: редкая, но опасная ошибка может получить приоритет перед частой мелкой неточностью. Затем она пытается создать подходящий инструмент — например, для выделения области на снимке, измерения показателя или объединения нескольких признаков — и обучает его под конкретную задачу.
Новая возможность не попадает в рабочую систему сразу. Её оформляют как проверяемый пакет: в нём есть код, при необходимости веса модели, описание входов и выходов, зависимости, история разработки и версия. Сначала отдельно проверяют, запускается ли инструмент, правильно ли он выдаёт результат и что происходит при пропущенных данных или недоступных измерениях. После этого инструмент испытывают на следующих группах пациентов, пока не станет понятно, даёт ли он устойчивую пользу. Если нет — основной набор возможностей не меняют.
Такой порядок решает главную проблему самообучения в медицине: система может быстро придумывать идеи, но медицинская ошибка слишком дорога, чтобы без проверки менять рабочий алгоритм. Авторы также наблюдали, что возможности складываются в цепочку: выделение нужной области помогает провести измерение, измерение — сделать прогноз, а прогноз — объединить несколько показателей для диагноза. Важно и то, что при запуске без специально подготовленного экспертами набора инструментов система сама восстановила эти классы возможностей в порядке, соответствующем зависимости одной задачи от другой.
Ключевые цифры
Можно ли доверять
Это препринт на arXiv, а не статья, прошедшая рецензирование. Систему проверили на тестовых наборах, включая две закрытые клинические задачи, но не на реальной работе с пациентами; поэтому пока неизвестно, сохранится ли преимущество в клинике и при других данных.
Пересказано ИИ по научной статье. Как это устроено