ИИ научили не браться за невозможные правки картинок

Препринт, ещё не рецензирован · ранние данные

Кратко

Авторы проверили 8 моделей на 1 050 парах выполнимых и невыполнимых запросов. Обученная модель VisTA-BAGEL отказалась от 93,0% невыполнимых правок, ошибочно отказавшись лишь в 0,8% выполнимых, и выполнила 74,3% возможных правок — лучше остальных проверенных моделей.

Зачем это знать?

Генераторы изображений могут реже молча менять невыполнимую задачу на похожую выполнимую; проверка на специально составленном наборе запросов пока не показывает, как это работает в обычных сценариях.

Разбор

Авторы разделили две способности, которые обычно смешивают: умение исправлять изображение и умение понять, что исправление невозможно. Для этого они составили пары почти одинаковых запросов: один можно выполнить по правилам задачи, а второй — нельзя. Так они проверили не только качество результата, но и то, замечает ли модель противоречие до начала генерации.

Ключевые цифры

68,4%Даже лучшая из исходных моделей правильно выполняла примерно две трети возможных правок, но это само по себе не означало, что она умеет распознавать невозможные запросы.

0,4%Без специального обучения сильнейшая исходная модель почти никогда не отказывалась от невыполнимой правки.

5,2%Простая просьба в инструкции «сообщай, если задача невыполнима» почти не помогла: модель всё равно отказывалась лишь примерно в одном случае из двадцати.

38 224Контрольную версию обучили на таком числе выполнимых примеров, чтобы проверить: эффект даёт именно обучение различать выполнимые и невыполнимые запросы, а не просто дополнительные тренировки.

Можно ли доверять

Это препринт arXiv, поэтому работу ещё не проверили независимые рецензенты. Кроме того, выводы получены на специально составленном тесте из пар запросов, а не в обычном пользовательском потоке; восемь моделей дают полезное сравнение, но не гарантируют одинаковый результат для всех генераторов изображений.

Это препринт, поэтому результаты ещё не прошли независимую проверку.
Выводы основаны на специально созданном бенчмарке из 1 050 пар запросов и оценке 8 мультимодальных моделей; они не показывают надёжность метода во всех реальных сценариях.
Результаты зависят от конкретной модели BAGEL и процедуры обучения, поэтому их переносимость на другие модели не установлена.

Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено

Источник и детали

ЖурналarXiv (cs.AI)

Дата публикации у нас7 октября 2026 г.

Дата источника6 октября 2026 г.

ОригиналОткрыть

АвторыChufan Shi, Cheng Yang, Tiannuo Yang, Isadora White, Yiwei Chen, Taylor Berg-Kirkpatrick, Xuezhe Ma