ИИ хуже восстанавливает скрытые объекты по физическим следам
Препринт, ещё не рецензирован · ранние данные
Кратко
На 378 изображениях пять моделей правильно восстанавливали полностью скрытые объекты в 42,7% случаев, когда нужно было распознать их по физическим признакам, например по тени или отражению, и в 62,7% — когда помогал общий контекст. Люди такого разрыва не показывали; предварительная попытка дорисовать объект и затем сравнить его с видимой сценой помогла двум моделям, умеющим создавать изображения.
Зачем это знать?
Для разработчиков ИИ такие тесты показывают, на каком шаге системы теряют смысл физического следа в сцене. Пока это вывод по пяти моделям и вручную отобранным изображениям, поэтому применение этих выводов к другим системам и ситуациям ограничено.
Разбор
Авторы сделали OccludeBench — набор из 378 вручную отобранных изображений, где ответ заранее известен: объект полностью закрыт, но о нём остаются следы вроде тени или отражения. Это позволяет проверить не просто догадку по картинке, а конкретную цепочку рассуждения: заметила ли модель след, поняла ли его отдельно, связала ли с источником и нашла ли нужный объект внутри всей сцены. Такой контроль важен, потому что обычные тесты могут засчитывать ответ, угаданный по знакомому контексту, даже если модель не использовала решающую физическую подсказку.
Ключевые цифры
Можно ли доверять
Это препринт arXiv, поэтому его выводы ещё не прошли независимую проверку рецензентами. Сильная сторона работы — контролируемый тест с известными ответами и сравнением с людьми, но моделей было всего пять, а изображения отбирали вручную; кроме того, результаты не показывают напрямую, как системы поведут себя на обычных фотографиях или в реальных задачах.
- Это препринт, результаты ещё не прошли полноценную независимую проверку.
- Выводы основаны на 378 вручную отобранных изображениях и пяти VLM, поэтому их обобщение на другие модели и сцены ограничено.
- Улучшение от подхода «сначала дорисовать, затем проверить» показано только для моделей, умеющих генерировать изображения.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено