dumaiПрепринт — материал ещё не прошёл рецензирование
Дроны под управлением ИИ долетают до цели, но не завершают задачу
Кратко
Авторы проверили модели, которые видят изображения и сами управляют дроном, в четырёх задачах: подлёт к цели, слежение, поиск вне поля зрения и командование несколькими дронами. Модели часто справлялись с полётом, но объявляли о прибытии слишком рано, не объявляли его вовсе или отправляли разным дронам одну и ту же координату.
Зачем это знать
В этих испытаниях видно, что для управления дроном недостаточно увидеть цель и подлететь к ней — нужно ещё правильно завершить действие. Пока это вывод тестов на специально созданном наборе задач, и неясно, насколько он переносится на реальные полёты.
Разбор
Авторы не стали заранее подсказывать модели каждый шаг через жёсткий набор команд. Вместо этого они описали всё пространство действий прямо в запросе: модель сама должна решить, когда повернуть дрон, начать поиск, признать неуверенность и объявить о завершении. Для этого создали DroneCATS-Agent — оболочку, в которую можно подставлять разные модели, — и отдельный набор испытаний DroneCATS, чтобы сравнивать именно способности моделей, а не одну конкретную реализацию дрона.
Такой подход важен потому, что предыдущие системы часто сужали выбор модели: оставляли ей только небольшую часть решений или заранее задавали формат команд. Авторы, наоборот, проверили, что произойдёт, если доверить ей полный цикл действий без дообучения и специальных схем вызова функций. Оказалось, что слабое место находится не там, где его легко заметить: модели в целом понимают пространственную сцену и могут подлететь в нужное место, но хуже соблюдают протокол — не поддерживают план, преждевременно объявляют успех или не выдают финальную команду.
Особенно показательно сравнение моделей разного размера. Небольшие открытые модели иногда надёжнее передовых справляются с самим перемещением, но чаще теряют результат на последнем шаге. При управлении несколькими дронами ошибка становится заметнее: модель может бездумно повторить одну координату для разных изображений, хотя каждому аппарату нужна своя. Это показывает, что для работы на борту нужен не просто хороший «зритель», а быстрый агент, который долго удерживает план и точно понимает, когда задача действительно закончена.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, поэтому его выводы ещё не прошли независимую проверку рецензентами. Модели сравнивали в специально созданном бенчмарке, а не в описанных реальных полётах с физическими дронами, поэтому перенос результатов на практическую эксплуатацию пока не подтверждён.
Пересказано ИИ по научной статье. Как это устроено