dumaiИИ-агенты помогли обучить робота выполнять сложные задачи — одну он выполнил в реальности
Препринт, ещё не рецензирован · ранние данные
Кратко
ИИ-агенты, которые пишут программы, решали в виртуальной среде многоэтапные задачи: например, работали с предметами, которые меняют форму, и выполняли непрерывные действия до получаса. Созданные ими примеры улучшили обучение системы управления роботом, а один робот завершил такую длительную задачу в реальном мире; при этом решения часто подходили только для конкретных задач и требовали многих попыток.
Зачем это знать?
Такой подход позволяет использовать решения ИИ-агентов как материал для обучения роботов. Но основная проверка прошла в виртуальной среде, а опыт на настоящем роботе ограничился одной задачей, поэтому о широком применении говорить рано.
Разбор
Авторы проверяли не готовые навыки робота, а способность ИИ-агентов самостоятельно писать код для управления им. Для этого они создали специальный тестовый набор EMBODIEDSWE-BENCH: в нём роботу нужно контактировать с предметами, работать с мягкими и меняющими форму объектами и долго поддерживать последовательность действий. Чтобы агентам было проще справляться с такими задачами, исследователи добавили вспомогательные инструменты для написания и проверки программ.
Проблема в том, что найденное агентом решение обычно хорошо работает только для одного конкретного сценария. Авторы превратили каждое проверенное решение в множество разных траекторий — последовательностей движений и действий робота. Эти примеры использовали для обучения VLA-модели, то есть системы, которая связывает зрение, язык и действия робота. Чем больше таких демонстраций она получала, тем лучше работала, а специально разнообразные варианты помогали ей справляться с изменениями задач, которых не было в обучающем наборе.
Отдельно проверили перенос решений между разными задачами и типами роботов. Самый показательный результат — модель обучили только на искусственно созданных примерах из симуляции, после чего она справилась с длительной задачей на настоящем роботе. Это не означает, что агент сразу создаёт универсальную программу: ему нужно много раз взаимодействовать со средой, а его исходные решения остаются узко специализированными. Новизна подхода именно в том, что такие узкие решения используют не как готовый навык, а как основу для большого обучающего набора.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, поэтому работу ещё не проверили независимые рецензенты. Основная оценка прошла в симуляции, а испытание на настоящем роботе было ограниченным; кроме того, исходные решения агентов часто подходят лишь для отдельных сценариев.
- Работа является препринтом и основная оценка проведена в симуляции.
- Сгенерированные решения обычно плохо обобщались за пределы отдельных экземпляров задач; улучшение обобщения показано лишь для проверенных вариаций.
- Демонстрация на реальном роботе ограничена выполнением одной длительной задачи.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено