HybridAgent работал в 1,8–2,6 раза быстрее сопоставимых агентов на тестах

Авторы попытались соединить два режима работы агента. В одном он пишет текст, вызывает поиск или другой инструмент и оставляет понятный след своих действий. В другом он рассуждает внутри модели — без превращения каждого промежуточного шага в текст. Раньше эти режимы плохо уживались: скрытое рассуждение экономит вычисления, но само по себе не умеет обращаться к инструментам и его трудно проверять. Для связи режимов авторы добавили HybridLink — специальный переходник между текстом и внутренними состояниями модели. Ещё один компонент, непрерывная рабочая память, хранит общий контекст при переходах и нескольких шагах работы, чтобы агент не терял информацию.

Одной архитектуры оказалось недостаточно, поэтому авторы отдельно обучали модель. На этапе HybridSFT её учили согласовывать обычную генерацию с HybridLink, а затем HybridRL — выбирать, когда продолжать внутреннее рассуждение, а когда выходить в текст и действовать. Это важно не только для скорости: поставщик системы может видеть скрытые рассуждения, тогда как пользователю показываются необходимые действия, решения и итог. В отличие от подходов, где скрытые следы могут передаваться клиенту в зашифрованном виде, здесь внутренний ход мысли остаётся внутри модели и интерфейса провайдера.

Проверка охватила задачи из математики, естественных наук, медицины, поиска и агентного рассуждения, а также три размера моделей. На всех этих наборах HybridAgent оказался сильнее сравниваемых систем, но абстракт не показывает, как он поведёт себя на открытых пользовательских задачах, при других моделях или в других настройках. Авторы также предлагают в будущем строить «каркас» агента, где внутренняя память станет отдельной частью рабочего процесса: рутинные вычисления можно будет оставлять внутри, а вызовы инструментов и контрольные точки — выносить в текст.