Мягкие промпты лучше отделяют знание модели от формата ответа

Авторы не стали менять саму модель или дообучать её «по-взрослому». Вместо этого они подстраивали только маленький набор мягких промптов — это не текстовый запрос, а несколько обучаемых векторов, которые помогают модели отвечать в нужном формате. Идея была в том, чтобы отделить два разных навыка: знает ли модель правильный ответ и умеет ли она оформить его так, как требует бенчмарк.

Это важно, потому что обычные проверки часто смешивают эти вещи. Базовая модель может знать ответ, но проигрывает просто потому, что не умеет подогнать его под строгий шаблон. Тогда сравнение моделей получается нечестным: выигрывает не более умная модель, а та, что лучше натренирована на формат. Мягкая настройка промптов должна была убрать именно этот перекос и показать, кто что действительно знает.

Что вышло на практике: мягкие промпты быстро доводили следование формату до потолка и делали это заметно эффективнее, чем zero-shot и few-shot запросы. Ещё один важный результат — на их основе ранжирование базовых моделей лучше совпадало с тем, как потом выглядят посттренированные модели. То есть такой подход может служить дешёвым «прокси» для понимания, какие предобученные модели в будущем окажутся сильнее после дополнительной настройки.

Ещё любопытно, что пользу от мягких промптов получили не только базовые, но и уже дообученные модели: им тоже удавалось точнее соблюдать формат. Так что это не просто трюк для одной узкой задачи, а более общий способ честнее сравнивать модели между собой, не устраивая полноценный и дорогой посттренинг для каждой из них.