dumaiОтдельный модуль чаще выбирал ответы и реже ошибался — но не везде
Препринт, ещё не рецензирован · ранние данные
Кратко
Для фактических вопросов отдельный модуль решал, показывать ли ответ языковой модели. На одном наборе вопросов доля показанных ответов выросла с 20,2% до 30,9%, а ошибки среди них сократились с 23,0% до 14,5%; на другом наборе подход проиграл стратегии всегда воздерживаться от ответа.
Зачем это знать?
Надёжный отказ от ответа остаётся нерешённой задачей: один и тот же подход дал заметный выигрыш на одном наборе вопросов и проиграл стратегии всегда молчать на другом.
Разбор
Авторы сравнили два пути. В первом тот же языковой генератор сначала придумывает ответ, а затем отдельный модуль решает, выпускать его пользователю или промолчать. Во втором меняют саму модель: она должна либо ответить, либо выдать «не знаю». Такой дизайн важен, потому что он разделяет две разные идеи: научить модель осторожности или оставить её ответы прежними, но лучше отбирать среди них надёжные.
Для эксперимента взяли Qwen3-14B и фактические вопросы из TriviaQA и NQ-Open. Данные для обучения, настройки уверенности и итоговой проверки разделили, а пороги уверенности не показывали во время обучения — так проверяли, не подогнался ли метод под один конкретный режим работы. Основной показатель учитывал сразу три вещи: правильные ответы поощрялись, ошибки наказывались, а отказ от ответа разрешался. Отдельно авторы проверили, не зависит ли вывод от автоматической проверки: часть ответов оценили люди.
На TriviaQA преимущество сохранилось и после такой выборочной человеческой проверки. При этом эксперименты с обучением самой модели через подкрепление не дали устойчивого улучшения: они одновременно меняли и содержание ответов, и решение об отказе, поэтому их нельзя напрямую свести к успеху отдельного селектора. На NQ-Open селектор улучшил показатель по сравнению с исходным фильтром уверенности, но всё равно не превзошёл стратегию «никогда не отвечать». Это показывает, что отбирать ответы стало лучше, а вот переносить такую осторожность между разными наборами вопросов пока не получается.
Ключевые цифры
Можно ли доверять
Это препринт на arXiv, а не статья, прошедшая рецензирование. Сильная сторона — сравнение на двух наборах вопросов, нескольких запусках и с частичной проверкой людьми; главное ограничение — выводы относятся к одной модели и фактическим вопросам, а на NQ-Open надёжная стратегия так и не превзошла полный отказ от ответов.
- Это препринт, результаты еще не прошли независимую рецензию.
- Преимущество зависело от набора данных: на NQ-Open метод проиграл всегдашнему отказу от ответа.
- Основные результаты основаны на автоматической проверке точного совпадения; лишь часть ответов дополнительно проверили люди.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено