dumaiОдна ИИ-модель передала другой навык программирования по одному слову на запрос
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы проверили способ передавать способности от одной языковой модели другой через пары «запрос—одно слово», без примеров целевой задачи, числовых оценок учителя или параметров первой модели. В основном опыте на Qwen2.5-1.5B такой перенос повысил результат на тесте программирования HumanEval+ на 5,34 процентного пункта по сравнению с контрольным вариантом.
Зачем это знать?
Результат указывает на возможность передавать моделям отдельные способности без доступа ко всему процессу обучения другой модели. Пока это ранний результат, главным образом проверенный на программировании, поэтому перенос на другие задачи остаётся открытым вопросом.
Разбор
Авторы искали не готовые ответы на задачи, а едва заметный след дообучения учителя. Для этого они брали пары слов, между которыми исходная общая модель почти не видела разницы, и смотрели, какое из двух слов выбирает уже дообученная модель. Ученик учился только на таких парах «запрос—одно слово»: ему не показывали решения задач, внутренние оценки вероятностей учителя и параметры самой модели. Это позволяет отделить информацию о новом навыке от обычного содержания ответов.
Такой подход проверяет идею, которая раньше в основном применялась к более простым свойствам вроде предпочтений или черт поведения и требовала много текста от учителя. Здесь авторы пытались передать именно полезные способности. В основном опыте набор из 5 664 пар дал ученику прирост на программном тесте; дополнительные эксперименты показали похожий перенос знаний о науке, здравого смысла и понимания прочитанного. Авторы также обнаружили, что перенесённый навык можно сочетать с другими навыками, а сила эффекта растёт вместе с масштабом изменений, которые внесло дообучение учителя.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, поэтому работу ещё не проверили независимые рецензенты. Результаты выглядят шире одного теста, поскольку авторы упоминают несколько областей и разные поколения, размеры и семейства моделей, но в абстракте нет подробностей о масштабах этих дополнительных проверок.
- Это препринт, поэтому результат ещё не прошёл полноценную независимую проверку.
- Основной результат показан на моделях и тесте программирования; перенос на другие задачи заявлен, но детали в аннотации ограничены.
- Аннотация частично повреждена, поэтому неясны некоторые параметры экспериментов и точная статистическая надёжность эффекта.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено