dumaiПри обучении на человеческих текстах ИИ-тексты сначала помогают, потом мешают
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы обучили 800 систем, работающих с текстом, добавляя к человеческим данным разные объёмы текстов от ИИ. При нехватке человеческих данных такие тексты сначала улучшали результат на человеческом тексте, но после насыщения эффект быстро становился отрицательным; при большом объёме человеческих данных вред появлялся почти сразу.
Зачем это знать?
Ценность текстов от ИИ зависит от того, на каких текстах потом проверяют модель: для человеческого текста эффект после насыщения становится вредным, а для оценки на ИИ-тексте такие данные могут оставаться полезными. Результат касается качества на проверочных текстах, а не того, насколько хорошо готовое приложение отвечает людям.
Разбор
Авторы изучали не специально сгенерированный набор, а тексты, которые уже попадают в интернет и выглядят как обычные материалы для читателей. Сначала они отфильтровали веб-данные по качеству, затем использовали метку детектора Pangram, чтобы отделить тексты с признаками генерации ИИ. После этого обучили 800 языковых моделей с разными долями человеческих и таких «диких» ИИ-текстов и проверили их не только на материале от людей, но и на материале от ИИ.
Главная техническая находка — привычная формула масштабирования, которая связывает качество модели с размером модели и объёмом данных, не смогла предсказать переломный момент. Поэтому авторы добавили в новую формулу два отдельных эффекта: пользу от дополнительного текста и вред, который начинает расти после насыщения. Модель, обученная на небольших объёмах человеческих данных, может сначала выиграть от ИИ-текстов, но дополнительная порция свежих человеческих данных в этой ситуации остаётся полезной дольше.
Исследователи также показывают, почему одна общая оценка качества может вводить в заблуждение: ИИ-тексты способны помогать системе лучше работать на похожих ИИ-текстах, даже когда результат на человеческом тексте ухудшается. Новая формула, настроенная на небольших моделях, предсказала влияние ИИ-текстов на модели до 3,6 раза крупнее с меньшей ошибкой, чем лучший прежний подход. Авторы открыли набор WildAI, чтобы другие могли повторить проверку и отдельно учитывать источник, тему и формат данных.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, а не статья, прошедшая независимую рецензию. Сильная сторона работы — большой эксперимент на 800 моделях и открытые данные с кодом, но проверяли поведение моделей на отложенных текстах, а не качество готовых приложений в реальном общении; кроме того, долю ИИ-текстов определял конкретный детектор, который может ошибаться.
- Это препринт, поэтому результаты ещё не прошли независимую экспертную проверку.
- Выводы получены на серии из 800 языковых моделей и зависят от выбранных наборов данных, фильтрации FineWeb и маркировки AI-текста.
- Польза или вред оценивались по ошибке на отложенном тексте, а не напрямую по качеству готовых приложений или ответов для пользователей.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено