dumaiОдин текст оценили как 15% или 85% человеческого вклада
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы проверили способ оценивать вклад человека по тому, насколько его запрос предсказывает готовый текст. Добавление в запрос нескольких случайных идентификаторов — коротких наборов символов — заметно повышало оценку, хотя смысл текста не менялся; эффект повторился на новостных и научных текстах.
Зачем это знать?
Оценка человеческого вклада по одному сохранённому запросу может зависеть от случайных строк, а не от идей автора. Вычислительные тесты показывают, что для надёжного вывода нужно знать, что именно человек добавил и как создавался текст.
Разбор
Авторы взяли идею оценки «человечности» текста через предсказуемость: если запрос хорошо объясняет готовый материал, ему приписывают больший вклад человека. Затем они добавили в запрос несколько бессмысленных идентификаторов — коротких случайных строк — и попросили модель просто переписать их. Содержание статьи от этого не становилось более человеческим, но оценка резко менялась. Так авторы отделили влияние смысла от влияния формы запроса.
Чтобы проверить, не связано ли это с разными текстами, исследователи оставляли документ неизменным, а проверяющему то показывали, то скрывали идентификаторы. Результат менялся только из-за того, какая версия запроса попадала в оценку. Научные аннотации дали тот же эффект, что и новости, а проверка на разных языковых моделях показала, что проблема не сводится к одной конкретной системе.
Авторы объясняют результат устройством самой метрики. Она начисляет больше «кредита» редким фрагментам, которые модель легко угадывает из контекста. Поэтому случайная строка может получить больше веса, чем настоящая идея статьи: в расчёте учитывается предсказуемость, но не смысл и не авторство. Отсюда следует более общий предел: по одной записи запроса и ответа нельзя надёжно установить, какую часть работы сделал человек, особенно если неизвестно, кто написал сам запрос.
Ключевые цифры
Можно ли доверять
Это препринт на arXiv, а не статья, прошедшая рецензирование, поэтому выводы ещё могут уточнить. При этом авторы проверили эффект на 200 научных аннотациях, новостных текстах и языковых моделях разного размера; важно, однако, что речь идёт о вычислительном тесте метрики, а не о проверке реального авторства людьми.
- Работа является препринтом и ещё не прошла рецензирование.
- Выводы основаны на вычислительных экспериментах с ограниченным набором текстов, промптов и моделей; их переносимость на другие системы оценки не установлена.
- Исследование показывает уязвимость конкретных likelihood-based-оценок, но не доказывает, что любой возможный метод измерения авторского вклада невозможен.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено