Оценки ИИ помогли обучить другой ИИ дешевле, чем оценки людей
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы сравнили, как оценки людей и ИИ помогают дополнительно обучать модели давать полезные ответы и сокращать тексты. Оценки ИИ давали высокие результаты при затратах $200–400. Для сравнимого результата по полезности ответов на оценки людей требовалось примерно в 100 раз больше денег, а при сокращении текстов они не догнали ИИ ни при одном проверенном бюджете.
Зачем это знать?
При ограниченном бюджете оценки ИИ могут дать языковой модели больше пользы, чем оценки людей. Преимущество обнаружили на проверенных авторами моделях и задачах.
Разбор
Исследователи сравнили обучение при одинаковых денежных затратах. Для этого они взяли оценки людей и оценки, созданные ИИ, и проверили, как те и другие помогают нескольким языковым моделям отвечать на вопросы и сокращать тексты.
Оценки людей тоже заметно различались по качеству. Один широко используемый источник таких оценок существенно уступил другому, даже когда авторы ограничили данные одной областью и убрали повторы.
Ключевые цифры
Можно ли доверять
Авторы проверили несколько семейств языковых моделей на двух задачах, сравнивая обучение с оценками людей и ИИ при одинаковых бюджетах. Результаты не обязательно распространяются на другие модели и задачи; кроме того, качество самих человеческих оценок заметно зависело от их источника.
- Это препринт, а не прошедшая рецензирование статья.
- Вывод основан на проверенных авторами семействах моделей, задачах полезности и суммаризации и ограниченном диапазоне бюджетов.
- Результат может измениться при использовании более сильных генераторов и оценщиков или моделей большего масштаба.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено