Без нужной части текста небольшой ИИ выбирал ответ почти случайно
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы проверили небольшую модель Laya на искусственно созданных документах и вопросах с вариантами ответа. Без нужного отрывка она отвечала верно в 26,4% случаев против 27,0% при случайном выборе; просмотр текста небольшими частями улучшил её результат.
Зачем это знать?
Уверенность модели Laya не предупреждала, что нужный отрывок обрезан. Убедительный ответ поэтому не означает, что модель прочла текст, необходимый для решения.
Разбор
Авторы меняли положение нужного отрывка и текст вокруг него. Они проверили 177 примеров из пяти заданий и оценили 93 275 ответов модели при разных условиях.
Даже видимый отрывок модель использовала хуже, когда перед ним был другой текст: она дала 38,5% правильных ответов против 60%, когда нужный отрывок стоял первым.
Дополнительное обучение на длинных документах улучшило ответы по видимым отрывкам на 27,6 процентного пункта по сравнению с обучением на коротких текстах. С незнакомыми модели энциклопедическими вставками выигрыш составил 13,2 пункта, а с текстами из других заданий результат оказался на 2,0 пункта ниже. Когда нужный отрывок обрезали, дополнительное обучение на длинных документах не помогло.
Ключевые цифры
Можно ли доверять
Авторы проверили одну модель на 177 искусственных примерах из пяти заданий, меняя положение нужного отрывка и окружающий текст. Правильные ответы для проверки создала другая языковая модель, а обучающие и проверочные тексты были похожи по происхождению и типам вопросов. Поэтому результаты показывают особенности этой модели на таких документах, но не позволяют судить о работе с длинными текстами вообще.
- Это препринт.
- Документы синтетические, а метки созданы другой языковой моделью.
- Изучены один тип модели и один набор задач; результаты не обязательно переносятся на длинные документы и другие модели.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено