Умение угадывать слова по-таджикски не помогло ИИ понять прочитанное
Препринт, ещё не рецензирован · ранние данные
Кратко
Небольшие дополнения к модели Qwen3 обучали на таджикских книгах и новостях. В тесте понимания текста две версии модели не улучшились, а одна потеряла 3,7 пункта. Более длительное обучение и последующая донастройка самой большой версии дали прирост на 11,4 пункта в тесте на таджикском и снижение на 1,2 пункта в тесте на английском.
Зачем это знать?
Успехи ИИ в предсказании таджикского текста сами по себе не говорят, насколько хорошо он понимает прочитанное. Вывод о понимании основан главным образом на одном тесте из 488 вопросов.
Разбор
Авторы сравнили обученные версии с исходными моделями на заданиях по таджикскому и английскому языкам. В таджикском тесте нужно было выбрать один ответ из четырёх к прочитанному тексту. Самую большую модель дополнительно обучили на тексте объёмом около 375 миллионов небольших фрагментов; после этого её результат вырос на 9,9 пункта.
Самая маленькая модель показала неоднозначный результат. После небольшого дополнения её оценка выросла на 4,2 пункта, но осталась близкой к случайному угадыванию, а сама модель стала чаще выбирать другую букву ответа. Авторы поэтому не считают этот рост признаком понимания.
Более длительное обучение не помогло маленькой модели уверенно отвечать на таджикские вопросы. При этом её результат в английском тесте снизился на 7,6 пункта по сравнению с исходной моделью.
Ключевые цифры
Можно ли доверять
Авторы проверили 15 обученных и 5 исходных моделей; вывод о понимании таджикского текста основан главным образом на одном тесте из 488 вопросов. Часть записей об обучении была утрачена, а данные для некоторых поздних версий не записали. Поэтому результаты показывают, как модели справились с этим тестом, но не обязательно с другими заданиями на понимание.
- Это препринт, а не прошедшая рецензирование статья.
- Выводы основаны главным образом на одном тесте понимания таджикского языка и наборе из 488 вопросов.
- Улучшение получено после более сложного рецепта с продолжительным предобучением и supervised fine-tuning, поэтому его нельзя приписать одному компоненту.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено