Tiny Aya рассуждает на языке запроса более чем в 93% случаев

Авторы пошли не от идеи «добавить рассуждения на каждом языке», а от состава обучающих данных. На этапе дообучения модели они смешивали два типа примеров: готовые многоязычные тексты без пошаговых решений и английские примеры с такими решениями. Затем проверяли, помогает ли широкое покрытие языков переносить сам способ рассуждать на языки, которых модель отдельно этому не учила.

Это важно потому, что хорошие пошаговые примеры особенно легко получить для английского и для задач с однозначной проверкой, например математики. Но авторы хотели проверить перенос и на менее формальные случаи: открытые ответы, здравый смысл и вопросы, связанные с культурным контекстом. В тестах Tiny Aya L2-Thinker сохраняла сильные результаты по содержанию ответа, а не только начинала писать рассуждения на нужном языке.

Отдельный результат — перенос работал и на языки, оставленные вне целевого обучения. Авторы связывают это с тремя условиями: в данных должно быть много разных языков, многоязычные тексты не обязаны содержать разметку рассуждений, но английская база таких примеров должна быть достаточно сильной. Модель и набор многоязычных данных авторы открыли для дальнейших проверок.