dumaiРекомендательная система Taobao снизила вычисления и улучшила онлайн-метрики
Препринт, ещё не рецензирован · ранние данные
Кратко
RecGPT-V3 — это система, которая подбирает товары с учётом истории действий пользователя и контекста. В Taobao она снизила вычисления для моделирования пользователя на 55,8% и общие затраты на обслуживание на 52,4%, а в онлайн-тестах дала небольшой рост кликов, покупок и оборота.
Зачем это знать?
Для таких систем это показывает, что можно уменьшать нагрузку на серверы и при этом не терять качество рекомендаций. Но результат пока проверили только в одной коммерческой системе, поэтому переносимость на другие площадки неясна.
Разбор
Авторы взяли уже работающую рекомендательную систему и попытались убрать сразу три узких места. Во-первых, раньше система каждый раз заново перечитывала всю историю пользователя, хотя многое из неё уже можно было сохранить. Для этого они добавили Memory Hub — по сути, «память», которая сжимает длинную цепочку действий в более короткие и обновляемые записи. Во-вторых, вместо одного только текста они связали язык и Semantic IDs, то есть специальные коды, которые напрямую указывают на конкретные товары. Это помогает не терять смысл на пути от понимания желания пользователя к выбору конкретной вещи. В-третьих, они отказались от длинных рассуждений в явном виде и заменили их компактными скрытыми токенами — внутренними маркерами, которые модель умеет переводить обратно в понятное объяснение.
Такой подход понадобился потому, что старый способ хорошо работал в небольшом масштабе, но на большой нагрузке стал дорогим: много вычислений уходило на повторный разбор истории, а длинные объяснения тормозили ответы и съедали ресурсы. RecGPT-V3 делает ставку не на один трюк, а на связку из трёх: память для пользователя, гибридное понимание текста и товарных кодов, а также более короткое внутреннее рассуждение.
По результатам на Taobao система не только экономит вычисления, но и сохраняет качество рекомендаций: онлайн-тесты показали рост кликов, покупок и оборота. Это важно именно как инженерный результат: улучшение не выглядит как обмен качества на экономию — тут авторам удалось получить оба эффекта сразу.
Ключевые цифры
Можно ли доверять
Это препринт на arXiv, так что работу ещё не проверяли независимые рецензенты. Проверяли её в крупной коммерческой системе Taobao, а не в лабораторной игрушке, поэтому результаты выглядят убедительно, но пока ясно не говорят, что такой же эффект будет в другой компании или на другом типе пользователей.
- Это preprint, а не рецензируемая статья.
- Результаты получены в онлайн-A/B тестах в одной коммерческой системе Taobao; переносимость на другие платформы неясна.
- Преимущества показаны для рекомендательной системы, а не для обычных пользователей напрямую.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено