НИУ ВШЭ и «Сбер»: гибридная архитектура CREATE для рекомендательных систем
Описание проекта
НИУ ВШЭ и Центр практического ИИ «Сбера» представили архитектуру CREATE для рекомендательных ИИ-систем, объединяющую трансформерный и графовый подходы. Обучение проходит в две стадии: сначала обучаются графовые компоненты, анализирующие связи между товарами, затем подключается трансформер, предсказывающий последовательность поведения пользователя. На открытых датасетах CREATE превзошла как последовательные и графовые модели по отдельности, так и другие гибридные подходы. Учёт атрибутов товаров, категорий и связей между ними дополнительно повысил разнообразие рекомендаций и снизил число пропущенных релевантных позиций. Препринт исследования опубликован на arXiv (arxiv.org/abs/2602.23471).
Вендор и технология: Совместная разработка НИУ ВШЭ и Центра практического ИИ «Сбера»; CREATE (Cross-Representation Aligned Transfer Encoders) — гибрид трансформера и графовых моделей, двухстадийное обучение.
Задача
Последовательные трансформерные модели хорошо ловят порядок действий пользователя, но игнорируют связи между товарами. Графовые модели, наоборот, видят структуру каталога, но не учитывают динамику поведения. Существующие гибридные подходы не давали устойчивого выигрыша ни по точности, ни по разнообразию рекомендаций.
Цели внедрения
-
Объединить трансформерный и графовый подходы в единой архитектуре
-
повысить точность предсказания следующего выбора пользователя
-
сократить число пропущенных релевантных товаров
-
увеличить разнообразие рекомендаций
-
учесть атрибуты, категории и связи товаров
-
превзойти последовательные, графовые и гибридные модели на открытых датасетах
Результаты
-
Результаты
-
Точность предсказания следующего выбора товара выше примерно на 12,5% по сравнению с сопоставимыми решениями
-
превосходство над последовательными, графовыми и гибридными моделями на открытых датасетах
-
снижено число пропущенных релевантных позиций
-
повышено разнообразие рекомендаций
-
препринт на arXiv (2602.23471) Нагрузка и масштаб
-
Испытания на открытых датасетах рекомендательных систем