Т-Банк — Вселенная AI-ассистентов на базе технологии Gen-T
Описание проекта
Т-Банк запустил первую в России экосистему персональных AI-ассистентов на базе собственной технологии Gen-T — семейства специализированных языковых моделей. В экосистему входят: Инвест-ассистент (аналитика инвестиций, обучение, рекомендации); Шопинг-ассистент (подбор товаров); Тревел-ассистент (планирование путешествий); Джуниор-ассистент (помощник для детей); Секретарь (управление звонками, антифрод). В отличие от универсальных моделей, каждый ассистент обучен на конкретной предметной области и предлагает персонализированные решения. Модели T-Lite (7B параметров) и T-Pro (32B параметров) открыты в декабре 2024 года для бесплатного использования российскими компаниями.
Задача
При масштабе бизнеса (более 46 млн клиентов, 90 тыс. сотрудников) Т-Банку требовались LLM-решения, которых не было на рынке. Существующие универсальные модели не удовлетворяли требованиям по качеству, скорости и стоимости эксплуатации.
Цели внедрения
-
Создать экосистему специализированных клиентских ассистентов для ключевых сфер жизни
-
Разработать и открыть собственные российские LLM, превосходящие зарубежные аналоги на русском языке
-
Снизить затраты на LLM на 80–90% по сравнению с обучением с нуля
Результаты
-
Финансы
-
Открытые модели T-Lite и T-Pro доступны бесплатно для российских компаний; экономия на проприетарных API Время
-
Ответы в режиме реального времени для всех ассистентов Качество и эффективность
-
T-Pro и T-Lite признаны лучшими в мире открытыми LLM на русском языке по бенчмаркам MERA, ruMMLU, Ru Arena Hard, MT Bench, AlpacaEval
-
T-Lite дообученная даёт качество сопоставимое с проприетарными моделями от 20B параметров, но в разы дешевле в эксплуатации
-
Доступ к Инвест-ассистенту через приложение Т-Банка Инвестиций Нагрузка и масштаб
-
Шесть специализированных ассистентов в приложениях Т-Банка и аффилированных сервисах
-
Более 46 млн клиентов потенциальная аудитория Надёжность
-
Технология Continual Pretraining адаптирует базовые модели Qwen-2.5 под русский язык
-
Открытые весa на Hugging Face под лицензией Apache 2.0 Импортозамещение и compliance
-
Собственные модели T-Lite и T-Pro заменяют проприетарные иностранные LLM
-
Библиотека Turbo Alignment открыта для совместного использования Качественный эффект: Первая в России экосистема специализированных клиентских AI-ассистентов с собственными LLM. Группа «Т-Технологии» открыла модели для всего рынка, снизив барьер входа для создания LLM-продуктов на русском языке.