VK Cloud: борьба с деградацией продакшен-инференса LLM
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
Найдено: 23 результата
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
VK (платформа Дзен) – Пайплайн собирает логи событий пользователей с привязкой к тестовым группам, фильтрует по словарю экспериментов, чтобы не считать лишнее,...
ПАО Сбербанк и участники Альянса в сфере ИИ – Бенчмарк переработан вокруг четырёх категорий навыков: Human-Centric, Culture-Specific, Agentic и Reasoning. Соста...
Слёрм (Slurm) – Четыре компонента. Сбор данных идёт из Prometheus, Kubernetes API, Alertmanager и инфраструктурного мониторинга. Alertmanager шлёт алерт одновре...
X5 Group (торговые сети «Пятёрочка» и «Перекрёсток»), клуб «Тайный покупатель» – Асинхронный пайплайн на Kafka RPC. CNN-модели крутятся на CPU в NVIDIA Triton I...
SberDevices, пользователи умных телевизоров и медиацентров Sber на платформе Salute TV – Сервис персонализированной контекстной помощи прямо в интерфейсе устрой...
АО «Первая Грузовая Компания» (ПГК), крупный железнодорожный оператор грузовой логистики – Агент отвечает на вопросы на естественном русском языке от команд лог...
ООО «Яндекс» – Робот работает в четыре стадии. Сначала объективный сбор: пути и схемы таблиц, записи из внутреннего глоссария на Вики, существующая Вики-докумен...
ООО «Авито Тех» (Авито) – Система выросла из LLM-портала в продакшен-фабрику агентов и состоит из пяти слоёв. Пользовательский слой — веб на React/TypeScript и...
ПАО «Силовые машины» – Компания переходит от классической модели жизненного цикла продукта к цифровому образу цепочки создания ценности. ИИ применяется для вирт...