VK Cloud: борьба с деградацией продакшен-инференса LLM
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
Найдено: 40 результатов
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
Петрович-Тех (ИТ-подразделение сети «Петрович») – Собрана единая обвязка с 13 виджетами дашборда и примерно 30 инструментами, агрегирующая данные из таск-трекер...
ООО «Авито Тех» (в том числе Авито Авто) – Платформа состоит из трёх сервисов. Skills-hub управляет качеством скилов, их проверкой на безопасность, обнаружением...
ООО «Яндекс» (умные колонки с Алисой) – Компактная нейросеть весом от 0,5 до 1,5 МБ в зависимости от железа устройства распознаёт короткие команды («дальше», «т...
ПАО Сбербанк, команда GigaChat Pretrain – Вместо обучения с нуля авторегрессионную модель GigaChat3-10B-A1.8B-base перевели в диффузионный режим. Генерация идёт...
Слёрм (Slurm) – Четыре компонента. Сбор данных идёт из Prometheus, Kubernetes API, Alertmanager и инфраструктурного мониторинга. Alertmanager шлёт алерт одновре...
X5 Tech (продуктовые команды X5 Group) – MCP-сервер даёт агентам знание о реальной дизайн-системе проекта и поддерживает три платформы — React, Jetpack Compose...
X5 Group (торговые сети «Пятёрочка» и «Перекрёсток»), клуб «Тайный покупатель» – Асинхронный пайплайн на Kafka RPC. CNN-модели крутятся на CPU в NVIDIA Triton I...
AGIMA – Детектирование построено не на одной модели, а на слоистой схеме из пяти источников сигнала: guard-модель GLiNER, LoRA-адаптер для дообучения, правиловы...
MTS Web Services (MWS, входит в МТС) и DevRails AI – Построены специализированные ролевые агенты с собственными правами доступа и зоной ответственности. Агент р...