VK Cloud: борьба с деградацией продакшен-инференса LLM
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
Найдено: 40 результатов
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
VK Tech (VK Cloud) – Стек: Ollama плюс OpenClaw на GPU-сервере в облаке. Железо — NVIDIA A30 с 24 ГБ HBM2 и пропускной способностью 933 ГБ/с, Ubuntu 24.04 LTS,...
ООО «Авито Тех» (в том числе Авито Авто) – Платформа состоит из трёх сервисов. Skills-hub управляет качеством скилов, их проверкой на безопасность, обнаружением...
VK (платформа Дзен) – Пайплайн собирает логи событий пользователей с привязкой к тестовым группам, фильтрует по словарю экспериментов, чтобы не считать лишнее,...
ООО «Яндекс» (умные колонки с Алисой) – Компактная нейросеть весом от 0,5 до 1,5 МБ в зависимости от железа устройства распознаёт короткие команды («дальше», «т...
ПАО Сбербанк (Sber AI Lab) – Метод переносит принципы детекции объектов на временные последовательности: если в 2D детекции модель отвечает «что и где», то здес...
ПАО Сбербанк и участники Альянса в сфере ИИ – Бенчмарк переработан вокруг четырёх категорий навыков: Human-Centric, Culture-Specific, Agentic и Reasoning. Соста...
ПАО Сбербанк, команда GigaChat Pretrain – Вместо обучения с нуля авторегрессионную модель GigaChat3-10B-A1.8B-base перевели в диффузионный режим. Генерация идёт...
Слёрм (Slurm) – Четыре компонента. Сбор данных идёт из Prometheus, Kubernetes API, Alertmanager и инфраструктурного мониторинга. Alertmanager шлёт алерт одновре...
SberDevices, пользователи умных телевизоров и медиацентров Sber на платформе Salute TV – Сервис персонализированной контекстной помощи прямо в интерфейсе устрой...