VK Cloud: борьба с деградацией продакшен-инференса LLM
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
Найдено: 39 результатов
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
ПАО Сбербанк (Sber AI Lab) – Метод переносит принципы детекции объектов на временные последовательности: если в 2D детекции модель отвечает «что и где», то здес...
ПАО Сбербанк (Sber AI) – Модель работает «рендерером» в таксономии World Labs: предсказывает визуальные наблюдения из текущего состояния мира. Три доменные ветк...
ПАО Сбербанк, команда GigaChat Pretrain – Вместо обучения с нуля авторегрессионную модель GigaChat3-10B-A1.8B-base перевели в диффузионный режим. Генерация идёт...
Институт AIRI (Артём Разжигаев) – Агент правит собственный исходный код через ревьюируемые циклы эволюции. Стабильный лаунчер оборачивает изменяемый git-репозит...
Слёрм (Slurm) – Четыре компонента. Сбор данных идёт из Prometheus, Kubernetes API, Alertmanager и инфраструктурного мониторинга. Alertmanager шлёт алерт одновре...
MTS Web Services (MWS, входит в МТС) и DevRails AI – Построены специализированные ролевые агенты с собственными правами доступа и зоной ответственности. Агент р...
VK Tech (платформа VK AI Space) и её корпоративные пользователи – Реализовано пять типов памяти: рабочая (сообщения текущей сессии), эпизодическая (файлы событи...
RWB (Wildberries), ML-платформа компании – Ядром выбрана KeepHQ: бэкенд на FastAPI, фронтенд на Next.js, обмен по WebSocket, хранение в PostgreSQL, развёртывани...
VK (VK Видео, VK Клипы, лента ВКонтакте) – Двухбашенная архитектура: башня пользователя обрабатывает до 1024 последовательных действий и через self-attention вы...