VK Cloud: борьба с деградацией продакшен-инференса LLM
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
Найдено: 40 результатов
VK Cloud (платформа инференса VK Tech) – Разбор четырёх механизмов деградации продакшен-инференса и внедрённых против них решений. Paged Attention выделяет KV-к...
ООО «Авито Тех» (в том числе Авито Авто) – Платформа состоит из трёх сервисов. Skills-hub управляет качеством скилов, их проверкой на безопасность, обнаружением...
VK (платформа Дзен) – Пайплайн собирает логи событий пользователей с привязкой к тестовым группам, фильтрует по словарю экспериментов, чтобы не считать лишнее,...
VK Tech (платформа VK AI Space) и её корпоративные пользователи – Реализовано пять типов памяти: рабочая (сообщения текущей сессии), эпизодическая (файлы событи...
RWB (Wildberries), ML-платформа компании – Ядром выбрана KeepHQ: бэкенд на FastAPI, фронтенд на Next.js, обмен по WebSocket, хранение в PostgreSQL, развёртывани...
ООО «Авито Тех» (Авито) – Система выросла из LLM-портала в продакшен-фабрику агентов и состоит из пяти слоёв. Пользовательский слой — веб на React/TypeScript и...
ООО «Яндекс» – AI-платформа для самостоятельного создания, прототипирования, редактирования и публикации веб-страниц и простых приложений по текстовому описанию...
ООО «Яндекс» – Платформа закрывает полный цикл разработки ПО: хранение и версионирование кода, автоматизация CI/CD-пайплайнов, встраивание инструментов безопасн...
АО «Альфа-Банк» – AlfaPredict позволяет задавать вопросы к данным на естественном языке, автоматически генерирует SQL-запрос и выводит интерактивный дашборд. Пл...
АО «Альфа-Банк» – Платформа из четырёх слоёв управляет коммуникацией с бизнес-клиентами. Слой предиктивного интеллекта ежедневно пересчитывает скор готовности к...