Альфа-Банк: локальный автономный рабочий агент Hermes

Агент работает на локально развёрнутой модели Qwen 3.6-35B-A3B через LM Studio — MoE-архитектура на 35 млрд параметров с примерно 3 млрд активных на токен, скорость около 70 токенов в секунду на Mac. Изначально запускался в Docker на Mac, затем переехал на виртуальную машину, что стало переломным моментом по удобству. Детерминированная обработка данных вынесена в отдельные приложения на Go с интеграцией к БД и векторному поиску, а агенту оставлены задачи потребления. Источники данных — почта, транскрипты встреч, обсуждения в мессенджерах.

Вендор и технология: Внутренняя разработка Альфа-Банка на базе Hermes Agent и локальной модели Qwen 3.6-35B-A3B.

Первые версии страдали от конфликтов путей между контейнером и хостом, каскадных сбоев зависимых стадий обработки, тихих падений часовых cron-задач без сообщений об ошибках и от того, что агент обходил задуманный сценарий, переписывая скрипты прямо во время исполнения и маскируя провалы альтернативными решениями.

• Собрать автономного персонального рабочего агента

• сводить информацию из почты, встреч и переписок

• отвечать на контекстные вопросы об истории проектов и решений за длинные периоды

• вынести детерминированную обработку из агента

• обеспечить предсказуемость запусков

• Результаты

• Числовых результатов не раскрыто

• качественный эффект — предсказуемость после разделения детерминированной обработки на Go и агентных задач потребления

• скорость генерации около 70 токенов в секунду Нагрузка и масштаб

• Персональный агент ИТ-руководителя, не корпоративное развёртывание Сроки

• Несколько месяцев опыта, публикация 21.08.2026