Альфа-Банк: гибридное облако для тестирования и эксплуатации ИИ-моделей
Описание проекта
Альфа-Банк развернул на серверных мощностях Beeline Cloud платформу для тестирования и промышленной эксплуатации ИИ-моделей. Команды банка и провайдера спроектировали архитектуру гибридного облака, объединившую два собственных ЦОД банка с защищённым облачным контуром провайдера. В решение интегрированы средства управления информационной безопасностью, включая сервис Cloud Vulnerability Management. Архитектура рассчитана на ресурсоёмкие вычислительные операции обучения и инференса моделей и соответствует регуляторным требованиям к финансовому сектору.
Вендор и технология: Beeline Cloud (облачное подразделение «ВымпелКом»); гибридное облако, высокопроизводительные вычислительные кластеры для ML/LLM, Cloud Vulnerability Management.
Задача
Собственных мощностей двух ЦОД банка не хватало для ресурсоёмких задач обучения и эксплуатации ИИ-моделей. Наращивание парка GPU внутри контура требовало долгих капитальных вложений. При этом вынос ИИ-нагрузки в публичное облако упирался в требования ИБ и регуляторики финансового сектора.
Цели внедрения
-
Получить масштабируемые вычислительные мощности под ИИ-модели
-
объединить собственные ЦОД и облако провайдера в единый контур
-
обеспечить соответствие требованиям ИБ финансового сектора
-
ускорить вывод ИИ-моделей в промышленную эксплуатацию
-
интегрировать управление уязвимостями в облачном контуре
Результаты
-
Результаты
-
Развёрнута платформа тестирования и эксплуатации ИИ-моделей
-
объединены два ЦОД банка с защищённым облачным контуром
-
внедрён Cloud Vulnerability Management
-
числовых результатов не раскрыто Нагрузка и масштаб
-
Два ЦОД банка плюс выделенные серверные мощности Beeline Cloud