Платформа управления безопасностью взаимодействия с сервисами искусственного интеллекта StarGuard AI

StarGuard AI — комплексное программное решение, предназначенное для обеспечения
безопасного и контролируемого взаимодействия с большими языковыми моделями
(Large Language Models, LLM) в корпоративных и критичных к безопасности средах.
Решение ориентировано на снижение рисков, связанных с утечкой конфиденциальных
и персональных данных, нарушением требований информационной безопасности и
неконтролируемым использованием LLM внутри организации. StarGuard AI выступает
посредником между конечными пользователями, прикладными системами и внешними
или локально развёрнутыми языковыми моделями, перехватывает трафик в режиме
реального времени, выполняет анализ запросов и ответов и применяет настраиваемые
политики безопасности без необходимости модификации клиентских приложений.
Платформа предоставляет администраторам и специалистам по информационной
безопасности единый веб-интерфейс для управления шлюзами, моделями,
политиками, пользователями и контроля событий, а конечным пользователям — портал
самообслуживания с интегрированным чатом, управлением файлами и токеном для
прямых API-вызовов.
Решение обеспечивает:

• Защиту чувствительной информации и персональных данных при работе

сотрудников с LLM;

• Контроль и аудит всего трафика к языковым моделям;
• Унифицированный доступ к нескольким LLM-провайдерам через единый OpenAI- и

Anthropic-совместимый API;

• Централизованное управление политиками безопасности и распределённой

инфраструктурой шлюзов;

• Прогнозируемое потребление токенов за счёт пользовательских лимитов;
• Интеграцию событий безопасности с внешними SIEM-системами.

Функциональные характеристики

Анализ и фильтрация запросов и ответов LLM:

• проверка содержимого по регулярным выражениям — выявление заданных

шаблонов данных, включая идентификаторы, коды, номера документов и иные

чувствительные конструкции;

• поиск и обнаружение чувствительных и персональных данных, включая имена

людей, организации, адреса, номера телефонов, e-mail, банковские карты,

паспортные данные, ИНН, СНИЛС и др., с поддержкой русского и английского

языков;

• маскирование чувствительных данных перед отправкой запроса в LLM с

автоматическим демаскированием (обратным замещением) в ответе;

• семантическая фильтрация по тематикам (политика, медицина, право, внутренние

корпоративные данные и др.) и фильтрация токсичного и нежелательного контента;

• защита от Prompt Injection — обнаружение и предотвращение попыток манипуляции

поведением языковой модели, направленных на обход ограничений или извлечение

запрещённой информации;

• определение языка запроса с ограничением работы по спискам разрешённых и

запрещённых языков;

• Контроль вызовов инструментов (tool calls) в агентских LLM-сценариях по политикам

с поддержкой режимов blacklist и whitelist.

Работа с файлами:

• передача содержимого файлов в большие языковые модели с применением тех же

механизмов анализа и фильтрации, что и для текстовых запросов;

• поддержка форматов DOC, DOCX, XLS, XLSX, PDF
• извлечение текстового содержимого документов через встроенный сервис

распознавания;

• управление файлами через портал самообслуживания пользователя: загрузка,

предпросмотр извлечённого текста, удаление, разграничение приватных и

публичных файлов в рамках шлюза.

• создание и редактирование Tool Call политик (правила контроля вызовов

инструментов агентских LLM);

• гибкая настройка детекторов на уровне шлюза с возможностью переопределения на

уровне отдельной модели (наследовать, отключить, настроить);

• режимы действия детекторов: выключен, мониторинг, блокировка, добавление

сообщения, перенаправление на другую модель;

• автоматическая синхронизация конфигурации между платформой управления и

шлюзами без ручного вмешательства.

Хранение событий и интеграция с системами безопасности:

• сохранение метаинформации обо всех запросах и ответах (время, источник,

пользователь, модель, применённые политики, результаты срабатываний

детекторов, количество токенов, трассировка);

• просмотр и фильтрация событий безопасности через интерфейс администратора
• опциональная трансляция событий во внешние SIEM-системы для

централизованного мониторинга, корреляции и реагирования на инциденты.

Портал самообслуживания пользователя:

• просмотр дашборда с текущим расходом и лимитом токенов, доступными моделями

и токеном для прямых API-вызовов;

• встроенный чат с языковой моделью с поддержкой потокового режима, выбора

модели, прикрепления файлов, истории сообщений;

• управление загруженными файлами
• прямой доступ к Gate API из внешних приложений по полученному токену.

Лицензирование:

• управление лицензией платформы через интерфейс суперпользователя
• привя