Безопасность LLM: защита нейросетей и ИИ-приложений

Рубрика объединяет средства защиты больших языковых моделей (LLM) и приложений на их основе: шлюзы и межсетевые экраны для ИИ, системы контроля использования внешних ИИ-сервисов сотрудниками, анонимизацию данных перед отправкой в модели.

Типичные функции – фильтрация промптов и ответов, защита от промпт-инъекций и джейлбрейков, маскирование персональных и конфиденциальных данных, политики доступа к моделям, журналирование и мониторинг взаимодействия с ИИ.

В рубрике – HiveTrace, AppSec.AIGate, «Защита ИИ. AIDR», «Луми 42 ЛЛМ ФВ», СЗИИ, SAwaken Anonimization Box и платформа управления безопасностью взаимодействия с сервисами ИИ.

Платформы для разработки и запуска моделей относятся к разделу «Языковые модели (LLM)», общие DLP-системы – к листу «DLP системы».