АО «Лаборатория Касперского» — облачная платформа доверенных ИИ-систем (ИСП РАН)
Описание проекта
Облачная платформа для разработки доверенных систем, использующих технологии искусственного интеллекта. УГТ-7. Предоставляет комплекс модулей для всех этапов разработки доверенных ИИ-систем: тестирование и защита моделей от состязательных атак, выявление предвзятости, интерпретация моделей, обнаружение аномалий и дрейфа данных, защита от копирования моделей. Заказчики: АО «Лаборатория Касперского», ЗАО «ЕС-лизинг», ООО «Технопром», ООО «Интерпроком». Разработчик: ИСП РАН. Источник: Будущее искусственного интеллекта (ai_future_2025.txt)
Задача
Отсутствие комплексных инструментов для разработки доверенных ИИ-систем на всех этапах жизненного цикла
Цели внедрения
Повышение надёжности, воспроизводимости и безопасности ИИ-систем
Техническая задача
Создать облачную платформу с полным набором инструментов для обеспечения доверия к ИИ-системам
Результаты
УГТ-7. Ускорение разработки доверенных ИИ-систем за счёт применения методологии MLSecOps; снижение рисков ошибок и уязвимостей