АО «Лаборатория Касперского» — TRUSTTORCH доверенный ИИ (ИСП РАН)
Описание проекта
Программа TRUSTTORCH — доверенная версия открытого фреймворка PyTorch для разработки ИИ-приложений. УГТ-9. Проверена инструментальными средствами в соответствии с жизненным циклом безопасной разработки ПО. Содержит исправления всех обнаруженных уязвимостей. Внедрена в состав Облачной платформы для разработки доверенных систем ИИ. Заказчики: АО «Лаборатория Касперского», ЗАО «ЕС-лизинг», ООО «Технопром», ООО «Интерпроком», АО «КТ-Беспилотные системы». Зарегистрирована в Роспатенте. Разработчик: ИСП РАН. Источник: Будущее искусственного интеллекта (ai_future_2025.txt)
Задача
Уязвимости в AI-приложениях, использующих открытые ML-фреймворки; риск состязательных атак
Цели внедрения
Повышение защищённости ИИ-приложений от состязательных атак
Техническая задача
Создать защищённую версию PyTorch для разработки доверенных систем ИИ
Результаты
УГТ-9. Повышение защищённости приложений на технологиях ИИ; программа зарегистрирована в Роспатенте