Исследовательский центр доверенного ИИ — ИСП РАН
Описание проекта
ИСП РАН создал и развивает Исследовательский центр доверенного искусственного интеллекта (ИЦДИИ) — первый в России государственно поддержанный центр по верификации ИИ-систем. Ключевой продукт — облачная платформа для анализа и разработки доверенных ИИ-систем, объединяющая: фреймворки и библиотеки ML с проверяемыми свойствами; инструменты обнаружения аномалий в данных; оценку устойчивости моделей к атакам (adversarial robustness); объяснимость решений (XAI); обнаружение дрейфа данных и предвзятости. В рамках третьей волны (2025–2026) приоритеты — сильный ИИ, мультиагентные системы и ИИ-помощники для диагностики кардиологических заболеваний.
Задача
Отсутствие отечественных инструментов для верификации и тестирования ИИ-моделей на предмет безопасности, предвзятости и устойчивости. Риски внедрения ненадёжных ИИ-систем в критические отрасли (медицина, промышленность, госуправление).
Цели внедрения
-
Разработать методики и программные инструменты верификации ИИ с требуемым уровнем доверия
-
Создать облачную платформу, закрывающую весь жизненный цикл разработки ИИ-систем
-
В рамках третьей волны — создать ИИ-помощников для диагностики кардиологических заболеваний
Результаты
-
Финансы
-
Грант третьей волны: ₽676 млн (2025–2026 годы)
-
Ранее (первая волна, 2021–2023): государственная поддержка в рамках федерального проекта «Искусственный интеллект» Время
-
Центр действует непрерывно с 2021 года Качество и эффективность
-
Индустриальные партнёры: «Лаборатория Касперского», ЕС-Лизинг, Интерпроком, ТЕХНОПРОМ
-
Созданы рабочие группы Консорциума исследований безопасности технологий ИИ
-
Выработаны первые в России нормативные рекомендации по безопасности ИИ Нагрузка и масштаб
-
Участник всех трёх волн государственных исследовательских центров ИИ
-
Открытая конференция ИСП РАН привлекает сотни экспертов ежегодно Надёжность
-
Работает при системной поддержке ФСБ, ФСТЭК, Минцифры в части сертификации ИИ-систем Импортозамещение и compliance
-
Единственный в России центр, занимающийся стандартизацией и сертификацией доверенных ИИ-технологий
-
Облачная платформа — полностью российская альтернатива зарубежным инструментам (например, Microsoft Responsible AI Toolbox) Качественный эффект: ИСП РАН сформировал «Консорциум исследований безопасности технологий ИИ» — отраслевое объединение, разрабатывающее российские стандарты доверенного ИИ. Результаты первых волн обеспечили значительную часть научного задела страны.