Роскомнадзор — ИИ-модерация запрещённого контента в системе ИС МИР
Описание проекта
Роскомнадзор интегрировал технологии искусственного интеллекта в систему мониторинга интернет-ресурсов ИС МИР для автоматического выявления и классификации запрещённого контента (детская порнография, наркотики, суицид, экстремизм, онлайн-казино и другое, запрещённое российским законодательством).
До 2024 года реестр запрещённых ресурсов вёлся без применения ИИ — все записи вносились на основе алгоритмических систем и ручной обработки. С 2024 года ИС МИР дополнена ИИ для автоматической классификации текстов, выявления контекстуальных связей, поиска «дублей» и перепечаток.
К 2026 году РКН планирует создать и внедрить ML-механизм фильтрации интернет-трафика на базе уже существующих ТСПУ (технические средства противодействия угрозам). Планируемый бюджет — 2,27 млрд рублей.
Задача
В 2023 году Роскомнадзор выявлял незаконный контент в интернете спустя 3 часа после публикации. Алгоритмические системы давали 20% ошибочно выявленных признаков нарушений в СМИ. Традиционные методы не позволяли устанавливать сложные контекстуальные связи между фрагментами текста.
Цели внедрения
-
Сократить время выявления незаконного контента с 3 часов до 1 часа (к 2026)
-
Снизить долю ошибочно выявленных нарушений с 20% до 10% (к 2026)
-
Сократить потребность в ручном труде за счёт обучения ИИ на верифицированных данных
-
Автоматически вести реестры заблокированных ресурсов и операторов персональных данных
Результаты
-
Финансы
-
Планируемый бюджет на ML-фильтрацию трафика в 2026 году: 2,27 млрд руб. Время
-
2023: выявление запрещённого контента — через 3 часа после публикации
-
2024: цель — 2 часа
-
2026: цель — 1 час Качество и эффективность
-
Доля ошибочно выявленных нарушений в СМИ: снижение с 20% (2023) до 10% (2026)
-
Заблокировано более 1 млн запрещённых ресурсов с помощью ТСПУ (данные на середину 2025)
-
ИИ позволяет выявлять «сложные контекстуальные связи» между текстовыми фрагментами Нагрузка и масштаб
-
Система обрабатывает миллионы интернет-ресурсов ежедневно
-
Реестр запрещённых ресурсов — один из крупнейших в мире Надёжность
-
ТСПУ установлены и обслуживаются самим РКН на всей территории РФ Импортозамещение и compliance
-
Российское ПО и инфраструктура ТСПУ
-
Работа в рамках Федерального закона «Об информации, информационных технологиях и о защите информации» Качественный эффект: Переход от жёстких алгоритмов к ML существенно повышает гибкость системы — ИИ способен выявлять нарушения, которые не поддаются формальной классификации, и адаптироваться к новым схемам публикации запрещённого контента.