ООО «Центр ИИ МТС» — метод VIPI инициализации трансформеров (ЦИИ НИУ ВШЭ)
Описание проекта
Метод VIPI (Vocabulary Initialization with Pre-trained Intelligence) для инициализации словарей трансформерных моделей на специализированных доменах. Позволяет повысить качество NLP-моделей на +10% на специализированных доменах. Разработчик: ЦИИ НИУ ВШЭ. Источник: Будущее искусственного интеллекта (ai_future_2025.txt)
Задача
Снижение качества трансформерных LLM при применении в специализированных отраслевых доменах
Цели внедрения
Повышение качества NLP-моделей в специализированных доменах
Техническая задача
Разработать метод инициализации словарей для адаптации трансформеров к специализированным областям
Результаты
+10% качество NLP-моделей на специализированных доменах