PEFT (Parameter-Efficient Fine-Tuning, параметрически эффективное дообучение) – общее название методов адаптации больших предобученных моделей, при которых обновляется небольшая доля параметров, а основная часть весов остаётся неизменной. Это снижает требования к вычислительным ресурсам и памяти и позволяет хранить много версий модели в виде компактных добавок. PEFT также называется популярная открытая библиотека Hugging Face, реализующая эти методы.
Основные методы
- LoRA и QLoRA – низкоранговые адаптеры.
- Адаптеры – небольшие дополнительные слои внутри модели.
- Prefix-tuning и prompt-tuning – обучаемые векторы, добавляемые к входу.
- IA3 и другие методы масштабирования активаций.
Преимущества
- Дообучение больших моделей на доступном оборудовании.
- Компактное хранение и быстрая смена задач.
- Меньше риск «забывания» исходных знаний модели.
Когда применять
Когда нужно адаптировать модель к домену, формату или стилю ответов, а полного дообучения не позволяют ресурсы или данные.
