Эмбеддинг (embedding, векторное представление) – преобразование объекта (слова, предложения, документа, изображения, товара, пользователя) в вектор чисел фиксированной длины. Модели обучаются так, чтобы похожие по смыслу объекты получали близкие векторы, а мера близости (например, косинусное расстояние) отражала смысловое сходство.
Где применяется
- Семантический поиск: найти документы по смыслу, а не по совпадению слов.
- RAG: поиск фрагментов базы знаний для языковой модели.
- Рекомендации: похожие товары, статьи, пользователи.
- Кластеризация и дедупликация текстов.
- Признаки для классификации.
Как получают
- Специальные модели эмбеддингов текста, в том числе многоязычные и русскоязычные.
- Модели для изображений и мультимодальные модели.
- Векторы хранят в векторных базах данных или расширениях СУБД (например, pgvector).
Что важно
- Качество модели на вашем языке и домене.
- Размерность вектора и скорость поиска.
- Одинаковая модель для индексации и запросов.
