Эмбеддинг (векторное представление)
Числовой вектор, в который модель превращает текст так, что близкие по смыслу фразы оказываются рядом в пространстве. Эмбеддинги — основа семантического поиска и систем RAG.
Эмбеддинг переводит смысл текста в набор чисел. Тексты с похожим значением получают близкие векторы, даже если написаны разными словами — поэтому по эмбеддингам можно искать по смыслу, а не по точному совпадению слов.
- Каждый фрагмент базы знаний заранее превращают в эмбеддинг и хранят в векторной базе данных.
- Запрос пользователя тоже переводят в эмбеддинг и ищут ближайшие к нему векторы.
- Это ключевой шаг в RAG: находим релевантные фрагменты и передаём их модели в промпт.