Embeddings API из России — поиск, RAG и рекомендации

Семантический поиск, RAG и рекомендации держатся на векторных представлениях текста — эмбеддингах. Из России доступ к embedding-API упирается в VPN и валютную карту, а качество выдачи часто проседает без финального переранжирования. AI Gateway отдаёт эмбеддинги и чат-модели через один OpenAI-совместимый ключ с оплатой в рублях — и поиск, и переранжирование живут в одном биллинге.

Решение

Пайплайн строится в два слоя: эмбеддинги превращают текст в векторы для быстрого поиска по базе, а чат-модель переранжирует топ-кандидатов и формирует финальный ответ. Оба слоя работают по адресу https://ai-gatewey.ru/v1 и одному ключу sk-aigate-….

• Семантический поиск — векторный индекс по своей базе знаний вместо поиска по ключевым словам.
• RAG — извлечение релевантных фрагментов плюс генерация ответа с опорой на них.
• Рекомендации — подбор похожих товаров, статей или тикетов по близости векторов.
• Переранжирование — чат-модель отбирает и сортирует топ-кандидатов, повышая точность выдачи.

Подключение

Пример переранжирования: после векторного поиска отдаём топ-кандидатов чат-модели, чтобы она выбрала и упорядочила самые релевантные под конкретный запрос.

from openai import OpenAI

client = OpenAI(
    base_url="https://ai-gatewey.ru/v1",
    api_key="sk-aigate-ваш_ключ",
)

query = "как вернуть товар"
candidates = ["Оплата и возвраты", "Доставка", "Гарантия и обмен"]

resp = client.chat.completions.create(
    model="deepseek/deepseek-chat",
    messages=[{
        "role": "user",
        "content": f"Запрос: {query}\nОтсортируй по релевантности: {candidates}",
    }],
)
print(resp.choices[0].message.content)

Модели и цены

Для переранжирования и генерации ответа в RAG обычно берут дешёвую быструю модель на служебные шаги и более сильную на финальный ответ. Актуальные цены:

Частые вопросы