LangChain в России — RAG и агенты через один API

LangChain — самый популярный фреймворк для RAG, агентов и сложных LLM-цепочек. Но его провайдеры по умолчанию — зарубежные API, которые из России требуют VPN и валютную карту, а смена модели означает переписывание интеграции. AI Gateway даёт LangChain единый OpenAI-совместимый эндпоинт: любая модель каталога подключается одной строкой, оплата в рублях.

Решение

Вы используете класс ChatOpenAI с base_url шлюза и своим ключом. Все стандартные абстракции LangChain — цепочки, ретриверы, агенты, tool-calling — работают поверх любой модели каталога.

• RAG — векторный поиск по своим данным плюс генерация ответа на выбранной модели.
• Агенты и tools — function calling и многошаговые сценарии на моделях с поддержкой инструментов.
• Смена модели одной строкой — тестируйте Claude, GPT и DeepSeek на своей задаче без переписывания кода.
• Единый биллинг — один ключ и один расход на все цепочки, лимиты на ключ под каждый сервис.

Подключение

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://ai-gatewey.ru/v1",
    api_key="sk-aigate-ваш_ключ",
    model="anthropic/claude-sonnet-5",
)

print(llm.invoke("Составь план RAG-пайплайна для базы знаний").content)

Модели и цены

Под RAG и агентов обычно берут сильную модель для генерации и дешёвую для служебных шагов. Переключение — один параметр model. Актуальные цены:

Частые вопросы