LangChain через AI Gateway — Python и JavaScript

LangChain — фреймворк для приложений на языковых моделях: цепочки, агенты с инструментами, RAG, память диалога. Классы под OpenAI (ChatOpenAI) принимают кастомный адрес API, поэтому весь код LangChain работает через AI Gateway без правок логики — меняются только base_url и ключ, а модель выбирается из каталога.

Подключение

1. 1
   Получите API-ключ

   Зарегистрируйтесь и создайте ключ в кабинете — он начинается с sk-aigate-. Удобно завести отдельный ключ на каждое приложение: у него свой потолок расхода и RPM.

2. 2
   Установите пакеты

   Для Python нужен интеграционный пакет OpenAI, для JavaScript — соответствующий npm-модуль:

   bashbashКопировать

   # Pythonpip install langchain langchain-openai​# JavaScript / TypeScriptnpm install langchain @langchain/openai

3. 3
   Настройте ChatOpenAI на Python

   Передайте адрес шлюза в base_url и ключ AI Gateway в api_key, а в model — код модели из каталога:

   pythonpythonКопировать

   from langchain_openai import ChatOpenAI​llm = ChatOpenAI(base_url="https://ai-gatewey.ru/v1",api_key="sk-aigate-...",model="anthropic/claude-sonnet-5.5",)​print(llm.invoke("Объясни, что такое RAG, в двух предложениях").content)

4. 4
   То же самое на JavaScript

   В JS-версии адрес шлюза передаётся через configuration.baseURL:

   jsjsКопировать

   import { ChatOpenAI } from "@langchain/openai";​const llm = new ChatOpenAI({apiKey: "sk-aigate-...",model: "openai/gpt-6-luna",configuration: { baseURL: "https://ai-gatewey.ru/v1" },});​const res = await llm.invoke("Привет!");console.log(res.content);

5. 5
   Соберите цепочку или агента

   Дальше — обычный LangChain: prompt | llm | parser, агенты с инструментами, RAG. Расход по токенам виден в кабинете AI Gateway в реальном времени.

Какие модели выбрать

Для агентов и сложных цепочек берите флагман, для типовых цепочек суммаризации и извлечения — быструю модель среднего класса:

Частые вопросы