LangChain через AI Gateway — Python и JavaScript

LangChain — фреймворк для приложений на языковых моделях: цепочки, агенты с инструментами, RAG, память диалога. Классы под OpenAI (ChatOpenAI) принимают кастомный адрес API, поэтому весь код LangChain работает через AI Gateway без правок логики — меняются только base_url и ключ, а модель выбирается из каталога.

Подключение

1. 1
   Получите API-ключ

   Зарегистрируйтесь и создайте ключ в кабинете — он начинается с sk-aigate-. Удобно завести отдельный ключ на каждое приложение: у него своя квота и лимиты.

2. 2
   Установите пакеты

   Для Python нужен интеграционный пакет OpenAI, для JavaScript — соответствующий npm-модуль:

   bash Копировать

   # Python
   pip install langchain langchain-openai
   
   # JavaScript / TypeScript
   npm install langchain @langchain/openai

3. 3
   Настройте ChatOpenAI на Python

   Передайте адрес шлюза в base_url и ключ AI Gateway в api_key, а в model — код модели из каталога:

   python Копировать

   from langchain_openai import ChatOpenAI
   
   llm = ChatOpenAI(
       base_url="https://ai-gatewey.ru/v1",
       api_key="sk-aigate-...",
       model="anthropic/claude-sonnet-5",
   )
   
   print(llm.invoke("Объясни, что такое RAG, в двух предложениях").content)

4. 4
   То же самое на JavaScript

   В JS-версии адрес шлюза передаётся через configuration.baseURL:

   js Копировать

   import { ChatOpenAI } from "@langchain/openai";
   
   const llm = new ChatOpenAI({
     apiKey: "sk-aigate-...",
     model: "openai/gpt-5.4-mini",
     configuration: { baseURL: "https://ai-gatewey.ru/v1" },
   });
   
   const res = await llm.invoke("Привет!");
   console.log(res.content);

5. 5
   Соберите цепочку или агента

   Дальше — обычный LangChain: prompt | llm | parser, агенты с инструментами, RAG. Расход по токенам виден в кабинете AI Gateway в реальном времени.

Какие модели выбрать

Для агентов и сложных цепочек берите флагман, для типовых цепочек суммаризации и извлечения — быструю модель среднего класса:

Частые вопросы