AI-чат-бот для сайта — виджет и backend через один API

AI-чат-бот на сайте отвечает на вопросы посетителей, консультирует по товарам и разгружает поддержку. Держать ключ в браузере нельзя, а напрямую зарубежные API из России требуют VPN и валютную карту. Правильная схема — виджет на фронте плюс тонкий backend-прокси. AI Gateway отдаёт этот backend единый ключ на дешёвых моделях с оплатой в рублях.

Решение

Виджет на странице шлёт сообщение на ваш backend, backend обращается к https://ai-gatewey.ru/v1 со скрытым ключом sk-aigate-… и возвращает ответ. Ключ не попадает в браузер, а лимиты на ключ защищают от всплеска расхода.

• Виджет на фронте — простое поле чата, без ключа в коде страницы.
• Backend-прокси — хранит ключ, добавляет системный промпт и контекст сайта, ограничивает нагрузку.
• Дешёвые быстрые модели — короткие ответные реплики выгодно гонять на бюджетных моделях.
• Защита бюджета — RPM-лимит и стоп-лимит на ключ, чтобы всплеск трафика не разорил.

Подключение

from openai import OpenAI

client = OpenAI(
    base_url="https://ai-gatewey.ru/v1",
    api_key="sk-aigate-ваш_ключ",  # только на сервере
)

def reply(user_message: str) -> str:
    resp = client.chat.completions.create(
        model="deepseek/deepseek-chat",
        messages=[
            {"role": "system", "content": "Ты — консультант интернет-магазина."},
            {"role": "user", "content": user_message},
        ],
    )
    return resp.choices[0].message.content

// на фронте — обращаемся к своему backend, не к API напрямую
async function ask(text) {
  const r = await fetch("/api/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ message: text }),
  });
  const { reply } = await r.json();
  return reply;
}

Модели и цены

Для чат-бота на сайте берут дешёвые быстрые модели — ответы короткие, а объём запросов большой. Актуальные цены:

Частые вопросы