Интеграция AI в Django через AI Gateway: сервисный слой и фон

Аккуратная интеграция AI в Django — это не вызов модели прямо во view, а тонкий сервисный слой, который прячет клиент OpenAI SDK за одной функцией. View дёргает сервис для быстрых запросов, а тяжёлые (разбор длинных текстов, пакетная обработка) уходят в фон. Модели берём из каталога AI Gateway по OpenAI-совместимому API.

Подготовка

Понадобится ключ sk-aigate-… и адрес https://ai-gatewey.ru/v1. Ключ читаем из окружения (os.environ или django-environ), а не из settings.py в репозитории.

pip install openai

Реализация

1. 1
   Сервисный слой

   Один модуль инкапсулирует клиент и все обращения к модели — остальной код Django ничего не знает про SDK:

   python Копировать

   # ai/services.py
   import os
   from openai import OpenAI
   
   client = OpenAI(
       base_url="https://ai-gatewey.ru/v1",
       api_key=os.environ["AIGATE_API_KEY"],
   )
   
   def ask(prompt: str, model: str = "deepseek/deepseek-chat") -> str:
       resp = client.chat.completions.create(
           model=model,
           messages=[{"role": "user", "content": prompt}],
       )
       return resp.choices[0].message.content

2. 2
   Вызов из view

   View остаётся тонким — принимает запрос, зовёт сервис, возвращает JSON:

   python Копировать

   # ai/views.py
   import json
   from django.http import JsonResponse
   from django.views.decorators.http import require_POST
   from .services import ask
   
   @require_POST
   def chat(request):
       prompt = json.loads(request.body)["message"]
       return JsonResponse({"reply": ask(prompt)})

3. 3
   Долгие запросы — в фон

   Запрос к модели может идти секунды, а под нагрузкой это заняло бы worker'ы Django. Выносим в задачу Celery и записываем результат в модель:

   python Копировать

   # ai/tasks.py
   from celery import shared_task
   from .models import Ticket
   from .services import ask
   
   @shared_task
   def summarize_ticket(ticket_id: int):
       ticket = Ticket.objects.get(pk=ticket_id)
       ticket.summary = ask(f"Кратко изложи суть обращения:\n\n{ticket.body}")
       ticket.save(update_fields=["summary"])

4. 4
   Запуск задачи

   Из view или сигнала ставим задачу в очередь неблокирующе — пользователь получает ответ сразу, а саммари появляется позже:

   python Копировать

   summarize_ticket.delay(ticket.id)

Какие модели подойдут

Для массовых операций (классификация, саммари обращений) берут быструю дешёвую модель; сложные задачи можно точечно направить на флагман:

Частые вопросы