Структурированный вывод JSON (response_format) через AI Gateway

Структурированный вывод заставляет модель отвечать не свободным текстом, а валидным JSON по заданной схеме. Это убирает хрупкий парсинг «выцарапывания» данных из ответа: результат сразу готов к разбору и подстановке в код. В AI Gateway это работает через стандартный параметр response_format, как в оригинальном API OpenAI.

Как это работает

Есть два режима. response_format: {type: "json_object"} гарантирует синтаксически валидный JSON, но структуру нужно описать в промпте. response_format: {type: "json_schema", …} дополнительно привязывает ответ к вашей JSON Schema — модель обязана вернуть объект ровно с нужными полями и типами. Второй режим надёжнее, когда важна строгая форма данных.

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://ai-gatewey.ru/v1",
    api_key="sk-aigate-ваш_ключ",
)

schema = {
    "name": "product",
    "schema": {
        "type": "object",
        "properties": {
            "title": {"type": "string"},
            "price": {"type": "number"},
            "in_stock": {"type": "boolean"},
        },
        "required": ["title", "price", "in_stock"],
        "additionalProperties": False,
    },
}

resp = client.chat.completions.create(
    model="openai/gpt-5.4-mini",
    messages=[{"role": "user", "content": "Опиши товар: беспроводные наушники за 4990 рублей, в наличии"}],
    response_format={"type": "json_schema", "json_schema": schema},
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["price"], data["in_stock"])

Сценарии

• Извлечение данных — вытащить из текста сущности (имя, дата, сумма, статус) сразу в готовый объект.
• Классификация — вернуть категорию и уверенность строгими полями, а не разбирать формулировку из прозы.
• Интеграции и пайплайны — ответ модели уходит прямо в БД, очередь или следующий сервис без ручной обработки.
• Формы и карточки — заполнение полей интерфейса значениями, которые модель извлекла из свободного ввода пользователя.

Частые вопросы