Возможности API
Что умеет единый API помимо чата: стриминг, мультимодальность, инструменты и структурированный вывод — с примерами кода и списком поддерживающих моделей.
Стриминг ответов моделей через AI Gateway (SSE, stream: true)
Как получать ответ модели по мере генерации: параметр stream:true, Server-Sent Events, примеры на Python и JavaScript, подводные камни с таймаутами и буферизацией.
ЧитатьРабота с изображениями (vision) через AI Gateway
Как отправлять картинки в модель: image_url в messages, сценарии OCR, описания товаров и разбора скриншотов, пример кода на Python — с оплатой в рублях.
ЧитатьВызов инструментов (function calling) через AI Gateway
Как модель вызывает ваши функции: описание tools, разбор tool_calls, агентные циклы и возврат результата, пример кода на Python — с оплатой в рублях.
ЧитатьСтруктурированный вывод JSON (response_format) через AI Gateway
Как получить от модели валидный JSON: параметр response_format, json_schema и json_object, валидация результата и пример кода на Python — с оплатой в рублях.
ЧитатьДумающие модели (reasoning) через AI Gateway
Когда включать рассуждающие модели: как работает reasoning, для каких задач он оправдан, при чём тут токены рассуждений и пример кода на Python.
Читать