Как считать стоимость запроса к языковой модели

Стоимость запроса к языковой модели считается не «за запрос», а за токены — и входные, и выходные. Понимая формулу, вы оцените бюджет фичи ещё до первой строки кода и не удивитесь счёту. Разберём слагаемые и как прикинуть расход заранее. Механику самих токенов разбирает гайд что такое токены.

Формула: две ставки, а не одна

У каждой модели две ставки — за входные (prompt) и за выходные (completion) токены. Выходные обычно дороже входных. Стоимость запроса складывается так:

стоимость = prompt_tokens  × ставка_ввода
          + completion_tokens × ставка_вывода

Актуальные ставки по каждой модели — на странице каталога и в живой таблице ниже; они меняются, поэтому в тексте мы их не фиксируем, а показываем прямо из каталога:

Что входит во входные токены

Входные токены — это не только текущий вопрос пользователя. В каждый запрос уходит весь контекст:

• Системный промпт — инструкции роли и формата; отправляется с каждым запросом.
• История диалога — все предыдущие сообщения, если вы ведёте многоходовой разговор. Чем длиннее диалог, тем дороже каждый следующий шаг.
• Вложенные данные — фрагменты документов при RAG, примеры для few-shot, содержимое файлов.
• Текущее сообщение пользователя.

Длина контекста и reasoning-токены

• Длина контекста влияет на цену напрямую: чем больше вы кладёте на вход (большой документ, длинная история), тем больше входных токенов оплачиваете. Само по себе большое контекстное окно — это лимит, а не расход; платите вы за фактически отправленные токены.
• Reasoning-токены — у рассуждающих моделей есть скрытый этап «размышления» перед ответом. Эти токены обычно тарифицируются как выходные, хотя в финальном тексте их не видно. Для сложных reasoning-моделей закладывайте запас сверх видимого ответа.

Как оценить расход заранее

1. Прикиньте типичный размер входа: системный промпт + средняя история + данные. Для русского текста берите запас — кириллица даёт больше токенов.
2. Оцените типичный размер ответа и задайте max_tokens как потолок.
3. Подставьте в формулу актуальные ставки модели из каталога — получите цену одного запроса.
4. Умножьте на ожидаемое число запросов в день или месяц — это бюджет фичи.
5. Сверьте оценку с фактом: после первых реальных запросов поле usage покажет точный расход, и вы уточните модель расчёта.

Частые вопросы