К содержимому
Глоссарий

Токены рассуждений (reasoning tokens)

Скрытые токены, которые рассуждающая модель тратит на обдумывание до финального ответа. В тексте ответа их нет, но они оплачиваются как выходные — именно из-за них короткий ответ иногда стоит дороже длинного.

Рассуждающие модели (в каталоге это, например, линейка o-моделей OpenAI, deepseek/deepseek-r1-0528 и варианты с суффиксом thinking) сначала строят внутреннюю цепочку рассуждений и только потом выдают ответ. Цепочка клиенту не возвращается, но токены на неё расходуются и попадают в счёт.

  • В поле usage они учтены в выходных токенах — отдельной строкой их видно не всегда.
  • Лимит max_completion_tokens считает рассуждения вместе с ответом: слишком маленькое значение обрывает генерацию до того, как модель заговорит.
  • Для простых задач рассуждающая модель невыгодна: та же работа обычной моделью обойдётся дешевле.