К содержимому
Сравнение моделей

OpenAI: GPT-3.5 Turbo (older v0613)OpenAI: GPT-3.5 Turbo 16k

Живое сравнение из каталога AI Gateway: цены в рублях, контекст и возможности. Обе модели доступны через один OpenAI-совместимый API — переключение одним параметром model.

ПараметрOpenAI: GPT-3.5 Turbo (older v0613)OpenAI: GPT-3.5 Turbo 16k
Цена, ₽/1М токенов314627
Ввод, ₽/1М157470
Вывод, ₽/1М314627
Контекст4K16K
КатегорияЧатЧат
МодальностьТекстТекст
ВозможностиИнструменты, JSON-режимИнструменты, JSON-режим
ДоступОт тарифа ProОт тарифа Pro

Зелёным — лучшее значение. Цены каталога обновляются автоматически.

Чем OpenAI: GPT-3.5 Turbo (older v0613) отличается от OpenAI: GPT-3.5 Turbo 16k

OpenAI: GPT-3.5 Turbo (older v0613) дешевле: 314 ₽ за 1 млн токенов против 627 ₽ у OpenAI: GPT-3.5 Turbo 16k — разница в 2 раза. На объёме 10 млн токенов в месяц это 3 135 ₽ разницы в счёте.

Вывод у OpenAI: GPT-3.5 Turbo (older v0613) дороже ввода в 2 раза, у OpenAI: GPT-3.5 Turbo 16k — в 1,3 раза. Если задача генерирует длинные ответы, а не читает документы, выгоднее OpenAI: GPT-3.5 Turbo 16k.

Контекст OpenAI: GPT-3.5 Turbo 16k — 16K против 4K: примерно 25 страниц текста за один запрос против 6. Для анализа больших документов и кодовых баз это решающее отличие.

Когда какую выбирать

OpenAI: GPT-3.5 Turbo (older v0613) дешевле за 1 млн токенов — выгоднее на массовых задачах.

OpenAI: GPT-3.5 Turbo 16k длиннее контекст — большие документы и кодовые базы целиком.

Подключение

Один и тот же код — меняется только параметр модели:

from openai import OpenAI

client = OpenAI(
    base_url="https://ai-gatewey.ru/v1",
    api_key="sk-aigate-ваш_ключ",
)

resp = client.chat.completions.create(
    model="openai/gpt-3.5-turbo-0613",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)

Попробуйте обе в деле

Один ключ и один OpenAI-совместимый API: OpenAI: GPT-3.5 Turbo (older v0613) и OpenAI: GPT-3.5 Turbo 16k — переключение одним параметром model.