Cohere: Command R+ (08-2024)

command-r-plus-08-2024 is an update of the [Command R+](/models/cohere/command-r-plus) with roughly 50% higher throughput and 25% lower latencies as compared to the previous Command R+ version, while keeping the hardware footprint...

Доступна через единый OpenAI-совместимый API AI Gateway: подключайтесь через привычный SDK — меняется только base_url и параметр model. Оплата в рублях, контроль расхода и данные в РФ.

from openai import OpenAI

client = OpenAI(
    base_url="https://ai-gatewey.ru/v1",
    api_key="sk-aigate-ваш_ключ",
)

resp = client.chat.completions.create(
    model="cohere/command-r-plus-08-2024",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)