Meta: Llama 3.1 70B Instruct
meta-llama/llama-3.1-70b-instructMeta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 70B instruct-tuned version is optimized for high quality dialogue usecases. It has demonstrated strong...
Доступна через единый OpenAI-совместимый API AI Gateway: подключайтесь через привычный SDK — меняется только base_url и параметр model. Оплата в рублях, контроль расхода и данные в РФ.
Возможности:ИнструментыJSON-режим
Быстрый старт
Первый запрос к meta-llama/llama-3.1-70b-instruct — скопируйте и подставьте свой ключ.
from openai import OpenAI
client = OpenAI(
base_url="https://ai-gatewey.ru/v1",
api_key="sk-aigate-ваш_ключ",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.1-70b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)