Meta: Llama 3.1 8B InstructMeta: Llama 3.3 70B Instruct
Живое сравнение из каталога AI Gateway: цены в рублях, контекст и возможности. Обе модели доступны через один OpenAI-совместимый API — переключение одним параметром model.
| Параметр | Meta: Llama 3.1 8B Instruct | Meta: Llama 3.3 70B Instruct |
|---|---|---|
| Цена, ₽/1М токенов | 11 | 124 |
| Ввод, ₽/1М | 8 | 39 |
| Вывод, ₽/1М | 11 | 124 |
| Контекст | 131K | 131K |
| Категория | Чат | Чат |
| Модальность | Текст | Текст |
| Возможности | Инструменты, JSON-режим | Инструменты, JSON-режим |
| Доступ | От тарифа Go | От тарифа Go |
Зелёным — лучшее значение. Цены каталога обновляются автоматически.
Чем Meta: Llama 3.1 8B Instruct отличается от Meta: Llama 3.3 70B Instruct
Meta: Llama 3.1 8B Instruct дешевле: 11 ₽ за 1 млн токенов против 124 ₽ у Meta: Llama 3.3 70B Instruct — разница в 10,9 раза. На объёме 10 млн токенов в месяц это 1 123 ₽ разницы в счёте.
Вывод у Meta: Llama 3.3 70B Instruct дороже ввода в 3,2 раза, у Meta: Llama 3.1 8B Instruct — в 1,5 раза. Если задача генерирует длинные ответы, а не читает документы, выгоднее Meta: Llama 3.1 8B Instruct.
Когда какую выбирать
Meta: Llama 3.1 8B Instruct — дешевле за 1 млн токенов — выгоднее на массовых задачах.
Подключение
Один и тот же код — меняется только параметр модели:
from openai import OpenAI
client = OpenAI(
base_url="https://ai-gatewey.ru/v1",
api_key="sk-aigate-ваш_ключ",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.1-8b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)Попробуйте обе в деле
Один ключ и один OpenAI-совместимый API: Meta: Llama 3.1 8B Instruct и Meta: Llama 3.3 70B Instruct — переключение одним параметром model.