Сравнение моделей
Meta: Llama 3 8B InstructMeta: Llama 3.3 70B Instruct
Живое сравнение из каталога AI Gateway: цены в рублях, контекст и возможности. Обе модели доступны через один OpenAI-совместимый API — переключение одним параметром model.
| Параметр | Meta: Llama 3 8B Instruct | Meta: Llama 3.3 70B Instruct |
|---|---|---|
| Цена, ₽/1М токенов | 22 | 50 |
| Ввод, ₽/1М | 22 | 16 |
| Вывод, ₽/1М | 22 | 50 |
| Контекст | 8K | 131K |
| Категория | Чат | Чат |
| Модальность | Текст | Текст |
| Возможности | JSON-режим | Инструменты, JSON-режим |
| Доступ | От тарифа Go | От тарифа Go |
Зелёным — лучшее значение. Цены каталога обновляются автоматически.
Когда какую выбирать
Meta: Llama 3 8B Instruct — дешевле за 1 млн токенов — выгоднее на массовых задачах.
Meta: Llama 3.3 70B Instruct — длиннее контекст — большие документы и кодовые базы целиком.
Meta: Llama 3.3 70B Instruct — поддерживает «Инструменты» — агентные и структурированные сценарии.
Подключение
Один и тот же код — меняется только параметр модели:
from openai import OpenAI
client = OpenAI(
base_url="https://ai-gatewey.ru/v1",
api_key="sk-aigate-ваш_ключ",
)
resp = client.chat.completions.create(
model="meta-llama/llama-3-8b-instruct",
messages=[{"role": "user", "content": "Привет!"}],
)
print(resp.choices[0].message.content)Попробуйте обе в деле
Один ключ и один OpenAI-совместимый API: Meta: Llama 3 8B Instruct и Meta: Llama 3.3 70B Instruct — переключение одним параметром model.