Meta: Llama 3.1 8B Instruct — API в рублях

Цена

	₽ за 1M токенов
Вход (prompt)	5,53
Выход (completion)	8,84

Курс сегодня: 110,45 ₽/$. Стоимость списывается по факту использованных токенов; за упавшие запросы не списываем.

⚡ Кеш-скидку −50% отдаём вам целиком

Агент (Claude Code, Cursor) пересылает историю на каждом ходу — meta-llama тарифицирует повторные токены со скидкой −50%, и мы передаём её полностью. На этой модели типовой час агентной сессии обходится так:

без кеша

7 ₽

→

с кешем на Neurly

≈ 4 ₽

Оценка для сессии ~1,2 млн входных токенов (≈88% повторных). Точная сумма каждой сессии — в журнале. Как это работает и как проверить →

Характеристики

Контекст	131 072 токенов
Провайдер	meta-llama
Модальности	text->text
Дата релиза	23.07.2024

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...

Как подключить Meta: Llama 3.1 8B Instruct

🖱 Быстрее всего — авто-настройка

Для Claude Code и Codex CLI при создании ключа можно скачать скрипт — он всё пропишет сам, конфиги ниже трогать не нужно.

Создать ключ

Слаг модели уже подставлен — скопируйте конфиг под свой инструмент, или подключите вручную. Ключ создаётся в кабинете.

# ~/.claude/settings.json
{
  "env": {
    "ANTHROPIC_BASE_URL": "https://neurly.ru",
    "ANTHROPIC_AUTH_TOKEN": "sk-neurly-...",
    "ANTHROPIC_MODEL": "meta-llama/llama-3.1-8b-instruct"
  }
}

Полный гайд по Claude Code →

# Cursor: Settings → Models → OpenAI API Key → Override Base URL
# Cline / Kilo Code / Roo Code: провайдер «OpenAI Compatible»
Base URL:  https://neurly.ru/v1
API Key:   sk-neurly-...
Model ID:  meta-llama/llama-3.1-8b-instruct

Гайд по Cursor, Cline и Roo →

# ~/.codex/config.toml
model = "meta-llama/llama-3.1-8b-instruct"
model_provider = "neurly"

[model_providers.neurly]
name = "Neurly"
base_url = "https://neurly.ru/v1"
env_key = "NEURLY_API_KEY"
wire_api = "responses"

Гайд по Codex CLI →

from openai import OpenAI

client = OpenAI(base_url="https://neurly.ru/v1", api_key="sk-neurly-...")
reply = client.chat.completions.create(
    model="meta-llama/llama-3.1-8b-instruct",
    messages=[{"role": "user", "content": "Привет!"}],
)
print(reply.choices[0].message.content)

curl https://neurly.ru/v1/chat/completions \
  -H "Authorization: Bearer sk-neurly-..." \
  -H "Content-Type: application/json" \
  -d '{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Привет!"}]}'

Не получается подключить Meta: Llama 3.1 8B Instruct?

Поможем настроить ваш инструмент под эту модель — бесплатно, обычно в течение пары часов.

Поможем настроить