meta-llama

Meta-Llama-3.1-8B-Instruct-Turbo

meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo

Meta-Llama-3.1-8B-Instruct-Turbo — ускоренная версия instruction‑модели семейства Llama 3.1 на 8B параметров. Подходит для чата, базовой генерации текста и других сценариев, где особенно важны скорость и невысокая стоимость запуска. Хороший выбор для лёгких продакшн‑нагрузок.

Открыть чат Сравнить

Контекст

131K

Вход / 1M

₽2.28

Выход / 1M

₽3.42

Выпущена

—

Быстрый старт

Как использовать модель

Готовые примеры, где модель уже указана в запросе.

curl https://api.routify.ru/v1/chat/completions \
  -H "Authorization: Bearer $ROUTIFY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo",
    "messages": [
      {"role": "system", "content": "Ты - полезный ассистент."},
      {"role": "user", "content": "Объясни, что такое API"}
    ]
  }'

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ROUTIFY_API_KEY"],
    base_url="https://api.routify.ru/v1",
)

response = client.chat.completions.create(
    model="meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo",
    messages=[
        {"role": "system", "content": "Ты - полезный ассистент."},
        {"role": "user", "content": "Объясни, что такое API"},
    ],
)

print(response.choices[0].message.content)

const response = await fetch("https://api.routify.ru/v1/chat/completions", {
  method: "POST",
  headers: {
    "Authorization": `Bearer ${process.env.ROUTIFY_API_KEY}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify({
    model: "meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo",
    messages: [
      { role: "system", content: "Ты - полезный ассистент." },
      { role: "user", content: "Объясни, что такое API" }
    ]
  })
});

const data = await response.json();
console.log(data.choices[0].message.content);