mistralai

Mixtral 8x7B Instruct

mistralai/mixtral-8x7b-instruct

Mixtral 8x7B Instruct — instruction‑модель Mistral на архитектуре Sparse Mixture of Experts, предназначенная для чата и задач следования инструкциям. Она включает 8 экспертов при общем числе 47 млрд параметров и сочетает хорошее качество с эффективным использованием вычислений. Подходит для общих текстовых задач и ассистентных сценариев.

Открыть чат Сравнить

Контекст

32K

Вход / 1M

₽61.56

Выход / 1M

₽61.56

Выпущена

10 Dec 2023

Быстрый старт

Как использовать модель

Готовые примеры, где модель уже указана в запросе.

curl https://api.routify.ru/v1/chat/completions \
  -H "Authorization: Bearer $ROUTIFY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/mixtral-8x7b-instruct",
    "messages": [
      {"role": "system", "content": "Ты - полезный ассистент."},
      {"role": "user", "content": "Объясни, что такое API"}
    ]
  }'

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ROUTIFY_API_KEY"],
    base_url="https://api.routify.ru/v1",
)

response = client.chat.completions.create(
    model="mistralai/mixtral-8x7b-instruct",
    messages=[
        {"role": "system", "content": "Ты - полезный ассистент."},
        {"role": "user", "content": "Объясни, что такое API"},
    ],
)

print(response.choices[0].message.content)

const response = await fetch("https://api.routify.ru/v1/chat/completions", {
  method: "POST",
  headers: {
    "Authorization": `Bearer ${process.env.ROUTIFY_API_KEY}`,
    "Content-Type": "application/json",
  },
  body: JSON.stringify({
    model: "mistralai/mixtral-8x7b-instruct",
    messages: [
      { role: "system", content: "Ты - полезный ассистент." },
      { role: "user", content: "Объясни, что такое API" }
    ]
  })
});

const data = await response.json();
console.log(data.choices[0].message.content);