Сравнение моделей Llama 3 8B Instruct vs o3-mini

× meta-llama/llama-3-8b-instruct

Llama 3 8B Instruct — компактная instruction‑модель семейства Llama 3, оптимизированная для качественных диалоговых сценариев. Она хорошо подходит для чат‑приложений и общих текстовых задач, где важны скорость, управляемость и разумная стоимость. Это практичный вариант для лёгких ассистентных сценариев.

× openai/o3-mini

OpenAI o3-mini — экономичная языковая модель, оптимизированная для задач рассуждений в STEM, особенно сильная в науке, математике и программировании. Эта модель поддерживает параметр `reasoning_effort`, который можно установить в значения "high", "medium" или "low" для управления временем на рассуждения. Значение по умолчанию — "medium". OpenRouter также предлагает слаг модели `openai/o3-mini-high`, чтобы по умолчанию использовать параметр "high". Модель имеет три регулируемых уровня усилия рассуждений и поддерживает ключевые возможности для разработчиков, включая вызов функций, структурированные выходные данные и стриминг, но не поддерживает обработку изображений. Модель демонстрирует значительные улучшения по сравнению с предшественником: эксперты предпочитали её ответы в 56% случаев и отмечали снижение серьёзных ошибок на сложных вопросах на 39%. При среднем уровне усилия рассуждений o3-mini соответствует производительности более крупной модели o1 на сложных оценках рассуждений, таких как AIME и GPQA, сохраняя меньшую задержку и стоимость.