Stheno 8B v3.2: Большие языковые модели искусственного интеллекта

Call Stheno 8B v3.2 through one API. 16K-token context, streaming and pay-per-token pricing. Try free in the Muapi playground. Stheno 8B v3.2 — пользовательская дообученная модель на 8B параметров на базе Llama 3 для творческого письма, общения от лица персонажа и интерактивной прозы (без модификаций для снижения отказов), с контекстом 16K токенов. Muapi предоставляет единую конечную точку REST с асинхронной проверкой статуса и потоковой передачей через Server-Sent Events. Подключайте модель к чат-приложениям, агентам и рабочим процессам без размещения GPU. It лучше всего подходит для fast, low-cost persona chat. Оплата взимается за токены: $0.4012/M за токены на входе и $0.4012/M за токены на выходе; подписка не нужна. См. также Anubis 70B v1.1, Euryale 70B v2.3, Magnum v4 72B, EVA Llama 3.33 70B, MythoMax 13B, Wayfarer 70B, Nevoria R1 70B. Вся линейка представлена на странице Llama Character Chat API или в разделе Character Chat LLM API hub and the Abliterated LLM API . Темы для взрослых допустимы только в рамках правил использования Muapi; качество и поведение модели зависят от запроса.

Интерактивное управление моделью

Call Stheno 8B v3.2 through one API. 16K-token context, streaming and pay-per-token pricing. Try free in the Muapi playground.

📝

Обзор

Об этой модели

Stheno 8B v3.2 — пользовательская дообученная модель на 8B параметров на базе Llama 3 для творческого письма, общения от лица персонажа и интерактивной прозы (без модификаций для снижения отказов), с контекстом 16K токенов. Muapi предоставляет единую конечную точку REST с асинхронной проверкой статуса и потоковой передачей через Server-Sent Events. Подключайте модель к чат-приложениям, агентам и рабочим процессам без размещения GPU. It лучше всего подходит для fast, low-cost persona chat. Оплата взимается за токены: $0.4012/M за токены на входе и $0.4012/M за токены на выходе; подписка не нужна. См. также Anubis 70B v1.1, Euryale 70B v2.3, Magnum v4 72B, EVA Llama 3.33 70B, MythoMax 13B, Wayfarer 70B, Nevoria R1 70B. Вся линейка представлена на странице Llama Character Chat API или в разделе Character Chat LLM API hub and the Abliterated LLM API . Темы для взрослых допустимы только в рамках правил использования Muapi; качество и поведение модели зависят от запроса.

1Общение от лица персонажа: задайте модели Stheno 8B v3.2 a persona through `system_prompt` and keep long conversations in character.
2Интерактивная проза: создавайте текстовые приключения и совместные истории в разделе [Character Chat LLM API](/character-chat-llm-api) .
3Написание историй: создавайте сцены, диалоги и описания мира с моделью, настроенной на художественный текст.
💰

Цены и стоимость

Анализ затрат

muapiapp$0.4012/M input tokens and $0.4012/M output tokens

Оплата за токены по фактическому использованию; при запуске резервируется небольшая минимальная сумма.

Fal.aiНедоступно

Stheno 8B v3.2 не предоставляется в виде размещённой конечной точки.

ReplicateНедоступно

Stheno 8B v3.2 не предоставляется в виде размещённой конечной точки.

** Цены конкурентов рассчитаны на основе аналогичных архитектур моделей и уровней использования.

⚙️

Технические детали

Схема конфигурации

подсказатьstring

.

Значение по умолчаниюStay in character as a dry-witted ship's navigator and greet the new crew member.
Системная подсказкаstring

Optional system-level instruction to guide model behavior. Use it to define the character or setting.

Значение по умолчаниюYou are Mara, a dry-witted ship's navigator. Stay in character.
Максимальное количество токеновinteger

Optional maximum number of tokens to generate.

Значение по умолчанию2048
📖

Руководство по внедрению

Документация разработчика

Как использовать Stheno 8B v3.2 API

  1. Получите ключ API: Создайте ключ в панели управления Muapi.

  2. Отправьте запрос: POST prompt (plus optional system_prompt and max_tokens, up to 8192) to /api/v1/stheno-8b-v3-2.

curl -X POST https://api.muapi.ai/api/v1/stheno-8b-v3-2 \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Проверяйте статус или включите потоковую передачу: Poll GET /api/v1/predictions/{request_id}/result until status is completed, or stream tokens live from /api/v1/stheno-8b-v3-2/stream.
curl -X POST https://api.muapi.ai/api/v1/stheno-8b-v3-2/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Получите результат: The generated text is returned in outputs. Usage is billed on actual token counts.
❓

Общие вопросы

Часто задаваемые

Что такое Stheno 8B v3.2?

Stheno 8B v3.2 — пользовательская дообученная модель на 8B параметров на базе Llama 3 для творческого письма, общения от лица персонажа и интерактивной прозы (без модификаций для снижения отказов), с контекстом 16K токенов.

Что такое this model tuned for?

Stheno 8B v3.2 — пользовательская дообученная модель для творческого письма, общения от лица персонажа и интерактивной прозы. Это не модель abliterated.

Какова стоимость Stheno 8B v3.2?

Оплата рассчитывается за токены: $0.4012/M за токены на входе и $0.4012/M output tokens. При запуске запроса резервируется небольшой минимальный объём, затем сумма корректируется по фактическому использованию.

Поддерживает ли Stheno 8B v3.2 потоковую передачу?

Да. Передавайте токены в реальном времени с помощью `/api/v1/stheno-8b-v3-2/stream` через Server-Sent Events или проверяйте результат асинхронного запроса.

Что такое the context window?

Контекстное окно составляет около 16K токенов. Запрос и ответ вместе должны помещаться в это окно; `max_tokens` ограничен значением 8192. The endpoint accepts text input only.

Допускаются ли темы для взрослых?

Только в рамках правил допустимого использования Muapi. Модель не гарантирует создание какого-либо конкретного контента; вы отвечаете за соблюдение применимых законов.