Stheno 8B v3.2: Modelos de linguagem grande de IA

Use Stheno 8B v3.2 por meio de uma única API. 16K tokens de contexto, streaming e cobrança por token. Experimente gratuitamente no playground da Muapi.

Carregar controles interativos

Use Stheno 8B v3.2 por meio de uma única API. 16K tokens de contexto, streaming e cobrança por token. Experimente gratuitamente no playground da Muapi.

📝

Visão geral

Sobre este modelo

Stheno 8B v3.2 é um ajuste fino comunitário de 8B parâmetros baseado em Llama 3, voltado a escrita criativa, conversas com personagens e ficção interativa (não é abliterated), com janela de contexto de 16K tokens. A Muapi disponibiliza o modelo em um único endpoint REST, com consulta assíncrona e streaming por Server-Sent Events. Assim, você pode integrá-lo a aplicativos de chat, agentes e fluxos de trabalho sem hospedar GPUs. É mais indicado para conversas rápidas e econômicas com personas. O preço é cobrado por token: $0.4012/M por milhão de tokens de entrada e $0.4012/M por milhão de tokens de saída, sem assinatura. Veja também Anubis 70B v1.1, Euryale 70B v2.3, Magnum v4 72B, EVA Llama 3.33 70B, MythoMax 13B, Wayfarer 70B, Nevoria R1 70B. Confira toda a linha na página Llama API de chat com personagens ou no API de LLM para chat com personagens e no API de LLM abliterated. Temas adultos são permitidos apenas dentro da política de uso aceitável da Muapi; a qualidade e o comportamento das respostas variam conforme o prompt.

1Conversa com personagens: Atribua a Stheno 8B v3.2 uma persona por meio de `system_prompt` e mantenha conversas longas sem sair do personagem.
2Ficção interativa: Crie aventuras de texto e histórias colaborativas no [API de LLM para chat com personagens](/character-chat-llm-api).
3Criação de histórias: Escreva cenas, diálogos e construa mundos com um modelo ajustado para prosa criativa.
💰

Preço e valor

Análise de custos

muapiapp$0.4012/M input tokens and $0.4012/M output tokens

Cobrança por token, com base no uso real e um pequeno valor mínimo reservado antecipadamente.

Fal.aiNão disponível

Stheno 8B v3.2 não é oferecido como endpoint hospedado.

ReplicateNão disponível

Stheno 8B v3.2 não é oferecido como endpoint hospedado.

** Os preços dos concorrentes são estimados com base em arquiteturas de modelos e níveis de uso semelhantes.

⚙️

Detalhes técnicos

Esquema de configuração

alertastring

.

Valor padrãoStay in character as a dry-witted ship's navigator and greet the new crew member.
Alerta do sistemastring

Optional system-level instruction to guide model behavior. Use it to define the character or setting.

Valor padrãoYou are Mara, a dry-witted ship's navigator. Stay in character.
Máximo de tokensinteger

Optional maximum number of tokens to generate.

Valor padrão2048
📖

Guia de implementação

Documentação do desenvolvedor

Como usar a API do Stheno 8B v3.2 API

  1. Obtenha uma chave de API: Crie uma chave no painel da Muapi.

  2. Envie um prompt: Envie POST para prompt (e também, opcionalmente, system_prompt e max_tokens, até 8192) em /api/v1/stheno-8b-v3-2.

curl -X POST https://api.muapi.ai/api/v1/stheno-8b-v3-2 \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Consulte o status ou use streaming: Consulte GET /api/v1/predictions/{request_id}/result até que status seja completed, ou receba tokens em tempo real por /api/v1/stheno-8b-v3-2/stream.
curl -X POST https://api.muapi.ai/api/v1/stheno-8b-v3-2/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Leia o resultado: O texto gerado é retornado em outputs. O uso é cobrado com base na quantidade real de tokens.
❓

Perguntas comuns

Perguntas frequentes

O que é Stheno 8B v3.2?

Stheno 8B v3.2 é um ajuste fino comunitário de 8B parâmetros baseado em Llama 3, voltado a escrita criativa, conversas com personagens e ficção interativa (não é abliterated), com janela de contexto de 16K tokens.

Para que este modelo foi ajustado?

Stheno 8B v3.2 é um modelo ajuste fino comunitário voltado a escrita criativa, conversas com personagens e ficção interativa. It seja not an abliterated model.

Como funciona o preço de Stheno 8B v3.2?

A cobrança é por token: $0.4012/M/M de tokens de entrada e $0.4012/M tokens de saída. Um pequeno valor mínimo é reservado quando a solicitação começa e ajustado ao uso real.

O modelo Stheno 8B v3.2 oferece suporte a streaming?

Sim. Receba tokens em tempo real de `/api/v1/stheno-8b-v3-2/stream` usando Server-Sent Events ou consulte o endpoint assíncrono.

Qual é o tamanho da janela de contexto?

A janela de contexto é de aproximadamente 16K tokens. O prompt e a resposta, somados, devem caber nela; `max_tokens` tem limite de 8192. O endpoint aceita apenas texto.

Temas adultos são permitidos?

Somente dentro da política de uso aceitável da Muapi. Não há garantia de que o modelo gere um conteúdo específico, e você continua responsável por cumprir as leis aplicáveis.