Aion Llama 3.1 8B: Modelos de linguagem grande de IA

Acesse Aion Llama 3.1 8B por uma única API. 32K tokenss de contexto, streaming e cobrança por token. Experimente grátis no playground da Muapi. Aion Llama 3.1 8B é um modelo de 8B baseado em Llama 3.1 ajuste fino comunitário de 32K tokens janela de contexto opcional e suporte a chamadas de ferramentas. A Muapi disponibiliza o modelo por um único endpoint REST, com consulta assíncrona e streaming via Server-Sent Events, para integrá-lo a aplicativos de chat, agentes e fluxos de trabalho sem hospedar GPUs. É mais indicado para conversas leves com personagens. A cobrança é por token: $1.6/M tokens de entrada e $3.2/M tokens de saída, sem assinatura. Veja também Cydonia 24B v4.1. Confira todos os modelos na página Cydonia Character Chat API ou no hub Character Chat LLM API e no hub Abliterated LLM API hub. Temas adultos são permitidos somente conforme a política de uso aceitável da Muapi; a qualidade e o comportamento das respostas variam conforme o prompt.

Carregar controles interativos

Acesse Aion Llama 3.1 8B por uma única API. 32K tokenss de contexto, streaming e cobrança por token. Experimente grátis no playground da Muapi.

📝

Visão geral

Sobre este modelo

Aion Llama 3.1 8B é um modelo de 8B baseado em Llama 3.1 ajuste fino comunitário de 32K tokens janela de contexto opcional e suporte a chamadas de ferramentas. A Muapi disponibiliza o modelo por um único endpoint REST, com consulta assíncrona e streaming via Server-Sent Events, para integrá-lo a aplicativos de chat, agentes e fluxos de trabalho sem hospedar GPUs. É mais indicado para conversas leves com personagens. A cobrança é por token: $1.6/M tokens de entrada e $3.2/M tokens de saída, sem assinatura. Veja também Cydonia 24B v4.1. Confira todos os modelos na página Cydonia Character Chat API ou no hub Character Chat LLM API e no hub Abliterated LLM API hub. Temas adultos são permitidos somente conforme a política de uso aceitável da Muapi; a qualidade e o comportamento das respostas variam conforme o prompt.

1Conversa com personagens: atribua a Aion Llama 3.1 8B uma persona por meio de `system_prompt` e mantenha conversas longas sem sair do personagem.
2Ficção interativa: crie aventuras de texto e histórias colaborativas no hub [Character Chat LLM API](/character-chat-llm-api) hub.
3Escrita de histórias: crie cenas, diálogos e mundos com um modelo voltado à prosa criativa.
💰

Preço e valor

Análise de custos

muapiapp$1.6/M input tokens and $3.2/M output tokens

Cobrança por token, com base no uso real e um pequeno valor mínimo reservado antecipadamente.

Fal.aiNão disponível

Aion Llama 3.1 8B não é oferecido como endpoint hospedado.

ReplicateNão disponível

Aion Llama 3.1 8B não é oferecido como endpoint hospedado.

** Os preços dos concorrentes são estimados com base em arquiteturas de modelos e níveis de uso semelhantes.

⚙️

Detalhes técnicos

Esquema de configuração

alertastring

.

Valor padrãoStay in character as a dry-witted ship's navigator and greet the new crew member.
Alerta do sistemastring

Optional system-level instruction to guide model behavior. Use it to define the character or setting.

Valor padrãoYou are Mara, a dry-witted ship's navigator. Stay in character.
Máximo de tokensinteger

Optional maximum number of tokens to generate.

Valor padrão4096
📖

Guia de implementação

Documentação do desenvolvedor

Como usar a API Aion Llama 3.1 8B API

  1. Obtenha uma chave de API: crie uma chave no painel da Muapi.

  2. Envie um prompt: faça POST de prompt (com system_prompt opcional e max_tokens, até 16384) para /api/v1/aion-llama-3-1-8b.

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Consulte ou transmita: consulte GET /api/v1/predictions/{request_id}/result até que status is completed, ou transmita tokens em tempo real de /api/v1/aion-llama-3-1-8b/stream.
curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Leia o resultado: o texto gerado é retornado em outputs. O uso é cobrado conforme a quantidade real de tokens.
❓

Perguntas comuns

Perguntas frequentes

O que é Aion Llama 3.1 8B?

Aion Llama 3.1 8B é um modelo de 8B baseado em Llama 3.1 ajuste fino comunitário de 32K tokens janela de contexto opcional e suporte a chamadas de ferramentas.

Para que este modelo foi ajustado?

Aion Llama 3.1 8B é um ajuste fino comunitário voltado à escrita criativa, conversa com personagens e ficção interativa. Não é um modelo abliterated.

Como funciona a cobrança de Aion Llama 3.1 8B?

A cobrança é por token: $1.6/M tokens de entrada e $3.2/M tokens de saída. Um valor mínimo pequeno é reservado no início da solicitação e ajustado ao uso real.

oferece streaming?Aion Llama 3.1 8B

Sim. Transmita tokens em tempo real de `/api/v1/aion-llama-3-1-8b/stream` usando Server-Sent Events ou consulte o endpoint assíncrono.

Qual é o tamanho da janela de contexto?

A janela de contexto é de cerca de 32K tokens. O prompt e a resposta juntos devem caber nela; `max_tokens` tem limite de 16384. O endpoint aceita somente texto.

Temas adultos são permitidos?

Somente dentro da política de uso aceitável da Muapi. Não há garantia de que o modelo produza determinado conteúdo, e você continua responsável por cumprir as leis aplicáveis.