Aion Llama 3.1 8B: AI Large Language Models

Utilisez Aion Llama 3.1 8B avec une seule API. 32K de contexte, diffusion en continu et tarification à l’usage. Essayez gratuitement dans l’aire de jeu Muapi.

Commandes interactives du modèle

Utilisez Aion Llama 3.1 8B avec une seule API. 32K de contexte, diffusion en continu et tarification à l’usage. Essayez gratuitement dans l’aire de jeu Muapi.

📝

Aperçu

À propos de ce modèle

Aion Llama 3.1 8B est un ajustement fin communautaire de 8B paramètres basé sur Llama 3.1, axé sur l’écriture créative, le dialogue avec des personnages et la fiction interactive (il n’est pas abliterated), avec une fenêtre de contexte de 32K-token context window and tool-calling support. Muapi le propose via un unique point de terminaison REST avec interrogation asynchrone et diffusion par Server-Sent Events. Vous pouvez ainsi l’intégrer à des applications de chat, des agents et des workflows sans héberger de GPU. Il convient aux dialogues légers avec des personnages. La tarification est à l’usage, par jeton : $1.6/M jetons en entrée et $3.2/M jetons en sortie, sans abonnement. Voir aussi Cydonia 24B v4.1. Découvrez toute la gamme sur la page Cydonia Character Chat API ou sur le hub Character Chat LLM API hub ainsi que le hub Abliterated LLM API hub. Les thèmes adultes sont autorisés uniquement dans le cadre de la politique d’utilisation acceptable de Muapi ; la qualité et le comportement des réponses varient selon les invites.

1Dialogue avec un personnage : attribuez à Aion Llama 3.1 8B une personnalité via `system_prompt` et maintenez le personnage tout au long des longues conversations.
2Fiction interactive : créez des aventures textuelles et des récits collaboratifs sur le [Character Chat LLM API](/character-chat-llm-api) hub.
3Écriture de récits : rédigez des scènes, des dialogues et des univers avec un modèle optimisé pour la prose créative.
💰

Prix ​​et valeur

Analyse des coûts

muapiapp$1.6/M input tokens and $3.2/M output tokens

Facturation à l’utilisation par jeton, selon l’utilisation réelle, avec un petit montant minimum réservé au départ.

Fal.aiNon disponible

Aion Llama 3.1 8B n’est pas proposé comme point de terminaison hébergé.

ReplicateNon disponible

Aion Llama 3.1 8B n’est pas proposé comme point de terminaison hébergé.

** Les prix des concurrents sont estimés sur la base d'architectures de modèles et de niveaux d'utilisation similaires.

⚙️

Détails techniques

Schéma de configuration

invitestring

.

Valeur par défautStay in character as a dry-witted ship's navigator and greet the new crew member.
Invite systèmestring

Optional system-level instruction to guide model behavior. Use it to define the character or setting.

Valeur par défautYou are Mara, a dry-witted ship's navigator. Stay in character.
Nombre maximum de jetonsinteger

Optional maximum number of tokens to generate.

Valeur par défaut4096
📖

Guide de mise en œuvre

Documentation du développeur

Comment utiliser Aion Llama 3.1 8B API

  1. Obtenir une clé API: Créez une clé dans votre tableau de bord Muapi.

  2. Envoyer une invite: Envoyez POST prompt (avec system_prompt et max_tokens facultatifs, jusqu’à 16384) vers /api/v1/aion-llama-3-1-8b.

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Interroger le résultat ou diffuser la réponse: Interrogez GET /api/v1/predictions/{request_id}/result jusqu’à ce que status soit completed, ou diffusez les jetons en direct depuis /api/v1/aion-llama-3-1-8b/stream.
curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Lire le résultat: Le texte généré est renvoyé dans outputs. La facturation repose sur le nombre réel de jetons utilisés.
❓

Questions courantes

Foire aux questions

Qu’est-ce que Aion Llama 3.1 8B?

Aion Llama 3.1 8B est un ajustement fin communautaire de 8B paramètres basé sur Llama 3.1, axé sur l’écriture créative, le dialogue avec des personnages et la fiction interactive (il n’est pas abliterated), avec une fenêtre de contexte de 32K-token context window and tool-calling support.

Pour quels usages ce modèle est-il optimisé ?

Aion Llama 3.1 8B is a community fine-tune tuned for creative writing, character chat and interactive fiction. It is not an abliterated model.

Comment est facturé Aion Llama 3.1 8B ?

La facturation est calculée par jeton : $1.6/M jetons en entrée et $3.2/M jetons en sortie. Un faible montant minimal est réservé au lancement de la requête, puis ajusté selon l’utilisation réelle.

Est-ce que Aion Llama 3.1 8B prend en charge la diffusion en continu ?

Oui. Diffusez les jetons en direct depuis `/api/v1/aion-llama-3-1-8b/stream` avec Server-Sent Events, ou interrogez le point de terminaison asynchrone.

Quelle est la taille de la fenêtre de contexte ?

La fenêtre de contexte est d’environ 32K jetons. L’invite et la réponse doivent tenir ensemble dans cette limite ; `max_tokens` est plafonné à 16384. Le point de terminaison accepte uniquement du texte en entrée.

Les thèmes adultes sont-ils autorisés ?

Uniquement dans le respect de la politique d’utilisation acceptable de Muapi. Le modèle ne garantit aucun contenu particulier et vous restez responsable du respect des lois applicables.