Aion Llama 3.1 8B: AI 大语言模型

通过一个 API 调用 Aion Llama 3.1 8B。支持 32K token 上下文、流式传输和按 token 计费。可在 Muapi playground 免费试用。 Aion Llama 3.1 8B 是基于 Llama 3.1 的 8B 社区微调模型，专为创意写作、角色聊天和互动小说优化（未经消融处理），支持 32K token 上下文和工具调用。 Muapi 通过单一 REST 端点提供该模型，并支持异步轮询和 Server-Sent Events 流式传输，因此无需自行托管 GPU，即可将其接入聊天应用、智能体和工作流。它最适合用于故事创作与角色聊天。价格按 token 计费：输入 token 每百万 $1.6，输出 token 每百万 $3.2，无需订阅。另请参阅 Cydonia 24B v4.1. 查看完整系列，请访问 Cydonia 角色聊天 API 页面，或访问角色聊天 LLM API 中心以及消融版 LLM API 中心。仅在符合 Muapi 可接受使用政策的情况下允许成熟主题；输出质量和行为会因提示词而异。

交互式模型控制

通过一个 API 调用 Aion Llama 3.1 8B。支持 32K token 上下文、流式传输和按 token 计费。可在 Muapi playground 免费试用。

📝

概览

关于此模型

Aion Llama 3.1 8B 是基于 Llama 3.1 的 8B 社区微调模型，专为创意写作、角色聊天和互动小说优化（未经消融处理），支持 32K token 上下文和工具调用。 Muapi 通过单一 REST 端点提供该模型，并支持异步轮询和 Server-Sent Events 流式传输，因此无需自行托管 GPU，即可将其接入聊天应用、智能体和工作流。它最适合用于故事创作与角色聊天。价格按 token 计费：输入 token 每百万 $1.6，输出 token 每百万 $3.2，无需订阅。另请参阅 Cydonia 24B v4.1. 查看完整系列，请访问 Cydonia 角色聊天 API 页面，或访问角色聊天 LLM API 中心以及消融版 LLM API 中心。仅在符合 Muapi 可接受使用政策的情况下允许成熟主题；输出质量和行为会因提示词而异。

1角色聊天：通过 `system_prompt` 为 Aion Llama 3.1 8B 设定角色，并让它在长对话中保持角色一致。

2互动小说：在 [角色聊天 LLM API](/character-chat-llm-api) 中心构建文字冒险和协作故事。

3故事创作：使用专为创意写作优化的模型起草场景、对话和世界观。

💰

价格与价值

成本分析

提供商	费用	备注
muapiapp	$1.6/M input tokens and $3.2/M output tokens	按 token 计费，按实际用量结算，请求开始时预留少量最低额度。
Fal.ai	暂不可用	Aion Llama 3.1 8B 不提供托管端点。
Replicate	暂不可用	Aion Llama 3.1 8B 不提供托管端点。

muapiapp$1.6/M input tokens and $3.2/M output tokens

按 token 计费，按实际用量结算，请求开始时预留少量最低额度。

Fal.ai暂不可用

Aion Llama 3.1 8B 不提供托管端点。

Replicate暂不可用

Aion Llama 3.1 8B 不提供托管端点。

** 竞品价格根据相似模型架构和使用层级估算。

⚙️

技术详情

配置参数

参数	类型	描述	默认值
提示词	string	提供给模型的用户消息或指令。	`Stay in character as a dry-witted ship's navigator and greet the new crew member.`
系统提示词	string	可选的 system-level instruction to guide model behavior. Use it to define the character or setting.	`You are Mara, a dry-witted ship's navigator. Stay in character.`
最大 Token 数	integer	可选的 maximum number of tokens to generate.	`4096`

提示词string

提供给模型的用户消息或指令。

默认值Stay in character as a dry-witted ship's navigator and greet the new crew member.

系统提示词string

可选的 system-level instruction to guide model behavior. Use it to define the character or setting.

默认值You are Mara, a dry-witted ship's navigator. Stay in character.

最大 Token 数integer

可选的 maximum number of tokens to generate.

默认值4096

📖

实施指南

开发者文档

如何使用 Aion Llama 3.1 8B API

获取 API 密钥：在 Muapi 控制台中创建密钥。
发送提示词：向 /api/v1/aion-llama-3-1-8b 发送 POST 请求，提供 prompt（以及可选的 system_prompt 和 max_tokens，上限为 16384）。

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'

轮询或流式接收：轮询 GET /api/v1/predictions/{request_id}/result，直到 status 为 completed；也可以通过 /api/v1/aion-llama-3-1-8b/stream 实时接收生成内容。

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'

读取结果：生成文本会在 outputs 中返回。费用按实际 token 用量结算。

❓

常见问题

常见问答

Aion Llama 3.1 8B 是什么？

Aion Llama 3.1 8B 是基于 Llama 3.1 的 8B 社区微调模型，专为创意写作、角色聊天和互动小说优化（未经消融处理），支持 32K token 上下文和工具调用。

该模型针对什么进行了优化？

Aion Llama 3.1 8B 是一款专为创意写作、角色聊天和互动小说优化的社区微调模型，未经消融处理。

Aion Llama 3.1 8B 如何计费？

按 token 计费：输入 token 每百万 $1.6，输出 token 每百万 $3.2。请求开始时会预留少量最低费用，之后按实际用量结算。

Aion Llama 3.1 8B 支持流式传输吗？

可以。你可以通过 Server-Sent Events 从 `/api/v1/aion-llama-3-1-8b/stream` 实时接收 token，也可以轮询异步端点。

上下文窗口有多大？

上下文窗口约为 32K token。提示词和输出总长度必须在此范围内；`max_tokens` 上限为 16384。该端点仅接受文本输入。

允许成熟主题吗？

仅限符合 Muapi 可接受使用政策的内容。模型不保证生成任何特定内容，你有责任遵守适用法律。