在 LiteLLM 中使用 Muapi

LiteLLM 可以直接调用 Muapi 的 OpenAI 兼容聊天接口，也可以通过 LiteLLM 代理提供该模型。

直接调用

安装 litellm，在 Muapi 控制台创建密钥，并从 https://api.muapi.ai/v1/models?type=text 选择模型。

import os
from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    messages=[{"role": "user", "content": "写一段简短的项目简介。"}],
)
print(response.choices[0].message.content)

将示例模型替换为列表中的准确 ID。

LiteLLM 代理

在 config.yaml 中定义模型：

model_list:
  - model_name: muapi-chat
    litellm_params:
      model: openai/qwen-3-8-27b-obliterated
      api_base: https://api.muapi.ai/v1
      api_key: os.environ/MUAPI_API_KEY

设置 MUAPI_API_KEY 后运行 litellm --config config.yaml。密钥应保存在服务器环境中，不要提交到配置文件或代码仓库。工具调用仅适用于 Muapi 模型列表中标记 capabilities.tools: true 的模型。图像生成是单独 API，见 OpenAI 兼容 API。