LiteLLM で Muapi を使う

LiteLLM から Muapi の OpenAI 互換チャット API を直接呼び出すか、LiteLLM プロキシ経由で利用できます。モデル ID は https://api.muapi.ai/v1/models?type=text で確認します。

from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key="YOUR_MUAPI_API_KEY",
    messages=[{"role": "user", "content": "短い説明を書いてください。"}],
)
print(response.choices[0].message.content)

モデル名は一覧の ID に置き換えます。プロキシで使う場合も api_base とキーはサーバー側の設定に保存し、キーをリポジトリへコミットしないでください。ツール呼び出しは capabilities.tools: true のモデルだけが対応します。

Related guides

• openai compatible