LiteLLM avec Muapi

LiteLLM peut appeler directement les modèles chat Muapi ou les exposer via son proxy. Choisissez un ID texte dans https://api.muapi.ai/v1/models?type=text.

from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key="YOUR_MUAPI_API_KEY",
    messages=[{"role": "user", "content": "Rédigez une courte description."}],
)
print(response.choices[0].message.content)

Remplacez le modèle d’exemple par un ID disponible. Pour un proxy, conservez la clé dans l’environnement du serveur et ne la committez pas. Seuls les modèles indiquant capabilities.tools: true prennent en charge l’appel d’outils.

Related guides

• openai compatible