LiteLLM med Muapi

LiteLLM kan anropa Muapis chattmodeller direkt eller göra dem tillgängliga via en proxy. Välj ett text-ID från https://api.muapi.ai/v1/models?type=text.

from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key="YOUR_MUAPI_API_KEY",
    messages=[{"role": "user", "content": "Skriv en kort beskrivning."}],
)
print(response.choices[0].message.content)

Byt exempelmodellen mot ett tillgängligt ID. Med proxy ska nyckeln ligga i serverns miljö, inte i repositoryt. Verktygsanrop stöds bara av modeller med capabilities.tools: true.

Related guides

• openai compatible