LiteLLM dengan Muapi

LiteLLM dapat memanggil model chat Muapi secara langsung atau menyediakannya lewat proxy. Pilih ID teks dari https://api.muapi.ai/v1/models?type=text.

from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key="YOUR_MUAPI_API_KEY",
    messages=[{"role": "user", "content": "Tulis deskripsi singkat."}],
)
print(response.choices[0].message.content)

Ganti model contoh dengan ID yang tersedia. Pada proxy, simpan key di environment server, bukan di repositori. Pemanggilan alat hanya didukung model dengan capabilities.tools: true.