Muapi ile LiteLLM

LiteLLM, Muapi’nin OpenAI uyumlu sohbet API’sini doğrudan çağırabilir veya istekleri LiteLLM Proxy üzerinden yönlendirebilir.

Python’dan doğrudan çağrı

LiteLLM’i yükleyin ve Muapi listesinden bir metin modeli kimliği seçin. Örnek kimliği mevcut modelle değiştirin.

pip install litellm
export MUAPI_API_KEY="your-key"

import os
from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)

LiteLLM Proxy yapılandırması

Aşağıdaki örnekle config.yaml oluşturup proxy’yi çalıştırın. Muapi anahtarını sunucuda tutun; YAML dosyasına yazmayın.

model_list:
  - model_name: muapi-chat
    litellm_params:
      model: openai/qwen-3-8-27b-obliterated
      api_base: https://api.muapi.ai/v1
      api_key: os.environ/MUAPI_API_KEY

export MUAPI_API_KEY="your-key"
litellm --config config.yaml

Notlar

Muapi POST /v1/chat/completions kullanır; api_base değeri https://api.muapi.ai/v1 olmalıdır. Fonksiyon çağrısı yalnızca capabilities.tools: true olan modellerde bulunur. Bu ayar sohbet içindir; görsel oluşturma ayrı API kullanır. LiteLLM OpenAI uyumlu sağlayıcı belgelerine bakın.