LiteLLM با Muapi
LiteLLM میتواند مستقیماً API چت سازگار با OpenAI را فراخوانی کند یا درخواستها را از طریق LiteLLM Proxy عبور دهد.
فراخوانی مستقیم Python
LiteLLM را نصب کنید و شناسه مدل متن را از فهرست Muapi انتخاب کنید. شناسه نمونه را با مدل موجود جایگزین کنید.
pip install litellm
export MUAPI_API_KEY="your-key"
import os
from litellm import completion
response = completion(
model="openai/qwen-3-8-27b-obliterated",
api_base="https://api.muapi.ai/v1",
api_key=os.environ["MUAPI_API_KEY"],
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)
پیکربندی LiteLLM Proxy
فایل config.yaml را با نمونه زیر بسازید و proxy را اجرا کنید. کلید Muapi را روی سرور نگه دارید و در فایل پیکربندی قرار ندهید.
model_list:
- model_name: muapi-chat
litellm_params:
model: openai/qwen-3-8-27b-obliterated
api_base: https://api.muapi.ai/v1
api_key: os.environ/MUAPI_API_KEY
export MUAPI_API_KEY="your-key"
litellm --config config.yaml
نکتهها
Muapi از POST /v1/chat/completions با api_base برابر https://api.muapi.ai/v1 استفاده میکند. فراخوانی تابع فقط برای مدلهای دارای capabilities.tools: true پشتیبانی میشود. این تنظیم برای چت است؛ تولید تصویر API جداگانه دارد. مستندات provider سازگار OpenAI در LiteLLM را ببینید.