LiteLLM с Muapi

LiteLLM может напрямую вызывать чат-модели Muapi или выдавать их через прокси. Выберите текстовый ID на https://api.muapi.ai/v1/models?type=text.

from litellm import completion

response = completion(
    model="openai/qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key="YOUR_MUAPI_API_KEY",
    messages=[{"role": "user", "content": "Напишите краткое описание."}],
)
print(response.choices[0].message.content)

Замените пример доступным ID. Для прокси храните ключ в окружении сервера, не в репозитории. Вызовы инструментов поддерживают только модели с capabilities.tools: true.

Related guides

• openai compatible