LlamaIndex با Muapi

با adapter به نام OpenAILike در LlamaIndex از مدل‌های متن Muapi در API چت سازگار با OpenAI استفاده کنید.

نصب

بسته‌ها را نصب و شناسه مدل متنی را از فهرست Muapi انتخاب کنید.

pip install llama-index-core llama-index-llms-openai-like
export MUAPI_API_KEY="your-key"

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("Hello"))

تنظیم LLM

is_chat_model=True را تنظیم کنید. فقط اگر capabilities.tools: true است، is_function_calling_model=True باشد؛ در غیر این صورت False قرار دهید.

نکته‌ها

مقدار api_base برابر https://api.muapi.ai/v1 و بدون /chat/completions است. این اتصال embedding را پیکربندی نمی‌کند؛ برای بازیابی، ارائه‌دهنده embedding جداگانه انتخاب کنید. مستندات OpenAILike را ببینید.