Muapi के साथ LlamaIndex

Muapi चैट मॉडल कॉल करने के लिए LlamaIndex का OpenAILike adapter उपयोग करें।

pip install llama-index-core llama-index-llms-openai-like
import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("वेक्टर इंडेक्स को एक वाक्य में समझाएं।"))

https://api.muapi.ai/v1/models?type=text का सटीक ID लें। is_function_calling_model=True तभी रखें जब capabilities.tools true हो। यह चैट इंटीग्रेशन है, embeddings नहीं। OpenAILike दस्तावेज़ देखें।