Muapi ile LlamaIndex

Muapi metin modellerini OpenAI uyumlu sohbet API’sinden çağırmak için LlamaIndex OpenAILike adaptörünü kullanın.

Kurulum

Paketleri yükleyin ve Muapi listesinden metin modeli kimliği seçin.

pip install llama-index-core llama-index-llms-openai-like
export MUAPI_API_KEY="your-key"

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("Hello"))

LLM yapılandırması

is_chat_model=True ayarlayın. Yalnızca modelde capabilities.tools: true varsa is_function_calling_model=True kullanın; yoksa False yapın.

Notlar

api_base, /chat/completions olmadan https://api.muapi.ai/v1 şeklindedir. Bu entegrasyon embedding ayarlamaz; retrieval için ayrı embedding sağlayıcısı seçin. OpenAILike belgelerine bakın.