LlamaIndex với Muapi

Dùng adapter OpenAILike của LlamaIndex để gọi mô hình văn bản Muapi qua endpoint trò chuyện tương thích OpenAI.

Cài đặt

Cài các gói và chọn ID mô hình văn bản trong danh sách Muapi.

pip install llama-index-core llama-index-llms-openai-like
export MUAPI_API_KEY="your-key"

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("Hello"))

Cấu hình LLM

Đặt is_chat_model=True. Chỉ đặt is_function_calling_model=True nếu mô hình có capabilities.tools: true; nếu không, đặt False.

Lưu ý

api_base là https://api.muapi.ai/v1, không kèm /chat/completions. Tích hợp này không cấu hình embedding; hãy chọn nhà cung cấp embedding riêng cho pipeline truy xuất. Xem tài liệu OpenAILike.