LlamaIndex กับ Muapi

ใช้ adapter OpenAILike ของ LlamaIndex เพื่อเรียกโมเดลข้อความ Muapi ผ่าน API แชตที่รองรับ OpenAI

ติดตั้ง

ติดตั้งแพ็กเกจและเลือก ID โมเดลข้อความจากรายการ Muapi

pip install llama-index-core llama-index-llms-openai-like
export MUAPI_API_KEY="your-key"

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("Hello"))

ตั้งค่า LLM

กำหนด is_chat_model=True ตั้ง is_function_calling_model=True เฉพาะเมื่อโมเดลมี capabilities.tools: true หากไม่รองรับให้ตั้งเป็น False

หมายเหตุ

api_base คือ https://api.muapi.ai/v1 โดยไม่ต้องต่อท้าย /chat/completions การเชื่อมต่อนี้ไม่ตั้งค่า embedding ให้เลือกผู้ให้บริการ embedding แยก ดูเอกสาร OpenAILike