在 LlamaIndex 中使用 Muapi

使用 LlamaIndex 的 OpenAILike 适配器，通过 OpenAI 兼容聊天接口调用 Muapi 文本模型。

pip install llama-index-core llama-index-llms-openai-like
export MUAPI_API_KEY="your-key"

从 https://api.muapi.ai/v1/models?type=text 选择准确的模型 ID：

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("用一句话说明向量索引的用途。"))

只有当模型的 capabilities.tools 为 true 时，才设置 is_function_calling_model=True。此集成提供聊天模型，不提供 embeddings；检索流程需单独配置嵌入模型。请查看所选模型的上下文和输出限制。更多参数见 LlamaIndex OpenAILike 文档。