LlamaIndex에서 Muapi 사용하기

LlamaIndex의 OpenAILike 어댑터로 Muapi 채팅 모델을 호출합니다.

pip install llama-index-core llama-index-llms-openai-like

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="qwen-3-8-27b-obliterated",
    api_base="https://api.muapi.ai/v1",
    api_key=os.environ["MUAPI_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
)
print(llm.complete("벡터 인덱스를 한 문장으로 설명하세요."))

https://api.muapi.ai/v1/models?type=text의 정확한 ID를 사용하세요. capabilities.tools가 true인 모델에서만 함수 호출을 켜세요. 이 연동은 채팅용이며 임베딩은 별도 모델이 필요합니다. OpenAILike 문서를 참고하세요.