OpenLIT + Muapi

OpenLIT은 OpenAI Python SDK로 보내는 Muapi 요청을 계측할 수 있습니다.

설치 및 초기화

pip install openlit openai

요청 전에 OpenLIT을 초기화하고 OpenTelemetry 수집기 엔드포인트를 설정하세요.

import openlit
openlit.init(otlp_endpoint="http://127.0.0.1:4318")

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MUAPI_API_KEY"],
    base_url="https://api.muapi.ai/v1",
)
response = client.chat.completions.create(
    model="YOUR_MUAPI_TEXT_MODEL_ID",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

Muapi 요청 보내기

예시 ID를 Muapi 목록의 텍스트 모델 ID로 바꾸세요. 추적 데이터에는 프롬프트와 응답이 포함될 수 있습니다. 수집기의 개인정보 보호 및 보존 설정을 확인하세요.