OpenLIT + Muapi

OpenLIT dapat menginstrumentasi permintaan Muapi yang dikirim aplikasi melalui OpenAI Python SDK.

Instal dan inisialisasi

pip install openlit openai

Inisialisasi OpenLIT sebelum mengirim permintaan, lalu atur endpoint kolektor OpenTelemetry.

import openlit
openlit.init(otlp_endpoint="http://127.0.0.1:4318")

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MUAPI_API_KEY"],
    base_url="https://api.muapi.ai/v1",
)
response = client.chat.completions.create(
    model="YOUR_MUAPI_TEXT_MODEL_ID",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

Kirim permintaan Muapi

Ganti ID contoh dengan ID model teks dari daftar Muapi. Data trace dapat mencakup prompt dan balasan. Periksa pengaturan privasi dan retensi kolektor.