OpenLIT + Muapi

OpenLIT kann Muapi-Anfragen instrumentieren, die deine Anwendung über das OpenAI Python SDK sendet.

Installation und Einrichtung

pip install openlit openai

Initialisiere OpenLIT vor den Anfragen und trage den Endpunkt deines OpenTelemetry Collectors ein.

import openlit
openlit.init(otlp_endpoint="http://127.0.0.1:4318")

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MUAPI_API_KEY"],
    base_url="https://api.muapi.ai/v1",
)
response = client.chat.completions.create(
    model="YOUR_MUAPI_TEXT_MODEL_ID",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

Muapi-Anfrage senden

Ersetze die Modell-ID durch eine Textmodell-ID aus der Muapi-Liste. Trace-Daten können Prompts und Antworten enthalten. Prüfe die Datenschutz- und Aufbewahrungseinstellungen deines Collectors.