OpenLIT + Muapi

OpenLIT peut instrumenter les requêtes Muapi envoyées par votre application avec le SDK OpenAI pour Python.

Installation et initialisation

pip install openlit openai

Initialisez OpenLIT avant les requêtes et indiquez le point de terminaison de votre collecteur OpenTelemetry.

import openlit
openlit.init(otlp_endpoint="http://127.0.0.1:4318")

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MUAPI_API_KEY"],
    base_url="https://api.muapi.ai/v1",
)
response = client.chat.completions.create(
    model="YOUR_MUAPI_TEXT_MODEL_ID",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)

Envoyer une requête Muapi

Remplacez l’identifiant d’exemple par celui d’un modèle texte de la liste Muapi. Les traces peuvent contenir les prompts et les réponses. Vérifiez les réglages de confidentialité et de conservation du collecteur.