Come usare l’API di Llama 3.3 70B Abliterated
-
Ottieni una chiave API: crea una chiave nella dashboard di Muapi.
-
Invia un prompt: invia prompt (e, facoltativamente, system_prompt e max_tokens, fino a 8192) a /api/v1/llama-3-3-70b-abliterated.
curl -X POST https://api.muapi.ai/api/v1/llama-3-3-70b-abliterated \
-H "x-api-key: $MUAPI_KEY" \
-H "Content-Type: application/json" \
-d '{"prompt": "Explain how attention works in transformers."}'
- Esegui il polling o attiva lo streaming: invia richieste di polling a
GET /api/v1/predictions/{request_id}/result finché status non è completed, oppure ricevi i token in tempo reale da /api/v1/llama-3-3-70b-abliterated/stream.
curl -X POST https://api.muapi.ai/api/v1/llama-3-3-70b-abliterated/stream \
-H "x-api-key: $MUAPI_KEY" \
-H "Content-Type: application/json" \
-d '{"prompt": "Explain how attention works in transformers."}'
- Leggi il risultato: il testo generato viene restituito in
outputs. L’utilizzo viene fatturato in base al numero effettivo di token.