Modelli/API LLM a basso rifiuto/API da testo a testo
Attivo2 models

API LLM a basso rifiuto: modelli di chat generali con rifiuti ridotti

L'API LLM a basso rifiuto ti offre accesso programmatico a 2 modelli tramite una chiave API Muapi e una forma di richiesta: prompt, system_prompt opzionale, max_tokens.Si tratta di modelli di chat generici con rifiuti ridotti o addestrati per un'elevata governabilità. Ciò riduce la frequenza con cui rifiutano una richiesta; non garantisce un output illimitato né modifica la politica di utilizzo accettabile di Muapi. Rimani responsabile del modo in cui utilizzi l'output.

Basso rifiuto generale

Modelli generali a basso rifiuto2 models
Generazione di testoAttivo
Basso rifiuto generale

Venezia annientata

Venice Abliterated, un modello di chat generico con rifiuti ridotti e una finestra di contesto di token da 128K.

Text in
$0.80/M in · $3.60/M out
Prova modello
Generazione di testoAttivoFeatured
Basso rifiuto generale

Hermes 4 405B

Hermes 4 405B di Nous Research, un grande modello a pesi aperti addestrato per la manovrabilità e bassi tassi di rifiuto, con una finestra di contesto di token 128K.

Text in
$0.60/M in · $2.40/M out
Prova modello

Cos'è l'API LLM a basso rifiuto?

L'API LLM a basso rifiuto è il catalogo di Muapi di 2 LLM di chat a basso rifiuto, dai modelli di chat leggeri 8B ai modelli di ragionamento con contesto token 1M, dietro un'interfaccia REST coerente in modo da poterli confrontare modificando un singolo nome di modello.

Invia un prompt, facoltativamente con un system_prompt per impostare persona e tono, e interroga il testo generato. Gli usi tipici includono chat a tempo indeterminato, scrittura e brainstorming, assistenti di ricerca che seguono istruzioni di sistema dettagliate e confronto con modelli più restrittivi. Si tratta di modelli di chat generici con rifiuti ridotti o addestrati per un'elevata governabilità. Ciò riduce la frequenza con cui rifiutano una richiesta; non garantisce un output illimitato né modifica la politica di utilizzo accettabile di Muapi. Rimani responsabile del modo in cui utilizzi l'output.

Capacità chiave

2 modelli, una API

Ogni endpoint accetta lo stesso corpo della richiesta e restituisce il testo tramite l'endpoint del risultato condiviso, quindi cambiare modello è una modifica di una sola riga.

Rifiuti ridotti

Questi modelli rifiutano meno richieste rispetto ai tipici modelli di assistente. Il comportamento varia in base al modello e al prompt e non è una garanzia.

Controllo prompt del sistema

Imposta un system_prompt per gestire la persona, il tono e il formato di output per il lavoro creativo, analitico o di valutazione.

Paga per gettone

La fatturazione segue il conteggio dei token per ogni chiamata restituita. Non è previsto alcun abbonamento né modello di hosting da gestire.

Generazione di testo in formato lungo

Utilizza questi modelli per chat, bozze e ragionamenti passo passo.

Si applica la politica di utilizzo accettabile

Riduzione dei rifiuti non significa assenza di regole. La politica di utilizzo accettabile di Muapi e la legge applicabile si applicano ancora a ciò che generi.

Prezzi

Punto finaleIngressoUscitaPrezzoIdeale per
venice-abliteratedPrompt + system_prompt, max_tokensRisposta testuale completa (sondaggio per risultato)$ 0,80/milione in entrata · $ 3,60/milione in uscitaChiacchierata e scrittura generale con rifiuti ridotti
hermes-4-405bPrompt + system_prompt, max_tokensRisposta testuale completa (sondaggio per risultato)$ 0,60/milione in entrata · $ 2,40/milione in uscitaChat e ragionamento di grande formato che seguono da vicino le istruzioni del tuo sistema

Fatturato per token in base all'utilizzo restituito da ciascuna chiamata; i prezzi sono per milione di token di input e output.

Come chiamare l'API LLM a basso rifiuto

Invia una richiesta JSON con la chiave API Muapi, salva l'ID della richiesta ed esegui il polling dell'endpoint dei risultati condivisi.

1. Invia una richiesta a Venice Abliterated

curl -X POST https://api.muapi.ai/api/v1/venice-abliterated \
  -H "x-api-key: YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Give me a candid pros-and-cons list for quitting my job to freelance.", "system_prompt": "You are a candid, detail-oriented assistant.", "max_tokens": 1024}'

# Response: {"request_id":"REQUEST_ID"}

Chiama venice-abliterated con un prompt e system_prompt facoltativo.

2. Invia una richiesta a Hermes 4 405B

Chiama hermes-4-405b con un prompt e un system_prompt facoltativo.

3. Sondaggio sul risultato

Esegui il polling dell'endpoint dei risultati condivisi fino al completamento dell'attività, quindi leggi il testo generato dagli output.

Domande frequenti

What is a low-refusal LLM?

Un LLM a basso rifiuto è un modello di chat con rifiuti ridotti o addestrato per un'elevata governabilità, quindi rifiuta meno richieste rispetto a un tipico assistente. Si tratta di una descrizione del comportamento tipico, non di una garanzia, e i risultati variano in base al modello e al prompt.

Quali modelli include l'API LLM a basso rifiuto?

Venezia Abliterata ed Hermes 4 405B. Ciascuno è un endpoint separato con il proprio nome di modello nell'URL.

Quanto costa?

La fatturazione è per token, detratta dopo ogni chiamata dai conteggi restituiti dal modello. Le tariffe partono da $ 0,60 per milione di token di input; vedere la tabella dei prezzi per ogni modello.

Questi modelli risponderanno a qualsiasi mia domanda?

No. Rifiuti ridotti non significano risultati illimitati, e la conoscenza e la qualità di ciascun modello vincolano comunque la risposta. Sei responsabile del modo in cui utilizzi l'output e le richieste che violano la politica di utilizzo accettabile di Muapi o la legge non sono consentite.

Posso inviare immagini a questi modelli?

No. Ogni modello in questa pagina contiene testo in entrata e in uscita.

Come ottengo il risultato?

POST su /api/v1/<nome-modello> restituisce un request_id. Esegui il polling /api/v1/predictions/{request_id}/result fino al completamento dello stato, quindi leggi il testo dagli output.

Pronto a creare con l'API LLM a basso rifiuto?

Crea una chiave API Muapi e chiama ogni modello in questa pagina con una semplice richiesta REST.