Aion Llama 3.1 8B: Modele wielkojęzykowe AI

Wywołuj Aion Llama 3.1 8B przez jedno API. 32K tokenów w kontekście, streaming i rozliczenie za token. Wypróbuj bezpłatnie w playgroundzie Muapi. Aion Llama 3.1 8B to społecznościowy model dostrojony na bazie Llama 3.1 8B, przeznaczony do kreatywnego pisania, rozmów z postaciami i interaktywnej fikcji (nie jest abliterowany), z oknem kontekstu o długości 32K tokenów i obsługą wywoływania narzędzi. Muapi udostępnia go przez jeden endpoint REST z asynchronicznym odpytywaniem i streamingiem Server-Sent Events, dzięki czemu możesz dodać go do aplikacji czatowych, agentów i przepływów pracy bez hostowania GPU. Najlepiej nadaje się do lekkich rozmów z postaciami. Rozliczenie odbywa się za token: $1.6/M za tokeny wejściowe i $3.2/M za tokeny wyjściowe; bez abonamentu. Zobacz także Cydonia 24B v4.1. Przejrzyj pełną ofertę na stronie API Cydonia do rozmów z postaciami lub w centrum API LLM do rozmów z postaciami oraz w centrum API LLM Abliterated . Treści dla dorosłych są dozwolone wyłącznie zgodnie z zasadami dopuszczalnego użytkowania Muapi, a jakość i zachowanie modelu zależą od promptu.

Interaktywne sterowanie modelem

Wywołuj Aion Llama 3.1 8B przez jedno API. 32K tokenów w kontekście, streaming i rozliczenie za token. Wypróbuj bezpłatnie w playgroundzie Muapi.

📝

Przegląd

O tym modelu

Aion Llama 3.1 8B to społecznościowy model dostrojony na bazie Llama 3.1 8B, przeznaczony do kreatywnego pisania, rozmów z postaciami i interaktywnej fikcji (nie jest abliterowany), z oknem kontekstu o długości 32K tokenów i obsługą wywoływania narzędzi. Muapi udostępnia go przez jeden endpoint REST z asynchronicznym odpytywaniem i streamingiem Server-Sent Events, dzięki czemu możesz dodać go do aplikacji czatowych, agentów i przepływów pracy bez hostowania GPU. Najlepiej nadaje się do lekkich rozmów z postaciami. Rozliczenie odbywa się za token: $1.6/M za tokeny wejściowe i $3.2/M za tokeny wyjściowe; bez abonamentu. Zobacz także Cydonia 24B v4.1. Przejrzyj pełną ofertę na stronie API Cydonia do rozmów z postaciami lub w centrum API LLM do rozmów z postaciami oraz w centrum API LLM Abliterated . Treści dla dorosłych są dozwolone wyłącznie zgodnie z zasadami dopuszczalnego użytkowania Muapi, a jakość i zachowanie modelu zależą od promptu.

1Rozmowy z postaciami: Nadaj modelowi Aion Llama 3.1 8B osobowość za pomocą `system_prompt` i prowadź długie rozmowy, zachowując rolę.

2Interaktywna fikcja: Twórz tekstowe przygody i wspólne opowieści w centrum [API LLM do rozmów z postaciami](/character-chat-llm-api).

3Pisanie opowiadań: Twórz sceny, dialogi i opisy świata za pomocą modelu dostrojonego do kreatywnej prozy.

💰

Ceny i wartość

Analiza kosztów

Dostawca	Koszt	Notatki
muapiapp	$1.6/M input tokens and $3.2/M output tokens	Rozliczenie za token, według rzeczywistego użycia, z niewielką kwotą minimalną pobieraną z góry.
Fal.ai	Niedostępne	Aion Llama 3.1 8B nie jest dostępny jako hostowany endpoint.
Replicate	Niedostępne	Aion Llama 3.1 8B nie jest dostępny jako hostowany endpoint.

muapiapp$1.6/M input tokens and $3.2/M output tokens

Rozliczenie za token, według rzeczywistego użycia, z niewielką kwotą minimalną pobieraną z góry.

Fal.aiNiedostępne

Aion Llama 3.1 8B nie jest dostępny jako hostowany endpoint.

ReplicateNiedostępne

Aion Llama 3.1 8B nie jest dostępny jako hostowany endpoint.

** Ceny konkurencji są szacowane na podstawie podobnych architektur modeli i poziomów użytkowania.

⚙️

Szczegóły techniczne

Schemat konfiguracji

Parametr	Wpisz	Opis	Domyślne
podpowiedź	string	dla przepływów pracy żądań/ankiet i zdarzeń wysyłanych przez serwer	`Stay in character as a dry-witted ship's navigator and greet the new crew member.`
Monit systemowy	string	Optional system-level instruction to guide model behavior. Use it to define the character or setting.	`You are Mara, a dry-witted ship's navigator. Stay in character.`
Maksymalna liczba tokenów	integer	Optional maximum number of tokens to generate.	`4096`

podpowiedźstring

dla przepływów pracy żądań/ankiet i zdarzeń wysyłanych przez serwer

Wartość domyślnaStay in character as a dry-witted ship's navigator and greet the new crew member.

Monit systemowystring

Optional system-level instruction to guide model behavior. Use it to define the character or setting.

Wartość domyślnaYou are Mara, a dry-witted ship's navigator. Stay in character.

Maksymalna liczba tokenówinteger

Optional maximum number of tokens to generate.

Wartość domyślna4096

📖

Przewodnik wdrożeniowy

Dokumentacja deweloperska

Jak korzystać z API Aion Llama 3.1 8B

Uzyskaj klucz API: Utwórz klucz w panelu Muapi.
Wyślij prompt: Wyślij żądanie POST z prompt (oraz opcjonalnie system_prompt i max_tokens; maksymalnie 16384), aby wywołać /api/v1/aion-llama-3-1-8b.

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'

Odpytuj lub przesyłaj strumieniowo: Odpytuj GET /api/v1/predictions/{request_id}/result do momentu, gdy status przyjmie wartość completed albo przesyłaj tokeny na żywo z /api/v1/aion-llama-3-1-8b/stream.

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'

Odczytaj wynik: Wygenerowany tekst jest zwracany w outputs. Opłaty naliczane są na podstawie faktycznej liczby tokenów.

❓

Często zadawane pytania

Czym jest Aion Llama 3.1 8B?

Aion Llama 3.1 8B to społecznościowy model dostrojony na bazie Llama 3.1 8B przeznaczony do kreatywnego pisania, rozmów z postaciami i interaktywnej fikcji oraz nie jest abliterowany. Okno kontekstu ma długość 32K tokenów.

Do czego dostrojono ten model?

Aion Llama 3.1 8B to społecznościowy model dostrojony do kreatywnego pisania, rozmów z postaciami i interaktywnej fikcji. Nie jest modelem abliterowanym.

Jak naliczane są opłaty za Aion Llama 3.1 8B?

Rozliczenie odbywa się za token: $1.6/M za tokeny wejściowe i $3.2/M output tokens za tokeny wyjściowe. Przy rozpoczęciu żądania rezerwowana jest niewielka kwota minimalna, a następnie rozliczana według faktycznego zużycia.

Czy Aion Llama 3.1 8B obsługuje streaming?

Tak. Przesyłaj tokeny na żywo z `/api/v1/aion-llama-3-1-8b/stream` za pomocą Server-Sent Events albo odpytuj endpoint asynchroniczny.

Jaka jest długość okna kontekstu?

Okno kontekstu ma około 32K tokenów. Prompt i wygenerowany tekst muszą zmieścić się w tym limicie; `max_tokens` ma limit 16384. Endpoint przyjmuje wyłącznie tekst.

Czy dozwolone są treści dla dorosłych?

Wyłącznie w granicach zasad dopuszczalnego użytkowania Muapi. Model nie gwarantuje wygenerowania określonych treści, a za przestrzeganie obowiązującego prawa odpowiadasz Ty.