muapi Logomuapi Logo
muapi Logomuapi Logo

Aion Llama 3.1 8B: Большие языковые модели искусственного интеллекта

Вызовите Aion Llama 3.1 8B через единый API. 32K токенов контекста, потоковая генерация и оплата за токены. Попробуйте бесплатно в песочнице Muapi. Aion Llama 3.1 8B — дообученная сообществом модель на базе Llama 3.1 с 8B параметров для творческого письма, общения от лица персонажей и интерактивной прозы (модель не аблитерирована), с контекстным окном в 32K токенов и поддержкой вызова инструментов. Muapi предоставляет единый REST-эндпоинт с асинхронной проверкой статуса и потоковой передачей через Server-Sent Events. Модель можно подключить к чат-приложениям, агентам и рабочим процессам без размещения GPU. Лучше всего подходит для лёгких диалогов от лица персонажей. Оплата взимается за токены: $1.6/M токенов на входе и $3.2/M токенов на выходе; подписка не требуется. См. также Cydonia 24B v4.1. Посмотрите полный список моделей на странице Cydonia Character Chat API или в разделе Character Chat LLM API и в разделе Abliterated LLM API . Темы для взрослой аудитории допустимы только в рамках политики допустимого использования Muapi; качество и поведение модели зависят от запроса.

Интерактивное управление моделью

Вызовите Aion Llama 3.1 8B через единый API. 32K токенов контекста, потоковая генерация и оплата за токены. Попробуйте бесплатно в песочнице Muapi.

📝

Обзор

Об этой модели

Aion Llama 3.1 8B — дообученная сообществом модель на базе Llama 3.1 с 8B параметров для творческого письма, общения от лица персонажей и интерактивной прозы (модель не аблитерирована), с контекстным окном в 32K токенов и поддержкой вызова инструментов. Muapi предоставляет единый REST-эндпоинт с асинхронной проверкой статуса и потоковой передачей через Server-Sent Events. Модель можно подключить к чат-приложениям, агентам и рабочим процессам без размещения GPU. Лучше всего подходит для лёгких диалогов от лица персонажей. Оплата взимается за токены: $1.6/M токенов на входе и $3.2/M токенов на выходе; подписка не требуется. См. также Cydonia 24B v4.1. Посмотрите полный список моделей на странице Cydonia Character Chat API или в разделе Character Chat LLM API и в разделе Abliterated LLM API . Темы для взрослой аудитории допустимы только в рамках политики допустимого использования Muapi; качество и поведение модели зависят от запроса.

1Диалоги от лица персонажа: задайте модели Aion Llama 3.1 8B роль с помощью `system_prompt` и сохраняйте выбранный образ в длинных беседах.
2Интерактивная проза: создавайте текстовые приключения и совместные истории в разделе [Character Chat LLM API](/character-chat-llm-api).
3Написание историй: создавайте сцены, диалоги и устройство мира с моделью, настроенной на художественную прозу.
💰

Цены и стоимость

Анализ затрат

muapiapp$1.6/M input tokens and $3.2/M output tokens

Оплата за токены по фактическому использованию; при запуске резервируется небольшая минимальная сумма.

Fal.aiНедоступно

Aion Llama 3.1 8B не предоставляется в виде размещённого эндпоинта.

ReplicateНедоступно

Aion Llama 3.1 8B не предоставляется в виде размещённого эндпоинта.

** Цены конкурентов рассчитаны на основе аналогичных архитектур моделей и уровней использования.

⚙️

Технические детали

Схема конфигурации

подсказатьstring

.

Значение по умолчаниюStay in character as a dry-witted ship's navigator and greet the new crew member.
Системная подсказкаstring

Optional system-level instruction to guide model behavior. Use it to define the character or setting.

Значение по умолчаниюYou are Mara, a dry-witted ship's navigator. Stay in character.
Максимальное количество токеновinteger

Optional maximum number of tokens to generate.

Значение по умолчанию4096
📖

Руководство по внедрению

Документация разработчика

Как использовать API Aion Llama 3.1 8B API

  1. Получите API-ключ: создайте ключ в панели управления Muapi.

  2. Отправьте запрос: передайте POST-параметр prompt (и необязательные параметры system_prompt и max_tokens, до 16384) в /api/v1/aion-llama-3-1-8b.

curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Проверяйте статус или используйте поток: отправляйте запросы к GET /api/v1/predictions/{request_id}/result до тех пор, пока status не станет completed, or stream tokens live from /api/v1/aion-llama-3-1-8b/stream.
curl -X POST https://api.muapi.ai/api/v1/aion-llama-3-1-8b/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Stay in character as a dry-witted ship's navigator and greet the new crew member."}'
  1. Прочитайте результат: сгенерированный текст возвращается в outputs. Оплата рассчитывается по фактическому числу токенов.
❓

Общие вопросы

Часто задаваемые

Что такое Aion Llama 3.1 8B?

Aion Llama 3.1 8B — дообученная сообществом модель на базе Llama 3.1 с 8B параметров для творческого письма, общения от лица персонажей и интерактивной прозы (модель не аблитерирована), с контекстным окном в 32K токенов и поддержкой вызова инструментов.

Для чего настроена эта модель?

Aion Llama 3.1 8B — модель, дообученная сообществом для творческого письма, общения от лица персонажей и интерактивной прозы. Она не относится к моделям abliterated.

Как тарифицируется Aion Llama 3.1 8B?

Оплата взимается за токены: $1.6/M токенов на входе и $3.2/M токенов на выходе. При запуске запроса резервируется небольшая минимальная сумма, которая затем корректируется по фактическому использованию.

Поддерживает ли Aion Llama 3.1 8B потоковую передачу?

Да. Получайте токены в реальном времени через `/api/v1/aion-llama-3-1-8b/stream` с помощью Server-Sent Events или проверяйте статус асинхронного запроса.

Каков размер контекстного окна?

Контекстное окно составляет около 32K токенов. Запрос и ответ вместе должны помещаться в это окно; `max_tokens` ограничен значением 16384. Эндпоинт принимает только текстовый ввод.

Допустимы ли темы для взрослой аудитории?

Только в рамках политики допустимого использования Muapi. Модель не гарантирует создание какого-либо конкретного контента; вы несёте ответственность за соблюдение применимых законов.