Llama 3.3 70B Abliterated: Большие языковые модели искусственного интеллекта

Обращайтесь к Llama 3.3 70B Abliterated через единый API. 32K токенов в контексте, потоковая передача и оплата за токены. Попробуйте бесплатно в песочнице Muapi.

Интерактивное управление моделью

Обращайтесь к Llama 3.3 70B Abliterated через единый API. 32K токенов в контексте, потоковая передача и оплата за токены. Попробуйте бесплатно в песочнице Muapi.

📝

Обзор

Об этой модели

Llama 3.3 70B Abliterated — an abliterated version of Meta's Llama 3.3 70B Instruct с контекстным окном 32 тыс. токенов, modified для снижения refusal behavior. Muapi предоставляет единый REST-эндпоинт с асинхронной проверкой статуса и потоковой передачей через Server-Sent Events. Модель можно подключить к чат-приложениям, агентам и рабочим процессам без собственного хостинга на GPU. Лучше всего подходит для general chat, writing и instruction following. Оплата взимается за токены: $1.4/млн входных токенов и $1.4/млн выходных токенов, без подписки. See also NeuralDaredevil 8B Abliterated. Смотрите полный список моделей на странице Llama Abliterated API или в разделе abliterated LLM API; также доступны семейства GLM Abliterated API и Gemma Abliterated API. 'Abliterated' и 'derestricted' describe modifications that reduce the model's refusal behavior. They do not guarantee unrestricted output, и you remain responsible для complying with applicable laws и the Muapi terms of use.

1Chat и assistants: Build conversational apps on Llama 3.3 70B Abliterated для general chat, writing и instruction following.
2Эксперименты с частотой отказов: сравнивайте поведение модели с базовой в собственных тестах, соблюдая правила использования Muapi.
3Agents и workflows: Обращайтесь к the model from Muapi workflow nodes и the [abliterated LLM API](/abliterated-llm-api) hub examples.
💰

Цены и стоимость

Анализ затрат

muapiapp$1.4/M input tokens and $1.4/M output tokens

Оплата за токены по фактическому использованию; при запуске резервируется небольшая минимальная сумма.

Fal.aiНедоступно

Llama 3.3 70B Abliterated — not offered as a hosted endpoint.

ReplicateНедоступно

Llama 3.3 70B Abliterated — not offered as a hosted endpoint.

** Цены конкурентов рассчитаны на основе аналогичных архитектур моделей и уровней использования.

⚙️

Технические детали

Схема конфигурации

подсказатьstring

.

Значение по умолчаниюSummarize the trade-offs between a monolith and microservices in five bullet points.
Системная подсказкаstring

, .

Значение по умолчаниюYou are a concise, direct assistant.
Максимальное количество токеновinteger

Optional maximum number of tokens to generate.

Значение по умолчанию4096
📖

Руководство по внедрению

Документация разработчика

Как использовать Llama 3.3 70B Abliterated API

  1. Получите ключ API: Создайте ключ в панели управления Muapi.

  2. Отправьте запрос: POST prompt (при необходимости добавьте system_prompt и max_tokens, up на 8192) на /api/v1/llama-3-3-70b-abliterated.

curl -X POST https://api.muapi.ai/api/v1/llama-3-3-70b-abliterated \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Explain how attention works in transformers."}'
  1. Получайте результат опросом или в потоке: Poll GET /api/v1/predictions/{request_id}/result до тех пор, пока status — completed, или получайте токены в реальном времени по адресу /api/v1/llama-3-3-70b-abliterated/stream.
curl -X POST https://api.muapi.ai/api/v1/llama-3-3-70b-abliterated/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Explain how attention works in transformers."}'
  1. Получите результат: The generated text — returned in outputs. Usage — billed on actual token counts.
❓

Общие вопросы

Часто задаваемые

Что — Llama 3.3 70B Abliterated?

Llama 3.3 70B Abliterated — an abliterated version of Meta's Llama 3.3 70B Instruct с контекстным окном 32 тыс. токенов, modified для снижения refusal behavior.

Что означает abliterated?

Abliterated or derestricted models are modified для снижения refusal behavior. This lowers, but does not eliminate, refusals и не guarantee unrestricted output.

How — Llama 3.3 70B Abliterated?

Billing — per token: $1.4/млн входных токенов и $1.4/M output tokens. A small minimum — reserved when the request starts и корректируется на actual usage.

Поддерживает ли Llama 3.3 70B Abliterated потоковую передачу?

Да. Получайте токены в реальном времени по адресу `/api/v1/llama-3-3-70b-abliterated/stream` через Server-Sent Events или проверяйте результат через асинхронный эндпоинт.

Что — the context window?

The context window — about 32K tokens. Prompt и output together must fit inside it; `max_tokens` — capped at 8192.Эндпоинт принимает только текстовые данные.

Is output guaranteed на be unrestricted?

No. Abliterated models are less likely на refuse, but behavior varies by prompt а качество can differ from the base model. Evaluate it для your use case и соблюдайте applicable laws.