Венеция уничтожена
Venice Abliterated, универсальная модель чата с уменьшенным количеством отказов и контекстным окном на 128 000 токенов.
API LLM с низким уровнем отказов предоставляет вам программный доступ к двум моделям через один ключ API Muapi и одну форму запроса: приглашение, необязательный system_prompt, max_tokens.Это универсальные модели чатов с уменьшенным количеством отказов или обученные на высокую управляемость. Это снижает частоту отклонения запроса; он не гарантирует неограниченный вывод и не меняет политику приемлемого использования Muapi. Вы продолжаете нести ответственность за то, как вы используете выходные данные.
Venice Abliterated, универсальная модель чата с уменьшенным количеством отказов и контекстным окном на 128 000 токенов.
Hermes 4 405B от Nous Research, большая модель с открытым весом, обученная управляемости и низкому проценту отказов, с контекстным окном на 128 000 токенов.
LLM API с низким уровнем отказов — это каталог двух LLM чатов с низким уровнем отказов от Muapi: от легких моделей чата 8B до моделей рассуждений с контекстом из 1M токенов, находящихся за одним согласованным интерфейсом REST, поэтому вы можете сравнивать их, изменяя одно имя модели.
Отправьте приглашение, при необходимости с помощью system_prompt, чтобы установить характер и тон, и опросите сгенерированный текст. Типичное использование включает открытый чат, написание статей и мозговой штурм, работу помощников по исследованиям, которые следуют подробным системным подсказкам, и сравнение с более строгими моделями. Это универсальные модели чатов с уменьшенным количеством отказов или обученные на высокую управляемость. Это снижает частоту отклонения запроса; он не гарантирует неограниченный вывод и не меняет политику приемлемого использования Muapi. Вы продолжаете нести ответственность за то, как вы используете выходные данные.
Каждая конечная точка принимает одно и то же тело запроса и возвращает текст через конечную точку общего результата, поэтому переключение модели происходит в одну строку.
Эти модели отклоняют меньше запросов, чем типичные модели помощников. Поведение зависит от модели и приглашения и не является гарантией.
Установите system_prompt, чтобы управлять характером, тоном и форматом вывода для творческой, аналитической или оценочной работы.
Выставление счетов следует за подсчетом токенов при каждом возврате вызова. Нет подписки и нет модели хостинга, которой нужно управлять.
Используйте эти модели для общения, составления чертежей и пошаговых рассуждений.
Снижение количества отказов не означает отсутствие правил. Политика допустимого использования Muapi и применимое законодательство по-прежнему применяются к тому, что вы создаете.
| Конечная точка | Вход | Выход | Цена | Лучшее для |
|---|---|---|---|---|
Оплата производится за каждый токен за использование каждого обратного вызова; цены указаны за миллион входных и выходных токенов.
Отправьте запрос JSON с вашим ключом API Muapi, сохраните идентификатор запроса и опросите конечную точку общего результата.
curl -X POST https://api.muapi.ai/api/v1/venice-abliterated \
-H "x-api-key: YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"prompt": "Give me a candid pros-and-cons list for quitting my job to freelance.", "system_prompt": "You are a candid, detail-oriented assistant.", "max_tokens": 1024}'
# Response: {"request_id":"REQUEST_ID"}Вызовите venice-abliterated с приглашением и необязательным system_prompt.
curl -X POST https://api.muapi.ai/api/v1/hermes-4-405b \
-H "x-api-key: YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{"prompt": "Follow this system prompt exactly and critique my draft essay.", "system_prompt": "You are a candid, detail-oriented assistant.", "max_tokens": 1024}'
# Response: {"request_id":"REQUEST_ID"}Вызовите hermes-4-405b с приглашением и необязательным system_prompt.
Опрашивайте конечную точку общего результата, пока задача не будет завершена, а затем прочитайте сгенерированный текст из выходных данных.
LLM с низким уровнем отказов — это модель чата с меньшим количеством отказов или модель, обученная высокой управляемости, поэтому она отклоняет меньше запросов, чем типичный помощник. Это описание типичного поведения, а не гарантия. Результаты зависят от модели и подсказки.
Уничтоженная Венеция и Гермес 4 405B. Каждый из них представляет собой отдельную конечную точку со своим собственным названием модели в URL-адресе.
Оплата производится за токен и вычитается после каждого вызова из подсчетов, возвращаемых моделью. Ставки начинаются с 0,60 доллара США за миллион входных токенов; см. таблицу цен для каждой модели.
Нет. Сокращение количества отказов не означает неограниченного объема производства, и знание и качество каждой модели по-прежнему определяют ответ. Вы несете ответственность за то, как вы используете выходные данные, и запросы, нарушающие политику допустимого использования Muapi или закон, не допускаются.
Нет. Каждая модель на этой странице представляет собой ввод и вывод текста.
POST для /api/v1/<имя-модели> возвращает request_id. Опрашивайте /api/v1/predictions/{request_id}/result до тех пор, пока статус не будет завершен, затем прочитайте текст из выходных данных.
Создайте один ключ API Muapi и вызывайте каждую модель на этой странице с помощью простого запроса REST.