Hermes 4 405B: AI Large Language Models

Gọi Hermes 4 405B qua một API duy nhất. Ngữ cảnh 128K token, hỗ trợ phát trực tuyến và tính phí theo token. Dùng thử miễn phí trong playground của Muapi.

Điều khiển mô hình tương tác

Gọi Hermes 4 405B qua một API duy nhất. Ngữ cảnh 128K token, hỗ trợ phát trực tuyến và tính phí theo token. Dùng thử miễn phí trong playground của Muapi.

📝

Tổng quan

Về mô hình này

Hermes 4 405B là mô hình trò chuyện suy luận lai 405B của Nous Research, có cửa sổ ngữ cảnh 128K token, nổi bật với khả năng điều khiển linh hoạt và tỷ lệ từ chối thấp. Muapi cung cấp mô hình qua một REST endpoint duy nhất với polling bất đồng bộ và phát trực tuyến Server-Sent Events, giúp tích hợp vào ứng dụng trò chuyện, tác tử và quy trình làm việc mà không cần tự lưu trữ GPU. Mô hình phù hợp cho trò chuyện tổng quát có thể điều khiển, suy luận và tác tử. Giá tính theo token ở mức $0.6/M token đầu vào và $2.4/M token đầu ra, không cần đăng ký. Xem thêm Venice Abliterated. Khám phá tại trang Low-Refusal LLM API, trung tâm Abliterated LLM API và Character Chat LLM API. Mô hình được tinh chỉnh để từ chối ít hơn các trợ lý phổ biến, nhưng không đảm bảo đầu ra không bị hạn chế; bạn chịu trách nhiệm tuân thủ luật hiện hành và điều khoản sử dụng của Muapi.

1Trò chuyện tổng quát: Xây dựng trợ lý với Hermes 4 405B cho trò chuyện tổng quát có thể điều khiển, suy luận và tác tử.
2Thử nghiệm giảm từ chối: So sánh hành vi từ chối với các mô hình phổ biến trong đánh giá của riêng bạn, theo chính sách sử dụng của Muapi.
3Tác tử và quy trình làm việc: Gọi mô hình từ các nút quy trình Muapi và ví dụ trong trung tâm [Low-Refusal LLM API](/low-refusal-llm-api).
💰

Giá cả & Giá trị

Phân tích chi phí

muapiapp$0.6/M input tokens and $2.4/M output tokens

Tính phí theo token dựa trên mức sử dụng thực tế, giữ khoản tối thiểu nhỏ trước khi bắt đầu.

Fal.aiKhông khả dụng

Hermes 4 405B không được cung cấp dưới dạng endpoint lưu trữ.

ReplicateKhông khả dụng

Hermes 4 405B không được cung cấp dưới dạng endpoint lưu trữ.

** Giá của đối thủ cạnh tranh được ước tính dựa trên kiến ​​trúc mô hình và cấp độ sử dụng tương tự.

⚙️

Chi tiết kỹ thuật

Lược đồ cấu hình

Câu lệnh (Prompt)string

。

Giá trị mặc địnhSummarize the trade-offs between a monolith and microservices in five bullet points.
Câu lệnh (Prompt)string

,。

Giá trị mặc địnhYou are a concise, direct assistant.
Token integer

maximum number of tokens to generate.

Giá trị mặc định8192
📖

Hướng dẫn thực hiện

Tài liệu dành cho nhà phát triển

Cách sử dụng Hermes 4 405B API

  1. Lấy API key: Tạo key trong bảng điều khiển Muapi.

  2. Gửi prompt: POST prompt (plus optional system_prompt and max_tokens, up to 32768) to /api/v1/hermes-4-405b.

curl -X POST https://api.muapi.ai/api/v1/hermes-4-405b \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Explain how attention works in transformers."}'
  1. Polling hoặc phát trực tuyến: Poll GET /api/v1/predictions/{request_id}/result cho đến khi status là completed, hoặc phát trực tiếp token từ /api/v1/hermes-4-405b/stream.
curl -X POST https://api.muapi.ai/api/v1/hermes-4-405b/stream \
  -H "x-api-key: $MUAPI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Explain how attention works in transformers."}'
  1. Đọc kết quả: Văn bản được tạo trả về trong outputs. Chi phí tính theo số token thực tế.
❓

Câu hỏi thường gặp

Thường xuyên hỏi

Hermes 4 405B là gì?

Hermes 4 405B là mô hình trò chuyện suy luận lai 405B của Nous Research, có cửa sổ ngữ cảnh 128K token, nổi bật với khả năng điều khiển linh hoạt và tỷ lệ từ chối thấp.

Mô hình xử lý việc từ chối như thế nào?

Hermes 4 405B được tinh chỉnh để từ chối ít hơn các trợ lý phổ biến, nhưng không đảm bảo đầu ra không bị hạn chế và vẫn có thể từ chối một số yêu cầu.

Hermes 4 405B được tính giá như thế nào?

Tính phí theo token: $0.6/M token đầu vào và $2.4/M token đầu ra. Một khoản tối thiểu nhỏ được giữ khi yêu cầu bắt đầu và đối soát theo mức sử dụng thực tế.

Hermes 4 405B có hỗ trợ phát trực tuyến không?

Có. Phát trực tiếp token từ `/api/v1/hermes-4-405b/stream` bằng Server-Sent Events hoặc polling endpoint bất đồng bộ.

Cửa sổ ngữ cảnh là bao nhiêu?

Cửa sổ ngữ cảnh khoảng 128K token. Prompt và đầu ra phải nằm trong giới hạn này; `max_tokens` tối đa là 32768. Endpoint chỉ nhận văn bản.

Đầu ra có được đảm bảo không bị hạn chế không?

Không. Hành vi thay đổi tùy prompt; bạn chịu trách nhiệm tuân thủ luật hiện hành và chính sách sử dụng được chấp nhận của Muapi.