Hermes 4 405B
Nous | ngữ cảnh 131,072 token | $1.00/M đầu vào, $3.00/M đầu ra. Hermes 4 là mô hình suy luận quy mô lớn xây dựng trên Meta-Llama-3.1-405B và được phát hành bởi Nous Research. Nó giới thiệu chế độ suy luận lai, nơi mô hình có thể chọn suy nghĩ nội bộ với các dấu vết ... hoặc phản hồi trực tiếp, cung cấp sự linh hoạt giữa tốc độ và độ sâu. Người dùng có thể kiểm soát hành vi suy luận với biến boolean bật/tắt suy luận. Tìm hiểu thêm trong tài liệu của chúng tôiOpens in new tab Mô hình được tinh chỉnh theo hướng dẫn với tập dữ liệu hậu huấn luyện mở rộng (~60 tỷ token) nhấn mạnh các dấu vết suy…Nous | ngữ cảnh 131,072 token | $1.00/M đầu vào, $3.00/M đầu ra. Hermes 4 là mô hình suy luận quy mô lớn xây dựng trên Meta-Llama-3.1-405B và được phát hành bởi Nous Research. Nó giới thiệu chế độ suy luận lai, nơi mô hình có thể chọn suy nghĩ nội bộ với các dấu vết ... hoặc phản hồi trực tiếp, cung cấp sự linh hoạt giữa tốc độ và độ sâu. Người dùng có thể kiểm soát hành vi suy luận với biến boolean bật/tắt suy luận. Tìm hiểu thêm trong tài liệu của chúng tôiOpens in new tab Mô hình được tinh chỉnh theo hướng dẫn với tập dữ liệu hậu huấn luyện mở rộng (~60 tỷ token) nhấn mạnh các dấu vết suy luận, cải thiện hiệu suất trong toán học, mã, STEM và suy luận logic, đồng thời giữ được tính hữu dụng rộng rãi của trợ lý. Nó cũng hỗ trợ đầu ra có cấu trúc, bao gồm chế độ JSON, tuân thủ schema, gọi hàm và sử dụng công cụ. Hermes 4 được huấn luyện để dễ điều khiển, giảm tỷ lệ từ chối và phù hợp với hành vi trung lập, hướng người dùng.


Ghi chú của thuyền trưởng
Nổi tiếng với
- Suy luận kết hợp: mô hình chọn suy nghĩ từng bước hoặc trả lời trực tiếp, người dùng có thể kiểm soát
- Huấn luyện trên ~60 tỷ token dữ liệu suy luận và trợ lý, tăng lớn so với Hermes 3
- Đầu ra có cấu trúc: chế độ JSON, tuân thủ schema, gọi hàm và sử dụng công cụ
- Tỷ lệ từ chối thấp đáng chú ý; Nous tuyên bố dẫn đầu trên RefusalBench của họ
- Trọng số mở trên Hugging Face, bạn có thể tự chạy hoặc tinh chỉnh
Cẩn thận với
- Với 405 tỷ tham số, triển khai cục bộ đòi hỏi phần cứng mạnh; hầu hết người dùng sẽ truy cập qua API.
- Ngữ cảnh 131k là ổn nhưng không bằng mức trên 200k nếu bạn cần tài liệu rất dài.
- RefusalBench là chuẩn đánh giá của Nous; việc xác minh độc lập các tuyên bố này còn hạn chế.
Phù hợp nhất cho
Lời nhắc để thử
So sánh với
- Hermes 3 405B InstructMô hình mở trọng sốngữ cảnh 131,072 token · Đầu vào $1.00/M, đầu ra $1.00/M
- Claude Opus 5.5Mô hình chỉ APIngữ cảnh 1,000,000 token · Đầu vào $4.00/M, đầu ra $20.00/M
- Gemini 3.8 FlashMô hình chỉ APIngữ cảnh 1,048,576 token · Đầu vào $0.83/M, đầu ra $4.12/M
- Claude Sonnet 5.5Mô hình chỉ APIngữ cảnh 1,000,000 token · Đầu vào $2.00/M, đầu ra $10.00/M
Câu hỏi thường gặp
- Tôi có thể chạy Hermes 4 405B cục bộ không?
- Trọng số mở và có trên Hugging Face tại NousResearch/Hermes-4-405B, nên về nguyên tắc có thể — nhưng mô hình 405B đòi hỏi bộ nhớ GPU lớn, và hầu hết mọi người sẽ thấy truy cập qua API thực tế hơn.
- Chi phí và kích thước cửa sổ ngữ cảnh là bao nhiêu?
- Giá qua API là 1,00 USD cho mỗi triệu token đầu vào và 3,00 USD cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 131.072 token.
- Hermes 4 khác Hermes 3 như thế nào?
- Điểm mới chính là chế độ suy luận kết hợp với dấu vết cân nhắc nội bộ, và tập dữ liệu huấn luyện bổ sung tăng từ khoảng 1,2 tỷ token lên khoảng 60 tỷ, tập trung đặc biệt vào dữ liệu suy luận đã được xác minh cho toán học, mã và STEM.
Phán quyết của thuyền trưởngMột sự kết hợp hiếm có giữa trọng số mở, khả năng suy luận thực sự và tỷ lệ từ chối thấp — đáng chú ý nếu bạn xây dựng tác nhân hoặc cần một mô hình tiên tiến có thể điều khiển.
Thuật ngữ: các từ dùng ở đây
- Điểm nhiệt
- Một số duy nhất cho biết mô hình được dùng và mong muốn thế nào hiện tại, từ 0° đến 9.999°. Mọi danh sách trên trang này nói về độ hot đều sắp xếp theo nó và không theo gì khác.
- Sàn điểm
- 7.000° là điểm bắt đầu cho mọi mô hình có dữ liệu thật. Thang điểm chạy từ 0° đến 9.999°; phần dưới sàn dành cho mô hình thay thế (mô hình không có dữ liệu), để mô hình có dữ liệu luôn xếp trên mô hình không có. Sàn điểm giống nhau cho tất cả và không quyết định gì; điểm trên sàn mới là thước đo.
- Tương đương lượt tải
- Tất cả những gì điểm số coi là lượt tải, cộng lại: lượt tải thật, mỗi người chia sẻ torrent tính 1.000, mỗi ảnh AI Horde và mỗi lượt chạy trên trang tạo ảnh tính một.
- Thang log
- Đếm theo chục, không phải theo đơn vị: từ 1.000 lên 10.000 lượt tải thêm cùng số điểm như từ 10.000 lên 100.000. Giúp tránh việc các mô hình lớn lấn át hết mọi thứ khác.
- Lượt thích
- Giơ ngón tay cái và lượt thích từ mọi nguồn, mỗi lượt bằng một nửa lượt tải trên thang log.
- Tỷ lệ áp dụng
- Bao nhiêu lượt tải mỗi ngày mà mô hình nhận được hiện tại, tính từ chênh lệch giữa hai lần đọc nguồn. Bằng một phần tư trọng số của lượt tải.
- Đã đo và ước tính
- Đã đo nghĩa là có hai lần đọc từ một nguồn và sự khác biệt là thật. Ước tính nghĩa là chỉ biết tổng số hôm nay và quá khứ được phân bổ trong suốt thời gian tồn tại của mô hình; trang web sẽ nói rõ đang hiển thị loại nào.
- Seeder
- Người giữ bản sao trọng số trực tuyến để người khác tải qua torrent, hoặc một bản sao lưu trữ làm điều tương tự. Mỗi người được tính là 1.000 lượt tải.
- AI Horde
- Một mạng lưới tình nguyện tạo ảnh miễn phí trên máy tính được hiến tặng. Số ảnh nó đã tạo với một mô hình được công khai, và mỗi ảnh được tính là một lượt tải.
- Trang tạo ảnh
- Các trang lưu trữ bản sao mô hình riêng và cho phép người dùng tạo ảnh, như PixAI, SeaArt và Yodayo. Lượt tải của họ được tính giống như Civitai và mỗi lần tạo ảnh được tính là một lượt tải.
- Token OpenRouter
- Mô hình văn bản phục vụ qua API, như Claude hoặc GPT, không có trọng số để tải xuống, nên sử dụng token để đo lường: các đoạn văn bản nó đọc và viết qua OpenRouter, một cổng kết nối nhiều ứng dụng sử dụng, trong 30 ngày qua. Mỗi 10,000,000 token tính là một lượt tải. Nguồn: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
- Mô hình đầy đủ (checkpoint)
- Chính là trọng số, file tự tạo ảnh. Nó được cộng thêm điểm vì các add-on phụ thuộc vào nó.
- LoRA và embedding
- Các file add-on nhỏ giúp điều chỉnh trọng số của người khác theo phong cách, nhân vật hoặc ý tưởng. Chúng không thể chạy riêng.
- Gia đình và trọng số
- Nền tảng mà mô hình xây dựng trên đó, như SD 1.5, SDXL, Flux hoặc Wan. Mỗi mô hình kế thừa ngày phát hành của trọng số gia đình nó.
- Tuổi
- Điểm trừ dựa trên thời gian trọng số gia đình được phát hành: 150° mỗi năm, tối đa 750°. Nó giữ lại lượt tải cũ đã tích tụ nhiều năm bằng cách đóng băng đầu danh sách.
- Tăng gia đình
- Một đẩy nhỏ có giới hạn cho LoRA của một gia đình mà trang này đang ưu tiên, luôn được liệt kê trong phần phân tích.
- Điểm thay thế
- Một số ổn định dưới mức tối thiểu dành cho mô hình chưa có báo cáo nguồn, để danh sách luôn đầy đủ. Nó không bao giờ xếp trên mô hình có dữ liệu.
- Mới! (giai đoạn thử nghiệm)
- Mô hình dưới 7 ngày tuổi hiển thị Mới! thay vì điểm số và không được xếp hạng. Điểm số được tính từ ngày đầu tiên, nhưng mô hình mới một ngày tăng trưởng nhanh nhất, nên nếu không chờ đợi thì #1 tuần này sẽ luôn là mô hình mới ra hôm qua thay vì mô hình giữ vững trong tuần.
- Xu hướng
- Tốc độ tăng trưởng của mô hình trong một khoảng thời gian so với tốc độ tăng trưởng trung bình của mô hình khác trong cùng khoảng thời gian. Nhanh hơn trung bình là tăng, chậm hơn là giảm.
- Mô hình điển hình
- Giữa danh mục: một nửa mô hình có số liệu tăng nhanh hơn trong khoảng thời gian, một nửa tăng chậm hơn.
