Tôi có thể chạy Nemotron 3 Nano 30B A3B cục bộ không?

Có — trọng số hoàn toàn mở và có trên Hugging Face theo Giấy phép Mô hình Mở NVIDIA Nemotron. Với 30 tỷ tham số tổng cộng, bạn sẽ cần VRAM lớn để suy luận độ chính xác đầy đủ, dù thiết kế MoE chỉ kích hoạt 3,5 tỷ tham số mỗi token.

Chi phí sử dụng qua API và giới hạn ngữ cảnh là gì?

NVIDIA niêm yết 0,06 đô la cho mỗi triệu token đầu vào và 0,24 đô la cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 262.144 token.

So sánh với Qwen3-30B-A3B thế nào?

Cả hai đều có cùng số tham số hoạt động và quy mô MoE. Nemotron dẫn đầu về tác vụ agent (SWE-Bench, BFCL, trung bình Arena-Hard) và toán học hình thức (MiniF2F); Qwen3-30B-A3B dẫn về truy xuất ngữ cảnh dài (AA-LCR) và kiến thức chung (MMLU-Pro). Nemotron cũng cung cấp dữ liệu huấn luyện và công thức mở, trong khi Qwen3 thì không.

Nemotron 3 Nano 30B A3B

3117°

#llm #nvidia #lý luận #tác nhân #lập trình #cục bộ

Chạy mô hình này

Ưu đãi / Quảng cáo

OpenRouter Terminal / API

Trả theo token

Trò chuyện với mô hình này trên trình duyệt hoặc gọi nó từ mã của bạn với một khóa API.

NVIDIA | ngữ cảnh 262,144 token | $0.06/M đầu vào, $0.24/M đầu ra. NVIDIA Nemotron 3 Nano 30B A3B là mô hình ngôn ngữ MoE nhỏ với hiệu quả tính toán và độ chính xác cao nhất dành cho các nhà phát triển xây dựng hệ thống AI agent chuyên biệt. Mô hình hoàn toàn mở với trọng số, bộ dữ liệu và công thức mở để các nhà phát triển dễ dàng tùy chỉnh, tối ưu và triển khai mô hình trên hạ tầng của họ nhằm tối đa hóa quyền riêng tư và bảo mật.

Hướng dẫn cho mô hình này

LLM cục bộ tốt nhất theo từng trường hợp sử dụng (Tháng 10 năm 2026): mô hình mở phù hợp cho mọi công việc

Mình thực sự cần bao nhiêu VRAM cho AI cục bộ?

Mở weights vs mã nguồn mở vs chỉ API: bạn thực sự được phép làm gì

Tệp GGUF là gì? Giải thích về các mô hình lượng tử hóa (Q4, Q8, fp8, NF4)

Tất cả hướng dẫn

Ghi chú của thuyền trưởng

Viết bởi Captain, biên tập viên chính

Ghi chú từ 2026-10-13

Nemotron 3 Nano 30B A3B là mô hình Hỗn hợp chuyên gia của NVIDIA chỉ kích hoạt 3,5 tỷ tham số trên tổng số 30 tỷ tham số mỗi token, làm cho nó hiệu quả bất thường trong phân khúc khả năng của mình. Nó được xây dựng đặc biệt cho các luồng công việc agent và hỗ trợ bật tắt dấu vết suy luận. Trọng số, bộ dữ liệu và công thức huấn luyện đều mở, nên bạn có thể tinh chỉnh và tự lưu trữ mà không cần xin phép.

Nổi tiếng với

Bật tắt chuỗi suy luận: dấu vết suy luận có thể bật hoặc tắt theo yêu cầu.
Điểm chuẩn agent mạnh, bao gồm SWE-Bench và điểm gọi hàm BFCL.
Kiến trúc MoE chỉ kích hoạt 3,5 tỷ tham số trên 30 tỷ tham số để giảm chi phí tính toán.
Cửa sổ ngữ cảnh 262k token với điểm truy xuất RULER tốt.
Hoàn toàn mở: trọng số, bộ dữ liệu và công thức huấn luyện đều được công bố.

Cẩn thận với

Được điều chỉnh bởi Giấy phép Mô hình Mở NVIDIA Nemotron, không phải giấy phép Apache hay MIT thoáng; hãy đọc kỹ trước khi triển khai.
Truy xuất ngữ cảnh dài (AA-LCR) kém hơn Qwen3-30B-A3B rõ rệt; không nên dựa vào nó cho các tác vụ tìm kim trong đống rơm sâu.
30 tỷ tham số tổng cộng nghĩa là bạn cần VRAM đáng kể để chạy cục bộ với độ chính xác đầy đủ.

Phù hợp nhất cho

Tác nhân và sử dụng công cụ

Lời nhắc để thử

Gỡ lỗi công cụ agent thất bại

Tôi có một agent Python gọi API thời tiết rồi ghi tóm tắt vào file. Nó im lặng thất bại khi API trả về lỗi 429. Hướng dẫn tôi cách thêm logic thử lại với độ trễ lũy thừa, xử lý lỗi giới hạn tần suất một cách nhẹ nhàng, và ghi lại lỗi mà không làm agent bị sập vòng lặp. Hiển thị mã đã chỉnh sửa.

Kiểm tra chứng minh toán học khó

Chứng minh rằng với mọi số nguyên n lớn hơn 1, n^5 - n chia hết cho 30. Trình bày từng bước suy luận, xác định các thừa số nguyên tố bạn xử lý riêng, và xác nhận kết quả đúng với n = 2, 3, và 6 để kiểm tra hợp lý.

Lập kế hoạch nghiên cứu đa bước

Bạn là agent có quyền truy cập công cụ tìm kiếm web và công cụ thực thi mã. Lập kế hoạch từng bước để xác định trong năm mô hình ngôn ngữ trọng số mở lớn nhất phát hành năm 2025, mô hình nào có chi phí token đầu ra hữu ích thấp nhất trên các tác vụ lập trình. Chỉ rõ mỗi cuộc gọi công cụ làm gì và các cổng quyết định giữa các bước.

So sánh với

Nemotron 3 Ultra
Mô hình mở trọng số
ngữ cảnh 262,144 token · Đầu vào $0.60/M, đầu ra $2.40/M
Nemotron 3.5 Lightning
Mô hình mở trọng số
ngữ cảnh 262,144 token · Đầu vào $0.07/M, đầu ra $0.20/M
Nemotron 3 Super
Mô hình mở trọng số
ngữ cảnh 262,144 token · Đầu vào $0.08/M, đầu ra $0.45/M
NVIDIA Nemotron 3 Ultra 550B A55B
Mô hình mở trọng số
ngữ cảnh 262,144 token · Đầu vào $0.50/M, đầu ra $2.20/M

Thêm mô hình văn bản từ nvidia

Câu hỏi thường gặp

Tôi có thể chạy Nemotron 3 Nano 30B A3B cục bộ không?: Có — trọng số hoàn toàn mở và có trên Hugging Face theo Giấy phép Mô hình Mở NVIDIA Nemotron. Với 30 tỷ tham số tổng cộng, bạn sẽ cần VRAM lớn để suy luận độ chính xác đầy đủ, dù thiết kế MoE chỉ kích hoạt 3,5 tỷ tham số mỗi token.
Chi phí sử dụng qua API và giới hạn ngữ cảnh là gì?: NVIDIA niêm yết 0,06 đô la cho mỗi triệu token đầu vào và 0,24 đô la cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 262.144 token.
So sánh với Qwen3-30B-A3B thế nào?: Cả hai đều có cùng số tham số hoạt động và quy mô MoE. Nemotron dẫn đầu về tác vụ agent (SWE-Bench, BFCL, trung bình Arena-Hard) và toán học hình thức (MiniF2F); Qwen3-30B-A3B dẫn về truy xuất ngữ cảnh dài (AA-LCR) và kiến thức chung (MMLU-Pro). Nemotron cũng cung cấp dữ liệu huấn luyện và công thức mở, trong khi Qwen3 thì không.

Phán quyết của thuyền trưởng
Một MoE thực sự mở, ưu tiên agent, vượt trội so với trọng số hoạt động — đáng xem nếu bạn tự lưu trữ các pipeline suy luận.

Thẻ mô hình trên Hugging Face

Thuyền trưởng viết những ghi chú này dựa trên mô tả và thẻ mô hình của mô hình. Giá cả và kích thước ngữ cảnh là của nhà cung cấp tại thời điểm viết và có thể thay đổi.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Điểm số này được tính như thế nào

Mô hình này chưa có dữ liệu phổ biến từ bất kỳ nguồn nào, nên nó mang một số thay thế dưới 7,000° để giữ cho danh sách đầy đủ. Nó không bao giờ xếp trên một mô hình có dữ liệu. Phân tích chi tiết sẽ xuất hiện ở đây ngay khi có nguồn báo cáo.

Thuật ngữ: các từ dùng ở đây

Điểm nhiệt: Một số duy nhất cho biết mô hình được dùng và mong muốn thế nào hiện tại, từ 0° đến 9.999°. Mọi danh sách trên trang này nói về độ hot đều sắp xếp theo nó và không theo gì khác.
Sàn điểm: 7.000° là điểm bắt đầu cho mọi mô hình có dữ liệu thật. Thang điểm chạy từ 0° đến 9.999°; phần dưới sàn dành cho mô hình thay thế (mô hình không có dữ liệu), để mô hình có dữ liệu luôn xếp trên mô hình không có. Sàn điểm giống nhau cho tất cả và không quyết định gì; điểm trên sàn mới là thước đo.
Tương đương lượt tải: Tất cả những gì điểm số coi là lượt tải, cộng lại: lượt tải thật, mỗi người chia sẻ torrent tính 1.000, mỗi ảnh AI Horde và mỗi lượt chạy trên trang tạo ảnh tính một.
Thang log: Đếm theo chục, không phải theo đơn vị: từ 1.000 lên 10.000 lượt tải thêm cùng số điểm như từ 10.000 lên 100.000. Giúp tránh việc các mô hình lớn lấn át hết mọi thứ khác.
Lượt thích: Giơ ngón tay cái và lượt thích từ mọi nguồn, mỗi lượt bằng một nửa lượt tải trên thang log.
Tỷ lệ áp dụng: Bao nhiêu lượt tải mỗi ngày mà mô hình nhận được hiện tại, tính từ chênh lệch giữa hai lần đọc nguồn. Bằng một phần tư trọng số của lượt tải.
Đã đo và ước tính: Đã đo nghĩa là có hai lần đọc từ một nguồn và sự khác biệt là thật. Ước tính nghĩa là chỉ biết tổng số hôm nay và quá khứ được phân bổ trong suốt thời gian tồn tại của mô hình; trang web sẽ nói rõ đang hiển thị loại nào.
Seeder: Người giữ bản sao trọng số trực tuyến để người khác tải qua torrent, hoặc một bản sao lưu trữ làm điều tương tự. Mỗi người được tính là 1.000 lượt tải.
AI Horde: Một mạng lưới tình nguyện tạo ảnh miễn phí trên máy tính được hiến tặng. Số ảnh nó đã tạo với một mô hình được công khai, và mỗi ảnh được tính là một lượt tải.
Trang tạo ảnh: Các trang lưu trữ bản sao mô hình riêng và cho phép người dùng tạo ảnh, như PixAI, SeaArt và Yodayo. Lượt tải của họ được tính giống như Civitai và mỗi lần tạo ảnh được tính là một lượt tải.
Token OpenRouter: Mô hình văn bản phục vụ qua API, như Claude hoặc GPT, không có trọng số để tải xuống, nên sử dụng token để đo lường: các đoạn văn bản nó đọc và viết qua OpenRouter, một cổng kết nối nhiều ứng dụng sử dụng, trong 30 ngày qua. Mỗi 10,000,000 token tính là một lượt tải. Nguồn: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Mô hình đầy đủ (checkpoint): Chính là trọng số, file tự tạo ảnh. Nó được cộng thêm điểm vì các add-on phụ thuộc vào nó.
LoRA và embedding: Các file add-on nhỏ giúp điều chỉnh trọng số của người khác theo phong cách, nhân vật hoặc ý tưởng. Chúng không thể chạy riêng.
Gia đình và trọng số: Nền tảng mà mô hình xây dựng trên đó, như SD 1.5, SDXL, Flux hoặc Wan. Mỗi mô hình kế thừa ngày phát hành của trọng số gia đình nó.
Tuổi: Điểm trừ dựa trên thời gian trọng số gia đình được phát hành: 150° mỗi năm, tối đa 750°. Nó giữ lại lượt tải cũ đã tích tụ nhiều năm bằng cách đóng băng đầu danh sách.
Tăng gia đình: Một đẩy nhỏ có giới hạn cho LoRA của một gia đình mà trang này đang ưu tiên, luôn được liệt kê trong phần phân tích.
Điểm thay thế: Một số ổn định dưới mức tối thiểu dành cho mô hình chưa có báo cáo nguồn, để danh sách luôn đầy đủ. Nó không bao giờ xếp trên mô hình có dữ liệu.
Mới! (giai đoạn thử nghiệm): Mô hình dưới 7 ngày tuổi hiển thị Mới! thay vì điểm số và không được xếp hạng. Điểm số được tính từ ngày đầu tiên, nhưng mô hình mới một ngày tăng trưởng nhanh nhất, nên nếu không chờ đợi thì #1 tuần này sẽ luôn là mô hình mới ra hôm qua thay vì mô hình giữ vững trong tuần.
Xu hướng: Tốc độ tăng trưởng của mô hình trong một khoảng thời gian so với tốc độ tăng trưởng trung bình của mô hình khác trong cùng khoảng thời gian. Nhanh hơn trung bình là tăng, chậm hơn là giảm.
Mô hình điển hình: Giữa danh mục: một nửa mô hình có số liệu tăng nhanh hơn trong khoảng thời gian, một nửa tăng chậm hơn.

Mô hình tương tự

Mô hình AI để tạo hình ảnh, video & văn bản

Nemotron 3 Nano 30B A3B là một mô hình văn bản thuộc họ Text / LLM được liệt kê trên ModelTrends.ai, danh mục chỉ đọc về các mô hình AI hình ảnh, video và văn bản mã nguồn mở. So sánh nó với các mô hình Text / LLM khác và xem điểm độ hot để biết xu hướng.

Thêm mô hình Text / LLM Thêm Văn bản / LLM Text / LLM llm nvidia lý luận tác nhân lập trình cục bộ ngữ cảnh dài

Duyệt theo họ mô hình