Bolehkah saya jalankan Nemotron 3 Nano 30B A3B secara tempatan?

Ya — beratnya sepenuhnya terbuka dan tersedia di Hugging Face di bawah Lesen Model Terbuka NVIDIA Nemotron. Dengan 30B parameter keseluruhan anda memerlukan VRAM yang besar untuk inferens ketepatan penuh, walaupun reka bentuk MoE bermakna hanya 3.5B parameter diaktifkan per token.

Berapa kos penggunaan melalui API, dan berapa had konteksnya?

NVIDIA menyenaraikan $0.06 bagi sejuta token input dan $0.24 bagi sejuta token output, dengan tetingkap konteks 262,144 token.

Bagaimana ia dibandingkan dengan Qwen3-30B-A3B?

Kedua-duanya berkongsi kiraan parameter aktif dan skala MoE yang sama. Nemotron memimpin dalam tugas agen (purata SWE-Bench, BFCL, Arena-Hard) dan matematik formal (MiniF2F); Qwen3-30B-A3B memimpin dalam pengambilan konteks panjang (AA-LCR) dan pengetahuan umum (MMLU-Pro). Nemotron juga dihantar dengan data latihan dan resipi terbuka, yang tidak dimiliki Qwen3.

Nemotron 3 Nano 30B A3B

3117°

#llm #nvidia #penalaran #ejen #pengaturcaraan #tempatan

Jalankan model ini

Tawaran / Iklan

OpenRouter Terminal / API

Bayar setiap token

Bual dengan model ini dalam pelayar atau panggil ia dari kod anda dengan satu kunci API.

NVIDIA | konteks 262,144 token | $0.06/M input, $0.24/M output. NVIDIA Nemotron 3 Nano 30B A3B adalah model bahasa MoE kecil dengan kecekapan pengiraan dan ketepatan tertinggi untuk pembangun membina sistem AI agen khusus. Model ini sepenuhnya terbuka dengan berat terbuka, set data dan resipi supaya pembangun boleh menyesuaikan, mengoptimum dan melaksanakan model pada infrastruktur mereka untuk privasi dan keselamatan maksimum.

Panduan untuk model ini

LLM tempatan terbaik mengikut kegunaan (Oktober 2026): model terbuka yang sesuai untuk setiap kerja

Berapa banyak VRAM yang saya perlukan untuk AI tempatan?

Berat terbuka vs sumber terbuka vs hanya API: apa yang sebenarnya kamu dibenarkan lakukan

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Semua panduan

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Nemotron 3 Nano 30B A3B adalah model Campuran-pakar dari NVIDIA yang hanya mengaktifkan 3.5B parameter per token sementara menggunakan 30B jumlah keseluruhan, menjadikannya cekap luar biasa untuk tahap keupayaannya. Ia dibina khusus untuk aliran kerja agen dan menyokong jejak penaakulan yang boleh dihidupkan atau dimatikan. Berat, set data, dan resipi latihan semuanya terbuka, jadi anda boleh melatih semula dan hos sendiri tanpa perlu izin.

Dikenali untuk

Jejak rantaian pemikiran boleh dihidupkan atau dimatikan mengikut permintaan.
Penanda aras agen yang kuat, termasuk skor fungsi panggilan SWE-Bench dan BFCL.
Seni bina MoE mengaktifkan hanya 3.5B daripada 30B parameter per token untuk kos pengiraan rendah.
Tetingkap konteks 262k token dengan skor pengambilan RULER yang kukuh.
Sepenuhnya terbuka: berat, set data dan resipi latihan semuanya diterbitkan.

Berhati-hati dengan

Diperintah oleh Lesen Model Terbuka NVIDIA Nemotron, bukan lesen permisif Apache atau MIT — baca sebelum digunakan.
Pengambilan konteks panjang (AA-LCR) ketinggalan berbanding Qwen3-30B-A3B dengan ketara; jangan bergantung padanya untuk tugas jarum dalam jerami yang mendalam.
30B parameter keseluruhan bermakna anda memerlukan VRAM yang besar untuk menjalankannya secara tempatan dengan ketepatan penuh.

Terbaik untuk

Ejen dan penggunaan alat

Penalaran

Pengaturcaraan

Jalankan secara tempatan

Konteks panjang

Arahan untuk cuba

Debug alat agen yang gagal

Saya ada agen Python yang memanggil API cuaca dan kemudian menulis ringkasan ke fail. Ia gagal senyap apabila API mengembalikan 429. Terangkan cara menambah logik cuba semula dengan pengunduran eksponen, mengendalikan ralat had kadar dengan baik, dan log kegagalan tanpa merosakkan gelung agen. Tunjukkan kod yang disemak semula.

Semak bukti matematik sukar

Buktikan bahawa untuk mana-mana integer n lebih besar daripada 1, n^5 - n boleh dibahagi dengan 30. Tunjukkan setiap langkah penaakulan, kenal pasti faktor perdana yang anda kendalikan secara berasingan, dan sahkan keputusan untuk n = 2, 3, dan 6 sebagai semakan kewarasan.

Rancang tugas penyelidikan berbilang langkah

Anda adalah agen dengan akses kepada alat carian web dan alat pelaksanaan kod. Rangka pelan langkah demi langkah untuk menentukan yang mana antara lima model bahasa berat terbuka terbesar yang dikeluarkan pada 2025 mempunyai kos terendah bagi token output berguna dalam tugas pengkodan. Nyatakan apa yang dilakukan setiap panggilan alat dan apa pintu keputusan antara langkah.

Bandingkan dengan

Nemotron 3 Ultra
Model berat terbuka
konteks 262,144 token · Input $0.60/M, output $2.40/M
Nemotron 3.5 Lightning
Model berat terbuka
konteks 262,144 token · Input $0.07/M, output $0.20/M
Nemotron 3 Super
Model berat terbuka
konteks 262,144 token · Input $0.08/M, output $0.45/M
NVIDIA Nemotron 3 Ultra 550B A55B
Model berat terbuka
konteks 262,144 token · Input $0.50/M, output $2.20/M

Lebih banyak model teks dari nvidia

Soalan yang sering ditanya

Bolehkah saya jalankan Nemotron 3 Nano 30B A3B secara tempatan?: Ya — beratnya sepenuhnya terbuka dan tersedia di Hugging Face di bawah Lesen Model Terbuka NVIDIA Nemotron. Dengan 30B parameter keseluruhan anda memerlukan VRAM yang besar untuk inferens ketepatan penuh, walaupun reka bentuk MoE bermakna hanya 3.5B parameter diaktifkan per token.
Berapa kos penggunaan melalui API, dan berapa had konteksnya?: NVIDIA menyenaraikan $0.06 bagi sejuta token input dan $0.24 bagi sejuta token output, dengan tetingkap konteks 262,144 token.
Bagaimana ia dibandingkan dengan Qwen3-30B-A3B?: Kedua-duanya berkongsi kiraan parameter aktif dan skala MoE yang sama. Nemotron memimpin dalam tugas agen (purata SWE-Bench, BFCL, Arena-Hard) dan matematik formal (MiniF2F); Qwen3-30B-A3B memimpin dalam pengambilan konteks panjang (AA-LCR) dan pengetahuan umum (MMLU-Pro). Nemotron juga dihantar dengan data latihan dan resipi terbuka, yang tidak dimiliki Qwen3.

Keputusan Kapten
MoE agen pertama yang benar-benar terbuka yang berprestasi melebihi berat parameter aktifnya — patut dilihat jika anda hos sendiri saluran penaakulan.

Kad model di Hugging Face

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Bagaimana skor ini dijumlahkan

Model ini belum ada data populariti dari mana-mana sumber lagi, jadi ia membawa nombor gantian di bawah 7,000° yang memastikan senarai lengkap. Ia tidak pernah menduduki tempat lebih tinggi daripada model yang ada data. Pecahan muncul di sini sebaik sahaja sumber melaporkannya.

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Model serupa

Fugu Ultra v2

TEXT / LLM

Nano Banana 2 Lite (Gemini 3.1 Flash Lite Image)

TEXT / LLM

Aion 3.0

TEXT / LLM

L3.1 70B Euryale v2.2

TEXT / LLM

Model AI untuk penjanaan imej, video dan teks

Nemotron 3 Nano 30B A3B ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain dan semak skor habanya untuk melihat trendnya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm nvidia penalaran ejen pengaturcaraan tempatan konteks panjang

Layari mengikut keluarga model