Apakah bobotnya terbuka dan bisakah saya menjalankan ini secara lokal?

Ya, bobot BF16 ada di Hugging Face di bawah Lisensi OpenMDW v1.1 dan diizinkan untuk penggunaan komersial. Satu H100 80GB atau A100 80GB dapat menangani, meski untuk perangkat konsumen Anda akan ingin varian NVFP4 atau GGUF yang direferensikan NVIDIA secara terpisah.

Berapa biaya dan berapa jendela konteksnya?

Melalui API biayanya $0,07 per juta token input dan $0,20 per juta token output. Konteks 256K token pada satu H100; arsitektur mendukung hingga 1M token pada setup multi-GPU Blackwell.

Apa perbedaan rilis BF16 ini dengan rilis NVFP4?

Rilis BF16 adalah checkpoint presisi penuh referensi, ditujukan untuk pekerjaan pasca-pelatihan seperti SFT, RL, distilasi, dan membuat varian kuantisasi sendiri. Rilis NVFP4 adalah yang direkomendasikan NVIDIA untuk inferensi teroptimasi dan deployment latensi rendah.

▲

59.6%

minggu ini

Nemotron 3.5 Lightning

8980°

#llm #nvidia #penalaran #agen #lokal #konteks panjang

Bulan ini

Jalankan model ini

Penawaran / Iklan

OpenRouter Terminal / API

Bayar per token

Ngobrol dengan model ini di browser atau panggil dari kode kamu dengan satu API key.

NVIDIA | konteks token 262.144 | $0,07/M input, $0,20/M output. NVIDIA Nemotron 3.5 Lightning adalah model campuran ahli terbuka dari NVIDIA, dengan 3B parameter aktif dari total 30B. Cocok untuk beban kerja agen throughput tinggi dan tugas khusus yang mendapat manfaat dari kustomisasi domain spesifik.

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI lokal mana yang harus digunakan, dan model top mana yang dijalankan masing-masing

LLM lokal terbaik berdasarkan kasus penggunaan (Oktober 2026): model terbuka yang tepat untuk setiap pekerjaan

Bobot terbuka vs sumber terbuka vs hanya API: apa yang sebenarnya boleh kamu lakukan

Apa itu file GGUF? Penjelasan model terkuantisasi (Q4, Q8, fp8, NF4)

Berapa banyak VRAM yang sebenarnya saya butuhkan untuk AI lokal?

Cara Menginstal Ollama dan Menjalankan AI Lokal (Windows, Mac, Linux)

Semua panduan

Catatan Kapten

Ditulis oleh Captain, editor rumah

Catatan dari 2026-10-13

Nemotron 3.5 Lightning adalah model Mixture-of-Experts 30B dari NVIDIA dengan hanya 3B parameter aktif saat inferensi, dibangun dengan arsitektur hibrid Mamba-2, MoE, dan Attention. Rilis BF16 ini adalah checkpoint referensi — titik awal yang tepat untuk fine-tuning, distilasi, atau membangun varian kuantisasi sendiri, bukan jalur tercepat ke produksi. Bobot terbuka, penggunaan komersial diizinkan, dan jendela konteks 256K pada satu H100.

Dikenal untuk

Efisiensi MoE: 30B parameter total, hanya 3B aktif per forward pass
Arsitektur hibrid menggabungkan lapisan Mamba-2, MoE, dan Attention
Mode penalaran yang dapat dikonfigurasi — aktifkan atau nonaktifkan berpikir saat inferensi
Dirancang sebagai basis fine-tuning dan distilasi, bukan hanya endpoint chat
Mendukung enam bahasa termasuk Inggris, Spanyol, Prancis, Jerman, Italia, Jepang

Waspadai

Rilis BF16 ini untuk pekerjaan kustomisasi; untuk layanan latensi rendah, NVIDIA merekomendasikan varian NVFP4.
Deployment satu H100 divalidasi sampai 256K token; mencapai 1M token butuh multi-GPU atau hardware Blackwell.
Bobot terbuka tapi di bawah Lisensi OpenMDW v1.1 — bukan lisensi Apache atau MIT standar; periksa ketentuannya.

Terbaik untuk

Agen dan penggunaan alat

Penalaran

Jalankan secara lokal

Konteks panjang

Multibahasa

Prompt untuk dicoba

Aktifkan penalaran pada masalah

Anda sedang memecahkan masalah logistik. Sebuah gudang mengirim pesanan dalam batch 12. Ada 500 unit produk A dan menerima 75 pesanan baru setiap hari. Setiap pesanan meminta 3 unit. Berapa hari penuh sampai stok habis, dan pada hari ke berapa batch lengkap terakhir dikirim? Tunjukkan alasan Anda langkah demi langkah.

Persiapan fine-tune domain

Saya sedang menyiapkan dataset fine-tuning terawasi untuk asisten review dokumen hukum. Tulis 5 pasangan instruksi-respons berkualitas tinggi di mana instruksi meminta model mengidentifikasi jenis klausul tertentu dalam kutipan kontrak, dan respons mengidentifikasi klausul, mengutip teks relevan, serta menjelaskan maknanya dalam bahasa Inggris sederhana.

Dekompisi tugas agentik

Anda adalah agen dengan akses ke alat pencarian web, eksekusi kode, dan penulisan file. Seorang pengguna ingin laporan mingguan harga pesaing untuk tiga produk SaaS. Pecah ini menjadi urutan panggilan alat dan sub-tugas konkret, jelaskan apa yang diambil atau dihitung setiap panggilan dan bagaimana outputnya masuk ke laporan akhir.

Bandingkan dengan

Nemotron 3 Ultra
Model dengan bobot terbuka
konteks 262,144 token · $0.60/M input, $2.40/M output
Nemotron 3 Super
Model dengan bobot terbuka
konteks 262,144 token · $0.08/M input, $0.45/M output
NVIDIA Nemotron 3 Ultra 550B A55B
Model dengan bobot terbuka
konteks 262,144 token · $0.50/M input, $2.20/M output
Nemotron 3.5 Content Safety
Model dengan bobot terbuka
konteks 131,072 token · $0.20/M input, $0.20/M output

Model teks lain dari nvidia

Pertanyaan yang sering diajukan

Apakah bobotnya terbuka dan bisakah saya menjalankan ini secara lokal?: Ya, bobot BF16 ada di Hugging Face di bawah Lisensi OpenMDW v1.1 dan diizinkan untuk penggunaan komersial. Satu H100 80GB atau A100 80GB dapat menangani, meski untuk perangkat konsumen Anda akan ingin varian NVFP4 atau GGUF yang direferensikan NVIDIA secara terpisah.
Berapa biaya dan berapa jendela konteksnya?: Melalui API biayanya $0,07 per juta token input dan $0,20 per juta token output. Konteks 256K token pada satu H100; arsitektur mendukung hingga 1M token pada setup multi-GPU Blackwell.
Apa perbedaan rilis BF16 ini dengan rilis NVFP4?: Rilis BF16 adalah checkpoint presisi penuh referensi, ditujukan untuk pekerjaan pasca-pelatihan seperti SFT, RL, distilasi, dan membuat varian kuantisasi sendiri. Rilis NVFP4 adalah yang direkomendasikan NVIDIA untuk inferensi teroptimasi dan deployment latensi rendah.

Putusan Kapten
Basis fine-tuning serius dengan arsitektur MoE cerdas — gunakan saat Anda perlu kustomisasi, bukan hanya endpoint chat.

Kartu model di Hugging Face

Kapten menulis catatan ini dari deskripsi model dan kartu model itu sendiri. Harga dan ukuran konteks adalah milik penyedia pada saat penulisan dan dapat berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Tren popularitas Nemotron 3.5 Lightning

Skor panas sejak 11 Aug 2026

Skor panas

8,980°

Minggu ini

▲

59.6%

8,919° dulu, 8,980° sekarang

Bulan ini

▲

1,083%

8,655° dulu, 8,980° sekarang

Tahun lalu

n/a

Belum dirilis/dilacak

7,000°

Floor

Skala berjalan dari 0° sampai 9.999°. Semua yang di bawah 7,000° disimpan untuk model yang belum dilaporkan oleh sumber mana pun, yang memakai angka pengganti di sana supaya daftar tetap lengkap. 7,000° adalah titik awal data yang diukur: model dengan data nyata tapi hampir tidak ada unduhan berada di floor, dan pengukuran mengisi derajat di atasnya. Floor tidak mengatakan apa-apa tentang model; hanya derajat di atasnya yang berbicara, dan itu yang membedakan satu model dengan yang lain.

+1,656°

Token OpenRouter

3,296,276,417,858 token diproses model ini melalui OpenRouter dalam 30 hari terakhir, termasuk prompt dan jawaban. Setiap 10,000,000 token dihitung sebagai satu unduhan dalam istilah unduhan, total 329,627; token hari terakhir masuk ke tingkat adopsi. Sumber: OpenRouter (openrouter.ai/rankings).

+324°

Tingkat adopsi

Sekitar 21,182 unduhan per hari, diukur antara dua pembacaan sumber, tidak pernah ditebak dari rata-rata seumur hidup. Kecepatan dihitung seperempat dari istilah unduhan, jadi lonjakan baru terlihat tanpa membiarkan lonjakan satu hari mengalahkan penggunaan bertahun-tahun.

Tampilkan rincian

Setiap angka di situs ini bisa dicek. Skor heat model ini adalah 8,980°, dan ini dibangun satu bahan pada satu waktu, dengan total berjalan setelah setiap langkah: floor, derajat yang ditambahkan setiap sumber, bonus untuk jenis model dan pengurangan karena usia bobotnya. Warna-warna itu adalah rentang pada grafik di atas. Glosarium di akhir menjelaskan setiap istilah.

1
Mulai dari floor.
Kenapa 7,000° dan bukan nol: skala dari 0° sampai 9.999°, dan bagian di bawah 7,000° disediakan untuk model yang belum dilaporkan sumber mana pun, yang memakai angka pengganti supaya daftar tetap lengkap dan tidak pernah mengalahkan model dengan data. 7,000° adalah titik awal data yang diukur. Model dengan data nyata tapi hampir tidak ada unduhan berada di sini; semua yang berikutnya adalah pengukuran, dan ruang di atas floor memuat sepuluh langkah sepuluh kali lipat unduhan dengan 300° masing-masing. Floor sama untuk semua model, jadi tidak menentukan apa-apa; yang menentukan adalah derajat di atasnya.
7,000°
total berjalan
2
Tambahkan unduhan.
329,627 setara unduhan secara total, dari Token OpenRouter. Sepuluh kali unduhan menambah 300° yang sama, jadi ukuran penting tapi tidak pernah mendominasi skor.
+1,656°
8,656°
total berjalan
3
Tambahkan tingkat adopsi.
Sekitar 21,182 unduhan per hari sekarang, diukur antara dua pembacaan, dengan bobot seperempat.
+324°
8,980°
total berjalan
=
Skor heat.
Posisi model ini di setiap daftar di situs ini. Tidak ada yang mengubahnya selain ini.
8,980°

Glosarium: istilah yang dipakai di sini

Skor heat: Satu angka untuk seberapa banyak model dipakai dan diinginkan sekarang, dari 0° sampai 9.999°. Setiap daftar di situs ini yang bilang terpanas diurutkan berdasarkan ini dan tidak ada yang lain.
Lantai: 7.000° yang jadi titik awal semua model dengan data nyata. Skala dari 0° sampai 9.999°; bagian di bawah lantai untuk pengganti (model tanpa data), supaya model dengan data selalu di atas yang tanpa. Lantai sama untuk semua dan tidak menentukan apa-apa; derajat di atasnya yang dihitung.
Setara unduhan: Semua yang dihitung skor sebagai unduhan, dijumlahkan: unduhan itu sendiri, setiap torrent seeder dihitung 1.000, setiap gambar AI Horde dan setiap run di situs generasi dihitung satu.
Skala log: Menghitung per puluhan, bukan per satuan: naik dari 1.000 ke 10.000 unduhan menambah derajat yang sama dengan naik dari 10.000 ke 100.000. Ini mencegah raksasa mendominasi semuanya.
Suka: Jempol ke atas dan suka dari semua sumber, bernilai setengah unduhan di skala log.
Tingkat adopsi: Berapa banyak unduhan per hari yang didapat model sekarang, dari selisih dua pembacaan sumber. Bobot seperempat dari istilah unduhan.
Diukur dan diperkirakan: Diukur berarti ada dua pembacaan dari sumber dan perbedaannya nyata. Diperkirakan berarti hanya total hari ini yang diketahui dan masa lalu dibagi selama umur model; situs memberitahu mana yang sedang ditampilkan.
Seeder: Seseorang yang menyimpan salinan bobot secara online agar orang lain bisa mengunduh lewat torrent, atau mirror yang dihosting melakukan hal yang sama. Setiap satu dihitung sebagai 1.000 unduhan.
AI Horde: Jaringan sukarelawan yang menghasilkan gambar secara gratis di komputer yang disumbangkan. Jumlah gambar yang dibuat dengan model tertentu bersifat publik, dan setiap gambar dihitung sebagai satu unduhan.
Situs generasi: Situs yang menyimpan salinan model sendiri dan membiarkan orang menghasilkan gambar dengannya, seperti PixAI, SeaArt, dan Yodayo. Unduhan mereka dihitung seperti di Civitai dan setiap kali generasi dihitung sebagai satu unduhan.
Token OpenRouter: Model teks yang dilayani melalui API, seperti Claude atau GPT, tidak memiliki bobot untuk diunduh, jadi penggunaannya diukur dalam token: potongan teks yang dibaca dan ditulis melalui OpenRouter, gateway yang digunakan banyak aplikasi, selama 30 hari terakhir. Setiap 10,000,000 token dihitung sebagai satu unduhan. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Bobot itu sendiri, file yang bisa menghasilkan secara mandiri. Mendapat bonus karena add-on bergantung padanya.
LoRA dan embedding: File add-on kecil yang mengarahkan bobot orang lain ke gaya, karakter, atau konsep tertentu. Tidak bisa dijalankan sendiri.
Keluarga dan bobot: Dasar yang dipakai model, seperti SD 1.5, SDXL, Flux, atau Wan. Setiap model mewarisi tanggal rilis bobot keluarganya.
Usia: Pengurangan nilai berdasarkan seberapa lama bobot keluarga itu dirilis: 150° per tahun, sampai maksimal 750°. Ini menjaga unduhan lama yang sudah bertahun-tahun menumpuk agar tetap di atas daftar.
Dorongan keluarga: Dorongan kecil dan terbatas untuk LoRA dari keluarga yang sedang didorong situs ini sekarang, selalu tercantum dalam rincian.
Skor pengganti: Angka stabil di bawah batas yang diberikan pada model yang belum ada laporan sumbernya, supaya daftar tetap lengkap. Tidak pernah lebih tinggi dari model yang punya data.
Baru! (masa tenggang): Model yang berumur kurang dari 7 hari menunjukkan label Baru! bukan skor dan tidak masuk peringkat. Skornya dihitung sejak hari pertama, tapi model yang baru sehari tumbuh lebih cepat dari apa pun, jadi tanpa masa tunggu model #1 minggu ini selalu yang baru kemarin, bukan yang bertahan seminggu.
Tren: Bagaimana pertumbuhan model selama periode tertentu dibandingkan dengan pertumbuhan model biasa di periode yang sama. Lebih cepat dari biasanya berarti naik, lebih lambat berarti turun.
Model biasa: Tengah katalog: setengah model dengan angka tumbuh lebih cepat selama periode itu, setengahnya lebih lambat.

Bagaimana popularitas model ini bergerak dibandingkan dengan katalog lainnya: pertumbuhan unduhan, suka, dan penggunaan setiap periode, diukur terhadap pertumbuhan model biasa dalam periode yang sama, dengan skor panasnya saat itu. Di atas pertumbuhan biasa berarti naik, di bawahnya berarti turun. Masa lalu direkonstruksi dari total hari ini, hari pertama model, dan kecepatan unduhan yang diukur jika ada dua pembacaan; model yang belum ada di awal periode menunjukkan n/a.

Model Serupa

Model AI untuk Pembuatan Gambar, Video & Teks

Nemotron 3.5 Lightning adalah model teks untuk keluarga Text / LLM yang tercantum di ModelTrends.ai, katalog hanya-baca untuk model AI gambar, video, dan teks open source. Bandingkan dengan model Text / LLM lainnya dan lihat skor popularitasnya untuk mengetahui trennya.

Model Text / LLM lainnya Teks / LLM Text / LLM lainnya llm nvidia penalaran agen lokal konteks panjang multibahasa

Jelajahi berdasarkan Keluarga Model