Greutățile sunt deschise și pot rula local?

Da, greutățile BF16 sunt pe Hugging Face sub Licența OpenMDW v1.1 și sunt permise pentru uz comercial. Un singur H100 80GB sau A100 80GB îl poate gestiona, deși pentru hardware de consum vei dori variantele NVFP4 sau GGUF pe care NVIDIA le recomandă separat.

Cât costă și cât de mare este fereastra de context?

Prin API costă 0,07 USD per milion de tokeni de intrare și 0,20 USD per milion de tokeni de ieșire. Contextul este de 256K tokeni pe un singur H100; arhitectura suportă până la 1M tokeni pe setup-uri multi-GPU Blackwell.

Cum diferă această versiune BF16 de versiunea NVFP4?

Versiunea BF16 este punctul de referință cu precizie completă, destinată lucrărilor post-antrenament precum SFT, RL, distilare și producerea propriilor variante cuantificate. Versiunea NVFP4 este cea recomandată de NVIDIA pentru inferență optimizată și implementare cu latență scăzută.

▲

59.6%

săptămâna aceasta

Nemotron 3.5 Lightning

8980°

#llm #nvidia #raționament #agenți #local #context lung

Luna aceasta

Rulează modelul

Oferte / Reclame

OpenRouter Terminal / API

Plătește pe token

Conversează cu acest model în browser sau apelează-l din codul tău cu o singură cheie API.

NVIDIA | context de 262.144 tokeni | 0,07$/M input, 0,20$/M output. NVIDIA Nemotron 3.5 Lightning este un model open Mixture-of-Experts de la NVIDIA, cu 3B parametri activi din 30B total. Este potrivit pentru sarcini agentice cu debit mare și sarcini specializate care beneficiază de personalizare specifică domeniului.

Ghiduri pentru acest model

Ollama vs LM Studio (2026): ce aplicație AI locală să folosești și ce modele de top rulează fiecare

Cel mai bun LLM local după caz de utilizare (octombrie 2026): modelul open potrivit pentru fiecare job

Greutăți deschise vs open source vs doar API: ce ai voie să faci cu adevărat

Ce este un fișier GGUF? Modele cuantificate explicate (Q4, Q8, fp8, NF4)

De câțiva GB de VRAM am nevoie cu adevărat pentru AI local?

Cum să instalezi Ollama și să rulezi un AI local (Windows, Mac, Linux)

Toate ghidurile

Notele căpitanului

Scris de Captain, editorul casei

Note din 2026-10-13

Nemotron 3.5 Lightning este un model Mixture-of-Experts de 30 miliarde de parametri de la NVIDIA, cu doar 3 miliarde de parametri activi la inferență, construit pe o arhitectură hibridă Mamba-2, MoE și Attention. Versiunea BF16 de aici este punctul de referință — punctul de plecare corect pentru fine-tuning, distilare sau construirea propriilor variante cuantificate, nu calea cea mai rapidă spre producție. Greutăți deschise, utilizare comercială permisă și o fereastră de context de 256K pe un singur H100.

Cunoscut pentru

Eficiența MoE: 30B parametri total, doar 3B activi per pas înainte
Arhitectură hibridă care combină Mamba-2, straturi MoE și Attention
Mod de raționament configurabil — poți activa sau dezactiva gândirea la inferență
Conceput ca bază pentru fine-tuning și distilare, nu doar ca punct final de chat
Suportă șase limbi, inclusiv engleză, spaniolă, franceză, germană, italiană și japoneză

Atenție la

Această versiune BF16 este pentru personalizare; pentru servire cu latență scăzută, NVIDIA recomandă varianta NVFP4.
Implementarea pe un singur H100 este validată până la 256K tokeni; pentru 1M tokeni este nevoie de multi-GPU sau hardware Blackwell.
Greutățile sunt deschise, dar sub Licența OpenMDW v1.1 — nu o licență standard Apache sau MIT; verifică termenii.

Cel mai bun pentru

Agenți și utilizare unelte

Sugestii de încercat

Activează raționamentul pe o problemă

Rezolvi o problemă de logistică. Un depozit expediază comenzile în loturi de 12. Are 500 de unități din produsul A și primește 75 de comenzi noi pe zi. Fiecare comandă cere 3 unități. Câte zile întregi trec până se epuizează stocul și în ce zi se expediază ultimul lot complet? Arată raționamentul pas cu pas.

Pregătire fine-tune pe domeniu

Pregătesc un set de date pentru fine-tuning supravegheat pentru un asistent de revizuire a documentelor legale. Scrie 5 perechi de instrucțiuni-răspuns de înaltă calitate în care instrucțiunea cere modelului să identifice un tip specific de clauză într-un extras de contract, iar răspunsul identifică clauza, citează textul relevant și explică semnificația ei în limbaj simplu.

Descompunerea unei sarcini agentice

Ești un agent cu acces la un instrument de căutare web, un instrument de execuție cod și un instrument de scriere fișiere. Un utilizator dorește un raport săptămânal despre prețurile competitorilor pentru trei produse SaaS. Descompune asta într-o secvență concretă de apeluri de unelte și sub-sarcini, specificând ce aduce sau calculează fiecare apel și cum se integrează rezultatele în raportul final.

Compară cu

Nemotron 3 Ultra
Model cu greutăți deschise
context de 262,144 tokeni · $0.60/M intrare, $2.40/M ieșire
Nemotron 3 Super
Model cu greutăți deschise
context de 262,144 tokeni · $0.08/M intrare, $0.45/M ieșire
NVIDIA Nemotron 3 Ultra 550B A55B
Model cu greutăți deschise
context de 262,144 tokeni · $0.50/M intrare, $2.20/M ieșire
Nemotron 3.5 Content Safety
Model cu greutăți deschise
context de 131,072 tokeni · $0.20/M intrare, $0.20/M ieșire

Mai multe modele text de la nvidia

Întrebări frecvente

Greutățile sunt deschise și pot rula local?: Da, greutățile BF16 sunt pe Hugging Face sub Licența OpenMDW v1.1 și sunt permise pentru uz comercial. Un singur H100 80GB sau A100 80GB îl poate gestiona, deși pentru hardware de consum vei dori variantele NVFP4 sau GGUF pe care NVIDIA le recomandă separat.
Cât costă și cât de mare este fereastra de context?: Prin API costă 0,07 USD per milion de tokeni de intrare și 0,20 USD per milion de tokeni de ieșire. Contextul este de 256K tokeni pe un singur H100; arhitectura suportă până la 1M tokeni pe setup-uri multi-GPU Blackwell.
Cum diferă această versiune BF16 de versiunea NVFP4?: Versiunea BF16 este punctul de referință cu precizie completă, destinată lucrărilor post-antrenament precum SFT, RL, distilare și producerea propriilor variante cuantificate. Versiunea NVFP4 este cea recomandată de NVIDIA pentru inferență optimizată și implementare cu latență scăzută.

Verdictul căpitanului
O bază serioasă pentru fine-tuning cu o arhitectură MoE inteligentă — apelează la ea când ai nevoie de personalizare, nu doar de un punct final de chat.

Fișa modelului pe Hugging Face

Căpitanul scrie aceste note pe baza descrierii modelului și a fișei modelului. Prețurile și dimensiunile contextului sunt cele ale furnizorului la momentul scrierii și pot varia.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Tendința de popularitate a Nemotron 3.5 Lightning

Scor de căldură din 11 Aug 2026

Scor de popularitate

8,980°

Săptămâna aceasta

▲

59.6%

8,919° atunci, 8,980° acum

Luna aceasta

▲

1,083%

8,655° atunci, 8,980° acum

Ultimul an

n/a

Nu a fost lansat/urmărit

7,000°

Prag minim

Scara merge de la 0° la 9.999°. Tot ce este sub 7,000° este rezervat pentru modelele despre care nicio sursă nu raportează încă, care au un număr provizoriu acolo ca să rămână listele complete. 7,000° este punctul de start pentru datele măsurate: un model cu date reale, dar aproape fără descărcări, stă la prag, iar măsurătorile umplu gradele de deasupra. Pragul nu spune nimic despre model; doar gradele de deasupra îl diferențiază de alte modele.

+1,656°

Tokeni OpenRouter

3,296,276,417,858 tokeni procesați de acest model prin OpenRouter în ultimele 30 de zile, împreună cu prompturile și răspunsurile. Fiecare 10,000,000 tokeni contează ca un download în termenul de descărcări, 329,627 în total; tokenii ultimei zile se adaugă la rata de adoptare. Sursa: OpenRouter (openrouter.ai/rankings).

+324°

Rata de adoptare

Aproximativ 21,182 descărcări pe zi, măsurate între două citiri ale surselor, niciodată estimate dintr-o medie pe viață. Viteza cântărește un sfert din termenul descărcărilor, așa că o creștere recentă se vede fără să lase un vârf de o zi să depășească ani de utilizare.

Arată detalii

Fiecare număr de pe acest site poate fi verificat. Scorul de popularitate al acestui model este 8,980°, iar aici este construit pas cu pas, cu totalul acumulat după fiecare ingredient: pragul minim, gradele adăugate de fiecare sursă, bonusul pentru tipul modelului și ce scade vârsta greutăților. Culorile sunt benzile din graficul de mai sus. Glosarul de la final definește fiecare termen.

1
Începe de la prag.
De ce 7,000° și nu zero: scara merge de la 0° la 9.999°, iar partea de sub 7,000° este rezervată modelelor despre care nicio sursă nu raportează încă, care au un număr provizoriu acolo ca să rămână listele complete și să nu depășească niciodată un model cu date. 7,000° este punctul de start pentru datele măsurate. Un model cu date reale, dar aproape fără descărcări, stă aici; tot ce urmează este măsurare, iar spațiul de deasupra pragului conține zece pași de zece ori mai multe descărcări, fiecare la 300°. Pragul este același pentru toate modelele, deci nu decide nimic; gradele de deasupra fac diferența.
7,000°
total curent
2
Adaugă descărcările.
329,627 echivalente de descărcări în total, de la Tokeni OpenRouter. De zece ori descărcările adaugă același 300°, deci mărimea contează, dar nu domină scorul.
+1,656°
8,656°
total curent
3
Adaugă rata de adoptare.
Aproximativ 21,182 descărcări pe zi acum, măsurate între două citiri, cu un sfert din greutate.
+324°
8,980°
total curent
=
Scorul de căldură.
Unde se situează acest model pe fiecare listă de pe site. Nimic altceva nu îl ajustează.
8,980°

Glosar: termenii folosiți aici

Scor de căldură: Un număr care arată cât de mult este folosit și dorit un model acum, de la 0° la 9.999°. Fiecare listă de pe site care spune „cele mai călduroase” este sortată după acest scor și nimic altceva.
Prag: 7.000° este punctul de start pentru orice model cu date reale. Scara merge de la 0° la 9.999°; partea de sub prag este rezervată pentru înlocuitori (modele fără date), ca să fie sigur că un model cu date e mereu mai sus decât unul fără. Pragul e același pentru toți și nu decide nimic; gradele de deasupra lui sunt măsurătoarea.
Echivalente descărcări: Tot ce scorul tratează ca o descărcare, adunat: descărcările în sine, fiecare seeder de torrent ca 1.000, fiecare imagine AI Horde și fiecare rulare pe un site de generare ca una.
Scară logaritmică: Se numără la zeci, nu la unități: trecerea de la 1.000 la 10.000 descărcări adaugă aceleași grade ca trecerea de la 10.000 la 100.000. Astfel, modelele mari nu acoperă tot ce e mic.
Aprecieri: Like-uri și aprecieri de oriunde, fiecare valorează jumătate dintr-o descărcare pe scara logaritmică.
Rata de adoptare: Câte descărcări pe zi primește un model acum, calculat din diferența dintre două citiri ale unei surse. Are un sfert din greutatea termenului de descărcare.
Măsurat și estimat: Măsurat înseamnă că există două citiri ale unei surse și diferența este reală. Estimat înseamnă că se știe doar totalul de azi, iar trecutul este împărțit pe durata vieții modelului; site-ul spune care dintre ele este afișat.
Seeder: Cineva care păstrează o copie a greutăților online pentru ca alții să le descarce prin torrent, sau o oglindă găzduită care face același lucru. Fiecare contează ca 1.000 de descărcări.
AI Horde: O rețea de voluntari care generează imagini gratuit pe calculatoare donate. Numărul de imagini create cu un model este public și fiecare contează ca o descărcare.
Site-uri de generare: Site-uri care găzduiesc propriile copii ale unui model și permit oamenilor să genereze cu el, cum ar fi PixAI, SeaArt și Yodayo. Descărcările lor contează ca cele de pe Civitai, iar fiecare rulare de generare ca o descărcare.
Tokeni OpenRouter: Un model de text servit printr-un API, cum ar fi Claude sau GPT, nu are greutăți de descărcat, deci utilizarea sa se măsoară în tokeni: bucățile de text citite și scrise prin OpenRouter, un gateway folosit de multe aplicații, în ultimele 30 de zile. Fiecare 10,000,000 tokeni contează ca un download. Sursa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model complet (checkpoint): Greutățile în sine, fișierul care generează singur. Primește un bonus pentru că depind de el add-on-urile.
LoRA și embedding: Fișiere mici add-on care direcționează greutățile altcuiva spre un stil, un personaj sau un concept. Nu pot rula singure.
Familie și greutăți: Baza pe care este construit un model, cum ar fi SD 1.5, SDXL, Flux sau Wan. Fiecare model moștenește data lansării greutăților familiei sale.
Vârstă: Grade scăzute în funcție de cât timp a trecut de când au apărut greutățile familiei: 150° pe an, până la 750°. Păstrează descărcările vechi care au avut ani să se acumuleze, blocând topul listei.
Boost de familie: Un mic impuls limitat pentru LoRA-urile unei familii pe care site-ul o promovează acum, întotdeauna listat în detaliu.
Scor de rezervă: Un număr stabil sub prag, dat unui model despre care nicio sursă nu raportează încă, ca listele să rămână complete. Nu se clasează niciodată peste un model cu date.
Nou! (perioadă de grație): Un model mai nou de 7 zile afișează Nou! în loc de scor și nu ocupă loc în clasamente. Scorul său este calculat de la prima zi, dar un model de o zi crește mai rapid decât orice altceva, deci fără această așteptare, modelul #1 al săptămânii ar fi întotdeauna cel apărut ieri, nu cel care a rezistat o săptămână.
Tendință: Cum se compară creșterea unui model într-o perioadă cu creșterea tipică a unui model în aceeași perioadă. Mai rapid decât tipicul înseamnă creștere, mai lent scădere.
Model tipic: Mijlocul catalogului: jumătate dintre modele cu o cifră au crescut mai repede în perioada respectivă, jumătate mai încet.

Cum s-a schimbat popularitatea acestui model față de restul catalogului: creșterea lui în descărcări, aprecieri și utilizare în fiecare perioadă, comparată cu creșterea tipică a unui model în aceeași perioadă, plus scorul său de căldură la momentul respectiv. Dacă e peste creșterea tipică, înseamnă că a crescut, dacă e sub, a scăzut. Istoricul se reconstruiește din totalurile de azi, prima zi a modelului și viteza lui de descărcare măsurată când sunt două citiri; un model care nu exista la începutul perioadei arată n/a.

Modele similare

Modele AI pentru generare de imagini, video și text

Nemotron 3.5 Lightning este un model de text pentru familia Text / LLM, listat pe ModelTrends.ai, un catalog doar pentru citire al modelelor AI open source pentru imagini, video și text. Compară-l cu alte modele Text / LLM și verifică-i scorul de căldură pentru a vedea cât este de popular.

Mai multe modele Text / LLM llm nvidia raționament agenți local context lung multilingv

Răsfoiește după familia de modele