Är vikterna öppna och kan jag köra detta lokalt?

Ja, BF16-vikterna finns på Hugging Face under OpenMDW License v1.1 och är godkända för kommersiell användning. En enda H100 80GB eller A100 80GB klarar det, men för konsumenthårdvara vill du ha NVFP4- eller GGUF-varianterna som NVIDIA refererar till separat.

Vad kostar det och hur stort är kontextfönstret?

Via API kostar det 0,07 USD per miljon inmatningstokens och 0,20 USD per miljon utmatningstokens. Kontexten är 256K tokens på en enda H100; arkitekturen stödjer upp till 1M tokens på multi-GPU Blackwell-setup.

Hur skiljer sig denna BF16-utgåva från NVFP4-utgåvan?

BF16-utgåvan är referenskontrollen i full precision, avsedd för efterträning som SFT, RL, destillation och att producera egna kvantiserade varianter. NVFP4-utgåvan är den NVIDIA rekommenderar för optimerad inferens och låg latensdistribution.

▲

59.6%

den här veckan

Nemotron 3.5 Lightning

8980°

#llm #nvidia #resonemang #agenter #lokal #lång kontext

Denna månad

Kör modellen

Erbjudanden / annonser

OpenRouter Terminal / API

Betala per token

Chatta med den här modellen i webbläsaren eller anropa den från din kod med en API-nyckel.

NVIDIA | 262 144 tokens kontext | $0.07/M input, $0.20/M output. NVIDIA Nemotron 3.5 Lightning är en öppen mixture-of-experts-modell från NVIDIA, med 3 miljarder aktiva parametrar av totalt 30 miljarder. Den är lämpad för höggenomströmning agentbaserade arbetsuppgifter och specialiserade uppgifter som gynnas av domänspecifik anpassning.

Guider för denna modell

Ollama vs LM Studio (2026): vilken lokal AI-app du ska använda och vilka toppmodeller varje kör

Bästa lokala LLM efter användningsområde (oktober 2026): rätt öppna modell för varje jobb

Öppna vikter vs öppen källkod vs endast API: vad du faktiskt får göra

Vad är en GGUF-fil? Förklaringar av kvantiserade modeller (Q4, Q8, fp8, NF4)

Hur mycket VRAM behöver jag egentligen för lokal AI?

Hur man installerar Ollama och kör en lokal AI (Windows, Mac, Linux)

Alla guider

Kaptenens anteckningar

Skrivet av Captain, husets redaktör

Anteckningar från 2026-10-13

Nemotron 3.5 Lightning är en 30 miljarder parametrars Mixture-of-Experts-modell från NVIDIA med endast 3 miljarder parametrar aktiva vid inferens, byggd på en hybrid av Mamba-2, MoE och Attention-arkitektur. BF16-utgåvan här är referenskontrollen — rätt startpunkt för finjustering, destillation eller att bygga egna kvantiserade varianter, inte den snabbaste vägen till produktion. Öppna vikter, kommersiell användning tillåten, och 256K kontext på en enda H100.

Känd för

MoE-effektivitet: 30 miljarder totala parametrar, endast 3 miljarder aktiva per framåtpass
Hybridarkitektur som blandar Mamba-2, MoE-lager och Attention
Konfigurerbart resonemangsläge — slå på eller av tänkande vid inferens
Designad som bas för finjustering och destillation, inte bara en chatt-endpoint
Stöder sex språk inklusive engelska, spanska, franska, tyska, italienska och japanska

Se upp för

Denna BF16-utgåva är för anpassningsarbete; för låg latens rekommenderar NVIDIA istället NVFP4-varianten.
Enkel H100-distribution är validerad för 256K tokens; att nå 1M kräver multi-GPU eller Blackwell-hårdvara.
Vikterna är öppna men under OpenMDW License Agreement v1.1 — inte en standard Apache- eller MIT-licens; kontrollera villkoren.

Bäst för

Agenter och verktygsanvändning

Promptar att prova

Slå på resonemang för ett problem

Du löser ett logistikproblem. Ett lager skickar beställningar i batchar om 12. Det har 500 enheter av produkt A och får 75 nya beställningar varje dag. Varje beställning begär 3 enheter. Hur många hela dagar räcker lagret, och vilken dag skickas den sista kompletta batchen? Visa ditt resonemang steg för steg.

Förberedelse för domänspecifik finjustering

Jag förbereder en dataset för övervakad finjustering för en assistent för juridisk dokumentgranskning. Skriv 5 högkvalitativa instruktion-svar-par där instruktionen ber modellen identifiera en specifik klausultyp i ett kontraktutdrag, och svaret identifierar klausulen, citerar relevant text och förklarar dess betydelse på vardagsspråk.

Nedbrytning av agentuppgift

Du är en agent med tillgång till ett webbsökverktyg, ett kodkörningsverktyg och ett filskrivningsverktyg. En användare vill ha en veckorapport om konkurrentpriser för tre SaaS-produkter. Bryt ner detta i en konkret sekvens av verktygsanrop och deluppgifter, specificera vad varje anrop hämtar eller beräknar och hur utdata matas in i slutrapporten.

Jämför med

Nemotron 3 Ultra
Öppen vikt-modell
262,144 tokens kontext · $0.60/M indata, $2.40/M utdata
Nemotron 3 Super
Öppen vikt-modell
262,144 tokens kontext · $0.08/M indata, $0.45/M utdata
NVIDIA Nemotron 3 Ultra 550B A55B
Öppen vikt-modell
262,144 tokens kontext · $0.50/M indata, $2.20/M utdata
Nemotron 3.5 Content Safety
Öppen vikt-modell
131,072 tokens kontext · $0.20/M indata, $0.20/M utdata

Fler textmodeller från nvidia

Vanliga frågor

Är vikterna öppna och kan jag köra detta lokalt?: Ja, BF16-vikterna finns på Hugging Face under OpenMDW License v1.1 och är godkända för kommersiell användning. En enda H100 80GB eller A100 80GB klarar det, men för konsumenthårdvara vill du ha NVFP4- eller GGUF-varianterna som NVIDIA refererar till separat.
Vad kostar det och hur stort är kontextfönstret?: Via API kostar det 0,07 USD per miljon inmatningstokens och 0,20 USD per miljon utmatningstokens. Kontexten är 256K tokens på en enda H100; arkitekturen stödjer upp till 1M tokens på multi-GPU Blackwell-setup.
Hur skiljer sig denna BF16-utgåva från NVFP4-utgåvan?: BF16-utgåvan är referenskontrollen i full precision, avsedd för efterträning som SFT, RL, destillation och att producera egna kvantiserade varianter. NVFP4-utgåvan är den NVIDIA rekommenderar för optimerad inferens och låg latensdistribution.

Kaptens omdöme
En seriös bas för finjustering med en smart MoE-arkitektur — använd den när du behöver anpassa, inte bara när du behöver en chatt-endpoint.

Model card på Hugging Face

Kapten skriver dessa anteckningar från modellens egen beskrivning och model card. Priser och kontextstorlekar är från leverantören vid skrivtillfället och kan ändras.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Popularitetstrend för Nemotron 3.5 Lightning

Värmenpoäng sedan 11 Aug 2026

Värmescore

8,980°

Den här veckan

▲

59.6%

8,919° då, 8,980° nu

Den här månaden

▲

1,083%

8,655° då, 8,980° nu

Senaste året

n/a

Inte släppt/spårad än

7,000°

Golvet

Skalan går från 0° till 9 999°. Allt under 7,000° är reserverat för modeller som ingen källa rapporterat om än, som får ett tillfälligt nummer där så listorna förblir kompletta. 7,000° är där mätta data börjar: en modell med riktiga data men nästan inga nedladdningar ligger på golvet, och mätningarna fyller graderna ovanför. Golvet säger inget om modellen; det gör bara graderna ovanför, och det är de som skiljer en modell från en annan.

+1,656°

OpenRouter-token

3,296,276,417,858 token som denna modell bearbetat via OpenRouter de senaste 30 dagarna, både prompts och svar. Varje 10,000,000 token räknas som en nedladdning i nedladdningsterm, totalt 329,627; token från senaste dagen räknas in i användningstakten. Källa: OpenRouter (openrouter.ai/rankings).

+324°

Adoptionshastighet

Ungefär 21,182 nedladdningar per dag, mätt mellan två avläsningar av källorna, aldrig uppskattat från ett livstidsgenomsnitt. Hastigheten väger en fjärdedel av nedladdningstermen, så en ny våg syns utan att en dags toppar slår ut år av användning.

Visa detaljerad uppdelning

Varje siffra på den här sidan kan kontrolleras. Den här modellens heat-poäng är 8,980°, och här byggs den upp en ingrediens i taget, med löpande total efter varje: golvet, graderna varje källa lägger till, bonusen för modelltypen och vad vikternas ålder drar bort. Färgerna är banden i diagrammet ovan. Ordlistan i slutet förklarar varje term.

1
Börja vid golvet.
Varför 7,000° och inte noll: skalan går från 0° till 9 999°, och delen under 7,000° är reserverad för modeller som ingen källa rapporterat om än, som får ett tillfälligt nummer där så listorna förblir kompletta och aldrig rankas högre än en modell med data. 7,000° är där mätta data börjar. En modell med riktiga data men nästan inga nedladdningar ligger här; allt som följer är mätning, och utrymmet ovanför golvet rymmer tio tiofaldiga steg i nedladdningar på 300° vardera. Golvet är detsamma för varje modell, så det avgör inget; det gör graderna ovanför.
7,000°
löpande total
2
Lägg till nedladdningarna.
329,627 nedladdnings-ekvivalenter totalt, från OpenRouter-token. Tio gånger nedladdningarna ger samma 300°, så storlek spelar roll men tar aldrig över poängen.
+1,656°
8,656°
löpande total
3
Lägg till adoptionshastigheten.
Ungefär 21,182 nedladdningar per dag just nu, mätt mellan två mätningar, med en fjärdedels vikt.
+324°
8,980°
löpande total
=
Heat-poängen.
Var den här modellen står på varje lista på den här sidan. Ingenting annat ändrar den.
8,980°

Ordlista: termerna som används här

Heat-poäng: Ett nummer för hur mycket en modell används och efterfrågas just nu, från 0° till 9 999°. Varje lista på den här sidan som säger hetast sorteras efter den och inget annat.
Golvet: De 7 000° som varje modell med verklig data börjar från. Skalan går från 0° till 9 999°; delen under golvet är reserverad för ersättare (modeller utan data), så att en modell med data alltid rankas över en utan. Golvet är samma för alla och avgör inget; graderna ovanför är själva mätningen.
Nedladdnings-ekvivalenter: Allt som poängen räknar som en nedladdning, summerat: själva nedladdningarna, varje torrent-seeder som 1 000, varje AI Horde-bild och varje körning på en genereringssajt som en.
Logaritmisk skala: Räknar i tiotal, inte i ental: att gå från 1 000 till 10 000 nedladdningar ger lika många grader som att gå från 10 000 till 100 000. Det hindrar jättar från att tränga ut allt annat.
Gillanden: Tummar upp och gillanden från alla källor, värda hälften av en nedladdning på den logaritmiska skalan.
Adoptionshastighet: Hur många nedladdningar per dag en modell får just nu, från skillnaden mellan två mätningar av en källa. En fjärdedels vikt av nedladdningsdelen.
Mätt och uppskattad: Mätt betyder att det finns två mätningar från en källa och skillnaden är verklig. Uppskattad betyder att bara dagens total är känd och det fördelas över modellens livstid; sidan visar vilken det är.
Seeder: Någon som håller en kopia av vikterna online för andra att ladda ner via torrent, eller en hostad spegel som gör samma sak. Varje sådan räknas som 1 000 nedladdningar.
AI Horde: Ett frivilligt nätverk som genererar bilder gratis på donerade datorer. Antalet bilder det har gjort med en modell är offentligt, och varje bild räknas som en nedladdning.
Genereringssajter: Sajter som hostar sina egna kopior av en modell och låter folk generera med den, som PixAI, SeaArt och Yodayo. Deras nedladdningar räknas som Civitaís och varje genereringskörning räknas som en nedladdning.
OpenRouter-token: En textmodell som nås via API, som Claude eller GPT, har inga vikter att ladda ner, så dess användning mäts i token: textbitar den läst och skrivit via OpenRouter, en gateway som många appar använder, under de senaste 30 dagarna. Varje 10,000,000 token räknas som en nedladdning. Källa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Full modell (checkpoint): Själva vikterna, filen som genererar självständigt. Den får en bonus eftersom tillägg beror på den.
LoRA och embedding: Små tilläggsfiler som styr någon annans vikter mot en stil, en karaktär eller ett koncept. De kan inte köras själva.
Familj och vikter: Basen en modell är byggd på, som SD 1.5, SDXL, Flux eller Wan. Varje modell ärver släppdatumet för sin familjs vikter.
Ålder: Poäng som dras av beroende på hur länge sedan familjens vikter släpptes: 150° per år, upp till 750°. Det behåller gamla nedladdningar som haft år på sig att samlas för att frysa toppen av listan.
Familjeboost: En liten, begränsad skjuts för LoRAs från en familj som den här sajten just nu vill lyfta fram, alltid med i uppdelningen.
Stand-in-poäng: Ett stabilt nummer under golvet som ges till en modell som ännu inte har rapporter från någon källa, så listorna förblir kompletta. Den rankas aldrig högre än en modell med data.
Ny! (karensperiod): En modell som är mindre än 7 dagar gammal visar Ny! istället för poäng och räknas inte i rankningen. Poängen räknas från dag ett, men en modell som är en dag gammal växer snabbare än allt annat, så utan väntan skulle veckans #1 alltid vara det som kom ut igår istället för det som hållit i en vecka.
Trend: Hur en modells tillväxt under en period jämförs med den typiska modellens tillväxt under samma period. Snabbare än vanligt läses som en ökning, långsammare som en nedgång.
Typisk modell: Mitten av katalogen: hälften av modellerna med siffror växte snabbare under perioden, hälften långsammare.

Hur den här modellens popularitet har rört sig jämfört med resten av katalogen: dess tillväxt i nedladdningar, gillningar och användning under varje period, mätt mot en typisk modells tillväxt under samma period, med dess heat-poäng vid den tiden. Över den typiska tillväxten ses som en uppgång, under som en nedgång. Det förflutna rekonstrueras från dagens totalsummor, modellens första dag och dess uppmätta nedladdningshastighet där två mätningar finns; en modell som inte fanns i början av en period visar n/a.

Liknande modeller

Qwen3 Coder 30B A3B Instruct

TEXT / LLM

GLM 4.6V

TEXT / LLM

AI-modeller för bild-, video- och textgenerering

Nemotron 3.5 Lightning är en textmodell för familjen Text / LLM, listad på ModelTrends.ai, en skrivskyddad katalog över AI-modeller med öppen källkod för bild, video och text. Jämför den med andra Text / LLM-modeller och se dess hettapoäng.

Fler Text / LLM-modeller llm nvidia resonemang agenter lokal lång kontext fler språk

Bläddra efter modellfamilj