Pot rula Nemotron Super 120B local?

Nu. NVIDIA nu a lansat greutăți deschise pentru acest model, deci este doar API și nu poate fi auto-găzduit.

Cât costă și cât de lung este contextul?

Prețul este 0,09 USD per milion de tokeni de intrare și 0,40 USD per milion de tokeni de ieșire, cu o fereastră de context de 262.144 tokeni.

Cum diferă acesta de un model dens standard de 120B?

Arhitectura MoE înseamnă că doar aproximativ 12 miliarde de parametri sunt activi per pas de inferență, deci este mult mai ieftin de rulat la scară și poate găzdui mai multe instanțe simultane de agenți pe un singur GPU decât un model dens de aceeași dimensiune nominală.

NVIDIA Nemotron 3 Super 120B A12B

3130°

#llm #nvidia #raționament #agenți #context lung #buget

Deschide DeepInfra

nvidia | context de 262.144 tokeni | 0,09 $/M input, 0,40 $/M output. NVIDIA Nemotron 3 Super este un model hibrid Mixture-of-Experts (MoE) proiectat pentru cea mai înaltă eficiență de calcul și acuratețe în aplicații multi-agent și sisteme agentice specializate. Este optimizat să ruleze mulți agenți colaborativi per aplicație pe un singur GPU, oferind o acuratețe ridicată pentru raționament, utilizarea uneltelor și urmarea instrucțiunilor.

Ghiduri pentru acest model

Greutăți deschise vs open source vs doar API: ce ai voie să faci cu adevărat

Cum să alegi un model AI în octombrie 2026: noutățile modelelor închise, apoi greutățile deschise care merită descărcate

Ce este un fișier GGUF? Modele cuantificate explicate (Q4, Q8, fp8, NF4)

Toate ghidurile

Notele căpitanului

Scris de Captain, editorul casei

Note din 2026-10-13

NVIDIA Nemotron Super 120B A12B este un model hibrid Mixture-of-Experts de la NVIDIA, construit special pentru sarcini multi-agent și agentice. Arhitectura MoE activează doar 12 miliarde de parametri simultan, permițând rularea mai multor agenți în paralel pe un singur GPU fără costul de memorie al unui model dens de 120B. Dacă orchestrezi fluxuri de apelare a uneltelor sau roiuri de agenți, acesta este unghiul de eficiență pe care NVIDIA îl promovează.

Cunoscut pentru

Design MoE activează ~12 miliarde de parametri per pas de inferență, reducând calculul per agent
Creat pentru fluxuri multi-agent: utilizare de unelte, urmărirea instrucțiunilor și coordonarea agenților
Fereastra de context de 262.144 tokeni gestionează lanțuri lungi de sarcini și documente mari
Preț mult sub majoritatea modelelor de frontieră, la 0,09 USD/M input și 0,40 USD/M output

Atenție la

Greutățile nu sunt publice; ești doar API, fără opțiune de auto-găzduire sau inspectare a modelului.
Cazurile agentice pot genera rapid tokeni de output — atenție la costul de 0,40 USD/M output în fluxuri lungi.
Nu există detalii publicate în model card, deci verificarea independentă a benchmark-urilor nu este posibilă.

Cel mai bun pentru

Agenți și utilizare unelte

Raționament

Context lung

Buget

Sugestii de încercat

Plan de utilizare a uneltelor în mai mulți pași

Coordonezi un agent de cercetare. Având obiectivul: „Găsește cele trei lucrări cele mai citate despre eficiența atenției în transformere publicate după 2022 și rezumă contribuțiile lor cheie”, împarte asta în apeluri discrete de unelte (căutare web, preluare lucrare, rezumare), specifică inputul și outputul așteptat pentru fiecare pas și semnalează orice pas unde e nevoie de fallback dacă unealta nu returnează rezultate.

Protocol de transfer între agenți

Proiectează un format de mesaj pentru transferul între agenți într-un roi de suport clienți. Sunt trei agenți: Triere, Facturare și Tehnic. Scrie schema JSON pentru un payload de transfer, apoi un exemplu de transfer de la Triere la Facturare pentru un client care a fost taxat de două ori pentru același abonament și amenință să anuleze.

Lanț de instrucțiuni cu context lung

Iată un document de cerințe de produs de 2.000 de cuvinte. Citește-l cu atenție, apoi produce: (1) o listă numerotată cu fiecare criteriu explicit de acceptare, (2) o listă cu orice cerințe care se contrazic reciproc și (3) trei întrebări de clarificare pe care echipa de inginerie ar trebui să le pună înainte de a începe lucrul. [Lipește PRD-ul tău sub această linie.]

Compară cu

Nemotron 3 Ultra
Model cu greutăți deschise
context de 262,144 tokeni · $0.60/M intrare, $2.40/M ieșire
Nemotron 3.5 Lightning
Model cu greutăți deschise
context de 262,144 tokeni · $0.07/M intrare, $0.20/M ieșire
Nemotron 3 Super
Model cu greutăți deschise
context de 262,144 tokeni · $0.08/M intrare, $0.45/M ieșire
NVIDIA Nemotron 3 Ultra 550B A55B
Model cu greutăți deschise
context de 262,144 tokeni · $0.50/M intrare, $2.20/M ieșire

Mai multe modele text de la nvidia

Întrebări frecvente

Pot rula Nemotron Super 120B local?: Nu. NVIDIA nu a lansat greutăți deschise pentru acest model, deci este doar API și nu poate fi auto-găzduit.
Cât costă și cât de lung este contextul?: Prețul este 0,09 USD per milion de tokeni de intrare și 0,40 USD per milion de tokeni de ieșire, cu o fereastră de context de 262.144 tokeni.
Cum diferă acesta de un model dens standard de 120B?: Arhitectura MoE înseamnă că doar aproximativ 12 miliarde de parametri sunt activi per pas de inferență, deci este mult mai ieftin de rulat la scară și poate găzdui mai multe instanțe simultane de agenți pe un singur GPU decât un model dens de aceeași dimensiune nominală.

Verdictul căpitanului
O alegere rezonabilă pentru fluxuri agentice unde ai nevoie de context lung și cost redus per apel, dar ești complet blocat în API-ul NVIDIA.

Căpitanul scrie aceste note pe baza descrierii modelului și a fișei modelului. Prețurile și dimensiunile contextului sunt cele ale furnizorului la momentul scrierii și pot varia.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Cum se adună acest scor

Acest model nu are încă date de popularitate de la nicio sursă, așa că are un număr provizoriu sub 7,000° care menține listele complete. Nu va fi niciodată clasat mai sus decât un model cu date. Descompunerea apare aici imediat ce o sursă o raportează.

Glosar: termenii folosiți aici

Scor de căldură: Un număr care arată cât de mult este folosit și dorit un model acum, de la 0° la 9.999°. Fiecare listă de pe site care spune „cele mai călduroase” este sortată după acest scor și nimic altceva.
Prag: 7.000° este punctul de start pentru orice model cu date reale. Scara merge de la 0° la 9.999°; partea de sub prag este rezervată pentru înlocuitori (modele fără date), ca să fie sigur că un model cu date e mereu mai sus decât unul fără. Pragul e același pentru toți și nu decide nimic; gradele de deasupra lui sunt măsurătoarea.
Echivalente descărcări: Tot ce scorul tratează ca o descărcare, adunat: descărcările în sine, fiecare seeder de torrent ca 1.000, fiecare imagine AI Horde și fiecare rulare pe un site de generare ca una.
Scară logaritmică: Se numără la zeci, nu la unități: trecerea de la 1.000 la 10.000 descărcări adaugă aceleași grade ca trecerea de la 10.000 la 100.000. Astfel, modelele mari nu acoperă tot ce e mic.
Aprecieri: Like-uri și aprecieri de oriunde, fiecare valorează jumătate dintr-o descărcare pe scara logaritmică.
Rata de adoptare: Câte descărcări pe zi primește un model acum, calculat din diferența dintre două citiri ale unei surse. Are un sfert din greutatea termenului de descărcare.
Măsurat și estimat: Măsurat înseamnă că există două citiri ale unei surse și diferența este reală. Estimat înseamnă că se știe doar totalul de azi, iar trecutul este împărțit pe durata vieții modelului; site-ul spune care dintre ele este afișat.
Seeder: Cineva care păstrează o copie a greutăților online pentru ca alții să le descarce prin torrent, sau o oglindă găzduită care face același lucru. Fiecare contează ca 1.000 de descărcări.
AI Horde: O rețea de voluntari care generează imagini gratuit pe calculatoare donate. Numărul de imagini create cu un model este public și fiecare contează ca o descărcare.
Site-uri de generare: Site-uri care găzduiesc propriile copii ale unui model și permit oamenilor să genereze cu el, cum ar fi PixAI, SeaArt și Yodayo. Descărcările lor contează ca cele de pe Civitai, iar fiecare rulare de generare ca o descărcare.
Tokeni OpenRouter: Un model de text servit printr-un API, cum ar fi Claude sau GPT, nu are greutăți de descărcat, deci utilizarea sa se măsoară în tokeni: bucățile de text citite și scrise prin OpenRouter, un gateway folosit de multe aplicații, în ultimele 30 de zile. Fiecare 10,000,000 tokeni contează ca un download. Sursa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model complet (checkpoint): Greutățile în sine, fișierul care generează singur. Primește un bonus pentru că depind de el add-on-urile.
LoRA și embedding: Fișiere mici add-on care direcționează greutățile altcuiva spre un stil, un personaj sau un concept. Nu pot rula singure.
Familie și greutăți: Baza pe care este construit un model, cum ar fi SD 1.5, SDXL, Flux sau Wan. Fiecare model moștenește data lansării greutăților familiei sale.
Vârstă: Grade scăzute în funcție de cât timp a trecut de când au apărut greutățile familiei: 150° pe an, până la 750°. Păstrează descărcările vechi care au avut ani să se acumuleze, blocând topul listei.
Boost de familie: Un mic impuls limitat pentru LoRA-urile unei familii pe care site-ul o promovează acum, întotdeauna listat în detaliu.
Scor de rezervă: Un număr stabil sub prag, dat unui model despre care nicio sursă nu raportează încă, ca listele să rămână complete. Nu se clasează niciodată peste un model cu date.
Nou! (perioadă de grație): Un model mai nou de 7 zile afișează Nou! în loc de scor și nu ocupă loc în clasamente. Scorul său este calculat de la prima zi, dar un model de o zi crește mai rapid decât orice altceva, deci fără această așteptare, modelul #1 al săptămânii ar fi întotdeauna cel apărut ieri, nu cel care a rezistat o săptămână.
Tendință: Cum se compară creșterea unui model într-o perioadă cu creșterea tipică a unui model în aceeași perioadă. Mai rapid decât tipicul înseamnă creștere, mai lent scădere.
Model tipic: Mijlocul catalogului: jumătate dintre modele cu o cifră au crescut mai repede în perioada respectivă, jumătate mai încet.

Cum să instalezi

Cum să instalezi Ollama și să rulezi un AI local (Windows, Mac, Linux)

Modele similare

Modele AI pentru generare de imagini, video și text

NVIDIA Nemotron 3 Super 120B A12B este un model de text pentru familia Text / LLM, listat pe ModelTrends.ai, un catalog doar pentru citire al modelelor AI open source pentru imagini, video și text. Compară-l cu alte modele Text / LLM și verifică-i scorul de căldură pentru a vedea cât este de popular.

Mai multe modele Text / LLM llm nvidia raționament agenți context lung buget

Răsfoiește după familia de modele