Czy wagi są otwarte i czy mogę uruchomić to lokalnie?

Tak, wagi BF16 są na Hugging Face na licencji OpenMDW v1.1 i dopuszczone do użytku komercyjnego. Pojedynczy H100 80GB lub A100 80GB sobie z tym radzi, choć na sprzęcie konsumenckim lepiej wybrać wariant NVFP4 lub GGUF, które NVIDIA wskazuje osobno.

Ile to kosztuje i jak duże jest okno kontekstowe?

Przez API koszt to 0,07 USD za milion tokenów wejściowych i 0,20 USD za milion tokenów wyjściowych. Okno kontekstowe to 256K tokenów na pojedynczym H100; architektura wspiera do 1M tokenów na multi-GPU Blackwell.

Czym ta wersja BF16 różni się od wersji NVFP4?

Wersja BF16 to checkpoint referencyjny w pełnej precyzji, przeznaczony do prac po treningu, takich jak SFT, RL, destylacja i tworzenie własnych wariantów kwantyzowanych. Wersja NVFP4 to ta, którą NVIDIA rekomenduje do zoptymalizowanej inferencji i wdrożeń o niskiej latencji.

▲

59.6%

ten tydzień

Nemotron 3.5 Lightning

8980°

#llm #nvidia #rozumowanie #agenci #lokalny #długi kontekst

Ten miesiąc

Uruchom model

Oferty / Reklamy

OpenRouter Terminal / API

Płać za token

Rozmawiaj z tym modelem w przeglądarce lub wywołuj go z kodu za pomocą jednego klucza API.

NVIDIA | kontekst 262 144 tokenów | 0,07 USD/M wejście, 0,20 USD/M wyjście. NVIDIA Nemotron 3.5 Lightning to otwarty model mieszanki ekspertów od NVIDIA, z 3B aktywnych parametrów na 30B całkowitych. Nadaje się do przepływów pracy agentowych o wysokiej przepustowości oraz specjalistycznych zadań korzystających z dostosowań specyficznych dla domeny.

Poradniki do tego modelu

Ollama vs LM Studio (2026): którą lokalną aplikację AI wybrać i które topowe modele obsługuje każda z nich

Najlepsze lokalne LLM według zastosowania (październik 2026): odpowiedni otwarty model do każdego zadania

Otwarte wagi vs otwarte źródła vs tylko API: co naprawdę możesz robić

Co to jest plik GGUF? Wyjaśnienie modeli kwantyzowanych (Q4, Q8, fp8, NF4)

Ile VRAM naprawdę potrzebuję do lokalnej AI?

Jak zainstalować Ollama i uruchomić lokalną AI (Windows, Mac, Linux)

Wszystkie poradniki

Notatki kapitana

Napisane przez Captain, redaktora domu

Notatki z 2026-10-13

Nemotron 3.5 Lightning to model Mixture-of-Experts o 30 miliardach parametrów od NVIDIA, z aktywnymi tylko 3 miliardami parametrów podczas inferencji, zbudowany na hybrydowej architekturze Mamba-2, MoE i Attention. Wersja BF16 to referencyjny checkpoint — odpowiedni punkt startowy do fine-tuningu, destylacji lub budowy własnych wariantów kwantyzowanych, a nie najszybsza droga do produkcji. Wagi otwarte, dozwolone użycie komercyjne, 256K kontekstu na pojedynczym H100.

Znany z

Efektywność MoE: 30 mld parametrów łącznie, tylko 3 mld aktywowanych na pojedyncze przejście
Hybrydowa architektura łącząca Mamba-2, warstwy MoE i Attention
Konfigurowalny tryb rozumowania — możliwość włączania i wyłączania myślenia podczas inferencji
Zaprojektowany jako baza do fine-tuningu i destylacji, nie tylko jako punkt końcowy czatu
Obsługuje sześć języków, w tym angielski, hiszpański, francuski, niemiecki, włoski i japoński

Uważaj na

Ta wersja BF16 jest przeznaczona do prac dostosowawczych; do serwowania o niskiej latencji NVIDIA wskazuje wariant NVFP4.
Pojedyncze wdrożenie na H100 jest zweryfikowane do 256K tokenów; osiągnięcie 1M wymaga multi-GPU lub sprzętu Blackwell.
Wagi są otwarte, ale na licencji OpenMDW v1.1 — to nie jest standardowa licencja Apache czy MIT; sprawdź warunki.

Najlepszy do

Agenci i użycie narzędzi

Podpowiedzi do wypróbowania

Włączanie rozumowania na problemie

Rozwiązujesz problem logistyczny. Magazyn wysyła zamówienia w partiach po 12. Ma 500 jednostek produktu A i codziennie otrzymuje 75 nowych zamówień. Każde zamówienie prosi o 3 jednostki. Ile pełnych dni minie do wyczerpania zapasów i którego dnia wysłana zostanie ostatnia kompletna partia? Pokaż rozumowanie krok po kroku.

Przygotowanie do fine-tuningu domenowego

Przygotowuję zestaw danych do nadzorowanego fine-tuningu dla asystenta przeglądu dokumentów prawnych. Napisz 5 wysokiej jakości par instrukcja-odpowiedź, gdzie instrukcja prosi model o zidentyfikowanie konkretnego typu klauzuli w fragmencie umowy, a odpowiedź wskazuje klauzulę, cytuje odpowiedni tekst i wyjaśnia jej znaczenie prostym językiem.

Decompozycja zadania agentowego

Jesteś agentem z dostępem do narzędzia wyszukiwania w sieci, narzędzia wykonującego kod oraz narzędzia do zapisu plików. Użytkownik chce cotygodniowy raport o cenach konkurencji dla trzech produktów SaaS. Podziel to na konkretną sekwencję wywołań narzędzi i podzadań, określając, co każde wywołanie pobiera lub oblicza oraz jak wyniki trafiają do raportu końcowego.

Porównaj z

Nemotron 3 Ultra
Model z otwartymi wagami
Kontekst 262,144 tokenów · $0.60/M wejście, $2.40/M wyjście
Nemotron 3 Super
Model z otwartymi wagami
Kontekst 262,144 tokenów · $0.08/M wejście, $0.45/M wyjście
NVIDIA Nemotron 3 Ultra 550B A55B
Model z otwartymi wagami
Kontekst 262,144 tokenów · $0.50/M wejście, $2.20/M wyjście
Nemotron 3.5 Content Safety
Model z otwartymi wagami
Kontekst 131,072 tokenów · $0.20/M wejście, $0.20/M wyjście

Więcej modeli tekstowych od nvidia

Pytania, które ludzie zadają

Czy wagi są otwarte i czy mogę uruchomić to lokalnie?: Tak, wagi BF16 są na Hugging Face na licencji OpenMDW v1.1 i dopuszczone do użytku komercyjnego. Pojedynczy H100 80GB lub A100 80GB sobie z tym radzi, choć na sprzęcie konsumenckim lepiej wybrać wariant NVFP4 lub GGUF, które NVIDIA wskazuje osobno.
Ile to kosztuje i jak duże jest okno kontekstowe?: Przez API koszt to 0,07 USD za milion tokenów wejściowych i 0,20 USD za milion tokenów wyjściowych. Okno kontekstowe to 256K tokenów na pojedynczym H100; architektura wspiera do 1M tokenów na multi-GPU Blackwell.
Czym ta wersja BF16 różni się od wersji NVFP4?: Wersja BF16 to checkpoint referencyjny w pełnej precyzji, przeznaczony do prac po treningu, takich jak SFT, RL, destylacja i tworzenie własnych wariantów kwantyzowanych. Wersja NVFP4 to ta, którą NVIDIA rekomenduje do zoptymalizowanej inferencji i wdrożeń o niskiej latencji.

Wyrok kapitana
Poważna baza do fine-tuningu z pomysłową architekturą MoE — sięgaj po nią, gdy potrzebujesz dostosowania, a nie tylko punktu końcowego czatu.

Karta modelu na Hugging Face

Kapitan pisze te notatki na podstawie opisu modelu i karty modelu. Ceny i rozmiary kontekstu pochodzą od dostawcy w momencie pisania i mogą się zmieniać.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model

Not this creator?

Get your own badge

Trend popularności: Nemotron 3.5 Lightning

Wynik heat od 11 Aug 2026

Wskaźnik popularności

8,980°

Ten tydzień

▲

59.6%

8,919° wtedy, 8,980° teraz

Ten miesiąc

▲

1,084%

8,655° wtedy, 8,980° teraz

Ostatni rok

n/a

Jeszcze nie wydano/śledzono

7,000°

Podstawa

Skala idzie od 0° do 9 999°. Wszystko poniżej 7,000° jest zarezerwowane dla modeli, o których żadne źródło jeszcze nie raportuje, które mają tam zastępczą wartość, by listy były kompletne. 7,000° to punkt startowy dla danych pomiarowych: model z prawdziwymi danymi, ale prawie bez pobrań, stoi na tej podstawie, a pomiary wypełniają stopnie powyżej niej. Podstawa nic nie mówi o modelu; to stopnie powyżej niej robią różnicę i to one rozróżniają modele.

+1,656°

Tokeny OpenRouter

3,296,276,417,858 tokenów przetworzonych przez ten model przez OpenRouter w ciągu ostatnich 30 dni, razem zapytania i odpowiedzi. Każde 10,000,000 tokenów liczy się jako jedno pobranie w terminie pobrań, łącznie 329,627; tokeny z ostatniego dnia wchodzą do wskaźnika adopcji. Źródło: OpenRouter (openrouter.ai/rankings).

+324°

Tempo adopcji

Około 21,182 pobrań dziennie, mierzone między dwoma odczytami źródeł, nigdy nie szacowane na podstawie średniej z całego czasu. Prędkość waży ćwierć składnika pobrań, więc świeży wzrost jest widoczny, ale jednodniowy skok nie przebije lat użycia.

Pokaż szczegóły

Każdą liczbę na tej stronie można sprawdzić. Wynik popularności tego modelu to 8,980°, a tutaj jest zbudowany krok po kroku, z bieżącym sumowaniem po każdym składniku: podstawa, stopnie dodawane przez każde źródło, bonus za rodzaj modelu oraz odejmowanie za wiek wag. Kolory odpowiadają zakresom na wykresie powyżej. Na końcu znajduje się słownik, który wyjaśnia każde pojęcie.

1
Zacznij od podstawy.
Dlaczego 7,000°, a nie zero: skala idzie od 0° do 9 999°, a część poniżej 7,000° jest zarezerwowana dla modeli, o których żadne źródło jeszcze nie raportuje, które mają tam zastępczą wartość, by listy były kompletne i nigdy nie wyprzedzały modeli z danymi. 7,000° to punkt startowy dla danych pomiarowych. Model z prawdziwymi danymi, ale prawie bez pobrań, stoi tutaj; wszystko co dalej to pomiary, a przestrzeń powyżej podstawy mieści dziesięć dziesięciokrotnych kroków w pobraniach po 300° każdy. Podstawa jest taka sama dla każdego modelu, więc nic nie decyduje; decydują stopnie powyżej niej.
7,000°
bieżąca suma
2
Dodaj pobrania.
329,627 równoważników pobrań łącznie, z Tokeny OpenRouter. Dziesięć razy więcej pobrań dodaje ten sam 300°, więc rozmiar ma znaczenie, ale nigdy nie dominuje wyniku.
+1,656°
8,656°
bieżąca suma
3
Dodaj tempo adopcji.
Około 21,182 pobrań dziennie teraz, mierzone między dwoma odczytami, z wagą ćwierć pobrania.
+324°
8,980°
bieżąca suma
=
Wynik heat.
Pozycja tego modelu na każdej liście na tej stronie. Nic innego tego nie zmienia.
8,980°

Słowniczek: używane tu terminy

Wynik heat: Jedna liczba pokazująca, jak bardzo model jest używany i pożądany teraz, od 0° do 9,999°. Każda lista na tej stronie z napisem hottest jest sortowana według tego i niczego innego.
Podstawa: 7,000° to punkt startowy dla każdego modelu z prawdziwymi danymi. Skala idzie od 0° do 9,999°; część poniżej podstawy jest zarezerwowana dla zastępczych modeli (bez danych), żeby model z danymi zawsze był wyżej. Podstawa jest taka sama dla wszystkich i nic nie decyduje; stopnie powyżej niej to właściwy pomiar.
Równoważniki pobrań: Wszystko, co wynik traktuje jak pobranie, zsumowane: same pobrania, każdy seeder torrenta jako 1,000, każde AI Horde zdjęcie i każde uruchomienie na stronie generującej jako jedno.
Skala logarytmiczna: Liczenie co dziesięć, nie co jeden: przejście z 1,000 do 10,000 pobrań dodaje tyle samo stopni, co z 10,000 do 100,000. Zapobiega to dominacji gigantów nad resztą.
Polubienia: Kciuki w górę i polubienia ze wszystkich źródeł, warte połowę pobrania na skali logarytmicznej.
Tempo adopcji: Ile pobrań dziennie model ma teraz, na podstawie różnicy między dwoma odczytami źródła. Ćwierć wagi terminu pobrania.
Zmierzony i szacowany: Zmierzony oznacza, że istnieją dwa odczyty źródła i różnica jest rzeczywista. Szacowany oznacza, że znana jest tylko dzisiejsza suma, a przeszłość jest rozłożona na czas życia modelu; strona mówi, który z nich pokazuje.
Seeder: Ktoś, kto trzyma kopię wag online, aby inni mogli je pobrać przez torrent, albo hostowany mirror robiący to samo. Każdy taki liczy się jako 1 000 pobrań.
AI Horde: Sieć wolontariuszy, która generuje obrazy za darmo na komputerach darczyńców. Liczba obrazów wygenerowanych z modelem jest publiczna i każde liczy się jako jedno pobranie.
Strony generujące: Strony, które mają własne kopie modelu i pozwalają ludziom generować z nim obrazy, takie jak PixAI, SeaArt i Yodayo. Ich pobrania liczą się jak na Civitai, a każde uruchomienie generowania to jedno pobranie.
Tokeny OpenRouter: Model tekstowy obsługiwany przez API, taki jak Claude czy GPT, nie ma wag do pobrania, więc jego użycie mierzy się tokenami: fragmentami tekstu, które przeczytał i napisał przez OpenRouter, bramkę używaną przez wiele aplikacji, w ciągu ostatnich 30 dni. Każde 10,000,000 tokenów liczy się jako jedno pobranie. Źródło: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Pełny model (checkpoint): Same wagi, plik, który generuje samodzielnie. Dostaje bonus, bo dodatki od niego zależą.
LoRA i embedding: Małe pliki dodatków, które kierują czyjeś wagi w stronę stylu, postaci lub koncepcji. Nie mogą działać samodzielnie.
Rodzina i wagi: Podstawa, na której zbudowano model, np. SD 1.5, SDXL, Flux lub Wan. Każdy model dziedziczy datę wydania wag swojej rodziny.
Wiek: Stopnie odejmowane za to, jak dawno wyszły wagi rodziny: 150° za rok, do 750°. Zachowuje stare pobrania, które miały lata na narastanie, zamrażając szczyt listy.
Wzmocnienie rodziny: Małe, ograniczone wsparcie dla LoRA z rodziny, którą ta strona teraz promuje, zawsze podane w rozbiciu.
Wynik zastępczy: Stabilna liczba poniżej minimum, przyznawana modelowi, o którym jeszcze nie ma danych źródłowych, żeby listy były kompletne. Nigdy nie jest wyżej niż model z danymi.
Nowy! (okres karencji): Model młodszy niż 7 dni pokazuje Nowy! zamiast wyniku i nie zajmuje miejsca w rankingu. Jego wynik jest liczony od pierwszego dnia, ale model jednodniowy rośnie najszybciej, więc bez oczekiwania #1 tygodnia byłby zawsze tym, który pojawił się wczoraj, a nie tym, który utrzymał się przez tydzień.
Trend: Jak wzrost modelu w danym okresie wypada na tle typowego wzrostu modelu w tym samym czasie. Szybszy niż zwykle to wzrost, wolniejszy to spadek.
Typowy model: Środek katalogu: połowa modeli z danymi rosła szybciej w tym okresie, połowa wolniej.

Jak popularność tego modelu zmieniała się w porównaniu do reszty katalogu: jego wzrost w pobraniach, polubieniach i użyciu w każdym okresie, mierzony względem typowego wzrostu modelu w tym samym czasie, wraz z jego wynikiem heat score. Powyżej typowego wzrostu oznacza wzrost, poniżej spadek. Przeszłość jest odtwarzana na podstawie dzisiejszych sum, pierwszego dnia modelu i zmierzonej prędkości pobrań, jeśli są dwa odczyty; model, który nie istniał na początku okresu, pokazuje n/d.

Podobne modele

Modele AI do generowania obrazów, wideo i tekstu

Nemotron 3.5 Lightning to model tekstowy z rodziny Text / LLM wymieniony na ModelTrends.ai, katalogu tylko do odczytu otwartych modeli AI do obrazów, wideo i tekstu. Porównaj go z innymi modelami Text / LLM i sprawdź wynik popularności, aby zobaczyć trend.

Więcej modeli Text / LLM Więcej Text / LLM Tekst / LLM llm nvidia rozumowanie agenci lokalny długi kontekst wielojęzyczny

Przeglądaj według rodziny modeli