Bolehkah saya jalankan Nemotron 70B secara tempatan?

Tidak. NVIDIA tidak mengeluarkan berat model secara awam, jadi model ini hanya melalui API dan tidak boleh dimuat turun atau dijalankan pada perkakasan anda sendiri.

Berapa kos dan berapa panjang konteksnya?

Harga adalah $1.20 setiap sejuta token untuk input dan output, dengan tetingkap konteks 131,072 token.

Bagaimana ia berbeza daripada Llama 3.1 70B standard?

NVIDIA menyesuaikan Llama 3.1 70B asas khusus untuk kebermanfaatan dan penyelarasan, yang menjadikannya lebih baik daripada model asas dalam penanda aras pengikut arahan pada masa pelancaran.

Llama 3.1 Nemotron 70B Instruct

4324°

#llm #nvidia #sembang #penulisan #penalaran #konteks panjang

Berjalan di Graydient

Buka DeepInfra

Jalankan model ini

Tawaran / Iklan

Easy Creator (Prism) Web

Tanpa had · yuran tetap

Terbaik untuk pemula. Aliran kerja yang kuat, lengkung pembelajaran rendah.

PirateDiffusion Telegram

Tanpa had · yuran tetap

Cipta video, imej, persona sembang tersuai, dan banyak lagi.

Pro studio (SpyGlass) Web

Tanpa had · yuran tetap

Layari model, render dan perbaiki dari mana-mana pelayar atau telefon.

Discord bot (Vector)

Tanpa had · yuran tetap

Tambah Vector ke pelayan anda atau sertai Discord Vector. Cipta apa sahaja!

Unified Editor Web

Tanpa had · yuran tetap

Editor untuk imej dan video: render, sunting, tingkatkan dan banyak lagi dalam satu halaman.

Aplikasi tempatan

Perlu tetapan

Pasang program tempatan kalau komputer kau cukup kuat.

ModelDuel Web

Bayar ikut guna

Jana arahan yang sama pada sehingga 50 model checkpoint/asas sekaligus.

Sewa GPU di awan

Graydient Cloud GPU

Tanpa had · yuran tetap

Bayaran tetap, penggunaan tanpa had. Model ini dipasang dengan satu klik.

RunPod Cloud GPU

Caj mengikut minit

Sewa GPU mengikut minit dan pasang model sendiri.

Panduan untuk model ini

Berat terbuka vs sumber terbuka vs hanya API: apa yang sebenarnya kamu dibenarkan lakukan

10 Alternatif ChatGPT Termurah pada 2026: model tempatan percuma, tahap percuma dan pelan kadar rata

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Semua panduan

nvidia | konteks 131,072 token | $1.20/M input, $1.20/M output. Llama-3.1-Nemotron-70B-Instruct adalah model bahasa besar yang disesuaikan oleh NVIDIA untuk meningkatkan kebermanfaatan respons LLM yang dijana kepada pertanyaan pengguna. Model ini mencapai Arena Hard sebanyak 85.0, AlpacaEval 2 LC sebanyak 57.6 dan GPT-4-Turbo MT-Bench sebanyak 8.98, yang diketahui meramalkan Elo LMSys Chatbot Arena. Sehingga 16 Okt 2024, model ini adalah #1 pada ketiga-tiga penanda aras penjajaran automatik (semak tab disahkan untuk AlpacaEval 2 LC), mengatasi model frontier kuat seperti GPT-4o dan Claude 3.5 Sonnet.

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Llama 3.1 Nemotron 70B Instruct adalah Llama 3.1 70B Meta yang telah disesuaikan oleh NVIDIA khusus untuk menjadikan respons lebih membantu dan lebih selaras dengan apa yang sebenarnya diinginkan pengguna. Pada pelancarannya, ia mendahului ketiga-tiga penanda aras penyelarasan automatik utama, mengatasi GPT-4o dan Claude 3.5 Sonnet dalam ukuran tersebut. Ia sesuai untuk sesiapa yang memerlukan model yang cekap dan mengikuti arahan melalui API dengan kadar per-token yang boleh diramal.

Dikenali untuk

Mendahului penanda aras penyelarasan Arena Hard, AlpacaEval 2 LC dan MT-Bench semasa pelancaran
Pelarasan NVIDIA yang bertumpu tepat pada kebermanfaatan respons berbanding keupayaan mentah
Tetingkap konteks 128K token yang mengendalikan dokumen panjang dan perbualan berpanjangan
Pengikut arahan yang kuat yang diperoleh daripada asas Llama 3.1 70B

Berhati-hati dengan

Berat model tidak awam; anda hanya boleh menggunakannya melalui API, tiada penyebaran tempatan.
Pada $1.20 setiap sejuta token dua hala, kos boleh meningkat pada beban kerja berjumlah tinggi.
Kelebihan penanda aras diukur pada tarikh tertentu; landskap telah berubah sejak itu.

Terbaik untuk

Arahan untuk cuba

Tulis semula untuk kejelasan

Berikut adalah perenggan dari dokumen dasar dalaman. Tulis semula supaya pekerja baru tanpa latar belakang undang-undang dapat memahaminya dalam satu bacaan. Kekalkan setiap kewajipan tetapi potong jargon dan suara pasif. Perenggan: 'Semua kakitangan dikehendaki memastikan pematuhan dengan jadual penyimpanan data yang berkenaan dipatuhi mengikut rangka kerja peraturan bidang kuasa yang dipinda dari semasa ke semasa.'

Rancang perbualan sukar

Saya perlu memberitahu kontraktor bebas lama bahawa kami akan menamatkan hubungan kerana kualiti kerja mereka menurun, bukan kerana bajet. Mereka mungkin mengambilnya secara peribadi. Berikan saya pelan terstruktur untuk perbualan: apa yang perlu dikatakan dahulu, bagaimana mengendalikan bantahan, dan bagaimana menutupnya dengan hormat.

Uji ketahanan hujah

Saya akan membuat hujah dan saya mahu anda menguatkan bantahan paling kuat terhadapnya, kemudian beritahu saya dengan jujur sama ada bantahan atau hujah asal lebih meyakinkan dan mengapa. Hujah saya: kerja jarak jauh secara kekal mengurangkan pertumbuhan kerjaya pekerja junior kerana bimbingan tidak formal dan pembelajaran osmotik hilang.

Bandingkan dengan

GPT-6 Luna
Model hanya API
konteks 1,050,000 token · Input $0.10/M, output $0.50/M
Claude Sonnet 5.5
Model hanya API
konteks 1,000,000 token · Input $2.00/M, output $10.00/M
Grok 4.7
Model hanya API
konteks 500,000 token · Input $2.00/M, output $6.00/M
Claude Sonnet 4.6
Model hanya API
konteks 1,000,000 token · Input $3.00/M, output $15.00/M

Lebih banyak model teks dari nvidia

Soalan yang sering ditanya

Bolehkah saya jalankan Nemotron 70B secara tempatan?: Tidak. NVIDIA tidak mengeluarkan berat model secara awam, jadi model ini hanya melalui API dan tidak boleh dimuat turun atau dijalankan pada perkakasan anda sendiri.
Berapa kos dan berapa panjang konteksnya?: Harga adalah $1.20 setiap sejuta token untuk input dan output, dengan tetingkap konteks 131,072 token.
Bagaimana ia berbeza daripada Llama 3.1 70B standard?: NVIDIA menyesuaikan Llama 3.1 70B asas khusus untuk kebermanfaatan dan penyelarasan, yang menjadikannya lebih baik daripada model asas dalam penanda aras pengikut arahan pada masa pelancaran.

Keputusan Kapten
Model 70B yang disesuaikan dengan baik yang melebihi kelas beratnya dalam penanda aras penyelarasan semasa pelancaran — kukuh untuk kerja berat arahan, jika anda boleh menerima akses hanya melalui API.

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Bagaimana skor ini dijumlahkan

Model ini belum ada data populariti dari mana-mana sumber lagi, jadi ia membawa nombor gantian di bawah 7,000° yang memastikan senarai lengkap. Ia tidak pernah menduduki tempat lebih tinggi daripada model yang ada data. Pecahan muncul di sini sebaik sahaja sumber melaporkannya.

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Cara memasang

Cara Pasang Ollama dan Jalankan AI Tempatan (Windows, Mac, Linux)

11 Okt 2026

Buka DeepInfra

Model serupa

Trinity Large Thinking

Command R7B (12 2024)

TEXT / LLM

Model AI untuk penjanaan imej, video dan teks

Llama 3.1 Nemotron 70B Instruct ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain, semak skor habanya untuk melihat trendnya, dan bukanya di PirateDiffusion atau BitVector untuk mencubanya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm nvidia sembang penulisan penalaran konteks panjang

Layari mengikut keluarga model