Bolehkah saya jalankan Llama 3.1 70B secara tempatan?

Ya, beratnya terbuka dan tersedia di Hugging Face di bawah Polisi Penggunaan Boleh Diterima Meta. Dengan 70B parameter, anda memerlukan VRAM yang besar atau versi kuantisasi untuk menjalankannya pada perkakasan pengguna.

Berapa kos Llama 3.1 70B melalui API?

Meta telah menerbitkan harga $0.40 setiap sejuta token input dan $0.40 setiap sejuta token output, dengan tetingkap konteks 131,072 token.

Bagaimana 70B dibandingkan dengan saiz Llama 3.1 yang lain?

Llama 3.1 dilancarkan dalam pelbagai saiz; 70B berada di atas varian lebih kecil dari segi kemampuan dan dioptimumkan khusus untuk dialog berkualiti tinggi, dengan kos keperluan perkakasan lebih tinggi dan sedikit lebih mahal daripada pilihan lebih kecil.

Llama 3.1 70B Instruct

6231°

#llm #meta-llama #sembang #penulisan #tempatan #bajet

Berjalan di Graydient

Jalankan model ini

Tawaran / Iklan

Easy Creator (Prism) Web

Tanpa had · yuran tetap

Terbaik untuk pemula. Aliran kerja yang kuat, lengkung pembelajaran rendah.

PirateDiffusion Telegram

Tanpa had · yuran tetap

Cipta video, imej, persona sembang tersuai, dan banyak lagi.

Pro studio (SpyGlass) Web

Tanpa had · yuran tetap

Layari model, render dan perbaiki dari mana-mana pelayar atau telefon.

Discord bot (Vector)

Tanpa had · yuran tetap

Tambah Vector ke pelayan anda atau sertai Discord Vector. Cipta apa sahaja!

Unified Editor Web

Tanpa had · yuran tetap

Editor untuk imej dan video: render, sunting, tingkatkan dan banyak lagi dalam satu halaman.

OpenRouter Terminal / API

Bayar setiap token

Bual dengan model ini dalam pelayar atau panggil ia dari kod anda dengan satu kunci API.

Aplikasi tempatan

Perlu tetapan

Pasang program tempatan kalau komputer kau cukup kuat.

ModelDuel Web

Bayar ikut guna

Jana arahan yang sama pada sehingga 50 model checkpoint/asas sekaligus.

Sewa GPU di awan

Graydient Cloud GPU

Tanpa had · yuran tetap

Bayaran tetap, penggunaan tanpa had. Model ini dipasang dengan satu klik.

RunPod Cloud GPU

Caj mengikut minit

Sewa GPU mengikut minit dan pasang model sendiri.

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI tempatan mana yang patut digunakan, dan model teratas yang dijalankan oleh setiap satu

Berapa banyak VRAM yang saya perlukan untuk AI tempatan?

Berat terbuka vs sumber terbuka vs hanya API: apa yang sebenarnya kamu dibenarkan lakukan

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Semua panduan

Meta | konteks 131,072 token | $0.40/M input, $0.40/M output. Kelas model terkini Meta (Llama 3.1) dilancarkan dengan pelbagai saiz & rasa. Versi 70B yang disesuaikan arahan ini dioptimumkan untuk kes penggunaan dialog berkualiti tinggi. Ia telah menunjukkan prestasi kukuh berbanding model tertutup terkemuka dalam penilaian manusia. Untuk membaca lebih lanjut tentang pelepasan model, klik di siniOpens in new tab. Penggunaan model ini tertakluk kepada Polisi Penggunaan Boleh Diterima MetaOpens in new tab.

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Llama 3.1 70B Instruct adalah model dialog berat terbuka Meta, disesuaikan arahan pada skala 70B parameter dengan tetingkap konteks 128k-token. Beratnya boleh dimuat turun secara percuma, dan pada harga $0.40 setiap sejuta token masuk dan keluar, ia jauh lebih rendah daripada harga API frontier. Ia sesuai untuk pembangun dan penyelidik yang mahukan model chat serba boleh yang mampu mereka jalankan sendiri atau gunakan dengan kos rendah.

Dikenali untuk

Berat terbuka: muat turun, hos sendiri atau sesuaikan tanpa perlu izin.
Konteks 128k-token mengendalikan dokumen panjang dan perbualan berpanjangan.
Kualiti dialog yang kukuh, bersaing dengan model tertutup dalam penilaian manusia.
Harga API simetri rendah pada $0.40/M untuk masuk dan keluar.
Sebahagian daripada keluarga Llama 3.1, jadi sokongan alat dan komuniti luas.

Berhati-hati dengan

Penggunaan dikawal oleh Polisi Penggunaan Boleh Diterima Meta, bukan lesen sumber terbuka sepenuhnya.
Dengan 70B parameter, menjalankan secara tempatan memerlukan VRAM yang besar; rancang dengan baik sebelum memuat turun.
Varian Llama 3.1 yang lebih kecil wujud jika keutamaan adalah kelajuan atau bajet perkakasan.

Terbaik untuk

Sembang dan pembantu

Penulisan

Jalankan secara tempatan

Bajet

Konteks panjang

Arahan untuk cuba

Ringkaskan dokumen panjang

Berikut adalah klausa kontrak yang panjang. Kenal pasti tiga kewajipan paling penting yang dikenakan ke atas pelesen, terangkan mana-mana istilah yang samar dalam bahasa mudah, dan tandakan apa-apa yang kelihatan luar biasa berbanding perjanjian lesen perisian standard. Tampal klausa anda di bawah garis ini.

Draf emel sukar

Tulis emel profesional tetapi terus menolak cadangan vendor. Vendor telah mencadangkan alat pengurusan projek yang sudah kami sediakan dengan perisian sedia ada. Bersikap sopan, berikan alasan jelas, tinggalkan pintu terbuka untuk hubungan masa depan, dan kekalkan di bawah 150 patah perkataan.

Terangkan konsep dalam tiga cara

Terangkan bagaimana mekanisme perhatian transformer berfungsi dalam tiga versi: satu perenggan untuk pemula lengkap, satu untuk pembangun perisian tanpa latar belakang ML, dan satu untuk seseorang yang telah membaca kertas asal Attention Is All You Need dan mahu memahami perincian halus.

Bandingkan dengan

Llama 3.2 3B Instruct
Model berat terbuka
konteks 131,072 token · Input $0.05/M, output $0.33/M
Llama 3.3 70B Instruct
Model berat terbuka
konteks 131,072 token · Input $0.10/M, output $0.32/M
Llama 4 Scout
Model berat terbuka
konteks 1,310,720 token · Input $0.18/M, output $0.59/M
Llama 4 Scout 17B 16E Instruct
Model berat terbuka
konteks 327,680 token · Input $0.10/M, output $0.30/M

Lebih banyak model teks dari meta-llama

Soalan yang sering ditanya

Bolehkah saya jalankan Llama 3.1 70B secara tempatan?: Ya, beratnya terbuka dan tersedia di Hugging Face di bawah Polisi Penggunaan Boleh Diterima Meta. Dengan 70B parameter, anda memerlukan VRAM yang besar atau versi kuantisasi untuk menjalankannya pada perkakasan pengguna.
Berapa kos Llama 3.1 70B melalui API?: Meta telah menerbitkan harga $0.40 setiap sejuta token input dan $0.40 setiap sejuta token output, dengan tetingkap konteks 131,072 token.
Bagaimana 70B dibandingkan dengan saiz Llama 3.1 yang lain?: Llama 3.1 dilancarkan dalam pelbagai saiz; 70B berada di atas varian lebih kecil dari segi kemampuan dan dioptimumkan khusus untuk dialog berkualiti tinggi, dengan kos keperluan perkakasan lebih tinggi dan sedikit lebih mahal daripada pilihan lebih kecil.

Keputusan Kapten
Model terbuka yang benar-benar mampu pada harga yang menjadikan alternatif sumber tertutup sukar dibenarkan untuk kebanyakan kerja dialog.

Kad model di Hugging Face

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Also ranked: #100 Hottest Text / LLM text model

Not this creator?

Get your own badge

Bagaimana skor ini dijumlahkan

Model ini belum ada data populariti dari mana-mana sumber lagi, jadi ia membawa nombor gantian di bawah 7,000° yang memastikan senarai lengkap. Ia tidak pernah menduduki tempat lebih tinggi daripada model yang ada data. Pecahan muncul di sini sebaik sahaja sumber melaporkannya.

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Model serupa

DeepSeek V3.1 Terminus

TEXT / LLM

MiniMax M2.1

TEXT / LLM

Model AI untuk penjanaan imej, video dan teks

Llama 3.1 70B Instruct ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain, semak skor habanya untuk melihat trendnya, dan bukanya di PirateDiffusion atau BitVector untuk mencubanya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm meta-llama sembang penulisan tempatan bajet konteks panjang

Layari mengikut keluarga model