Bolehkah saya menjalankan Llama 3.1 8B Instruct secara tempatan?

Ya, beratnya terbuka dan dihoskan di Hugging Face di meta-llama/Meta-Llama-3.1-8B-Instruct. Alat seperti Ollama dan LM Studio boleh menjalankannya pada perkakasan pengguna.

Berapa kosnya dan berapa tetingkap konteks?

Melalui API ia berharga $0.05 setiap sejuta token input dan $0.08 setiap sejuta token output, dengan tetingkap konteks 131,072 token.

Bagaimana 8B dibandingkan dengan model Llama 3.1 yang lebih besar?

Meta mengeluarkan Llama 3.1 dalam pelbagai saiz; 8B adalah yang terkecil dan terpantas, terbaik untuk tugas harian dan penggunaan tempatan, manakala varian lebih besar mengendalikan penalaran dan pengkodan lebih mencabar.

Llama 3.1 8B Instruct

2730°

#llm #meta-llama #sembang #tempatan #bajet #pantas

Berjalan di Graydient

Jalankan model ini

Tawaran / Iklan

Easy Creator (Prism) Web

Tanpa had · yuran tetap

Terbaik untuk pemula. Aliran kerja yang kuat, lengkung pembelajaran rendah.

PirateDiffusion Telegram

Tanpa had · yuran tetap

Cipta video, imej, persona sembang tersuai, dan banyak lagi.

Pro studio (SpyGlass) Web

Tanpa had · yuran tetap

Layari model, render dan perbaiki dari mana-mana pelayar atau telefon.

Discord bot (Vector)

Tanpa had · yuran tetap

Tambah Vector ke pelayan anda atau sertai Discord Vector. Cipta apa sahaja!

Unified Editor Web

Tanpa had · yuran tetap

Editor untuk imej dan video: render, sunting, tingkatkan dan banyak lagi dalam satu halaman.

OpenRouter Terminal / API

Bayar setiap token

Bual dengan model ini dalam pelayar atau panggil ia dari kod anda dengan satu kunci API.

Aplikasi tempatan

Perlu tetapan

Pasang program tempatan kalau komputer kau cukup kuat.

ModelDuel Web

Bayar ikut guna

Jana arahan yang sama pada sehingga 50 model checkpoint/asas sekaligus.

Sewa GPU di awan

Graydient Cloud GPU

Tanpa had · yuran tetap

Bayaran tetap, penggunaan tanpa had. Model ini dipasang dengan satu klik.

RunPod Cloud GPU

Caj mengikut minit

Sewa GPU mengikut minit dan pasang model sendiri.

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI tempatan mana yang patut digunakan, dan model teratas yang dijalankan oleh setiap satu

LLM tempatan terbaik mengikut kegunaan (Oktober 2026): model terbuka yang sesuai untuk setiap kerja

Berapa banyak VRAM yang saya perlukan untuk AI tempatan?

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Semua panduan

Meta | konteks 131,072 token | $0.05/M input, $0.08/M output. Kelas model terbaru Meta (Llama 3.1) dilancarkan dengan pelbagai saiz & variasi. Versi 8B yang disesuaikan untuk arahan ini pantas dan cekap. Ia menunjukkan prestasi kukuh berbanding model tertutup terkemuka dalam penilaian manusia. Untuk membaca lebih lanjut tentang pelancaran model, klik di siniOpens in new tab. Penggunaan model ini tertakluk kepada Polisi Penggunaan Boleh Diterima MetaOpens in new tab.

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Llama 3.1 8B Instruct adalah model kecil dan pantas Meta yang dilatih arahan dengan tetingkap konteks 128k token dan berat terbuka yang boleh anda jalankan pada perkakasan sendiri. Pada harga $0.05 setiap sejuta token input melalui API, ia berada di hujung bajet pasaran tanpa mengorbankan tetingkap konteks panjang yang kebanyakan model 8B lain tidak ada. Sesuai untuk pembangun, penggemar dan sesiapa yang memerlukan model harian yang berkemampuan tanpa bil besar.

Dikenali untuk

Berat terbuka: muat turun dan jalankan secara tempatan tanpa bayaran per token
Tetingkap konteks 128k token, luar biasa besar untuk model 8B
Kos API sangat rendah: $0.05/M input, $0.08/M output
Inferens pantas berkat kiraan parameter 8B yang padat
Kepatuhan arahan yang kuat untuk chat dan tugas umum

Berhati-hati dengan

Penggunaan dikawal oleh Polisi Penggunaan Boleh Diterima Meta, bukan lesen sumber terbuka sepenuhnya.
Model 8B mempunyai had keupayaan sebenar; tugas penalaran dan pengkodan kompleks mungkin memerlukan model lebih besar.
Meta belum menerbitkan nombor penanda aras terperinci untuk keluaran ini.

Terbaik untuk

Sembang dan pembantu

Jalankan secara tempatan

Bajet

Pantas

Konteks panjang

Arahan untuk cuba

Ringkaskan dokumen panjang

Ini adalah artikel panjang. Baca dengan teliti dan berikan saya ringkasan berstruktur: tiga titik peluru merangkumi hujah utama, tiga merangkumi bukti utama, dan satu ayat mengenai kesimpulan penulis. Kemudian beritahu saya satu perkara yang artikel tidak bincangkan tetapi anda rasa paling penting. [tampal teks artikel anda di sini]

Semakan kod cepat

Semak fungsi Python berikut. Tunjukkan sebarang pepijat, cadangkan satu penambahbaikan prestasi konkrit, dan tulis semula fungsi dengan perubahan anda. Terangkan setiap perubahan dalam komen di dalam kod. def find_duplicates(lst): seen = [] dupes = [] for item in lst: if item in seen: dupes.append(item) seen.append(item) return dupes

Draf polisi dalam Bahasa Inggeris mudah

Tulis polisi kerja jarak jauh ringkas untuk syarikat perisian 20 orang. Liputi: waktu teras, jangkaan komunikasi, bayaran balik peralatan dan keperluan keselamatan. Gunakan bahasa mudah, tanpa jargon, tanpa beban titik peluru. Kekalkan di bawah 300 perkataan dan buat ia kedengaran seperti ditulis manusia.

Bandingkan dengan

Llama 3.2 3B Instruct
Model berat terbuka
konteks 131,072 token · Input $0.05/M, output $0.33/M
Llama 3.1 70B Instruct
Model berat terbuka
konteks 131,072 token · Input $0.40/M, output $0.40/M
Llama 4 Scout
Model berat terbuka
konteks 1,310,720 token · Input $0.18/M, output $0.59/M
Llama 4 Scout 17B 16E Instruct
Model berat terbuka
konteks 327,680 token · Input $0.10/M, output $0.30/M

Lebih banyak model teks dari meta-llama

Soalan yang sering ditanya

Bolehkah saya menjalankan Llama 3.1 8B Instruct secara tempatan?: Ya, beratnya terbuka dan dihoskan di Hugging Face di meta-llama/Meta-Llama-3.1-8B-Instruct. Alat seperti Ollama dan LM Studio boleh menjalankannya pada perkakasan pengguna.
Berapa kosnya dan berapa tetingkap konteks?: Melalui API ia berharga $0.05 setiap sejuta token input dan $0.08 setiap sejuta token output, dengan tetingkap konteks 131,072 token.
Bagaimana 8B dibandingkan dengan model Llama 3.1 yang lebih besar?: Meta mengeluarkan Llama 3.1 dalam pelbagai saiz; 8B adalah yang terkecil dan terpantas, terbaik untuk tugas harian dan penggunaan tempatan, manakala varian lebih besar mengendalikan penalaran dan pengkodan lebih mencabar.

Keputusan Kapten
Pilihan bijak apabila anda mahukan berat terbuka, konteks panjang dan bil API hampir sifar, dan tidak memerlukan penalaran tahap hadapan.

Kad model di Hugging Face

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Bagaimana skor ini dijumlahkan

Model ini belum ada data populariti dari mana-mana sumber lagi, jadi ia membawa nombor gantian di bawah 7,000° yang memastikan senarai lengkap. Ia tidak pernah menduduki tempat lebih tinggi daripada model yang ada data. Pecahan muncul di sini sebaik sahaja sumber melaporkannya.

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Model serupa

Model AI untuk penjanaan imej, video dan teks

Llama 3.1 8B Instruct ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain, semak skor habanya untuk melihat trendnya, dan bukanya di PirateDiffusion atau BitVector untuk mencubanya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm meta-llama sembang tempatan bajet pantas konteks panjang

Layari mengikut keluarga model