Bisakah saya menjalankan Mistral Small 3 secara lokal?

Ya — bobot terbuka dengan lisensi Apache 2.0, dan Mistral AI mengatakan model ini muat di satu RTX 4090 atau MacBook 32GB RAM setelah dikuantisasi. Anda dapat menemukan bobotnya di Hugging Face pada mistralai/Mistral-Small-24B-Instruct-2501.

Berapa biaya Mistral Small 3 via API dan berapa jendela konteksnya?

Harga $0,05 per juta token input dan $0,08 per juta token output, dengan jendela konteks 32.768 token.

Bagaimana perbandingan Mistral Small 3 dengan Llama 3.3 70B?

Mistral Small 3 berjalan sekitar tiga kali lebih cepat pada perangkat keras setara dan cukup kompetitif di beberapa benchmark, meskipun Llama 3.3 70B unggul di beberapa evaluasi penalaran dan pengkodean publik di mana kemampuan mentah lebih penting daripada latensi.

Mistral Small 3

5064°

#llm #mistralai #lokal #cepat #agen #multibahasa

Jalankan model ini

Penawaran / Iklan

OpenRouter Terminal / API

Bayar per token

Ngobrol dengan model ini di browser atau panggil dari kode kamu dengan satu API key.

Mistral | konteks 32.768 token | $0,05/M input, $0,08/M output. Mistral Small 3 adalah model bahasa 24 miliar parameter yang dioptimalkan untuk performa latensi rendah di berbagai tugas AI umum. Dirilis di bawah lisensi Apache 2.0, model ini tersedia dalam versi pre-trained dan instruction-tuned yang dirancang untuk deployment lokal yang efisien. Model ini mencapai akurasi 81% pada tolok ukur MMLU dan bersaing dengan model yang lebih besar seperti Llama 3.3 70B dan Qwen 32B, sambil beroperasi tiga kali lebih cepat pada perangkat keras setara. Baca posting blog tentang model ini di sini.Opens in new tab

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI lokal mana yang harus digunakan, dan model top mana yang dijalankan masing-masing

LLM lokal terbaik berdasarkan kasus penggunaan (Oktober 2026): model terbuka yang tepat untuk setiap pekerjaan

Berapa banyak VRAM yang sebenarnya saya butuhkan untuk AI lokal?

Apa itu file GGUF? Penjelasan model terkuantisasi (Q4, Q8, fp8, NF4)

Semua panduan

Catatan Kapten

Ditulis oleh Captain, editor rumah

Catatan dari 2026-10-13

Mistral Small 3 adalah model bobot terbuka 24 miliar parameter dari Mistral AI, dibangun untuk kecepatan tanpa mengorbankan kualitas. Model ini dapat dijalankan di satu RTX 4090 atau MacBook 32GB saat dikuantisasi, dan memiliki benchmark yang kompetitif dibanding model hampir tiga kali ukurannya. Jika Anda menginginkan model lokal yang mumpuni dan juga murah dijalankan via API, ini adalah salah satu proposisi nilai paling jujur di kelas sub-70B.

Dikenal untuk

Berjalan sekitar 3x lebih cepat dari pesaing kelas 70B pada perangkat keras setara.
Muatan pada satu GPU konsumen atau MacBook setelah dikuantisasi.
Pemanggilan fungsi native dan output JSON untuk pipeline agen.
Multibahasa lebih dari selusin bahasa termasuk CJK dan Eropa.
Lisensi Apache 2.0: penggunaan komersial, fine-tuning, dan redistribusi diperbolehkan.

Waspadai

Jendela konteks 32k token — cukup, tapi bukan model konteks panjang.
Llama 3.3 70B dan Qwen 2.5 32B unggul di beberapa benchmark publik saat kecepatan bukan kendala.
Kuantisasi diperlukan untuk mencapai target satu GPU; presisi penuh butuh ruang lebih.

Terbaik untuk

Jalankan secara lokal

Cepat

Agen dan penggunaan alat

Multibahasa

Anggaran

Prompt untuk dicoba

Tugas agen pemanggilan fungsi

Anda memiliki dua alat: get_weather(city: str) dan send_email(to: str, subject: str, body: str). Seorang pengguna berkata: 'Periksa cuaca di Tokyo dan kirim email ke user@example.com dengan ringkasan singkat.' Tuliskan urutan panggilan alat dalam JSON, lalu buat draf isi email yang akan Anda kirim.

Ringkasan multibahasa

Ringkas paragraf berikut dalam bahasa Inggris, lalu dalam bahasa Prancis, lalu dalam bahasa Jepang. Setiap ringkasan maksimal dua kalimat. Paragraf: 'Kapasitas energi terbarukan di seluruh dunia tumbuh dengan jumlah rekor tahun lalu, terutama didorong oleh instalasi surya di Asia dan Eropa. Analis mengatakan laju harus dua kali lipat lagi pada 2030 untuk memenuhi target iklim, tapi investasi infrastruktur jaringan belum mengikuti.'

Penalaran dengan batasan

Seorang petani memiliki 17 domba. Semua kecuali 9 mati. Berapa yang tersisa? Jelaskan langkah demi langkah mengapa jawaban salah yang jelas itu salah dan trik linguistik apa yang membuat orang salah baca soal ini. Lalu buat versi trik yang lebih sulit untuk kolega Anda uji.

Bandingkan dengan

Mistral Nemo
Model dengan bobot terbuka
konteks 131,072 token · $0.03/M input, $0.03/M output
Mistral Small 3.2 24B Instruct 2506
Model dengan bobot terbuka
konteks 128,000 token · $0.07/M input, $0.20/M output
Ministral 3 3B 2512
Model dengan bobot terbuka
konteks 131,072 token · $0.10/M input, $0.10/M output
Voxtral Small 24B 2507
Model dengan bobot terbuka
konteks 32,768 token · $0.10/M input, $0.30/M output

Model teks lain dari mistralai

Pertanyaan yang sering diajukan

Bisakah saya menjalankan Mistral Small 3 secara lokal?: Ya — bobot terbuka dengan lisensi Apache 2.0, dan Mistral AI mengatakan model ini muat di satu RTX 4090 atau MacBook 32GB RAM setelah dikuantisasi. Anda dapat menemukan bobotnya di Hugging Face pada mistralai/Mistral-Small-24B-Instruct-2501.
Berapa biaya Mistral Small 3 via API dan berapa jendela konteksnya?: Harga $0,05 per juta token input dan $0,08 per juta token output, dengan jendela konteks 32.768 token.
Bagaimana perbandingan Mistral Small 3 dengan Llama 3.3 70B?: Mistral Small 3 berjalan sekitar tiga kali lebih cepat pada perangkat keras setara dan cukup kompetitif di beberapa benchmark, meskipun Llama 3.3 70B unggul di beberapa evaluasi penalaran dan pengkodean publik di mana kemampuan mentah lebih penting daripada latensi.

Putusan Kapten
Model kecil yang benar-benar berguna: terbuka, murah, cepat, dan cukup jujur tentang batasannya sehingga Anda tidak akan merasa tertipu saat model 70B mengalahkannya.

Kartu model di Hugging Face

Kapten menulis catatan ini dari deskripsi model dan kartu model itu sendiri. Harga dan ukuran konteks adalah milik penyedia pada saat penulisan dan dapat berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Bagaimana skor ini dihitung

Model ini belum punya data popularitas dari sumber mana pun, jadi memakai angka pengganti di bawah 7,000° supaya daftar tetap lengkap. Model ini tidak pernah berada di atas model yang punya data. Rinciannya akan muncul di sini segera setelah ada laporan dari sumber.

Glosarium: istilah yang dipakai di sini

Skor heat: Satu angka untuk seberapa banyak model dipakai dan diinginkan sekarang, dari 0° sampai 9.999°. Setiap daftar di situs ini yang bilang terpanas diurutkan berdasarkan ini dan tidak ada yang lain.
Lantai: 7.000° yang jadi titik awal semua model dengan data nyata. Skala dari 0° sampai 9.999°; bagian di bawah lantai untuk pengganti (model tanpa data), supaya model dengan data selalu di atas yang tanpa. Lantai sama untuk semua dan tidak menentukan apa-apa; derajat di atasnya yang dihitung.
Setara unduhan: Semua yang dihitung skor sebagai unduhan, dijumlahkan: unduhan itu sendiri, setiap torrent seeder dihitung 1.000, setiap gambar AI Horde dan setiap run di situs generasi dihitung satu.
Skala log: Menghitung per puluhan, bukan per satuan: naik dari 1.000 ke 10.000 unduhan menambah derajat yang sama dengan naik dari 10.000 ke 100.000. Ini mencegah raksasa mendominasi semuanya.
Suka: Jempol ke atas dan suka dari semua sumber, bernilai setengah unduhan di skala log.
Tingkat adopsi: Berapa banyak unduhan per hari yang didapat model sekarang, dari selisih dua pembacaan sumber. Bobot seperempat dari istilah unduhan.
Diukur dan diperkirakan: Diukur berarti ada dua pembacaan dari sumber dan perbedaannya nyata. Diperkirakan berarti hanya total hari ini yang diketahui dan masa lalu dibagi selama umur model; situs memberitahu mana yang sedang ditampilkan.
Seeder: Seseorang yang menyimpan salinan bobot secara online agar orang lain bisa mengunduh lewat torrent, atau mirror yang dihosting melakukan hal yang sama. Setiap satu dihitung sebagai 1.000 unduhan.
AI Horde: Jaringan sukarelawan yang menghasilkan gambar secara gratis di komputer yang disumbangkan. Jumlah gambar yang dibuat dengan model tertentu bersifat publik, dan setiap gambar dihitung sebagai satu unduhan.
Situs generasi: Situs yang menyimpan salinan model sendiri dan membiarkan orang menghasilkan gambar dengannya, seperti PixAI, SeaArt, dan Yodayo. Unduhan mereka dihitung seperti di Civitai dan setiap kali generasi dihitung sebagai satu unduhan.
Token OpenRouter: Model teks yang dilayani melalui API, seperti Claude atau GPT, tidak memiliki bobot untuk diunduh, jadi penggunaannya diukur dalam token: potongan teks yang dibaca dan ditulis melalui OpenRouter, gateway yang digunakan banyak aplikasi, selama 30 hari terakhir. Setiap 10,000,000 token dihitung sebagai satu unduhan. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Bobot itu sendiri, file yang bisa menghasilkan secara mandiri. Mendapat bonus karena add-on bergantung padanya.
LoRA dan embedding: File add-on kecil yang mengarahkan bobot orang lain ke gaya, karakter, atau konsep tertentu. Tidak bisa dijalankan sendiri.
Keluarga dan bobot: Dasar yang dipakai model, seperti SD 1.5, SDXL, Flux, atau Wan. Setiap model mewarisi tanggal rilis bobot keluarganya.
Usia: Pengurangan nilai berdasarkan seberapa lama bobot keluarga itu dirilis: 150° per tahun, sampai maksimal 750°. Ini menjaga unduhan lama yang sudah bertahun-tahun menumpuk agar tetap di atas daftar.
Dorongan keluarga: Dorongan kecil dan terbatas untuk LoRA dari keluarga yang sedang didorong situs ini sekarang, selalu tercantum dalam rincian.
Skor pengganti: Angka stabil di bawah batas yang diberikan pada model yang belum ada laporan sumbernya, supaya daftar tetap lengkap. Tidak pernah lebih tinggi dari model yang punya data.
Baru! (masa tenggang): Model yang berumur kurang dari 7 hari menunjukkan label Baru! bukan skor dan tidak masuk peringkat. Skornya dihitung sejak hari pertama, tapi model yang baru sehari tumbuh lebih cepat dari apa pun, jadi tanpa masa tunggu model #1 minggu ini selalu yang baru kemarin, bukan yang bertahan seminggu.
Tren: Bagaimana pertumbuhan model selama periode tertentu dibandingkan dengan pertumbuhan model biasa di periode yang sama. Lebih cepat dari biasanya berarti naik, lebih lambat berarti turun.
Model biasa: Tengah katalog: setengah model dengan angka tumbuh lebih cepat selama periode itu, setengahnya lebih lambat.

Model Serupa

Mistral Small 3.1 24B

TEXT / LLM

Voxtral Small 24B 2507

TEXT / LLM

Model AI untuk Pembuatan Gambar, Video & Teks

Mistral Small 3 adalah model teks untuk keluarga Text / LLM yang tercantum di ModelTrends.ai, katalog hanya-baca untuk model AI gambar, video, dan teks open source. Bandingkan dengan model Text / LLM lainnya dan lihat skor popularitasnya untuk mengetahui trennya.

Model Text / LLM lainnya Teks / LLM Text / LLM lainnya llm mistralai lokal cepat agen multibahasa anggaran

Jelajahi berdasarkan Keluarga Model