Bolehkah saya menjalankan Mistral Small 3 secara tempatan?

Ya — berat terbuka di bawah lesen Apache 2.0, dan Mistral AI mengatakan model muat pada satu RTX 4090 atau MacBook 32GB RAM setelah dikuantisasi. Anda boleh dapati berat di Hugging Face di mistralai/Mistral-Small-24B-Instruct-2501.

Berapa kos Mistral Small 3 melalui API dan berapa tetingkap konteksnya?

Harga adalah $0.05 per sejuta token input dan $0.08 per sejuta token output, dengan tetingkap konteks 32,768 token.

Bagaimana Mistral Small 3 dibandingkan dengan Llama 3.3 70B?

Mistral Small 3 berjalan kira-kira tiga kali ganda kelajuan pada perkakasan setara dan mengekalkan prestasi pada beberapa penanda aras, walaupun Llama 3.3 70B mencatatkan skor lebih tinggi pada beberapa penilaian penalaran dan pengkodan awam di mana keupayaan mentah lebih penting daripada kelewatan.

Mistral Kecil 3

5064°

#llm #mistralai #tempatan #pantas #ejen #banyak bahasa

Jalankan model ini

Tawaran / Iklan

OpenRouter Terminal / API

Bayar setiap token

Bual dengan model ini dalam pelayar atau panggil ia dari kod anda dengan satu kunci API.

Mistral | konteks 32,768 token | $0.05/M input, $0.08/M output. Mistral Kecil 3 adalah model bahasa 24B-parameter yang dioptimumkan untuk prestasi latensi rendah dalam tugasan AI biasa. Dikeluarkan di bawah lesen Apache 2.0, ia menampilkan versi pra-latih dan tunjuk ajar yang direka untuk pelaksanaan tempatan yang cekap. Model ini mencapai ketepatan 81% pada penanda aras MMLU dan berprestasi kompetitif dengan model lebih besar seperti Llama 3.3 70B dan Qwen 32B, sambil beroperasi tiga kali lebih pantas pada perkakasan setara. Baca pos blog tentang model ini di sini.Opens in new tab

Panduan untuk model ini

Ollama vs LM Studio (2026): aplikasi AI tempatan mana yang patut digunakan, dan model teratas yang dijalankan oleh setiap satu

LLM tempatan terbaik mengikut kegunaan (Oktober 2026): model terbuka yang sesuai untuk setiap kerja

Berapa banyak VRAM yang saya perlukan untuk AI tempatan?

Apakah fail GGUF? Model kuantisasi diterangkan (Q4, Q8, fp8, NF4)

Semua panduan

Nota Kapten

Ditulis oleh Captain, editor rumah

Nota dari 2026-10-13

Mistral Small 3 adalah model berat terbuka 24B parameter dari Mistral AI, dibina untuk kelajuan tanpa pengorbanan kualiti biasa. Ia berjalan pada satu RTX 4090 atau MacBook 32GB apabila dikuantisasi, dan menandingi model hampir tiga kali ganda saiznya. Jika anda mahukan model tempatan yang mampu dan juga murah untuk dijalankan melalui API, ini adalah salah satu tawaran nilai yang paling jujur dalam kelas sub-70B.

Dikenali untuk

Berjalan kira-kira 3x lebih pantas daripada pesaing kelas 70B pada perkakasan setara.
Muatan pada satu GPU pengguna atau MacBook setelah dikuantisasi.
Panggilan fungsi asli dan output JSON untuk saluran agen.
Multibahasa merangkumi lebih daripada selusin bahasa termasuk CJK dan Eropah.
Lesen Apache 2.0: penggunaan komersial, latihan semula, pengedaran dibenarkan.

Berhati-hati dengan

Tetingkap konteks adalah 32k token — mencukupi, tetapi bukan model konteks panjang.
Llama 3.3 70B dan Qwen 2.5 32B mengatasi pada beberapa penanda aras awam apabila kelajuan bukan kekangan.
Kuantisasi diperlukan untuk mencapai sasaran satu GPU; ketepatan penuh memerlukan ruang lebih.

Terbaik untuk

Jalankan secara tempatan

Pantas

Ejen dan penggunaan alat

Banyak bahasa

Bajet

Arahan untuk cuba

Tugas agen panggilan fungsi

Anda mempunyai dua alat: get_weather(city: str) dan send_email(to: str, subject: str, body: str). Seorang pengguna berkata: 'Periksa cuaca di Tokyo dan hantar emel kepada saya di user@example.com dengan ringkasan pendek.' Tulis urutan panggilan alat yang anda akan buat, dalam JSON, kemudian draf badan emel yang akan anda hantar.

Ringkasan pelbagai bahasa

Ringkaskan perenggan berikut dalam Bahasa Inggeris, kemudian dalam Bahasa Perancis, kemudian dalam Bahasa Jepun. Kekalkan setiap ringkasan kepada dua ayat. Perenggan: 'Kapasiti tenaga boleh diperbaharui di seluruh dunia meningkat dengan jumlah rekod tahun lalu, didorong terutamanya oleh pemasangan solar di Asia dan Eropah. Penganalisis berkata kadar perlu digandakan sekali lagi menjelang 2030 untuk mencapai sasaran iklim, tetapi pelaburan infrastruktur grid tidak mengikutinya.'

Penalaran di bawah kekangan

Seorang petani mempunyai 17 biri-biri. Semua kecuali 9 mati. Berapa yang tinggal? Sekarang terangkan, langkah demi langkah, mengapa jawapan salah yang jelas itu salah dan apakah helah linguistik yang menyebabkan orang tersalah baca masalah ini. Kemudian tulis versi yang lebih sukar dari helah yang sama untuk rakan sekerja uji.

Bandingkan dengan

Mistral Nemo
Model berat terbuka
konteks 131,072 token · Input $0.03/M, output $0.03/M
Mistral Small 3.2 24B Instruct 2506
Model berat terbuka
konteks 128,000 token · Input $0.07/M, output $0.20/M
Ministral 3 3B 2512
Model berat terbuka
konteks 131,072 token · Input $0.10/M, output $0.10/M
Voxtral Small 24B 2507
Model berat terbuka
konteks 32,768 token · Input $0.10/M, output $0.30/M

Lebih banyak model teks dari mistralai

Soalan yang sering ditanya

Bolehkah saya menjalankan Mistral Small 3 secara tempatan?: Ya — berat terbuka di bawah lesen Apache 2.0, dan Mistral AI mengatakan model muat pada satu RTX 4090 atau MacBook 32GB RAM setelah dikuantisasi. Anda boleh dapati berat di Hugging Face di mistralai/Mistral-Small-24B-Instruct-2501.
Berapa kos Mistral Small 3 melalui API dan berapa tetingkap konteksnya?: Harga adalah $0.05 per sejuta token input dan $0.08 per sejuta token output, dengan tetingkap konteks 32,768 token.
Bagaimana Mistral Small 3 dibandingkan dengan Llama 3.3 70B?: Mistral Small 3 berjalan kira-kira tiga kali ganda kelajuan pada perkakasan setara dan mengekalkan prestasi pada beberapa penanda aras, walaupun Llama 3.3 70B mencatatkan skor lebih tinggi pada beberapa penilaian penalaran dan pengkodan awam di mana keupayaan mentah lebih penting daripada kelewatan.

Keputusan Kapten
Model kecil yang benar-benar berguna: terbuka, murah, pantas, dan cukup jujur tentang hadnya supaya anda tidak akan rasa tertipu apabila model 70B mengalahkannya.

Kad model di Hugging Face

Kapten menulis nota ini berdasarkan penerangan model dan kad model itu sendiri. Harga dan saiz konteks adalah dari penyedia pada masa penulisan dan boleh berubah.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Bagaimana skor ini dijumlahkan

Model ini belum ada data populariti dari mana-mana sumber lagi, jadi ia membawa nombor gantian di bawah 7,000° yang memastikan senarai lengkap. Ia tidak pernah menduduki tempat lebih tinggi daripada model yang ada data. Pecahan muncul di sini sebaik sahaja sumber melaporkannya.

Glosari: istilah yang digunakan di sini

Skor heat: Satu nombor untuk seberapa banyak model digunakan dan diingini sekarang, dari 0° hingga 9,999°. Setiap senarai di laman ini yang kata paling panas disusun mengikutnya dan tiada yang lain.
Lantai: 7,000° yang setiap model dengan data sebenar bermula. Skala dari 0° hingga 9,999°; bahagian bawah lantai untuk pengganti (model tanpa data), supaya model dengan data sentiasa lebih tinggi dari yang tiada. Lantai sama untuk semua dan tidak tentukan apa-apa; darjah di atasnya adalah ukuran.
Setara muat turun: Semua yang skor anggap sebagai muat turun, dijumlahkan: muat turun sendiri, setiap torrent seeder sebagai 1,000, setiap imej AI Horde dan setiap larian di laman generasi sebagai satu.
Skala log: Mengira dengan puluhan, bukan satuan: dari 1,000 ke 10,000 muat turun tambah darjah sama seperti dari 10,000 ke 100,000. Ini elak gergasi menindas yang lain.
Suka: Jempol dan suka dari semua sumber, bernilai separuh muat turun pada skala log.
Kadar penerimaan: Berapa banyak muat turun sehari model dapat sekarang, dari beza dua bacaan sumber. Berat suku dari terma muat turun.
Diukur dan dianggarkan: Diukur bermaksud ada dua bacaan dari satu sumber dan perbezaannya adalah nyata. Dianggarkan bermaksud hanya jumlah hari ini yang diketahui dan masa lalu diagihkan sepanjang hayat model; laman web akan memberitahu yang mana satu ia tunjukkan.
Seeder: Seseorang yang menyimpan salinan berat secara dalam talian untuk dimuat turun oleh orang lain melalui torrent, atau cermin yang dihoskan melakukan perkara yang sama. Setiap satu dikira sebagai 1,000 muat turun.
AI Horde: Rangkaian sukarelawan yang menjana imej secara percuma pada komputer yang didermakan. Bilangan imej yang telah dihasilkan dengan model adalah awam, dan setiap satu dikira sebagai satu muat turun.
Laman penjanaan: Laman yang menghoskan salinan model mereka sendiri dan membenarkan orang menjana dengannya, seperti PixAI, SeaArt dan Yodayo. Muat turun mereka dikira seperti Civitai dan setiap sesi penjanaan dikira sebagai satu muat turun.
Token OpenRouter: Model teks yang disediakan melalui API, seperti Claude atau GPT, tidak mempunyai berat untuk dimuat turun, jadi penggunaannya diukur dalam token: bahagian teks yang dibaca dan ditulis melalui OpenRouter, pintu masuk yang digunakan oleh banyak aplikasi, dalam 30 hari terakhir. Setiap 10,000,000 token dikira sebagai satu muat turun. Sumber: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model penuh (checkpoint): Berat itu sendiri, fail yang menjana secara sendiri. Ia mendapat bonus kerana add-on bergantung padanya.
LoRA dan embedding: Fail add-on kecil yang mengarahkan berat orang lain ke arah gaya, watak atau konsep. Ia tidak boleh dijalankan sendiri.
Keluarga dan berat: Asas yang model dibina, seperti SD 1.5, SDXL, Flux atau Wan. Setiap model mewarisi tarikh keluaran berat keluarganya.
Umur: Darjah yang ditolak berdasarkan berapa lama berat keluarga itu dikeluarkan: 150° setahun, sehingga 750°. Ia mengekalkan muat turun lama yang mempunyai masa bertahun-tahun untuk terkumpul dengan membekukan di bahagian atas senarai.
Peningkatan keluarga: Dorongan kecil dan terhad untuk LoRA dari keluarga yang laman ini sedang galakkan sekarang, sentiasa disenaraikan dalam pecahan.
Skor gantian: Nombor stabil di bawah paras yang diberikan kepada model yang belum ada laporan sumber, supaya senarai kekal lengkap. Ia tidak pernah mendahului model yang ada data.
Baru! (tempoh kelonggaran): Model yang berumur kurang dari 7 hari menunjukkan Baru! dan tidak mempunyai skor serta tidak menduduki tempat dalam kedudukan. Skornya dikira dari hari pertama, tetapi model yang berumur satu hari berkembang lebih cepat daripada apa pun, jadi tanpa menunggu, #1 minggu ini akan sentiasa menjadi apa sahaja yang keluar semalam dan bukan yang bertahan selama seminggu.
Trend: Bagaimana pertumbuhan model dalam tempoh tertentu dibandingkan dengan pertumbuhan model biasa dalam tempoh yang sama. Lebih cepat dari biasa bermaksud naik, lebih perlahan bermaksud turun.
Model biasa: Tengah katalog: separuh model dengan angka tumbuh lebih cepat dalam tempoh itu, separuh lagi lebih perlahan.

Model serupa

Model AI untuk penjanaan imej, video dan teks

Mistral Kecil 3 ialah model teks untuk keluarga Text / LLM yang disenaraikan di ModelTrends.ai, katalog baca sahaja untuk model AI imej, video dan teks sumber terbuka. Bandingkannya dengan model Text / LLM lain dan semak skor habanya untuk melihat trendnya.

Lagi model Text / LLM Lagi Teks / LLM Text / LLM llm mistralai tempatan pantas ejen banyak bahasa bajet

Layari mengikut keluarga model