Maaari ko bang patakbuhin ang Mistral Small 3 nang lokal?

Oo — bukas ang weights sa ilalim ng Apache 2.0, at sinasabi ng Mistral AI na kasya ang modelo sa isang RTX 4090 o 32GB RAM MacBook kapag na-quantize. Makikita ang weights sa Hugging Face sa mistralai/Mistral-Small-24B-Instruct-2501.

Magkano ang presyo ng Mistral Small 3 sa API at ano ang context window?

Ang presyo ay $0.05 kada milyon na input tokens at $0.08 kada milyon na output tokens, na may 32,768-token na context window.

Paano ihahambing ang Mistral Small 3 sa Llama 3.3 70B?

Tumatakbo ang Mistral Small 3 nang halos tatlong beses na bilis sa katumbas na hardware at nakikipagsabayan sa ilang benchmark, pero mas mataas ang marka ng Llama 3.3 70B sa ilang pampublikong pagsusuri sa reasoning at coding kung saan mas mahalaga ang raw capability kaysa latency.

Mistral Small 3

5064°

#llm #mistralai #lokal #mabilis #mga ahente #maramihang wika

Patakbuhin ang modelong ito

Alok / Ads

OpenRouter Terminal / API

Bayad kada token

Makipag-chat sa modelong ito sa browser o tawagan ito mula sa iyong code gamit ang isang API key.

Mistral | 32,768 token context | $0.05/M input, $0.08/M output. Ang Mistral Small 3 ay isang 24B-parameter na language model na na-optimize para sa mababang latency na performance sa mga karaniwang AI na gawain. Inilabas sa ilalim ng Apache 2.0 license, mayroon itong pre-trained at instruction-tuned na mga bersyon na dinisenyo para sa epektibong lokal na deployment. Nakakamit ng modelo ang 81% na katumpakan sa MMLU benchmark at nakikipagsabayan sa mga mas malalaking modelo tulad ng Llama 3.3 70B at Qwen 32B, habang tumatakbo ng tatlong beses na mas mabilis sa katumbas na hardware. Basahin ang blog post tungkol sa modelo dito.Opens in new tab

Mga gabay para sa model na ito

Ollama vs LM Studio (2026): alin ang local AI app na gagamitin, at alin ang mga top models na pinapatakbo ng bawat isa

Pinakamahusay na lokal na LLM ayon sa gamit (Oktubre 2026): ang tamang open model para sa bawat trabaho

Gaano ba talaga kalaki ang VRAM na kailangan ko para sa local AI?

Ano ang GGUF file? Ipinaliwanag ang mga quantized na modelo (Q4, Q8, fp8, NF4)

Lahat ng gabay

Mga tala ng Kapitan

Isinulat ni Captain, ang editor ng bahay

Mga tala mula sa 2026-10-13

Ang Mistral Small 3 ay isang 24B-parameter open-weights model mula sa Mistral AI, na ginawa para sa bilis nang hindi isinusuko ang kalidad. Kayang tumakbo ito sa isang RTX 4090 o 32GB MacBook kapag na-quantize, at nakikipagsabayan sa mga modelo na halos tatlong beses ang laki. Kung gusto mo ng capable na lokal na modelo na mura rin patakbuhin sa API, isa ito sa mga tapat na value proposition sa sub-70B na klase.

Kilalang-kilala sa

Tumatakbo nang halos 3x na bilis kumpara sa 70B-class rivals sa katumbas na hardware.
Kasya sa isang consumer GPU o MacBook kapag na-quantize.
Native function calling at JSON output para sa agentic pipelines.
Multilingual sa higit sa isang dosenang wika kabilang ang CJK at European.
Apache 2.0 na lisensya: pinapayagan ang komersyal na paggamit, fine-tuning, at redistribution.

Mag-ingat sa

Ang context window ay 32k tokens — sapat lang, pero hindi pang mahahabang context.
Mas mataas ang marka ng Llama 3.3 70B at Qwen 2.5 32B sa ilang pampublikong benchmark kapag hindi limitasyon ang bilis.
Kailangan ng quantization para maabot ang single-GPU targets; ang full-precision ay nangangailangan ng mas malaking kapasidad.

Pinakamainam para sa

Tumakbo nang lokal

Mabilis

Mga ahente at paggamit ng tool

Maramihang wika

Badyet

Mga prompt na subukan

Gawain ng function-calling agent

Mayroon kang dalawang tools: get_weather(city: str) at send_email(to: str, subject: str, body: str). Sabi ng user: 'Suriin ang panahon sa Tokyo at i-email ako sa user@example.com ng maikling buod.' Isulat ang sunod-sunod na tawag sa mga tool sa JSON, pagkatapos ay isulat ang draft ng email body na ipapadala mo.

Multilingual na pagbubuod

Ibuod ang sumusunod na talata sa Ingles, pagkatapos sa Pranses, at pagkatapos sa Hapon. Panatilihin ang bawat buod sa dalawang pangungusap. Talata: 'Lumago nang rekord ang kapasidad ng renewable energy sa buong mundo noong nakaraang taon, na pinangunahan ng mga solar installation sa Asia at Europe. Sabi ng mga analyst na kailangang doblehin muli ang bilis nito pagsapit ng 2030 para matugunan ang mga target sa klima, pero hindi nakasabay ang pamumuhunan sa grid infrastructure.'

Pangangatwiran sa ilalim ng mga limitasyon

May isang magsasaka na may 17 tupa. Lahat maliban sa 9 ay namatay. Ilan ang natira? Ipaliwanag, hakbang-hakbang, kung bakit mali ang halatang sagot at anong lingguwistikong trick ang nagdudulot ng maling pag-unawa sa problema. Pagkatapos, gumawa ng mas mahirap na bersyon ng parehong trick para subukan ang isang kasamahan.

Ihambing sa

Mistral Nemo
Modelong bukas ang timbang
131,072 token na konteksto · $0.03/M input, $0.03/M output
Mistral Small 3.2 24B Instruct 2506
Modelong bukas ang timbang
128,000 token na konteksto · $0.07/M input, $0.20/M output
Ministral 3 3B 2512
Modelong bukas ang timbang
131,072 token na konteksto · $0.10/M input, $0.10/M output
Voxtral Small 24B 2507
Modelong bukas ang timbang
32,768 token na konteksto · $0.10/M input, $0.30/M output

Higit pang mga text model mula sa mistralai

Mga tanong na madalas itanong

Maaari ko bang patakbuhin ang Mistral Small 3 nang lokal?: Oo — bukas ang weights sa ilalim ng Apache 2.0, at sinasabi ng Mistral AI na kasya ang modelo sa isang RTX 4090 o 32GB RAM MacBook kapag na-quantize. Makikita ang weights sa Hugging Face sa mistralai/Mistral-Small-24B-Instruct-2501.
Magkano ang presyo ng Mistral Small 3 sa API at ano ang context window?: Ang presyo ay $0.05 kada milyon na input tokens at $0.08 kada milyon na output tokens, na may 32,768-token na context window.
Paano ihahambing ang Mistral Small 3 sa Llama 3.3 70B?: Tumatakbo ang Mistral Small 3 nang halos tatlong beses na bilis sa katumbas na hardware at nakikipagsabayan sa ilang benchmark, pero mas mataas ang marka ng Llama 3.3 70B sa ilang pampublikong pagsusuri sa reasoning at coding kung saan mas mahalaga ang raw capability kaysa latency.

Hatol ng Kapitan
Isang tunay na kapaki-pakinabang na maliit na modelo: bukas, mura, mabilis, at tapat sa mga limitasyon nito kaya hindi ka malilinlang kapag natalo ito ng 70B.

Model card sa Hugging Face

Isinusulat ng Kapitan ang mga tala na ito mula sa sariling paglalarawan at model card ng modelo. Ang mga presyo at laki ng konteksto ay mula sa provider sa oras ng pagsulat at maaaring magbago.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Paano nagkakalkula ang score na ito

Walang datos ng kasikatan mula sa kahit anong pinanggalingan ang modelong ito, kaya may stand-in na numero ito sa ibaba ng 7,000° para kumpleto ang mga listahan. Hindi ito kailanman mauuna sa isang modelong may datos. Lalabas dito ang breakdown kapag may nag-ulat na pinanggalingan.

Talahulugan: ang mga terminong ginagamit dito

Heat score: Isang numero kung gaano kadalas gamitin at gusto ang isang modelo ngayon, mula 0° hanggang 9,999°. Bawat listahan sa site na ito na nagsasabing pinakamainit ay nakaayos base dito at wala nang iba pa.
Floor: Ang 7,000° na panimulang puntos ng bawat modelong may totoong datos. Ang sukatan ay mula 0° hanggang 9,999°; ang bahagi sa ilalim ng floor ay para sa mga stand-in (mga modelong walang datos), para laging mas mataas ang ranggo ng may datos kaysa wala. Pareho ang floor para sa lahat at hindi ito nagpapasya; ang mga degree sa itaas nito ang totoong sukat.
Katumbas ng download: Lahat ng tinatrato ng score bilang download, pinagsama-sama: mga download mismo, bawat torrent seeder bilang 1,000, bawat AI Horde na larawan at bawat takbo sa isang generation site bilang isa.
Log scale: Bilang ng sampu, hindi isa-isa: ang pagtaas mula 1,000 hanggang 10,000 downloads ay nagdadagdag ng parehong degree tulad ng mula 10,000 hanggang 100,000. Pinipigilan nito ang mga higante na mauna sa lahat.
Likes: Thumbs up at likes mula sa lahat ng pinanggalingan, na katumbas ng kalahati ng download sa log scale.
Bilis ng pagtanggap: Ilang downloads kada araw ang nakukuha ng modelo ngayon, mula sa pagkakaiba ng dalawang readings ng isang pinanggalingan. Isang-kapat ng bigat ng term na download.
Nasukat at tinantya: Ang nasukat ay ibig sabihin may dalawang pagbabasa mula sa isang pinagmulan at tunay ang pagkakaiba. Ang tinantya naman ay alam lang ang kabuuan ngayon at hinahati ang nakaraan sa buong buhay ng modelo; sinasabi ng site kung alin ang ipinapakita.
Seeder: Isang tao na nag-iimbak ng kopya ng weights online para ma-download ng iba gamit ang torrent, o isang naka-host na mirror na gumagawa rin nito. Bawat isa ay katumbas ng 1,000 downloads.
AI Horde: Isang volunteer network na gumagawa ng mga larawan nang libre gamit ang mga donadong computer. Pampubliko kung ilang larawan ang nagawa gamit ang isang modelo, at bawat isa ay katumbas ng isang download.
Mga generation site: Mga site na may sariling kopya ng modelo at pinapayagan ang mga tao na gumawa gamit ito, tulad ng PixAI, SeaArt at Yodayo. Ang kanilang mga downloads ay binibilang tulad ng sa Civitai at bawat generation run ay isang download.
OpenRouter tokens: Ang isang text model na pinagsisilbihan sa pamamagitan ng API, tulad ng Claude o GPT, ay walang weights na ida-download, kaya ang paggamit nito ay sinusukat sa tokens: mga piraso ng teksto na binasa at isinulat nito sa pamamagitan ng OpenRouter, isang gateway na ginagamit ng maraming apps, sa nakaraang 30 araw. Bawat 10,000,000 tokens ay katumbas ng isang download. Pinagmulan: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Buong modelo (checkpoint): Ang weights mismo, ang file na kayang mag-generate mag-isa. May bonus ito dahil nakadepende dito ang mga add-on.
LoRA at embedding: Maliit na add-on files na nagtutulak sa weights ng iba papunta sa isang estilo, karakter o konsepto. Hindi sila kayang tumakbo mag-isa.
Pamilya at weights: Ang base na pinagbuo ng modelo, tulad ng SD 1.5, SDXL, Flux o Wan. Lahat ng modelo ay namamana ang petsa ng release ng weights ng pamilya nito.
Edad: Mga degree na ibinabawas base sa gaano katagal nang lumabas ang weights ng pamilya: 150° kada taon, hanggang 750°. Pinananatili nito ang mga lumang downloads na may taon para mag-ipon mula sa pag-freeze sa taas ng listahan.
Pampasigla ng pamilya: Isang maliit at limitadong tulak para sa mga LoRA ng pamilyang itinataguyod ng site ngayon, palaging nakalista sa breakdown.
Stand-in score: Isang matatag na numero sa ibaba ng floor na ibinibigay sa modelong wala pang ulat mula sa pinagmulan, para kumpleto ang listahan. Hindi ito nangunguna sa modelong may datos.
Bago! (panahon ng grace): Ang isang model na mas mababa sa 7 araw ang tanda ay nagpapakita ng Bago! sa halip na score at walang puwesto sa mga ranggo. Ang score nito ay kinakalkula mula unang araw, pero ang modelong isang araw pa lang ang tanda ay lumalago nang mas mabilis kaysa sa iba, kaya kung walang paghihintay, ang #1 ng linggo ay palaging yung lumabas kahapon kaysa sa tumagal nang isang linggo.
Uso: Paano ang paglago ng modelo sa isang panahon kumpara sa karaniwang paglago ng modelo sa parehong panahon. Mas mabilis kaysa karaniwan ay pagtaas, mas mabagal ay pagbaba.
Karaniwang modelo: Gitna ng katalogo: kalahati ng mga modelo na may numero ay mas mabilis ang paglago sa panahon, kalahati ay mas mabagal.

Mga katulad na model

GPT 4o

TEXT / LLM

Nano Banana (Gemini 2.5 Flash Image)

Mga AI model para sa paggawa ng larawan, video at teksto

Ang Mistral Small 3 ay isang text model para sa pamilyang Text / LLM na nakalista sa ModelTrends.ai, isang read-only na catalog ng mga open source AI model para sa larawan, video at teksto. Ikumpara ito sa ibang Text / LLM model at tingnan ang heat score nito para makita kung gaano ito kasikat.

Higit pang Text / LLM model Higit pang Text / LLM Teksto / LLM llm mistralai lokal mabilis mga ahente maramihang wika badyet

Mag-browse ayon sa pamilya ng model