Kan jag köra Mistral Small 3 lokalt?

Ja — vikterna är öppna under Apache 2.0, och Mistral AI säger att modellen får plats på en enda RTX 4090 eller en 32GB RAM MacBook när den är kvantiserad. Vikterna finns på Hugging Face under mistralai/Mistral-Small-24B-Instruct-2501.

Vad kostar Mistral Small 3 via API och hur stort är kontextfönstret?

Priset är $0,05 per miljon inmatningstoken och $0,08 per miljon utmatningstoken, med ett kontextfönster på 32 768 token.

Hur står sig Mistral Small 3 mot Llama 3.3 70B?

Mistral Small 3 kör ungefär tre gånger snabbare på likvärdig hårdvara och håller jämna steg på flera benchmarkar, även om Llama 3.3 70B presterar bättre på vissa offentliga resonemangs- och kodningsutvärderingar där rå kapacitet väger tyngre än latens.

Mistral Small 3

5064°

#llm #mistralai #lokal #snabb #agenter #fler språk

Kör modellen

Erbjudanden / annonser

OpenRouter Terminal / API

Betala per token

Chatta med den här modellen i webbläsaren eller anropa den från din kod med en API-nyckel.

Mistral | 32,768 token kontext | $0.05/M input, $0.08/M output. Mistral Small 3 är en 24B-parameters språkmodell optimerad för låg latensprestanda över vanliga AI-uppgifter. Släppt under Apache 2.0-licens, finns både förtränade och instruktionsanpassade versioner designade för effektiv lokal distribution. Modellen uppnår 81 % noggrannhet på MMLU-benchmark och presterar konkurrenskraftigt med större modeller som Llama 3.3 70B och Qwen 32B, samtidigt som den körs tre gånger snabbare på motsvarande hårdvara. Läs blogginlägget om modellen här.Opens in new tab

Guider för denna modell

Ollama vs LM Studio (2026): vilken lokal AI-app du ska använda och vilka toppmodeller varje kör

Bästa lokala LLM efter användningsområde (oktober 2026): rätt öppna modell för varje jobb

Hur mycket VRAM behöver jag egentligen för lokal AI?

Vad är en GGUF-fil? Förklaringar av kvantiserade modeller (Q4, Q8, fp8, NF4)

Alla guider

Kaptenens anteckningar

Skrivet av Captain, husets redaktör

Anteckningar från 2026-10-13

Mistral Small 3 är en 24-miljarder-parameters öppen viktsmodell från Mistral AI, byggd för hastighet utan den vanliga kvalitetsuppoffringen. Den körs på en enda RTX 4090 eller en 32GB MacBook när den är kvantiserad, och presterar konkurrenskraftigt mot modeller nästan tre gånger så stora. Om du vill ha en kapabel lokal modell som också är billig att köra via API är detta ett av de ärligare värdeerbjudandena i sub-70B-klassen.

Känd för

Kör ungefär 3 gånger snabbare än 70B-klassens konkurrenter på likvärdigt hårdvara.
Får plats på en enda konsument-GPU eller MacBook när den är kvantiserad.
Inbyggda funktionsanrop och JSON-utmatning för agentpipelines.
Fler-språkig med stöd för över ett dussin språk inklusive CJK och europeiska.
Apache 2.0-licens: kommersiell användning, finjustering och omfördelning tillåtet.

Se upp för

Kontextfönstret är 32k token — tillräckligt men inte en långkontextmodell.
Llama 3.3 70B och Qwen 2.5 32B är bättre på flera offentliga benchmarkar när hastighet inte är begränsande.
Kvantisering krävs för att nå målen med en enda GPU; full precision kräver mer resurser.

Bäst för

Kör lokalt

Snabb

Agenter och verktygsanvändning

Fler språk

Budget

Promptar att prova

Agentuppgift med funktionsanrop

Du har två verktyg: get_weather(city: str) och send_email(to: str, subject: str, body: str). En användare säger: 'Kolla vädret i Tokyo och skicka ett kort sammanfattande mejl till user@example.com.' Skriv sekvensen av verktygsanrop du skulle göra i JSON, och utforma sedan mejlets innehåll.

Flerspråkig sammanfattning

Sammanfatta följande stycke på engelska, sedan på franska och slutligen på japanska. Håll varje sammanfattning till två meningar. Stycke: 'Förnybar energikapacitet globalt ökade rekordmycket förra året, drivet främst av solinstallationer i Asien och Europa. Analytiker säger att takten måste fördubblas igen till 2030 för att nå klimatmålen, men investeringar i elnätsinfrastruktur har inte hängt med.'

Resonemang under begränsningar

En bonde har 17 får. Alla utom 9 dör. Hur många är kvar? Förklara sedan steg för steg varför det uppenbart felaktiga svaret är fel och vilken språklig fälla som får folk att misstolka problemet. Skriv sedan en svårare variant av samma trick för en kollega att testa.

Jämför med

Mistral Nemo
Öppen vikt-modell
131,072 tokens kontext · $0.03/M indata, $0.03/M utdata
Mistral Small 3.2 24B Instruct 2506
Öppen vikt-modell
128,000 tokens kontext · $0.07/M indata, $0.20/M utdata
Ministral 3 3B 2512
Öppen vikt-modell
131,072 tokens kontext · $0.10/M indata, $0.10/M utdata
Voxtral Small 24B 2507
Öppen vikt-modell
32,768 tokens kontext · $0.10/M indata, $0.30/M utdata

Fler textmodeller från mistralai

Vanliga frågor

Kan jag köra Mistral Small 3 lokalt?: Ja — vikterna är öppna under Apache 2.0, och Mistral AI säger att modellen får plats på en enda RTX 4090 eller en 32GB RAM MacBook när den är kvantiserad. Vikterna finns på Hugging Face under mistralai/Mistral-Small-24B-Instruct-2501.
Vad kostar Mistral Small 3 via API och hur stort är kontextfönstret?: Priset är $0,05 per miljon inmatningstoken och $0,08 per miljon utmatningstoken, med ett kontextfönster på 32 768 token.
Hur står sig Mistral Small 3 mot Llama 3.3 70B?: Mistral Small 3 kör ungefär tre gånger snabbare på likvärdig hårdvara och håller jämna steg på flera benchmarkar, även om Llama 3.3 70B presterar bättre på vissa offentliga resonemangs- och kodningsutvärderingar där rå kapacitet väger tyngre än latens.

Kaptens omdöme
En genuint användbar liten modell: öppen, billig, snabb och ärlig med sina begränsningar så att du inte känner dig vilseledd när en 70B slår den.

Model card på Hugging Face

Kapten skriver dessa anteckningar från modellens egen beskrivning och model card. Priser och kontextstorlekar är från leverantören vid skrivtillfället och kan ändras.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Hur denna poäng räknas ihop

Den här modellen har ännu inga popularitetsdata från någon källa, så den har ett tillfälligt nummer under 7,000° som håller listorna kompletta. Den rankas aldrig högre än en modell med data. Uppdelningen visas här så fort en källa rapporterar den.

Ordlista: termerna som används här

Heat-poäng: Ett nummer för hur mycket en modell används och efterfrågas just nu, från 0° till 9 999°. Varje lista på den här sidan som säger hetast sorteras efter den och inget annat.
Golvet: De 7 000° som varje modell med verklig data börjar från. Skalan går från 0° till 9 999°; delen under golvet är reserverad för ersättare (modeller utan data), så att en modell med data alltid rankas över en utan. Golvet är samma för alla och avgör inget; graderna ovanför är själva mätningen.
Nedladdnings-ekvivalenter: Allt som poängen räknar som en nedladdning, summerat: själva nedladdningarna, varje torrent-seeder som 1 000, varje AI Horde-bild och varje körning på en genereringssajt som en.
Logaritmisk skala: Räknar i tiotal, inte i ental: att gå från 1 000 till 10 000 nedladdningar ger lika många grader som att gå från 10 000 till 100 000. Det hindrar jättar från att tränga ut allt annat.
Gillanden: Tummar upp och gillanden från alla källor, värda hälften av en nedladdning på den logaritmiska skalan.
Adoptionshastighet: Hur många nedladdningar per dag en modell får just nu, från skillnaden mellan två mätningar av en källa. En fjärdedels vikt av nedladdningsdelen.
Mätt och uppskattad: Mätt betyder att det finns två mätningar från en källa och skillnaden är verklig. Uppskattad betyder att bara dagens total är känd och det fördelas över modellens livstid; sidan visar vilken det är.
Seeder: Någon som håller en kopia av vikterna online för andra att ladda ner via torrent, eller en hostad spegel som gör samma sak. Varje sådan räknas som 1 000 nedladdningar.
AI Horde: Ett frivilligt nätverk som genererar bilder gratis på donerade datorer. Antalet bilder det har gjort med en modell är offentligt, och varje bild räknas som en nedladdning.
Genereringssajter: Sajter som hostar sina egna kopior av en modell och låter folk generera med den, som PixAI, SeaArt och Yodayo. Deras nedladdningar räknas som Civitaís och varje genereringskörning räknas som en nedladdning.
OpenRouter-token: En textmodell som nås via API, som Claude eller GPT, har inga vikter att ladda ner, så dess användning mäts i token: textbitar den läst och skrivit via OpenRouter, en gateway som många appar använder, under de senaste 30 dagarna. Varje 10,000,000 token räknas som en nedladdning. Källa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Full modell (checkpoint): Själva vikterna, filen som genererar självständigt. Den får en bonus eftersom tillägg beror på den.
LoRA och embedding: Små tilläggsfiler som styr någon annans vikter mot en stil, en karaktär eller ett koncept. De kan inte köras själva.
Familj och vikter: Basen en modell är byggd på, som SD 1.5, SDXL, Flux eller Wan. Varje modell ärver släppdatumet för sin familjs vikter.
Ålder: Poäng som dras av beroende på hur länge sedan familjens vikter släpptes: 150° per år, upp till 750°. Det behåller gamla nedladdningar som haft år på sig att samlas för att frysa toppen av listan.
Familjeboost: En liten, begränsad skjuts för LoRAs från en familj som den här sajten just nu vill lyfta fram, alltid med i uppdelningen.
Stand-in-poäng: Ett stabilt nummer under golvet som ges till en modell som ännu inte har rapporter från någon källa, så listorna förblir kompletta. Den rankas aldrig högre än en modell med data.
Ny! (karensperiod): En modell som är mindre än 7 dagar gammal visar Ny! istället för poäng och räknas inte i rankningen. Poängen räknas från dag ett, men en modell som är en dag gammal växer snabbare än allt annat, så utan väntan skulle veckans #1 alltid vara det som kom ut igår istället för det som hållit i en vecka.
Trend: Hur en modells tillväxt under en period jämförs med den typiska modellens tillväxt under samma period. Snabbare än vanligt läses som en ökning, långsammare som en nedgång.
Typisk modell: Mitten av katalogen: hälften av modellerna med siffror växte snabbare under perioden, hälften långsammare.

Liknande modeller

gemma 4 31B it turbo

TEXT / LLM

Nano Banana 2 Lite (Gemini 3.1 Flash Lite Image)

AI-modeller för bild-, video- och textgenerering

Mistral Small 3 är en textmodell för familjen Text / LLM, listad på ModelTrends.ai, en skrivskyddad katalog över AI-modeller med öppen källkod för bild, video och text. Jämför den med andra Text / LLM-modeller och se dess hettapoäng.

Fler Text / LLM-modeller llm mistralai lokal snabb agenter fler språk budget

Bläddra efter modellfamilj