Pot rula Mistral Small 3 local?

Da — greutățile sunt deschise sub licență Apache 2.0, iar Mistral AI spune că modelul încapă pe un singur RTX 4090 sau un MacBook cu 32GB RAM după cuantizare. Poți găsi greutățile pe Hugging Face la mistralai/Mistral-Small-24B-Instruct-2501.

Cât costă Mistral Small 3 prin API și care este fereastra de context?

Prețul este de $0.05 per milion de tokeni de input și $0.08 per milion de tokeni de output, cu o fereastră de context de 32.768 tokeni.

Cum se compară Mistral Small 3 cu Llama 3.3 70B?

Mistral Small 3 rulează de aproximativ trei ori mai rapid pe hardware echivalent și se descurcă bine pe mai multe benchmark-uri, deși Llama 3.3 70B obține scoruri mai mari la unele evaluări publice de raționament și programare unde capacitatea brută contează mai mult decât latența.

Mistral Small 3

5064°

#llm #mistralai #local #rapid #agenți #multilingv

Rulează modelul

Oferte / Reclame

OpenRouter Terminal / API

Plătește pe token

Conversează cu acest model în browser sau apelează-l din codul tău cu o singură cheie API.

Mistral | context de 32.768 tokeni | 0,05 $/M input, 0,08 $/M output. Mistral Small 3 este un model lingvistic de 24 miliarde de parametri optimizat pentru performanță cu latență scăzută în sarcini AI comune. Lansat sub licența Apache 2.0, dispune de versiuni pre-antrenate și instruite pentru instrucțiuni, concepute pentru implementare locală eficientă. Modelul atinge o acuratețe de 81% pe benchmark-ul MMLU și performează competitiv cu modele mai mari precum Llama 3.3 70B și Qwen 32B, operând de trei ori mai rapid pe hardware echivalent. Citiți postarea de blog despre model aici.Opens in new tab

Ghiduri pentru acest model

Ollama vs LM Studio (2026): ce aplicație AI locală să folosești și ce modele de top rulează fiecare

Cel mai bun LLM local după caz de utilizare (octombrie 2026): modelul open potrivit pentru fiecare job

De câțiva GB de VRAM am nevoie cu adevărat pentru AI local?

Ce este un fișier GGUF? Modele cuantificate explicate (Q4, Q8, fp8, NF4)

Toate ghidurile

Notele căpitanului

Scris de Captain, editorul casei

Note din 2026-10-13

Mistral Small 3 este un model cu greutăți deschise de 24 miliarde de parametri de la Mistral AI, construit pentru viteză fără sacrificiul obișnuit al calității. Rulează pe un singur RTX 4090 sau un MacBook de 32GB când este cuantizat și are benchmark-uri competitive față de modele de aproape trei ori mai mari. Dacă vrei un model local capabil, dar și ieftin de folosit prin API, acesta este una dintre cele mai oneste propuneri de valoare din clasa sub 70B.

Cunoscut pentru

Rulează de aproximativ 3× mai rapid decât rivalii de 70B pe hardware echivalent.
Încap pe un singur GPU consumer sau MacBook după cuantizare.
Apelare nativă a funcțiilor și output JSON pentru pipeline-uri agentice.
Multilingv în peste o duzină de limbi, inclusiv CJK și europene.
Licență Apache 2.0: utilizare comercială, fine-tuning, redistribuire permise.

Atenție la

Fereastra de context este de 32k tokeni — adecvată, dar nu un model cu context lung.
Llama 3.3 70B și Qwen 2.5 32B îl depășesc pe mai multe benchmark-uri publice când viteza nu este constrângerea.
Este necesară cuantizarea pentru a atinge țintele de un singur GPU; precizia completă cere mai mult spațiu.

Cel mai bun pentru

Rulează local

Rapid

Agenți și utilizare unelte

Multilingv

Buget

Sugestii de încercat

Sarcină agent cu apelare funcții

Ai două unelte: get_weather(city: str) și send_email(to: str, subject: str, body: str). Un utilizator spune: 'Verifică vremea în Tokyo și trimite-mi un email la user@example.com cu un scurt rezumat.' Scrie secvența de apeluri de unelte pe care le-ai face, în JSON, apoi redactează corpul emailului pe care l-ai trimite.

Sumarizare multilingvă

Rezumă următorul paragraf în engleză, apoi în franceză, apoi în japoneză. Păstrează fiecare rezumat la două propoziții. Paragraf: 'Capacitatea de energie regenerabilă la nivel mondial a crescut anul trecut cu o valoare record, impulsionată în mare parte de instalațiile solare din Asia și Europa. Analiștii spun că ritmul trebuie să se dubleze din nou până în 2030 pentru a atinge țintele climatice, dar investițiile în infrastructura rețelei nu au ținut pasul.'

Raționament sub constrângeri

Un fermier are 17 oi. Toate, cu excepția a 9, mor. Câte oi rămân? Explică acum, pas cu pas, de ce răspunsul evident greșit este greșit și ce truc lingvistic face oamenii să interpreteze greșit problema. Apoi scrie o versiune mai dificilă a aceluiași truc pentru un coleg să testeze.

Compară cu

Mistral Nemo
Model cu greutăți deschise
context de 131,072 tokeni · $0.03/M intrare, $0.03/M ieșire
Mistral Small 3.2 24B Instruct 2506
Model cu greutăți deschise
context de 128,000 tokeni · $0.07/M intrare, $0.20/M ieșire
Ministral 3 3B 2512
Model cu greutăți deschise
context de 131,072 tokeni · $0.10/M intrare, $0.10/M ieșire
Voxtral Small 24B 2507
Model cu greutăți deschise
context de 32,768 tokeni · $0.10/M intrare, $0.30/M ieșire

Mai multe modele text de la mistralai

Întrebări frecvente

Pot rula Mistral Small 3 local?: Da — greutățile sunt deschise sub licență Apache 2.0, iar Mistral AI spune că modelul încapă pe un singur RTX 4090 sau un MacBook cu 32GB RAM după cuantizare. Poți găsi greutățile pe Hugging Face la mistralai/Mistral-Small-24B-Instruct-2501.
Cât costă Mistral Small 3 prin API și care este fereastra de context?: Prețul este de $0.05 per milion de tokeni de input și $0.08 per milion de tokeni de output, cu o fereastră de context de 32.768 tokeni.
Cum se compară Mistral Small 3 cu Llama 3.3 70B?: Mistral Small 3 rulează de aproximativ trei ori mai rapid pe hardware echivalent și se descurcă bine pe mai multe benchmark-uri, deși Llama 3.3 70B obține scoruri mai mari la unele evaluări publice de raționament și programare unde capacitatea brută contează mai mult decât latența.

Verdictul căpitanului
Un model mic cu adevărat util: deschis, ieftin, rapid și suficient de onest cu limitele sale încât să nu te simți păcălit când un model de 70B îl depășește.

Fișa modelului pe Hugging Face

Căpitanul scrie aceste note pe baza descrierii modelului și a fișei modelului. Prețurile și dimensiunile contextului sunt cele ale furnizorului la momentul scrierii și pot varia.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Cum se adună acest scor

Acest model nu are încă date de popularitate de la nicio sursă, așa că are un număr provizoriu sub 7,000° care menține listele complete. Nu va fi niciodată clasat mai sus decât un model cu date. Descompunerea apare aici imediat ce o sursă o raportează.

Glosar: termenii folosiți aici

Scor de căldură: Un număr care arată cât de mult este folosit și dorit un model acum, de la 0° la 9.999°. Fiecare listă de pe site care spune „cele mai călduroase” este sortată după acest scor și nimic altceva.
Prag: 7.000° este punctul de start pentru orice model cu date reale. Scara merge de la 0° la 9.999°; partea de sub prag este rezervată pentru înlocuitori (modele fără date), ca să fie sigur că un model cu date e mereu mai sus decât unul fără. Pragul e același pentru toți și nu decide nimic; gradele de deasupra lui sunt măsurătoarea.
Echivalente descărcări: Tot ce scorul tratează ca o descărcare, adunat: descărcările în sine, fiecare seeder de torrent ca 1.000, fiecare imagine AI Horde și fiecare rulare pe un site de generare ca una.
Scară logaritmică: Se numără la zeci, nu la unități: trecerea de la 1.000 la 10.000 descărcări adaugă aceleași grade ca trecerea de la 10.000 la 100.000. Astfel, modelele mari nu acoperă tot ce e mic.
Aprecieri: Like-uri și aprecieri de oriunde, fiecare valorează jumătate dintr-o descărcare pe scara logaritmică.
Rata de adoptare: Câte descărcări pe zi primește un model acum, calculat din diferența dintre două citiri ale unei surse. Are un sfert din greutatea termenului de descărcare.
Măsurat și estimat: Măsurat înseamnă că există două citiri ale unei surse și diferența este reală. Estimat înseamnă că se știe doar totalul de azi, iar trecutul este împărțit pe durata vieții modelului; site-ul spune care dintre ele este afișat.
Seeder: Cineva care păstrează o copie a greutăților online pentru ca alții să le descarce prin torrent, sau o oglindă găzduită care face același lucru. Fiecare contează ca 1.000 de descărcări.
AI Horde: O rețea de voluntari care generează imagini gratuit pe calculatoare donate. Numărul de imagini create cu un model este public și fiecare contează ca o descărcare.
Site-uri de generare: Site-uri care găzduiesc propriile copii ale unui model și permit oamenilor să genereze cu el, cum ar fi PixAI, SeaArt și Yodayo. Descărcările lor contează ca cele de pe Civitai, iar fiecare rulare de generare ca o descărcare.
Tokeni OpenRouter: Un model de text servit printr-un API, cum ar fi Claude sau GPT, nu are greutăți de descărcat, deci utilizarea sa se măsoară în tokeni: bucățile de text citite și scrise prin OpenRouter, un gateway folosit de multe aplicații, în ultimele 30 de zile. Fiecare 10,000,000 tokeni contează ca un download. Sursa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model complet (checkpoint): Greutățile în sine, fișierul care generează singur. Primește un bonus pentru că depind de el add-on-urile.
LoRA și embedding: Fișiere mici add-on care direcționează greutățile altcuiva spre un stil, un personaj sau un concept. Nu pot rula singure.
Familie și greutăți: Baza pe care este construit un model, cum ar fi SD 1.5, SDXL, Flux sau Wan. Fiecare model moștenește data lansării greutăților familiei sale.
Vârstă: Grade scăzute în funcție de cât timp a trecut de când au apărut greutățile familiei: 150° pe an, până la 750°. Păstrează descărcările vechi care au avut ani să se acumuleze, blocând topul listei.
Boost de familie: Un mic impuls limitat pentru LoRA-urile unei familii pe care site-ul o promovează acum, întotdeauna listat în detaliu.
Scor de rezervă: Un număr stabil sub prag, dat unui model despre care nicio sursă nu raportează încă, ca listele să rămână complete. Nu se clasează niciodată peste un model cu date.
Nou! (perioadă de grație): Un model mai nou de 7 zile afișează Nou! în loc de scor și nu ocupă loc în clasamente. Scorul său este calculat de la prima zi, dar un model de o zi crește mai rapid decât orice altceva, deci fără această așteptare, modelul #1 al săptămânii ar fi întotdeauna cel apărut ieri, nu cel care a rezistat o săptămână.
Tendință: Cum se compară creșterea unui model într-o perioadă cu creșterea tipică a unui model în aceeași perioadă. Mai rapid decât tipicul înseamnă creștere, mai lent scădere.
Model tipic: Mijlocul catalogului: jumătate dintre modele cu o cifră au crescut mai repede în perioada respectivă, jumătate mai încet.

Modele similare

Mixtral 8x7B Instruct v0.1

Modele AI pentru generare de imagini, video și text

Mistral Small 3 este un model de text pentru familia Text / LLM, listat pe ModelTrends.ai, un catalog doar pentru citire al modelelor AI open source pentru imagini, video și text. Compară-l cu alte modele Text / LLM și verifică-i scorul de căldură pentru a vedea cât este de popular.

Mai multe modele Text / LLM llm mistralai local rapid agenți multilingv buget

Răsfoiește după familia de modele