Mistral Small 3
5064°
Chạy mô hình này
Ưu đãi / Quảng cáo
Mistral | ngữ cảnh 32,768 token | $0.05/M đầu vào, $0.08/M đầu ra. Mistral Small 3 là mô hình ngôn ngữ 24 tỷ tham số được tối ưu cho hiệu suất độ trễ thấp trên các tác vụ AI phổ biến. Được phát hành dưới giấy phép Apache 2.0, nó có cả phiên bản tiền huấn luyện và tinh chỉnh theo hướng dẫn, thiết kế cho triển khai hiệu quả tại chỗ. Mô hình đạt 81% độ chính xác trên chuẩn mực MMLU và hoạt động cạnh tranh với các mô hình lớn hơn như Llama 3.3 70B và Qwen 32B, trong khi chạy nhanh gấp ba lần trên phần cứng tương đương. Đọc bài viết blog về mô hình tại đây.Opens in new tab
Hướng dẫn cho mô hình này

Ollama vs LM Studio (2026): nên dùng ứng dụng AI cục bộ nào, và mỗi ứng dụng chạy những mô hình hàng đầu nào

LLM cục bộ tốt nhất theo từng trường hợp sử dụng (Tháng 10 năm 2026): mô hình mở phù hợp cho mọi công việc
Mình thực sự cần bao nhiêu VRAM cho AI cục bộ?
Tệp GGUF là gì? Giải thích về các mô hình lượng tử hóa (Q4, Q8, fp8, NF4)
Ghi chú của thuyền trưởng
Ghi chú từ 2026-10-13
Mistral Small 3 là mô hình 24 tỷ tham số trọng số mở từ Mistral AI, được thiết kế cho tốc độ mà không hy sinh chất lượng thường thấy. Nó chạy trên một RTX 4090 hoặc MacBook 32GB khi lượng tử hóa, và có điểm chuẩn cạnh tranh với các mô hình gần gấp ba lần kích thước. Nếu bạn muốn một mô hình cục bộ có năng lực và cũng rẻ khi chạy qua API, đây là một trong những đề xuất giá trị trung thực nhất trong phân khúc dưới 70 tỷ.
Nổi tiếng với
- Chạy nhanh gấp khoảng 3 lần các đối thủ 70B trên phần cứng tương đương.
- Vừa vặn trên một GPU tiêu dùng hoặc MacBook sau khi lượng tử hóa.
- Gọi hàm bản địa và xuất JSON cho quy trình tác nhân.
- Đa ngôn ngữ trên hơn một chục ngôn ngữ bao gồm CJK và châu Âu.
- Giấy phép Apache 2.0: cho phép sử dụng thương mại, tinh chỉnh, phân phối lại.
Cẩn thận với
- Cửa sổ ngữ cảnh 32k token — đủ dùng nhưng không phải mô hình ngữ cảnh dài.
- Llama 3.3 70B và Qwen 2.5 32B vượt trội trên một số điểm chuẩn công khai khi tốc độ không phải là giới hạn.
- Cần lượng tử hóa để đạt mục tiêu chạy trên một GPU; bản đầy đủ đòi hỏi nhiều bộ nhớ hơn.
Phù hợp nhất cho
Lời nhắc để thử
Tác vụ tác nhân gọi hàm
Bạn có hai công cụ: get_weather(city: str) và send_email(to: str, subject: str, body: str). Người dùng nói: 'Kiểm tra thời tiết ở Tokyo và gửi email cho tôi tại user@example.com với bản tóm tắt ngắn.' Viết chuỗi gọi công cụ bạn sẽ thực hiện, dưới dạng JSON, rồi soạn thảo nội dung email bạn sẽ gửi.
Tóm tắt đa ngôn ngữ
Tóm tắt đoạn văn sau bằng tiếng Anh, rồi tiếng Pháp, rồi tiếng Nhật. Mỗi bản tóm tắt giữ trong hai câu. Đoạn văn: 'Công suất năng lượng tái tạo toàn cầu tăng kỷ lục năm ngoái, chủ yếu nhờ lắp đặt năng lượng mặt trời ở châu Á và châu Âu. Các nhà phân tích nói tốc độ phải tăng gấp đôi nữa vào năm 2030 để đạt mục tiêu khí hậu, nhưng đầu tư hạ tầng lưới điện chưa theo kịp.'
Suy luận dưới ràng buộc
Một nông dân có 17 con cừu. Tất cả trừ 9 con chết. Còn lại bao nhiêu con? Giải thích từng bước tại sao câu trả lời sai rõ ràng lại sai và thủ thuật ngôn ngữ nào khiến người ta đọc sai đề. Rồi viết một phiên bản khó hơn của thủ thuật đó để đồng nghiệp kiểm tra.
So sánh với
- Mistral NemoMô hình mở trọng sốngữ cảnh 131,072 token · Đầu vào $0.03/M, đầu ra $0.03/M
- Mistral Small 3.2 24B Instruct 2506Mô hình mở trọng sốngữ cảnh 128,000 token · Đầu vào $0.07/M, đầu ra $0.20/M
- Ministral 3 3B 2512Mô hình mở trọng sốngữ cảnh 131,072 token · Đầu vào $0.10/M, đầu ra $0.10/M
- Voxtral Small 24B 2507Mô hình mở trọng sốngữ cảnh 32,768 token · Đầu vào $0.10/M, đầu ra $0.30/M
Thêm mô hình văn bản từ mistralai
Câu hỏi thường gặp
- Tôi có thể chạy Mistral Small 3 cục bộ không?
- Có — trọng số mở dưới giấy phép Apache 2.0, và Mistral AI nói mô hình vừa vặn trên một RTX 4090 hoặc MacBook 32GB RAM sau khi lượng tử hóa. Bạn có thể tìm trọng số trên Hugging Face tại mistralai/Mistral-Small-24B-Instruct-2501.
- Chi phí của Mistral Small 3 qua API và cửa sổ ngữ cảnh là bao nhiêu?
- Giá là $0,05 cho mỗi triệu token đầu vào và $0,08 cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 32.768 token.
- Mistral Small 3 so với Llama 3.3 70B thế nào?
- Mistral Small 3 chạy nhanh gấp khoảng ba lần trên phần cứng tương đương và giữ phong độ trên nhiều điểm chuẩn, dù Llama 3.3 70B điểm cao hơn trên một số bài đánh giá công khai về suy luận và lập trình khi khả năng thô quan trọng hơn độ trễ.
Phán quyết của thuyền trưởngMột mô hình nhỏ thực sự hữu ích: mở, rẻ, nhanh và trung thực về giới hạn để bạn không cảm thấy bị đánh lừa khi một mô hình 70B vượt trội.
Thẻ mô hình trên Hugging Face
Thuyền trưởng viết những ghi chú này dựa trên mô tả và thẻ mô hình của mô hình. Giá cả và kích thước ngữ cảnh là của nhà cung cấp tại thời điểm viết và có thể thay đổi.
Ranking badge
Updated Oct 22, 2026
Made this model? Show this badge on your page.
Paste it into your Hugging Face card or Civitai description.
Điểm số này được tính như thế nào
Mô hình này chưa có dữ liệu phổ biến từ bất kỳ nguồn nào, nên nó mang một số thay thế dưới 7,000° để giữ cho danh sách đầy đủ. Nó không bao giờ xếp trên một mô hình có dữ liệu. Phân tích chi tiết sẽ xuất hiện ở đây ngay khi có nguồn báo cáo.
Thuật ngữ: các từ dùng ở đây
- Điểm nhiệt
- Một số duy nhất cho biết mô hình được dùng và mong muốn thế nào hiện tại, từ 0° đến 9.999°. Mọi danh sách trên trang này nói về độ hot đều sắp xếp theo nó và không theo gì khác.
- Sàn điểm
- 7.000° là điểm bắt đầu cho mọi mô hình có dữ liệu thật. Thang điểm chạy từ 0° đến 9.999°; phần dưới sàn dành cho mô hình thay thế (mô hình không có dữ liệu), để mô hình có dữ liệu luôn xếp trên mô hình không có. Sàn điểm giống nhau cho tất cả và không quyết định gì; điểm trên sàn mới là thước đo.
- Tương đương lượt tải
- Tất cả những gì điểm số coi là lượt tải, cộng lại: lượt tải thật, mỗi người chia sẻ torrent tính 1.000, mỗi ảnh AI Horde và mỗi lượt chạy trên trang tạo ảnh tính một.
- Thang log
- Đếm theo chục, không phải theo đơn vị: từ 1.000 lên 10.000 lượt tải thêm cùng số điểm như từ 10.000 lên 100.000. Giúp tránh việc các mô hình lớn lấn át hết mọi thứ khác.
- Lượt thích
- Giơ ngón tay cái và lượt thích từ mọi nguồn, mỗi lượt bằng một nửa lượt tải trên thang log.
- Tỷ lệ áp dụng
- Bao nhiêu lượt tải mỗi ngày mà mô hình nhận được hiện tại, tính từ chênh lệch giữa hai lần đọc nguồn. Bằng một phần tư trọng số của lượt tải.
- Đã đo và ước tính
- Đã đo nghĩa là có hai lần đọc từ một nguồn và sự khác biệt là thật. Ước tính nghĩa là chỉ biết tổng số hôm nay và quá khứ được phân bổ trong suốt thời gian tồn tại của mô hình; trang web sẽ nói rõ đang hiển thị loại nào.
- Seeder
- Người giữ bản sao trọng số trực tuyến để người khác tải qua torrent, hoặc một bản sao lưu trữ làm điều tương tự. Mỗi người được tính là 1.000 lượt tải.
- AI Horde
- Một mạng lưới tình nguyện tạo ảnh miễn phí trên máy tính được hiến tặng. Số ảnh nó đã tạo với một mô hình được công khai, và mỗi ảnh được tính là một lượt tải.
- Trang tạo ảnh
- Các trang lưu trữ bản sao mô hình riêng và cho phép người dùng tạo ảnh, như PixAI, SeaArt và Yodayo. Lượt tải của họ được tính giống như Civitai và mỗi lần tạo ảnh được tính là một lượt tải.
- Token OpenRouter
- Mô hình văn bản phục vụ qua API, như Claude hoặc GPT, không có trọng số để tải xuống, nên sử dụng token để đo lường: các đoạn văn bản nó đọc và viết qua OpenRouter, một cổng kết nối nhiều ứng dụng sử dụng, trong 30 ngày qua. Mỗi 10,000,000 token tính là một lượt tải. Nguồn: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
- Mô hình đầy đủ (checkpoint)
- Chính là trọng số, file tự tạo ảnh. Nó được cộng thêm điểm vì các add-on phụ thuộc vào nó.
- LoRA và embedding
- Các file add-on nhỏ giúp điều chỉnh trọng số của người khác theo phong cách, nhân vật hoặc ý tưởng. Chúng không thể chạy riêng.
- Gia đình và trọng số
- Nền tảng mà mô hình xây dựng trên đó, như SD 1.5, SDXL, Flux hoặc Wan. Mỗi mô hình kế thừa ngày phát hành của trọng số gia đình nó.
- Tuổi
- Điểm trừ dựa trên thời gian trọng số gia đình được phát hành: 150° mỗi năm, tối đa 750°. Nó giữ lại lượt tải cũ đã tích tụ nhiều năm bằng cách đóng băng đầu danh sách.
- Tăng gia đình
- Một đẩy nhỏ có giới hạn cho LoRA của một gia đình mà trang này đang ưu tiên, luôn được liệt kê trong phần phân tích.
- Điểm thay thế
- Một số ổn định dưới mức tối thiểu dành cho mô hình chưa có báo cáo nguồn, để danh sách luôn đầy đủ. Nó không bao giờ xếp trên mô hình có dữ liệu.
- Mới! (giai đoạn thử nghiệm)
- Mô hình dưới 7 ngày tuổi hiển thị Mới! thay vì điểm số và không được xếp hạng. Điểm số được tính từ ngày đầu tiên, nhưng mô hình mới một ngày tăng trưởng nhanh nhất, nên nếu không chờ đợi thì #1 tuần này sẽ luôn là mô hình mới ra hôm qua thay vì mô hình giữ vững trong tuần.
- Xu hướng
- Tốc độ tăng trưởng của mô hình trong một khoảng thời gian so với tốc độ tăng trưởng trung bình của mô hình khác trong cùng khoảng thời gian. Nhanh hơn trung bình là tăng, chậm hơn là giảm.
- Mô hình điển hình
- Giữa danh mục: một nửa mô hình có số liệu tăng nhanh hơn trong khoảng thời gian, một nửa tăng chậm hơn.
