Mistral Small 3
5064°
Mistral | 32,768 令牌上下文 | $0.05/M 输入,$0.08/M 输出。Mistral Small 3 是一款拥有 240 亿参数的语言模型,针对常见 AI 任务的低延迟性能进行了优化。采用 Apache 2.0 许可发布,提供预训练和指令调优版本,适合高效本地部署。该模型在 MMLU 基准测试中达到 81% 准确率,性能与更大模型如 Llama 3.3 70B 和 Qwen 32B 竞争,同时在同等硬件上速度提升三倍。阅读关于该模型的博客文章。
本模型的指南

Ollama 与 LM Studio(2026):选择哪个本地 AI 应用,以及各自支持的顶级模型

按使用场景选最佳本地大语言模型(2026年10月):每个任务的合适开源模型
本地AI到底需要多少显存?
什么是 GGUF 文件?量化模型详解(Q4、Q8、fp8、NF4)
船长笔记
2026-10-13 的笔记
Mistral Small 3 是 Mistral AI 推出的一款 24B 参数开源权重模型,专为速度优化且不牺牲质量。量化后可在单张 RTX 4090 或 32GB MacBook 上运行,基准测试表现可与近三倍规模的模型竞争。如果您想要一款既能本地运行又能通过 API 低成本调用的高效模型,这是 70B 以下规模中较为诚实的价值选择。
以……著称
- 在同等硬件上运行速度约为 70B 级别竞品的 3 倍。
- 量化后可装入单张消费级 GPU 或 32GB MacBook。
- 原生函数调用和 JSON 输出,支持代理流程。
- 支持十多种语言,包括中日韩及欧洲语言。
- Apache 2.0 许可:允许商业使用、微调和再分发。
注意
- 上下文窗口为 32k 令牌——足够用,但非长上下文模型。
- Llama 3.3 70B 和 Qwen 2.5 32B 在部分公开基准上表现优于它,尤其在非速度限制场景。
- 需量化才能满足单 GPU 运行,纯精度版本需要更多显存。
推荐尝试的提示词
函数调用代理任务
你有两个工具:get_weather(city: str) 和 send_email(to: str, subject: str, body: str)。用户说:“帮我查一下东京的天气,并发邮件到 user@example.com,附上简短总结。”请写出你会调用的工具序列(JSON 格式),并草拟邮件正文。
多语言摘要
请用英语、法语和日语分别总结以下段落,每种语言两句。段落:'去年全球可再生能源装机容量创纪录增长,主要由亚洲和欧洲的太阳能装置推动。分析师称,为实现气候目标,增长速度需在2030年前再翻一番,但电网基础设施投资未跟上。'
约束条件下的推理
一位农民有 17 只羊,除了 9 只外其他都死了。还剩多少只?请逐步解释为何明显错误答案是错的,以及是什么语言陷阱导致人们误读问题。然后为同事设计一个更难的类似陷阱题。
与……比较
- Mistral Nemo开源权重模型131,072 令牌上下文 · $0.03/M 输入,$0.03/M 输出
- Mistral Small 3.2 24B Instruct 2506开源权重模型128,000 令牌上下文 · $0.07/M 输入,$0.20/M 输出
- Ministral 3 3B 2512开源权重模型131,072 令牌上下文 · $0.10/M 输入,$0.10/M 输出
- Voxtral Small 24B 2507开源权重模型32,768 令牌上下文 · $0.10/M 输入,$0.30/M 输出
来自 mistralai 的更多文本模型
常见问题
- 我能本地运行 Mistral Small 3 吗?
- 可以——权重开源,采用 Apache 2.0 许可,Mistral AI 表示量化后模型可装入单张 RTX 4090 或 32GB RAM MacBook。权重托管于 Hugging Face,地址为 mistralai/Mistral-Small-24B-Instruct-2501。
- Mistral Small 3 的 API 费用和上下文窗口是多少?
- 定价为每百万输入令牌 0.05 美元,输出令牌 0.08 美元,上下文窗口为 32,768 令牌。
- Mistral Small 3 与 Llama 3.3 70B 相比如何?
- Mistral Small 3 在同等硬件上运行速度约为三倍,且在多个基准中表现不错,但 Llama 3.3 70B 在部分公开推理和编码评测中得分更高,尤其在原始能力比延迟更重要时。
船长评语一款真正实用的小型模型:开源、廉价、快速,对其局限性诚实,70B 模型击败它时您不会感到被误导。
Hugging Face 上的模型卡
船长根据模型自身描述和模型卡撰写这些笔记。价格和上下文大小为撰写时提供商的数据,可能会变动。
Ranking badge
Updated Oct 22, 2026
Made this model? Show this badge on your page.
Paste it into your Hugging Face card or Civitai description.
这个评分是怎么计算的
这个模型还没有任何来源的流行度数据,所以它用一个低于 7,000° 的替代数值来保持列表完整。它永远不会排在有数据的模型前面。一旦有来源报告数据,分解就会显示在这里。
术语表:这里用到的术语
- 热度得分
- 一个数字,表示模型当前的使用和需求程度,范围从0°到9,999°。本站所有标注为最热门的榜单都按这个分数排序,别无他物。
- 基准线
- 所有有真实数据的模型起始于7,000°。分数范围是0°到9,999°;基准线以下的部分保留给无数据的替代模型,这样有数据的模型总是排在无数据模型之上。基准线对所有人相同,不影响排名;超过基准线的度数才是实际测量值。
- 下载等价量
- 得分中当作下载计算的所有项目总和:下载本身,每个种子上传者算1,000,每个AI Horde图片和每次生成网站的运行算一个。
- 对数刻度
- 以十为单位计数,而不是以一为单位:从1,000到10,000下载增加的热度和从10,000到100,000增加的热度相同。这样可以防止巨头压倒一切。
- 点赞
- 来自所有来源的点赞和竖起大拇指,每个点赞在对数刻度上价值半个下载。
- 采用率
- 模型当前每天的下载次数,基于两次读数的差值。权重是下载项的四分之一。
- 测量与估算
- 测量表示有两个来源的读数,且差异是真实的。估算表示只知道今天的总数,过去的数据是根据模型的生命周期分配的;网站会说明显示的是哪种。
- 做种者
- 指那些在线保存权重副本供他人通过种子下载的人,或者提供同样服务的托管镜像。每个做种者相当于1000次下载。
- AI Horde
- 一个志愿者网络,在捐赠的电脑上免费生成图片。它用某个模型生成的图片数量是公开的,每张图片算作一次下载。
- 生成网站
- 托管自己模型副本并允许用户生成的站点,比如PixAI、SeaArt和Yodayo。它们的下载计数和Civitai一样,每次生成算一次下载。
- OpenRouter 令牌
- 通过API提供的文本模型,如Claude或GPT,没有权重需要下载,因此其使用量以令牌计量:过去30天内通过OpenRouter(一种许多应用使用的网关)读取和生成的文本片段。每10,000,000个令牌计为一次下载。来源:OpenRouter (openrouter.ai/rankings),CC BY 4.0。
- 完整模型(检查点)
- 权重文件本身,是能独立生成的文件。它会获得额外加分,因为附加组件依赖它。
- LoRA和嵌入
- 小型附加文件,用来引导别人的权重朝向某种风格、角色或概念。它们不能单独运行。
- 家族与权重
- 模型构建所基于的基础,比如SD 1.5、SDXL、Flux或Wan。每个模型继承其家族权重的发布日期。
- 年龄
- 根据家族权重发布多久,扣除的度数:每年150°,最多750°。它保留了那些积累了多年下载量的老模型,防止它们被挤出榜单顶部。
- 家族加成
- 对当前网站重点推广的某个家族的LoRA给予的小幅度限制性加分,总是在分数细目中列出。
- 替代分数
- 给还没有任何来源报告的模型一个稳定的最低分数,这样榜单才完整。它永远不会高于有数据的模型。
- 新模型!(宽限期)
- 不到7天的新模型显示“新模型!”而非分数,且不参与排名。其分数从第一天开始计算,但一天大的模型增长最快,若不等待,周榜#1总是昨天刚发布的模型,而非持续一周的。
- 趋势
- 模型在某段时间内的增长与同一时间段内典型模型增长的对比。比典型快表示上升,比典型慢表示下降。
- 典型模型
- 目录的中间值:一半有数据的模型增长比它快,一半比它慢。
