Nemotron 3.5 Lightning
8980°
NVIDIA | 262,144 令牌上下文 | 输入 $0.07/千,输出 $0.20/千。NVIDIA Nemotron 3.5 Lightning 是 NVIDIA 的开放专家混合模型,拥有30亿激活参数(总计300亿)。适合高吞吐量智能代理工作负载和受益于领域特定定制的专业任务。
本模型的指南

Ollama 与 LM Studio(2026):选择哪个本地 AI 应用,以及各自支持的顶级模型

按使用场景选最佳本地大语言模型(2026年10月):每个任务的合适开源模型
开放权重 vs 开源 vs 仅API:你到底能做什么
什么是 GGUF 文件?量化模型详解(Q4、Q8、fp8、NF4)
本地AI到底需要多少显存?

如何安装 Ollama 并运行本地 AI(Windows、Mac、Linux)
船长笔记
2026-10-13 的笔记
Nemotron 3.5 Lightning 是 NVIDIA 推出的 300 亿参数混合专家模型,推理时仅激活 30 亿参数,基于混合 Mamba-2、MoE 和注意力架构。此 BF16 版本为参考检查点,是微调、蒸馏或构建自定义量化变体的合适起点,而非最快的生产路径。权重开放,允许商业使用,单个 H100 支持 256K 上下文。
以……著称
- MoE 高效性:总参数 300 亿,单次前向仅激活 30 亿
- 混合架构融合 Mamba-2、MoE 层和注意力机制
- 可配置推理模式——推理可在推理时开启或关闭
- 设计为微调和蒸馏基础,而非仅聊天端点
- 支持英语、西班牙语、法语、德语、意大利语和日语六种语言
注意
- 此 BF16 版本适合定制工作;低延迟服务推荐使用 NVIDIA 的 NVFP4 变体。
- 单个 H100 部署验证支持 256K 令牌;达到 1M 令牌需多 GPU 或 Blackwell 硬件。
- 权重开放但受 OpenMDW 许可证协议 v1.1 约束,非标准 Apache 或 MIT 许可证,需注意条款。
推荐尝试的提示词
开启推理解决问题
你正在解决一个物流问题。仓库按 12 件一批发货。现有 500 件产品 A,每天收到 75 个新订单,每个订单需 3 件。库存多久会耗尽?最后一批完整发货是哪一天?请逐步展示推理过程。
领域微调准备
我正在准备一个法律文档审查助手的监督微调数据集。请写 5 组高质量的指令-响应对,指令要求模型识别合同摘录中特定条款类型,响应需识别条款、引用相关文本并用通俗语言解释其重要性。
代理任务分解
你是一个代理,拥有网页搜索、代码执行和文件写入工具。用户需要每周报告三款 SaaS 产品的竞争对手定价。将任务拆解为具体的工具调用和子任务,说明每次调用获取或计算的内容及其如何汇总到最终报告。
与……比较
- Nemotron 3 Ultra开源权重模型262,144 令牌上下文 · $0.60/M 输入,$2.40/M 输出
- Nemotron 3 Super开源权重模型262,144 令牌上下文 · $0.08/M 输入,$0.45/M 输出
- NVIDIA Nemotron 3 Ultra 550B A55B开源权重模型262,144 令牌上下文 · $0.50/M 输入,$2.20/M 输出
- Nemotron 3.5 Content Safety开源权重模型131,072 令牌上下文 · $0.20/M 输入,$0.20/M 输出
来自 nvidia 的更多文本模型
常见问题
- 权重是开放的吗?我能本地运行吗?
- 是的,BF16 权重托管于 Hugging Face,遵循 OpenMDW 许可证 v1.1,允许商业使用。单个 H100 80GB 或 A100 80GB 可运行,但消费级硬件建议使用 NVIDIA 推荐的 NVFP4 或 GGUF 变体。
- 费用和上下文窗口是多少?
- 通过 API,输入费用为每百万令牌 0.07 美元,输出费用为每百万令牌 0.20 美元。单个 H100 支持 256K 令牌上下文,架构支持多 GPU Blackwell 配置下最高 1M 令牌。
- BF16 版本与 NVFP4 版本有何区别?
- BF16 版本是全精度参考检查点,适合后续训练如 SFT、RL、蒸馏及自定义量化变体制作。NVFP4 版本是 NVIDIA 推荐的优化推理和低延迟部署版本。
船长评语一款严肃的微调基础,拥有巧妙的 MoE 架构——当你需要定制时选择它,而非仅仅需要聊天端点。
Hugging Face 上的模型卡
船长根据模型自身描述和模型卡撰写这些笔记。价格和上下文大小为撰写时提供商的数据,可能会变动。
Ranking badge
Updated Oct 22, 2026
Made this model? Show this badge on your page.
Paste it into your Hugging Face card or Civitai description.
Also ranked: #54 Hottest AI model · #29 Hottest Text / LLM model · #29 Hottest Text / LLM text model
Not this creator?
Get your own badge
Nemotron 3.5 Lightning 热度趋势
自11 Aug 2026以来的热度分数
热度评分
8,980°
本周
▲
59.6%
8,919° 当时,8,980° 现在
本月
▲
1,083%
8,655° 当时,8,980° 现在
过去一年
n/a
尚未发布/跟踪
7,000°
起点
评分范围是 0° 到 9,999°。低于 7,000° 的部分保留给还没有任何来源报告的模型,这些模型用替代数值填充,保证列表完整。7,000° 是有实际数据的起点:一个有真实数据但几乎没人下载的模型就在这里,后续的度数都是基于它的测量。起点本身不反映模型质量,只有起点以上的度数才区分不同模型。
+1,656°
OpenRouter 令牌
该模型在过去30天内通过OpenRouter处理了3,296,276,417,858个令牌,包含提示和回答。每10,000,000个令牌计为一次下载,共计329,627次;最后一天的令牌计入采用率。来源:OpenRouter (openrouter.ai/rankings)。
+324°
采用率
每天大约 21,182 次下载,基于两次来源读取间的测量,不是用历史平均估算。下载速度权重是下载项的四分之一,这样能反映新热度,但不会让一天的峰值超过多年累计。
显示详细分解
本站上的每个数字都可以查证。这个模型的热度评分是 8,980°,这里一步步展示了它是如何组成的,每一步都有累计总分:起点、每个来源增加的度数、模型类型的加成以及权重年龄的扣减。颜色对应上方图表的区间。最后的词汇表解释了所有术语。
- 1从起点开始。为什么是 7,000° 而不是零:评分范围是 0° 到 9,999°,低于 7,000° 的部分保留给还没有任何来源报告的模型,这些模型用替代数值填充,保证列表完整且不会超过有数据的模型。7,000° 是有实际数据的起点。一个有真实数据但几乎没人下载的模型就在这里;后续的度数都是测量值,起点以上有十个十倍下载阶梯,每阶梯增加 300°。起点对所有模型一样,不影响排名;区分模型的是起点以上的度数。7,000°累计总数
- 2加上下载量。总共329,627个下载等价量,来自OpenRouter 令牌。下载量增加十倍,热度增加相同的300°,所以大小很重要,但不会让分数失控。+1,656°8,656°累计总数
- 3增加采用率。现在大约每天21,182次下载,基于两次读数的差值,权重是四分之一。+324°8,980°累计总数
- =热度得分。这个模型在本站所有榜单上的排名。没有其他因素会调整它。8,980°
术语表:这里用到的术语
- 热度得分
- 一个数字,表示模型当前的使用和需求程度,范围从0°到9,999°。本站所有标注为最热门的榜单都按这个分数排序,别无他物。
- 基准线
- 所有有真实数据的模型起始于7,000°。分数范围是0°到9,999°;基准线以下的部分保留给无数据的替代模型,这样有数据的模型总是排在无数据模型之上。基准线对所有人相同,不影响排名;超过基准线的度数才是实际测量值。
- 下载等价量
- 得分中当作下载计算的所有项目总和:下载本身,每个种子上传者算1,000,每个AI Horde图片和每次生成网站的运行算一个。
- 对数刻度
- 以十为单位计数,而不是以一为单位:从1,000到10,000下载增加的热度和从10,000到100,000增加的热度相同。这样可以防止巨头压倒一切。
- 点赞
- 来自所有来源的点赞和竖起大拇指,每个点赞在对数刻度上价值半个下载。
- 采用率
- 模型当前每天的下载次数,基于两次读数的差值。权重是下载项的四分之一。
- 测量与估算
- 测量表示有两个来源的读数,且差异是真实的。估算表示只知道今天的总数,过去的数据是根据模型的生命周期分配的;网站会说明显示的是哪种。
- 做种者
- 指那些在线保存权重副本供他人通过种子下载的人,或者提供同样服务的托管镜像。每个做种者相当于1000次下载。
- AI Horde
- 一个志愿者网络,在捐赠的电脑上免费生成图片。它用某个模型生成的图片数量是公开的,每张图片算作一次下载。
- 生成网站
- 托管自己模型副本并允许用户生成的站点,比如PixAI、SeaArt和Yodayo。它们的下载计数和Civitai一样,每次生成算一次下载。
- OpenRouter 令牌
- 通过API提供的文本模型,如Claude或GPT,没有权重需要下载,因此其使用量以令牌计量:过去30天内通过OpenRouter(一种许多应用使用的网关)读取和生成的文本片段。每10,000,000个令牌计为一次下载。来源:OpenRouter (openrouter.ai/rankings),CC BY 4.0。
- 完整模型(检查点)
- 权重文件本身,是能独立生成的文件。它会获得额外加分,因为附加组件依赖它。
- LoRA和嵌入
- 小型附加文件,用来引导别人的权重朝向某种风格、角色或概念。它们不能单独运行。
- 家族与权重
- 模型构建所基于的基础,比如SD 1.5、SDXL、Flux或Wan。每个模型继承其家族权重的发布日期。
- 年龄
- 根据家族权重发布多久,扣除的度数:每年150°,最多750°。它保留了那些积累了多年下载量的老模型,防止它们被挤出榜单顶部。
- 家族加成
- 对当前网站重点推广的某个家族的LoRA给予的小幅度限制性加分,总是在分数细目中列出。
- 替代分数
- 给还没有任何来源报告的模型一个稳定的最低分数,这样榜单才完整。它永远不会高于有数据的模型。
- 新模型!(宽限期)
- 不到7天的新模型显示“新模型!”而非分数,且不参与排名。其分数从第一天开始计算,但一天大的模型增长最快,若不等待,周榜#1总是昨天刚发布的模型,而非持续一周的。
- 趋势
- 模型在某段时间内的增长与同一时间段内典型模型增长的对比。比典型快表示上升,比典型慢表示下降。
- 典型模型
- 目录的中间值:一半有数据的模型增长比它快,一半比它慢。
这个模型的受欢迎程度相对于整个目录的变化:它在每个时间段内下载量、点赞和使用量的增长,和同一时间段内典型模型的增长相比,以及当时的热度分数。高于典型增长表示上升,低于则表示下降。过去的数据是从今天的总数、模型的第一天和测量的下载速度(如果有两次测量)推算出来的;如果模型在某个时间段开始时不存在,则显示为 n/a。
