应用与产品 · 深度报道

英伟达发布 Nemotron 3.5 Super VL:1200亿参数开放模型走向本地智能体

英伟达发布 Nemotron 3.5 Super VL 及 Bolt 系列,旨在将多模态、工具调用和长流程智能体能力从数据中心扩展到桌面与边缘设备。Super VL 为1200亿参数开放模型,Bolt 74B-A9B 24GB 和即将发布的 Bolt E4B 4GB 则优化为在24GB及更小内存预算上本地运行复杂智能体工作流。

AIFluxNews AIFlux 编辑2026 年 10 月 16 日阅读约 5 分钟
英伟达发布 Nemotron 3.5 Super VL:1200亿参数开放模型走向本地智能体

英伟达发布 Nemotron 3.5 Super VL 及 Bolt 系列,旨在将多模态、工具调用和长流程智能体能力从数据中心扩展到桌面与边缘设备。Super VL 为1200亿参数开放模型,Bolt 74B-A9B 24GB 和即将发布的 Bolt E4B 4GB 则优化为在24GB及更小内存预算上本地运行复杂智能体工作流。

英伟达于2026年10月15日发布 Nemotron 3.5 Super VL,一款面向视觉理解、工具调用和多步骤业务流程的开放模型。公司同时推出 Nemotron 3.5 Bolt 74B-A9B 24GB 边缘模型,试图把较复杂的智能体任务从数据中心进一步带到 RTX 设备和桌面硬件;面向更小型设备的 Bolt E4B 4GB 预计于10月23日推出。

这组发布显示,英伟达正在把 Nemotron 家族从单一的模型产品扩展为覆盖数据中心、工作站、个人电脑和边缘设备的模型组合。其竞争重点不只是参数规模,而是模型能否在具体硬件内存预算中持续运行,并完成搜索、文档处理、编程和其他长流程任务。

Super VL试图在更小规模上提供前沿能力

英伟达称,Nemotron 3.5 Super VL拥有1200亿个总参数,其中约120亿个参数在每个令牌处理中处于激活状态。模型采用混合式 Mamba-2、Transformer 和 Mixture-of-Experts 架构,并结合视觉编码器,可处理文字、图像、网页、PDF和视频内容,输出以文字为主。

模型的定位是“常驻式”或持续运行的企业智能体。英伟达列出的应用包括网页研究、代码测试与调试、表格和图表提取、网络安全分析,以及对视频内容的理解。与需要在文本模型和视觉模型之间转交上下文的工作流相比,英伟达希望 Super VL在同一模型中完成理解、推理和工具调用。

公司表示,Super VL的参数规模约为其最大推理模型的五分之一,但在指令遵循、工具使用、多步骤业务流程和视觉理解等任务上,可以达到相近的前沿水平。英伟达还称,Super VL是同类开放智能体模型中速度最快者,任务吞吐量最高可达到下一名模型的5倍。

不过,这一“5倍更快”的比较来自英伟达引用的 Artificial Analysis Intelligence Index 等评测和特定运行环境。英伟达技术博客进一步写道,模型在 Baseten 端点的相关智能体任务中达到每秒600多个输出令牌。上述数字反映的是厂商披露的测试条件,不等同于独立复测,也不能直接推导出所有硬件、上下文长度和并发设置下的实际速度。

Bolt把74B模型压进24GB内存

与面向较大规模部署的 Super VL同步推出的 Bolt 74B-A9B 24GB,定位更加明确:在24GB内存中运行日常智能体任务。模型共有740亿个参数,其中约90亿个处于激活状态,采用原生2-bit量化,并设计为可以和其他桌面应用同时运行。

英伟达研究团队的技术说明显示,Bolt并不是从头训练的一个小模型,而是从 Super VL压缩而来。团队使用名为 Star Elastic 的结构化压缩方法,把父模型从120B-A12B压缩为74B-A9B,再通过后训练和量化感知蒸馏恢复部分能力。技术报告称,模型在 RTX/DGX Spark 上的特定 SPEED-Bench测试中达到84 TPS;这同样属于特定硬件、推理配置和基准条件下的结果。

根据英伟达的模型卡,Bolt支持文字、图像和视频输入,上下文长度最高可达256K令牌,面向日常本地智能体任务。模型可以通过 vLLM、llama.cpp、Ollama、LM Studio 和 Unsloth 等工具运行,英伟达称其可用于网页研究、写作和代码调试等工作,而不必把这些任务全部发送到云端。

英伟达还称,Bolt 74B-A9B在同等内存规模的公开模型中,在 PinchBench上排名第一,在 WebArena上排名第二,在 BrowseComp上排名第二。这里的比较范围是相近内存占用的模型,不能理解为在所有模型类别或所有任务上都处于领先位置。

更小的 Bolt E4B 4GB则面向 GeForce RTX、Jetson和 RTX/DGX Spark设备,目标是支持本地语音助手、互动角色和嵌入式界面。它预计于10月23日推出,目前尚不是本次发布日即可使用的模型。

从开放权重走向可定制部署

英伟达表示,Super VL随附开放权重、部分开放数据集和训练配方,开发者可以使用 NVIDIA NeMo以及相关 Python 工具链进行后训练。公司列出的定制案例涉及金融文档、并购尽职调查、网络安全、代码代理、科学发现和医疗理赔分析等领域。

发布页面还列出了 Scale AI、AI21、Atlassian、CrowdStrike、Perplexity、Salesforce和 Synopsys 等参与定制或集成的组织。不过,这些案例主要说明模型正在被企业用于适配特定工作流,并不代表所有案例已经形成广泛商用部署,也不等同于独立机构对性能的确认。

在获取方式上,Super VL可通过 Hugging Face 的量化模型仓库、OpenRouter、ModelScope社区和 NVIDIA NIM获得。Bolt 74B-A9B则已在 Hugging Face模型页提供。两个模型卡都标注了 OpenMDW-1.1许可,并说明可用于商业或非商业场景,但具体部署仍需遵守许可文本、软件依赖和服务提供方的使用条件。

这一路线与英伟达近期围绕 RTX Spark构建本地智能体生态的动作相互衔接。此前,英伟达称 RTX Spark将同时承担本地智能体、创作软件和游戏任务,并计划让模型、推理工具和权限隔离机制在同一设备环境中协同工作。与本次发布直接相关的硬件背景,也可参阅 英伟达称 RTX Spark全球PC应用生态已就绪,但实际体验仍取决于设备配置、推理引擎、散热和软件适配。

本地智能体的关键不只是模型大小

Nemotron 3.5 Super VL和 Bolt的组合,体现了当前开放模型竞争中的一个转向:模型发布不再只围绕“谁的参数更多”,而是围绕模型能否在不同内存预算中完成连续任务。120B级别的 Super VL面向企业和数据中心,74B-A9B则尝试在24GB设备上运行较复杂的智能体工作流,4GB的 E4B再向更小的边缘设备延伸。

但本地部署也会带来新的限制。量化虽然降低了内存需求,可能同时影响精度和任务稳定性;长上下文、多模态输入、并发请求和桌面应用共存,也会改变实际延迟。对于需要访问网页、文件或企业系统的智能体,模型是否能在本地运行,还必须与权限管理、凭据保护、日志审计和数据边界结合起来考察。

英伟达此前发布的 Nemotron竞赛模型已经展示过模型专业化、训练数据和测试时推理流程之间的关系;相关背景可参阅 Nemotron在IOI与IMO测试中达到金牌线成绩的报道。这也提醒使用者,最终表现往往由基础模型、后训练、推理预算、工具链和评测协议共同决定,而不是由参数规模单独决定。

从目前披露的信息看,Nemotron 3.5 Super VL与 Bolt已经把英伟达的开放模型策略更清楚地延伸到“从数据中心到桌面”的部署链条。它们能否在真实企业流程和个人电脑上达到发布材料所描述的效率,还需要更多独立测试、长期运行数据以及对许可和安全边界的持续检验。

来源

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。