模型与研究 · 深度报道

Inception推出Mercury 3扩散式语言模型:每秒生成1,068个Token,但速度之外仍待验证

Inception于2026年10月19日发布扩散式大模型Mercury 3,宣称在NVIDIA GPU上可达每秒1,068个Token并支持100万Token上下文窗口。公司强调并行精炼的低延迟优势与面向实时语音、浏览器智能体等场景,但速度与基准仍缺乏独立第三方复测,实际生产效果有待验证。

AIFluxNews AIFlux 编辑2026 年 10 月 20 日阅读约 5 分钟
Inception推出Mercury 3扩散式语言模型:每秒生成1,068个Token,但速度之外仍待验证

Inception于2026年10月19日发布扩散式大模型Mercury 3,宣称在NVIDIA GPU上可达每秒1,068个Token并支持100万Token上下文窗口。公司强调并行精炼的低延迟优势与面向实时语音、浏览器智能体等场景,但速度与基准仍缺乏独立第三方复测,实际生产效果有待验证。

Inception于2026年10月19日正式推出Mercury 3,将其定位为一款面向实时语音、浏览器智能体、搜索代理、客户支持和互动教育的扩散式大语言模型。公司称,Mercury 3在NVIDIA GPU上的生成速度可达每秒1,068个Token,并把上下文窗口扩大到100万Token。

这款模型的意义,不只在于又一次刷新了厂商公布的速度数字。Inception试图证明,扩散式语言模型可以在规模扩大、任务复杂度上升之后,仍然保留相对于传统自回归模型的低延迟优势。不过,目前公开的主要证据仍来自Inception及其早期合作伙伴,速度、基准成绩和生产效果尚未形成独立的第三方复测结论。

Mercury 3的核心变化:并行生成而非逐Token生成

传统大语言模型通常采用自回归解码方式,即模型依次生成一个Token,再根据已经生成的内容预测下一个Token。扩散式语言模型则从一个不完整或粗略的答案开始,通过多轮并行修正,逐步形成最终输出。

Inception此前在介绍Mercury 2时,将这种方式概括为“并行精炼”:模型可以同时处理多个位置,而不是严格按照从左到右的顺序逐个写出内容。理论上,这种设计更适合充分利用GPU的并行计算能力,尤其是在需要连续调用模型的搜索、检索增强生成和智能体工作流中。

但并行生成并不意味着所有任务都能获得相同的加速效果。输出长度、推理深度、并发量、上下文规模、GPU型号以及服务端调度方式,都会影响最终延迟。因此,1,068个Token每秒应被理解为特定条件下的厂商披露,而不是所有硬件和工作负载下的普遍性能保证。

速度、上下文和价格如何变化

根据Inception的官方公告,Mercury 3的上下文窗口为100万Token,高于Mercury 2.5的26万Token。官方公布的标准价格为每100万输入Token 0.20美元、每100万输出Token 0.70美元;上线初期提供五折价格,分别为0.10美元和0.35美元。缓存输入Token还可在输入价格基础上获得九折优惠。

Mercury 3的规模也比第一代Mercury大得多。Inception称,Mercury 3的参数规模超过Mercury 1的40倍,并称其在一系列标准基准上的“智能水平”较Mercury 1提升约三倍。公司没有在公告中公布绝对参数量,也没有给出完整的逐项基准分数、测试提示词、推理设置和硬件配置。

这使得价格比较也不能只看每百万Token的单价。对于智能体应用,一项任务可能包括规划、检索、工具调用、网页操作和结果验证。一个模型如果需要更多轮调用,或者需要更高的推理预算才能完成任务,单价优势未必会转化为整项任务的成本优势。此前,Asana的一项浏览器代理测试也显示,缓存命中率和历史管理会显著影响代理的实际成本,而不仅仅是模型标价。

公司把模型放在哪些场景中

Inception称,Mercury 3已经被早期合作伙伴用于几类低延迟场景。

在浏览器操作智能体方面,公司称,团队在自有生产级网页智能体框架中,用50项真实Mind2Web导航任务进行了测试。Inception称,Mercury 3完成了其中50%,高于对比的GPT-6.1 Sol,并且使用了相同的Token数量和智能体步骤数。

在互动教育场景中,Inception引用General Learning,也就是RevisionDojo的说法称,模型能够在大约一秒内返回提示、批改结果和定义。实时搜索合作方Octen则称,在其Sense API测试中,Mercury 3的中位生成时间为0.9秒,端到端响应时间中位数为2.2秒。

客户支持是另一项重点应用。Inception表示,Mercury 3面向需要快速回复、同时又不能牺牲准确性的语音、聊天和邮件支持场景,尤其包括受监管行业的客户服务。

这些案例说明了模型的目标用户:不是只需要一次性生成长文本的用户,而是需要在短时间内反复调用模型、并把响应速度直接传递给最终用户的应用开发者。可是,合作方的评价和公司自建测试仍属于厂商或合作方披露,不能等同于独立第三方评测。

“击败更强模型”的说法需要怎样理解

Inception在公告中称,Mercury 3在一系列基准上的表现优于GPT-6 Luna和Claude Haiku 5.5,并且速度快四至八倍。不过,公告正文没有同时公布完整的基准名称、逐项得分、测试条件和领先幅度。

公司公布的网页智能体测试提供了更多上下文,但样本只有50项任务,测试框架由Inception自建,对比模型的具体成绩也没有完整列出。这样的结果可以作为值得继续关注的信号,却不足以支持“全面超过同类模型”这一更强的结论。

OrcaRouter对Mercury 3发布信息的整理也指出,官方公告公开了速度、上下文和价格,却没有公布可供外部直接复核的完整基准分数。该平台还提醒,Mercury 3的默认推理级别、批量大小、单流还是聚合吞吐量,以及具体NVIDIA GPU型号,都可能影响速度数字的可比性。

这类限制并不意味着Mercury 3没有价值。它意味着开发者在迁移生产工作负载前,需要用自己的任务、上下文长度、工具调用和并发设置进行对照测试,而不能只根据发布会上的单一吞吐量数字作出部署决定。

API已经开放,但文档和供应商状态仍需关注

Inception表示,Mercury 3已经通过Inception API Platform、OpenRouter、Baseten和Vercel提供,并兼容OpenAI API。新用户可以获得1亿个免费Token试用额度,企业部署则支持专用容量、自动扩缩容、合规控制和可配置的数据保留策略。

开发者可以参考Inception模型文档和官方API接入说明。不过,当前文档页面的模型列表和模型介绍并不完全同步,部分内容仍显示Mercury 2.5、Mercury Voice和Mercury 2等条目。OpenRouter的模型页面则显示Mercury 3的供应商信息、100万Token上下文和五折上线价格,但其页面标注的发布日期为10月16日,与Inception官方公告的10月19日存在差异。

更稳妥的做法,是把10月19日视为Inception官方宣布的正式发布日期,把10月16日视为第三方平台页面中的供应商元数据,而不是把两者当作两个不同的产品发布事件。开发者接入时仍应以账户控制台、具体端点和实际请求结果为准。

扩散式语言模型能否从“快”走向“可靠”

Mercury 3把扩散式语言模型的竞争重点推进到了一个更难回答的问题:当模型足够大、任务足够复杂时,扩散式生成是否仍能维持它的速度优势,同时达到生产系统所需的可靠性。

在语音对话、搜索代理和浏览器智能体中,延迟确实会逐步累积。每一次规划、工具调用和结果总结都要等待模型响应,单次调用节省的时间可能转化为更短的整体任务时间,或允许系统执行更多次尝试。但对于代码生成、长文档分析和复杂推理,速度只是指标之一,任务完成率、工具调用准确性、上下文稳定性和错误恢复能力同样重要。

Inception的发布因此更像是一项架构路线的公开押注,而不是一份已经完成的行业结论。Mercury 3已正式上线,价格和接入渠道也已经明确;但它能否在不同硬件、不同服务商和真实企业负载中稳定复现每秒1,068个Token,以及公司所称的质量优势,仍有待第三方基准和开发者实际使用进一步检验。


来源:

相关背景:

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。