应用与产品 · 深度报道

Cohere发布Rerank 5:从重排文档到筛选段落,企业智能体如何减少无效阅读

Cohere于2026年发布Rerank 5,提供Pro与Fast两种版本并新增Context Focus功能,可在重排阶段同时返回文档相关性评分和高价值文本片段,旨在减少下游模型的无效阅读与token开销。公告数据来自公司内部评测,实际部署需企业在端到端检索链路上验证片段保留、质量与成本权衡。

AIFluxNews AIFlux 编辑2026 年 10 月 23 日阅读约 5 分钟
Cohere发布Rerank 5:从重排文档到筛选段落,企业智能体如何减少无效阅读

Cohere于2026年发布Rerank 5,提供Pro与Fast两种版本并新增Context Focus功能,可在重排阶段同时返回文档相关性评分和高价值文本片段,旨在减少下游模型的无效阅读与token开销。公告数据来自公司内部评测,实际部署需企业在端到端检索链路上验证片段保留、质量与成本权衡。

Cohere于2026年10月21日发布检索重排序模型Rerank 5,提供Pro和Fast两个版本。此次更新不仅提高候选文档的排序能力,还加入名为Context Focus的可选功能:在判断哪些文档相关的同时,标出文档中最值得交给语言模型阅读的文本片段。

根据Cohere发布公告,两款模型已正式提供服务,Pro侧重复杂查询和排序质量,Fast面向低延迟、高吞吐量场景。对检索增强生成(RAG)和需要反复搜索的智能体而言,这次更新针对的是一个具体问题:找到相关文档之后,是否仍有必要把整篇内容送进生成模型。

这关系到成本,也关系到答案质量。不过,Cohere公布的性能、上下文压缩和准确率数据均来自其自身评估,不能直接视为企业实际部署后的收益保证。

从“找到哪篇文档”到“保留哪些证据”

典型的企业检索链路会先通过关键词、向量或混合搜索召回一批候选,再由重排序模型结合查询重新判断相关性,最后把排名靠前的内容交给语言模型生成答案。

这一流程解决了“哪些文档更相关”,却未必解决“相关文档中哪些内容真正有用”。一份财务报告可能只有几句话回答当前问题;一份技术手册可能只有某个小节涉及所需配置。如果把大量背景文字一并送入模型,上下文开销仍然很高。

Context Focus试图在重排阶段进一步筛选证据。按照Cohere的说明,一次调用可以同时返回文档级相关性评分和带评分的文本片段,由应用决定哪些片段进入后续上下文。

Cohere官方文档源码明确指出,该功能默认关闭,需要显式启用。每个片段以原文中的起止字符位置及评分表示;开发者可以提高阈值以移除更多内容,也可以限制每篇文档返回的片段数量。如果没有片段达到阈值,对应结果不会包含片段字段。

因此,它不是自动替企业生成一份可靠摘要,而是为应用提供更细粒度的内容筛选依据。哪些片段可以单独使用、是否需要保留前后文,仍是系统设计的一部分。

这一思路与企业检索领域更广泛的工程变化相呼应。此前报道的NVIDIA Nemotron 3.5检索模型同样把解析、召回和重排放在智能体取证链路中讨论。两者并非同一产品,但都说明,检索系统的价值正越来越多地通过下游任务表现和阅读开销衡量,而不只是单项排序分数。

压缩上下文有收益,也有取舍

Cohere在公告中介绍了覆盖30个问答数据集的Context Focus实验。公司称,移除一半检索上下文时,答案质量下降2个百分点,保留原有质量的96%;移除四分之三时,下降7个百分点,保留87%。这里的百分点下降与相对保留比例是不同指标,不能把后者写成最终答案准确率。

在另一组搜索智能体实验中,Cohere从BM25关键词搜索开始逐步加入组件。其报告的准确率从BM25配置的46%,升至加入Rerank 5 Pro后的49%;在Context Focus阈值设为0.4的完整配置下,准确率达到58%,每个任务的token用量较BM25基线减少35%。

这些结果支持一种工程可能性:删除无关内容不一定损害答案,反而可能减少干扰。但它们没有证明压缩越多越好,也没有证明所有智能体都会得到相同收益。候选文档是否完整、问题是否需要跨段推理,以及答案对遗漏信息有多敏感,都会影响取舍。

官方文档也明确划出了适用边界。Context Focus更适合目标明确的查询;摘要等宽泛任务可能仍需要完整文档。表格、表单和代码也不像普通段落那样容易切分。对于包含例外条款、跨段引用或复杂结构的材料,只保留局部高分片段可能不足以支撑完整判断。

相关性评分希望成为决策依据,而不只是排序数字

Rerank 5的另一项更新是校准后的相关性评分。传统重排分数主要用于比较同一批候选的先后顺序,分数达到某个数值,并不天然意味着文档具有相应概率的实用价值。

Cohere称,新模型的评分经过校准,可以更接近文档“有用”的概率。公司以0.7分对应约70%的有用概率解释这一目标,并报告称,在盲评人员和美国国家标准与技术研究院(NIST)TREC Deep Learning评审标签构成的两组判断数据上,Pro和Fast的预期校准误差约为0.06。

这仍是Cohere组织和报告的评估,使用外部人工标签并不等于由独立机构对产品完成复测。对于具体企业语料,评分能否保持同样含义,仍需用业务查询和相关性标注检验。

如果评分足够可靠,应用就有机会从固定保留前几条结果,转向保留超过阈值的内容;如果没有结果达标,也可以再次搜索,或者明确表示证据不足。不过,相关性评分判断的是材料是否有助于查询,不是对材料真实性的认证,更不能替代访问权限和业务规则。

榜单数字需要放回评测方法中理解

Cohere称,Rerank 5 Pro在其评估的46个综合数据集中,有39个排名第一、43个至少排名第二,并在BRIGHT、BEIR、nanoMTEB和ViDoRe V3等测试中领先所比较的模型。

其中,Cohere报告Pro在BRIGHT上取得82.2分,高于上一代Rerank 4 Pro和所比较的Voyage AI模型。但公告同时说明,这些结果采用的是Cohere开发的RCP-nDCG@10方法,目的是处理相关性标签覆盖不完整带来的评测问题。

BRIGHT项目官网则说明,其公开榜单报告的是12个数据集上的平均nDCG@10,并允许不同的查询改写或推理方案。两套结果不能仅凭同属BRIGHT就直接横向比较,更不能把公告中的82.2解释为企业问答准确率。

BRIGHT本身关注的是需要深入推理才能发现相关文档的检索任务。这解释了Cohere为何强调复杂查询,但公开基准上的领先,仍不能替代对内部合同、财务资料、技术工单或中文知识库的测试。

两个版本,以及不能混为一谈的部署范围

根据官方模型说明,Pro约有20亿参数,Fast约有5亿参数,两者的单篇文档上下文上限均为32,768 tokens,计算时包含查询与该篇文档,而不是把整个请求中的所有文档合并计算。

两款模型接受文本输入,结构化数据可以转换为YAML字符串传入。公告虽然讨论了复杂PDF和视觉丰富文档上的检索结果,但这并不意味着Rerank 5能够原生接收页面图像;文档解析和转成文本的环节仍需分别处理。

Cohere列出的正式服务渠道包括Cohere API、Model Vault、Microsoft Foundry、Amazon SageMaker以及North。企业也可联系公司讨论自有虚拟私有云或本地部署。需要注意,Context Focus在官方文档中明确列为通过Cohere API提供,不能据此推断所有渠道已经具备相同的片段输出能力。

公告给出的API价格为Pro每百万tokens 0.05美元、Fast每百万tokens 0.02美元。这是重排服务的报价,不是完整RAG系统的总成本;文档解析、初步召回、生成模型和基础设施费用仍需另行考虑。

Cohere还称,Fast在单块NVIDIA A100上的持续负载测试中,每秒可重排约187篇长度约为1,000 tokens的文档。公告图注给出的设置包括每次请求96篇文档、并发数8,以及对每种文档长度执行1,000次请求。这一吞吐结果应与测试条件一起理解,不能直接作为不同硬件或不同负载下的容量承诺。

企业真正需要验证的是整条链路

Rerank 5的工程意义,在于把检索优化推进到“最终送给语言模型哪些证据”这一层。它可以叠加在已有关键词、向量或混合搜索之上,不要求仅为接入重排而重新建立索引;但这不意味着接入后无需重新评估系统。

对企业而言,关键问题不只是新模型是否把正确文档排得更靠前,还包括关键证据是否被保留、错误答案是否减少、端到端延迟是否可接受,以及重排成本能否被下游节省抵消。对于必须完整审阅材料的任务,还需要能够回退到原文,而不是一律依赖压缩后的片段。

因此,Cohere此次发布提供的是一种更精细的上下文控制工具,而非无条件降低成本的保证。它能否真正改善企业智能体,最终取决于在具体业务中,减少的究竟是冗余文字,还是不可缺少的证据。

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。