Cohere于2026年10月推出Model Vault机密计算公测，利用Azure与NVIDIA H100实现受证明的加密执行环境，旨在在将敏感数据交给云端模型前验证运行环境与保护边界。公测仍有未解问题，包括性能影响、代码与证明的可获取性、可见元数据与侧信道风险等，企业需在合规与部署细节上进一步核实。
Cohere于2026年10月22日宣布，为企业托管推理服务Model Vault推出机密计算公开测试，首批基于Microsoft Azure基础设施和NVIDIA H100 GPU。它要解决的问题不是模型能否理解敏感文件，而是企业把文件交给云端模型处理时，如何限制基础设施运营方接触明文，并在发送数据前验证这些限制是否真正生效。
根据Cohere的产品公告，新增保护覆盖推理运行期间的提示词、文档、回答及模型执行过程，并将敏感请求内容加密至经过验证的执行环境。目前这项能力仍处于公测，而非正式可用阶段；公告也没有提供可据以判断实际性能开销的独立测试。
为什么只有传输加密还不够
企业常用的加密措施主要保护两个环节：数据保存在磁盘上，以及数据通过网络传输。但模型处理请求时，仍需要在内存中使用明文。普通托管服务中的宿主机、虚拟化管理层及拥有高权限的运维人员，因而成为企业必须信任的对象。
机密计算试图缩小这一信任范围。按照Cohere的技术说明，Model Vault把模型服务栈放在硬件支持的机密虚拟机中，通过隔离保护运行内存；GPU也被纳入保护边界，CPU与GPU之间的通信则经过加密。只保护CPU而不保护实际承担大量推理计算的GPU，并不足以覆盖完整处理链路。
这并不是让模型直接计算密文的同态加密。数据进入受保护环境后仍会解密，模型在那里处理明文。区别在于，按照该系统的威胁模型，边界之外的宿主机、云基础设施管理员和Cohere运维人员不能直接读取受保护的工作负载内存。
Model Vault本身提供专用、单租户的托管模型部署；这次新增的是机密执行、请求载荷加密和客户侧验证的组合，而不是专用推理服务首次出现。单租户隔离与机密计算也不应混为一谈：前者解决资源与租户之间的隔离问题，后者进一步限制基础设施层对运行中数据的访问。
先核对环境，再释放请求
硬件声称能够保护内存，还留下一个关键问题：客户如何确认，接收数据的确实是预期的硬件与软件环境？
Model Vault采用远程证明机制。运行环境产生带有密码学签名的证据，描述硬件、固件、软件测量值及安全配置；客户侧组件再按获准的安全策略检查这些证据。证据回答“实际运行的是什么”，策略则决定“这样的环境是否可以接收数据”。两者不能互相替代。
Cohere的远程证明文档具体描述了Intel TDX部署与Intel Trust Authority证明服务的流程：客户端检查签名、策略匹配情况，以及用于加密请求的公钥是否绑定到该受证明环境。绑定公钥很重要，否则即使看到了可信环境的证明，也不能据此认定请求最终加密给了那个环境。
按照官方设计，验证失败时，客户端拒绝发送受保护请求；加密密钥刷新时，还会重新核验相关证明，而不是只在首次部署时检查一次。这里的“可验证”指客户可以检查技术证据，并不代表产品的安全保证已经获得独立实测确认。
接口形状相同，不代表可以直接照常调用
除了计算环境，请求经过的中间层也是保护重点。TLS能够保护网络连接，但如果连接在负载均衡器或代理处终止，单靠TLS并不能确保整个服务链路都接触不到明文。
Cohere使用Oblivious HTTP（OHTTP），把敏感应用载荷加密到经过证明的环境。请求可以由中间基础设施路由，只有保护边界内持有相应私钥的网关才能解密；回答也在返回途中受到保护。
这项设计对接入方式有实际要求。官方API指南明确指出，加密Vault不能绕过相应组件直接调用。开发者需要在自己的环境中运行独立OHTTP代理，或使用名为conseel的Python传输包装组件，完成证明验证与加密。聊天、嵌入和重排请求仍沿用熟悉的接口形状，但底层传输路径已经改变。
官方另提供托管OHTTP代理用于演示，默认关闭，需联系启用。文档特别提醒，这种方式重新引入了对Cohere代理层的信任。因此，演示中不必运行本地组件的便利，不能等同于客户侧验证和加密的安全模型。
隐藏请求内容，不等于隐藏所有信息
Cohere在技术文章中列出了仍然可见的信息：请求时间、消息大小、流量和路由信息，以及当前架构下用于认证和路由的API凭据与模型标识。这些信息位于OHTTP保护的应用载荷之外。这里的“之外”不意味着它们必然以明文在公网传输，而是不能把敏感载荷的端到端保密承诺扩大到所有元数据。
保护边界也不涵盖所有攻击。部分物理攻击和侧信道风险仍在威胁模型之外；运营方即使无法读取内存，也可能停止或延迟服务，因此机密计算本身不提供可用性保证。
同样，提示注入、不安全的工具调用、权限配置错误和应用漏洞不会因为模型运行在受保护硬件中而消失。运行于边界内部的软件仍可接触明文，硬件、固件、获准的软件及证明基础设施仍是信任基础。远程证明能够帮助确认运行的是哪个版本的代码，却不能自动证明那份代码没有漏洞。
对金融调查、法律文件检索、临床记录或专有源代码等场景，这种架构可能减少企业需要授权接触明文的主体。但这些是Cohere提出的适用方向，不是此次公告已经证明的客户部署成效。它也不决定数据在哪个司法辖区处理，更不能代替数据处理协议、合规审查或业务授权。
公测之后，仍有哪些问题需要核实
目前已宣布的硬件组合是Azure上的H100。Cohere称正推进包括B200在内的NVIDIA Blackwell基础设施支持，这是后续计划，不是已经上线的配置。
关于代码开放，官方材料的表述尚不一致：10月22日技术文章说公司计划开源机密推理栈，而远程证明文档已将相关代码描述为开源且可复现构建。这两种说法不能直接合并成“完整推理栈已经公开发布”的结论。对需要自行审计的企业，仍须进一步核对实际可取得的代码、构建产物与证明策略之间的对应关系。
此次公测的意义，在于尝试把托管AI的部分安全承诺转化为发送请求前即可检查、验证失败便停止传输的技术控制。它没有消除信任，而是让企业有机会更清楚地界定：谁仍值得信任、哪些状态可以验证，以及哪些风险依然需要由应用和治理机制承担。