基础设施与工程 · 深度报道

AWS Bedrock上线月之暗面Kimi K3,开放权重模型进入企业云推理流程

AWS 已于 2026 年 9 月在 Amazon Bedrock 上下线月之暗面(Moonshot AI)的开放权重模型 Kimi K3,让企业可通过云端推理入口调用具备原生视觉与 100 万 token 上下文的模型,并支持跨区域配置与提示缓存以降低长上下文成本。AWS 强调数据边界与零数据保留,但企业仍需核对区域、权限与定价等可用性细节。

AIFluxNews AIFlux 编辑2026 年 9 月 20 日阅读约 5 分钟
AWS Bedrock上线月之暗面Kimi K3,开放权重模型进入企业云推理流程

AWS 已于 2026 年 9 月在 Amazon Bedrock 上下线月之暗面(Moonshot AI)的开放权重模型 Kimi K3,让企业可通过云端推理入口调用具备原生视觉与 100 万 token 上下文的模型,并支持跨区域配置与提示缓存以降低长上下文成本。AWS 强调数据边界与零数据保留,但企业仍需核对区域、权限与定价等可用性细节。

亚马逊云服务(AWS)于2026年9月18日宣布,月之暗面(Moonshot AI)的开放权重模型Kimi K3已正式在Amazon Bedrock上提供服务。对企业用户而言,这意味着一款此前主要以公开权重、API和自托管方式被讨论的中国大模型,新增了一个由云平台负责推理、权限和数据边界管理的部署入口。

AWS在官方公告中称,Kimi K3面向编程和知识工作场景,具备原生视觉能力和100万token上下文窗口。AWS Machine Learning Blog的发布文章则进一步介绍了调用方式、跨区域推理配置以及提示缓存功能。

从公开权重到企业云端入口

Kimi K3的基础模型背景并没有在这次发布中发生变化。月之暗面此前在官方技术博客中将其描述为一款拥有2.8万亿参数、原生视觉能力和100万token上下文窗口的模型,并称其为首个达到“开放3万亿参数级别”的模型。完整权重已于7月公开发布,开发者可以围绕模型进行下载、改造和自托管部署。

这次进入Bedrock,改变的主要是调用路径,而不是模型本身。企业不必直接管理完整权重的部署环境,也可以通过Bedrock控制台或API,把Kimi K3纳入已有的身份权限、应用服务和云端运维流程。AWS还将这次发布与Bedrock的开放权重模型布局联系起来,称平台自2025年以来已经引入来自DeepSeek、Google、MiniMax、Mistral AI、Moonshot AI、NVIDIA、OpenAI和Qwen等公司的多款开放权重模型。

这类平台化入口的价值,在于把“能否运行一个模型”的问题,转化为“如何在既有企业系统里调用模型”。但它并不意味着所有企业都可以无条件使用Kimi K3。具体的区域、账户权限、配额、定价和可用性,仍需要以AWS Bedrock模型选择页面及相关文档为准。

跨区域推理与两种调用方式

AWS表示,Kimi K3可以通过Bedrock的跨区域推理配置调用。对于没有特定地域限制的工作负载,官方建议使用全局推理配置global.moonshotai.kimi-k3,由系统把请求路由到受支持的商业AWS区域;AWS称,全局跨区域推理的成本约比地理区域配置低10%。如果企业需要把处理范围保持在美国境内,则可以使用美国地理区域配置us.moonshotai.kimi-k3。

在调用层面,开发者可以通过bedrock-runtime端点使用OpenAI兼容的Responses API和Chat Completions API,也可以使用Amazon Bedrock自身的Invoke API和Converse API。用户还可以先进入Bedrock控制台的“Test > Playground”,选择Kimi K3进行测试。

这使Kimi K3更容易接入现有的编码助手、知识库问答和企业代理系统。AWS的发布文章以OpenCode为例,说明开发者可以通过Amazon Bedrock provider选择该模型;文章同时提到,支持Bedrock的生产力助手和智能体框架也可以将Kimi K3作为后端模型使用。

提示缓存瞄准长上下文成本

对企业部署来说,Kimi K3在Bedrock上的一个具体差异是支持显式提示缓存。长时间运行的编程或知识工作通常会反复发送相同的系统指令、工具定义、代码库说明或参考文档。如果这些内容每次都重新计算,调用延迟和输入token成本都会增加。

AWS介绍的机制允许开发者标记可复用提示前缀的结束位置。当后续请求匹配已经缓存的前缀时,Bedrock可以复用此前的计算结果,从而减少延迟和输入成本。AWS称,Kimi K3在Bedrock上是首批支持这一能力的开放权重模型之一;显式缓存要求可复用前缀至少包含1024个token,缓存内容至少保留30分钟,具体计费则取决于缓存写入和命中情况。

这项机制与此前AIFlux对Amazon SageMaker前缀感知路由的报道形成了一个相近的技术背景:长上下文推理的成本和延迟,不只取决于模型参数量,也取决于请求是否能够稳定复用已经计算过的上下文。

不过,提示缓存并不是自动获得的性能保证。只有当企业工作负载包含足够长且重复的提示前缀,并且请求格式保持一致时,缓存命中才可能带来明显收益。每次请求内容差异较大、上下文很短,或者应用无法稳定复用前缀的场景,实际改善可能有限。

AWS强调数据边界,企业仍需核对可用范围

AWS表示,Bedrock上的开放权重模型请求会在AWS数据边界内处理,不会与模型提供方共享,也不会被用于训练底层模型。AWS还称,推理请求默认启用零数据保留,AWS运营人员在推理过程中也无法访问用户的提示词和模型输出。

这些表述解释了AWS希望向企业客户传递的核心信息:使用开放权重模型,不必因此改变已有的云安全和数据治理框架。但这属于AWS对Bedrock服务的政策和平台能力说明,并不能替代企业自身对数据分类、跨区域处理、身份权限和行业合规要求的审查。

Kimi K3进入Bedrock的意义,也因此不只是增加了一个模型选项。月之暗面此前通过开放权重争取开发者和自托管生态,AWS则把模型放进了企业更熟悉的云端推理体系。接下来真正需要观察的,不仅是模型在公开评测中的表现,还包括企业是否愿意为长上下文编程、知识库和多步骤工作流持续支付云端推理成本,以及跨区域调用和提示缓存能否在真实生产负载中兑现其效率承诺。

来源

不错过任何一条 AI 大事

订阅 AIFlux 早报,每天 3 分钟看懂产业动态。