DeepSeek 的 FlashMLA 仓库在 2026-09-30 合并了 PR #229,将 V4.1 的稀疏注意力预填充与解码内核扩展到华为昇腾950,并调整了 FP8/FP4 KV Cache 布局与代码结构。该更新是软件栈的硬件适配与性能披露,不能直接证明昇腾950已实现大规模交付或端到端模型部署。
DeepSeek官方 GitHub 仓库 FlashMLA 的 Pull Request #229 已于2026年9月30日合并。此次更新把面向 DeepSeek-V4.1 的稀疏注意力预填充与解码内核扩展到华为昇腾950(dav-3510),同时调整了 FP8/FP4 KV Cache 的布局和项目代码结构。
这不是一次新模型发布,也不能直接证明昇腾950已经完成大规模交付或商业部署。它更准确地反映了 DeepSeek 正在把 V4.1 的计算路径适配到不同硬件平台,并将部分性能数据和实现细节公开给开发者。
PR #229改了什么
根据 FlashMLA Pull Request #229 的说明,合并内容包括昇腾950的稀疏注意力预填充和解码内核,并通过 torch_npu.profiler 进行基准测试。更新还加入了与 V4.1 KV Cache 格式配套的实现,并重写了部分测试和接口。
KV Cache 是大模型在持续生成文本时保存的中间结果。它可以避免模型每生成一个新 token 都重新计算全部历史上下文,但也会持续占用显存或高带宽内存。对于支持超长上下文和多轮工具调用的模型,KV Cache 的容量、布局和访问效率会直接影响推理成本与响应速度。
此次版本将 FP8 与 FP4 KV Cache 的数据和缩放信息采用新的组织方式。PR 说明称,缓存改为 token-interleaved 布局,即每个 token 的量化数据后面紧接对应的 scale 信息。这意味着,旧版本的缓存格式不能直接与新版本混用,部署方需要同步更新上层推理代码和缓存管理逻辑。
除了昇腾950适配,PR还涉及一组融合内核,包括 Q-Norm、Q-RoPE、核心注意力、O-RoPE 和 FP8 转换;同时加入 CUTLASS FMHA 的稠密注意力前向与反向内核,以及相应的绑定和测试。代码目录也从原有的 csrc/kernels 等路径调整为更清晰的 CUDA 内核和第三方依赖结构。
官方README给出的性能数字
FlashMLA仓库在合并后的 README 中进一步披露,昇腾950上的稀疏注意力预填充最高达到410 TFlops,约为其理论硬件峰值的95%;解码最高达到360 TFlops,约为理论峰值的83%。这些数字来自项目方公布的测试结果,属于特定内核、硬件、输入形状和测试配置下的结果,不应直接理解为完整模型端到端服务的性能。
README还说明,2026年9月30日版本移除了对 NVIDIA Hopper 架构以及 DeepSeek V3、V3.2和V4.0等早期模型的支持,并改变了 FP8/FP4 KV Cache 格式。需要继续运行旧模型、旧缓存格式或 Hopper 显卡的用户,应切换到项目提供的旧提交,而不能简单地把主分支更新覆盖到现有环境。
在硬件支持范围上,新版 FlashMLA 面向 NVIDIA 的 SM100/SM103 与昇腾950,稀疏解码路径中的 DeepSeek-V4.1 支持目前仅列在 SM100平台上;昇腾950的新增支持则主要体现在稀疏预填充和解码内核。项目文档还强调,融合的 norm-RoPE-attention 内核目前只支持 CUDA,不能据此推断所有 CUDA 路径都已移植到昇腾平台。
这与V4.1模型发布是什么关系
FlashMLA仓库在9月10日的更新中已经加入 DeepSeek-V4.1 注意力内核,V4.1-Flash也在同日正式发布。AIFlux此前对DeepSeek V4.1-Flash的报道指出,该模型的重点之一是通过稀疏激活和 KV Cache 压缩降低长上下文推理成本。
因此,PR #229可以看作模型软件栈的后续硬件适配,而不是另一个 V4.1 模型版本。它把模型架构中对稀疏注意力、低精度缓存和融合算子的要求,转化为昇腾950上可以编译和测试的具体内核。对于国产硬件生态而言,这类适配的重要性在于:模型能否运行,往往不仅取决于芯片的理论算力,也取决于算子库、编译器、缓存布局、通信和推理框架是否形成完整链条。
这条链条此前也出现在 DeepSeek 的其他开源项目中。AIFlux此前报道的DeepGEMM 26/09更新同样集中在稀疏索引、MoE路由、融合计算和运行时编译,而不是发布新的模型权重。两次更新共同说明,DeepSeek正在把模型效率竞争进一步下沉到基础软件层。
昇腾适配仍不等于大规模部署
昇腾950是华为面向新一代 AI 训练和推理的硬件平台。AIFlux此前援引路透社报道,华为昇腾950DT的报价受到 HBM 供应紧张和出口限制影响;相关昇腾950DT与HBM供应链报道也提醒,路线图、报价和实际交付规模需要分开判断。
同样,FlashMLA代码已经合并,只能确认软件内核进入了公开仓库的维护主线。它不能单独证明昇腾950已经大规模交付,也不能证明 DeepSeek-V4.1 已经在昇腾集群上形成稳定的商业服务。项目方公布的峰值或接近峰值的内核测试,也不等于完整模型在真实请求、长上下文、不同批量和多卡通信条件下的端到端结果。
接下来值得关注的,是昇腾950内核能否被 vLLM、SGLang 等推理框架持续集成,新的 KV Cache 格式是否会在部署生态中形成兼容实现,以及独立测试能否复现 README中的410 TFlops和360 TFlops。只有当算子、编译工具链、模型权重、推理框架和硬件供给同时稳定下来,代码层面的适配才会转化为可规模化使用的推理能力。
来源: DeepSeek FlashMLA PR #229;FlashMLA官方README及2026年9月30日提交。