昇腾950系列超节点依托DeepSeek开源基础组件，释放极致性能

DeepSeek官方开源面向昇腾算力平台的基础设施组件，涵盖TileLang高级语言编译工具、高性能计算库和分布式通信库，为不同使用场景提供可复用的基础能力。开源的基础设施组件在昇腾950液冷超节点Atlas 950 SuperPoD / Flex、风冷超节点Atlas 850 / 850E上充分释放了超节点价值，实现极致性能。

大模型迭代已进入月级节奏，大家都在追求用更短的时间，训练出更好的模型，生产出更多的Token。无论是模型团队、应用开发者还是企业用户，都希望有高性能的计算与通信能力，支撑大模型高效训练与极致推理。同时有更高效、易用的编程方式，降低开发门槛、提升迭代效率。

DeepSeek本次开源了DeepGEMM、TileKernels、FlashMLA、DeepSelect等高性能算子库以及DeepEP分布式通信库，覆盖矩阵计算、稀疏注意力、数据筛选和MoE通信等关键算子。这些组件原生支持昇腾950液冷、风冷超节点，用户可直接享受超节点的系统优势，实现高效训练与推理。DeepSeek还开源了TileLang昇腾版本，进一步简化代码逻辑、提升开发效率。

4类高性能计算库提高大模型训推效率

本次开源的计算库覆盖大模型关键计算环节，矩阵运算决定计算单元利用率，向量计算与访存决定数据处理效率，稀疏注意力和数据筛选决定超长上下文下的吞吐性能。

DeepGEMM加速通用矩阵运算，支持BF16/FP8/mxFP8/FP4/mxFP4精度GEMM、MQA logits和MegaMoE等算子。以Dense GEMM（密集矩阵乘法）为例，在各数据类型下，昇腾950超节点算力利用率可达98.3%~99.8%，单位TCO下可实现更高的吞吐。

TileKernels基于TileLang实现，覆盖MoE路由、量化、位置编码、流形超连接（mHC）等大模型训推常见操作。这些算子可基于昇腾950液冷、风冷超节点直接调用和快速修改。

FlashMLA高性能的稀疏注意力算子库，支持高效的Prefill与Decoding计算。在序列长度为4096、topk等于640的场景下，基于昇腾950超节点，在Prefill阶段，能发挥93%的硬件性能；在Decode阶段，能发挥85%的硬件性能，显著提升长上下文处理效率。

DeepSelect是为稀疏注意力和采样器定制的高性能筛选算子。算子实测相比原生torch.topk的平均加速比达10倍以上，能更快地从词表中筛选出TopK候选，实现更低时延和更高吞吐。

1个分布式通信库发挥昇腾超节点互联优势，实现高吞吐通信

DeepEP高性能训练与推理通信库，涵盖EP/CP/PP/DP等模式下的通信算子。昇腾950超节点依托灵衢互联和SHMEM组件，基于DeepEP实现大规模的EP并行，进一步通过重复传输约减、归并与传输并行、通信调度优化等手段，互联带宽实测达到Dispatch 395-408 GB/s、Combine 364-376 GB/s的通信性能。

基于Atlas 950 SuperPoD的实测数据

TileLang让AI算子开发更简单、更高效

算子开发，开发者最关心的是开发效率和运行性能。TileLang通过Pythonic编程，在不损失硬件性能的前提下，简化代码实现、提高算子开发效率。

从编程语言、算子库到通信库，DeepSeek基础软件栈已在昇腾超节点上实现全面覆盖与深度优化，为大模型团队提供了一站式的高性能开发与运行环境。面向未来，昇腾将与DeepSeek等顶尖大模型团队紧密合作、持续创新，携手建设开放、高效、易用的AI软件生态，让超节点成为AI技术创新和价值变现的加速器。

附DeepSeek开源项目链接

?? DeepGEMM Ascend：

https://github.com/deepseek-ai/DeepGEMM-Ascend

?? TileKernels：https://github.com/deepseek-ai/TileKernels

?? FlashMLA：

https://github.com/deepseek-ai/FlashMLA

?? DeepSelect：

https://github.com/deepseek-ai/DeepSelect

?? TileLang：

https://github.com/tile-ai/tilelang

昇腾950系列超节点依托DeepSeek开源基础组件，释放极致性能

评论 (0)

相关文章