昇腾算力栈的六类基础组件

昇腾算力栈能否承接大模型负载,不能只看芯片是否支持运算,还要看算子如何开发、计算如何执行、设备之间如何通信,以及训练数据如何处理。DeepSeek 面向昇腾开源的六类基础组件,分别落在这些位置。按职责而非项目名称理解它们,更容易判断一套模型迁移时还缺哪一环。

TileLang 位于编程与编译层,用类 Python 的领域专用语言描述分块计算和访存策略,再面向昇腾后端生成实现。它解决的是开发者如何表达、维护底层算子的问题,而不是直接替代所有算子库。DeepGEMM 承担矩阵乘等核心计算,面向稠密负载与混合专家模型;TileKernels 则覆盖向量计算和访存类常规算子。两者的区别在于:前者聚焦高负载矩阵运算,后者补足模型执行中同样不能缺席的其他操作。

跨设备运行时,DeepEP 负责专家并行场景中的 Token 分发与聚合,性能会受到通信库和组网形态影响。FlashMLA 对应 DeepSeek 模型使用的注意力算子,不能仅凭它已适配,就推定其他注意力结构能获得同样收益。DeepSelect 则处在数据侧,用于训练数据筛选;它与前几项计算、通信组件的作用层次不同,但会影响训练链路的完整性。

这六项组件在接口层面与此前的英伟达侧版本对应,意味着双平台开发有了更接近的调用方式,却不等于性能和覆盖范围已经等价。实际评估应从自己的模型出发:核对关键算子是否覆盖,测量未覆盖部分的回落代价,并在目标集群上验证通信与精度表现。组件齐全提供的是迁移基础,能否成为可用的生产栈,仍取决于具体负载的实测结果。

文章版权归作者所有,未经允许请勿转载。

本文链接:https://www.chatcpt.com.cn/thread/ascend-software-stack/

参与讨论

0 条评论