高性能!DeepSeek开源华为昇腾平台基础设施组件

【CNMO科技消息】10月2日,CNMO科技注意到,DeepSeek于9月30日正式开源面向华为昇腾算力平台的基础设施组件,涵盖TileLang高级语言编译工具、计算库、分布式通信库。所有组件与此前面向英伟达平台的开源组件一一对应。

DeepSeek

DeepSeek

DeepSeek表示,建立新一代自主可控的GPU软件生态,首要任务是建立一个通用、编程简单且能达到硬件性能上限的高级语言。TileLang正是在这一背景下诞生。相对于英伟达的CUDA语言,TileLang编程更简单,能显著提高开发效率、简化代码逻辑;相对于其他同类高级语言,TileLang的编程模型可以充分发挥芯片特性,达到硬件性能上限。TileLang路线首先在英伟达成熟平台上得到验证,如今已承载DeepSeek V4系列模型训练中大部分算子的实现,是探索AGI新范式、开发高性能算子的核心工具。

华为昇腾

华为昇腾

本次开源的TileLang昇腾版本,对昇腾Ascend C底层指令进行封装,提供高级语言的编程方式,同时不损失硬件性能。目前,DeepSeek训练中用到的每一个TileLang算子,在昇腾上都有对应的高性能实现。DeepSeek希望TileLang昇腾版本作为开源工作,能对更多AI芯片建立高可用软件生态起到示范作用。

本次开源还包括昇腾平台核心计算与通信组件,为不同使用场景提供可复用的基础能力。其中,DeepGEMM加速通用矩阵运算;DeepEP提供高效的大规模跨设备通信;TileKernels提供数据处理所需的常规向量计算和访存算子;FlashMLA提供稀疏注意力算子,提升长上下文处理效率;DeepSelect实现高效的数据筛选。在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。

在面向昇腾平台的研发过程中,华为团队给予了毫无保留的大力支持。双方紧密合作,共同推进基于昇腾950的128卡超节点方案,共同对计算与通信进行深度优化。DeepSeek表示,将持续推进技术创新,与社区共同建设开放的软件生态、共同进步。

本文来自大风号,仅代表大风号自媒体观点。