转载来源:深科技 中国CUDA!刚刚,DeepSeek官宣! http://mp.weixin.qq.com/s?__biz=MzIxODI2NTY4OQ==&mid=2247548946&idx=1&sn=23fb9be09726263e7f302ce76d7ef445&scene=45#wechat_redirect
DeepSeek给华为昇腾造了一套“AI工具箱”,意味着什么?
9月30日,DeepSeek宣布开源面向华为昇腾平台的一系列基础设施组件,包括TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA和DeepSelect。
TileLang:高级编程语言与编译工具,封装Ascend C底层指令,让昇腾算子开发更简单,同时尽量发挥硬件性能。DeepGEMM:加速通用矩阵运算DeepEP:提供高效的大规模跨设备通信TileKernels:提供向量计算和访存算子FlashMLA:提供稀疏注意力算子,提升长上下文处理效率DeepSelect:实现高效的数据筛选名字看起来很复杂,其实可以简单理解:
DeepSeek正在给昇腾打造一套让AI芯片更容易开发、更容易跑满性能的“工具箱”。
TileLang负责“写”,DeepGEMM负责“算”,DeepEP负责“通信”,TileKernels负责“基础操作”,FlashMLA负责“注意力”,DeepSelect负责“筛选”。
1、CUDA为什么这么重要?
很多人认为英伟达最强的是GPU。
但英伟达真正强大的护城河之一,其实是CUDA。
如果把GPU比作一辆超级跑车,那么CUDA就是方向盘、变速箱、工具箱甚至驾驶规则。开发者不需要直接研究GPU底层硬件,就可以通过CUDA及其软件生态训练AI模型。
经过近20年发展,大量AI框架、算子和开发工具都围绕CUDA建立起来。
所以英伟达真正的优势是:
GPU + CUDA + 算子库 + 通信库 + 开发者生态。
这也是国产AI芯片必须解决的问题:芯片做出来只是第一步,还要有人会用,而且要跑得快。
2、TileLang是什么?“中国CUDA”?
这次最核心的工具叫TileLang。
它可以理解成连接AI模型和芯片的一座桥。
开发者用相对简单的方式写程序,TileLang再把这些程序转化成芯片能够高效执行的任务。
DeepSeek称,相比CUDA,TileLang编程更加简单;同时又希望充分发挥芯片性能。
此次昇腾版本进一步封装了Ascend C底层指令。
目标很直接:代码更好写。
开发效率更高。芯片性能尽量跑满。
因此,把TileLang通俗地称为“国产版CUDA”方便理解,但严格来说,它目前还不能等同于CUDA完整的软件生态。
3、不只是TileLang
DeepSeek这次其实带来了一整套工具。
DeepGEMM负责矩阵计算,可以理解成帮助AI芯片更快“做数学题”。
DeepEP负责多颗AI芯片之间的高速通信。
TileKernels负责基础向量计算和数据搬运。
FlashMLA负责优化注意力计算,尤其适合长上下文模型。
DeepSelect负责高效数据筛选。
简单来说就是:
有人负责计算,有人负责通信,有人负责数据搬运,还有人负责Attention。
DeepSeek正在把训练大模型需要的重要基础工具逐步补齐。
4、为什么强调“硬件上限”?
AI芯片有理论性能,也有实际性能。
一颗芯片纸面算力很高,并不代表运行大模型时就能全部发挥出来。
软件优化不好,很多算力可能都在等待、通信和数据搬运中浪费掉。
所以DeepSeek此次反复强调一个关键词:
“硬件性能上限”。
按照DeepSeek的说法,在多项关键测试用例中,这些组件的计算和通信性能已经接近硬件上限。
换句话说,目标不只是让DeepSeek“能在昇腾上跑”,而是尽可能让它“在昇腾上跑得快”。
5、真正争夺的是AI生态
这次还有一个重要信息。
DeepSeek披露,其与华为共同推进基于昇腾950的128卡超节点方案,并对计算和通信进行深度优化。
这意味着双方解决的已经不只是单颗AI芯片性能,而是128颗芯片如何像一台超级计算机一样协同工作。
股票
板块
用户
资讯
评论 (0)