股票
板块
用户
资讯
首页
天眼
自选
发现
开户
首页
天眼
自选
发现
我的

中国CUDA!刚刚,DeepSeek官宣!

转载来源:深科技 中国CUDA!刚刚,DeepSeek官宣! http://mp.weixin.qq.com/s?__biz=MzIxODI2NTY4OQ==&mid=2247548946&idx=1&sn=23fb9be09726263e7f302ce76d7ef445&scene=45#wechat_redirect

DeepSeek给华为昇腾造了一套“AI工具箱”,意味着什么?


9月30日,DeepSeek宣布开源面向华为昇腾平台的一系列基础设施组件,包括TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA和DeepSelect。

TileLang:高级编程语言与编译工具,封装Ascend C底层指令,让昇腾算子开发更简单,同时尽量发挥硬件性能。DeepGEMM:加速通用矩阵运算DeepEP:提供高效的大规模跨设备通信TileKernels:提供向量计算和访存算子FlashMLA:提供稀疏注意力算子,提升长上下文处理效率DeepSelect:实现高效的数据筛选

名字看起来很复杂,其实可以简单理解:

DeepSeek正在给昇腾打造一套让AI芯片更容易开发、更容易跑满性能的“工具箱”。

TileLang负责“写”,DeepGEMM负责“算”,DeepEP负责“通信”,TileKernels负责“基础操作”,FlashMLA负责“注意力”,DeepSelect负责“筛选”。

1、CUDA为什么这么重要?

很多人认为英伟达最强的是GPU。

但英伟达真正强大的护城河之一,其实是CUDA。

如果把GPU比作一辆超级跑车,那么CUDA就是方向盘、变速箱、工具箱甚至驾驶规则。开发者不需要直接研究GPU底层硬件,就可以通过CUDA及其软件生态训练AI模型。

经过近20年发展,大量AI框架、算子和开发工具都围绕CUDA建立起来。

所以英伟达真正的优势是:

GPU + CUDA + 算子库 + 通信库 + 开发者生态。

这也是国产AI芯片必须解决的问题:芯片做出来只是第一步,还要有人会用,而且要跑得快。

2、TileLang是什么?“中国CUDA”?

这次最核心的工具叫TileLang。

它可以理解成连接AI模型和芯片的一座桥。

开发者用相对简单的方式写程序,TileLang再把这些程序转化成芯片能够高效执行的任务。

DeepSeek称,相比CUDA,TileLang编程更加简单;同时又希望充分发挥芯片性能。

此次昇腾版本进一步封装了Ascend C底层指令。

目标很直接:代码更好写。

开发效率更高。芯片性能尽量跑满。

因此,把TileLang通俗地称为“国产版CUDA”方便理解,但严格来说,它目前还不能等同于CUDA完整的软件生态。

3、不只是TileLang

DeepSeek这次其实带来了一整套工具。

DeepGEMM负责矩阵计算,可以理解成帮助AI芯片更快“做数学题”。

DeepEP负责多颗AI芯片之间的高速通信。

TileKernels负责基础向量计算和数据搬运。

FlashMLA负责优化注意力计算,尤其适合长上下文模型。

DeepSelect负责高效数据筛选。

简单来说就是:

有人负责计算,有人负责通信,有人负责数据搬运,还有人负责Attention。

DeepSeek正在把训练大模型需要的重要基础工具逐步补齐。

4、为什么强调“硬件上限”?

AI芯片有理论性能,也有实际性能。

一颗芯片纸面算力很高,并不代表运行大模型时就能全部发挥出来。

软件优化不好,很多算力可能都在等待、通信和数据搬运中浪费掉。

所以DeepSeek此次反复强调一个关键词:

“硬件性能上限”。

按照DeepSeek的说法,在多项关键测试用例中,这些组件的计算和通信性能已经接近硬件上限。

换句话说,目标不只是让DeepSeek“能在昇腾上跑”,而是尽可能让它“在昇腾上跑得快”。

5、真正争夺的是AI生态

这次还有一个重要信息。

DeepSeek披露,其与华为共同推进基于昇腾950的128卡超节点方案,并对计算和通信进行深度优化。

这意味着双方解决的已经不只是单颗AI芯片性能,而是128颗芯片如何像一台超级计算机一样协同工作。



原文链接
多空观点 观点仅供交流,不构成投资建议
点赞
踩一踩
收藏
分享

评论 (0)

0/200
声明:社区内容仅代表用户个人观点,不构成任何投资建议。投资有风险,入市需谨慎。