算子是连接上层模型与底层芯片的关键桥梁,直接影响模型运行性能与芯片极致算力的释放。深圳河套学院作为CANN生态线性代数SIG组生态Maintainer,深度参与ops-blas算子库建设,以专业学术力量推进算子设计规范、代码评审机制与社区迭代流程建设,立足真实场景解决算子实际难题,在实践中培养算子人才。目前学院已贡献13个高性能blas算子至CANN开源社区,是算子贡献最多的生态方。
ops-blas算子库建设的价值与意义
人工智能时代,大模型训练、推理、科学计算、机器人、计算机视觉……几乎所有AI应用背后,都离不开一个共同基础——线性代数计算(BLAS,Basic Linear Algebra Subprograms)。作为AI计算中最基础、最核心的能力之一,BLAS算子的性能、完备性与易用性,直接影响上层模型和应用的开发效率。随着CANN开源社区不断发展,越来越多的AI模型、科学计算和行业应用对BLAS能力提出了更丰富的需求,也需要一个统一、开放、可持续演进的平台,进一步汇聚社区技术积累,提升算子复用与协同共建效率。
基于这一需求,深圳河套学院联合CANN团队共同打造BLAS能力中心——ops-blas算子库。 该算子库对齐业界BLAS标准,贴合开发者使用习惯,对线性代数相关算子进行统一建设与管理,构建Level-1、Level-2、Level-3分层化线性代数计算能力,实现从基础向量计算到大规模矩阵计算的完整覆盖。通过统一接口与集中沉淀,更多AI模型、科学计算场景和行业应用可以便捷复用相关能力,进一步降低模型迁移和开发成本,为CANN生态构筑更加完善、开放且可持续演进的底层计算基础。
图1:CANN开源社区的ops-blas算子库
点击“阅读原文”即可跳转
线性代数SIG组的生态Maintainer
深圳河套学院人工智能理论与系统中心陈子忠教授担任线性代数SIG组Maintainer,也是该 SIG组的生态共建负责人,深度参与算子开发、性能调优、代码评审等核心工作。其团队年度计划完成53个空缺API补齐开发,在真实项目实践中锤炼算子人才,目前已累计贡献13个高性能blas算子,填补了ops-blas算子库在特殊矩阵格式支持与基础实数矩阵运算方面的重要空白,不断夯实CANN底层线性代数计算能力,繁荣行业CANN生态,助力科学计算、雷达信号处理、微波仿真、流体力学等科研场景创新落地。
表1:陈教授团队贡献的部分高性能算子
同时,团队另有9个算子正在开发,将进一步补充复数运算、带状矩阵运算、秩2更新和批量混合精度矩阵乘法能力。
表2:陈教授团队正在开发的高性能算子
其中,已完成开发的spmv(Symmetric Packed Matrix-Vector Multiplication)算子针对对称矩阵的存储特性进行优化,采用压缩存储格式节省内存空间,高效完成矩阵与向量乘加运算,为CANN生态在科学计算、图分析、稀疏模型推理等场景提供更完善的底层线性代数支撑。
图2:spmv内存负载分析
图3:spmv算子Roofline分析
表3:部分算子在不同矩阵下的时延
ops?blas不仅是一个代码仓库,更是一套开放共享、协同创新的生态机制。未来,CANN将持续汇聚社区各方力量,吸引开发者、高校与企业共同参与高性能线性代数能力共建,持续沉淀CANN底层算子资产,为AI模型、计算框架和行业应用提供更加坚实的基础支撑,加速行业CANN生态高质量发展!
◆往期推荐◆
点击下方“阅读原文”,获取ops-blas算子库开源地址!
股票
板块
用户
资讯
评论 (0)