CATLASS Python正式支持SIMT线程编程,完善量化能力与推理样例;CATLASS C++ 新增昇腾950系列产品HSTU推理样例,并持续提升验证效率与使用体验。
快速体验
?? 源码地址:
https://gitcode.com/cann/catlass/tree/v2.2.0
?? CATLASS Python 快速开始:
https://gitcode.com/cann/catlass/blob/v2.2.0/python/tla_dsl/README.md
?? 官网文档:
https://catlass.readthedocs.io/zh-cn/latest
优化&BugFix
?? 完善Kernel 启动前输入校验,统一文档与实现中的类型、形状、对齐、分页及 Mask 约束,对非法输入给出明确诊断,并补充边界与异常输入回归用例。
?? 修复 MLA 在零值、非规格数与指数下溢边界的精度问题,修复片上内存同步复用问题,并移除可能误清合法大数的逻辑。
?? 修复昇腾 950 系列产品 Flash Attention Chunk Prefill 在多 KV Head 场景下的精度问题,补充使用约束与文档说明。
?? 修复 Conv2D/Conv3D 输出尺寸计算的无符号下溢问题,在启动前拦截非法形状与零步长输入。
诚邀各位开发者升级体验CATLASS v2.2.0 ??
股票
板块
用户
资讯
评论 (0)