云天励飞与北京智源人工智能研究院(以下简称“智源”)围绕众智 FlagOS 的技术合作取得首项开源成果:今年11月,FlagOS 统一编译器 FlagTree 合入了Triton 3.8 云天励飞芯片的后端适配。依托这一后端,双方已打通 FlagGems 开源算子在云天励飞 IFWA 软件栈上的适配流程,并开展首批算子验证。
01 / 开源生态
认识 FlagOS:同一个算子,如何面向不同芯片?
一个大模型会反复调用矩阵乘法、归一化等基础运算,这些运算通常被称为“算子”。模型迁移到另一种芯片时,即使数学公式相同,算子怎样编译、怎样在芯片上高效执行,仍要针对硬件处理。这是芯片厂商和模型开发者经常面对的重复工作。
众智 FlagOS 是由智源牵头、与科研机构及芯片企业共同建设的开源系统软件栈。开发者可以从 FlagGems 算子库选用通用实现,通过 FlagTree 编译器对接不同芯片;当模型需要多卡协同运行时,FlagCX 提供通信能力,FlagScale 支持并行训练与推理。各家芯片可以保留自己的编译和运行工具,同时参与维护同一套上层代码。
概念插画|这次合作选择编译器后端作为开源算子与云天励飞芯片软件栈的连接点。
02 / 首项成果
后端代码合入 FlagTree,社区有了可复用的入口
IFWA 是云天励飞面向 DeepVerse、DeepEdge 系列芯片的软件栈。本次接入由双方合作开发的后端承接:开发者沿用 Triton 编写算子,FlagTree 将编译任务交给云天励飞后端,后端再衔接 IFWA 编译工具链、运行时与驱动。这样,开发者可以从社区已有的算子实现起步,把精力放在目标芯片需要的适配和优化上。
图 1|此次合入的是 FlagTree 的云天励飞后端,为逐项适配算子提供共同入口。
开发者可以在 FlagTree 的 Triton 3.8 分支中查看这项贡献。第 1598 号代码合入请求(PR)包含后端代码、调用示例和持续集成配置;社区可以评审接口、跟踪修复,具备相应工具链的开发者也可以运行示例。底层 IFWA 编译器和运行时仍以受控的二进制工具包提供。
03 / 算子适配
FlagGems 首批适配覆盖哪些算子?
双方首先选择了模型中反复用到的基础运算。首批验证覆盖常用算术、求和与求最大值,也包括注意力计算中常用的 Softmax、用于归一化的 LayerNorm,以及TopK。
面向大模型推理,IFWA 后端已支持FP16、FP8 和 FP4 三种精度的矩阵乘法。除矩阵计算外,已适配的算子还包括逐元素运算、归约、排序、归一化和激活函数,以及注意力机制(Attention)和混合专家(MoE)中的关键算子。
接下来,云天励飞将与智源及 FlagOS 社区共同推进新模型适配,把可复用的代码和示例贡献给社区。双方还将探索把这些成果纳入 FlagOS 发行版,并与云服务伙伴联合发布。这样,更多开发者就能沿用熟悉的工具,在云天励飞平台上试用新模型、开发自己的应用。
开源项目与代码
FlagOS 项目文档:https://docs.flagos.io/zh-cn/latest/index.html
FlagTree 后端 PR #1598:https://github.com/flagos-ai/FlagTree/pull/1598
云天励飞后端目录:https://github.com/flagos-ai/FlagTree/tree/triton_v3.8.x/third_party/intellifusion
FlagGems 算子库:https://github.com/flagos-ai/FlagGems
相关推荐
连续适配 Hy4 preview、Qwen3.8-Flash-Next,云天励飞 IFWA 夯实国产算力软件基础
2026-09-11
云天励飞 IFWA 软件栈Day 0适配 DeepSeek-V4.1-Flash
2026-09-10
Day 0 适配丨云天励飞IFWA软件栈完成腾讯混元Hy3关键链路适配验证,以软件栈平台化能力加速先进模型适配与自研芯片落地
2026-07-10
云天励飞 GPNPU 架构与 IFWA 智能融合软件栈完成 DeepSeek-V4 系列模型关键机制适配验证
2026-04-25
股票
板块
用户
资讯
评论 (0)