智谱x摩尔线程：加速模型算力生态闭环

2 月 12 日，我们正式发布了新一代基座大模型 GLM-5，在智能体和编程能力上实现了大幅跃升，在全球权威的 Artificial Analysis 榜单中，位居全球第四、开源第一。

GLM-5 发布后，API 调用量显著攀升，来自开发者与企业客户的适配与接入需求持续增长。我们很高兴能与国产 GPU 厂商摩尔线程合作，在 GLM-5 发布当天即实现与摩尔线程旗舰级 AI 训推一体全功能 GPU MTT S5000 的适配，使其成为首批实现 GLM-5 国产算力部署验证的硬件平台。

摩尔线程基于自研 MUSA 计算架构与 MUSIFY 工具链，针对 GLM-5 的模型结构特点，快速完成了系统性的算子适配与推理性能调优。MTT S5000 单卡 AI 算力最高可达 1000 TFLOPS，支持从 FP8 到 FP64 全精度计算，配备 80GB 高速显存，显存带宽达 1.6TB/s。结合 MTLink 多卡互联技术带来的 784GB/s 卡间带宽，其充沛的计算密度与通信吞吐能力，为 GLM-5 的高性能推理运行提供了坚实的算力基础。

得益于摩尔线程软硬件栈的通用性与成熟度，本次适配充分验证了以下核心技术优势：

算子适配与融合优化：依托 MUSA 架构的高兼容性与TileLang原生算子的高覆盖率（超 80%），双方基于 SGLang 推理框架完成了 GLM-5 关键算子的原生适配。特别是在长序列推理场景中，深度利用 MTT S5000 硬件原生 FP8 计算单元进行加速，在确保模型代码生成与逻辑推理精度无损的同时，大幅降低显存占用，显著提升了端到端推理吞吐。MoE 架构推理优化：针对 GLM-5 的 MoE 架构特性及长上下文需求，双方对专家路由与调度机制进行专项优化，结合 MTT S5000 对稀疏 Attention 的架构级支持，确保了稀疏计算在国产硬件上的高效执行。这一优化有效降低了首字延迟（TTFT），保证了模型在处理复杂代码库分析及长程 Agent 任务时的生成速度与流畅度。多卡协同部署：依托 MTLink 互联技术及摩尔线程独创的ACE异步通信引擎，实现多卡间高带宽与物理级的“通信计算重叠”。该机制成功将复杂的通信任务从计算核心中卸载，有效回收了约 15% 被通信占用的算力，为大规模模型的分布式推理场景提供了极高的稳定性与算力利用率。

智谱与摩尔线程同为扎根北京海淀的人工智能科技企业。此次围绕 GLM-5 的高效协作，是国产大模型与国产算力深度融合的一次重要实践。

面向未来，我们将与摩尔线程在以下方向持续深化合作：

全链路联合优化：覆盖从预训练到推理部署的完整链路，围绕 GLM 系列模型与摩尔线程全功能 GPU 持续进行联合调优，不断提升国产算力平台上的运行效率。行业场景共同落地：面向政务、金融、科研等对自主可控有明确需求的重点行业，共同推进“国产大模型+国产算力”端到端解决方案的交付与部署。生态标准协同建设：积极推动国产 AI 软硬件适配标准化与工具链开放，降低开发者在国产平台上的迁移成本，助力生态繁荣。

构建自主可控的 AI 基础设施，需要产业链上下游的长期协同与共同投入。我们将持续携手摩尔线程等生态伙伴，推动国产 AI 生态走向成熟。

智谱x摩尔线程：加速模型算力生态闭环

评论 (0)

相关文章