股票
板块
用户
资讯
首页
天眼
自选
发现
开户
首页
天眼
自选
发现
我的

紫山龙霖GalaxSphere荣登 MLPerf? Storage v3.0 四大场景榜首之Checkpoint:模型训练不仅要快,更要“存得快、恢复快”

在MLPerf Storage v3.0 Checkpoint 测试中,紫山龙霖(国芯科技参股企业)GalaxSphere 在 Llama3 8B、70B、405B 多种模型规模下均取得领先表现。

随着大模型参数规模持续增长,AI 训练不仅需要持续向 GPU 供给数据,还需要周期性保存模型状态,以便在故障、任务中断或重新调度后快速恢复,这就是 Checkpoint。

模型越大,Checkpoint 数据量越大。写入速度不足,会延长保存窗口,让GPU 等待;读取速度不足,则会延长故障恢复时间。

因此,Checkpoint 真正考验的是存储系统能否实现高速写入、快速恢复,以及在有限基础设施资源下提供更高性能。


每客户端写带宽最高108.78 GiB/s:  模型越大,Checkpoint越不能“拖后腿”


在每客户端性能测试中,GalaxSphere 在 Llama3 8B、70B、405B Checkpoint 读写测试中均排名第一。

Llama3 8B:写带宽61.10 GiB/s,领先第二名1.12倍;读带宽95.08 GiB/s,领先第二名1.13倍

Llama3 70B:写带宽108.78 GiB/s,领先第二名2.77倍;读带宽96.43 GiB/s,领先第二名1.43倍。

Llama3 405B:写带宽96.59 GiB/s,领先第二名4.15倍;读带宽84.14 GiB/s,领先第二名1.77倍。

这证明,随着模型规模增大,GalaxSphere仍能维持高水平的数据写入和恢复能力。按照相同Checkpoint 数据量、且存储传输为主要瓶颈进行理论换算,405B场景4.15 倍写带宽意味着纯写入时间可压缩至第二名约 24%;1.77 倍读带宽意味着纯读取时间可压缩至约 56%。对于长时间运行的大模型训练任务,这直接对应更短的Checkpoint窗口和更快的故障恢复。


每RU写带宽最高313.67 GiB/s:性能之外,更看单位效率


对于大规模AI 数据中心,机柜空间、电力和散热同样是稀缺资源。因此,除了绝对性能,每RU 能提供多少有效性能,直接影响基础设施效率。

在每RU设备性能测试中,GalaxSphere的Checkpoint读写性能优势进一步扩大:

Llama3 8B:写带宽61.10 GiB/s,领先第二名3.37倍;读带宽95.08 GiB/s,领先第二名3.38倍;

Llama3 70B:写带宽288.58 GiB/s,领先第二名2.95倍;读带宽353.34 GiB/s,领先第二名2.62倍。

Llama3 405B:写带宽313.67 GiB/s,领先第二名的6.41 倍;读带宽336.54 GiB/s,领先第二名4.39 倍。

这意味着,在相同机柜空间内,GalaxSphere 可以提供更强的 Checkpoint 数据处理能力,以更高的单位基础设施效率支撑大规模 GPU 集群。


GalaxSphere如何让Checkpoint“存得快、恢复快”


GalaxSphere基于紫山龙霖自主研发的GLFS全局数据操作系统构建统一数据平面,将全闪热数据层与计算节点本地NVMe Tier0 加速能力协同起来,让高价值、强时效数据尽可能靠近算力。

针对Checkpoint 突发大带宽写入和快速恢复读取的特点,GalaxSphere 通过并行 I/O、数据就近访问和高性能全闪数据路径提升数据吞吐效率,减少GPU 等待 Checkpoint 落盘和重新加载的时间。

同时,GLFS 通过全局命名空间和数据编排,实现Checkpoint文件管理,异步写入持久层存储,文件路径保持不变,且自动删除历史Checkpoint文件。


结语:让训练时间更多用于计算,而不是等待


Checkpoint 既是大模型训练的“安全机制”,也可能成为影响 GPU 利用率的关键瓶颈。

MLPerf Storage v3.0 测试显示,GalaxSphere 在 Llama3 8B、70B、405B Checkpoint 场景中,从每客户端性能到每 RU 设备效率均取得领先表现;其中 405B 每 RU 写、读带宽分别达到第二名的 6.41 倍和 4.39 倍。

AI 基础设施的竞争,不只是算力的竞争,更是数据供给效率的竞争。

GalaxSphere 让 Checkpoint 存得更快、恢复更快,让昂贵的 GPU 少等待、多计算。

数据来源:MLPerf Storage Results. URL:https://mlcommons.org/benchmarks/storage/

原文链接
多空观点 观点仅供交流,不构成投资建议
点赞
踩一踩
收藏
分享

评论 (0)

0/200
声明:社区内容仅代表用户个人观点,不构成任何投资建议。投资有风险,入市需谨慎。