11 月 10 日,MiniMax正式开源MiniMax-H3-Image旗舰图像生成模型权重。该模型将文生图、参考图生图与图像编辑整合到同一份权重中,原生输出分辨率最高可达4K,并以六步蒸馏采样实现秒级出图。此次MiniMax-H3-Image 开源后,昇腾迅速完成RL训练适配,在 Atlas 950 SuperPoD上打通DiffusionNFT强化学习与LoRA微调的完整后训练链路,并在密集文字的复杂文生图场景下进行了验证,开发者可在昇腾上直接复现这一流程。
MiniMax-H3-Image——
面向高质量细节的开源文生图旗舰模型
MiniMax-H3-Image沿用MiniMax-H3 架构,并强化了数据、步数压缩等关键属性,兼顾速度、画质与指令遵循能力。本次适配选择的是极具挑战性的密集文字渲染任务来验证Atlas 950 SuperPoD的表现:多行文字需逐行排布整齐、逐字母拼写正确,并与承载物的透视、材质、光照自然贴合,同时不能牺牲画面美感与真实感。
图 1:MiniMax H3 → H3-Image 架构演进。H3-Image 沿用约 33B 稠密 DiT 主干与 Qwen3-VL 编码器,移除音频分支、更新生成权重并采用六步输出头,文生图与图像编辑共用同一份权重
基于昇腾的MiniMax-H3-Image后训练
适配与优化
MiniMax-H3-Image 的后训练在工程上面临三方面挑战:计算侧,扩散生成需要完整走完六步去噪链路才能回传奖励梯度,训练与采样交替执行,对显存管理与调度提出更高要求;精度上,训练侧 Actor 与 rollout 是两条不同的执行路径,特征拼接、精度处理或算子实现的差异都会让奖励信号失真;资源侧,训练、采样与多路奖励推理需要同时运行,对资源调度与编排提出更高要求。本次适配围绕模型计算正确性、NPU 前向执行路径与多模型资源编排三个层面展开。
图 2:数据穿过设备,奖励改变生成——RL 训练的执行闭环。采样、训练、OCR 奖励与偏好评分按设备分区协同,奖励沿回路回流至生成
计算正确性上,H3 的实现将文本、图像与音频特征统一拼接,纯文生图没有音频输入时仍会执行一次音频特征的 index_copy,我们通过整模对照回放定位到该环节,在 Diffusers 的 H3 Transformer 中加入空索引保护,使 Actor 与 rollout 的平均相对 L2 误差较修复前下降 97.9%。执行路径上,我们在 rollout_kernels.py中扩展 NPU BF16 支持、将 RMSNorm接入 torch_npu.npu_rms_norm,并把 PDD(Parallel Decoding Distillation,并行解码蒸馏)时间步查表归约改为 FP32,在避免回退 CPU 的同时保证时间步精度。编排上,按角色将训练、采样与奖励计算分配到不同设备,并解决评分进程的设备绑定问题;训练侧以LoRA+ FSDP2 分片承载 33B 基座,最终打通生成、评分与参数更新的完整链路,完成 100 步以上长跑。
奖励与训练目标
后训练的目标由奖励函数定义。本次适配采用三路信号加权,分别约束图文对齐、文字准确性与画面美感,避免优化目标塌缩到单一维度:
其中带布局约束的 OCR 由两级判定构成:先由 Qwen3-VL-8B 读取画面中的文字并与目标文本比对,再由 PP-OCR 检测文本框位置——文本框触碰画框边界时直接判零,否则按文字面积占比施加约束,防止模型以铺满全屏的方式换取读文得分。由此,评测在两个维度上同时成立:OCR 与布局守卫保证文字准确、位置合规,PickScore与 HPSv2.1 守住图文对齐与画面美感。模型既不能靠牺牲画质换取读文得分,也不能为追求画面好看而放弃文字精度。
算法层面,本次采用 DiffusionNFT完成对模型的后训练。相比依赖反向采样与似然估计的方案,该目标直接定义在前向过程上,无需成对偏好数据、也无需 CFG 引导,可与 MiniMax-H3-Image 自身的确定性少步采样路径直接配合。选择 NFT + LoRA的组合,主要考虑三点:其一,NFT 支持任意黑盒求解器且无需CFG,与本模型少步确定性采样的特性天然契合;其二,奖励即训练信号,无需构建成对偏好数据,奖励函数可按场景替换;其三,LoRA冻结 33B 基座、仅训练低秩增量,把训练状态与显存占用控制在可复现的规模内。
训练结果
在密集文字的复杂场景下,昇腾AI基础软硬件平台支撑完成的后训练效果如下——经过 100 步训练,模型在真实场景照片中渲染指定文字的能力显著增强。评估覆盖 0–100步共21个评估点,累计 1344 张生成图像,每格为其均值:
图3:前 100 步的训练与验证奖励
从平台侧看,本次训练在 Atlas 950 SuperPoD上连续完成 100 步且未出现中断,训练奖励均值由 0.54835 稳定提升至 0.62939,验证奖励同步上行。这说明训推一体的资源编排、FSDP2 分片与 CPU 卸载策略能够稳定承载 33B 稠密 DiT叠加六步采样的训练负载,长步数连续训练不掉点。
从效果侧看,后训练确实生效:综合奖励提升 18.6%,其中带布局约束的 OCR 由 0.435 提升至 0.851,而 PickScore由 0.755 提升至 0.773——文字准确性大幅提升的同时,画面质量与图文对齐未出现退化。这说明Minimax-H3-Image模型基于Atlas SuperPoD950强化学习训练的有效性和稳定性。
图 4:三组样例在第 0 / 50 / 100 步的生成结果,文字随训练步数由模糊粘连逐步变为清晰可读,画面主体质感保持一致,附完整原始提示词
从视觉上看,文字渲染质量随训练步数提升明显:第 0 步笔画偏细、部分字母粘连,字块较小;第 50 步字形轮廓清晰可辨,四行排布趋于规整;第 100 步文字加粗、行距均匀,四行内容可直接通读。与此同时,告示牌的金属质感、面粉与木勺的材质、纸箱的瓦楞纹理与车间环境光在三个步数下保持一致——文字能力提升的同时,画面质量没有让步。
快速复现:核心依赖与启动
本次适配的完整配方已纳入 verl-ascend-recipe 仓库。环境准备、模型与奖励资产下载、权重转换、启动与验证的完整步骤见配方中的部署文档(https://github.com/verl-project/verl-ascend-recipe/tree/main/Ascend_950/minimax_h3_image),用户无需改动框架代码即可按统一入口启动训练。
完成依赖安装与模型、奖励资产准备后,依次构造数据、转换权重并启动训练:
# 构造密集文字渲染数据python examples/diffusionnft_trainer/minimax_h3_image/prepare_dense_text_data.py --output-dir $DATA_DIR# 基座权重转换为训练用 Actorpython verl_omni/pipelines/minimax_h3_image_diffusion_nft/checkpoint.py convert \--native-root $MODEL_PATH --output $ACTOR_PATH# 启动训练bash Ascend_950/minimax_h3_image/run_8npu.sh
上述版本组合为本次结果的复现基线,各项需同时对齐。按该组合配合配方中的启动脚本与固定验证集(64 条、seed 42),即可复现本文 0 / 50 / 100 三步的验证奖励;完整的安装部署步骤见配方仓库。
配方与训练入口:
https://github.com/verl-project/verl-ascend-recipe/tree/main/Ascend_950/minimax_h3_image
MiniMax-H3-Image官方模型页面:
https://huggingface.co/MiniMaxAI/MiniMax-H3-Image
参考PR:
https://github.com/verl-project/verl-omni/pull/890
https://github.com/verl-project/verl-omni/pull/897
本次适配打通了开源文生图模型在昇腾AI基础软硬件平台上的强化学习后训练路径,欢迎开发者基于该配方开展后续实验,共同完善昇腾多模态训练生态。后续我们也会持续完善和优化昇腾场景下Minimax-H3-Image的RL训练方案和性能,并贡献至VeRL-Omni开源社区。
◆往期推荐◆
TorchTitan Ascend开源:插件化支持TorchTitan,实现Kimi K3.1 Pro的昇腾适配与训练实践
股票
板块
用户
资讯
评论 (0)