天垓300实测对标H200:
国产GPU从性能追赶迈向高价值应用竞争
从复杂模型推理到Token工厂、物理AI,天数智芯展示高质量算力的真实价值
10月28日,“从模型到世界”天数智芯2026媒体开放日活动在上海举办。天垓300首次面向媒体开放实机演示,基于天垓300的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端同台亮相,并预告标称算力达600T的下一代端侧产品。上海仪电今年7月完成的第三方实测显示,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。与此同时,软件栈展示“用AI开发AI”的新路径,彤央TY1200在实测中超越Thor T5000。
为什么要对标H200?作为大模型推理和复杂计算领域具有代表性的高水平GPU,H200水平是衡量先进AI算力的重要标杆。天垓300在真实业务测试中达到这一水平,标志着国产通用GPU迈过了一道具有重要意义的性能门槛:开始具备在复杂AI任务和高算力市场中快速发展的实力。这也意味着国产GPU正在进入新阶段——从解决“能不能用”的问题,转向比拼实际产出、运行效率和经济价值。
天数智芯将这一阶段的标准概括为高质量算力——“高效率、可预期、可持续”——相同投入能产出多少有效结果,长时间运行能否稳定,面对不同模型、业务和部署方式能否持续发挥作用。在天数智芯看来,云端生产智能,软件加速适配与优化,端侧让智能进入更多现场,形成让高质量算力持续生长的增强回路。
实测对标H200:走向复杂AI任务的性能门槛
对标H200的看点,在于测试所对应的真实业务。上海仪电今年7月针对四大主流模型、三类场景开展测试,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。这里比较的不是理论峰值,而是在特定模型和部署条件下,整条推理链路的实际输出能力。
天数智芯性能实验室的实测进一步覆盖典型业务场景:在64K长上下文下,天垓300的Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。活动现场开放天垓300实机演示,接受与H200在GLM5.3等大语言模型、文生图、文生视频场景的对比测试。
这些指标各自对应着用户能够感知的体验。长上下文处理关系到长文档分析和复杂Agent能否高效运行;MoE吞吐影响同等服务要求下系统承接请求的能力;首字延迟则直接关系到用户发出请求后的等待时间。此次对标说明天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。
训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。目前,强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主力模型公开采用的核心后训练路线。天垓300同样胜任强化学习训练,据条件性工程估算,以1024张卡对已有预训练基座开展一次强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。
随着日均Token调用量较2024年初增长上千倍,Token工厂正成为算力规模化落地的热门形态,也是高质量算力三要素的集中检验场。各项表现显示,天垓300高度满足Token工厂对算力的各项实际要求。
首先是高效率。电力、机房和固定运维等支出难以随意压缩,单位Token成本很大程度上取决于设备投入和有效吞吐。在前述第三方测试条件下,天垓300折算单卡端到端吞吐达到H200的1.05倍,为单位时间内生产更多有效Token提供了性能基础。
其次是可预期。Token工厂不能只在短时测试中跑得快,还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,直接保障利用率与可用率。
最后是可持续。天垓300通用架构原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,面向多种模型与业务需求。
天垓300同时提供开放、可组合的异构计算平台解决方案。以通用GPU为底座,支持混合训练、PD分离与AFD分离等多种部署形态,可与其他厂商的加速卡、专用芯片协同。以AFD分离为例,天垓300承担Prefill全流程计算与解码阶段的Attention,合作厂商的XPU承担FFN专家网络,两类芯片在统一调度下异构协同,实测Decoding推理延迟可降低60%,该方案已实际跑通,是国内第一个基于GPU+XPU的异构部署AFD分离方案。
“未来的AI算力系统,不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示,“关键是如何把它们高效组织起来,让整个系统发挥更大的价值。我们希望通过开放的异构计算能力,让客户充分利用已有算力资产,以更灵活的方式构建适合自身业务的计算系统。”
高质量算力的价值,由此不只是测试成绩,而是能够持续投入实际生产的能力。天数智芯更将通用算力延伸至科学智算与物理AI等前沿领域,加速科学发现和产业应用。天垓300全面支持Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架,覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景,涵盖蛋白结构预测、药物筛选、机器人仿真、分子动力学、材料结构优化等关键任务。
物理AI尤其体现出通用计算的新价值。机器人要进入真实世界,往往需要先在遵循物理规律的仿真环境里反复试错,学习动作并验证策略。天垓300的云端仿真和计算能力,让这种学习和验证更充分。
在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是目前业界密度最高的单机柜GPU超节点,据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。该方案已在工博会公开亮相,面向不同算力规模与机房条件的其他超节点方案也将陆续推出。
用AI开发AI:让一位工程师的经验,服务千千万万开发者
硬件性能达到可用区间之后,另一道门槛是开发者能否真正用好。新模型不断出现,部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。如果这些环节仍然复杂,硬件性能就很难及时转化为业务价值。天数智芯此次展示的软件栈,让AI不仅作为计算任务被运行,也参与AI系统自身的开发与优化。
活动现场,天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:基于多年GPU研发、模型适配和性能调优积累,将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者能够围绕场景目标和服务约束,直接调用工具、复用经验、开展优化,加速迈向端到端智能开发。
“易于使用”方面,软件栈将环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能,由AI协助执行并检查结果,减少开发者反复查阅文档、手动配置和排查问题的负担。在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步,助力开发者更便捷地使用先进推理架构。
“易于优化”方面,软件栈结合自研性能分析工具与调优经验,让AI依据真实运行数据定位瓶颈、提出优化方案,并通过测试验证效果。根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。开发者能够更快开展优化、获得反馈,减少对厂商技术支持的依赖。
“易于开发”方面,作为首家深度接入FlyDSL的国产GPGPU厂商,天数智芯通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试和性能优化。开发者明确目标与约束,AI协助生成或修改候选实现,再根据正确性检查和性能测试结果持续调整,最终完成自主开发、验证与迭代,形成从目标提出到结果验收的工程闭环。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内就能完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能,为更快支持新模型、尝试更多实现方案创造条件。
“Agentic AI让一位工程师的经验,能够持续服务千千万万开发者。”石加圣表示,天数智芯将GPGPU工程师在模型适配、性能调优中积累的方法沉淀为可调用的工具与技能,让模型和应用开发者能够在自身工作流中复用专家经验,更快获得反馈、自主完成优化。GPGPU工程师则能将更多精力投入复杂性能问题的解决,并持续将新的工程积累提供给开发者。
彤央TY1200实测超ThorT5000:云端能力下沉端侧
物理世界的数据量持续增长,对感知、规划与执行提出毫秒级响应要求,合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”,业务需求让算力必须分层。与此同时,小参数量模型能力提升,让更多任务具备边端部署条件,技术演进使算力可以分层。客户对长期使用成本的关注,要求算力投入更精准:简单任务不必都上云,复杂任务也不宜一律下沉,成本约束让分层值得做。
业务上“必须”,技术上“可以”,经济上“值得”,算力分层由此成为现实选择:大规模训练与复杂复判留在云端,要求实时响应、涉及数据安全、需要现场闭环的任务,放在端侧。
“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。天数智芯在云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,被一起带到边端。模型因此可以“生在云、长在边”:云端训练、边端部署,需要时再由云端复判,模型能力与精度保持衔接。在客户现场积累的高负载交付经验,也为工业应用、具身智能等高度要求稳定性的场景交付提供能力基础。
彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求;端云接续的技术路线,“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。以实测稠密算力超越标称算力更高的芯片,端侧的有效产出同样不被标称算力定义。
在本地部署场景,TY1200让原本必须上云的任务在数据端内闭环。合同审核、投资BP分析等对数据安全高度敏感的工作,可基于本地部署的大模型离线处理,安全的同时,也可节省算力支出;视频生成这类高算力任务也在本地跑通——基于MiniMax H3开源视频模型,TY1200平均6分钟生成1056×608分辨率、时长5秒的视频,1376×768分辨率下平均用时11分钟,全程在本地进行,不产生任何云端调用费用。它还能流畅运行推理应用,并承担小模型的本地训练。
在物理AI场景,TY1200成为具身智能设备的大脑。这个大脑不仅可以内置,还可“外挂”。TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真,机器人动作学习所需的大规模并行仿真可在本地终端完成。活动现场,MicroDuck动作演示呈现“本地仿真—策略训练—动作验证”的完整链路;搭载TY1000算力模组的机器狗在本地完成人脸识别与跟随主人,形成“感知—决策—行动”闭环。世界模型等物理AI负载同样在本地运行,在Cosmos-R2-2B和Cosmos-R2-8B测试中,TY1200的实测性能分别达到Thor T5000的158%和180%;
性能最终要进入真实任务。在储能电芯研究案例中,TY1200支持科研智能体自动采集、治理实验数据,并可在约2分钟内生成报告;应急视觉识别案例,端侧CV与多模态大模型交叉验证,将识别准确率由70%提升至95%;在文旅案例中,同一台TY1200,白天提供智能导览、夜间训练CV小模型;搭载TY1200的陪诊机器人,已在上海市阳光康复中心服务视障人士,负责导诊、分诊与带路。
TY1200此前已获2026工博会CIIF国芯展创新成果奖。活动现场,天数智芯还预告下一代端侧产品彤央TY2000,标称算力将达600T,把云端能力下沉的边界再向前推进一步。
云端高效生产智能,软件加速进化,端侧拓宽现实应用、连接物理世界,三端协同构成高质量算力的“增强回路”,让高效率、可预期、可持续在循环中复利式积累。
产品层面的复利,最终要回答产业层面的命题。算力是发展新质生产力的关键底座,中共中央、国务院《关于发展新质生产力的意见》提出,全面实施“人工智能+”行动、强化算力算法数据高效供给,加快人形机器人等新一代智能终端的场景应用。从云端天垓300、天数智算软件栈,到端侧彤央算力终端,天数智芯以贯通云边端的产品体系,把高质量算力落实为可实测、可复现、可交付的有效产出,为“人工智能+”在千行百业的规模落地,提供高质量算力支撑。
股票
板块
用户
资讯
评论 (0)