股票
板块
用户
资讯
首页
天眼
自选
发现
开户
首页
天眼
自选
发现
我的

芯片还没坏,为何就“过时”?——AI芯片经济寿命与延寿之道

公众号记得加星标??,第一时间看推送不会错过。

对AI芯片而言,专用化带来高性能与低能耗,也使其更容易受到工作负载迁移和芯片迭代的影响,因而经济寿命往往先于物理寿命成为约束。芯片厂商延长经济寿命,既能延长芯片的高性价比窗口,也能降低云厂商运营成本、扩大定价空间并释放资产融资价值,为买家提供经济寿命与服务期限相适配的芯片。

AI垂直层级“硬件-编译器-模型-应用-交易”五个层级既是AI性能提升的抓手,也是芯片延寿的抓手:通过适度通用性、编译适配与模型压缩保留兼容性,借助跨负载分工和集群重构延续使用价值,再以租赁和二级市场扩大流通,最终通过全栈协同形成更可预测的寿命曲线。

一、经济寿命是芯片寿命的主要瓶颈

芯片的“寿命”涉及四个指标,分别是物理寿命、软件支持寿命、经济寿命与会计寿命:

①物理寿命是指芯片在电迁移、热循环与数据中心环境下的可靠服役期,可用年限通常为8–15年;

②软件支持寿命是指厂商工具链对旧架构的官方维护窗口期,官方终止支持意味着不再修复绝大多数bug、不再设置新特性和优化性能,约束力相比物理寿命强,通常遵循明确的路线图节奏,例如英伟达的CUDA10停止支持旧架构Kepler,CUDA13停止支持Turing架构,从芯片停售到编译停止支持的窗口通常为5–8年;

③经济寿命指的是继续使用旧芯片的单位产出成本不高于换用新芯片的全部成本(主要是折旧+电费);

④会计寿命(折旧年限)是对前三个寿命的会计估计。其中,主要瓶颈是经济寿命而非物理寿命。

二、芯片延寿实现多重差异化优势

(一)延长芯片高性价比窗口

ASIC相对GPU的优势是用灵活性换取单位成本与单位能耗,例如将可编程性冗余替换为矩阵乘的计算单元和高带宽存储芯片,在同一制程下获得2–5倍的性能及能效优势,凸显了高性价比优势。

但芯片对工作负载的专用化程度越深,负载形态变化对其性价比的影响越深。当模型架构迭代时,ASIC相较GPU的差异是:GPU的CUDA生态具备可编程性,允许旧GPU兼容新模型架构;而为特定数据流硬连线的ASIC可能无法承担新的主流负载,从高性价比断崖下降。

简言之,ASIC针对特定负载的定制化程度越深,其性价比越高,但经济寿命受工作负载的制约也越明显,当技术迭代、主流框架迁移时,性价比可能随之大幅降低。因此,延长ASIC的经济寿命,实质是在充分提高ASIC性价比的同时,延长ASIC高性价比的时间窗口。

(二)降低运营成本、实现定价策略

当前市场每年投入数千亿美元AI基建,由于芯片采购成本占AI数据中心资本开支的60%,因此,资产运营方(云厂商等)对芯片折旧高度敏感。例如,一块全成本6万美元的芯片,按70%利用率计算,3年折旧对应每小时2.28美元,6年折旧则减半至1.14美元,每小时差异1.14美元,在H100约3.4美元/小时的市场租金中占比超过三成,足以影响一项业务的盈亏。

因此,谷歌、Meta、Oracle等超大云厂商延长芯片折旧年限,降低每年的折旧金额,进而降低整体运营成本、腾挪出服务降价空间。例如,2023年1月,谷歌宣布将芯片的预计使用寿命从4年延长至6年,使2023财年少计提折旧约39亿美元,降低运营成本,其中Q1影响净利润9.88亿美元。

此外,延长折旧期限对不只是会计选择,更是实施降价策略的会计基础。SemiAnalysis分析披露谷歌对外出租TPU相比GPU性价比优势显著,其降价路径是TPU相较GPU在2023年主动延长折旧年限,降低每年的折旧成本,大幅降低单位产出的运营成本,使单位产出的运营成本低于GPU,从而相比GPU获得更多降价空间,利用降价获得更多市场差异化优势。

(三)充分释放芯片的金融属性

芯片作为动产,本身具备金融属性,资产运营方(云厂商等)可将芯片作为抵押品或投资标的,引入金融机构的债务或权益资金,利用新增融资继续采购芯片,扩大业务规模。其中,芯片发挥金融属性的前提是芯片具备相对稳定和可预期的经济寿命,能够和金融机构的资金期限相匹配。

因此,芯片厂商应尽量延长芯片经济寿命,释放芯片的金融属性,协助下游客户打通芯片融资渠道、扩大业务规模,购买更多芯片,实现“买芯片-获得融资-继续买芯片”的正向循环,芯片厂商也因此获得更多订单。

三、沿AI技术栈分层延寿:从硬件冗余到二级市场流通

影响芯片经济寿命的主要因素包括算法框架迭代、应用负载迁移、芯片自身迭代等。芯片厂商可沿着“硬件层-编译层-模型层-应用层-交易层”的AI垂直层级采取延寿措施,应对前述因素对芯片经济寿命的影响,为买家提供经济寿命与服务期限相适配的芯片。具体而言,硬件层通过多格式、可重构数据流、异构单元和代际兼容预留冗余;编译器层把ISA代沟转化为软件适配;模型层延长主流架构半衰期,并以量化、蒸馏和算法重构压缩新模型;应用层按负载类型与流水线重新分工;交易层以兼容性和合理定价扩大流通;全栈协同则提高整条价值衰减曲线的可预测性。

(一)硬件层:以适度通用性换取更长经济寿命

为应对算法框架迭代和主流应用负载变迁,从而延长ASIC高性价比的时间窗口,需要芯片预留一定灵活空间,以适配未来工作负载需求。

芯片的灵活性可以拆解为数值格式、数据流和算子三个维度,相应的灵活性设计分别是多数值格式支持、可重构数据流和片上可编程计算单元。与此同时,灵活性设计付出通用性溢价,具体表现为芯片面积、功耗与设计复杂度等。硬件层的延寿设计发生在流片之前,流片之后无法再进行调整,因此硬件层追求的目标是在不显著牺牲ASIC高性价比优势(相较同代GPU等通用芯片或其他位于同生态位的ASIC)的前提下,为未来最可能发生的工作负载变化预留硬件接口,从而延长高性价比时间窗口。硬件层灵活性的代价通常在5–15%的增量芯片面积,但延长了2–3年经济寿命。

例如,TPU在脉动阵列的基础上在数据格式和算子方面保留灵活性“期权”,相应地TPU折旧期限从4年延长到6年。具体灵活性设计包括:①BF16格式用以应对未来十年训练精度;②SparseCore处理嵌入表的稀疏访存;③向量处理单元(VPU)处理非矩阵运算。

1、多数值格式兼容:避免新精度标准一出现就出局

与峰值算力的渐进贬值不同,芯片因数值格式不兼容将被迅速淘汰。因此,数值格式在三个灵活性设置中的重要性最高。例如,2022年行业事实标准从BF16转向FP8,FP8格式需要英伟达的Hopper及以上架构,Hopper以前的所有芯片因没有相应格式通路而在前沿训练市场中丧失入场券;而谷歌的TPUv4及v5p拥有FP16/BF16/INT8多格式通路,可通过软件量化承接FP8格式。

2、可重构数据流:守住矩阵乘内核,适应算子形态变化

可重构数据流的实质是认为:在算法框架迭代中,算子的形态变化,但算子的矩阵运算内核不变。矩阵乘自2012年以来始终是深度学习负载的绝对主角,在目前主流框架Transformer中占比超过95%的FLOPs。

因此,芯片灵活性设计适配算法框架迭代规律,在算子内核(矩阵乘)处进行专用化设计,在算子形态(换言之数据流通路)方面进行灵活性设计,从而获得最高性价比。

3、异构计算冗余:为新算子保留软件兜底通道

TPUv4引入SparseCore用于专项处理推荐及嵌入检索类稀疏负载,使该芯片能够从训练负载降级承接推理与检索等负载类型;在MXU旁保留VPU(向量单元),在各类注意力变体等新算子出现时先以软件慢速支持,避免芯片因不支持新算子而整体出局。

(二)编译器层:把ISA代沟转化成软件问题

为应对算法框架迭代和主流应用负载变迁,编译器层在AI垂直层级的框架中的投入产出比最高,其核心机制是在硬件ISA与上层模型框架之间插入中间表示层(IR),将相对独立发展的模型和硬件解耦,用编译器层弥合二者之间的发展错配,利用中间层使新算子适配历史版本芯片。

编译器层延寿的优势是编译器投资的边际成本几乎为零,可覆盖整个存量芯片舰队,其性价比远高于任何硬件改动。特别是,可依据硬件条件和模型特定直接AI生成适配旧芯片的算子,并将性能衰减作为AI生成的约束条件。但其局限在于无法突破物理瓶颈,编译器不能为旧芯片增加HBM容量或带宽,需与模型层和应用层配合使用。

谷歌的XLA采用这一机制。当新算子出现时,只需在编译器层XLA中进行算子重写,历史版本芯片即可适配新算子。谷歌的XLA持续为旧版TPUv4生成代码,使其在v7发布后仍在生产集群服役。

(三)模型层:延续主流架构,压缩新模型适配旧芯片

1、主动协同演进:用软硬优化延长主流架构半衰期

芯片与算法是硬币的一体两面,二者协同演化将使市场系统性地偏向特定算法族,芯片自身也将在市场中受益,二者相互依存、相互促进。芯片经济寿命正比于其算法架构半衰期。例如,Transformer框架自2017年以来持续统治主流算法,使得稠密矩阵乘为核心的所有加速器(GPU的TensorCore、TPU的脉动阵列)成为市场主流。但如果主流架构发生迁移,例如状态空间模型、类脑计算、新型稀疏范式成为新的主流,则所有为稠密矩阵乘优化的芯片将可能面临价值衰减。

因此,延长芯片经济寿命意味着延长算法架构半衰期,也意味着:芯片厂商可以采取更积极的手段影响市场变化,例如主动从软硬协同角度出发,主动提高芯片性能,使得目标算法架构的性价比提升、巩固其市场地位、挤压其他算法架构阵营的市场空间,从而稳固自家芯片在芯片市场中的主流地位。

2、被动压缩适配:以量化、蒸馏和重构重回可行域

被动适配新模型的逻辑是当新模型超出旧芯片规格时,通过算法手段将模型压缩回旧芯片的可行域,主要方法包括量化、知识蒸馏、算法重构。

对资产运营者而言,量化、蒸馏等技术的优势是扩大旧芯片承接的可用负载范围,劣势是对前沿模型带来精度损失,算子重构通常有20–50%的性能折价。因此,量化、蒸馏等技术的适用边界是非前沿负载,延长芯片在推理、微调、中小规模训练市场的寿命。

(四)应用层:不按芯片年龄退役,按负载瓶颈重新分工

应用负载层在AI垂直层级中不改变芯片本身,仅在负载类型中调配使芯片延续经济价值。对ASIC厂商而言,延寿意味着不只发生在芯片内部,芯片能否被系统级联利用(例如,标准化机架形态、开放互连、可切片虚拟化等方式),使旧芯片在特定负载上退役后仍能无缝接入其他系统层调度,从而延长其经济寿命。该层延寿方法可以同时应对算法框架迭代和芯片自身迭代对旧芯片经济寿命的影响。

1、跨负载梯次利用:从前沿训练转向推理与后训练

英伟达数据中心路线图在2023年后从两年一代加速到一年一代,J.P.Morgan估计每一代新芯片的单位算力成本较上一代降低约30%~50%。新芯片单位算力成本下降,超越旧芯片单位算力成本,从而挤压旧芯片经济寿命。

阶梯式降级使用将“代际替换”从一次性淘汰转为分岗位、分阶段迁移,具体是指芯片在前沿训练岗位服役2–3年后,降级转向其单位成本仍有优势的推理与后训练(RLHF、蒸馏)岗位继续服役3–4年。EpochAI的“价值瀑布”显示,H100发布后第1年的单位时间价值最高,但其总生命周期价值的约一半产生于第2–5年的非前沿负载。

CoreWeave等专业云厂商明确芯片经济寿命的“三段论”,即第0–2年作为高性能训练资源、第2–5年作为次优负载资源、从第5年以后作为批处理与推理资源,并据此采用6年折旧期。

2、按流水线精细分工:让旧芯片承接Decode等适配环节

芯片是否过时取决于其所服务的应用负载是否触碰了芯片的瓶颈。例如,大模型推理的两个阶段prefill(计算密集型)与decode(访存密集型)对硬件瓶颈的敏感度不同,工业界已规模验证的延寿手段是将算力落后但显存带宽尚可的旧芯片分配给decode。阿里巴巴2025年披露的Cronus异构调度系统将不同代际、不同厂商的芯片混合部署于同一推理集群,按负载瓶颈进行硬件资源匹配,使旧芯片无需因新代际上线而整体退出。

3、以负载纵深消纳旧算力:多元业务决定内部降级空间

TPU的级联模式依赖谷歌内部的负载纵深,其负载类型具备多样性,具体包括Gemini训练与推理、搜索广告推荐、YouTube等。该降级使用模式的可复制性偏弱,例如,纯推理芯片公司没有下游负载可降级,Groq作为推理专用ASIC的代表,其LPU在延迟指标上碾压同级GPU,但单架构、单负载(推理)使其商业价值高度依赖推理市场。

4、重构集群拓扑:让“部分过时”的集群继续高效运转

TPUv4的OCS(光路交换)允许在不重新布线的情况下动态重构4096芯片的3Dtorus拓扑,可用于按任务规模切片,同一物理集群既可运行单一大训练任务,也可以运行数百个推理实例。拓扑可重构性让“部分过时”的集群仍能被充分利用。

(五)交易层:扩大降级使用范围

二级市场和租赁市场将芯片经济寿命从单厂商的内部降级使用,扩大为全社会范围的降级使用:芯片在一个用户手里失去前沿价值,不等于失去全部价值。芯片的适用范围越广、定价越合理,其在二级市场中的流动性越强,其经济寿命得以延续。该层延寿方法可以同时应对算法框架迭代和芯片自身迭代对旧芯片经济寿命的影响。

1、兼容性扩大适用范围:用途越广,寿命越长

旧芯片的残值不只由算力决定,更取决于它能服务的负载范围、接入多少系统。支持通用数值格式、主流框架、标准互连与虚拟化的旧芯片,可以在训练、推理、微调和批处理等场景之间流转,能够适配不同云厂商和终端用户需求。潜在需求方越多,旧芯片在二级市场中的流动性越强,残值越有支撑,相应的经济寿命越长。反之,如果旧芯片只能承接单一负载、服务单一客群,一旦在原场景中失去优势,旧芯片的残值和寿命便会迅速衰落。

2025年7月,Serve The Home披露,A100(通用芯片GPU)在2020年发布时售价在1万美元以上,五年后二手价仍为7,800–18,900美元,租赁价为1.29–3.43美元/小时,体现了通用芯片广泛兼容推理与中小规模训练负载,显著支撑残值、延长经济寿命。

2、合理定价增强流动性:让旧芯片充分发挥剩余价值

旧芯片合理定价指的是让旧芯片的采购或租赁支出加上电费、运维以及性能与精度折价后,单位有效产出成本仍有竞争力(即性价比不低于同代及相邻代际的芯片),既增强旧芯片在二级市场的流动性,又使芯片厂商(卖方)最大程度回收芯片剩余价值。

如旧芯片定价过高,则潜在买方将转向新芯片,旧芯片在二级市场的流动性降低并闲置,其经济寿命因此显著缩减,芯片厂商(卖方)因高定价而无法收回剩余价值;如旧芯片定价过低,虽显著提升该版旧芯片二级市场流动性,但不仅影响芯片厂商在该版旧芯片的回收价值,亦影响旧芯片之前代际芯片的定价和剩余价值。

SiliconData的季度租赁指数显示,H100租赁价格在2025年6月至2026年9月间稳定在约3.38美元/小时,可视为其相对新一代芯片逐步找到均衡定价。

(六)全栈协同:把不可控的淘汰变为可预测的寿命曲线

自2023年首次调整折旧期限后,谷歌在2025年底再度确认TPU的6年折旧假设。谷歌在TPU的硬件层、编译层、模型层和应用层全栈控制,通过系统级联配置,使其价值衰减曲线比外购GPU的可预测性更强,从而加强了TPU经济寿命的可预测性。

相比之下,如果资产运营方完全依赖外购GPU,则缺乏对AI垂直层级中编译层和模型层的控制,只能依赖GPU本身的冗余设计、自家应用负载的多样性、以及全社会二级市场的降级使用需求,来延长芯片的经济寿命。

作者简介

作者:王清

邮箱:wangqing36@126.com

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

END

今天是《半导体行业观察》为您分享的第4590期内容,欢迎关注。

推荐阅读

★对话华为徐直军:绝境下逼出来的“何式定律”

★英伟达最强对手,来了

★光刻机巨头,轰然“倒塌”

★狂飙的AI ASIC赛道,国内跑出一个平台玩家

★刚刚,苹果买了家芯片公司

★存储芯片,走向失控

★玻璃封装,真的要来了

★连二手设备,都要抢了

加星标??第一时间看推送~

求点赞

求分享

求推荐

原文链接
多空观点 观点仅供交流,不构成投资建议
点赞
踩一踩
收藏
分享

评论 (0)

0/200
声明:社区内容仅代表用户个人观点,不构成任何投资建议。投资有风险,入市需谨慎。