股票
板块
用户
资讯
首页
天眼
自选
发现
开户
首页
天眼
自选
发现
我的

【AI系列深度26期】云端基座模型如何在毫秒级车端跑起来

未经许可,不得转载或者引用。

投资要点

投资要点:

学术缩放定律与车端工程约束对应不同的优化目标。Kaplan、Chinchilla等缩放定律讨论的是给定训练算力下参数量、数据量与损失之间的最优关系,其“最优”指向训练算力前沿,并未把推理成本和毫秒级实时时延纳入目标函数。将推理成本显式纳入后,部署最优点会向更小模型、更多训练数据偏移;智能驾驶则进一步强化了这一部署约束。

车端实时性构成大模型上车的核心约束。自动驾驶模型必须在固定车规算力上满足帧率、端到端时延和功能安全要求,大型视觉Transformer叠加大语言模型难以在现有车规算力下持续满足高频推理要求。理想披露VLA推理帧率约10Hz,NVIDIA Alpamayo-R1论文披露端到端推理时延99ms,小鹏称第二代VLA指令输出时延压缩至80ms以内。

云端基座模型的效率优化主要可归纳为两类路径:一是通用模型稀疏化和注意力/KV缓存压缩,如MoE、MLA、MTP、FP8、线性注意力等;二是面向驾驶的视觉Token剪枝、动态/隐式Token和思维链压缩,用更少Token承载关键场景信息。其目标是在云端继续探索能力上限,同时降低长序列和多模态推理成本。

车端时延压缩更强调可部署性,主流范式是   “云端大模型蒸馏上车+快慢双系统”。Waymo通过教师—学生蒸馏把大模型能力迁移到实时学生模型,并采用Think Fast/Think Slow架构;理想由云端基座蒸馏出车端VLA,并用扩散流匹配减少去噪步数;小鹏则以基座蒸馏和视觉思维链效率提升,降低车端推理时延。

我们归纳,未来云车分工或趋于“云端探上限、车端保实时”。云端模型负责更大规模、更复杂推理和世界模型训练,车端模型则围绕低时延、稳定性和安全冗余做压缩部署。该判断仍受蒸馏能力上限、统一评测缺失、芯片供给、量产时间表和功能安全验证约束,因此,训练侧的规模扩张逻辑不能直接外推至车端部署。

我们认为,数字AI底座模型发展路径已逐渐清晰、价值在于确定性,但其难以实现物理世界的建模闭环;我们认为物理AI将成为物理世界的AI解决方案,从而在AI的当前发展阶段成为增量更大的方向,智能驾驶作为最先跑通闭环的代表场景,我们认为应重点关注。

风险提示:技术迭代不及预期的风险;大模型厂商 ARR 增速放缓的风险;云服务商资本开支不及预期的风险;智能驾驶及机器人商业化落地不及预期的风险。

1

缩放定律与车端约束:训练最优不等于部署最优

经典缩放定律以给定训练算力下的损失最小化为主要目标,“最优”指向训练算力最优前沿,而非部署时延。Kaplan等在2020年提出语言模型的损失随参数量、数据量与算力呈幂律变化,其结论更偏向扩大参数规模,约七成算力给参数、三成给数据,对应约1.7个训练Token/参数。Hoffmann等在2022年提出Chinchilla式算力最优配比,对前述结论作出修正,给出参数与数据应近似等比扩张、约20个Token/参数的“算力最优”配比,并以70B参数、1.4万亿Token的Chinchilla超越了280B参数、约3000亿Token的Gopher。

计入推理与部署成本后,最优点向“更小模型、更多训练数据”偏移,这一变化构成理解车端部署约束的起点。Sardana等在2024年缩放定律中显式加入推理成本后指出,在高频部署场景下,算力最优点会移向参数更小、训练数据更多的模型,以压低单次推理开销;Llama2、Llama3分别以2万亿、15万亿Token远超Chinchilla“最优”数据量进行训练,正是这一部署导向的体现。Waymo在2025年12月的公开材料中亦采用相近路径:先训练高容量教师模型,再以蒸馏得到紧凑学生模型,并称由此获得更适用于学生模型的缩放规律。

智能驾驶把部署约束推向更高强度:在固定车规算力上同时满足硬实时帧率,是大模型上车的首要约束。在车载计算单元上以≥30Hz运行大型视觉Transformer叠加大语言模型,在现有车载算力下实现该目标仍具较高难度。数字AI部分所称Transformer作为通用底座,主要指云端与通用基础模型口径,并不意味着其在车端低时延场景中仍是部署最优解。与云端算力可弹性扩展不同,车端算力平台相对固定:NVIDIA Orin-X约254TOPS INT8长期被广泛用于高阶辅助驾驶平台,其继任者Thor自2025年起量产上车,主流落地版本Thor-U单颗约700TOPS,理想L8、领克900、小米YU7、极氪9X等约为Orin-X的2.8倍。在这一算力与时延的双重边界下,云端基座持续扩张与车端毫秒级响应之间形成明显矛盾。

当前量产大模型的实际推理帧率仍低于部分研究提出的30Hz参考水平,其中,语言模型和链式推理带来的串行计算是重要时延来源。理想自动驾驶团队披露,其VLA推理帧率约10Hz,较上一代VLM的约3Hz提升三倍多,且每一帧都要经过语言模型;NVIDIA在Alpamayo-R1论文中报告端到端推理时延99ms,约合10Hz;小鹏公开资料称第二代VLA把指令输出时延压缩至80ms以内。

2

云端效率优化:稀疏化、注意力优化与Token剪枝

云端压缩与车端压缩的边界在于优化对象不同:云端侧主要降低模型固有算力与复杂度,重点在算法和架构层面;车端侧则在固定车规算力约束下实现低时延部署,重点在系统和工程层面。云端侧可按压缩对象归为四类:1)降低模型容量与注意力/缓存开销,包括通用基座的MoE、MLA、线性注意力;2)削减输入侧视觉Token冗余,以视觉Token剪枝为代表;3)压缩推理过程中的链式思维,以隐式/动态Token替代显式长CoT;4)加速训练与仿真侧的世界模型。视觉Token剪枝与CoT压缩虽降低模型固有算力、收益最终在车端兑现,但按优化主要发生环节仍归入云端基座侧。

通用基座侧的效率优化方法以“稀疏激活+注意力/缓存压缩+低精度+投机解码”为主,为车端部署提供可复用的上游技术。混合专家MoE通过每个Token只激活一小部分专家,将模型容量与单次推理算力解耦:DeepSeek-V3以671B总参仅激活37B,256个路由专家激活8个;MiniMax-01为456B总参激活45.9B,32专家;阿里Qwen3-235B-A22B为235B激活22B;月之暗面Kimi K2为约1.04万亿总参激活32B,384专家激活8;智谱GLM-4.5为355B量级MoE。注意力与缓存侧,DeepSeek提出的MLA以低秩联合压缩把KV缓存压至约70KB/Token,较GQA类模型的192–328KB/Token降低约2.7–4.7倍;MiniMax-01则以闪电线性注意力把序列复杂度由二次降为线性,其M1在生成10万Token时的FLOPs仅为DeepSeek-R1的约25%。此外,DeepSeek-V3的多Token预测MTP模块用于投机解码、并以FP8进行训练与推理。

物理AI尤其是智驾的车端MoE则呈现“小而专、按场景/技能路由”的不同形态。云端LLM的MoE以总参数百亿至万亿、激活数十亿、专家数以百计为特征,其目标是在数据中心GPU上用稀疏性扩大模型容量。智驾车端则相反:受限于Orin-X、Thor-U等固定车规算力与内存带宽、以及约10Hz的硬实时要求,车端模型规模通常压缩至数十亿参数以内。理想车端VLA即由约32B云端基座蒸馏为约4B,并采用为车载平台量身定制的MoE0.4B×8结构,在有限算力下平衡多场景适配与推理速度。更关键的差异在路由依据:智驾MoE更多按“驾驶场景与技能”而非通用语义Token分工,学界DriveMoE即设“场景特化视觉MoE”按驾驶情境动态选取相机视角以压低多视角视觉冗余、并设“技能特化动作MoE”按驾驶行为激活专用专家以避免对罕见动作的“模式平均”,SAMoE-VLA等亦走场景自适应路线。当前多数量产智驾VLA的规模仍在个位数十亿量级,部分甚至为稠密小模型,MoE在智驾的主要价值是“专家分工”而非单纯扩容。

面向驾驶的第一类云端优化方法是视觉Token剪枝,其核心动因在于VLA输入中的视觉Token数量通常高于文本Token,注意力计算开销因此主要集中在视觉侧。理想研究团队提出的LightVLA以动态查询评估视觉Token重要性、并用Gumbel-Softmax实现可微分的Token选择,论文报告在LIBERO基准上FLOPs与时延分别下降59.1%与38.2%、任务成功率提升2.6%;LIBERO为机器人操作基准而非真实驾驶场景,论文将驾驶场景的视觉冗余优化列为后续工作。小鹏与北京大学合作的FastDriveVLA专为驾驶设计,采用重建式前景Token剪枝器ReconPruner;该方法借鉴MAE像素重建机制保留前景信息。论文称,当视觉Token由3249降至812时,计算量约减少7.5倍,CUDA时延上预填充与解码分别减少约3.7倍与1.3倍。

面向驾驶的第二类云端优化方法是以动态或隐式Token替代冗长思维链,缩短链式推理带来的串行时延。其核心是先预测紧凑的世界动态Token、再生成驾驶动作,以减少文本思维链表达模糊和视觉思维链生成完整未来帧带来的冗余。香港中文大学深圳校区与小鹏汽车联合提出的FutureX在隐空间内做思维链:以Auto-think开关判断场景难度,复杂场景进入“思考”模式,由隐式世界模型推演未来表征;简单场景直接采用快速前向路径。论文报告在NAVSIM上使TransFuser的PDMS提升6.2。小鹏自身则在第二代VLA中称把视觉推理思维链效率提升约32倍,以保障车端实时运行。

世界模型/仿真侧的推理加速可单独归类,其压缩对象是训练与验证用的生成式视频世界模型,而非行车实时回路。小鹏于2026年4月底发布的X-Cache是面向其X-World世界模型的无需额外训练的加速方法:基于相邻画面段在去噪网络同层、同步上的中间特征高度相似,跨分块复用中间结果、跳过整层计算,官方称块跳过率达71%、实测推理加速2.6–2.7倍且画质损失较小。

3

车端部署优化:蒸馏上车与快慢双系统

车端侧压缩主要围绕三条路径展开,其共同约束是在既定模型能力目标和车规算力预算下完成部署,核心问题是如何在固定车规芯片上实现低时延、低内存占用和稳定部署。三条路径依次为:1)把云端大模型蒸馏为可上车的小模型,实现云端能力向车端迁移;2)以快慢双系统在运行时分离快速响应与复杂推理,优化车端运行架构;3)通过量化、投机解码、采样步数压缩、编译优化等底层推理工程降低端到端时延。

车端部署优化的第一类路径是“云端大模型蒸馏上车”,即云端训练高容量教师、车端运行蒸馏后的学生模型。Waymo在2025年12月公开材料中描述:以Waymo Foundation Model适配出Driver/Simulator/Critic三类大教师模型,因其规模过大无法在车端实时运行,需安全蒸馏为更小的学生模型;车端架构刻意镜像基座结构,并设独立的车端校验层对生成轨迹做验证。小鹏自动驾驶团队称其面向L4的720亿参数基座约相当于主流VLA的35倍,经预训练与强化学习后蒸馏为较小模型部署车端,并计划向MAX车主推送蒸馏版第二代VLA;其云端算力约10EFLOPS、利用率长期保持90%以上。理想则在云端以13EFLOPS,约3EFLOPS推理、10EFLOPS训练,构建约32B多模态基座,经强化学习与蒸馏压缩为约4B的车端VLA部署于Thor芯片,采用INT8/FP8混合精度、在10Hz帧率下完成视觉语言交互。

车端部署优化的第二类路径是快慢双系统,将“快速直觉反应”与“慢速复杂推理”在架构层面分工,以兼顾时延与长尾能力。理想较早采用基于卡尼曼“思考快与慢”的端到端+VLM双系统:系统1为端到端模型,直接由传感器输入输出轨迹,运行于一颗Orin-X,处理约95%常规场景;系统2为22亿参数VLM,以思维链做复杂语义推理后将语义判断结果反馈至系统1,运行于另一颗Orin-X。这一双系统后续被统一为单一VLA 4B MoE。Waymo在2025年12月材料中明确其基座采用Think Fast/Think Slow:传感融合编码器负责快速反应,融合相机、激光雷达和毫米波;Driving VLM基于Gemini负责复杂语义推理,能在“前方车辆起火”等罕见语义场景给出绕行信号;二者汇入World Decoder输出预测、地图、轨迹与校验信号。Waymo早期基于Gemini的EMMA亦显示,思维链推理使端到端规划提升6.7%。

车端部署优化的第三类路径是推理工程手段,覆盖量化、并行/投机解码、采样步数压缩与编译优化。量化方面,理想以底层推理引擎在Orin-X上以INT4量化运行VLM、在Thor上以INT8/FP8运行VLA;小鹏通过芯片-编译器-模型联合优化与自研“图灵结构”模型,称把基座编译效率提升约12倍。解码与采样方面,理想MindVLA采用Action Token并行解码、思维链使用小词表叠加投机推理、并以常微分方程 ODE采样器与扩散流匹配把生成轨迹的去噪步数由约10步压缩至2步,以在10Hz帧率下改善响应时延。这些手段大多源自通用大模型的推理优化方法,如投机解码、低精度量化,经车规适配后用于压低端到端时延。

产业与投资侧,云端训练算力多由车企与云厂商合作构建,头部基座实验室构成上游技术供给。国内主机厂在算力中心建设上多与腾讯云、阿里云、字节火山引擎、金山云等云服务商合作,以缓解高算力AI芯片的获取约束。上游基座侧,DeepSeek、MiniMax、阿里Qwen、月之暗面Kimi、智谱GLM、字节豆包、腾讯混元、百度文心等以MoE为主的稀疏化路线,持续向产业输出可被驾驶模型借鉴的效率技术,包括MoE、MLA、线性注意力、投机解码等;小米LaST-VLA隐式时空思维链、元戎启行等亦在VLA路线上推进。

4

 结论:云端探上限,车端保实时

从已披露路线看,云端基座与车端部署正逐步形成“云端探上限、车端保实时”的协同分工。云端以MoE稀疏化、注意力/KV压缩、低精度与投机解码持续扩展能力边界,并以视觉Token剪枝、隐式/动态Token替代冗长思维链来压缩驾驶VLA的串行开销;车端则以教师-学生蒸馏获取紧凑学生模型、以快慢双系统分置直觉与推理、并以量化与解码工程把端到端时延压入10Hz量级。

5

风险提示

技术迭代不及预期的风险:数字 AI、物理 AI 技术进展低于预期,任务或应用场景拓宽速度低于预期。

大模型厂商 ARR 增速放缓的风险:若客户增长、续费率或客单价不及预期,模型厂商 ARR 增速可能放缓。

云服务商资本开支不及预期的风险:若自由现金流承压,或 AI 算力需求及投资回报低于预期,云服务商可能下调资本开支。

智能驾驶及机器人商业化落地不及预期的风险:若产品可靠性、成本下降或用户需求低于预期,相关产品商业化进程可能放缓。

最新代表报告

《【AI系列深度21期】物理AI如何从架构借鉴走向模型迁移?》20260808

《【AI系列深度22期】智能驾驶VLA模型的架构范式与厂商路线》20260808

《【AI系列深度23期】智能驾驶的表征演进》20260808

东吴汽车团队介绍

团队荣誉

2025年证券时报(新财富)最佳分析师汽车行业第一名;

2024年证券时报(新财富)最佳分析师汽车行业第一名;

第二十一届新财富最佳分析师汽车和汽车零部件板块第二;

第二十届新财富最佳分析师汽车和汽车零部件板块第二;

第十九届新财富最佳分析师汽车和汽车零部件板块第三;

第十五届卖方分析师水晶球汽车及零部件板块第二;

第五届新浪财经金麒麟最佳分析师汽车行业第二;

第四届新浪财经金麒麟最佳分析师汽车行业第二;

第三届新浪财经金麒麟最佳分析师汽车行业第三;

Wind第十二届金牌分析师汽车板块第一;

Wind第十一届金牌分析师汽车板块第一;

Wind第十届金牌分析师汽车板块第一;

Wind第九届金牌分析师汽车板块第二;

上海证券报最佳分析师汽车板块第一;

黄细里 团队负责人

华中科技大学企业管理学士,上海交通大学企业管理硕士;

负责投资策略+汽车智能化主线,曾任职长江证券汽车分析师等,13年汽车行业研究工作经验

工作邮箱:huangxl@dwzq.com.cn

孟璐 团队成员

同济大学金融本硕;

聚焦全球化乘用车,5年汽车行业研究经验

工作邮箱:mengl@dwzq.com.cn

郭雨蒙 团队成员

中国海洋大学本科,北京航空航天大学硕士

聚焦零部件+机器人,2025年加入东吴证券,此前就职于民生证券、天风证券,5年汽车行业研究经验

工作邮箱:guoym@dwzq.com.cn

孙仁昊 团队成员

同济大学本科,香港中文大学(深圳)硕士

聚焦智能化零部件+客车,4年汽车行业研究经验

工作邮箱:sunrh@dwzq.com.cn

童明祺 团队成员

上海财经大学金融本硕

聚焦智能化乘用车,2025年加入东吴证券

工作邮箱:tongmq@dwzq.com.cn

公众号| 东吴汽车黄细里团队

请扫关注我们

免责声明:

本公众订阅号(微信号:东吴汽车黄细里团队)由东吴证券研究所汽车团队设立,系本研究团队研究成果发布的唯一订阅号。

本公众号所载的信息仅面向专业投资机构,仅供在新媒体背景下研究观点的及时交流。

本订阅号不是东吴证券研究所汽车团队研究报告的发布平台,所载内容均来自于东吴证券研究所已正式发布的研究报告或对已发布报告进行的跟踪与解读,如需了解详细的报告内容或研究信息,请具体参见东吴证券研究所已发布的完整报告。

本订阅号所载内容不构成对具体证券在具体价位、具体时点、具体市场表现的判断或投资建议,不能够等同于指导具体投资的操作性意见。本订阅号所载内容仅供参考之用,接收人不应单纯依靠本资料的信息而取代自身的独立判断,应自主做出投资决策并自行承担风险。东吴证券研究所及本研究团队不对任何因使用本订阅号所载任何内容所引致或可能引致的损失承担任何责任。

本订阅号对所载内容保留一切法律权利。订阅人对本订阅号发布的所有内容(包括文字、图片、影像等)未经书面许可,禁止复制、转载;经授权进行复制、转载的,需注明出处为“东吴证券研究所”,且不得对本订阅号所截内容进行任何有悖原意的引用、删节或修改。

特别声明:《证券期货投资者适当性管理办法》、《证券经营机构投资者适当性管理实施指引(试行)》于2017年7月1日起正式实施。通过新媒体形式制作的本订阅号推送信息仅面向东吴证券客户中的专业投资者,请勿在未经授权前进行任何形式的转发。若您非东吴证券客户中的专业投资者,为保证服务质量、控制投资风险,请取消关注本订阅号,请勿订阅、接收或使用本订阅号中的任何推送信息。因本订阅号难以设置访问权限,若给您造成不便,烦请谅解!感谢您给予的理解和配合。

原文链接
多空观点 观点仅供交流,不构成投资建议
点赞
踩一踩
收藏
分享

评论 (0)

0/200
声明:社区内容仅代表用户个人观点,不构成任何投资建议。投资有风险,入市需谨慎。