股票 
板块 
用户 
资讯 硅谷随笔
近期团队再赴硅谷，参加了OCP大会，并与科技巨头、头部模型厂、AI硬件公司、物理AI和Neocloud等公司做了一轮深入交流。与3月份相比，整体感受十分乐观与积极，与大家看待世界的角度不同，硅谷相信AI的需求是创造出来的。具体看有几点体会，模型侧更关心应用的方向与商业化、硬件侧更多讨论系统级协同与IDC落地节奏、物理AI侧兴奋于GPT-6的泛化能力、软件方面则无人再讨论“模型吞噬软件”，下面详细跟大家聊聊：
1、头部实验室不担心“数据墙”限制，Scaling Law未见收敛。硅谷认为肉眼可见的范围内，模型的迭代不存在“数据墙”的限制，一方面海量的私有数据集，虽然获取成本更高，但从数量和质量上均超过300T的公开数据集，另一方面头部实验室对合成数据（被视作提高模型深度推理能力的高质量数据）的使用超过50%。当前头部三家模型大厂旗舰模型均达到6-10T参数量，内部Teacher model在10T左右甚至更大，未来模型智力的来源仍然是利用更多高质量数据，训练规模更大、能力更强的模型，打造跨领域的“全才”，具身智能、金融、法律、生命科学等数据加入后，涌现新的泛化能力，再通过内部蒸馏的手段，推出推理性价比更高的中型尺寸模型。
2、RSI显著加速模型迭代，明年重回预训练。当前北美模型厂商迭代显著加速，背后核心原因是RSI大幅提高后训练自动化水平，尤其是在强化学习环节，后训练逐渐成为每天都持续进行的工作。当然必须承认的是现阶段的RSI带来更多的是量变而非质变，部分RSI驱动的后训练迭代可带来约10%-15%的能力改善，影响预训练阶段的RSI仍需更长时间来找寻答案。各家大厂均对明年的预训练抱有更大的期待，纷纷调配更大比重的算力给到训练环节，明年随着更大训练集群的搭建（几十万张TPU/GPU），模型能力有望继续大幅跃迁（旗舰模型冲击几十T参数量）。
3、Anthropic的ARR放缓源于算力不足，增量算力补充后，ARR将二次加速。Anthropic在3季度将内部训练（预训练、中训练、后训练、合成数据生成、AI安全对齐等）的算力占比从50%提高到了60-70%，挤压了推理算力，抑制了ARR的增长。模型厂商手上积压着大量未满足的需求，后续随着TPU（3.5GW）、Rubin、AWS的Trainium、AMD等不同来源的算力逐步到位，Anthropic的ARR有望出现显著的二次加速。
4、Coding的商业化天花板被低估，Co-Work、金融、法律、生命科学、网络安全、芯片设计等需求百花齐放。明年的ARR净增量上Coding仍是重要来源，一则单个组织或用户的需求不断提升，与上半年模型更多是辅助编程相比，现在的模型可以完成更长时程、更多步骤的任务，硅谷已经有很多人不再写代码，看起来人们应该做更少的工作，但实际却变得更忙，因为想要创造更多的软件更大程度地改造世界；二则Coding待覆盖客户还有很多，当前模型的Coding客户更多是科技企业，但传统行业的IT需求如房间里的大象，远未被满足，他们也有搭建Loop实现自动化迭代的海量需求。除了Coding外，Co-Work、金融、法律、生命科学、网络安全、芯片设计等多源需求正加速百花齐放，与投资人的角度不同，硅谷的科技巨头与创业者认为AI的需求是创造出来的，这些行业将接力Coding支撑ARR的持续高速增长。
5、北美模型厂商认为模型盈利格局或类似手机市场。头部模型公司在商业化上正两手发力，一手主抓核心的世界500强等企业，他们认为这些公司更重视的是模型输出Token的智力，性价比与推理速度优先级次之，头部客户的付费能力、付费意愿均更强，未来闭源模型的商业化有望像苹果那样以20%的销量拿走了行业大头的利润；另一手推出小尺寸模型与开源模型竞争，同时从软硬件层面优化，持续降低单Token成本，将有限的推理算力转化为更大的ARR。
6、反蒸馏本质上是数学问题，难以真正封锁。北美模型厂商所谓的反蒸馏措施，的确加大了蒸馏的成本和难度，但是本质上来看，反蒸馏在技术层面更多是思维链保护的数学加密问题，北美模型厂商并不认为真的能彻底封锁蒸馏的路径，开源模型对整个模型生态的贡献与推动难以被阻拦。
7、AI4S正以肉眼可见的速度加速渗透。3月份时，旧金山全球顶尖的生命科学研究所里，研究人员主要拿AI来辅助文献阅读，半年后，三家模型公司均与其达成了深度合作，在药物筛选和合成分子结构预测等方向潜力巨大。衡量AI在科研领域的应用效果有一个可追踪的指标，即能否提出一个好假设好问题，当前模型提出的10个问题里，研究人员判断可能有1个值得继续推进，尚有巨大进步空间，但科学家认为要不了太久，模型提出好假设的能力有望大幅提升，更大程度地改造生命科学研究。
8、“无人再谈模型吞噬软件”。3月份时，北美都在谈论模型吞噬软件，但这次调研无人再谈及此事，背后与模型厂商对B端垂直软件的态度发生变化有关，模型不是替代软件，而是利用软件来实际工作。以芯片设计为例，OpenAI与新思科技在EDA领域的合作目标，不是重新打造一个新的EDA软件，而是让AI能利用EDA软件来设计芯片，这应是模型看待大部分B端垂类软件的态度。
9、北美正加速形成多层次的FDE生态，加速企业AI渗透，B端垂类IT公司价值重估，与模型同向而行。针对大企业，头部模型公司亲自部署FDE工程师，赋能企业AI落地，将工作流自动化，并定期优化该流程，以实现更大程度的自动化，Anthropic、OpenAI和Google均拥有上千名FDE工程师加速该进程。针对中型企业，B端垂类IT企业选择与模型厂商同向而行，他们拥有客户资源、业务know-how与数据接口，在做企业AI的FDE落地上拥有显著优势，模型越强FDE越容易部署。针对长尾企业与AI Native企业，以Fireworks为代表，利用开源模型（Kimi、GLM等）+企业私有数据做后训练（post-training as a service），打造更符合企业需求的高性价比模型，正成为一种趋势。
10、C端各家大厂均将Personal Agent视作必争之地，端侧AI与其天然匹配，值得重视。AI Native的代表Instinct，成立不到1年，专注于Personal Agent领域，最新估值已达100亿美金；Meta在其他模型厂商将视野更多放在B端时，沿着最擅长的C端产品道路打造出了Muse。Muse最大的优势在于在一个对话框里解决了用户琐碎的各类需求并主动提醒，更符合人性，赚的是用户惰性的钱，当你习惯有个助理帮忙处理各种琐事，一旦形成习惯便很难再回去。端侧AI设备（AI眼镜、AI Pin等）与Personal Agent天然耦合，个人助理的好用程度与其对你的了解程度成正比，可佩戴的端侧AI设备可以充当采集信息与输出提醒的最佳交互枢纽，可预见的是随着Muse等产品与端侧AI设备的迭代和耦合，个人AI需求必将爆发出更大的潜力，中国的端侧AI供应链企业将迎来一轮新的机遇。
11、物理AI是AI的下一站，GPT-6 Astra是机器人大脑史上的里程碑。GPT-6在物理AI领域的泛化能力让北美感到兴奋，行业突然发现限制具身智能突破的“大脑”，有望复用大模型训练的成果，比如谷歌内部让机器人看一段互联网上施工队搬运沙袋的视频，机器人就直接学会了该动作。未来具身智能领域的“大脑+小脑”的路径将更清晰：LLM负责理解世界和任务规划与拆解，VLA把意图转成具体动作。可以期待的是，随着下一代LLM模型在预训练或后训练中加入更多的具身智能数据，在物理AI领域的泛化能力有望进一步跃迁。当然客观来看，走到产业落地仍存在3个挑战：1）LLM在物理AI上的推理速度很慢；2）动作执行层面仍存在“最后一公里”挑战，需要更多的真机数据提高任务准确率与完成度；3）大脑与小脑的耦合需要更丝滑，从LLM做出规划到VLA落地执行，二者之间的对接要更精准（未来大模型公司和头部具身智能大脑公司可能会有更多的资本和产业层面的合作）。但是可以确定的是物理AI找到了泛化的曙光以及努力的方向，机器人在垂类场景（比如工厂）的大规模应用不远了。
12、行业需要更多高质量的具身智能数据。站在LLM预训练和后训练的角度，需要把具身智能的数据塞进去让模型具备更强的泛化能力，站在VLA模型的角度，需要采集更多力觉、关节角度等传感数据，将抓取力度、动作精度、失败后恢复、不同环境下适配能力大幅提升，除了真机数据外，高质量的仿真数据也是重要的补充。部分北美产业人员认为泛泛采集一批数据的价值有限，必须要与大脑和本体公司深度合作，才能持续获取数据采集红利。
13、Optimus量产加速，内部对机器人走向工厂大规模应用充满信心。特斯拉的加州超级工厂的量产流水线已经开始运转，马斯克重新将工作重心倾斜到机器人领域，从解决量产瓶颈、到准备好训练大脑的算力集群、再到为机器人放量需要的芯片打造自有Fab厂，特斯拉仍然是准备最充分的龙头。未来Optimus将沿着清晰的道路，与模型同向而行，即先解决机器人的大规模量产、再让机器人去工厂干垂类工作同步采集数据、最终实现机器人造机器人，打造出“机器人产量增加——>同步收集的数据增加——>大脑持续迭代升级”的正向循环，推动物理AI的大规模落地，为模型和算力找到更大的出口。
14、Rubin需求极为强劲，企业 AI 拉动服务器需求，算力租赁价格有望继续上涨。北美在疯抢Rubin，根据Neocloud实测的结果，在同等功率限制且控制并发用户数的前提下，Rubin较上一代计算平台性能至少提升3倍，即单位电力约束下，Rubin可输出3倍以上的Token。无论是科技巨头，还是 Neocloud，均在疯抢Rubin，英伟达在算力上的优势仍然极为显著。此外，北美认为企业AI需求对服务器的本地化部署和定制化需求有望在明后年迎来大规模爆发，服务器的OEM厂商业绩有望持续增长。针对算力租赁价格，Neocloud、大模型公司和AI Native公司认为明年仍将呈现上涨态势，算力供需紧张程度未见缓解。
15、部分厂商认为TPU在预训练领域具备优势。当前的大模型训练集群已经到了20万卡左右的级别，未来将达到几十万卡，对大规模集群内部的互联要求将会更高，Google和Anthropic基于TPU做下一代模型预训练的优势有望显现，同时TPU在大规模算力集群的软件综合管理层面也具备实践层面的优势。
16、OCP上客户侧和供应链侧共识是NPO将成为未来2-3年行业主流。NPO凭借更加开放共创的生态、更低的成本，正成为客户和供应链共同押注的方向，未来2-3年将成为光互联领域的主流。基于客户不同的需求，不同的技术路径均具备市场空间，明年CW光源的方案会先于VCSEL放量，大部分场景下不需要DSP芯片，内外置光源方案各具优势。
17、英伟达的终极目标仍是CPO，但和思科的USFP方案延长了可插拔方案的寿命。英伟达与思科的USFP方案把可插拔继续推向更高速率（每通道 400Gb/s 电信号），在客户熟悉的维护方式下延长了可插拔产品的使用寿命，为客户提供多种选择。但英伟达的终极目标仍然是CPO，随着CPO的各环节良率问题逐步解决，CPO的确定性放量也是长期持续的趋势。
18、电源层面800VDC将于明年Q2/Q3开始放量。随着芯片功耗进一步提升，电源模块对机柜内部空间的挤占，要求供电架构必须升级，无论是±400VDC还是800VDC都将加速放量。更多的客户选择配套Rubin Ultra的出货节奏导入800VDC，台达、麦格米特、光宝等均准备好了Sidecar的形式，产业层面认为有望将于明年Q2Q3左右放量。
19、Agentic AI对于CPU和存储的拉动显著。与去年的OCP相比，今年有更多的客户和供应商讨论Agentic的需求，更多的个人Agent和企业Agent的部署，将推动AI大幅拉动CPU需求，带动CPU行业呈现新一轮爆发。对于存储的需求，仍然是极其旺盛，站在模型厂商角度，KV Cache Offload、HBM降规是供应链妥协的结果，最佳方案仍然是使用更大带宽更高容量的HBM，此外Agent对于内存的需求拉动也极为显著，存储供需紧张程度并未看到缓解。
20、美国有资本主义的办法解决IDC建设的瓶颈。市场担心北美IDC建设不及预期造成供应链延迟，比如建设IDC时，当地居民反对、缺电力设备、缺电工、缺施工队、缺卡车司机等问题构成限制瓶颈，但与北美交流下来，虽然这些问题解决起来均较棘手，但美国人有资本主义的办法解决该问题，以当地居民反对IDC建设为例，部分IDC建设方通过与当地选区达成收益分成方案，给当地选民发钱或配套周边建设等以取得审批支持，效果不错。另外，两党围绕中期选举在IDC建设审批上的争论，本质上也只是阶段性的利益分配问题，美国已经与AI产业深度绑定，无论谁当政，都不可能对AI产业的发展在政策层面造成方向性调整。
21、世界是乐观的人创造的。AI巨轮滚滚向前，必将繁荣人类社会，带来不止一轮股市繁荣景象，站在未来回看现在，一定会发现当前的担忧，只是巨大技术社会变革浪潮中的小涟漪，保持乐观，保持耐心，相信AI会自己找到答案。
---郑元昊、鲍恩雪 20261025
点击下方阅读原文，获取更多最新资讯
评论 (0)