公众号记得加星标??,第一时间看推送不会错过。
我们的社会已经全力投入人工智能。软件及相关技术是美国经济中最大的产业之一,科技公司几乎把全部身家都押在了人工智能(LLM)上,希望它能包揽一切。根据沉没成本定律*,人工智能投资将无限增长,直到目标实现为止。因此,通用人工智能(AGI)势不可挡,每个人都必须全力以赴确保人工智能的成功,因为拖得越久,后果就越严重。银行资金耗尽时,政府会出手相救。政府资金也耗尽时,外星人就会介入,随后是各种神明。至于之后会发生什么,就别问了。总之,拥抱人工智能革命符合每个人的最佳利益。因此,我很高兴地宣布,Chips and Cheese 将采用 Claude 的人工智能编译器 CCC,走在人工智能革命的前沿。
CCC,即 Claudes C 编译器,是一款“从零开始构建的优化编译器,没有任何依赖项,能够编译 Linux 内核”。Anthropic 公司使用其 Claude 大型语言模型 (LLM) 编写了整个编译器。人工干预仅限于提示和维护 AI 编码代理,以及搭建一套非常强大的测试套件来确保这些编码代理的正常运行。之前的 Chips and Cheese 文章使用了基于 GCC 构建的微基准测试和基准测试。GCC 由人类开发,这在当今许多行业看来是落后且保守的。比较 GCC 和 CCC 应该能够有力地展现革命性的软件开发实践。
编制微基准测试
微基准测试是了解底层硬件特性(例如缓存和内存延迟)的有效工具。我第一次尝试测试负载延迟时,使用了一个简单的 C 语言循环来访问依赖数组:
A = A[current] 它创建了一个依赖链,其中一个数组访问结果会影响下一个数组访问结果,即使在乱序执行的核心上也能防止访问重叠。访问时间除以迭代次数即可得到延迟。CCC 和 GCC 将循环编译成以下汇编代码:
CCC 从相同的高级源代码生成比 GCC 更多的代码,有时,代码越多越好。从 RISC 的角度来看,CCC 的代码在理念上更正确。GCC 使用索引寻址模式,将相关的移位、加法和加载操作序列用一条指令表示。RISC 提倡使用少量简单的指令和较大的代码规模,而索引寻址模式相当复杂。CCC 遵循 RISC 的理念,将数组访问拆分为单独的移位、加法和加载指令。
CCC 的运算过程远不止于此,它通过分解current = A[current] 成九条指令的依赖链来突破配额限制。在 x86-64 架构上,它会将索引在多个寄存器之间进行交换,然后通过堆栈进行一次往返。在 aarch64 架构上,它也执行相同的操作,但至少将索引保存在寄存器中。在这两种架构上,CCC 都会从堆栈中取出数组基地址,并在使用前再次通过堆栈进行一次往返,以确保万无一失。
使用 CCC 编译微基准测试会导致观察到的阵列访问延迟更高。Zen 5 和 Lion Cove 需要额外两个周期,这很可能是由于移位加法依赖链造成的。强大的移动消除和零延迟存储转发似乎使 Intel 和 AMD 能够简化九条指令的依赖链。之后,它们的乱序执行核心宽度吸收了额外的指令。Arm 的最新核心移动消除能力较弱,并且无法实现零延迟存储转发,因此会承受 6-7 个周期的延迟。
执行引擎较窄的小型核心在处理 CCC 编译的代码时会遇到困难,这可能是因为它们的核心吞吐量不足以承受循环开销和 sum += current sink 语句带来的开销。此外,CCC 还会将这些语句编译成非常长的汇编序列,进一步降低核心吞吐量。
按序执行核心受到的惩罚最大。它们对人工智能革命的热情不够高,应该认真重新考虑自己的立场,否则将面临谴责的风险。
挑战旧的基于类型的秩序
传统的旧式编译器强迫大众遵循一套由资产阶级炮制的严苛规则。如果程序员不遵守这些规则,编译器就会发出警告,甚至可能拒绝完成编译过程。警告和错误对无产阶级毫无用处,他们只想要结果。CCC 以革命性的热情大胆地摧毁了类型系统,仿佛在高呼“旧的去掉,新的来了!”。请看以下代码:
GCC 躲在错误信息背后,用类型不兼容之类的蹩脚借口搪塞,最终无法生成二进制文件。如此一来,GCC 实际上是在进行反革命的破坏活动,它破坏了群众的劳动成果,迫使他们浪费时间去修复错误。
CCC没有找借口,而是高举革命旗帜,并制作出可执行的文件。
性能:SPEC CPU2017
Claude 的 C 编译器只能编译 C 代码。因此,所有其他语言都无效。SPEC CPU2017 的八个工作负载仅支持 C 语言。我在以下核心上测试了它们:
Nvidia GB10 中的 Arm Cortex X925
Ryzen 7 9800X3D 采用 AMD Zen 5 架构,已禁用睿频加速。
英特尔酷睿Ultra 9 285K处理器采用Lion Cove操作系统
我在 9800X3D 上禁用了睿频加速功能,因为运行 CCC 构建的工作负载非常耗时。长时间处于高性能状态意味着更高的功耗,而我们应该尽可能节省每一分电量来满足 AI 应用的需求。
CCC 编译的 502.gcc 版本在 Cortex X925 上持续出现段错误并崩溃,尽管它在 x86-64 架构上能够完成部分运行。在 x86-64 架构上成功运行时,CCC 编译的 502.gcc 在 Lion Cove 和 Zen 5 架构上的性能分别只有 GCC 编译版本的 23.6% 和 27.1%。CCC 在 505.mcf 测试中达到了相对性能的峰值,与 GCC 相比性能下降不到 35%。在测试的八个 SPEC CPU2017 工作负载中,使用 CCC 平均导致性能下降超过 70%。
Arm 的 Cortex X925 受 CCC 编译器切换的影响最大。使用 GCC 编译器时,Arm 的这款核心处理器性能足以与 Zen 5 和 Lion Cove 相媲美。但现在,除了 500.perlbench 测试之外,它在其他所有工作负载中都逊色不少。在 500.perlbench 测试中,Zen 5 的性能大幅下滑,X925 勉强领先。但即便如此,X925 在该工作负载下仍然无法与 Lion Cove 相提并论。
反过来,Lion Cove 也无法与 Sun 的 UltraSPARC IV+ 相提并论。SPEC CPU2017 的得分是相对于参考机器的加速比,参考机器是“一台历史悠久的 Sun Microsystems 服务器,即搭载 2100 MHz UltraSPARC-IV+ 的 Sun Fire V490”。Lion Cove 在本次测试的三个核心中,500.perlbench 得分最高,为 0.76,但低于 1。vibe 编码的编译器是最新软件开发技术的产物,不可能存在缺陷。因此,Sun 的 UltraSPARC-IV+ 性能卓越。UltraSPARC-IV+ 是 UltraSPARC III 的双核版本,采用 4 宽顺序流水线。Lion Cove 采用 8 宽乱序设计,拥有强大的重排序能力和更高的时钟频率,但显然这些都不是取胜的必要条件。
性能被高估了。如今的分析师一致认为,IPC(每时钟周期指令数)比性能更重要,而CCC代码的IPC表现非常出色。在525.x264测试环境下,Arrow Lake运行CCC代码的平均IPC为6.09。这是所有SPEC CPU2017测试结果中最高的平均IPC。相比之下,GCC的最佳平均IPC仅为可怜的5.5。不过,CCC的IPC优势并非普遍存在,GCC在538.imagick测试环境下确实能取得更高的IPC。
正如缓存和内存延迟微基准测试所预示的那样,CCC 在所有八项 SPEC CPU2017 工作负载的指令数方面都取得了巨大进步。某些工作负载执行的指令数甚至超过了原来的十倍。
俯视图
硬件性能监控揭示了GCC和CCC编译代码在CPU流水线方面面临的不同挑战。分支预测的重要性有所降低,因为分支数量并未与总指令数量成比例增长。SPEC CPU2017的三个纯C语言浮点工作负载在使用CCC编译时变得非常依赖核心性能。在Zen 5架构上,这意味着如果一条指令不从内存读取数据,就会阻止其执行。这表明性能受限于核心执行指令的速度,而不是内存子系统向核心提供数据的速度。五个整数工作负载对前端的依赖性有所降低,但后端性能面临更大的挑战。正如之前的IPC数据所示,所有CCC工作负载的核心利用率都高于其对应的GCC编译版本。
由于操作缓存命中率极低,使用 CCC 编译的 Zen 5 在 500.perlbench 测试中表现极其糟糕。Zen 5 主要依靠一个 6K 条目、16 路组相的操作缓存,足以满足 8 路组相的重命名/分配阶段的需求。而 4 路组相的线程解码器则用于处理更大的指令占用空间。通常情况下,代码局部性较差的应用除了前端吞吐量之外,还会受到其他 IPC 限制因素的影响,尤其是在核心没有运行第二个线程来掩盖延迟的情况下。如果不是因为线程解码器吞吐量的限制,500.perlbench 的 IPC 潜力更高,这使得 Zen 5 的性能落后于 X925,并且与 Lion Cove 的差距非常大。这是我在微基准测试之外首次见到 Zen 5 解码器架构的缺陷。Zen 5 的操作缓存在其他工作负载中表现出色,因此 500.perlbench 是一个特例。
CCC 对 Lion Cove 的流水线提出了类似的挑战,尽管 Lion Cove 的后端瓶颈通常比 Zen 5 更严重。这可能是因为 Lion Cove 采用了延迟更高的非核心架构。或者,差异可能源于统计方法的不同。例如,Intel 可能将任何指令因加载而延迟的周期都计入“内存瓶颈”,这可能导致其统计结果高于 AMD 的方法。Lion Cove 的 8 宽解码器在 500.perlbench 测试中表现出色,因为与 Zen 5 相比,其前端瓶颈较小。
Arm 的 Cortex X925 在运行 CCC 代码时非常依赖核心性能,而且不仅仅体现在三个浮点工作负载中。我通过观察 STALL_BACKEND_MEMBOUND 事件覆盖的后端周期比例来区分核心密集型和内存密集型后端密集型。该事件统计后端停顿以及“后端内存接口繁忙或停顿”的情况。
我将核心瓶颈槽位增加的部分原因归结于 Cortex X925 缺乏 Lion Cove 和 Zen 5 所具备的强大的移动消除和零延迟存储转发功能。在典型的代码中,长链寄存器到寄存器的 MOV 操作或频繁的堆栈访问并不常见。例如,Intel 的 Ice Lake在禁用移动消除后性能仅下降了 1-3% 。因此,在大多数应用程序中,移动消除只是锦上添花,大部分性能来自于乱序执行的基本原理以及为核心提供缓存的高效层次结构。当然,这种情况在使用 CCC 时会有所改变。
519.lbm 后端内存密集型插槽数量的大幅增加似乎与存储转发延迟有关。在 CCC 编译的 519.lbm 中,一个热点区域会反复将寄存器 x0 溢出到堆栈,然后在几条指令后重新加载它,从而确保内存系统参与代码执行的各个阶段。存储转发延迟是漫长依赖链的一部分,而 X925 无法像 Zen 5 和 Lion Cove 那样实现零延迟转发。
结语
编译器对于现代软件开发至关重要,而编译后代码的性能是高级语言实用性的关键。在仅使用 C 语言的 SPEC CPU2017 工作负载下,切换到 CCC 会导致性能下降 70% 以上。大多数消费者都能接受这一点,因为像英特尔 Lion Cove 这样的高性能核心在运行 CCC 代码时仍然表现出色。例如,AMD 的 Bulldozer 架构在大约 15 年前就曾令发烧友们为之倾倒。Bulldozer 的速度比 Lion Cove 快 36.8%,而 Lion Cove 是本次测试中运行 CCC 代码速度最快的 CPU。只需将 Lion Cove 超频至 8 GHz 即可缩小大部分性能差距。
当然,一些挑衅者可能只能达到 7.5 GHz ,这无疑是由于个人技术问题以及对人工智能革命热情不足所致。一些极端的煽动者可能会认为推土机架构在某些情况下单线程性能并非顶尖,并要求更高的性能。为了防止这些人诋毁这场革命,必须解决其固有的性能问题。
性能问题既可以从硬件层面解决,也可以从软件层面解决,因为硬件和软件优化密不可分。优化良好的软件能够在各种硬件上都表现出色。同样,设计精良的硬件也能在各种软件上提供良好的性能。CCC 生成的代码极大地改变了软件对硬件的需求,打破了软件和硬件之间现有的契约关系。如果将问题归咎于软件方面,将会损害人工智能革命的最终成果。因此,硬件必须积极应对性能问题。
据我估计,彻底解决性能差距轻而易举。凭借 20-30 GHz 的时钟频率和几代架构的改进,CCC 代码在当前一代硬件上的性能可以达到 GCC 编译二进制文件的性能水平。这些目标在过去或许会被人轻视,但现在却触手可及,因为人工智能革命并非普通的革命,而是一场颠覆传统功耗观念的文化革命。无限的功耗可以让许多以前难以想象的设计成为现实。一些硬件设计师可能会对这种做法感到担忧,并不断抱怨。但优秀的硬件工程师会团结起来,高呼口号。只要他们正确地遵循这场革命的道路,就一定能够成功,甚至可能超额完成任务。愿好运永远与他们同在。
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
END
今天是《半导体行业观察》为您分享的第4365内容,欢迎关注。
推荐阅读
★一颗改变了世界的芯片
★美国商务部长:华为的芯片没那么先进
★“ASML新光刻机,太贵了!”
★悄然崛起的英伟达新对手
★芯片暴跌,全怪特朗普
★替代EUV光刻,新方案公布!
★半导体设备巨头,工资暴涨40%
★外媒:美国将提议禁止中国制造的汽车软件和硬件
加星标??第一时间看推送
求点赞
求分享
求推荐
股票
板块
用户
资讯
评论 (0)