工程哲学：Jim Keller，晶体管不要钱

核心要点

• 晶体管很便宜，瓶颈才昂贵。 Keller 标志性的做法贯穿三十年、十几款芯片：花硅片去消除阻碍吞吐量的那个东西——更宽的流水线、更多的执行单元、更快的互连——因为一个没被用上的晶体管就是一个被浪费掉的晶体管。当多出来的硬件能让繁忙的单元持续有活可干、而非闲置时，这笔赌注就赢了。¹⁷
• 你接触到的一半计算背后的芯片，都出自他的架构。 DEC 的 Alpha，AMD 的 Athlon（K7）和 K8——他在 K8 上参与制定了 x86-64（AMD64） 指令集与 HyperTransport 互连——接着是 iPhone 4 和初代 iPad 背后的 Apple A4 与 A5，再是 AMD 的 Zen 翻身之作，然后是 Tesla 的自动驾驶计算机，又在 Intel 短暂出任高级副总裁。鲜有工程师塑造过如此多的产品线。¹²³
• 摩尔定律并没有死——只是人们不再去数它底下的那些创新了。 Keller 公开的立场，无论在演讲还是正式访谈中，都是：晶体管微缩还有一二十年可走，因为密度来自数以千计层叠的创新，而非某个单一的诀窍。现代晶体管的鳍仍有一百多个原子宽，往下还有很长的路。⁴⁷
• 从宾州州立大学的电气工程学位到 RISC-V 布道者。 大约出生于 1958 年，在宾夕法尼亚州立大学攻读电气工程，此后职业生涯一路走过 DEC → AMD → Broadcom → P.A. Semi → Apple → AMD → Tesla → Intel，如今出任 Tenstorrent 的 CEO，在开放的 RISC-V 指令集上构建开放的 AI 加速器。¹⁵⁶

原则

“当全世界以为摩尔定律已死时，晶圆厂和技术专家们却认为它没有死，而且现在每一家都公布了摩尔定律的十年路线图。” —— Jim Keller⁴

大多数工程师把硬件当作一份固定的预算。给你一个晶体管数量、一个功耗范围、一个工艺节点，你就在这个范围之内去优化——这里省一个周期，那里折叠一级流水线，精打细算地配给硅片。Keller 反其道而行。他把晶体管当作那个便宜的资源，把瓶颈当作那个昂贵的资源。如果某个单元正在让机器的其余部分挨饿，答案很少是把这个单元做得更聪明，而是花更多硅片——复制它、给它做流水线、拓宽通往它的路径——好让瓶颈消失，让下游一切都保持忙碌。⁷

业界给这套思路贴的标签是“晶体管不要钱”。这话并非字面属实，Keller 自己也清楚——硅片要花钱、要耗电。重点在于比较。工程师的时间稀缺，设计风险危险，而一个闲置的执行单元是纯粹的浪费。相比之下，边际上的那个晶体管是你手里最不缺的东西，而摩尔定律每隔几年还会再塞给你更多。所以有纪律的做法是花掉那个充裕的资源，去节省稀缺的资源。这一个重新定义——到底哪个资源才真正便宜——正是他的芯片往往偏宽、激进、追求吞吐量，而非小巧精巧的原因。¹⁷

这也解释了他为何在“摩尔定律没死”这件事上如此大声疾呼。如果晶体管即将不再变便宜，整套策略就会崩塌。所以 Keller 做着那件不光鲜的工作：用数字去论证，微缩还有一二十年可走——“摩尔定律”从来都不是某一项创新，而是数以千计创新的级联，每一项都有自己的边际递减曲线，加总起来才成了指数。⁷ 花掉便宜的资源去干掉瓶颈，并不断证明那个便宜的资源依然便宜。 其余的都是细节。

背景

James B. Keller 大约出生于 1958 年，在 宾夕法尼亚州立大学取得电气工程学士学位，于 1980 年毕业。¹ 接下来是这个行业历史上最不可思议的履历之一——之所以如此，不是因为某一款芯片，而是因为定义时代的芯片如此之多，且分布在通常互为对手的公司之间。

他于 1982 年加入 Digital Equipment Corporation，一直待到 1998 年，先后参与了 VAX 8800，随后是 Alpha 系列——21164 和乱序执行的 21264（EV6）——它们都是各自时代最快的微处理器。¹ 1998 年他转投 AMD，在那里帮助推出了 Athlon（K7），并担任 K8 微架构的首席架构师。K8 是最举足轻重的一款：Keller 参与制定了把 x86 扩展到 64 位的 x86-64（AMD64） 指令集，以及把多个处理器连接起来的 HyperTransport 互连。AMD64 成了整个 PC 与服务器世界赖以运行的 64 位标准，连 Intel 也不例外。¹²

随后是辗转流转的岁月。1999 年的 SiByte（MIPS 网络芯片），2000 年被 Broadcom 收购，他在那里担任首席架构师直到 2004 年；2004 年起加入 P.A. Semi 任工程副总裁，打造低功耗移动处理器。Apple 于 2008 年收购了 P.A. Semi，Keller 主导了 A4 与 A5 片上系统的设计——iPhone 4、iPhone 4S、初代 iPad 和 iPad 2 里的那块硅片。这些芯片为 Apple 的自研硅片计划播下了种子，正是这一脉络最终孕育出了 Apple Silicon。¹³ 他 于 2012 年重返 AMD 去架构 Zen，正是这个微架构把 AMD 从近乎无足轻重的境地拉回到真正的竞争行列。¹ 接着是 2016 年起的 Tesla，任 Autopilot 硬件副总裁，他与 Pete Bannon 一同主导了 完全自动驾驶（FSD）计算机；然后是 2018 至 2020 年在 Intel 担任硅工程高级副总裁。¹² 自 2020 年底起，他一直在 Tenstorrent——先任 CTO，2023 年起任 CEO——在 RISC-V 上构建 AI 加速器。⁵⁶

贯穿始终的不是对某家公司的忠诚，而是对一套方法的忠诚——这套方法的可移植性足以让他先后在 DEC、AMD、Apple、Tesla 和 Intel 都赢下来。

工作

流水线与“晶体管不要钱”

先从那个支撑起其余一切的想法说起，因为正是在这里，Keller 的直觉变成了算术。处理器分步执行指令——取指、译码、读操作数、做运算、写结果。最朴素的机器会把一条指令一路跑完这些步骤，才开始下一条。问题在于，当运算单元在干活时，取指和译码硬件却闲坐着；当结果正在写回时，几乎其他所有部件都无所事事。你那些昂贵的硅片，大部分时间里大部分都是黑着的。

解法是 流水线（pipelining）：把工作拆成若干级并让它们重叠，就像一条流水生产线。当第一条指令处于运算级时，第二条正在译码，第三条正在取指。每条指令仍要走同样多的步骤，但机器如今每个周期完成一条，而不是每五个周期才完成一条，因为没有哪一级会闲着。代价在于，让工作重叠是要花硬件的——各级之间的锁存器、跟踪依赖关系的逻辑、处理“第二条指令需要第一条尚未产出的结果”这类情况的机构。你花晶体管去让各单元保持忙碌。¹

Keller 的芯片把这笔赌注押得很重。走 超标量——多个执行单元，于是每个周期能完成不止一条指令——以及 乱序执行——重排指令，让一条阻塞的指令不至于挡住就绪的指令——两者都要为记账消耗大量硅片。Alpha 21264 是一款激进的乱序设计；AMD 的 K7 和 K8 是宽超标量机器；Zen 又一次拓宽了路径。¹ 每一次，道理都一样：执行单元才是要点，闲置的单元是浪费，而让它们有活可干所需的晶体管是这栋楼里最便宜的东西。花硅片去消除瓶颈。这就是原则，而流水线是它可能存在的最简单形式。

AMD 的翻身与 AMD64 脉络

最深刻地重塑了这个行业的工作是 K8。到了 2000 年代初，x86 的 32 位地址空间快要不够用了——4 GB 内存正成为一道真实的天花板。前路有两条。Intel 的赌注是 Itanium——抛弃 x86，另建一个干净的全新 64 位架构，从而打破与海量既有软件的兼容性。而由 Keller 主导架构的 AMD 的赌注则恰恰相反：把 x86 扩展到 64 位，同时保留它以全速运行所有现有 32 位代码的能力。这就是 x86-64，也叫 AMD64。¹²

这个务实的赌注大获全胜。软件无需重写；升级路径毫无痛苦；旧代码的性能不受损失。AMD64 成了标准，最终是 Intel 采纳了 AMD 的扩展，而不是反过来——今天几乎每一颗 PC 与服务器 CPU 里的架构，都是 Keller 团队当年制定的那一套。与之并行，HyperTransport 给 AMD 的 Opteron 服务器提供了一种快速的点对点方式来连接多个处理器，直击那个“晶体管不要钱”的直觉总在追猎的内存与互连瓶颈。¹² 当 Keller 于 2012 年重返 AMD 去架构 Zen 时，他在一家几乎已跌出高性能赛道的公司身上重演了这一套路：一个宽、干净、模块化的核心，它缩小了与 Intel 的差距，让 AMD 重新拥有了一条可信的产品线。¹ 两度走进 AMD，两度都给它留下了定义其下一个十年的架构。

从零开始的 Apple 硅片

阴影最长的那一章，却是最安静的。当 Apple 于 2008 年收购 P.A. Semi 时，Keller 带领团队设计了 A4——Apple 第一款自研片上系统，2010 年随 iPhone 4 和初代 iPad 出货——以及它的继任者 A5，用于 iPhone 4S 和 iPad 2。¹³ 在此之前，Apple 的移动处理器是现成采购的。A4 正是 Apple 决定掌控自家硅片的那一刻，而 Keller 帮助确立的团队与纪律，成了如今那个为每一部 iPhone、iPad 和 Mac 供能的 A 系列与 M 系列芯片计划的根基。

其战略逻辑，是同一种追求吞吐量与掌控力的直觉在新领域里的体现。一部手机最苛刻的约束是每瓦性能：你没法用台式机的功耗预算去硬碰硬。端到端地拥有设计——而非接受某家供应商的通用部件——让你能把晶体管恰好花在工作负载需要的地方，而绝不花在它不需要的地方。这是“晶体管不要钱”原则为了电池而被倒过来：不是“随意加硅片”，而是“每一个晶体管都刻意安放，因为整套设计都归你”。从 A4 到今天的 Apple Silicon 的那条线，以及那种 John Carmack 让其声名远扬的、感知硬件的性能工作，都笔直地穿过 2008 年的那个决定。³

第一性原理，与 Tenstorrent 的开放硬件

把这些公司串起来的那套方法是 第一性原理思维——愿意抛掉沿袭而来的假设，去追问问题究竟需要什么。Keller 直言不讳地说架构会腐烂：大约每隔五年，他主张，你应该从头做一次设计，而不是在旧的上面打补丁，因为重写出来的版本最终既更快也比它所取代的那个层层累积的版本更简单。⁷ 这门纪律，是不断追问你真正想做的是什么，剥去那些两个工艺节点之前还成立、如今已不成立的约束。⁷

正是这种直觉让他拒绝“摩尔定律已死”的共识。他的论证是机械式的，而非信仰式的：晶体管密度是数以千计独立创新的总和，每一项都在自己的边际递减曲线上，而这个总和仍是指数级的。今天一个 FinFET 的鳍有一百多个原子宽；你可以设想一个边长十个原子的晶体管，“小一百万倍”，然后才会触到地板。“所以我们并没有把原子用光，”用他的话说。⁴⁷ 在他的讲述里，悲观者只数了一项创新，却漏看了整个级联。

在 Tenstorrent，他出任 CEO，这个第一性原理的赌注是制度化的。公司在 RISC-V——那个开放的、免于授权费与专有控制的指令集——上构建 AI 训练与推理加速器，并打算把自己的软件栈开源、把 CPU 与 AI 核心 IP 对外授权，而不只是卖芯片。⁵⁶ Keller 公开的信念是：“在接下来的 5 到 10 年里，RISC-V 将接管所有的数据中心。”⁵ 这一赌注是：开放硬件会像此前的开放软件一样，凭第一性原理取胜——降低门槛，让众多参与方都能构建，开放的生态会在创新上压过封闭的那个。这是同一个曾让 x86 成为标准的人，如今押注标准应当属于无人拥有的那一个。

方法

把 Alpha、AMD64、Zen、A4 和 Tenstorrent 通读一遍，同样的招式反复出现。Keller 的方法与其说是一句口号，不如说是一组长期坚守的承诺。

花掉便宜的资源去干掉瓶颈。 那个定义性的习惯，是辨认出哪个资源其实是充裕的——通常是晶体管——然后毫不吝惜地花掉它，去消除任何让吞吐量挨饿的东西。更宽的流水线、更多的单元、更快的互连。这条普遍教训可以迁移：找出你手里最多的那个资源，拿它去交换你手里最少的那个，而不是把所有资源都一视同仁地配给。这是硅片层面的质量是唯一的变量——正确性与吞吐量才是目标，而晶体管预算并不是你以为的那个约束。⁷

按时间表从头重建。 大约每隔五年，把设计重做一遍，而不是打补丁，因为沿袭而来的假设会钙化，重写出来的反而更简单。丢弃那些“能用但过时”的工作所需的勇气稀有而关键——正是这同一种直觉，让Linus Torvalds 扔掉一个不再合身的子系统。⁷

追问问题究竟需要什么，而非上一个设计假设了什么。 第一性原理思维意味着剥去那些两个节点之前还成立、如今已不成立的约束。这门纪律是不断追问“我们究竟想做的是什么”，直到沿袭而来的包袱悉数脱落——把证据关口对准你自己的假设，而非别人的论断。⁷

在预算吃紧时刻意安放每一个晶体管。 “晶体管不要钱”的另一面是手机：当撞墙的是功耗而非面积时，你拥有整套设计，于是能把硅片恰好放在工作负载需要的地方。知道自己身处哪一种格局——充裕还是稀缺——并据此设计，才是真正的本领，而非一条放之四海皆准的规则。³

把开放当作第一性原理来押注。 RISC-V 和一个开放的软件栈，是这样一个赌注：降低门槛让更多人来构建，开放的生态会在创新上压过封闭的那个。这是把最低限度值得做的产品那套推理应用到整个平台上——发布那个别人能在其上构建的开放之物，而非那个只有你才能做的封闭之物。⁵⁶

影响链

谁塑造了他

DEC 与 Alpha 文化。 Keller 在 Digital 学会了高性能设计，是在 Alpha 系列上，在一个几乎把原始速度与激进乱序执行看得高于一切的组织里。那个“花硅片去赢得吞吐量”的信念，正是在那里、在各自时代最快的微处理器上锻造出来的。（奠基性影响）

Dirk Meyer 与 Pete Bannon。 Keller 最重要的工作都来自合作——他与 Dirk Meyer 共同架构了 Alpha 的乱序 EV6，随后又与 Pete Bannon 一同主导了 Tesla 的 FSD 计算机，而 Bannon 后来沿一条平行的路径进入了 Apple 的硅片计划。这些合作并非偶然；最难的芯片是团队运动，Keller 那些反复出现的共同架构者塑造这份工作的程度，不亚于他塑造他们的程度。（直接影响）

摩尔定律本身。 整套“晶体管不要钱”的策略，都仰赖晶体管持续变便宜。Keller 的世界观是 Gordon Moore 那个观察的下游——这也正是他如此激烈地为它辩护的原因。如果那个微缩创新的级联停下来，方法就不得不改变。（奠基性影响）

他塑造了谁

Apple Silicon。 Keller 在 P.A. Semi 收购后帮 Apple 立起来的 A4、A5 团队与纪律，成了如今那个产出每一颗 A 系列与 M 系列芯片的计划的根基。过去十年最举足轻重的消费级硅片，可追溯到一个他身处核心的决定。

AMD 的两次翻身。 K8/AMD64 让 AMD 成为服务器领域的有力竞争者，并确立了全世界赖以运行的 64 位标准；十年后，Zen 又把 AMD 拉回了高性能赛道。在他离开后的多年里，这两个架构都各自定义了 AMD 的竞争地位。

RISC-V 与开放硬件运动。 作为业界最可信的架构师之一，在公开与商业层面都押注于开放指令集，Keller 为“硬件能像软件那样走向开放”这一论点增添了分量。Tenstorrent 就是这一论点的实证。

贯穿线

Keller 是本系列那条关于花对资源的线索与硅片相遇之处。John Carmack 靠把机器理解到周期级别，从固定的消费级硬件里榨出不可能的性能；Keller 工作在他下面那一层——他设计机器，而他对一个瓶颈的答案不仅是绕着它写代码，更是加上那块能消除它的硅片。Bjarne Stroustrup 在零开销抽象的原则上构建了 C++，即你不应为你不使用的东西付费；Keller 的“晶体管不要钱”是硬件层面的镜像——把钱花在让机器保持忙碌的东西上，绝不在闲置的东西上浪费分毫。而当 Andrej Karpathy 描述“软件 2.0”——由数据编译而成、而非手写而来的程序——时，Keller 正在构建那种新工作负载所要求的硅片——基于开放 RISC-V、从第一性原理出发为一个旧式通用 CPU 从未被塑造来应对的问题而设计的 AI 加速器。Carmack 说，把给你的硬件吃透；Stroustrup 说，别为你不使用的东西付费；Keller 说：当硬件就是瓶颈时，造一个更好的——并不断证明，还有原子可花。（系列桥接）

我从中获得的

我从 Keller 那里记住的教训是：查清到底哪个资源才便宜，然后毫无愧疚地花掉它。 把一切都一视同仁地配给是容易的——把每个约束都当作绑定的，怯生生地在所有约束之内同时优化。Keller 的习惯是留意到某一个资源是充裕的、其余的是稀缺的，然后朝着那份充裕所允许的方向狠狠交换。晶体管便宜；闲置的单元和工程师的时间昂贵；所以花晶体管去干掉瓶颈。在我自己的工作里，那个充裕的资源很少是硅片——它往往是算力，或一个模型的 token，或廉价地重新生成一份草稿的能力。招式是一样的：别再配给那个你手里最多的东西，把它对准那个真正卡住你的东西。

第二条教训是按时间表从头再来的意愿。Keller 那个主张——你应该每隔几年就从头重新设计，因为重写出来的会比修修补补的原版更简单——与每一种保护自己已完成工作的本能相抵触。但他说得对：假设会钙化，那些曾经成立的约束会悄然不再成立，而层层累积的设计背负着它们全部的重量。这门纪律是周期性地用全新的眼光去追问，问题此刻究竟需要什么，并有胆量在旧答案不再合身时把它扔掉。我去年造的那个东西，是为去年的约束而造的。Keller 的职业生涯是一场漫长的论证：那个勇敢的、真正能赢的做法，是从第一性原理出发把它再造一遍。

常见问题

Jim Keller 的工程哲学是什么？

花掉便宜的资源去消除瓶颈。Keller 把晶体管视为充裕的——“晶体管不要钱”——而把工程师的时间、设计风险和闲置的硬件视为昂贵之物，所以他的芯片毫不吝惜地把硅片花在更宽的流水线、更多的执行单元和更快的互连上，以维持高吞吐量。¹⁷ 这底下是第一性原理思维：大约每隔五年，从头重新设计而非打补丁，因为沿袭而来的假设会钙化，重写出来的更简单。⁷

Jim Keller 设计过哪些芯片？

跨越互为对手的公司，范围令人瞩目：DEC 的 Alpha 处理器（包括乱序的 21264）；AMD 的 Athlon（K7）和 K8，他在 K8 上参与制定了 x86-64/AMD64 指令集与 HyperTransport 互连；iPhone 4 和初代 iPad 背后的 Apple A4 与 A5 片上系统；他 2012 年重返后架构的 AMD Zen；以及 Tesla 的完全自动驾驶计算机。他还于 2018 至 2020 年在 Intel 担任硅工程高级副总裁。¹²³

为什么 Jim Keller 说摩尔定律没死？

因为按他的说法，晶体管密度不是某一项创新，而是数以千计独立创新的总和，每一项都在自己的边际递减曲线上，加总起来成了指数级——而这个总和仍有一二十年可走。⁷ 他指出，晶圆厂和技术专家们已经发布了十年路线图，现代 FinFET 的鳍仍有一百多个原子宽，而你可以设想一个边长十个原子的晶体管——小一百万倍。“所以我们并没有把原子用光。”⁴⁷

Tenstorrent 是什么，Jim Keller 在那里做什么？

Tenstorrent 是一家 AI 芯片公司，Keller 自 2023 年起出任 CEO（在此之前任 CTO）。公司在开放的 RISC-V 指令集上构建 AI 训练与推理加速器，打算把自己的软件栈开源，并在卖芯片之外对外授权其 CPU 与 AI 核心 IP。⁵⁶ Keller 的赌注是：开放硬件将沿着开放软件走向主导的那条路前进——他曾说自己相信“在接下来的 5 到 10 年里，RISC-V 将接管所有的数据中心”。⁵

来源