エンジニアリング哲学：ジム・ケラー、トランジスタはタダである

要点

• トランジスタは安く、ボトルネックは高くつく。 ケラーの真骨頂は、30年と十数個のチップを通じて繰り返されてきた一手にある——スループットを阻むものを取り除くためにシリコンを惜しみなく注ぐのです。パイプラインを広げ、実行ユニットを増やし、インターコネクトを高速化する。なぜなら、使わなかったトランジスタは無駄にしたトランジスタだからです。この賭けは、追加したハードウェアが稼働中のユニットを遊ばせずに仕事で満たし続けたときに報われます。¹⁷
• あなたが日々触れているコンピューティングの半分を、彼のチップが支えてきました。 DECのAlpha、AMDのAthlon（K7）とK8——ここで彼は x86-64（AMD64） 命令セットと HyperTransport を共同で手がけました——そしてiPhone 4と初代iPadを支えた Apple A4とA5、続いて AMDのZen による復活、Tesla の自動運転コンピュータ、さらに Intel のSVP（上級副社長）として。これほど多くの製品ラインを形づくったエンジニアはほとんどいません。¹²³
• ムーアの法則は死んでいない——人々がその下にある無数の革新を数えるのをやめただけです。 講演や記録に残された発言で論じられているケラーの立場は、トランジスタの微細化にはあと10年か20年は残っている、というものです。密度は一つの手品からではなく、何千もの積み重なった革新から生まれるからです。現代のトランジスタのフィンは依然として100原子以上の幅があり、まだ下に向かう道は長いのです。⁴⁷
• ペンシルベニア州立大学の電気工学の学位から、RISC-Vの伝道者へ。 1958年ごろに生まれ、ペンシルベニア州立大学で電気工学を学び、その後DEC → AMD → Broadcom → P.A. Semi → Apple → AMD → Tesla → Intelと渡り歩くキャリアを歩み、今は Tenstorrentのチーフエグゼクティブ（CEO） として、オープンな RISC-V 命令セット上でオープンなAIアクセラレータを構築しています。¹⁵⁶

原則

「世界がムーアの法則は死んだと考えている一方で、ファブと技術者たちは死んでいないと考えている。そして今や誰もがムーアの法則の10年ロードマップを発表している」——ジム・ケラー⁴

ほとんどのエンジニアは、ハードウェアを固定された予算として扱います。トランジスタ数、電力枠、プロセスノードを手渡され、その範囲内で最適化する——ここで1サイクル削り、あそこでステージを畳み、シリコンを切り詰めるのです。ケラーはその逆を行きます。彼はトランジスタを安い資源として、そしてボトルネックを高い資源として扱います。一つのユニットが機械の残りを飢えさせているなら、そのユニットを賢くすることが答えになることはめったにありません。答えはもっとシリコンを注ぐこと——複製し、パイプライン化し、そこへの経路を広げること——です。そうすればボトルネックは消え、その下流のすべてが仕事で満たされ続けます。⁷

業界がこれに付ける言い回しが「トランジスタはタダ（transistors are free）」です。文字どおりに真実ではありませんし、ケラーもそれを承知しています——シリコンには金も電力もかかります。要点は相対的なものです。エンジニアの時間は希少で、設計リスクは危険で、遊んでいる実行ユニットは純然たる無駄です。それらに対して、限界的なトランジスタはあなたが最も多く持っているものであり、ムーアの法則は数年ごとにそれをさらに手渡し続けます。だから規律ある一手は、潤沢な資源を費やして希少な資源を節約することなのです。どの資源が実際に安いのか——その一つの捉え直しこそが、彼のチップが賢く狭いのではなく、広く、攻めていて、スループットに飢えたものになりがちな理由です。¹⁷

それはまた、彼がムーアの法則が死んでいないとあれほど声高に主張する理由でもあります。もしトランジスタがこれから安くなるのをやめるのなら、戦略全体が崩壊してしまいます。だからケラーは、地味な作業をいとわず、数字をもって、微細化にはあと10年か20年残っていると論じるのです——「ムーアの法則」は一つの革新だったことなど一度もなく、それぞれが固有の収穫逓減曲線を持つ何千もの革新が連なり、合計して指数関数になったものなのだ、と。⁷ 安い資源を費やしてボトルネックを潰し、その安い資源がまだ安いことを証明し続ける。 残りはすべて細部にすぎません。

背景

ジェームズ・B・ケラーは 1958年ごろ に生まれ、ペンシルベニア州立大学で電気工学の理学士号 を取得し、1980年に卒業しました。¹ その後に続くのは、業界史上もっともありそうにない経歴の一つです——どれか一つのチップのためではなく、時代を画したチップがいくつもあるためであり、しかもそれが通常はライバル同士である企業群にまたがっているためです。

彼は 1982年にDigital Equipment Corporation（DEC） に入社し、1998年まで在籍して、VAX 8800、続いて Alpha ライン——21164とアウトオブオーダーの21264（EV6）——を手がけました。これらは当時もっとも高速なマイクロプロセッサでした。¹ 1998年にAMDへ移り、そこで Athlon（K7） の立ち上げを助け、K8 マイクロアーキテクチャのリードアーキテクトを務めました。もっとも重要だったのがK8です。ケラーは、x86を64ビットに拡張した x86-64（AMD64） 命令セットと、複数のプロセッサを結びつける HyperTransport インターコネクトを共同で手がけました。AMD64は、PCとサーバの世界全体——Intelを含めて——が動く64ビット標準となりました。¹²

そしてさすらいが始まりました。1999年の SiByte（MIPSのネットワークチップ）は2000年に Broadcom に買収され、彼はそこで2004年までチーフアーキテクトを務めました。2004年からは P.A. Semi でエンジニアリング担当VPとして、低消費電力のモバイルプロセッサを構築しました。2008年にAppleがP.A. Semiを買収し、ケラーは A4とA5 システムオンチップの設計を主導しました——iPhone 4、iPhone 4S、初代iPad、iPad 2の中のシリコンです。これらのチップはAppleの自社シリコンプログラムの種をまき、その系譜がやがてApple Siliconを生み出しました。¹³ 彼は 2012年にAMDへ戻り、AMDをほぼ無関係な存在から本物の競争へと引き戻したマイクロアーキテクチャ、Zen を設計しました。¹ それから 2016年からはTesla でAutopilotハードウェア担当VPとなり、ピート・バノンとともに 完全自動運転（FSD）コンピュータ を主導しました。続いて 2018年から2020年までIntel でシリコンエンジニアリング担当の上級副社長を務めました。¹² 2020年末以降は Tenstorrent に在籍——CTO、そして2023年からはCEO——として、RISC-V上でAIアクセラレータを構築しています。⁵⁶

一貫しているのは、企業への忠誠ではありません。DEC、AMD、Apple、Tesla、Intelと、順に渡り歩いてそのつど勝てるほど可搬性の高い方法への忠誠なのです。

仕事

パイプライン化と「トランジスタはタダ」

他のすべてを支える発想から始めましょう。ここでこそケラーの直感が算術になるからです。プロセッサは命令をいくつかのステップで実行します——命令をフェッチし、デコードし、オペランドを読み、算術を行い、結果を書き込む。素朴な機械は、次の命令を始める前に一つの命令をこれらのステップの最後まで走らせます。問題は、算術ユニットが働いている間、フェッチとデコードのハードウェアが遊んでいることです。結果が書き込まれている間、ほとんどすべてが何もしていません。高価なシリコンのほとんどが、ほとんどの時間、暗いままなのです。

その解決策が パイプライン化 です。仕事をステージに分割し、組立ラインのように重ね合わせるのです。命令1が算術ステージにある間、命令2はデコードされ、命令3はフェッチされています。各命令は依然として同じステップ数を要しますが、機械はいまや5サイクルごとではなく1サイクルごとに一つを完了します。どのステージも決して遊ばないからです。ただし落とし穴があって、仕事を重ね合わせるにはハードウェアがかかります——ステージ間のラッチ、依存関係を追跡するロジック、命令2が命令1のまだ生み出していない結果を必要とする場合を処理する仕掛け、です。ユニットを稼働させ続けるためにトランジスタを支払うのです。¹

ケラーのチップはその賭けを強く押し進めます。スーパースカラー——複数の実行ユニットで1サイクルに2命令以上を完了させる——にすることも、アウトオブオーダー——ストールした命令が準備のできた命令を妨げないように命令を並べ替える——にすることも、どちらも記帳のために大量のシリコンを要します。Alpha 21264は攻めたアウトオブオーダー設計でした。AMDのK7とK8は幅広いスーパースカラー機械でした。Zenはその経路をさらに広げました。¹ どの場合も、理屈は同じです。実行ユニットこそが肝であり、遊んでいるユニットは無駄であり、それらを満たし続けるために必要なトランジスタは建物の中でもっとも安いものなのです。シリコンを費やしてボトルネックを取り除く。それが原則であり、パイプラインはそのもっとも単純な形なのです。

AMDの復活とAMD64の系譜

業界をもっとも大きく作り変えた仕事が K8 でした。2000年代初頭には、x86の32ビットアドレス空間が手狭になりつつありました——4 GBのメモリが現実の天井になりつつあったのです。前進する道は二つありました。Intelの賭けであるItaniumは、x86を捨てて真新しいクリーンな64ビットアーキテクチャを構築することでした。山のように積み上がった既存ソフトウェアとの互換性を断ち切るものです。ケラーがアーキテクチャを主導したAMDの賭けは、その正反対でした——x86を64ビットへ 拡張 しつつ、既存の32ビットコードをすべてフルスピードで動かし続けられるようにすることです。それが x86-64、別名 AMD64 でした。¹²

この実利的な賭けは決定的に勝ちました。ソフトウェアを書き直す必要はなく、アップグレードの道筋は痛みを伴わず、レガシーコードの性能も損なわれませんでした。AMD64は標準となり、Intelは結局その逆ではなくAMDの拡張を採用しました——今日のほぼすべてのPCとサーバのCPUに入っているアーキテクチャは、ケラーのチームが仕様を定めたものなのです。それと並んで、HyperTransport はAMDのOpteronサーバに、複数のプロセッサを結ぶ高速なポイントツーポイントの手段を与え、「トランジスタはタダ」の直感が常に狩りの的にするメモリとインターコネクトのボトルネックを攻めました。¹² ケラーが 2012年にAMDへ戻り Zen を設計したとき、彼は高性能レースからほとんど脱落しかけていた会社に対して、同じパターンを繰り返しました——Intelとの差を詰め、AMDに再び信頼に足る製品ラインを与えた、広く、クリーンで、モジュラーなコアです。¹ 二度AMDに足を踏み入れ、二度ともその次の10年を定義するアーキテクチャを残して去ったのです。

Appleシリコン、地面から築き上げる

もっとも長い影を落とす章が、もっとも静かな章です。2008年にAppleがP.A. Semiを買収した とき、ケラーは A4 を設計したチームを率いました——Appleにとって初めての自社システムオンチップであり、2010年にiPhone 4と初代iPadに搭載されました——そしてその後継の A5 が、iPhone 4SとiPad 2に載りました。¹³ これ以前、Appleはモバイルプロセッサを既製品で買っていました。A4は、Appleが自らのシリコンを自分で制御すると決めた瞬間であり、ケラーが確立を助けたチームと規律が、今日のあらゆるiPhone、iPad、Macを動かすAシリーズとMシリーズのチップを生み出すプログラムの礎となったのです。

戦略上の論理は、新しい領域における同じスループットと制御の直感です。電話機のもっとも厳しい制約は、ワットあたりの性能です。デスクトップの電力枠で力ずくでは押し切れません。設計を端から端まで自分で持つこと——ベンダーの汎用部品を受け入れるのではなく——によって、ワークロードが必要とするまさにその場所にトランジスタを費やし、必要のない場所には一切費やさずに済むのです。それは電池のために裏返しにされた「トランジスタはタダ」の原則です。「シリコンを自由に追加せよ」ではなく、「全体の設計を自分で持っているのだから、すべてのトランジスタを意図的に配置せよ」なのです。A4から今日のApple Siliconへと続く線、そしてジョン・カーマックが有名にしたハードウェアを意識した性能の仕事へと続く線は、まっすぐにあの2008年の決断を貫いています。³

第一原理、そしてTenstorrentのオープンなハードウェア

それらの企業を結びつける方法は 第一原理思考 です——受け継いだ前提を投げ捨て、問題が実際に何を必要としているのかを問う意志です。ケラーは、アーキテクチャは腐ると率直に言います。およそ5年ごとに、古いものにパッチを当てるのではなく一から設計し直すべきだ、と彼は論じます。書き直したもののほうが、積み重なった以前の版よりも速く、しかも複雑さが少ないものに仕上がるからです。⁷ その規律は、自分が本当にやろうとしていることは何かを問い続けることにあります——2つ前のプロセスノードでは真実だったが今は真実ではない制約を剥ぎ取って。⁷

その直感こそ、彼が「ムーアの法則は死んだ」という総意を拒む理由です。彼の論は機械的であり、信仰に基づくものではありません。トランジスタ密度は何千もの独立した革新の総和であり、それぞれが固有の収穫逓減曲線の上にあって、その総和は依然として指数関数なのです。FinFETのフィンは今日でも100原子以上の幅があります。あなたは、一辺10原子の——「100万分の1の大きさ」の——トランジスタを思い描くこともできます。床にぶつかるまでにはまだ距離があるのです。「だから我々は原子を使い果たしてなどいない」と彼は言います。⁴⁷ 彼の語りでは、悲観論者は一つの革新だけを数えていて、その連鎖を見落としているのです。

CEOを務める Tenstorrent では、第一原理の賭けが組織的です。同社はAIの学習と推論のアクセラレータを RISC-V 上に構築します——ライセンス料も専有的な支配もないオープンな命令セットです——そして単にチップを売るだけでなく、ソフトウェアスタックをオープンソース化し、CPUとAIコアのIPをライセンス供与するつもりです。⁵⁶ ケラーの公の確信は、「今後5年から10年で、RISC-Vがすべてのデータセンターを席巻するだろう」というものです。⁵ その賭けは、かつてのオープンソフトウェアと同じように、オープンなハードウェアが第一原理で勝つ、というものです——障壁を下げ、多くの当事者に作らせれば、オープンなエコシステムは閉じたエコシステムを上回って革新する、と。x86を標準にしたまさにその人物が、今度は標準は誰のものでもないものであるべきだと賭けているのです。

方法

Alpha、AMD64、Zen、A4、Tenstorrentを横断して読むと、同じ一手が繰り返し現れます。ケラーの方法は、スローガンというより、いくつかの不変の信条の集まりです。

安い資源を費やしてボトルネックを潰す。 決定的な習慣は、実際に潤沢な資源——たいていはトランジスタ——を見極め、スループットを飢えさせているものが何であれそれを取り除くために惜しみなく費やすことです。パイプラインを広げ、ユニットを増やし、インターコネクトを高速化する。一般的な教訓へと転移します——すべてを等しく切り詰めるのではなく、もっとも多く持っている資源を見つけ、それをもっとも少なく持っている資源と引き換えにするのです。それはシリコンのレベルにおける品質こそが唯一の変数です——正しさとスループットが目標であり、トランジスタの予算はあなたが思っているような制約ではないのです。⁷

周期を決めて一から作り直す。 およそ5年ごとに、パッチを当てるのではなく設計をやり直す。受け継いだ前提は石灰化し、書き直したもののほうが単純に仕上がるからです。機能はするが時代遅れになった仕事を捨てる勇気はまれであり、しかも肝心要のものです——リーナス・トーバルズがもはや合わなくなったサブシステムを投げ捨てるのと同じ直感です。⁷

前の設計が前提としたことではなく、問題が実際に何を必要としているかを問う。 第一原理思考とは、2つ前のノードでは真実だったが今は真実ではない制約を剥ぎ取ることを意味します。その規律は、受け継いだ重荷が落ちるまで「我々は本当は何をやろうとしているのか」を問い続けることにあります——他人の主張にではなく、自分自身の前提に向けられた証拠の関門です。⁷

予算が厳しいときは、すべてのトランジスタを意図的に配置する。 「トランジスタはタダ」の裏側が電話機です。壁が面積ではなく電力であるとき、全体の設計を自分で持っているので、ワークロードが必要とするまさにその場所にシリコンを置けるのです。自分がどの局面にいるか——潤沢か希少か——を知り、それに応じて設計することが実際の技術であって、一律の規則ではありません。³

第一原理としてオープンさに賭ける。 RISC-Vとオープンなソフトウェアスタックは、障壁を下げればより多くの人が作るようになり、オープンなエコシステムが閉じたエコシステムを上回って革新する、という賭けです。それはプラットフォーム全体に適用された最小限の価値ある製品の論理です——あなただけが作れる閉じたものではなく、他者がその上に築けるオープンなものを出すのです。⁵⁶

影響の連鎖

彼を形づくった人々

DECとAlphaの文化。 ケラーは、Digitalで、Alphaラインの上で、生の速度と攻めたアウトオブオーダー実行をほとんど何よりも重んじる組織の中で、高性能設計を学びました。スループットで勝つためにシリコンを費やすという確信は、その時代もっとも高速なマイクロプロセッサの上で、そこで鍛えられたのです。（形成的な影響）

ダーク・マイヤーとピート・バノン。 ケラーのもっとも重要な仕事は、協働の中で生まれました——AlphaのアウトオブオーダーのEV6をダーク・マイヤーと共同設計し、続いてピート・バノンとともにTeslaのFSDコンピュータを主導しました。バノンはその後、並行する道を辿ってAppleのシリコンプログラムへ入りました。この協働は偶然ではありません。もっとも難しいチップはチームスポーツであり、ケラーの繰り返し現れる共同アーキテクトたちは、彼が彼らの仕事を形づくったのと同じだけ、彼の仕事を形づくったのです。（直接的な影響）

ムーアの法則そのもの。 「トランジスタはタダ」という戦略全体は、トランジスタが安くなり続けることに依存しています。ケラーの世界観はゴードン・ムーアの観察の下流にあります——だからこそ彼はそれをあれほど激しく擁護するのです。微細化の革新の連鎖が止まれば、方法は変わらざるを得ません。（形成的な影響）

彼が形づくった人々

Apple Silicon。 P.A. Semi買収の後にケラーが立ち上げを助けたA4とA5のチームと規律は、今日のあらゆるAシリーズとMシリーズのチップを生み出すプログラムの礎となりました。この10年でもっとも重大な意味を持つ消費者向けシリコンは、彼が中心にいた決断にまで遡るのです。

AMDの二度の復活。 K8/AMD64はAMDをサーバの有力な対抗馬にし、世界が動く64ビット標準を定めました。Zenはその10年後にAMDを高性能レースへ引き戻しました。どちらのアーキテクチャも、彼が去った後何年にもわたってAMDの競争上の地位を定義しました。

RISC-Vとオープンハードウェア運動。 オープンな命令セットに公の場でも商業的にも賭ける、業界でもっとも信頼に足るアーキテクトの一人として、ケラーは、ハードウェアもソフトウェアに続いてオープンさへ向かえるという論に重みを与えています。Tenstorrentがその実証です。

一貫する筋

ケラーは、本シリーズの正しい資源を費やすという糸が金属と出会う場所です。ジョン・カーマックは、機械をサイクル単位まで理解することで、固定された消費者向けハードウェアからありえない性能を絞り出しました。ケラーはその一つ下の層で働きます——彼は機械を設計するのであって、ボトルネックへの彼の答えは、それを回避してコードを書くだけでなく、それを取り除くシリコンを加えることなのです。ビャーネ・ストロヴストルップは、使わないものに対価を払うべきではないというゼロオーバーヘッド抽象化の原則の上にC++を築きました。ケラーの「トランジスタはタダ」はそのハードウェアの鏡像です——機械を稼働させ続けるものに費やし、遊んでいるものには何も無駄にしないのです。そしてアンドレイ・カルパシーが、手で書かれるのではなくデータからコンパイルされるプログラム「Software 2.0」を語る一方で、ケラーは新しいワークロードが要求するシリコンそのものを構築しています——オープンなRISC-V上の、旧来の汎用CPUがそもそも形づくられたことのない問題のために第一原理から設計されたAIアクセラレータです。カーマックは与えられたハードウェアを使いこなせと言い、ストロヴストルップは使わないものに対価を払うなと言い、ケラーはこう言います——ハードウェアがボトルネックであるなら、もっと良いものを作れ、そして費やせる原子がまだあることを証明し続けよ、と。（シリーズの橋渡し）

ここから受け取るもの

ケラーから私が持ち続ける教訓は、どの資源が実際に安いのかを突き止め、それを罪悪感なく費やせ ということです。すべてを等しく切り詰めるのは簡単です——あらゆる制約を拘束的なものとして扱い、それらすべての中で同時におずおずと最適化するのは。ケラーの習慣は、一つの資源が潤沢で他は希少だと気づき、その潤沢さが許す方向へ思い切って引き換えることです。トランジスタは安く、遊んでいるユニットとエンジニアの時間は高い。だからトランジスタを費やしてボトルネックを潰すのです。私自身の仕事では、潤沢な資源がシリコンであることはめったにありません——それはしばしば計算資源であり、モデルのトークンであり、あるいは下書きを安く生成し直せる能力です。一手は同じです——もっとも多く持っているものを切り詰めるのをやめ、それを実際にあなたを妨げているものへ向けるのです。

二つ目の教訓は、周期を決めて一から始め直す 意志です。数年ごとに一から設計し直すべきだ——書き直したもののほうがパッチを当てた元のものより単純に仕上がるから——というケラーの主張は、すでに済ませた仕事を守ろうとするあらゆる本能に逆らいます。しかし彼は正しいのです。前提は石灰化し、かつては真実だった制約が静かに真実でなくなり、積み重なった設計はそれらすべての重みを背負うのだ、と。その規律は、新鮮な目で、問題が今実際に何を必要としているかを定期的に問い、もはや合わなくなった古い答えを投げ捨てる胆力を持つことにあります。去年私が作ったものは、去年の制約のために作られたものです。ケラーのキャリアは、勇敢な一手——実際に勝つ一手——とは第一原理からもう一度作ることだ、という長い論証なのです。

FAQ

ジム・ケラーのエンジニアリング哲学とは？

安い資源を費やしてボトルネックを取り除くことです。ケラーはトランジスタを潤沢なもの——「トランジスタはタダ」——として扱い、エンジニアの時間、設計リスク、遊んでいるハードウェアを高いものとして扱います。だから彼のチップは、スループットを高く保つために、より広いパイプライン、より多くの実行ユニット、より高速なインターコネクトへ惜しみなくシリコンを費やすのです。¹⁷ その下にあるのが第一原理思考です。およそ5年ごとに、パッチを当てるのではなく一から設計し直す。受け継いだ前提は石灰化し、書き直したもののほうが単純に仕上がるからです。⁷

ジム・ケラーはどんなチップを設計したのですか？

ライバル企業群にまたがる驚くべき幅広さです。DECのAlphaプロセッサ（アウトオブオーダーの21264を含む）、AMDのAthlon（K7）とK8——ここで彼はx86-64/AMD64命令セットとHyperTransportインターコネクトを共同で手がけました——iPhone 4と初代iPadを支えたApple A4とA5システムオンチップ、2012年の復帰時に手がけたAMDのZenアーキテクチャ、そしてTeslaの完全自動運転コンピュータ。彼はまた、2018年から2020年までIntelでシリコン担当の上級副社長を務めました。¹²³

なぜジム・ケラーはムーアの法則が死んでいないと言うのですか？

彼の説明では、トランジスタ密度は一つの革新ではなく、何千もの独立した革新の総和であり、それぞれが固有の収穫逓減曲線の上にあって、合計して指数関数になるからです——そしてその総和にはまだあと10年か20年が残っているのです。⁷ 彼は、ファブと技術者たちが10年ロードマップを公表していること、現代のFinFETのフィンが依然として100原子以上の幅があること、そして一辺10原子の——100万分の1の大きさの——トランジスタを思い描けることを指摘します。「だから我々は原子を使い果たしてなどいない」のです。⁴⁷

Tenstorrentとは何で、ジム・ケラーはそこで何をしているのですか？

Tenstorrentは、ケラーが2023年からCEO（それ以前はCTO）を務めるAIチップ企業です。同社はオープンな RISC-V 命令セット上にAIの学習と推論のアクセラレータを構築し、ソフトウェアスタックをオープンソース化するつもりであり、チップの販売と並んでCPUとAIコアのIPをライセンス供与しています。⁵⁶ ケラーの賭けは、オープンなハードウェアがオープンなソフトウェアの辿った支配への道を追う、というものです——彼は「今後5年から10年で、RISC-Vがすべてのデータセンターを席巻すると信じている」と語っています。⁵

出典