エンジニアリング哲学：デミス・ハサビス、知能を解けばすべてが解ける

要点

• 計画はわずか2段階だった。まず知能を解き、次にそれを使って他のすべてを解く。 この一文――ハサビスがDeepMindを創業したときに実際に掲げた構想――が、戦略のすべてです。狭い学習システムではなく汎用の学習システムを構築し、それを科学における最難関の問題へと向ける。傲慢に聞こえますが、彼がその順序どおりに実行していく様を目にすれば、印象は変わります。¹⁷
• ゲームは実証の場であって、目標ではなかった。 AlphaGoは2016年3月、イ・セドルを4対1で破りました――専門家の予測より10年も早い快挙です――そして第2局の「37手目」、人間が選ぶ確率がおよそ1万分の1という一手は、このシステムが模倣ではなく発明をしていることを示しました。⁵ ハサビスがゲームを選んだのは、ゲームが自己完結していて目標が明確であり、強化学習にとって理想的な実験場だからです。⁷
• そして彼はその知能を生物学に向け、ノーベル賞を勝ち取った。 AlphaFold2は2020年のCASP14で、50年来のタンパク質構造予測問題を解きました。AlphaFoldデータベースは今や約2億のタンパク質構造を収め、200万人を超える研究者に使われています。⁸⁹ 2024年、ハサビスはジョン・ジャンパー（およびデイヴィッド・ベイカー）とともにノーベル化学賞を分かち合いました――第2段階の実現です。¹⁰¹¹
• チェスの神童からゲームデザイナー、神経科学者、そして創業者へ。 1976年ロンドン生まれ、13歳でチェスのマスター級、17歳で『Theme Park』の共同デザイナー、ケンブリッジを最優等で卒業し、その後UCLで記憶と想像を研究する認知神経科学の博士号を取得――どの章も次の章へとつながっていきました。¹²³⁴

原則

「第1段階、知能を解く。第2段階、それを使って他のすべてを解く」――DeepMind創業計画について語るデミス・ハサビス⁷

野心的なテクノロジーの多くは、これとは逆向きに作られます。問題をひとつ選び――検索、レコメンデーション、不正検知――それを解くための、最も狭く最も信頼できるシステムを構築する。汎用性は、いつか手に入れる贅沢品として、あるいは永遠に手に入らないものとして扱われます。ハサビスはこの順序を逆転させました。彼の賭けは、最初の一手として特定の問題を解くのではなく、問題を解く汎用的な能力そのものを解くこと――特別に設計されたわけではない領域までも習得できる学習システムを構築すること――そしてそのうえで、最も重要な標的に照準を合わせることでした。⁷

だからこそ、この一文における順序が決定的な意味を持つのです。「知能を解く」が先に来るのは、応用が重要でないからではありません。彼の見立てでは、十分に汎用的な知能こそ構築できる最もレバレッジの高い道具だからです。一度それを解いてしまえば、ひとつの用途のために形作られた道具ではなく、いくつもの錠前を開ける鍵が手に入る。この言葉は大言壮語にも読めます――実際そうなったはずです、もし彼がその後15年をかけて、この2段階を順番に、公の場で歩み、第2段階でノーベル賞にたどり着いていなければ。¹⁰

このスローガンの下にある手法には、二つの異質な要素があります。ひとつめは着想源としての神経科学です。ハサビスがまさに脳を研究したのは、そこからアルゴリズムの着想を掘り出すためでした。私たちが知る唯一の汎用知能は、別のものを作ろうとする前に理解しておく価値がある、という考えに基づいています。⁷ ふたつめは実証の場としてのゲームです。目標関数が明確な自己完結した世界であり、学習システムを訓練し、計測し、現実のものを任される前に超人的なプレーへと押し上げられる場です。⁷ ゲームから汎用的な学習へ、そして科学的発見へ――これが全体の弧であり、一行で言えば原則そのものです。知能を解く。そしてそれを使って他のすべてを解く。

背景

デミス・ハサビスは1976年7月27日、ギリシャ系キプロス人の父と中国系シンガポール人の母のもと、ロンドンに生まれました。¹ 4歳からチェスの神童で、13歳までにEloレーティングおよそ2300のマスター級に達し、イングランドのジュニア代表チームを率いました。¹ ここでチェスは脚注ではありません――世界観全体の出発点です。何年もかけて手筋を読み、局面を評価し、最善の継続手を選ぶ――そんな子どもは、思春期を迎える前に、のちにAlphaGoの土台に据えられるまさにあのループを体に染み込ませていたのです。先を読み、評価し、選ぶ。

次の章はゲームでした――その制作です。Bullfrog Productionsでの仕事をかけたコンテストで優勝したのち、ハサビスは17歳でシミュレーションの古典『Theme Park』を、ピーター・モリニューと並んで共同デザインし、リードプログラマーを務めました。同作は数百万本を売り上げ、経営シミュレーションというジャンルの誕生を後押ししました。² 続いてLionheadで『Black & White』のリードAIプログラマーを務め、その後自らのスタジオElixir Studiosを立ち上げ、『Republic: The Revolution』と『Evil Genius』を世に送り出しました。¹ 人生の10年を、知的なふるまいをシミュレートするソフトウェア――群衆、生き物、対戦相手――の制作に費やした。これはまさに、本物を作ろうとしている人間のために設計するであろう、その修業そのものでした。

そして彼は第一原理へと立ち戻りました。1997年にケンブリッジでコンピューターサイエンスを最優等の成績で修めていた彼は、学術界に戻り、UCLで認知神経科学の博士号（2009年）を取得します。エピソード記憶と想像を研究し――海馬に損傷を持つ患者が、過去を思い出せないだけでなく、新たな未来の情景を想像することにも苦労することを示しました。¹³⁴ これはAI構築者にとって深遠な発見です。記憶の機構と想像の機構は、同じ機構なのだ、と。彼はGatsby計算神経科学ユニットでポスドクとして研究を行い、2010年にはシェーン・レッグ、ムスタファ・スレイマンとともにDeepMindを共同創業しました。2014年にはGoogleがこれを買収します。¹ チェスは彼に探索を教え、ゲームはシミュレーションを教え、神経科学は汎用知能が内側からどう見えるかを教えました。DeepMindは、その三つが収束する場所です。

仕事

実証の場としてのゲーム：AlphaGoと37手目

まずはエンジンそのものを、ミニチュアで見てみましょう。ニューラルネットワークがはるか以前から、ゲームをプレーする機械の核心にあった発想は先読みでした。一手を決める前に、相手の応手、それに対する自分の応手、というように可能性の木を下へとたどり、各筋がどこに行き着くかを評価し、双方が最善を尽くすという前提のもとで最良の結果につながる手を選ぶ。下のウィジェットは、その発想を最小の形にそぎ落としたものです――各手の前にすべての継続手を探索する相手と戦う三目並べ、つまり決して負かせない相手です。プレーしてみてください。あなたはAlphaGoの曾祖父と対戦しているのです。

三目並べは、終局まで探索できるほど小さなものです。囲碁はそうではありません。囲碁盤は観測可能な宇宙に存在する原子の数より多くの合法局面を持ち、だからこそチェスを攻略した手法である力ずくの先読みは、何十年ものあいだ囲碁では通用しませんでした。⁵ DeepMindの一手は、探索を残しつつ、それを知的なものにすることでした。AlphaGoはモンテカルロ木探索を二つのディープニューラルネットワークと組み合わせます――有望な手を提案するポリシーネットワーク（無駄な手に探索を費やさないため）と、局面の良し悪しを判断するバリューネットワーク（すべての筋を終局まで読まなくて済むため）です。これらのネットワークは、まず人間の熟練者の対局で訓練され、その後、自分自身のバージョンと何百万局も戦う強化学習によって磨かれました。⁵

2016年3月、ソウルで、AlphaGoはイ・セドル――存命する最強の打ち手のひとり――を4対1で破りました。2億人を超える観客の前で、専門家の予測よりおよそ10年も早く成し遂げられた快挙です。⁵ それを象徴する瞬間が、第2局の37手目でした。システム自身が、人間ならおよそ1万分の1の確率でしか選ばないと見積もった一手で、解説者たちは当初これを失着と読み、のちに見事な一手だったと理解されました。人類が幾千年も磨き上げてきた領域で、人間の天才の模倣ではなく、真に新しい何かを機械が生み出す様を、世界が目にした初めての瞬間でした。⁵ それこそがゲーム段階の眼目です――勝つことではなく、学習システムが発見できることを示すこと。

AlphaZero：ルール以外、何もないところから学ぶ

AlphaGoはまだ、ひとつの松葉杖に頼っていました。人間の対局データベースから出発していたのです。次の一歩は、それさえも取り除きました。AlphaZero（2017年に発表、完全な結果は2018年に『Science』誌に掲載）に与えられたのは、ゲームのルールだけでした。そこからランダムな手で始め、すべてを自己対局のみで自らに教え込みます――人間の対局も、定跡書も、手作業のヒューリスティックもなしに。⁶ 白紙の状態です。その何もない出発点から、囲碁、チェス、将棋を超人的なレベルで習得し、最強の専門エンジンを打ち負かしました――しかもそれを、ひとつの汎用アルゴリズムを三つのまるで異なるゲームに適用して成し遂げたのです。汎用知能の「汎用」を裏づける、これまでで最も明確な証拠でした。⁶

私が最も示唆に富むと感じるのは、どのように勝ったか、という点です。AlphaZeroがチェスで探索したのは1秒あたりおよそ6万局面で、これは従来のエンジンStockfishの6000万に対して千分の一にすぎません――それでも上回ったのは、学習で得た直観が、そもそもどの筋を読む価値があるかを教えてくれたからです。⁶ さらに、グランドマスターたちを驚かせる、異質で、犠牲を厭わず、きわめて大局観に富んだスタイルで打ちました。これは37手目と同じ教訓を一般化したものです。システムに人間の知識の模倣を強いるのをやめ、問題の構造をゼロから学ばせると、それは私たちに並ぶだけではない――私たちが見落としていたものを見つけ出すのです。これが「知能を解く」から第2段階への橋渡しとなります。なぜなら、科学における難問のほとんどは、そもそも模倣すべき人間の手本帳など持っていないからです。

AlphaFold：知能を科学に向ける（2024年ノーベル賞）

そしてハサビスはその鍵を使いました。50年ものあいだ、生物学の大課題はタンパク質折りたたみ問題でした。タンパク質はアミノ酸の鎖が精密な3次元の形に折りたたまれたもので、その形がタンパク質のはたらきを決めます。そして配列から形を予測することは、あらゆるアプローチを退けてきました。ひとつの構造を実験的に決定するのに、何年もかかり、莫大な費用を要することもありました。⁸⁹

2020年のCASP14――この分野の盲検式、隔年の評価会――で、DeepMindのAlphaFold2は、実験による答えとおよそ原子1個分の幅の範囲内で構造を予測しました。これは次点のシステムよりおよそ3倍正確で、大半のタンパク質については実験室と肩を並べるものでした。⁸ CASPの主催者たちは、50年来の問題が本質的に解決されたと宣言しました。⁸ そしてDeepMindは、ひとつの成果をインフラへと変えることをやってのけます――AlphaFoldタンパク質構造データベースを公開したのです。ヒトのプロテオームから始まり、約2億の構造――科学に知られるほぼすべての登録済みタンパク質――が無償で利用可能にまで拡大し、今では190か国の200万人を超える研究者に使われています。⁹¹¹

2024年10月、ノーベル委員会はハサビスと同僚のジョン・ジャンパーに「タンパク質構造予測」の功績でノーベル化学賞の半分を授与し、「計算によるタンパク質設計」で評価されたデイヴィッド・ベイカーとこれを分かち合いました。¹⁰¹¹ ハサビスは同年、人工知能への貢献によりナイトに叙されました。¹ かみしめるべきは、その順序です。これはゲームから生物学への、別個のキャリア転換ではありません。最初に掲げた一文の第2段階なのです。汎用の学習システムを構築し、目標がきれいな場所（ゲーム）でそれを検証し、それから目標が同じ形をした問題――広大な探索空間と明確な採点関数――に照準を合わせる。ただし、その見返りは生物学全体のための道具なのです。

ミッションとIsomorphic：次なるもの

AlphaFoldがこの命題を証明したのだとすれば、Isomorphic Labs――ハサビスが創業して率い、2021年にDeepMindからスピンアウトした会社――は、それを産業化しようとする試みです。AIを使って創薬プロセスそのものを作り直し、標的から分子までのパイプライン全体を、AlphaFold型のシステムが攻略できる問題として扱う。¹ これは再びの第2段階であり、より大きな標的へ向けたものです――タンパク質の形を予測することから、それに結合する分子を設計することへ。一方でDeepMindが掲げるミッションは、人類に役立つようAIを責任ある形で構築することへと広がり、ハサビスはAGIについて、より慎重な立場をとる重鎮のひとりとなりました――まさに「他のすべてを解く」という後半を文字どおりに受け止めているがゆえに、慎重さを求めているのです。⁷ このパターンは双方向に成り立っています。野心は巨大であり、そしてそこへどうたどり着くかという規律も、同じくらい真剣なのです。

手法

ハサビスの手法は、本人がそれを物語ってきたために、際立って読み解きやすいものです。報道のヴェールを剥ぎ取れば、それは再現可能なレシピです。

特定のタスクではなく、汎用の能力を狙う。 決定的な選択は、まず「知能を解く」こと、応用はその次、というものでした――出荷できる最も狭いものではなく、汎化する学習システムを構築する。ほとんどのチームには、これを選ぶ余裕がありません。規律とは、汎用性が本当のレバレッジとなるのはいつで、それが先延ばしにすぎないのはいつかを見極めることです。⁷

唯一うまくいっている実例を掘り尽くす。 存在する汎用知能はただひとつ――脳だけです――だからハサビスは、その着想を盗むために神経科学を研究しました。問題に対して自然界が知る解がひとつしかないとき、それを深く理解することは、ゼロから発明することに勝ります。同じ本能はこのシリーズ全体を貫いています――すでにうまくいっている構造を作り直すのではなく符号化する。LeCunが並進不変性を畳み込みに焼き込んだように。⁷

製品の前に実証の場を作る。 ゲームは彼に、目標関数の明確な自己完結した世界を与えました。重要な何かに触れる前に、システムを誠実に訓練し計測できる場です。一般的な教訓はこうです――そのものが機能するかどうかについて、きれいで素早い信号を得られる環境に投資せよ。信頼できるベンチマークは、信頼できない意見より価値がある――証拠の関門を研究プログラム全体に適用したものです。⁷

できるときには人間の松葉杖を取り除く。 AlphaGoは人間の対局から学びました。AlphaZeroは一切学ばず、それでもより強くなりました。システムが、問題の構造を直接学べるほど成熟したとき、人間が与えた足場は天井になりかねません。それをいつ蹴り払うべきかを知ることは、それ自体がひとつの技術です。⁵⁶

そうして得た能力を、重要な何かに費やす。 これ全体を見世物以上のものにしている規律とは、第2段階が実際に起きることです。ゲームをプレーすることが眼目だったことは一度もありません。眼目はAlphaFoldでした。値する標的のない能力は不完全です――その仕事が存在に値するかを問うSteveテストを、知能そのものに適用したものです。⁸¹⁰

影響の連鎖

彼を形作った者たち

チェス。 コンピューターサイエンスの前、神経科学の前に、盤がありました。マスターが体に染み込ませる先読み・評価・選択のループは、AlphaGoとAlphaZeroの土台にあるのと同じループです。ハサビスは子どものころ、それを生きることでアルゴリズムを学びました。（形成的影響）

意図して研究された、脳。 ハサビスが認知神経科学の博士号を取ったのは、まさに私たちが知る唯一の汎用知能から学ぶためであり、記憶と想像が共有する機構に取り組みました。AIは脳に着想を得るべきだという賭けは、彼にとって比喩ではありません――それは研究計画だったのです。（直接的影響）

深層学習の革命。 AlphaGoとAlphaFoldは、その核心においてディープニューラルネットワークであり、その系譜はジェフリー・ヒントン――ネットワークを訓練可能にした研究――と、ヤン・ルカン――その畳み込みアーキテクチャがネットワークに構造を見ることを教えた――をまっすぐに貫いています。ハサビスは探索とシステムを作りました。彼らは、それが学ぶための基盤を作ったのです。（直接的影響）

彼が形作った者たち

科学のためのAI。 AlphaFoldはひとつの問題を解いただけではありません――ひとつの雛形を打ち立てました。汎用の学習システムを、目標のきれいな難しい科学の問いに向ければ、何十年もの専門的な努力を追い越せる、という雛形です。あらゆる「Xのための AlphaFold」プロジェクトは、あの実証の下流にあります。

大規模での強化学習。 AlphaGoとAlphaZeroは、自己対局を伴う深層強化学習が、広大な探索空間で人間の専門性に到達しそれを超えうるという、規範的な証明です。ひとつの分野全体が可能と信じていたものを、作り変えました。

AIをめぐる大衆の想像力。 37手目とイ・セドルとの対局は、数億の人々にとって、機械が模倣をやめ創造を始めた瞬間でした。その文化的な里程標もまた、彼の影響の一部です。

一本の筋

ハサビスは、このシリーズの深層学習の枝が知覚から行動と発見へと転じる地点にいます。フェイ=フェイ・リーはネットワークに見ることを教えたデータを供給し、ジェフリー・ヒントンは学習機械を実際に動かし、ヤン・ルカンはそれに構造を見つけるアーキテクチャを与えました。ハサビスは、その同じネットワークを取り上げ、それを探索と自己対局で包みます――世界を分類するだけでなく、その中で行動し、計画し、発見するシステムです。前へと延びる線は、アンドレイ・カルパシーの「Software 2.0」――手で書くのではなくデータからコンパイルされるプログラムという考え――へと自然につながります。それはまさにAlphaZeroそのものです。戦略のルールは何ひとつプログラムされておらず、あるのはゲームのルールと報酬だけで、ほかのすべては学習されたのです。ルカンは見ることを学べと言い、ヒントンは学習はうまくいくと言い、リーはここに学ぶべき世界があると言い、ハサビスはこう言います――では、それを使って何かをしよう――そして50年来の生物学の問題に照準を合わせるのです。（シリーズの橋渡し）

ここから受け取るもの

ハサビスから私が手放さずにいる教訓は、野心の手順化についてのものです。「知能を解き、それから他のすべてを解く」という一文は、創業者の大言壮語として嘲笑するのはたやすく、実際そうなったはずです――ただ彼が、それを文字どおりの2段階計画として扱い、その段階を順番に、公の場で、15年にわたって実行し、第2段階の終わりにノーベル賞を据えていなければ。規律とは野心の大きさではありません――実証の場を飛ばすことを拒む姿勢です。彼は初日に病を治すと主張しませんでした。システムを構築し、採点が曖昧でないどこかで超人的にそれを検証し、そのうえで初めて重要な標的に照準を合わせた。これは大きな目標の考え方を組み替えてくれます。大胆な終着点を掲げよ、しかしまずはきれいなベンチマークでそこへ至る権利を勝ち取れ、と。それは品質こそ唯一の変数をロードマップに適用したものです――問いは「応用は見栄えがするか」の前に、「その能力は本物か」なのです。

第2の教訓はより静かで、弧の全体を貫いています――最良の着想はしばしば、すでにうまくいっている唯一の実例を研究することから生まれる、というものです。ハサビスは知能について抽象的に理論を立てたりはしませんでした。彼は出向いて脳を研究したのです。それが存在証明だからです。行き詰まったとき、とるべき一手が、真空の中で第一原理から発明することであることはまれです――それは、この問題の一種をすでに解いているシステムを見つけ、それがなぜうまくいくのかを、着想を盗めるほど十分に理解することです。チェスは彼に探索を、脳はアーキテクチャを、ゲームは実験場を、生物学は値する標的を与えました。何ひとつ無駄になりませんでした。どの章も、彼が次のためにうまくいっている実例を掘り出していたからです。知能を解き、そしてそれを使え――ただしまずは、すでにそれを持っているものから学びに行くのです。

FAQ

デミス・ハサビスのエンジニアリング哲学とは何ですか？

まず知能を解き、それからそれを使って他のすべてを解く、というものです。特定のタスクを解く最も狭いシステムを作るのではなく、ハサビスは汎用の学習システムを構築すること――脳のはたらきに着想を得て、目標のきれいなゲームで検証する――そして、その汎用の能力を科学における最難関の問題に向けることに賭けました。⁷ この戦略が読み解きやすいのは、彼がそれを順番に実行したからです。AlphaGoとAlphaZeroは知能が本物で汎用的であることを証明し、AlphaFoldはそれを生物学のタンパク質折りたたみ問題に費やして、ノーベル賞を勝ち取りました。⁵⁶⁸¹⁰

AlphaGoはどのように動くのですか。そして37手目とは何でしたか？

AlphaGoはモンテカルロ木探索を二つのディープニューラルネットワークと組み合わせました。有望な手を提案するポリシーネットワークと、局面の良し悪しを判断するバリューネットワークで、まず人間の対局で訓練され、その後、自己対局による強化学習で磨かれました。⁵ 囲碁は宇宙に存在する原子より多くの合法局面を持つため、しらみつぶしの探索は不可能です――ネットワークによって、システムは代わりに知的な探索ができるのです。2016年3月、AlphaGoはソウルでイ・セドルを4対1で破り、第2局の「37手目」――人間が選ぶ確率がおよそ1万分の1という一手――は、人類が幾千年も磨いてきたゲームで、機械が真に新しい着想を生み出した瞬間でした。⁵

AlphaGoとAlphaZeroの違いは何ですか？

AlphaGoは、自己対局で上達する前に、人間の熟練者の対局データベースから部分的に学びました。AlphaZero（2017年）は人間のデータを完全に取り除きました。ゲームのルールだけを与えられ、ランダムなプレーから純粋な自己対局の強化学習を通じて自らに教え込んだのです――白紙の状態から。⁶ その何もない出発点から、ひとつの汎用アルゴリズムが囲碁、チェス、将棋を超人的なレベルで習得し、はるかに少ない局面を探索しながら最強の専門エンジンを打ち破りました。学習で得た直観が、どの筋を読む価値があるかを教えてくれたからです。⁶ AlphaZeroが「汎用」知能のより強い証拠であるのは、同じ手法が、領域固有の調整なしに三つの異なるゲームで通用したからです。

AlphaFoldとは何ですか。そしてなぜノーベル賞を勝ち取ったのですか？

AlphaFoldは、アミノ酸配列からタンパク質の3次元構造を予測する、DeepMindのAIシステムです――およそ50年ものあいだ解決を拒んできた「タンパク質折りたたみ問題」です。⁸⁹ 2020年のCASP14評価会で、AlphaFold2はおよそ原子レベルの精度で構造を予測し、実験的手法に匹敵しました。主催者たちは、この問題が本質的に解決されたと宣言しました。⁸ DeepMindは約2億の予測構造――既知のほぼすべてのタンパク質――を研究者に無償で公開しました。⁹ 2024年、ハサビスとジョン・ジャンパーは「タンパク質構造予測」の功績でノーベル化学賞の半分を授与され、「計算によるタンパク質設計」で評価されたデイヴィッド・ベイカーとこれを分かち合いました。¹⁰¹¹

出典