工程哲學：Yann LeCun，公開地學習這個世界

重點摘要

• 讓機器自己學會這個世界。 LeCun 的核心賭注是：智慧來自機器透過觀察去學會世界如何運作——也就是自監督學習——人類標註只是薄薄一層點綴。那個著名的「蛋糕」比喻把比例講得再明白不過：主體是自監督，糖霜是監督式，櫻桃才是強化學習。
• 卷積讓視覺變得可學。 在 Bell Labs，他把反向傳播用在手寫數字上（1989），打造出 LeNet 系列卷積網路；1998 年的 LeNet-5 成為商業部署的架構，到 2001 年時已在讀取全美國約 10% 的支票。
• 開放研究是一套方法，不是一句口號。 身為 Facebook／Meta FAIR 的創始主任（2013）與首席 AI 科學家，他讓發表論文與開源成為預設做法——I-JEPA 的程式碼與模型權重隨論文一同釋出——因為他深信開放科學的複利跑得比保密更快。
• 對 LLM 抱持懷疑的樂觀主義者。 這位與 Hinton、Bengio 共享 2018 年圖靈獎的學者主張，自迴歸語言模型是通往人類水準 AI 路上的「一條匝道」；他說，真正的路要穿過 JEPA 這類世界模型。2025 年 11 月，他離開 Meta，去打造的正是這個。

核心原則

「光靠把 LLM 做大，我們到不了人類水準的 AI」——它們「只是在預測文字，而非真正理解世界」。—— Yann LeCun 談離開 Meta，2025¹⁰

這句話底下的原則比 LLM 時代更古老，而 LeCun 四十年來始終如一：機器應該主要靠自己，透過預測所觀察到的事物，去學會世界如何運作，而不是被人類標註一口一口餵養——而研究「怎麼做到」的這門科學，應該公開進行。任何動物所知的絕大多數事情，都不是靠老師教的。嬰兒早在有人替他命名任何東西之前，就學會了失去支撐的物體會掉落、被遮住的東西依然存在、世界具有穩定的結構。LeCun 押的是：這種學習——從原始、未標註、高頻寬的感官輸入中吸收世界的結構——才是智慧的主體，而監督式學習與強化學習相對之下只是薄薄疊在上面的幾層。

這就是他被引用最多的那句話，那塊蛋糕的內容：「如果智慧是一塊蛋糕，蛋糕的主體是自監督學習，蛋糕上的糖霜是監督式學習，蛋糕上的櫻桃是強化學習。」⁵他 2016 年原本說的是無監督，到 2019 年刻意改成了自監督——這個精準度很重要，因為它點名了機制：資料自己提供標籤。遮住輸入的一部分，再從其餘部分把它預測出來；世界就是自己的老師。⁵這個比喻裡的比例，就是整個論點。如果蛋糕大半是自監督的，那麼一個把心力全灌注在「訓練愈來愈大的系統去預測下一個人類寫下的 token」的領域，在他看來，是在優化糖霜。

原則的另一半是開放。LeCun 把自己的職涯與實驗室都建立在一個信念上：AI 研究在公開發表、可重現、開源的狀態下推進得最快——這個信念與業界囤積前沿成果的直覺背道而馳。這兩半是相連的：如果通往真正智慧的路既漫長又不確定，沒有哪一間實驗室走得完，而要弄清楚哪些架構真的學到了世界，唯一的辦法就是把它們攤在公開場合，讓所有人去驗。公開地學習這個世界——預測是引擎，開放是方法。

背景脈絡

Yann André Le Cun 於 1960 年 7 月 8 日出生於巴黎近郊的 Soisy-sous-Montmorency。¹他 1987 年取得皮耶與瑪麗·居禮大學（今索邦大學一部分）博士學位，論文中已經包含了反向傳播的早期形式——那個日後定義整個領域的想法。¹在連結主義還不被看重的年代，他就已經是連結主義者，在整個 AI 領域集體放棄類腦學習網路的那段期間，他仍在做這件事。

1988 年，他加入 AT&T 貝爾實驗室，他最具影響力的工程成果就誕生在這裡。¹貝爾實驗室給了他真實資料，也給了他一個理由去讓網路真的能用，而不只是停留在理論：先是美國郵政署的手寫數字，接著是銀行支票上寫的金額。這個約束毫不留情——一台會把數字看走眼的支票讀取機是要賠錢的——它推著他走向一種認真看待影像結構的架構，而不是把一張圖片當成一袋沒有分別的像素。

離開貝爾實驗室後，他於 2003 年轉往紐約大學擔任電腦科學教授。¹接著在 2013 年 12 月，馬克·祖克柏延攬他籌建並領導 Facebook AI Research（FAIR），他也成為公司的首席 AI 科學家——這個職位他一坐超過十年，同時繼續在紐約大學兼任教授。¹¹⁰ FAIR 成為那個時代產出最豐、也最開放的產業研究實驗室之一，這是他「科學應該共享」信念的直接體現。這段任期在 2025 年 11 月畫下句點：他離職創辦自己的世界模型新創——對於他站在 LLM 這場賭局的哪一邊，這是最清楚不過的表態。¹⁰

主要成果

卷積網路與 LeNet：讀遍全國的支票（1989-1998）

LeCun 職涯的核心技術構想是卷積神經網路，而最能體會它為何重要的方式，就是看它實際跑一次。一個把每個像素連到每個神經元的天真網路，既龐大又對結構視而不見：它完全不知道影像左上角的一筆，跟右下角一模一樣的那一筆，是同一種東西。LeCun 的洞見——建立在福島邦彥的 Neocognitron 之上，並以大腦視覺皮質為依據——是讓一個小小的濾波器（kernel）在影像上滑動，在每一個位置都計算同樣那幾個權重，於是網路學會一個特徵之後，就能在任何地方偵測到它。⁷下面這個元件做的正是這個運算：挑一個邊緣偵測 kernel，看它掃過一個數字，然後看「特徵圖」在它所匹配的圖樣出現之處亮起來。

歷史細節很具體。1989 年在貝爾實驗室，LeCun 與同事首度把反向傳播演算法用在一個實務問題上——辨識美國郵政署郵件上的手寫郵遞區號——做出了後來成為 LeNet-1 的原型。²將近十年的打磨，換來 1998 年那篇里程碑論文〈Gradient-Based Learning Applied to Document Recognition〉，作者為 LeCun、Léon Bottou、Yoshua Bengio 與 Patrick Haffner。論文描述了 LeNet-5，並論證在文件辨識上，梯度式學習可以取代人工設計的特徵萃取器。³

這不是一項只在基準測試上好看的玩意。NCR 從 1996 年 6 月起商業部署以 LeNet 為基礎的支票讀取機，到 2001 年，這套系統據估計每天讀取約兩千萬張支票——大約是全美支票量的 10%。²在神經網路還被領域內大多數人看不起的年代，LeCun 手上那一台正安靜地讀著一個國家十分之一的支票。他為那個問題設計的架構——卷積、池化、學習而來的特徵層層堆疊成階層——在結構上，就是驅動當代電腦視覺的同一個想法。

開放研究與 FAIR

2013 年 LeCun 籌建 FAIR 時，做了一個對企業實驗室來說並不理所當然的選擇：工作要公開。論文照發，程式碼釋出，模型共享。¹¹⁰他賭的是：一個開放的實驗室能吸引最好的研究者（他們希望自己的成果被看見、被引用），能讓整個領域跑得更快，而且——這一點也不是附帶效果——能讓全世界去稽核並改進你做出來的東西。

這在哲學上與為什麼開源不是安全邊界是表親：開放並不保證正確，但它是讓正確性被找出來的機制。LeCun 的版本把這一點套用在科學上。你沒辦法靠關起門來推理，就知道哪些架構真的學到了世界的結構；你把它們發表出來，別人重現或推翻它們，真相在檢驗中存活下來。Meta 在 2023 年釋出 I-JEPA 就是這個模式的縮影——訓練程式碼與模型權重與論文同步釋出，不是幾個月後，更不是永遠不放。⁸在前沿實驗室日益把最好的成果當成商業機密的年代，LeCun 的開放立場是一種刻意的、逆風的主張，關乎知識如何複利。

自監督學習：那塊蛋糕

LeCun 最深刻的構想，恰好也包裝得最順口。多年來他一直主張，這個領域把智慧的比例搞反了，而他用食物來說明。2016 年初在紐約大學「AI 的未來」演講以及同年的 NeurIPS 主題演講上，他端出了一塊蛋糕：「如果智慧是一塊蛋糕，蛋糕的主體是無監督學習，蛋糕上的糖霜是監督式學習，蛋糕上的櫻桃是強化學習。」⁵到 2019 年，他刻意把「無監督」改成了「自監督」——這個變體讓資料自己提供監督訊號，做法是遮住輸入的一部分，訓練模型從其餘部分預測它。⁵

這次修訂不是修辭潤色，它點名了引擎。「無監督」描述的是標籤的缺席；「自監督」描述的是一個正面的機制：被觀察的世界，成為自己的訓練訊號。他主張，人類與動物絕大多數的知識就是這樣獲得的——那些沒人替我們標註的常識物理與結構。他給它的說法是「智慧的暗物質」：那一大片未標註的學習質量，監督式與強化式方法只是在上面加了點裝飾。⁵如果他對比例的判斷是對的，那麼 AI 最重要的研究課題就不是更大的標註資料集或更多獎勵訊號，而是更好的自監督目標函數——從觀看世界之中學會世界。

世界模型與 JEPA：懷疑 LLM 的立場

LeCun 最公開、也最具爭議的立場，直接從那塊蛋糕推導而來。如果真正的智慧大半是對世界結構的自監督學習，那麼一個純粹被訓練來預測「下一個人類寫下的 token」的系統，學到的是文字模型，而非世界模型——並且會承接那個底材的所有限制。他說得很直白：自迴歸 LLM 是通往人類水準 AI 路上的「一條匝道」，有用，但不是那條路；「光靠把 LLM 做大，我們到不了人類水準的 AI。」⁹¹⁰

他提出的替代方案是聯合嵌入預測架構（Joint Embedding Predictive Architecture, JEPA），發表於 2022 年的立場論文〈A Path Towards Autonomous Machine Intelligence〉。⁶關鍵的一步在於預測發生在哪裡。生成式模型試圖逐像素重建缺失的輸入，於是把容量浪費在建模那些本來就無法預測的細節上——這正是為什麼生成式模型出了名地搞不定「一隻手上到底有幾根手指」這類事情。⁸ JEPA 改為在抽象的表徵空間中預測，因而可以自由地忽略那些不可預測的細節，專心處理場景中結構性的、低熵的規律。⁶⁸ Meta 的 I-JEPA（2023）是第一個依此願景打造的具體影像模型，而且是開放釋出的。⁸

在這個系列裡，他與另一位「教父」的對比最為鋒利。Geoffrey Hinton 與他共享同一座圖靈獎、共度同樣孤獨的數十年信念，卻在 2023 年轉身警告這項技術可能很危險。LeCun 是三人中的樂觀主義者——他懷疑的不是 AI 的安全性，而是當前架構的天花板——並在 2025 年 11 月用自己的職涯替這份信念背書，離開 Meta，在巴黎創辦 Advanced Machine Intelligence（AMI）Labs，一家明確圍繞世界模型而非更大語言模型打造的新創。¹⁰兩位教父，同一座獎，相反的訊息：Hinton 說慢下來，因為它可能運作得太好；LeCun 說這條特定的路並不通往大家以為的地方，然後指向另一條。

方法

從支票讀取機到世界模型新創，方法始終如一：打造問題結構所要求的架構，盡可能在不依賴標籤的情況下學習，並且公開地做。

把結構寫進架構裡。 卷積之所以有效，是因為它把一個關於影像的真實事實——平移不變性——直接烘進網路的接線之中，而不是逼模型從零學起。這個教訓可以推廣：當你對問題已經知道某些事，就把它建進架構裡，而不是指望資料會教會它。²³

讓資料當自己的老師。 標籤稀少又昂貴；原始觀察卻取之不盡。自監督的立場——遮住輸入的一部分，從其餘部分預測它——正是 LeCun 用來學會一個系統所需知識之主體的方法。人類監督是最後才伸手去拿的，不是最先。⁵

在表徵空間預測，而不是像素空間。 別把容量花在建模你預測不了的細節上。JEPA 的核心工程選擇，就是預測抽象表徵並刻意捨棄不可預測的部分——這是一種關於究竟什麼值得建模的紀律。⁶⁸

把它發表出來。 論文開放、程式碼開放、模型開放。LeCun 的信念是：科學在公開中複利，在保密中停滯，而他以這個原則經營了業界最大的實驗室之一長達十年。¹⁸¹⁰

在證據支持的時候，站在不流行的那一邊。 神經網路的寒冬裡他仍然相信它；如今整個產業把資本傾注在 LLM 上，他卻主張那是條繞路。在炒作週期的頂點願意當那個大聲的懷疑者，用的是同一塊肌肉——當年沒人在乎卷積時，讓他繼續做下去的那一塊。⁹¹⁰

影響鏈

誰形塑了他

福島邦彥。 福島的 Neocognitron（1980）——一個受皮質啟發、分層且容許位移的視覺網路——是卷積網路的直系祖先。LeCun 加上了以反向傳播進行的端到端學習，把一個手工調校的架構，變成會自己學出濾波器的架構。（直接影響）

David Hubel 與 Torsten Wiesel。 他們獲得諾貝爾獎的視覺皮質神經科學——簡單細胞偵測局部特徵、複雜細胞在位置上做池化——正是卷積與池化所形式化的生物藍圖。LeCun 跟 Hinton 一樣，是從「大腦究竟怎麼看見」出發去推理的。（奠基影響）

連結主義的反向傳播傳承。 LeCun 在 1987 年的博士論文中發展出反向傳播的早期形式，與 Rumelhart-Hinton-Williams 在 1986 年讓其成名的工作，收斂到同一具引擎。他在連結主義最不受待見的時候，繼承並延伸了這個研究綱領。（直接影響）

他形塑了誰

當代電腦視覺。 每一套卷積視覺系統——那些讀醫學影像的、支撐自駕感知堆疊的、驅動手機相機的——在結構上都是 LeNet 的後裔。他不只是對這個領域有貢獻；他提供了它的基礎架構。

自監督的轉向。 整個產業轉向從未標註資料中學習——遮罩預訓練、對比式方法、聯合嵌入目標函數——都直接源自 LeCun 的「蛋糕」框架，以及他堅持了十年的那句話：智慧的主體就住在這裡。

整整一代的 FAIR 研究者。 透過經營業界規模最大的開放實驗室之一，LeCun 形塑了一整代人發表與共享成果的方式，也播下了如今存在於最保密的前沿實驗室之外的大半開放模型生態。

貫穿主線

LeCun 是本系列深度學習分支的電腦視覺源頭，而最清晰的一條線往前延伸到 Andrej Karpathy：他的工作正落在卷積所開啟的「學習而來的視覺」這個領域之中，而他的「Software 2.0」重構（把網路視為一支從資料編譯而來的程式），正是 LeCun 從手工打造支票讀取機走向學習式支票讀取機那一步的自然推廣。最鋒利的對比則來自他的圖靈獎共同得主 Geoffrey Hinton：兩位「教父」共享獎項、共享孤獨的數十年，也共享對類腦學習的押注，卻在當下這一刻分道揚鑣。Hinton 是憂心的那一個，2023 年離開 Google 去警告這東西可能太強大；LeCun 是樂觀的那一個，2025 年離開 Meta 去主張主流架構還不夠強大，並著手打造另一個。Hinton 害怕的是結果，LeCun 爭論的是路線。兩條路線，同一座山：Hinton 相信危險是真的；LeCun 相信公開地學會這個世界，才是那條路。（系列串接）

我從中帶走什麼

我從 LeCun 身上留下的教訓是：架構應該承載問題中你真正理解的那一部分。卷積之所以有效，是因為它把平移不變性建進網路，而不是指望十億個範例會把它教出來——而這正是我設計系統時會伸手去拿的那一步：當我知道某件事在這個領域是真的，我就把它編碼進結構裡，而不是交給運氣。這跟把品味當成一套可以辯護的技術系統、而非一種你希望它自己浮現的感覺，是同一種本能——把已知的約束放進設計裡，讓它可以被檢查，而不是放進「祈禱輸出會乖乖聽話」裡。

更難的一課是對 LLM 的懷疑。LeCun 站在炒作週期的絕對高點上——整個產業、資本、注意力全都指向擴大語言模型——卻公開表態說那是一條匝道。他可能是錯的；重點在於，當異議的代價高昂時，他願意當那個異議者，而且他錨定的是一個關於「在表徵空間中預測」的具體技術論證，不是為反對而反對的直覺。這就是把證據關口對準共識本身：不是「大家都很興奮，所以這一定是那條路」，而是「這個架構到底學到了什麼，那是我們想要的東西嗎？」而開放，是我最直接帶走的一塊——那份信念是：你要弄清楚誰是對的，方法是把成果發表出來、讓它被檢驗，這也是為什麼我把品質視為唯一變數，並把「這份成果是否值得存在」的 Steve 測試當成一件你交出去接受檢驗的事，而不是一件你自己宣稱的事。LeCun 兩度把整個職涯押在「學會世界，而非背下它的標籤」上——而且是押在所有人都看得見的地方。

常見問題

Yann LeCun 的工程哲學是什麼？

公開地學習這個世界。LeCun 主張智慧大半是自監督的——機器透過預測所觀察到的事物去學會世界的結構，人類標註與獎勵訊號只是疊在上面的薄薄幾層。這一點凝結在他的「蛋糕」比喻裡：自監督學習是主體，監督式學習是糖霜，強化學習是櫻桃。⁵與此並行的是他對開放研究的承諾：發表論文、程式碼與模型，讓這門科學能被重現與檢驗。¹⁸他的工程標記，是把已知的結構直接編碼進架構——就像卷積把平移不變性烘進視覺網路一樣。²³

Yann LeCun 發明了什麼？在商業上又是如何被使用的？

他是現代卷積神經網路的主要發明人。1989 年在貝爾實驗室，他名列最早把反向傳播用於實務任務——辨識手寫郵遞區號——的人之中，做出了 LeNet 原型；1998 年的論文〈Gradient-Based Learning Applied to Document Recognition〉（與 Bottou、Bengio、Haffner 合著）則描述了 LeNet-5。²³在商業上，NCR 自 1996 年起部署以 LeNet 為基礎的支票讀取機，到 2001 年，這套系統據估計每天讀取約兩千萬張支票——大約是全美支票量的 10%。²

為什麼 Yann LeCun 對大型語言模型抱持懷疑？

因為在他看來，自迴歸 LLM 學到的是文字的模型，而不是世界的模型，因此光靠擴大規模無法達到人類水準的智慧——他稱它們為通往人類水準 AI 路上的「一條匝道」。⁹¹⁰他提出的替代方案，是 2022 年論文〈A Path Towards Autonomous Machine Intelligence〉中的聯合嵌入預測架構（JEPA）：它在抽象表徵空間中預測，並忽略不可預測的細節，而非生成每一個像素或 token。⁶⁸ 2025 年 11 月，他離開 Meta，在巴黎創辦 AMI Labs，直接投入世界模型。¹⁰

Yann LeCun 得過圖靈獎嗎？

得過。他與 Geoffrey Hinton、Yoshua Bengio 共享 2018 年 ACM A.M. 圖靈獎——這三位「深度學習教父」的得獎理由是「在概念與工程上的突破，使深度神經網路成為運算領域的關鍵組成」。⁴ LeCun 獲得肯定的貢獻，主要圍繞卷積網路，以及他讓深度學習變得實用的更廣泛工作。他與 Hinton 在當下的看法公開不同：Hinton（2023 年離開 Google）警告 AI 的危險，而 LeCun 是那位樂觀主義者，主張今日主流的 LLM 架構並不是通往人類水準智慧的路線。¹⁰

資料來源