工程哲學：Yann LeCun

重點摘要

• 讓機器幾乎自行學習這個世界。 LeCun 的核心賭注是：智慧源自機器透過觀察來學習世界如何運作——也就是自監督學習——而人類標註只是薄薄一層點綴。著名的「蛋糕」比喻把這個比例講得很具體：主體是自監督，糖霜是監督，櫻桃則是強化學習。
• 卷積讓視覺變得可學習。 在貝爾實驗室，他把反向傳播應用到手寫數字上（1989 年），並打造了 LeNet 系列卷積網路；LeNet-5（1998 年）後來成為投入商用的架構，到 2001 年時已能判讀美國境內約 10% 的支票。
• 開放研究是一種方法，而非口號。 身為 Facebook／Meta 旗下 FAIR（2013 年）的創始主管暨首席 AI 科學家，他讓發表論文與開放原始碼成為預設做法——I-JEPA 的程式碼與檢查點是隨論文一同釋出的——其信念在於開放科學的累積速度比保密更快。
• 這位樂觀者卻對 LLM 抱持懷疑。 身為 2018 年圖靈獎與 Hinton、Bengio 共同得主，LeCun 主張自迴歸語言模型是通往人類水準 AI 之路上的「岔路出口」；他說，真正的道路是經由 JEPA 這類世界模型。2025 年 11 月，他離開 Meta，正是為了打造這樣的東西。

核心原則

「光是擴大 LLM 的規模，我們是無法達到人類水準 AI 的」——它們「只是預測文字，而非真正理解世界」。——Yann LeCun，談離開 Meta，2025 年¹⁰

這句話底下的原則比 LLM 時代更為古老，而 LeCun 四十年來始終如一地堅守著：機器應該主要靠自己學會世界如何運作，方法是預測它所觀察到的事物，而非被人類標註一口一口餵養——而探究該如何做到這點的科學，則應在公開之下進行。任何動物所知的絕大部分,都是在沒有老師的情況下學會的。嬰兒早在有人為它命名任何一樣東西之前,就已經學會了沒有支撐的物體會掉落、被遮住的東西依然存在、世界具有穩定的結構。LeCun 的賭注是：這種學習——從原始、未標註、高頻寬的感官輸入中吸收世界的結構——才是智慧的主體，而監督學習與強化學習相對而言只是疊在它上面的薄薄幾層。

這正是他最常被引用的那句話的內容,也就是那塊蛋糕:「如果智慧是一塊蛋糕，蛋糕的主體是自監督學習，蛋糕上的糖霜是監督學習，而蛋糕上的櫻桃是強化學習。」⁵ 他在 2016 年最初說的是非監督,並在 2019 年刻意更正為自監督——這個精確度很重要,因為它點出了機制：資料自行提供標註。遮住輸入的一部分,再從其餘部分把它預測出來;世界就是它自己的老師。⁵ 這個比喻中的比例,正是整個論點所在。倘若蛋糕主要是自監督,那麼一個把心力傾注於訓練出愈來愈龐大、只為預測下一個由人寫出的詞元的系統的領域,在他看來,就是在優化那層糖霜。

這項原則的後半段是開放。LeCun 建立他的職涯與實驗室,所憑藉的信念是：AI 研究在公開、可重現、開放原始碼時推進得最快——這個信念與業界囤積前沿成果的本能背道而馳。這兩半是相連的：倘若通往真正智慧的道路漫長而不確定,沒有任何單一實驗室能獨自走完,而要弄清楚究竟哪些架構真能學會世界,唯一的辦法就是把它們公開出來,讓所有人去檢驗。公開地學習這個世界——以預測為引擎,以開放為方法。

背景脈絡

Yann André Le Cun 於 1960 年 7 月 8 日出生於巴黎附近的 Soisy-sous-Montmorency。¹ 他於 1987 年取得皮埃爾與瑪麗·居禮大學（今索邦大學的一部分）的博士學位，其論文中就已包含反向傳播的早期形式——這個構想日後將定義整個領域。¹ 在連結主義尚未被視為正派學問之前，他就已是一位連結主義者，在 AI 領域其餘人都對類腦學習網路不屑一顧的那段歲月裡，他卻投身其中。

1988 年，他加入 AT&T 貝爾實驗室，他最具影響力的工程成就便是在這所機構誕生的。¹ 貝爾實驗室給了他真實的資料,以及一個讓網路真正運作、而非僅止於理論推演的理由：來自美國郵政署的手寫數字,接著是銀行支票上所寫的金額。這個限制毫不留情——一台會把數字看錯的支票判讀機要付出金錢代價——它把他推向一種認真看待影像結構的架構,而非把一張圖當成一堆毫無區別的像素。

離開貝爾實驗室後,他於 2003 年轉往紐約大學擔任電腦科學教授。¹ 接著,2013 年 12 月,Mark Zuckerberg 聘請他來建立並領導 Facebook 人工智慧研究院（FAIR），他並成為該公司的首席 AI 科學家——這個職位他擔任了十餘年，同時仍兼任紐約大學的兼職教授。¹¹⁰ FAIR 成為那個時代最多產的開放工業研究實驗室之一，這正是他「科學應當共享」信念的直接體現。那段任期於 2025 年 11 月結束，當時他離職去創立自己的世界模型新創公司——這是對於他站在 LLM 賭局哪一邊最明確不過的表態。¹⁰

主要成就

卷積網路與 LeNet：判讀全世界的支票（1989–1998）

LeCun 職涯中最核心的技術構想，就是卷積神經網路，而要感受它為何重要，最直接的方式就是看著它運作。一個把每個像素都連到每個神經元的天真網路,既龐大又對結構視而不見：它毫無概念知道影像左上角的一筆,跟右下角同樣的一筆是同一種東西。LeCun 的洞見——建立在福島邦彥的「新認知機」之上,並植根於大腦的視覺皮質——是讓一個小型濾波器（一個核）在影像上滑動,在每個位置都計算同樣的那一小組權重,如此網路只需學會某個特徵一次,就能在每個地方偵測到它。下方的小工具正是這項運算：挑選一個邊緣偵測核,看著它掃過一個數字,並觀察它所匹配的圖樣出現在哪裡,「特徵圖」就會在哪裡亮起。

這段歷史很具體。1989 年，在貝爾實驗室，LeCun 與同事率先把反向傳播演算法應用到一個實際問題上——辨識美國郵政署郵件上的手寫郵遞區號——做出了後來成為 LeNet-1 的原型。² 經過將近十年的精修，催生了 1998 年那篇里程碑論文〈Gradient-Based Learning Applied to Document Recognition〉，作者為 LeCun、Léon Bottou、Yoshua Bengio 與 Patrick Haffner，文中描述了 LeNet-5，並論證以梯度為基礎的學習可以取代人工設計的特徵擷取器，用於文件辨識。³

這並不是什麼基準測試上的趣味花絮。NCR 自 1996 年 6 月起把以 LeNet 為基礎的支票判讀機投入商用，到 2001 年時，估計該系統每天判讀約 2,000 萬張支票——約佔美國境內所有支票的 10%。² 在神經網路仍被該領域多數人嗤之以鼻的時刻，LeCun 卻悄悄讓一台機器判讀了一國十分之一的支票。他為那個問題所設計的架構——卷積、池化、把學到的特徵堆疊成層級——在結構上，正是驅動現代電腦視覺的同一個構想。

開放研究與 FAIR

當 LeCun 於 2013 年建立 FAIR 時，他做了一個對企業實驗室而言並不理所當然的抉擇：成果將會開放。發表論文、釋出程式碼、共享模型。¹¹⁰ 他的賭注是：一所開放的實驗室能吸引最頂尖的研究人員（他們希望自己的成果被看見、被引用）、能讓整個領域推進得更快，而且——並非無關緊要的——能讓全世界稽核並改進你所打造的東西。

這在哲學上是開放原始碼並非安全邊界的近親：開放並不能保證正確,但它正是讓正確得以被找出來的機制。LeCun 的版本把這套道理套用到科學上。你無法靠私下推敲就知道究竟哪些架構真能學會世界的結構;你把它們發表出來,別人去重現或反駁它們,而真相能在嚴格檢視下存活下來。Meta 在 2023 年釋出 I-JEPA,正是這個模式的縮影——訓練程式碼與模型檢查點是與論文一同釋出的,而非數月之後,更非永不釋出。⁸ 在一個前沿實驗室愈來愈把自己最好的成果當成商業機密看待的時代,LeCun 的開放立場是一個關於知識如何累積的、刻意而逆勢的主張。

自監督學習：那塊蛋糕

LeCun 諸多構想中最深刻的一個，恰好也是包裝最朗朗上口的一個。多年來他一直主張，這個領域把智慧的比例搞反了，而他用食物來闡明這一點。在 2016 年初他於紐約大學「AI 的未來」演講以及那一年的 NeurIPS 主題演講中，他端出了一塊蛋糕：「如果智慧是一塊蛋糕，蛋糕的主體是非監督學習，蛋糕上的糖霜是監督學習，而蛋糕上的櫻桃是強化學習。」⁵ 到了 2019 年，他刻意把「非監督」修訂為「自監督」——這是一種變體，由資料自行提供監督，方法是藏起輸入的一部分，再訓練模型從其餘部分把它預測出來。⁵

這項修訂並非表面功夫;它點出了引擎。「非監督」描述的是標註的缺席。「自監督」描述的則是一種積極的機制：被觀察的世界,化身為它自己的訓練訊號。他主張,這正是人類與動物習得他們所知絕大部分內容的方式——那些沒有人為我們標註的常識物理與結構。他為此所取的說法是「智慧的暗物質」：那一大片未標註的學習質量,監督與強化方法只不過是在其上加以妝點。⁵ 倘若他對比例的看法是對的,那麼 AI 中最重要的研究問題,就不是更大的已標註資料集或更多的獎勵訊號,而是更好的自監督目標——透過觀看世界來學會世界。

世界模型與 JEPA：對 LLM 抱持懷疑的立場

LeCun 最公開、也最具爭議的立場，正是直接從那塊蛋糕推導而來。倘若真正的智慧主要是對世界結構的自監督學習，那麼一個純粹被訓練來預測下一個由人寫出的詞元的系統，學到的便是一個詞語模型，而非一個世界模型——並將承襲那個基底的限制。他曾直言不諱地這麼說：自迴歸 LLM 是通往人類水準 AI 之路上的「岔路出口」，有用，但並非那條路；「光是擴大 LLM 的規模，我們是無法達到人類水準 AI 的」。⁹¹⁰

他所提出的替代方案是聯合嵌入預測架構（JEPA），於他 2022 年的立場論文〈A Path Towards Autonomous Machine Intelligence〉中提出。⁶ 關鍵的一著在於預測發生在何處。一個生成式模型試圖逐像素重建缺失的輸入，因而把模型容量浪費在描繪無法預測的細節上——這正是為何生成式模型出了名地難以處理諸如一隻手上手指確切數目這類事情。⁸ 一個 JEPA 改為在一個抽象的表徵空間中進行預測，得以自由地忽略那些無法預測的細節，並專注於一個場景中具結構性、低熵的規律。⁶⁸ Meta 的 I-JEPA（2023 年）是第一個建立於這個願景之上的具體影像模型，而且它是以開放方式釋出的。⁸

與他另一位「教父」同儕之間的對比，在本系列中最為鮮明。Geoffrey Hinton 共享同一座圖靈獎，也共度了同樣孤獨而堅定的數十年，然後在 2023 年轉而警告這項技術可能很危險。LeCun 是這三人組中的樂觀者——他懷疑的並非 AI 的安全性，而是當前架構的天花板——而在 2025 年 11 月，他以自己的職涯為這份信念背書，離開 Meta，在巴黎創立了高等機器智慧（Advanced Machine Intelligence，AMI）實驗室，這是一家明確圍繞世界模型、而非更大的語言模型所打造的新創公司。¹⁰ 兩位教父，一座獎項，相反的訊息：Hinton 說放慢腳步，因為它可能運作得太好；LeCun 則說，這條特定的路並不通往眾人所以為的地方，並指向另一條路。

方法論

從支票判讀機到世界模型新創公司，這套方法始終如一：打造問題結構所要求的架構，盡可能在沒有標註的情況下學習，並在公開之下進行。

把結構編入架構之中。 卷積之所以管用，是因為它把一個關於影像的真實事實——平移不變性——直接烤進了網路的接線之中，而不必逼模型從零學起。這個教訓可以推廣：當你對某個問題有所了解時，就把它建進架構裡，而不是寄望資料會把它教會。²³

讓資料成為它自己的老師。 標註既稀少又昂貴；原始觀察則俯拾皆是。自監督的立場——遮住輸入的一部分，再從其餘部分把它預測出來——正是 LeCun 用來學會一個系統所需知道之絕大部分內容的方法。把對人類監督的求助擺在最後，而非最先。⁵

在表徵空間中預測，而非在像素空間中。 別把容量花在描繪你無法預測的細節上。JEPA 核心的工程抉擇，就是預測抽象的表徵並刻意捨棄那些無法預測的東西——這是一種關於究竟什麼才值得去描繪的紀律。⁶⁸

把它發表出來。 開放的論文、開放的程式碼、開放的模型。LeCun 的信念是：科學在公開之下累積，在保密之中停滯，而他依循這項原則經營了業界最大的實驗室之一達十年之久。¹⁸¹⁰

在證據支持時，堅守不合時宜的立場。 他在寒冬裡始終相信神經網路，而如今他堅持：在整個業界把資本傾注於 LLM 的此刻，它們其實是一條繞遠路。在炒作週期的頂峰當那個大聲疾呼的懷疑者，所靠的是同一塊肌肉——它讓他在無人在意時依然守著卷積。⁹¹⁰

影響鏈

是誰形塑了他

福島邦彥。 福島的「新認知機」（1980 年）——一個受皮質啟發、分層且能容忍位移的視覺網路——是卷積網路的直系祖先。LeCun 加上了透過反向傳播的端到端學習，把一個人工調校的架構，變成一個能學會自身濾波器的架構。（直接影響）

David Hubel 與 Torsten Wiesel。 他們關於視覺皮質、獲頒諾貝爾獎的神經科學——簡單細胞偵測局部特徵，複雜細胞跨位置進行池化——正是卷積與池化所形式化的生物學藍圖。LeCun 與 Hinton 一樣，都是從大腦實際如何觀看來推理的。（奠基影響）

連結主義的反向傳播傳承。 LeCun 在他 1987 年的論文中發展出反向傳播的一種早期形式，收斂到了與 Rumelhart–Hinton–Williams 在 1986 年所發揚光大者同一個引擎。他在連結主義方案深深退流行之際，承襲並擴展了它。（直接影響）

是他形塑了誰

現代電腦視覺。 每一個卷積視覺系統——那些判讀醫學掃描、驅動感知堆疊、為手機相機賦能的系統——在結構上都源自 LeNet。他不只是對這個領域有所貢獻；他供給了它奠基性的架構。

自監督的轉向。 整個業界轉向從未標註資料中學習——遮罩式預訓練、對比方法、聯合嵌入目標——這股潮流筆直地穿過 LeCun 的「蛋糕」框架，以及他堅持智慧的主體就棲身於此的那十年。

一整代 FAIR 研究人員。 透過經營業界最大的開放工業實驗室之一，LeCun 形塑了一整代人發表與共享成果的方式，並為如今存在於最隱密的前沿實驗室之外的大半開放模型生態系播下了種子。

貫穿主線

LeCun 是本系列深度學習這條支脈的電腦視覺源頭，而最清晰的一條線往前延伸到 Andrej Karpathy，他的工作正好坐落於卷積所開啟的習得式視覺領域之中——而他的「Software 2.0」重構（把網路視為一支從資料編譯而來的程式）正是 LeCun 從人工設計的支票判讀機走向習得式判讀機這一著的自然推廣。最鮮明的對比，則是與他的圖靈獎共同得主 Geoffrey Hinton：這兩位「教父」共享同一座獎、同樣孤獨的數十年，以及在類腦學習上的賭注，卻在此刻分道揚鑣。憂心忡忡的 Hinton 在 2023 年離開 Google，去警告這東西可能太過強大；樂觀的 LeCun 則在 2025 年離開 Meta，去主張這個主流架構還不夠強大，並去打造另一個。Hinton 畏懼那個結果，LeCun 則質疑那條路線。兩條路線，同一座山：Hinton 相信那份危險是真實的；LeCun 則相信，公開地學會的這個世界，才是那條路。（系列橋接）

我從中學到什麼

我從 LeCun 身上一直記取的教訓是：架構應當承載問題中你真正理解的那一部分。卷積之所以管用，是因為它把平移不變性建進了網路之中，而非寄望十億個範例會把它教會——而當我設計系統時，這正是我會伸手去取的那一著：當我知道關於某個領域有某件事為真時，我就把它編入結構之中，而非把它交給運氣。這跟把品味當成一套可供你捍衛的技術系統、而非你寄望會自行浮現的某種氛圍,是同一種直覺——把已知的限制放進設計裡能被查核之處,而非放進那句祈禱輸出會乖乖聽話的禱詞裡。

更艱難的教訓是對 LLM 的懷疑。LeCun 正站在一個炒作週期的絕對頂峰——整個業界、所有資本、所有目光全都指向擴大語言模型的規模——而他卻公開明言：這是一條岔路出口。他可能是錯的;重點在於,當異議代價高昂時,他願意當那個唱反調的聲音,而且這份異議錨定於一個關於在表徵空間中進行預測的具體技術論點,而非錨定於為反對而反對的本能。那正是證據之門指向共識本身：不是「大家都很興奮,所以這肯定就是那條路」,而是「這個架構究竟在學些什麼,那是不是我們想要的東西?」而開放,則是我最直接記取的那一部分——那份信念認為:你是透過把成果發表出來、讓它接受檢驗,才弄清楚究竟誰才是對的,這也正是為何我把品質當成唯一的變數,並把Steve 測試——亦即這份成果是否配得上存在——當成你交付給嚴格檢視之物,而非你逕自斷言之物。LeCun 把他整個職涯,兩度押在學會這個世界、而非死記它的標註上——而且押在當著所有人面前去做這件事。

常見問題

Yann LeCun 的工程哲學是什麼？

公開地學習這個世界。LeCun 主張，智慧主要是自監督的——機器透過預測它所觀察到的事物來學會世界的結構，而人類標註與獎勵訊號只是疊在上面的薄薄幾層，這一點濃縮在他的「蛋糕」比喻中：自監督學習是主體，監督學習是糖霜，而強化學習是櫻桃。⁵ 他把這一點與對開放研究的承諾相配對：發表論文、程式碼與模型，好讓這門科學能被重現、被檢驗。¹⁸ 他的工程印記，就是把已知的結構直接編入架構之中——正如卷積把平移不變性烤進了一個視覺網路裡。²³

Yann LeCun 發明了什麼，又是如何被商業化運用的？

他是現代卷積神經網路的主要發明者。1989 年在貝爾實驗室，他是率先把反向傳播應用到實際任務——辨識手寫郵遞區號——並做出 LeNet 原型的人之一，而 1998 年那篇論文〈Gradient-Based Learning Applied to Document Recognition〉（與 Bottou、Bengio 及 Haffner 合著）描述了 LeNet-5。²³ 在商業上，NCR 自 1996 年起把以 LeNet 為基礎的支票判讀機投入使用，到 2001 年時，估計該系統每天判讀約 2,000 萬張支票——約佔美國境內所有支票的 10%。²

Yann LeCun 為何對大型語言模型抱持懷疑？

因為在他看來，自迴歸 LLM 學到的是一個關於文字的模型，而非一個關於世界的模型，因此光靠擴大規模無法達到人類水準的智慧——他稱它們為通往人類水準 AI 之路上的「岔路出口」。⁹¹⁰ 他所提出的替代方案是聯合嵌入預測架構（JEPA），出自他 2022 年的論文〈A Path Towards Autonomous Machine Intelligence〉，它在抽象的表徵空間中進行預測並忽略無法預測的細節，而非生成每一個像素或詞元。⁶⁸ 2025 年 11 月，他離開 Meta，在巴黎創立 AMI 實驗室，以直接追求世界模型。¹⁰

Yann LeCun 得過圖靈獎嗎？

得過。他與 Geoffrey Hinton 及 Yoshua Bengio 共享 2018 年 ACM A.M. 圖靈獎——也就是「深度學習三教父」——「以表彰使深度神經網路成為運算關鍵組成的概念性與工程性突破」。⁴ LeCun 獲得肯定的貢獻，集中於卷積網路以及他讓深度學習變得實用的更廣泛工作。他在當下這一點上與 Hinton 公開分歧：Hinton（他在 2023 年離開 Google）警告 AI 的危險，LeCun 則是那位樂觀者，主張當今主流的 LLM 架構並非通往人類水準智慧的路線。¹⁰

參考來源