← 所有文章

工程哲学:Yann LeCun,公开地学习世界

Yann LeCun,深度学习先驱、Meta首席AI科学家

核心要点

  • 让机器在很大程度上自行学习世界。 LeCun的核心押注是:智能来自机器通过观察来习得世界的运作方式——即自监督学习——人类标注只是薄薄的一层点缀。著名的”蛋糕”比喻把这种比例说得淋漓尽致:主体是自监督,糖霜是监督学习,顶上的樱桃才是强化学习。
  • 卷积让视觉变得可学习。 在贝尔实验室,他将反向传播应用于手写数字识别(1989年),并构建了LeNet系列卷积网络;LeNet-5(1998年)成为投入商用后的标志性架构,到2001年已在读取全美约10%的支票。
  • 开放研究是一种方法,而非口号。 作为Facebook/Meta旗下FAIR的创始主任(2013年)及首席AI科学家,他把发表论文与开源作为默认做法——I-JEPA的代码与模型权重随论文一同发布——其信念是:开放科学的复利增长快于保密。
  • 一位对LLM抱持怀疑的乐观主义者。 作为与Hinton、Bengio共享2018年图灵奖的得主,LeCun认为自回归语言模型是通往人类水平AI道路上的”岔道”;在他看来,真正的道路要穿过JEPA这样的世界模型。2025年11月,他离开Meta,正是为了亲手打造它。

原则

“仅靠扩大LLM的规模,我们是无法达到人类水平的AI的”——它们”只是预测文本,而非真正理解世界。” —— Yann LeCun,谈及离开Meta,2025年10

这句话背后的原则比LLM时代更为古老,而LeCun四十年来始终如一地坚守它:机器应当在很大程度上靠自己去学习世界如何运作,靠预测自己所观察到的事物,而非被人类标注一勺一勺地喂养——而且,研究这种学习方式的科学应当公开进行。任何动物所知的绝大部分,都是在没有老师的情况下学会的。婴儿早在有人为它命名任何一样东西之前,就已学会无支撑的物体会下落、被遮挡的东西依然存在、世界具有稳定的结构。LeCun的赌注是:这种学习——从原始、无标注、高带宽的感官输入中汲取世界的结构——才是智能的主体,而监督学习与强化学习相对而言只是覆盖其上的薄薄几层。

这正是他被引用最多的那句话——蛋糕——的内涵:”如果智能是一块蛋糕,那么蛋糕的主体是自监督学习,蛋糕上的糖霜是监督学习,蛋糕顶上的樱桃才是强化学习。”5他在2016年最初说的是无监督,到2019年又刻意将其修正为自监督——这种精确至关重要,因为它点明了机制:数据自己提供标注。遮住输入的一部分,用其余部分去预测它;世界就是它自己的老师。5比喻中的比例本身就是整个论点。如果蛋糕的主体是自监督的,那么一个把心血倾注于训练越来越庞大、只为预测下一个人类书写的词元的系统的领域,在他看来,不过是在打磨那层糖霜。

原则的另一半是开放。LeCun的整个职业生涯与他的实验室,都建立在这样一个信念之上:当AI研究被发表、可复现、被开源时,它推进得最快——这种信念与业界囤积前沿成果的本能背道而驰。两半是相连的:如果通往真正智能的道路漫长而充满不确定,那么没有任何单独一家实验室能独自走完它;要弄清哪些架构真正学到了世界,唯一的办法就是把它们公开,让所有人去检验。公开地学习世界——以预测为引擎,以开放为方法。

背景

Yann André Le Cun于1960年7月8日生于巴黎附近的Soisy-sous-Montmorency。1他于1987年在皮埃尔与玛丽·居里大学(现为索邦大学的一部分)取得博士学位,其博士论文中已包含反向传播的一种早期形式——这正是日后定义整个领域的思想。1早在联结主义获得尊重之前,他就已是一名联结主义者,在AI领域其余部分都将类脑学习网络弃如敝屣的同一时期,他仍在埋头钻研。

1988年,他加入AT&T贝尔实验室,他最具深远影响的工程工作正是在这里完成的。1贝尔实验室给了他真实的数据,也给了他一个让网络真正跑起来、而不只是停留在理论层面的理由:美国邮政的手写数字,以及随后银行支票上书写的金额。约束条件毫不留情——一台把数字读错的支票识别器是要赔钱的——这把他推向了一种认真对待图像结构的架构,而非把一张图片当作一袋杂乱无章的像素。

离开贝尔实验室后,他于2003年加入纽约大学,担任计算机科学教授。1随后,2013年12月,Mark Zuckerberg聘请他组建并领导Facebook人工智能研究院(FAIR),他由此成为该公司的首席AI科学家——这一职位他担任了十余年,同时仍在纽约大学兼任教授。110 FAIR成为那个时代最高产的开放工业研究实验室之一,这正是他”科学应当共享”信念的直接体现。这段任期于2025年11月结束,他离职去创办自己的世界模型初创公司——这是对他在LLM这场押注中究竟站在哪一边的最清晰宣告。10

工作

卷积网络与LeNet:读遍世界的支票(1989-1998)

LeCun职业生涯中最核心的技术思想是卷积神经网络,而最能直观体会它为何重要的方式,就是看着它运转。一个把每个像素都连到每个神经元的朴素网络,既庞大又对结构视而不见:它没有任何概念能意识到,图像左上角的一笔与右下角一模一样的一笔属于同一类东西。LeCun的洞见——在福岛邦彦的Neocognitron基础上发展而来,并植根于大脑视觉皮层——是让一个小小的滤波器(卷积核)滑过整张图像,在每个位置都计算同样的那几个权重,于是网络只需学会一次某个特征,就能在任何地方检测到它。下方的组件正是这一操作:选一个边缘检测核,看它扫过一个数字,并观察”特征图”在它所匹配的模式出现之处一处处亮起。

这段历史是具体的。1989年,在贝尔实验室,LeCun与同事率先将反向传播算法应用于一个实际问题——识别美国邮政信件上的手写邮政编码——做出的原型即日后的LeNet-1。2近十年的打磨,催生了具有里程碑意义的1998年论文《Gradient-Based Learning Applied to Document Recognition》,作者为LeCun、Léon Bottou、Yoshua Bengio与Patrick Haffner。该文描述了LeNet-5,并论证了基于梯度的学习可以取代手工设计的特征提取器,用于文档识别。3

这并非一项基准测试上的趣谈。NCR从1996年6月起将基于LeNet的支票识别器投入商用,到2001年,据估计该系统每天读取约2000万张支票——约占全美所有支票的10%。2在神经网络仍被该领域大部分人不屑一顾的时刻,LeCun却让一台网络悄无声息地读着一个国家十分之一的支票。他为那个问题所设计的架构——卷积、池化、层层堆叠的学得特征——在结构上,正是驱动着现代计算机视觉的同一思想。

Yann LeCun在演讲

开放研究与FAIR

当LeCun于2013年组建FAIR时,他做出了一个对企业实验室而言并不理所当然的选择:工作将是开放的。发表论文,发布代码,共享模型。110他的赌注是:一个开放的实验室能吸引最优秀的研究者(他们希望自己的工作被看见、被引用),能让整个领域推进得更快,而且——并非无足轻重的——它让全世界都能审视并改进你所构建的东西。

这是为何开源并非安全边界的哲学近亲:开放并不保证正确,但它是正确得以被发现的机制。LeCun的版本把这一点用于科学。你无法靠私下推演就知道哪些架构真正学到了世界的结构;你把它们发表出来,别人去复现或反驳,真理在审视中存活下来。Meta于2023年发布I-JEPA,正是这一模式的缩影——训练代码与模型权重随论文一同发布,没有拖到几个月后,也不是永不发布。8在前沿实验室越来越把自己最好的工作当作商业机密的时代,LeCun的开放立场是一种关于知识如何产生复利的、深思熟虑而逆流而上的姿态。

自监督学习:蛋糕

LeCun诸多思想中最深刻的那个,也恰好包装得最朗朗上口。多年来他一直主张,整个领域把智能的比例搞反了,而他是用食物把这一点讲明白的。在2016年初的纽约大学”AI的未来”演讲以及当年的NeurIPS主旨报告上,他端出了一块蛋糕:”如果智能是一块蛋糕,那么蛋糕的主体是无监督学习,蛋糕上的糖霜是监督学习,蛋糕顶上的樱桃才是强化学习。”5到2019年,他刻意将”无监督”修订为“自监督”——一种由数据自身提供监督信号的变体,做法是遮住输入的一部分,训练模型用其余部分去预测它。5

这次修订并非表面文章;它点明了引擎。”无监督”描述的是标注的缺失。”自监督”描述的则是一种正向机制:被观察的世界,成了它自己的训练信号。他认为,这正是人类与动物习得自己绝大部分知识的方式——那些无人为我们标注的常识性物理与结构。他给它起的名字是”智能的暗物质”:那片庞大、无标注的学习质量,而监督与强化方法只是在其上加以点缀。5如果他对比例的判断没错,那么AI中最重要的研究问题就不是更大的标注数据集或更多的奖励信号,而是更好的自监督目标——通过观看世界来学习世界。

Yann LeCun

世界模型与JEPA:对LLM的怀疑立场

LeCun最公开、也最具争议的立场,直接由蛋糕推导而来。如果真正的智能主要是对世界结构的自监督学习,那么一个纯粹被训练来预测下一个人类书写词元的系统,学到的就是一个词语模型,而非一个世界模型——并将继承那种基底的局限。他直言不讳地说过:自回归的LLM是通往人类水平AI道路上的”岔道”,有用,但不是正路;”仅靠扩大LLM的规模,我们是无法达到人类水平的AI的。”910

他提出的替代方案是联合嵌入预测架构(JEPA),在其2022年的立场论文《A Path Towards Autonomous Machine Intelligence》中首次提出。6关键的一步在于预测发生在何处。一个生成式模型试图逐像素地重建缺失的输入,因而把算力浪费在对不可预测的细节进行建模上——这正是为何生成式模型在诸如一只手上手指的确切数目这类事情上出了名地力不从心。8而JEPA转而在一个抽象的表征空间中进行预测,可以自由地忽略那些不可预测的细节,专注于一个场景中结构性的、低熵的规律。68 Meta的I-JEPA(2023年)是首个基于这一构想构建的具体图像模型,且以开源方式发布。8

与他那位同为”教父”的伙伴的对比,是本系列中最为鲜明的。Geoffrey Hinton分享了同一座图灵奖、同样孤独而坚守了数十年的信念,却在2023年转而警告:这项技术也许是危险的。LeCun是三人中的乐观主义者——他怀疑的不是AI是否安全,而是当前架构的天花板——并在2025年11月以自己的职业生涯为这一信念背书,离开Meta,在巴黎创办了Advanced Machine Intelligence(AMI)Labs,一家明确围绕世界模型、而非更大的语言模型而建的初创公司。10两位教父,一座奖,相反的讯息:Hinton说慢下来,因为它也许会运转得太好;LeCun说这条特定的路并不通向所有人以为的地方,并指向了另一条。

方法

从支票识别器到世界模型初创公司,方法始终如一:构建问题的结构所要求的架构,尽可能地在无标注的情况下学习,并公开地去做。

把结构编码进架构。 卷积之所以奏效,是因为它把一条关于图像的真实事实——平移不变性——直接烤进了网络的连线中,而非逼着模型从零学起。这条教训可以推广:当你对问题有所了解时,把它构建进架构,而不是寄望于数据去教会它。23

让数据成为它自己的老师。 标注稀少而昂贵;原始观察却取之不尽。自监督的立场——遮住输入的一部分,用其余部分去预测它——正是LeCun提出的、用以学习一个系统所需知识之主体的办法。把人类监督留到最后,而不是最先伸手去取。5

在表征空间中预测,而非在像素空间中。 别把算力花在对你无法预测的细节进行建模上。JEPA核心的工程抉择,就是预测抽象表征,并刻意舍弃不可预测的部分——这是一种关于究竟什么才值得建模的纪律。68

把它发表出来。 开放的论文,开放的代码,开放的模型。LeCun的信念是:科学在开放中产生复利,在保密中陷入停滞;而他正是依据这一原则,领导了业界最大的实验室之一达十年之久。1810

当证据支持时,坚守不合时宜的立场。 他在寒冬里始终相信神经网络,而如今他坚持认为LLM是一条弯路——尽管整个行业正把资本倾倒于其上。在炒作周期的顶峰甘当那个大声疾呼的怀疑者,靠的是与当年无人在意时仍坚守卷积时同样的那块肌肉。910

影响链

是谁塑造了他

福岛邦彦。 福岛的Neocognitron(1980年)——一个分层、对位移具有容忍度、受皮层启发的视觉网络——是卷积网络的直系祖先。LeCun为其加入了端到端的反向传播学习,把一个手工调参的架构变成了能学习自身滤波器的架构。(直接影响)

David Hubel与Torsten Wiesel。 他们关于视觉皮层、荣获诺奖的神经科学——简单细胞检测局部特征,复杂细胞在不同位置上进行池化——正是卷积与池化所形式化的生物学蓝图。LeCun和Hinton一样,是从大脑究竟如何”看”出发来推理的。(奠基性影响)

联结主义反向传播谱系。 LeCun在其1987年的博士论文中发展出了反向传播的一种早期形式,与Rumelhart-Hinton-Williams于1986年使之声名远扬的工作汇聚于同一引擎。他在联结主义纲领深陷冷遇之时,继承并拓展了它。(直接影响)

是他塑造了谁

现代计算机视觉。 每一个卷积视觉系统——那些读取医学扫描、驱动感知栈、为手机摄像头供能的系统——在结构上都源自LeNet。他不只是为这个领域作了贡献;他供给了它的奠基性架构。

自监督的转向。 整个行业转向从无标注数据中学习——掩码预训练、对比方法、联合嵌入目标——都直接贯穿LeCun的”蛋糕”框架,以及他坚持了十年的那句话:智能的主体正是栖身于此。

一代FAIR研究者。 通过运营业界最大的开放工业实验室之一,LeCun塑造了一代人发表与共享工作的方式,并为如今存在于最讳莫如深的前沿实验室之外的大片开放模型生态播下了种子。

贯穿始终的那条线

LeCun是本系列深度学习这一脉的计算机视觉之根,而最清晰的一条线向前延伸至Andrej Karpathy,他的工作恰好坐落于卷积所开启的学得视觉这一领域之中——而他的”Software 2.0”重述(把网络视为一个由数据编译而成的程序)正是LeCun从手工设计的支票识别器迈向学得的支票识别器这一步的自然推广。最鲜明的对照,则与他的图灵奖共得者Geoffrey Hinton之间:两位”教父”共享那座奖、那些孤独的数十年、以及对类脑学习的押注,却在当下这一刻分道扬镳。忧心忡忡的Hinton于2023年离开Google,去警告这东西也许太过强大;乐观的LeCun于2025年离开Meta,去论证占主导地位的架构还不够强大,并去构建另一个。Hinton畏惧的是结果,LeCun质疑的是路线。两条路,一座山:Hinton相信危险是真切的;LeCun相信,被公开地学习的世界,才是那条路。(系列桥接)

我从中汲取的

我从LeCun身上一直记取的一课是:架构应当承载问题中你真正理解的那一部分。卷积之所以奏效,是因为它把平移不变性构建进了网络,而非寄望于十亿个样本去教会它——而这恰恰是我设计系统时会本能伸手去取的那一招:当我知道关于某个领域的某件事为真时,我会把它编码进结构,而非把它交给运气。这与把品味当作一个你能为之辩护的技术系统、而非一种你寄望它会自行浮现的感觉,是同一种本能——把已知的约束放进设计中、放在它能被检验之处,而不是放进”祈祷输出会规规矩矩”的那句祷告里。

更难的一课是对LLM的怀疑。LeCun正站在一个炒作周期的绝对顶峰——整个行业、资本、注意力全都指向扩大语言模型的规模——却公开放话,说那是一条岔道。他也许错了;关键在于,他愿意在异见代价高昂之时充当那个发出异见的声音,且这份异见锚定于一个关于”在表征空间中预测”的具体技术论证,而非源自逆反的本能。这正是把证据之门对准共识本身:不是”大家都很兴奋,所以这一定是正路”,而是”这个架构究竟在学什么,那是不是我们想要的东西?”而开放,是我最直接记取的那一部分——那个信念是:你要弄清谁对,靠的是把工作发表出来、让它接受检验,这也正是为何我把质量当作唯一的变量,并把”这份工作是否配得上存在”的Steve测验当作一件你交付去接受审视、而非一口咬定的事。LeCun两度以自己的整个职业生涯下注:学习世界,而非死记它的标注——而且要在所有人都能看见的地方去做。

常见问题

Yann LeCun的工程哲学是什么?

公开地学习世界。LeCun主张智能主要是自监督的——机器通过预测自己所观察到的事物来学习世界的结构,人类标注与奖励信号只是覆盖其上的薄薄几层,这一点凝结于他的”蛋糕”比喻:自监督学习是主体,监督学习是糖霜,强化学习是樱桃。5他将这与对开放研究的承诺相配对:发表论文、代码与模型,让科学可以被复现、被检验。18他工程上的标志,是把已知的结构直接编码进架构——正如卷积把平移不变性烤进一个视觉网络。23

Yann LeCun发明了什么,它又是如何被商用的?

他是现代卷积神经网络的主要发明者。1989年在贝尔实验室,他是最早将反向传播应用于一项实际任务——识别手写邮政编码——的人之一,做出了LeNet原型;1998年的论文《Gradient-Based Learning Applied to Document Recognition》(与Bottou、Bengio、Haffner合著)描述了LeNet-5。23在商用方面,NCR从1996年起将基于LeNet的支票识别器投入使用,到2001年,据估计该系统每天读取约2000万张支票——约占全美所有支票的10%。2

Yann LeCun为何对大语言模型抱持怀疑?

因为在他看来,自回归的LLM学到的是一个文本模型,而非一个世界模型,因此仅靠扩大规模无法达到人类水平的智能——他称它们为通往人类水平AI道路上的”岔道”。910他提出的替代方案是联合嵌入预测架构(JEPA),出自其2022年的论文《A Path Towards Autonomous Machine Intelligence》,它在抽象的表征空间中进行预测、忽略不可预测的细节,而非生成每一个像素或词元。682025年11月,他离开Meta,在巴黎创办AMI Labs,以直接追求世界模型。10

Yann LeCun获得过图灵奖吗?

是的。他与Geoffrey Hinton、Yoshua Bengio共同分享了2018年ACM A.M.图灵奖——三位”深度学习教父”——“以表彰他们在概念与工程上的突破,使深度神经网络成为计算的关键组成部分。”4 LeCun获得认可的贡献集中于卷积网络,以及他使深度学习走向实用的更广泛工作。他在当下这一刻与Hinton公开有别:Hinton(于2023年离开Google)警告AI的危险,而LeCun是那个乐观主义者,主张当今占主导地位的LLM架构并非通往人类水平智能的路线。10


来源


  1. “Yann LeCun,” Wikipedia. Yann André Le Cun, born July 8, 1960, in Soisy-sous-Montmorency, France; PhD from the Université Pierre et Marie Curie (now Sorbonne University), 1987; joined AT&T Bell Laboratories in 1988; professor at New York University from 2003; joined Facebook in December 2013 as founding director of Facebook AI Research (FAIR) and Chief AI Scientist; 2018 ACM Turing Award shared with Geoffrey Hinton and Yoshua Bengio. 

  2. “LeNet,” Wikipedia. LeNet is a series of convolutional neural network architectures developed at AT&T Bell Laboratories (c. 1988-1998) centered on Yann LeCun; in 1989 LeCun et al. were the first to apply backpropagation to a practical task, recognizing handwritten US Postal Service zip codes (the LeNet-1 prototype). NCR deployed LeNet-based bank check readers starting in June 1996; by 2001 the system was estimated to read about 20 million checks a day, or 10% of all checks in the US. 

  3. Yann LeCun, Léon Bottou, Yoshua Bengio, and Patrick Haffner, “Gradient-Based Learning Applied to Document Recognition,” Proceedings of the IEEE 86, no. 11 (1998): 2278-2324, doi:10.1109/5.726791. The paper describing LeNet-5 and arguing that gradient-based learning can replace hand-engineered feature extractors for document recognition. Citation and significance also documented at “LeNet,” Wikipedia. 

  4. 2018 ACM A.M. Turing Award citation for Yoshua Bengio, Geoffrey Hinton, and Yann LeCun: “for conceptual and engineering breakthroughs that have made deep neural networks a critical component of computing.” The official ACM page (awards.acm.org) blocks automated requests; citation wording is documented verbatim at “Turing Award,” Wikipedia, and “Yann LeCun,” Wikipedia. 

  5. On the “cake” analogy and the unsupervised-to-self-supervised revision: “Yann LeCun Cake Analogy 2.0,” Synced, February 22, 2019. The cake first appeared at LeCun’s NYU Future of AI Symposium talk in early 2016 and his NIPS 2016 keynote, originally as “the bulk of the cake is unsupervised learning, the icing on the cake is supervised learning, and the cherry on the cake is reinforcement learning”; LeCun revised “unsupervised” to “self-supervised” by the 2019 ISSCC conference. On self-supervised learning as the “dark matter of intelligence,” see also LeCun’s discussion at “Self-supervised learning: The plan to make deep learning data-efficient,” TechTalks, March 23, 2020. 

  6. Yann LeCun, “A Path Towards Autonomous Machine Intelligence,” OpenReview, version 0.9.2 (June 27, 2022). Position paper proposing a configurable predictive world model, intrinsic-motivation-driven behavior, and hierarchical Joint Embedding Predictive Architectures (JEPA) trained with self-supervised learning, predicting in representation space rather than reconstructing inputs. 

  7. On convolution and its biological/architectural roots (Fukushima’s Neocognitron; Hubel and Wiesel’s visual-cortex neuroscience) and pooling: “Convolutional neural network,” Wikipedia, and “LeNet,” Wikipedia. LeCun added end-to-end learning by backpropagation to a Neocognitron-style architecture, so the network learns its own filters rather than having them hand-designed. 

  8. “I-JEPA: The first AI model based on Yann LeCun’s vision for more human-like AI,” Meta AI, June 13, 2023. I-JEPA learns by predicting abstract representations of unseen image regions rather than reconstructing pixels; Meta open-sourced the training code and model checkpoints with the announcement. The post contrasts generative methods, which “try to fill-in every bit of missing information, even though the world is inherently unpredictable,” with JEPA’s prediction at “a high level of abstraction rather than predicting pixel values directly.” 

  9. Yann LeCun, “LLMs are useful, but they are an off ramp on the road to human-level AI,” post on X, June 1, 2024: “LLMs are useful, but they are an off ramp on the road to human-level AI. If you are a PhD student, don’t work on LLMs. Try to discover methods that would lift the limitations of LLMs.” (X requires authentication for automated retrieval; the quotation is widely reproduced, including in coverage of LeCun’s 2025 Meta departure cited below.) 

  10. Jeremy Kahn / Beatrice Nolan, “Yann LeCun is targeting a \$3.5 billion valuation for his new startup,” Fortune, December 19, 2025. LeCun left Meta on November 18, 2025, after 12 years (five as founding director of FAIR, seven as Chief AI Scientist) to found Advanced Machine Intelligence (AMI) Labs, headquartered in Paris, focused on “world models” – systems that understand physics, maintain persistent memory, and plan complex actions. LeCun: “We are not going to get to human-level AI just by scaling LLMs,” which “simply predict text rather than truly understand the world.” Departure and startup also reported by “Meta chief AI scientist Yann LeCun is leaving the company to create his own startup,” CNBC, November 19, 2025. 

相关文章

工程哲学:Geoffrey Hinton,信念胜过潮流

在两次人工智能寒冬中,当整个领域都在嘲笑类脑神经网络时,Geoffrey Hinton依然押注于它——信念胜过潮流,直觉胜过形式化。

1 分钟阅读

工程哲学:赵京铉(Kyunghyun Cho)

赵京铉让模型自己学会控制结构——GRU中的门控记忆、注意力中的软对齐——并将其与诚实、可复现的科学方法结合在一起。

4 分钟阅读

The Shader Gallery That Lied: Debugging 216 WebGL Presets

A user said the shader playground looked broken. Pixel-readback testing found 30 dead presets, 11 that never compiled, a…

11 分钟阅读