工程哲学:Yann LeCun,以开放的方式学习世界

核心要点
- 让机器基本靠自己学习世界。 LeCun 的核心押注是:智能源于机器通过观察去弄懂世界如何运转——也就是自监督学习——人工标注只是薄薄的一层点缀。那个著名的”蛋糕”比喻把比例说得很直白:主体是自监督学习,糖霜是监督学习,樱桃是强化学习。
- 卷积让视觉变得可学。 在贝尔实验室,他把反向传播用在手写数字识别上(1989),并构建了 LeNet 系列卷积网络;LeNet-5(1998)成为真正投入商用的那个架构——到 2001 年,它已经在读取全美约 10% 的支票。
- 开放研究是方法,不是口号。 作为 Facebook/Meta FAIR 的创始主任(2013)与首席 AI 科学家,他把发表论文和开源代码定为默认动作——I-JEPA 的代码与模型检查点随论文一同发布——因为他确信开放科学的复利跑得比保密更快。
- 一个对 LLM 持怀疑态度的乐观主义者。 作为 2018 年图灵奖得主之一(与 Hinton、Bengio 共享),LeCun 认为自回归语言模型是通往人类水平 AI 路上的”岔道”;在他看来,真正的路要经过 JEPA 这样的世界模型。2025 年 11 月,他离开 Meta,去做的正是这件事。
原则
“仅靠扩大 LLM 的规模,我们不会抵达人类水平的 AI”——它们”只是在预测文本,而非真正理解世界”。——Yann LeCun 谈离开 Meta,202510
这句话背后的原则比 LLM 时代要古老得多,而 LeCun 四十年来始终如一:机器应当主要靠自己去弄懂世界如何运转,靠预测所观察到的东西,而不是被人一勺一勺喂进标注数据——而研究这件事的科学本身,应当在开放中进行。任何动物所知的绝大部分,都不是靠老师教会的。婴儿早在有人替他命名任何一样东西之前,就已经知道没有支撑的物体会掉下去、被遮住的东西依然存在、世界具有稳定的结构。LeCun 的赌注是:这种学习——从原始、无标注、高带宽的感官输入中吸收世界的结构——才是智能的主体,而监督学习与强化学习相比之下不过是覆在上面的薄薄几层。
这正是他被引用最多的那句话的内容,那个蛋糕:”如果说智能是一块蛋糕,那么蛋糕的主体是自监督学习,蛋糕上的糖霜是监督学习,蛋糕顶上的那颗樱桃是强化学习。”5 他最初在 2016 年说的是无监督,到 2019 年又刻意改成了自监督——这个用词上的精确很重要,因为它点明了机制:数据自己提供标签。遮住输入的一部分,用其余部分把它预测出来;世界就是自己的老师。5 这个比喻里的比例,本身就是全部论证。如果蛋糕的主体是自监督学习,那么一个把全部力气都投向”训练越来越大的系统去预测下一个人类写下的 token”的领域,在他看来是在优化糖霜。
原则的另一半是开放。LeCun 的职业生涯和他的实验室都建立在一个信念之上:AI 研究只有在被发表、可复现、开源的条件下才推进得最快——这与整个行业囤积前沿成果的本能背道而驰。这两半是相连的:如果通往真正智能的路既长又不确定,就没有哪一家实验室能独自走完;而要弄清哪些架构真的学到了世界,唯一的办法就是把它们公开出来,让所有人去检验。以开放的方式学习世界——预测是引擎,开放是方法。
背景
Yann André Le Cun 于 1960 年 7 月 8 日出生在巴黎附近的 Soisy-sous-Montmorency。1 1987 年,他在皮埃尔与玛丽·居里大学(今索邦大学的一部分)取得博士学位,博士论文中已经包含了反向传播的早期形式——正是这个想法后来定义了整个领域。1 在联结主义还上不了台面的年代,他就已经是个联结主义者;当 AI 领域的其他人把类脑学习网络判了死刑时,他还在这条路上做研究。
1988 年,他加入 AT&T 贝尔实验室,他最具影响力的工程成果就诞生在那里。1 贝尔实验室给了他真实的数据,也给了他一个理由去让网络真正跑得通,而不只是停留在理论:先是美国邮政的手写数字,然后是银行支票上的手写金额。约束条件毫不留情——一台把数字读错的支票识别机是要赔钱的——这也推着他走向一种真正把图像结构当回事的架构,而不是把一幅图当成一堆没有分别的像素。
离开贝尔实验室后,他于 2003 年入职纽约大学,担任计算机科学教授。1 随后在 2013 年 12 月,马克·扎克伯格聘他组建并领导 Facebook AI Research(FAIR),他也成为该公司的首席 AI 科学家——这个职位他做了十多年,同时仍在纽约大学兼任教授。110 FAIR 成为那个时代产出最丰的开放型工业研究实验室之一,这正是他”科学应当被共享”这一信念的直接体现。这段任期在 2025 年 11 月结束,他离职创办了自己的世界模型初创公司——关于他在 LLM 这场赌局中站在哪一边,这是最清楚不过的表态。10
他的工作
卷积网络与 LeNet:读遍全世界的支票(1989-1998)
LeCun 职业生涯的核心技术思想是卷积神经网络,而要体会它为何重要,最直接的办法就是看它跑一遍。一个把每个像素都连到每个神经元的朴素网络,既臃肿又对结构视而不见:它完全不知道图像左上角的一笔和右下角一模一样的一笔是同一类东西。LeCun 的洞见——建立在福岛邦彦的 Neocognitron 之上,并以大脑视觉皮层为依据——是让一个小小的滤波器(卷积核)在图像上滑动,在每个位置都用同一组权重做计算,这样网络只需学会一次某个特征,就能在任何地方检测到它。7 下面这个组件演示的正是这个操作:挑一个边缘检测卷积核,看它扫过一个数字,看”特征图”在它所匹配的图案出现的每一处亮起来。
这段历史很具体。1989 年在贝尔实验室,LeCun 与同事率先把反向传播算法用于一个实际问题——识别美国邮政信件上的手写邮政编码——由此做出的原型即后来的 LeNet-1。2 又经过近十年的打磨,才有了 1998 年那篇里程碑式的论文《Gradient-Based Learning Applied to Document Recognition》,作者为 LeCun、Léon Bottou、Yoshua Bengio 与 Patrick Haffner。论文描述了 LeNet-5,并论证了在文档识别中,基于梯度的学习可以取代手工设计的特征提取器。3
这不是一次跑分意义上的新奇尝试。NCR 从 1996 年 6 月起把基于 LeNet 的支票识别系统投入商用,到 2001 年,据估算该系统每天读取约 2000 万张支票——相当于全美支票总量的约 10%。2 在神经网络仍被这个领域的大多数人轻视的时刻,LeCun 手里那台机器正悄无声息地读着一个国家十分之一的支票。他为那个问题设计的架构——卷积、池化、把学到的特征堆成层级——在结构上,正是驱动今日计算机视觉的同一个想法。

开放研究与 FAIR
2013 年组建 FAIR 时,LeCun 做了一个对企业实验室来说并不理所当然的选择:工作要公开。论文照发,代码照放,模型共享。110 他赌的是:一个开放的实验室能吸引最好的研究者(他们希望自己的工作被看见、被引用),能让整个领域跑得更快,而且——这一点同样重要——能让全世界来审视和改进你造的东西。
这在哲学上与开源不是安全边界是同宗同源:开放并不保证正确,但它正是让正确得以被发现的机制。LeCun 把这套逻辑用在了科学上。你没法关起门来靠推理断定哪些架构真的学到了世界的结构;你把它们发表出来,别人去复现或推翻,真相在被反复审视之后活下来。Meta 在 2023 年发布 I-JEPA 就是这一模式的缩影——训练代码和模型检查点与论文同时发布,不是几个月之后,更不是永远不发。8 在一个前沿实验室越来越把最好的成果当作商业机密的时代,LeCun 的开放立场是一种刻意的、逆流而上的姿态,关乎知识如何产生复利。
自监督学习:那块蛋糕
LeCun 最深刻的想法,恰好也是包装得最上口的那个。多年来他一直主张,这个领域把智能的比例弄反了,而他是用食物把这个道理讲清楚的。在 2016 年初纽约大学”AI 的未来”研讨会的演讲和当年的 NeurIPS 主旨演讲上,他端出了一块蛋糕:”如果说智能是一块蛋糕,那么蛋糕的主体是无监督学习,蛋糕上的糖霜是监督学习,蛋糕顶上的那颗樱桃是强化学习。”5 到 2019 年,他刻意把”无监督”改成了“自监督”——这是一种由数据自己提供监督信号的变体:遮住输入的一部分,训练模型用其余部分把它预测出来。5
这次修改不是修辞上的润色,而是给引擎起了个名字。”无监督”描述的是标签的缺席;”自监督”描述的则是一种正面的机制:世界一旦被观察,就成了它自己的训练信号。他主张,人和动物所知的绝大部分正是这样获得的——那些没有人替我们标注的常识物理与结构。他给它起的名字是”智能的暗物质”:那一大片无标注的学习,监督方法和强化方法只是在上面做装饰。5 如果他关于比例的判断没错,那么 AI 领域最重要的研究问题就不是更大的标注数据集或更多的奖励信号,而是更好的自监督目标——通过观察世界来学习世界。

世界模型与 JEPA:怀疑 LLM 的立场
LeCun 最公开、也最有争议的立场,正是从蛋糕直接推出来的。如果真正的智能主要是对世界结构的自监督学习,那么一个纯粹被训练去预测下一个人类写下的 token 的系统,学到的是词语模型,而不是世界模型——它也将继承这一基底的局限。他说得很直白:自回归 LLM 是通往人类水平 AI 路上的”岔道”,有用,但不是那条路;”仅靠扩大 LLM 的规模,我们不会抵达人类水平的 AI”。910
他提出的替代方案是联合嵌入预测架构(Joint Embedding Predictive Architecture,JEPA),见于他 2022 年的立场论文《A Path Towards Autonomous Machine Intelligence》。6 关键的一步在于预测发生在哪里。生成式模型试图逐像素重建缺失的输入,因而把大量容量浪费在建模那些本就不可预测的细节上——这也正是生成式模型在诸如”一只手上究竟有几根手指”这类问题上出名地力不从心的原因。8 JEPA 则改为在抽象的表示空间中做预测,可以放心忽略那些预测不了的细节,专注于一个场景中结构性的、低熵的规律。68 Meta 的 I-JEPA(2023)是基于这一构想的第一个具体图像模型,并且开源发布。8
在这个系列里,他与另一位”教父”的对照最为鲜明。Geoffrey Hinton 与他共享同一座图灵奖,也共享同样孤独的数十年坚持,但在 2023 年转而警告这项技术可能带来危险。LeCun 是三人中的乐观派——他怀疑的不是 AI 的安全性,而是当下这套架构的天花板——2025 年 11 月,他用自己的职业生涯为这份信念背书,离开 Meta,在巴黎创办了 Advanced Machine Intelligence(AMI)Labs,一家明确围绕世界模型而非更大的语言模型来构建的初创公司。10 两位教父,一座奖项,相反的讯息:Hinton 说慢一点,因为它可能奏效得太好;LeCun 说,这条特定的路并不通向大家以为的地方,然后指了指另一条。
他的方法
从支票识别机到世界模型初创公司,方法始终如一:造出问题结构所要求的那种架构,尽可能在没有标注的情况下学习,并且在开放中完成这一切。
把结构写进架构里。 卷积之所以奏效,是因为它把关于图像的一个真实事实——平移不变性——直接烘焙进了网络的连线方式,而不是逼模型从零开始把它学出来。这个教训可以推广:当你已经知道关于问题的某件事,就把它构建进架构,而不是指望数据教会它。23
让数据成为自己的老师。 标注稀缺又昂贵;原始的观察却取之不尽。自监督的立场——遮住输入的一部分,用其余部分把它预测出来——正是 LeCun 提出的、用来学到系统所需知识主体的办法。人工监督应当最后才动用,而不是一上来就用。5
在表示空间而非像素空间做预测。 别把容量花在建模你根本预测不了的细节上。JEPA 的核心工程抉择,就是预测抽象表示并有意丢弃不可预测的部分——这是一种关于究竟什么值得被建模的克制。68
把它发表出来。 开放论文,开放代码,开放模型。LeCun 的信念是:科学在开放中产生复利,在保密中停滞;他就是靠这条原则,把业界最大的实验室之一运营了十年。1810
当证据站在你这边时,守住不合时宜的立场。 神经网络的寒冬里他一直相信它;如今整个行业把资本疯狂倒进 LLM,他却坚持认为那是一条弯路。在炒作周期的顶点做那个大声的怀疑者,所需要的是同一块肌肉——当年没人在意卷积时,正是它让他留在了那条路上。910
影响链
谁塑造了他
福岛邦彦。 福岛的 Neocognitron(1980)——一个受皮层启发、分层且能容忍位移的视觉网络——是卷积网络的直系祖先。LeCun 为它加上了通过反向传播实现的端到端学习,把一个手工调参的架构变成了能自己学出滤波器的架构。(直接影响)
David Hubel 与 Torsten Wiesel。 他们那项获诺贝尔奖的视觉皮层神经科学研究——简单细胞检测局部特征,复杂细胞在位置上做汇聚——正是卷积与池化所形式化的生物学蓝图。LeCun 和 Hinton 一样,是从”大脑究竟如何看见”出发去推理的。(奠基性影响)
联结主义的反向传播谱系。 LeCun 在 1987 年的博士论文中发展出了反向传播的一种早期形式,与 Rumelhart-Hinton-Williams 在 1986 年让其声名远播的工作殊途同归。在联结主义纲领极不受待见的年代,他继承并推进了它。(直接影响)
他塑造了谁
现代计算机视觉。 每一个卷积视觉系统——读医学影像的、支撑自动驾驶感知栈的、驱动手机摄像头的——在结构上都源自 LeNet。他不只是为这个领域做了贡献;他提供了它的地基架构。
自监督转向。 整个行业转向从无标注数据中学习——掩码预训练、对比方法、联合嵌入目标——这条线径直穿过 LeCun 的”蛋糕”框架,以及他十年如一日的坚持:智能的主体就在这里。
一代 FAIR 研究者。 通过运营业界最大的开放型工业实验室之一,LeCun 塑造了一代人发表与共享工作的方式,也为如今存在于那些最讳莫如深的前沿实验室之外的开放模型生态播下了大半的种子。
贯穿线
在本系列的深度学习分支上,LeCun 是计算机视觉那条根,而最清晰的一条线向前延伸到 Andrej Karpathy——他的工作正落在卷积所开辟的”学习式视觉”领域之内,而他”Software 2.0”的重构(把网络看作一个由数据编译而成的程序)正是 LeCun 从手工设计的支票识别机走向学习式识别机这一步的自然推广。最尖锐的对照则是他的图灵奖共同得主 Geoffrey Hinton:两位”教父”共享同一座奖项、同样孤独的数十年,以及对类脑学习的同一份押注,却在当下这一刻分道扬镳。忧心忡忡的 Hinton 在 2023 年离开谷歌,去警告这东西可能太过强大;乐观的 LeCun 在 2025 年离开 Meta,去论证当下主导的架构还不够强大,并动手构建另一种。Hinton 担心的是结果,LeCun 质疑的是路线。两条路,一座山:Hinton 相信危险是真的;LeCun 相信,在开放中学到的世界,才是那条路。(系列衔接)
我从中带走了什么
我从 LeCun 那里留下的一课是:架构应当承载问题中你真正弄懂的那一部分。卷积之所以奏效,是因为它把平移不变性构建进了网络,而不是指望十亿个样例把它教出来——而这恰恰是我设计系统时会伸手去够的那一招:当我知道某件事在这个领域中为真,我就把它编码进结构里,而不是交给运气。这与把品味当作一套可以为之辩护的技术系统、而不是一种但愿会自己浮现的感觉,是同一种本能——把已知的约束放进设计中可以被检验的地方,而不是放进”但愿输出规规矩矩”的祷告里。
更难的一课是那份对 LLM 的怀疑。LeCun 站在炒作周期的绝对顶点——整个行业、资本、注意力全都指向扩大语言模型的规模——却公开表态说那是一条岔道。他也许错了;重点在于,当异议代价高昂时,他愿意做那个持异议的声音,而且这份异议锚定在一个具体的技术论证上——关于在表示空间中做预测——而不是靠逆反本能。这就是把证据关口对准共识本身:不是”大家都很兴奋,所以这一定就是那条路”,而是”这套架构究竟学到了什么,那是我们想要的东西吗?”而开放是我最直接继承下来的那部分——那个信念是:谁对谁错,是靠把工作发表出来、让它接受检验才弄清楚的;这也是为什么我把质量当作唯一的变量,并把”这项工作是否配得上存在”的 Steve 测试当作一件交出去接受审视的事,而不是一句自己宣称的话。LeCun 两次把整个职业生涯押在”学习世界”而非”背下世界的标签”上——而且押在所有人都看得见的地方。
常见问题
Yann LeCun 的工程哲学是什么?
以开放的方式学习世界。LeCun 主张智能主要是自监督的——机器通过预测自己所观察到的东西来学习世界的结构,人工标注与奖励信号只是覆在上面的薄薄几层;这一点凝结在他的”蛋糕”比喻里:自监督学习是主体,监督学习是糖霜,强化学习是那颗樱桃。5 与之配套的是他对开放研究的承诺:发表论文、代码与模型,让科学能够被复现和检验。18 他的工程标志是把已知的结构直接编码进架构——正如卷积把平移不变性烘焙进了一个视觉网络。23
Yann LeCun 发明了什么,它在商业上是如何被使用的?
他是现代卷积神经网络的主要发明者。1989 年在贝尔实验室,他是最早把反向传播用于实际任务的人之一——识别手写邮政编码——由此做出了 LeNet 原型;1998 年的论文《Gradient-Based Learning Applied to Document Recognition》(与 Bottou、Bengio、Haffner 合著)描述了 LeNet-5。23 在商业上,NCR 从 1996 年起部署基于 LeNet 的支票识别系统,到 2001 年,据估算该系统每天读取约 2000 万张支票——相当于全美支票总量的约 10%。2
Yann LeCun 为何对大语言模型持怀疑态度?
因为在他看来,自回归 LLM 学到的是关于文本的模型,而非关于世界的模型,因此单靠扩大规模无法抵达人类水平的智能——他称它们是通往人类水平 AI 路上的”岔道”。910 他提出的替代方案是联合嵌入预测架构(JEPA),出自他 2022 年的论文《A Path Towards Autonomous Machine Intelligence》:它在抽象的表示空间中做预测并忽略不可预测的细节,而不是去生成每一个像素或 token。68 2025 年 11 月,他离开 Meta,在巴黎创办 AMI Labs,直接追求世界模型这条路。10
Yann LeCun 获得过图灵奖吗?
获得过。他与 Geoffrey Hinton、Yoshua Bengio 共同获得 2018 年 ACM A.M. 图灵奖——三人并称”深度学习教父”——获奖理由是”在概念和工程上的突破,使深度神经网络成为计算的关键组成部分”。4 LeCun 被认可的贡献集中在卷积网络,以及他在让深度学习变得实用方面更广泛的工作。他与 Hinton 在当下这个问题上公开分歧:Hinton(2023 年离开谷歌)警告 AI 的危险,而 LeCun 是那个乐观派,主张今天占主导地位的 LLM 架构并非通往人类水平智能的路线。10
参考来源
-
“Yann LeCun,” Wikipedia. Yann André Le Cun,1960 年 7 月 8 日生于法国 Soisy-sous-Montmorency;1987 年于皮埃尔与玛丽·居里大学(今索邦大学)获博士学位;1988 年加入 AT&T 贝尔实验室;2003 年起任纽约大学教授;2013 年 12 月加入 Facebook,任 Facebook AI Research(FAIR)创始主任兼首席 AI 科学家;与 Geoffrey Hinton、Yoshua Bengio 共享 2018 年 ACM 图灵奖。 ↩↩↩↩↩↩↩↩
-
“LeNet,” Wikipedia. LeNet 是 AT&T 贝尔实验室(约 1988-1998 年)以 Yann LeCun 为核心开发的一系列卷积神经网络架构;1989 年,LeCun 等人首次把反向传播用于实际任务,识别美国邮政的手写邮政编码(即 LeNet-1 原型)。NCR 自 1996 年 6 月起部署基于 LeNet 的银行支票识别系统;到 2001 年,据估算该系统每天读取约 2000 万张支票,占全美支票总量的 10%。 ↩↩↩↩↩↩
-
Yann LeCun, Léon Bottou, Yoshua Bengio, and Patrick Haffner, “Gradient-Based Learning Applied to Document Recognition,” Proceedings of the IEEE 86, no. 11 (1998): 2278-2324, doi:10.1109/5.726791. 该论文描述了 LeNet-5,并论证在文档识别中基于梯度的学习可以取代手工设计的特征提取器。引用信息与重要性亦见于 “LeNet,” Wikipedia。 ↩↩↩↩
-
2018 年 ACM A.M. 图灵奖授予 Yoshua Bengio、Geoffrey Hinton 与 Yann LeCun 的获奖理由:”在概念和工程上的突破,使深度神经网络成为计算的关键组成部分”。ACM 官方页面(awards.acm.org)屏蔽自动化请求;获奖理由的逐字表述记录于 “Turing Award,” Wikipedia 与 “Yann LeCun,” Wikipedia。 ↩
-
关于”蛋糕”比喻以及从无监督到自监督的修订:“Yann LeCun Cake Analogy 2.0,” Synced, 2019 年 2 月 22 日。这块蛋糕最早出现在 2016 年初 LeCun 于纽约大学”AI 的未来”研讨会的演讲及其 NIPS 2016 主旨演讲中,最初的表述为”蛋糕的主体是无监督学习,蛋糕上的糖霜是监督学习,蛋糕顶上的那颗樱桃是强化学习”;到 2019 年 ISSCC 会议时,LeCun 已把”无监督”改为”自监督”。关于把自监督学习称为”智能的暗物质”,另见 LeCun 的相关讨论:“Self-supervised learning: The plan to make deep learning data-efficient,” TechTalks, 2020 年 3 月 23 日。 ↩↩↩↩↩↩↩
-
Yann LeCun, “A Path Towards Autonomous Machine Intelligence,” OpenReview, 版本 0.9.2(2022 年 6 月 27 日)。这篇立场论文提出了一种可配置的预测式世界模型、由内在动机驱动的行为,以及以自监督学习训练、在表示空间中做预测而非重建输入的分层联合嵌入预测架构(JEPA)。 ↩↩↩↩
-
关于卷积及其生物学与架构渊源(福岛的 Neocognitron;Hubel 与 Wiesel 的视觉皮层神经科学)以及池化:“Convolutional neural network,” Wikipedia 与 “LeNet,” Wikipedia。LeCun 为 Neocognitron 式的架构加上了通过反向传播实现的端到端学习,使网络能够自己学出滤波器,而不必由人手工设计。 ↩
-
“I-JEPA: The first AI model based on Yann LeCun’s vision for more human-like AI,” Meta AI, 2023 年 6 月 13 日。I-JEPA 通过预测未见图像区域的抽象表示来学习,而非重建像素;Meta 在发布公告的同时开源了训练代码与模型检查点。该文把生成式方法——它们”试图补全每一比特缺失的信息,尽管世界本质上是不可预测的”——与 JEPA 在”较高抽象层次上而非直接预测像素值”的预测方式做了对比。 ↩↩↩↩↩↩↩↩
-
Yann LeCun, “LLMs are useful, but they are an off ramp on the road to human-level AI,” 发表于 X,2024 年 6 月 1 日:”LLM 很有用,但它们是通往人类水平 AI 路上的一条岔道。如果你是博士生,不要去做 LLM。试着去发现那些能突破 LLM 局限的方法。”(X 对自动化抓取要求身份验证;该引文被广泛转载,包括下文所引关于 LeCun 2025 年从 Meta 离职的报道。) ↩↩↩
-
Jeremy Kahn / Beatrice Nolan, “Yann LeCun is targeting a \$3.5 billion valuation for his new startup,” Fortune, 2025 年 12 月 19 日。LeCun 于 2025 年 11 月 18 日离开 Meta,此前在该公司任职 12 年(五年任 FAIR 创始主任,七年任首席 AI 科学家),创办总部位于巴黎的 Advanced Machine Intelligence(AMI)Labs,专注于”世界模型”——即能理解物理规律、保持持久记忆并规划复杂行动的系统。LeCun 表示:”仅靠扩大 LLM 的规模,我们不会抵达人类水平的 AI”,它们”只是在预测文本,而非真正理解世界”。关于其离职与创业,另见 “Meta chief AI scientist Yann LeCun is leaving the company to create his own startup,” CNBC, 2025 年 11 月 19 日。 ↩↩↩↩↩↩↩↩↩↩↩