人物小传与路线演变
所属专题:Yann LeCun(杨立昆) · 第 1 章引语索引信源台账
专题章节
如何阅读这条时间线
LeCun 的公开路线不是一条从 CNN 必然通向 JEPA 的直线。更准确的读法是三条长期并行的线索:一是卷积与结构先验;二是能量模型与“推断即优化”;三是从无标签观察中学习表征。这三条线索在 2020 年代的公开文章与 JEPA 系列工作中被并置讨论;检测、图网络、语言分类和生成研究并不是同一理论的必然产物。
1960—1998:训练、卷积网络与文档识别
| 时间 | 节点 | 意义 |
|---|---|---|
| 1960 | 生于法国 | 人物履历起点 |
| 1983 | 获 ESIEE Paris 工程学位 | 工程训练背景 |
| 1987 | 获计算机科学博士学位 | 博士期间研究早期反向传播与视觉学习 |
| 1987—1988 | 在 Toronto 与 Geoffrey Hinton 共事 | 接入连接主义研究共同体 |
| 1988 | 加入 Bell Labs | 进入卷积网络与文档识别阶段 |
| 1989 | 手写邮编识别与 Optimal Brain Damage | 同时推进端到端学习与二阶剪枝 |
| 1998 | LeNet-5 综述论文 | 把卷积、反向传播和结构化文档识别整合成系统 |
ACM 档案记录了 LeCun 的教育、Toronto 博士后和 Bell Labs 经历,也把卷积网络、Optimal Brain Damage、DjVu 与 Graph Transformer Networks 列入其代表工作 [1]。本轮已从 lecun.com 取得 1998 论文;本稿仍只保留可精确定位的系统概述,不恢复未经逐项核对的架构与实验数字 [2]。
Optimal Brain Damage 用损失函数对参数的二阶局部近似估计权重“显著性”,再优先删除预计造成损失上升较小的连接 [3]。它说明 LeCun 的工程关注从一开始就不只有精度,也包括模型中哪些结构真正必要。
1996—2012:能量模型、机器人与算法展开
1996 年后,LeCun 在 AT&T Labs 继续文档处理与 DjVu;2003 年加入 NYU,围绕能量模型、无监督特征学习、视觉和机器人形成新的研究群体 [1]。这一时期不能只概括为“寒冬坚守”,因为它包含几条后来彼此分化的技术支线。
能量模型与对比学习
EBM 用标量能量表示变量配置的相容性;推断对未观测变量最小化能量,学习则压低正确配置、抬高错误配置的能量。概率归一化是可选建模要求,不是 EBM 定义本身 [4]。
DrLIM 从样本对的邻域关系学习可用于新样本的非线性映射;其对比损失拉近相似对,并只把落入 margin 的不相似对推远,从而避免常数映射坍塌 [5]。
DAVE 与 LAGR 必须分开
DAVE 用卷积网络把双目图像直接映射到人类驾驶者的转向指令,属于有示范信号的端到端监督学习 [6]。原型还讨论了 LAGR:近处立体视觉自动产生可通行性标签,再监督远处单目预测。二者都涉及越野机器人,但监督来源和输出不同,不应合并成同一实验。
2012—2018:从视觉扩展到研究建制
不只做分类:场景标注、检测和图结构
Farabet 等用共享权重的多尺度卷积网络从原始像素提取逐像素稠密特征,再结合 superpixel、CRF 或多层 optimal cover 完成场景标注 [7]。OverFeat 用共享卷积特征统一分类、定位与检测 [8]。Spectral Networks 又用图 Laplacian 的谱基把卷积思想扩展到非规则图结构,同时留下跨图迁移和计算代价等局限 [9]。
FAIR 与团队成果的归属边界
2013 年,LeCun 创建 Facebook AI Research(FAIR);2018 年转任副总裁兼首席 AI 科学家 [1]。PyTorch、DeepFace、Memory Networks、DCGAN 和后来的 Llama 是 FAIR 或 Meta 团队成果,不能写成 LeCun 个人完成的项目。他的可确认贡献是机构创建、研究议程与开放发表文化;具体技术功劳应按论文作者和工程团队归属。
2015:共同范式,也埋下分歧
LeCun、Yoshua Bengio 与 Geoffrey Hinton 在 Nature 的《Deep Learning》中把表征学习、反向传播、卷积网络与序列建模组织成统一叙事 [10]。同年,字符级 ConvNet 直接把字符序列作为一维信号进行文本分类,说明 LeCun 并非“从未认真处理语言”;他的后来分歧是关于自回归生成是否足以成为完整智能路线,而不是语言任务本身 [11]。
他也做过生成与像素预测
多尺度视频预测工作用对抗损失和图像梯度差损失缓解均方误差造成的模糊 [12]。EBGAN 则把判别器解释成能量函数,并以自编码器重建误差作为能量 [13]。因此,“LeCun 一直反对所有生成模型”是不准确的;更稳妥的表述是,他后来反对把重建可见观测当成世界理解与规划的核心目标。
2016—2022:自监督从比喻变成纲领
2016 年 NeurIPS 邀请演讲把预测学习和从未标注数据学习世界模型放到中心,同时强调现实世界只有部分可预测 [14]。2021 年 Meta 联合署名文章随后用“从已观察部分预测隐藏部分”解释自监督学习 [15]。
2021 年 Meta 官方文章把常识称为 AI 的“暗物质”,讨论自监督、能量模型、联合嵌入和潜变量架构;文章也明确承认 NLP 自监督的成功,视觉侧困难在于连续高维预测与不确定性 [15]。同一时期,Barlow Twins 和 VICReg 分别用冗余削减、方差与协方差约束防止表征坍塌 [16] [17]。
2022 年 AMI 立场论文是原型第 3 章的核心材料,但 lecun.com 未提供公开副本,负责人已决定放弃。因此,本版不陈述原型里的六模块、双模式与分层细节,只保留其他已核实来源能够独立支撑的路线描述。
2023—2026:JEPA 从图像走向视频与行动
| 时间 | 工作 | 从主张到证据推进了什么 |
|---|---|---|
| 2023 | I-JEPA | 在图像表征空间预测被遮蔽区域 [18] |
| 2024 | V-JEPA | 把特征预测扩展到视频 [19] |
| 2024 | 重建与感知研究 | 分析重建目标为何可能优先保留对感知无用的高方差方向 [20] |
| 2025 | V-JEPA 2 / 2-AC | 把视频预训练表征接入动作条件预测与短程 MPC [21] |
| 2025 | LLM-JEPA、VL-JEPA | 把联合嵌入目标延伸到语言与视觉语言,并反驳“JEPA 与语言只能二选一”的简化叙事 [22] [23] |
| 2026 | V-JEPA 2.1 | 探索更稠密的视频自监督特征 [24] |
这些结果说明 JEPA 已从图像表示扩展到视频、语言和有限行动规划;它们仍不能证明开放世界常识、长程层级规划或完整自主智能已经解决。
职业转折与研究归属
ACM 档案记载,LeCun 于 2018—2025 年任 Meta 副总裁兼首席 AI 科学家,2025 年起进入 Advanced Machine Intelligence Labs [1]。本专题不迁移人物照片,也不采用原型中尚未由当前台账一手来源稳定支撑的融资额、估值、团队规模和媒体推测。
参考来源
- [1]Yann LeCun — A.M. Turing Award Laureate(在新窗口打开)官方 · 非本人原话↩
- [2]Gradient-Based Learning Applied to Document Recognition(在新窗口打开)官方 · 部分原话↩
- [3]Optimal Brain Damage(在新窗口打开)官方 · 部分原话↩
- [4]A Tutorial on Energy-Based Learning(在新窗口打开)官方 · 部分原话↩
- [5]Dimensionality Reduction by Learning an Invariant Mapping(在新窗口打开)官方 · 部分原话↩
- [6]Off-Road Obstacle Avoidance through End-to-End Learning(在新窗口打开)官方 · 部分原话↩
- [7]Learning Hierarchical Features for Scene Labeling(在新窗口打开)官方 · 部分原话↩
- [8]OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks(在新窗口打开)官方 · 部分原话↩
- [9]Spectral Networks and Locally Connected Networks on Graphs(在新窗口打开)官方 · 部分原话↩
- [10]Deep learning(在新窗口打开)官方 · 部分原话↩
- [11]Character-level Convolutional Networks for Text Classification(在新窗口打开)官方 · 部分原话↩
- [12]Deep Multi-Scale Video Prediction Beyond Mean Square Error(在新窗口打开)官方 · 部分原话↩
- [13]Energy-based Generative Adversarial Network(在新窗口打开)官方 · 部分原话↩
- [14]Predictive Learning(在新窗口打开)一手采访 · 本人原话↩
- [15]Self-supervised learning: The dark matter of intelligence(在新窗口打开)官方 · 部分原话↩
- [16]Barlow Twins — Self-Supervised Learning via Redundancy Reduction(在新窗口打开)官方 · 部分原话↩
- [17]VICReg: Variance-Invariance-Covariance Regularization for Self-Supervised Learning(在新窗口打开)官方 · 部分原话↩
- [18]Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture(在新窗口打开)官方 · 部分原话↩
- [19]Revisiting Feature Prediction for Learning Visual Representations from Video(在新窗口打开)官方 · 部分原话↩
- [20]How Learning by Reconstruction Produces Uninformative Features For Perception(在新窗口打开)官方 · 部分原话↩
- [21]V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning(在新窗口打开)官方 · 部分原话↩
- [22]LLM-JEPA — Large Language Models Meet Joint-Embedding Predictive Architectures(在新窗口打开)官方 · 部分原话↩
- [23]VL-JEPA — Joint-Embedding Predictive Architectures for Vision-Language(在新窗口打开)官方 · 部分原话↩
- [24]V-JEPA 2.1 — Unlocking Dense Features in Video Self-Supervised Learning(在新窗口打开)官方 · 部分原话↩