• 榜单数据10-19 11:33
  • 论文数据10-16 13:30
  • 周报10-18 20:50

术语与阅读说明

阅读约 5 分钟AI 生成已核查 · 已审核审核人 负责人

专题章节

核心术语

术语本专题用法常见误读
EBMEnergy-Based Model;用标量能量表示变量配置的相容性,推断对未观测变量最小化能量 [1]概率归一化是可选建模要求,不是 EBM 定义本身
SSLSelf-Supervised Learning,从数据自身构造监督信号;Meta 2021 联合署名文章以预测隐藏部分解释这一思路 [2]GPT 的因果预测与 BERT 的遮挡预测都属自监督,但机制不同
JEPAJoint-Embedding Predictive Architecture,在学习到的表征空间预测目标JEPA 不保证只保留因果变量
I-JEPA图像 JEPA,预测遮蔽图像区域的目标表征 [3]不是像素 inpainting
V-JEPA视频 JEPA,预测视频目标区域或时间片的表征 [4]“视频表征”不自动等于动作世界模型
World Model对环境状态与动作后果进行预测的内部模型世界模型不由 JEPA 独占,也不必输出可见视频
World Simulator生成未来可见观测或可交互场景的模型现代系统通常在 latent 中生成,不等于逐 RGB 回归
MPCModel Predictive Control,优化有限动作序列、执行第一步后重规划MPC 与 model-based RL 同族,但经典 MPC 不一定包含学习
CEMCross-Entropy Method,以采样、精英筛选和分布重拟合搜索动作是零阶优化,无全局最优保证
AMIAdvanced Machine Intelligence;本专题仅用作相关论文与 AMI Labs 名称中的缩写不主张这是 LeCun 经本轮核实的术语偏好
Collapse联合嵌入把所有输入映射成常数等平凡解防坍塌不保证表征对任务有用
VICReg不变性、方差与协方差三项正则 [5]去相关不等于统计独立
Barlow Twins让两视图互相关矩阵趋近单位阵 [6]防坍塌来自完整目标,不只非对角项
OBDOptimal Brain Damage,以局部二阶近似估计权重显著性 [7]对角 Hessian 是近似
open-weight可获得模型权重不等于训练代码、数据和完整许可证都开放

三层区分:latent-variable JEPA

本专题不把原型所述“AMI 潜变量多未来”作为论文事实。当前已核实的 I-JEPA、V-JEPA 与 V-JEPA 2-AC 主要是确定性 predictor [3] [4] [8];这些材料不能证明覆盖多未来、风险敏感采样与长程规划已经解决。

所以“JEPA 已经解决多未来”是不准确的;同样,把自由 (\min_z) 解释成稳健规划也不准确,它会偏向最乐观分支。

关键节点速查

时间节点本专题的意义
1989(会议)/1990(论文集)手写邮编网络与 OBD结构化视觉学习与二阶剪枝并行 [7]
1998LeNet-5 与文档识别系统本轮已取得论文;本稿只保留可精确定位的系统概述 [9]
2005DAVE端到端视觉到转向的越野驾驶 [10]
2006EBM 教程与 DrLIMEBM 定义、能量最小化推断与 DrLIM 对比损失已按原文核对 [1] [11]
2013场景标注多尺度卷积稠密特征结合 superpixel、CRF 或多层 optimal cover [12]
2013OverFeat、谱网络从分类扩展到检测和图 [13] [14]
2015Deep Learning 综述与字符级 ConvNet统一深度学习叙事,并进入语言分类 [15] [16]
2015–2016视频预测与 EBGAN亲自参与生成和对抗支线 [17] [18]
2016Predictive Learning 演讲自监督与世界模型转向公开化 [19]
2021Meta 联合署名文章用“从已观察部分预测隐藏部分”解释 self-supervised learning [2]
2021Dark Matter、Barlow Twins、VICReg联合嵌入与防坍塌机制成熟 [2] [6] [5]
2022AMI 立场论文lecun.com 无公开副本,负责人决定放弃;模块与公式不作事实使用
2023I-JEPA图像表征预测 [3]
2024V-JEPA、重建目标研究视频扩展与重建/感知错配证据 [4] [20]
2025V-JEPA 2动作条件预测与短程 MPC [8]
2025–2026LLM-JEPA、VL-JEPA、V-JEPA 2.1语言、视觉语言和稠密视频扩展 [21] [22] [23]

功劳归属

读人物专题时,必须区分三类:

  1. 本人署名论文:可写“LeCun 与合作者的工作”,仍应尊重一作和共同作者。
  2. 学生、博士后或团队论文:写“其团队参与”“他为共同作者或研究负责人”,不能把一作贡献改写成个人独创。
  3. FAIR/Meta 机构成果:PyTorch、DeepFace、Memory Networks、DCGAN、Llama 等不能写成 LeCun 个人项目。

ACM 档案可用于履历与总体贡献入口 [24];具体技术归属以论文作者表为准。

证据等级与使用方法

本专题优先使用:

  1. 论文与官方技术文章,支撑方法、实验设置和结果边界;
  2. 官方履历与会议页面,支撑人物经历与公开路线;
  3. 有时间点的原始访谈文字稿,支撑直接引语;
  4. 权威媒体,只用于背景并避免替代技术原文。

原型中的中文媒体综合、节译和作者概括只在可回到原始材料时使用。无法定位的内容进入待核查清单,不作为原话或核心事实。

来源真实性与结论独立性

机构官方论文是真实的一手材料,但它报告自家系统时不是独立结论;权威媒体可以提供独立报道,却未必掌握方法细节。两个维度应分开:

  • 来源真实性:页面、论文或文字稿是否真实;
  • 结论独立性:判断是否来自当事方之外的独立验证。

常见问题

LeCun 是否反对 LLM?

他反对的是“当前自回归 LLM 足以通向完整人类级智能”,并不否认其现实用途 [25]。

JEPA 是否完全不生成?

训练目标不要求重建可见输入,而是在目标编码器定义的表征空间做预测。系统仍可以接 decoder,或与生成模块组合。

JEPA 是否已经是世界模型?

I-JEPA 和 V-JEPA 是表征学习模型;V-JEPA 2 加入动作条件预测器并用于有限规划 [8]。

AMI 是否已经实现?

本专题无法核实原型所述完整模块体系。lecun.com 未提供 AMI 原文;当前可访问材料只支持表征预测和短程规划等部件级证据。

目标驱动是否天然安全?

不。显式成本提高可分析性,但目标遗漏、规格游戏、模型利用和约束冲突仍需解决。

世界模型和世界模拟器是否互斥?

不必互斥。可见生成适合模拟和检查,抽象 latent 适合紧凑预测和规划;未来系统可能同时使用两者。

推荐阅读顺序

  • 快速理解路线:总览 → 第 3 章 → 第 6 章。
  • 技术读者:第 2 章 → I-JEPA → V-JEPA 2。
  • 关注认知与争论:第 4、5 章 → 第 7 章。
  • 核查引语:第 7 章 → quotes.yaml → 对应原始文字稿。

参考来源

  1. [1]A Tutorial on Energy-Based Learning(在新窗口打开)MIT Press · Abstract、§1、Eq. (1)–(2)、§2 · 访问于 2026-10-18官方 · 部分原话↩
  2. [2]Self-supervised learning: The dark matter of intelligence(在新窗口打开)Meta AI · 2021-03-04 · 开头至“Self-supervised learning is predictive learning” · 访问于 2026-10-17官方 · 部分原话↩
  3. [3]Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture(在新窗口打开)arXiv · 2023-01-19 · Abstract、Figure 3 与 Loss 段 · 访问于 2026-10-17官方 · 部分原话↩
  4. [4]Revisiting Feature Prediction for Learning Visual Representations from Video(在新窗口打开)arXiv · 2024-04-12 · Abstract、第 2–4 节 · 访问于 2026-10-18官方 · 部分原话↩
  5. [5]VICReg: Variance-Invariance-Covariance Regularization for Self-Supervised Learning(在新窗口打开)arXiv · 2021-05-11 · Abstract 与方法节 · 访问于 2026-10-17官方 · 部分原话↩
  6. [6]Barlow Twins — Self-Supervised Learning via Redundancy Reduction(在新窗口打开)arXiv · 2021-03-04 · Abstract、第 2 节 · 访问于 2026-10-18官方 · 部分原话↩
  7. [7]Optimal Brain Damage(在新窗口打开)NeurIPS · §2,Eq. (3)–(5);§3 · 访问于 2026-10-18官方 · 部分原话↩
  8. [8]V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning(在新窗口打开)arXiv · 2025-06-11 · Abstract、第 1 节、第 3–4 节 · 访问于 2026-10-17官方 · 部分原话↩
  9. [9]Gradient-Based Learning Applied to Document Recognition(在新窗口打开)Proceedings of the IEEE · Abstract、II、VII · 访问于 2026-10-18官方 · 部分原话↩
  10. [10]Off-Road Obstacle Avoidance through End-to-End Learning(在新窗口打开)NeurIPS · Abstract、第 2–4 节 · 访问于 2026-10-18官方 · 部分原话↩
  11. [11]Dimensionality Reduction by Learning an Invariant Mapping(在新窗口打开)CVPR · Abstract、§2.1、Eq. (1)–(4) · 访问于 2026-10-18官方 · 部分原话↩
  12. [12]Learning Hierarchical Features for Scene Labeling(在新窗口打开)IEEE TPAMI · Abstract、§1、Figure 1、§3–4 · 访问于 2026-10-18官方 · 部分原话↩
  13. [13]OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks(在新窗口打开)arXiv · 2013-12-21 · Abstract · 访问于 2026-10-17官方 · 部分原话↩
  14. [14]Spectral Networks and Locally Connected Networks on Graphs(在新窗口打开)arXiv · 2013-12-20 · Abstract · 访问于 2026-10-17官方 · 部分原话↩
  15. [15]Deep learning(在新窗口打开)Nature · 2015-05-28 · Abstract · 访问于 2026-10-17官方 · 部分原话↩
  16. [16]Character-level Convolutional Networks for Text Classification(在新窗口打开)NeurIPS · Abstract 与实验部分 · 访问于 2026-10-18官方 · 部分原话↩
  17. [17]Deep Multi-Scale Video Prediction Beyond Mean Square Error(在新窗口打开)arXiv · 2015-11-17 · Abstract、第 2–3 节 · 访问于 2026-10-18官方 · 部分原话↩
  18. [18]Energy-based Generative Adversarial Network(在新窗口打开)arXiv · 2016-09-11 · Abstract、第 2 节 · 访问于 2026-10-18官方 · 部分原话↩
  19. [19]Predictive Learning(在新窗口打开)NeurIPS · 2016-12-05 · Invited Talk abstract · 访问于 2026-10-17一手采访 · 本人原话↩
  20. [20]How Learning by Reconstruction Produces Uninformative Features For Perception(在新窗口打开)PMLR · 2024-07-21 · Abstract · 访问于 2026-10-17官方 · 部分原话↩
  21. [21]LLM-JEPA — Large Language Models Meet Joint-Embedding Predictive Architectures(在新窗口打开)arXiv · 2025-09-17 · Abstract · 访问于 2026-10-18官方 · 部分原话↩
  22. [22]VL-JEPA — Joint-Embedding Predictive Architectures for Vision-Language(在新窗口打开)arXiv · 2025-12-11 · Abstract · 访问于 2026-10-18官方 · 部分原话↩
  23. [23]V-JEPA 2.1 — Unlocking Dense Features in Video Self-Supervised Learning(在新窗口打开)arXiv · 2026-03-16 · Abstract · 访问于 2026-10-18官方 · 部分原话↩
  24. [24]Yann LeCun — A.M. Turing Award Laureate(在新窗口打开)Association for Computing Machinery · Biography、Experience 与 Honors and Awards · 访问于 2026-10-17官方 · 非本人原话↩
  25. [25]Yann LeCun: Meta AI, Open Source, Limits of LLMs, AGI & the Future of AI(在新窗口打开)Lex Fridman Podcast · 2024-03-07 · 00:00:00、00:02:47、00:06:56、00:28:16 起 · 访问于 2026-10-17一手采访 · 本人原话↩