术语与阅读说明
所属专题:Yann LeCun(杨立昆) · 第 8 章引语索引信源台账
专题章节
核心术语
| 术语 | 本专题用法 | 常见误读 |
|---|---|---|
| EBM | Energy-Based Model;用标量能量表示变量配置的相容性,推断对未观测变量最小化能量 [1] | 概率归一化是可选建模要求,不是 EBM 定义本身 |
| SSL | Self-Supervised Learning,从数据自身构造监督信号;Meta 2021 联合署名文章以预测隐藏部分解释这一思路 [2] | GPT 的因果预测与 BERT 的遮挡预测都属自监督,但机制不同 |
| JEPA | Joint-Embedding Predictive Architecture,在学习到的表征空间预测目标 | JEPA 不保证只保留因果变量 |
| I-JEPA | 图像 JEPA,预测遮蔽图像区域的目标表征 [3] | 不是像素 inpainting |
| V-JEPA | 视频 JEPA,预测视频目标区域或时间片的表征 [4] | “视频表征”不自动等于动作世界模型 |
| World Model | 对环境状态与动作后果进行预测的内部模型 | 世界模型不由 JEPA 独占,也不必输出可见视频 |
| World Simulator | 生成未来可见观测或可交互场景的模型 | 现代系统通常在 latent 中生成,不等于逐 RGB 回归 |
| MPC | Model Predictive Control,优化有限动作序列、执行第一步后重规划 | MPC 与 model-based RL 同族,但经典 MPC 不一定包含学习 |
| CEM | Cross-Entropy Method,以采样、精英筛选和分布重拟合搜索动作 | 是零阶优化,无全局最优保证 |
| AMI | Advanced Machine Intelligence;本专题仅用作相关论文与 AMI Labs 名称中的缩写 | 不主张这是 LeCun 经本轮核实的术语偏好 |
| Collapse | 联合嵌入把所有输入映射成常数等平凡解 | 防坍塌不保证表征对任务有用 |
| VICReg | 不变性、方差与协方差三项正则 [5] | 去相关不等于统计独立 |
| Barlow Twins | 让两视图互相关矩阵趋近单位阵 [6] | 防坍塌来自完整目标,不只非对角项 |
| OBD | Optimal Brain Damage,以局部二阶近似估计权重显著性 [7] | 对角 Hessian 是近似 |
| open-weight | 可获得模型权重 | 不等于训练代码、数据和完整许可证都开放 |
三层区分:latent-variable JEPA
本专题不把原型所述“AMI 潜变量多未来”作为论文事实。当前已核实的 I-JEPA、V-JEPA 与 V-JEPA 2-AC 主要是确定性 predictor [3] [4] [8];这些材料不能证明覆盖多未来、风险敏感采样与长程规划已经解决。
所以“JEPA 已经解决多未来”是不准确的;同样,把自由 (\min_z) 解释成稳健规划也不准确,它会偏向最乐观分支。
关键节点速查
| 时间 | 节点 | 本专题的意义 |
|---|---|---|
| 1989(会议)/1990(论文集) | 手写邮编网络与 OBD | 结构化视觉学习与二阶剪枝并行 [7] |
| 1998 | LeNet-5 与文档识别系统 | 本轮已取得论文;本稿只保留可精确定位的系统概述 [9] |
| 2005 | DAVE | 端到端视觉到转向的越野驾驶 [10] |
| 2006 | EBM 教程与 DrLIM | EBM 定义、能量最小化推断与 DrLIM 对比损失已按原文核对 [1] [11] |
| 2013 | 场景标注 | 多尺度卷积稠密特征结合 superpixel、CRF 或多层 optimal cover [12] |
| 2013 | OverFeat、谱网络 | 从分类扩展到检测和图 [13] [14] |
| 2015 | Deep Learning 综述与字符级 ConvNet | 统一深度学习叙事,并进入语言分类 [15] [16] |
| 2015–2016 | 视频预测与 EBGAN | 亲自参与生成和对抗支线 [17] [18] |
| 2016 | Predictive Learning 演讲 | 自监督与世界模型转向公开化 [19] |
| 2021 | Meta 联合署名文章 | 用“从已观察部分预测隐藏部分”解释 self-supervised learning [2] |
| 2021 | Dark Matter、Barlow Twins、VICReg | 联合嵌入与防坍塌机制成熟 [2] [6] [5] |
| 2022 | AMI 立场论文 | lecun.com 无公开副本,负责人决定放弃;模块与公式不作事实使用 |
| 2023 | I-JEPA | 图像表征预测 [3] |
| 2024 | V-JEPA、重建目标研究 | 视频扩展与重建/感知错配证据 [4] [20] |
| 2025 | V-JEPA 2 | 动作条件预测与短程 MPC [8] |
| 2025–2026 | LLM-JEPA、VL-JEPA、V-JEPA 2.1 | 语言、视觉语言和稠密视频扩展 [21] [22] [23] |
功劳归属
读人物专题时,必须区分三类:
- 本人署名论文:可写“LeCun 与合作者的工作”,仍应尊重一作和共同作者。
- 学生、博士后或团队论文:写“其团队参与”“他为共同作者或研究负责人”,不能把一作贡献改写成个人独创。
- FAIR/Meta 机构成果:PyTorch、DeepFace、Memory Networks、DCGAN、Llama 等不能写成 LeCun 个人项目。
ACM 档案可用于履历与总体贡献入口 [24];具体技术归属以论文作者表为准。
证据等级与使用方法
本专题优先使用:
- 论文与官方技术文章,支撑方法、实验设置和结果边界;
- 官方履历与会议页面,支撑人物经历与公开路线;
- 有时间点的原始访谈文字稿,支撑直接引语;
- 权威媒体,只用于背景并避免替代技术原文。
原型中的中文媒体综合、节译和作者概括只在可回到原始材料时使用。无法定位的内容进入待核查清单,不作为原话或核心事实。
来源真实性与结论独立性
机构官方论文是真实的一手材料,但它报告自家系统时不是独立结论;权威媒体可以提供独立报道,却未必掌握方法细节。两个维度应分开:
- 来源真实性:页面、论文或文字稿是否真实;
- 结论独立性:判断是否来自当事方之外的独立验证。
常见问题
LeCun 是否反对 LLM?
他反对的是“当前自回归 LLM 足以通向完整人类级智能”,并不否认其现实用途 [25]。
JEPA 是否完全不生成?
训练目标不要求重建可见输入,而是在目标编码器定义的表征空间做预测。系统仍可以接 decoder,或与生成模块组合。
JEPA 是否已经是世界模型?
I-JEPA 和 V-JEPA 是表征学习模型;V-JEPA 2 加入动作条件预测器并用于有限规划 [8]。
AMI 是否已经实现?
本专题无法核实原型所述完整模块体系。lecun.com 未提供 AMI 原文;当前可访问材料只支持表征预测和短程规划等部件级证据。
目标驱动是否天然安全?
不。显式成本提高可分析性,但目标遗漏、规格游戏、模型利用和约束冲突仍需解决。
世界模型和世界模拟器是否互斥?
不必互斥。可见生成适合模拟和检查,抽象 latent 适合紧凑预测和规划;未来系统可能同时使用两者。
推荐阅读顺序
- 快速理解路线:总览 → 第 3 章 → 第 6 章。
- 技术读者:第 2 章 → I-JEPA → V-JEPA 2。
- 关注认知与争论:第 4、5 章 → 第 7 章。
- 核查引语:第 7 章 →
quotes.yaml→ 对应原始文字稿。
参考来源
- [1]A Tutorial on Energy-Based Learning(在新窗口打开)官方 · 部分原话↩
- [2]Self-supervised learning: The dark matter of intelligence(在新窗口打开)官方 · 部分原话↩
- [3]Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture(在新窗口打开)官方 · 部分原话↩
- [4]Revisiting Feature Prediction for Learning Visual Representations from Video(在新窗口打开)官方 · 部分原话↩
- [5]VICReg: Variance-Invariance-Covariance Regularization for Self-Supervised Learning(在新窗口打开)官方 · 部分原话↩
- [6]Barlow Twins — Self-Supervised Learning via Redundancy Reduction(在新窗口打开)官方 · 部分原话↩
- [7]Optimal Brain Damage(在新窗口打开)官方 · 部分原话↩
- [8]V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning(在新窗口打开)官方 · 部分原话↩
- [9]Gradient-Based Learning Applied to Document Recognition(在新窗口打开)官方 · 部分原话↩
- [10]Off-Road Obstacle Avoidance through End-to-End Learning(在新窗口打开)官方 · 部分原话↩
- [11]Dimensionality Reduction by Learning an Invariant Mapping(在新窗口打开)官方 · 部分原话↩
- [12]Learning Hierarchical Features for Scene Labeling(在新窗口打开)官方 · 部分原话↩
- [13]OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks(在新窗口打开)官方 · 部分原话↩
- [14]Spectral Networks and Locally Connected Networks on Graphs(在新窗口打开)官方 · 部分原话↩
- [15]Deep learning(在新窗口打开)官方 · 部分原话↩
- [16]Character-level Convolutional Networks for Text Classification(在新窗口打开)官方 · 部分原话↩
- [17]Deep Multi-Scale Video Prediction Beyond Mean Square Error(在新窗口打开)官方 · 部分原话↩
- [18]Energy-based Generative Adversarial Network(在新窗口打开)官方 · 部分原话↩
- [19]Predictive Learning(在新窗口打开)一手采访 · 本人原话↩
- [20]How Learning by Reconstruction Produces Uninformative Features For Perception(在新窗口打开)官方 · 部分原话↩
- [21]LLM-JEPA — Large Language Models Meet Joint-Embedding Predictive Architectures(在新窗口打开)官方 · 部分原话↩
- [22]VL-JEPA — Joint-Embedding Predictive Architectures for Vision-Language(在新窗口打开)官方 · 部分原话↩
- [23]V-JEPA 2.1 — Unlocking Dense Features in Video Self-Supervised Learning(在新窗口打开)官方 · 部分原话↩
- [24]Yann LeCun — A.M. Turing Award Laureate(在新窗口打开)官方 · 非本人原话↩
- [25]Yann LeCun: Meta AI, Open Source, Limits of LLMs, AGI & the Future of AI(在新窗口打开)一手采访 · 本人原话↩