世界观：语言、常识与智能

从四项能力看 LLM

LeCun 对当前 LLM 的批评可拆成四个可检验命题：物理世界理解不足、缺少可靠持久记忆、推理计算不能自然按问题难度伸缩、缺少在一致世界模型上规划动作的机制 ^[1]。

这四项不能被写成“LLM 完全没有”。长上下文、RAG、工具调用、思维链和 agent workflow 已在产品层缓解后三项；问题是这些机制能否可靠、持久、可控地扩展到开放环境。第一项——从感知与行动中获得物理常识——仍是 LeCun 最强调的结构缺口。

常识是背景知识

Meta 2021 年文章把常识描述为人类和动物智能的大量背景知识：婴儿通过观察形成物体持久性、重力等预测模型，也通过行动结果更新内部假设。LeCun 与 Ishan Misra 在这篇联合署名文章中写道，自监督学习是构建这类背景知识、让 AI 系统逼近某种常识的有希望路径之一 ^[2]。

文章明确承认自监督学习在 NLP 的成功，并把视觉困难指向高维连续信号和不确定性。因此，LeCun 的路线不是“反语言”，而是认为语言自监督覆盖不了全部世界经验 ^[2]。

蛋糕比喻：自监督、监督与强化学习

Meta 2021 联合署名文章指出，自监督学习从数据自身构造监督信号，可利用远多于人工标签的数据；这支持区分能力预训练与任务塑形，但不建立监督量与智能贡献的简单比例关系 ^[2]。

这个判断有三层边界：

原始比特多不等于对任务有用的信息多；
RLHF 的作用主要是塑形和对齐，不能用它的产品价值否定预训练基质；
反过来，“预训练贡献了大部分参数更新”也不能证明推理和目标导向行为会自动出现。

语言是高密度抽象，不是全部经验

在 Lex 访谈中，LeCun 认为语言是感知与心智模型的近似表达，许多机械任务依赖对动作后果的内部模拟 ^[1]。这可拆成两个命题：

文本缺少连续感知、动作反馈和许多从未被语言化的物理细节；
语言却高度压缩了人类抽象知识、社会规范和可组合推理结构。

因此“视频带宽更大”不能直接推出“视频是更好的全部智能训练信号”。相邻视频帧高度冗余；文本虽然带宽低，却经过人类选择与压缩。更合理的路线可能是以感知和行动提供接地，以语言提供抽象接口，而不是二选一。

符号接地

“猫”这个符号若只由它与“狗”“宠物”“喵”等符号的关系定义，整个系统可以在语言内部高度自洽，却不必连接毛发触感、运动轨迹或被抓伤的后果。LeCun 由此主张，智能需要接地于某种现实 ^[1]。

I'm clearly in the camp that yes, intelligence cannot appear without some grounding in some reality.

我的立场很明确：智能不可能在完全不接地于某种现实的情况下出现。（译）

Yann LeCun（杨立昆）Yann LeCun: Meta AI, Open Source, Limits of LLMs, AGI & the Future of AI2024-03-0700:06:56一手采访本人原话已核实原话

这里的现实可以是模拟环境。关键是系统能行动、观察后果并形成可操作状态，而不是“必须有碳基身体”。

反方也很明确：分布语义可以从符号共现中恢复大量世界结构；多模态训练又能补进部分感知锚点。因此接地更像能力的连续维度，不必被写成“有意义／无意义”的二元开关。

自回归误差：((1-e)^n) 到底说明什么

设 (S_t) 表示生成到第 (t) 步仍处于可接受答案集合，条件失败率为

[ e_t=P(\neg S_t\mid S_{t-1}), ]

则

[ P(S_n)=\prod_{t=1}^{n}(1-e_t). ]

只有进一步假设 (e_t=e) 恒定，才得到

[ P(S_n)=(1-e)^n. ]

该式说明“全程不离开正确集合”的概率可随长度快速下降，但它不证明误差幅度指数发散，更不证明所有自回归系统必然失败。它还隐含错误不可恢复、正确性可逐步定义等强条件。

现实系统可以通过回看前缀、采样与验证、外部工具、长思维链和训练出的自我纠错恢复部分错误。因而更精确的批评是：标准自回归输出一旦提交就成为后续条件，而每步计算在基础架构中通常固定；系统需要另加“撤回、验证和按需分配计算”的机制。

System 1、System 2 与技能编译

“通用智能”还是“高级机器智能”

原型曾声称 LeCun 因人类智能高度专门化而偏好 Advanced Machine Intelligence（AMI）一词。本次未取得 GTC 2025 可核对字幕与时间点，本专题不采纳该人物归属；这里只保留编者对术语的分析：

若 general 指在所有任务上接近最优，人类显然不 general；
若 general 指同一架构能学习跨度很大的任务，人类又表现出显著通用性。

重建、生成与感知

ICML 2024 论文为“输入重建可能优先保留高方差、但对感知无用的特征”提供理论与实验依据 ^[3]。这支持目标错配，不支持“生成式模型注定失败”。

原型援引的 Vapnik 式直觉是：为了解决目标问题，不必先解决更一般、更困难的问题。用于决策时，可以比较三类目标：

路线	学什么	可能的优势	主要代价
生成式	可见观测或其 latent 分布	可检查、可采样多未来、可作模拟器	可能分配容量给任务无关细节
判别式	(p(y\mid x)) 或决策边界	直接服务固定任务	需要标签，迁移范围受目标限制
JEPA	学习到的目标表征	无需重建全部观测	目标本身可识别性不明，需防坍塌

这不是普遍难度定理。现代扩散通常在压缩 latent 中采样，不逐 RGB 像素做确定性预测；清晰样本也避开了均方误差的模糊平均。JEPA 则可能抓住稳定但虚假的相关，非生成不等于因果。

推理、科学与抽象层

原型把 LeCun 的世界模型路线推广到科学：许多系统在微观层精确但计算昂贵，研究者需要找到在合适尺度上近似闭合的状态。若微观动力学为 (F_\Delta)，粗粒化映射为 (\pi)，好的宏观预测器满足

[ \pi(F_\Delta(x_t)) \approx \hat P(\pi(x_t)). ]

这段“交换图”是原型编者的形式化，不是逐字引自 LeCun。它表达的观点是：先找到可预测的中观变量，再用快速代理模型做设计优化。

若代理模型为 (\hat f_\theta)，设计可写成

[ a^\star=\arg\min_{a\in\mathcal A} C(\hat f_\theta(a))+\Omega(a). ]

其风险与机器人规划相同：优化器会主动寻找代理模型的盲区，设计又天然涉及训练分布之外的外推，因此真实实验回填不可省略。

意识与情感：功能角色，不是已实现事实

这套解释也带来安全反问：若长期成本把系统持续运行设为实现目标的必要条件，自保可能成为工具性策略。把它称为“情感”与否并不重要；重要的是目标设计、权限边界和关停可控性仍需独立验证。