• 榜单数据10-19 11:33
  • 论文数据10-16 13:30
  • 周报10-18 20:50

11. 下一范式

阅读约 16 分钟AI 起草 · 人工审核已核查 · 已审核审核人 负责人

所属专题：Scaling Law · 第 12 章引语索引信源台账

专题章节

11. 下一个范式：Digital、Coding、高价值 Agent、Physical，以及”经验”作为新基底

本章展开 10.6 节所说的信号端，论证一个命题（本文判断，中置信）：下一轮 scaling 的增量越来越多来自交互与具身中的经验（experience，不同于全书”经验律”里的 empirical）；在可验证域之外，它能走多远主要取决于可靠反馈的供给。反方见 11.2、11.4、11.6，可推翻它的观测见 11.7。

11.1 统一轴：学习信号从哪来，靠什么 scale

Karpathy 的概括是 [1]：预训练时代要互联网文本，SFT 时代要对话，RL 时代要环境，前两者不会消失。Kevin Lu 补充 [2]：互联网多样、自带难度梯度、成本低廉，而 RL 还没有自己的”互联网”（均为观点）。

按来源，学习信号分三类：静态数据、交互经验（在环境里行动并获得反馈）、具身经验（在物理世界里行动），支撑下图的四种形态。四者不互斥，也没有必然先后：AlphaZero（2017）早就在用自对弈经验 [3]，RT-X（2023）[4] 也早于 2024–25 年的 coding RL 飞轮。与 10.6 节”计价单位”三代的对应见该节的分期对照表：Karpathy 的预训练与 SFT 两个时代同属静态数据，对应 FLOP 与高质量 token 两代；RL 时代对应”可验证经验 / 环境”；具身经验尚未成为主要计价单位。

“统一轴”指用同一组属性衡量每种信号能否被 scale：外部性（是否带来被训模型之外的信息，缺了它会退化，11.5）、可靠性（与真实目标差多远、能否被钻空子，11.3–11.4）、可扩展性（边际成本、能否并行与加速）。

证据强弱与判断的置信度按 0.1 节的阅读约定标注。本章命题的可检验推论见 11.7 的 H1（同等算力下扩充环境胜过加算力）与 H2（机器判分与人的整体评判之差不自行收窄）。

图：三类学习信号与四种应用形态。每种形态标注了学习信号、信号来源与主要瓶颈。示意图，非实测数据。

11.2 Digital AI：静态数据的压缩，及其边界

今天的大部分工作属于 Digital AI：把人类在数字空间留下的表达被动压缩进模型，没有”如果我做 A 会怎样”的干预。压缩与建模是同一件事（信息论的经典结论，[5] 在大模型上做了实证，另见 [6] 与第 8 章），但压缩必要而不充分，有两条边界：

  • 只学”已被记录”的世界：对摔跤、抓取失败这类很少被写下的物理经验，理解是间接的。

  • 边际 token 在变贵：公开高质量文本约 2028 年见顶（区间 2026–2032，第 10 章），此后新增 token 靠重复、合成或非公开数据，更贵或更差，但预训练不会因此停止。

**反方：预训练远未停止。**2026 年的旗舰重新放大了基座：DeepSeek-V4-Pro 总参 1.6T [7]，GLM-5 预训练数据 23T → 28.5T [8]，Grok 4.7 换了更大的基座 [9]，GPT-6 Astra 称在预训练上也下了大注 [10]（厂商自报，证据弱；附录 A）。改写与合成数据还能放大有效 (D)（6.5 节 [11]），更大的基座也会抬高 RL 的上限（11.3）。静态数据仍是底座，经验是叠加的一层，问题是它何时成为主约束。

11.3 Coding：目前最成熟的”经验飞轮”之一

在大模型上，交互经验最先跑通的是 coding agent，最重要的原因之一是编程任务的验证相对便宜。Jason Wei 把背后的规律概括为 verifier’s rule [12]：训练 AI 解决一个任务的容易程度，正比于它的可验证性；覆盖充分的单测满足他列的前四条判据（客观真值、秒级验证、可并行验证、低噪声），第五条”reward 连续”可用多样例通过率近似。机制是验证的不对称性：验证远比求解便宜，于是能用海量 rollout 加自动判分把 RL 跑起来。加上海量公开代码和最早付费的开发者用户，coding 接通了目前最完整的飞轮之一：harness（脚手架）→ 真实交互轨迹 → post-training → 更强的模型。

RLVR（可验证奖励强化学习，以 o1 [13]、DeepSeek-R1 [14] 为标志）的 scaling 形态与预训练不同。ScaleRL [15] 在固定基座与数据（数学、代码）下，拟合 RL 训练算力 (C) 与留出集通过率 (R_C) 的关系，得到一条 S 形曲线： [ R_C ;=; R_0 ;+; (R_\infty - R_0),\sigma!\big(\gamma,(\log C - \log C_{\text{mid}})\big),\qquad \sigma(x)=\frac{1}{1+e^{-x}} \tag{48} ]

(48) 中 (R_\infty) 是渐近上限，(\gamma) 控制爬升快慢，(C_{\text{mid}}) 是半程点，起点 (R_0) 非零。上限不是固定的：损失函数类型、数值精度、batch、生成长度和模型规模都能抬高它，loss 聚合、归一化等细节则主要改效率（6.5 节；单一研究，证据中）。横轴只是 RL 训练算力，推理时计算的几支曲线另有形状（4.7 节）。

**RL 算力在变大，占比却几乎没有公开数字。**OpenAI 称 o3 的 RL 训练算力比 o1 再高一个数量级，仍见明显收益 [16]；xAI 称 Grok 4 的 RL 做到了”预训练的规模” [17]；只有 DeepSeek-V3.2 给出比例：RL 预算已超过预训练成本的 10%，性能随之持续提升 [18]（均为厂商自报，证据弱）。回报来自新信号还是来自激发基座，这些披露分不清（11.4）。

**验证便宜不等于验证可靠。**基准本身会坏：SWE-bench Verified 因大量缺陷题于 2026-02 被 OpenAI 停用，SWE-Bench Pro 公开集约 30% 的题目损坏 [19]；BenchJack 不解一题就在多数 agent 基准上接近满分 [20]。更直接的是代理与真实目标之差：METR 请维护者审阅 296 个已通过自动判分的 PR，约一半不会被合并；按人写 PR 的合并率归一后，维护者口径比自动判分低约 24 个百分点，年进步也慢约 9.6 个百分点（仅在 10% 水平上显著）[21]（单一研究，证据中）。分数须绑定日期、split 与 harness。

本文判断（高置信）：验证相对便宜是 coding 先成熟的最重要因素之一。推论（本文判断，中置信）：把 AI 推广到其余经济活动，很大程度上要为没有 verifier 的任务制造可靠的 verifier 与环境，而不只是把模型做大；这项工程连 coding 也没做完。

11.4 高价值 Agent：reward 与环境从哪来（核心难题）

医疗、法律、科研、运营这类任务价值高、可验证性弱。reward 来源可以排成一个谱：

  • 可验证域（数学、代码、形式证明、调度）：机器可评，AlphaEvolve 已在这类目标上做出真实改进 [22]。

  • 弱可验证域（医疗问诊、复杂业务）：靠 rubric + LLM 评判或专家比较。在 GDPval 这类规格明确、一次交付的专业任务上，OpenAI 报告的”胜过或持平行业专业人士”比例从 GPT‑5.2 的 70.9%（2025-12）[23] 升到 GPT‑5.5 的 84.9%（2026-04）[10]（厂商自报，证据弱）。这是反方证据：规格明确时弱可验证任务也进步很快，瓶颈应收窄到长程、开放、需持续反馈的工作。

  • 开放域（写作、策略、销售）：几乎只能靠人类偏好或 LLM 评判，最易被 hack。

reward hacking 难以被算法根除：代理奖励只要不完整，优化够狠就会被钻空子（Goodhart 定律）。hack 率主要取决于环境设计：METR 测到 o3 在看得见评分函数的 RE-Bench 上 30.4% 的运行钻了空子，在 HCAST 上只有 0.7% [24]。偏好奖励下模型会迎合用户 [25]。

未决的争论：RL 在扩展能力，还是在激发基座已有能力。“激发”一方：Yue et al. [26] 发现 RLVR 提升了 pass@1，但 k 大时基座的 pass@k 反而更高；随机奖励在 Qwen2.5-Math-7B 上拿到真奖励约 3/4 的增益（+21.4 对 +29.1 个百分点），在 Llama3、OLMo2 上却常常无效 [27]。“扩展”一方：ProRL [28] 拉长训练后，在基座怎么采样都做不对的任务上达到 100% 通过率，幅度与训练时长、基座起点相关，饱和后 BroRL 把每题 rollout 增到数百又能继续提升 [29]。双方各有系统实验但设定有限（证据均为中），尚无定论；若主要是激发，今天的”经验”更像打磨层，还称不上新基底。

**环境：数量不稀缺，可靠的才稀缺。**Karpathy 把开放的 Environments Hub [30] 比作 LLM 时代的 OpenAI Gym [1]。有对照的证据仍只有 RLVE 一项（证据中）：训练环境从 1 个嵌套扩到 256 个，留出环境上的表现单调提升；400 个环境联合训练平均提升 3.37 个百分点，沿原 recipe 多花 3 倍算力只提升 0.49 [31]。厂商环境数已很大：DeepSeek-V3.2 合成了 1,827 个”难解易验”的环境 [18]，MiniMax 称 M2.5 用了数十万个真实环境 [32]（厂商自报，证据弱）。难造的是与真实目标对齐、不易被钻空子的环境。

本文判断（中置信）：**从 coding 推广到高价值任务，主要瓶颈更可能在可靠 reward 与环境的供给。**这不等于模型不重要，更大的模型同样抬高 RL 的上限（11.3）。

11.5 一条边界：缺乏外部锚定的经验会退化

相关现象分两类，机制不同：

  • 信号主要来自模型自身：几代只用自产数据训练，分布漂移、尾部先消失，即 model collapse [33]；把各代合成数据与原始真实数据累积起来训练即可避免 [34]。用自己的多数投票当伪奖励做 RL，短期有效，训练拉长后会迎合伪奖励、性能突然崩塌 [35]。

  • 信号来自外部，但只是不完整的代理：reward hacking（11.4）。

合起来：**经验值多少，取决于反馈的外部性与可靠性——缺乏外部锚定的自生成信号会退化，不完整的外部代理会被钻空子。**外部锚定可以是 verifier、真实数据或人类反馈，对应 6.5 节判据的第一问：流程里有没有不来自被训模型本身的信息源；其中 verifier 与人类反馈还是裁判（第二问）。有了这样的裁判，自我改进就能成立：生成—验证差距随预训练算力单调增大 [36]；以代码执行器为 verifier、零外部数据的自博弈也能持续提升 [37]。

这条边界约束两个主张。其一，AlphaZero 类比要降权：完美信息、无法作弊的胜负奖励、可无限自对弈的模拟器，多数经济任务三者都不具备。其二，“经验时代”要读准：Silver 与 Sutton [38] 主张在今天的基础之上，经验将成为主要学习来源并最终远超人类数据，两者并非对立，奖励应来自环境信号。本文认同方向，分歧在速度：多数环境信号慢、噪声大、可被钻空子，可靠反馈覆盖不到的领域转变会慢得多（本文判断，中置信）。

11.6 Physical AI：N/D/C 的重定义与具身经验现状

Physical AI 给模型装上感知与执行，从观察者变成实验者：输出是改变世界状态的动作，即 Pearl [39] 所说的”干预”。scaling 的思路不变，但 (N/D/C) 要重新定义：

  • (N)：受实时控制时延约束；Generalist 报告 1B 模型在海量操作数据下会”固化”，7B 以上才能充分吸收预训练，而语言模型的固化出现在约 1000 万参数量级（厂商自报，证据弱）[40]。

  • (D)：价值更取决于场景、任务、物体、本体的多样性而非小时数（见下文 Lin et al.；LeCun 强调感官数据带宽远高于文本 [41]）。

  • (C)：训练算力之外还有真实世界的采集成本（机器人时间、维护、安全），且受物理时间约束、无法加速。旁证：METR 估计 Tesla FSD 的任务时长约每年翻倍 0.6 次，远慢于软件类（口径不同，证据弱）[42]。

scaling 证据多为单团队、单任务族的结果，还不是跨团队复现的定律：

  • Lin et al. [43]：泛化随环境数与物体数近似呈幂律，单个环境或物体的示教数过阈值后几乎无益（单一研究，证据中）。

  • EgoScale [44]：用 20,854 小时第一人称人类视频预训练 VLA（视觉-语言-动作模型，名称出自 RT-2 [45]，另见 [46][47]），1k–2 万小时内验证 loss 与数据量的对数近乎线性（(R^2\approx0.998)），真机任务完成度从 0.30 升到 0.71（证据中，只描述所测区间）。

  • Generalist：GEN-0 在约 27 万小时真实世界操作数据上报告下游误差随数据量呈幂律（指数未公开）[40]；到 2026-04 数据已超过 50 万小时，GEN-1 把简单任务的平均成功率从 64% 提到 99% [48]（厂商自报，证据弱）。

从示教到经验：π*0.6 把真实部署中的自主尝试与人工纠正一起用于 RL，在最难的几项任务上吞吐量翻倍以上、失败率约减半 [49]（单一研究，证据中）。这是物理世界里经验作为学习信号的最直接证据，代价是真机时间。

数据与世界模型现状：

  • 数据从”没有”变成”太贵”：真机数据按机器人时间付费，常用仿真、人类视频与遥操作组合，如 AgiBot World 的 217 个任务、百万余条真机轨迹 [50]。仿真能替代多少，证据有两面：纯仿真数据（63 万条轨迹）预训练的策略在 49 个仿真、5 个真机与 4 个长程灵巧任务上与官方 π0 持平 [51]；MIT 在平面推动任务上则发现，不加真机数据时仿真的收益会饱和 [52]。

  • 世界模型目前主要是合成数据与评估引擎（本文判断，中置信）：无动作输入的视频生成不能直接用于规划；Genie 3 一类主要用作训练 agent 的环境 [53]，Cosmos 定位为合成数据与仿真平台 [54]，李飞飞等强调三维与物理一致性 [55]。反例：V-JEPA 2-AC 在两个实验室的 Franka 机械臂上零样本规划抓放 [56]；Dreamer 4 在世界模型里做 RL，首次只靠离线数据在 Minecraft 里拿到钻石 [57]，但那是规则确定的游戏。

  • 自动驾驶是最早的商业级案例：端到端路线（FSD 一类 [58]）跑通了”部署 → 挖掘困难样本 → 重训”的飞轮；Waymo 在约 50 万小时数据上拟合出 loss 随算力的幂律，最优模型规模比数据长得快 [59]。

图：多模态、具身与世界模型的演化脉络（示意）。图中带”预计”的时间为推测，不是本章判断的依据。更正：图中 V-JEPA 2-AC 标注的 2025.09 应为 2025.06（arXiv:2506.09985）。

11.7 可检验假设、对立判断与一条低置信猜想

五条可检验假设：H1、H2 检验本章命题，H3 是跟踪指标，H4、H5 检验 Physical AI 的判断；到期没有公开数据记为”未检验”。

  • H1 信号胜过算力：固定基座，比较”扩充环境 / verifier 集合”与”在原集合上多花同等或更多 RL 算力”对留出任务的提升。基线：RLVE 的 +3.37 对 +0.49 个百分点 [31]。到 2027 年底，至少两项不同团队、不同模型族的研究得出前者更优为支持；后者持平或更优为证伪。

  • H2 机器判分与真实价值的差距不会自行收窄：以维护者复审一类的整体评判对照自动判分，按人写基线归一。基线：约 24 个百分点 [21]。到 2027 年底，同类研究对当时前沿模型测得的差距仍不低于 15 个百分点为支持；缩到 5 个百分点以内为证伪，说明可靠反馈已经跟上，或者它本来就不是主约束。

  • H3 交互经验仍在快速增长：METR 的”50% 成功率任务时长” [60] 在 2019–2025 年约 7 个月翻一番，TH1.1 下 2023 年起约 131 天、2024 年起约 89 天 [61]；METR 称现有任务集测不准 16 小时以上，而 Claude Mythos Preview 早期版本已到至少 16 小时（95% CI 8.5–55 小时）[62]。到 2027 年底，在更长的新任务集上倍增时间仍不超过约 7 个月为支持，慢到 14 个月以上为饱和信号，无新任务集记为未检验。

  • H4 具身更偏向数据：同一任务族、固定动作表示（最优配比随表示而变，4.3 节）做计算最优扫描，拟合 (D_{\text{opt}}\propto C^{b})。基线：语言 (b\approx0.5)–0.55（(17) 式），视觉约 0.63（4.2.1 节）。到 2027 年底，(b) 的置信区间下限高于 0.55 为支持，点估计不超过 0.5 为证伪。反向数据点：Waymo 的驾驶扫描给出 (b\approx0.44) [59]。

  • H5 仿真与世界模型替代不了真机数据：在同一套公开真机评测上，训练数据九成以上来自仿真或世界模型的策略，到 2027 年底仍在多数任务上落后同期最好的真机数据策略 10 个百分点以上为支持；缩到 5 个百分点以内为证伪。

主要分歧如下，本文不抹平：

议题一方另一方本文的取舍| 议题 | 一方 | 另一方 | 本文的取舍 |

放大还能换来多少Ilya（2025-11）：预训练数据”显然有限”，规模放大 100 倍不会改变一切 [63]Hassabis（2025-11）：回报递减但远未归零，另需一两个突破 [64]预训练仍是底座，分歧在放大能否带来质变| 放大还能换来多少 | Ilya（2025-11）：预训练数据”显然有限”，规模放大 100 倍不会改变一切 [63] | Hassabis（2025-11）：回报递减但远未归零，另需一两个突破 [64] | 预训练仍是底座，分歧在放大能否带来质变 |

经验能否成为主要学习来源Silver & Sutton（2025-04）：能，并将远超人类数据 [38]Karpathy（2025-08）：看好环境，看空 RL 本身，“reward 函数很可疑” [1]方向认同，速度存疑（11.5）| 经验能否成为主要学习来源 | Silver & Sutton（2025-04）：能，并将远超人类数据 [38] | Karpathy（2025-08）：看好环境，看空 RL 本身，“reward 函数很可疑” [1] | 方向认同，速度存疑（11.5） |

RLVR 扩展能力还是激发先验Yue et al. [26]、随机奖励实验：主要激发先验ProRL [28]、BroRL [29]：能解出基座采样不到的题未定| RLVR 扩展能力还是激发先验 | Yue et al. [26]、随机奖励实验：主要激发先验 | ProRL [28]、BroRL [29]：能解出基座采样不到的题 | 未定 |

时间表Amodei（2024-10）：强大 AI “最早可能在 2026 年”出现，也可能久得多 [65]Karpathy（2025-10）：“智能体的十年” [66]；Hassabis：AGI 还要 5–10 年 [64]不给时间点，只跟踪 H1–H5| 时间表 | Amodei（2024-10）：强大 AI “最早可能在 2026 年”出现，也可能久得多 [65] | Karpathy（2025-10）：“智能体的十年” [66]；Hassabis：AGI 还要 5–10 年 [64] | 不给时间点，只跟踪 H1–H5 |

猜想（本文判断，低置信）：若 11.5 的边界成立，经验也只是必要不充分，再下一层稀缺的或许是”难以被 hack、且与真实世界因果对齐的反馈”；物理结果很难被 hack（传感器仍可能被钻空子），这是 Physical AI 吸引人的深层原因。此条缺乏可直接检验的证据，只作思考方向。

11.8 Takeaway

全章一句话（本文判断，中置信）：Scaling Law 这条路没有走完，它的基底在扩展——静态数据仍是底座，增量越来越多来自交互与具身中”尚未被表达的经验”。

  • 滩头堡：coding 最早闭合经验飞轮，但自动判分仍高估真实价值。

  • 核心难题与边界：瓶颈在可靠 reward 与环境的供给，不在数量；缺乏外部锚定的自生成信号会退化。

  • Physical AI：(N/D/C) 需重新定义；有 scaling 迹象和从经验中学习的首批证据，尚无跨团队复现的定律。

接 10.6 节的信号端：下一轮 scaling 走多远，取决于能否把可靠的反馈做成可规模化供给的资源。

暗线回扣：暗线③（范式演化）在本章走到”换基底” —— 学习信号从静态语料扩展到交互与具身经验；暗线②（数据约束）换了形态 —— 静态数据仍是底座，新的稀缺是可靠 reward 与环境的供给；暗线①（可预测性）要在新基底上重新挣 —— RL 训练曲线已有单一研究的拟合（11.3），具身经验尚无跨团队复现的定律（11.6）。

参考来源

  1. [1][102] Karpathy A. Post on X ("In era of pretraining, what mattered was internet text … in this era of reinforcement learning, it is now environments …"), 2025-08-27. https://x.com/karpathy/status/1960x.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  2. [2][91] Lu K. The Only Important Technology Is The Internet . Essay, 2025-07. https://kevinlu.ai/the-only-important-technology-is-the-internetkevinlu.ai · 访问于 2026-10-18权威媒体 · 非本人原话↩
  3. [3][149] Silver D, Hubert T, Schrittwieser J, et al. A General Reinforcement Learning Algorithm That Masters Chess, Shogi, and Go through Self-Play . Science 362(6419):1140–1144, 2018 (预印本 arXiv:1712.018arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  4. [4][55] Open X-Embodiment Collaboration. Open X-Embodiment: Robotic Learning Datasets and RT-X Models . arXiv:2310.08864, 2023.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  5. [5][84] Delétang G, Ruoss A, Duquenne P-A, et al. Language Modeling Is Compression . ICLR 2024 (arXiv:2309.10668).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  6. [6][92] Rae J. Compression for AGI . Stanford MLSys Seminar, 2023; Sutskever I. An Observation on Generalization . Simons Institute, 2023.unknown · 访问于 2026-10-18官方 · 非本人原话↩
  7. [7][196] DeepSeek-AI. DeepSeek-V4 Preview: Entering the Era of Affordable Million-Token Context . DeepSeek News, 2026-04-24. https://www.deepseek.com/en/news/v4-preview/ ; DeepSeek-AI. Introducing DeepSewww.deepseek.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  8. [8][199] GLM-5 Team (Z.ai). GLM-5: from Vibe Coding to Agentic Engineering . arXiv:2602.15763, 2026. 模型卡： https://huggingface.co/zai-org/GLM-5huggingface.co · 访问于 2026-10-18权威媒体 · 非本人原话↩
  9. [9][205] SpaceXAI (formerly xAI). Introducing Grok 4.7 . SpaceXAI, 2026-09-21. https://x.ai/news/grok-4-7x.ai · 访问于 2026-10-18权威媒体 · 非本人原话↩
  10. [10][202] OpenAI. Introducing GPT-5.5 . OpenAI, 2026-04-23. https://openai.com/index/introducing-gpt-5-5/ ; OpenAI. GPT-6 Astra: A New Generation of Intelligence . OpenAI, 2026-09-03. https://openai.com/iopenai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  11. [11][230] Kang F, Ardalani N, Kuchnik M, et al. Demystifying Synthetic Data in LLM Pre-training: A Systematic Study of Scaling Laws, Benefits, and Pitfalls . EMNLP 2025 (arXiv:2510.01631).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  12. [12][150] Wei J. Asymmetry of verification and verifier's rule . Blog, 2025-07-15. https://www.jasonwei.net/blog/asymmetry-of-verification-and-verifiers-lawwww.jasonwei.net · 访问于 2026-10-18权威媒体 · 非本人原话↩
  13. [13][50] OpenAI. Learning to Reason with LLMs . OpenAI Blog, 2024-09-12. https://openai.com/index/learning-to-reason-with-llms/openai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  14. [14][86] Guo D, Yang D, Zhang H, et al. (DeepSeek-AI). DeepSeek-R1 Incentivizes Reasoning in LLMs through Reinforcement Learning . Nature 645:633–638, 2025 (arXiv:2501.12948; arXiv 版题为 DeepSeek-R1: Incentarxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  15. [15][88] Khatri D, Madaan L, Tiwari R, et al. (Meta, UT Austin 等). The Art of Scaling Reinforcement Learning Compute for LLMs (ScaleRL). arXiv:2510.13786, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  16. [16][253] OpenAI. Introducing OpenAI o3 and o4-mini . OpenAI, 2025-04-16. https://openai.com/index/introducing-o3-and-o4-mini/openai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  17. [17][122] xAI. Grok 4 . xAI, 2025-07-09. https://x.ai/news/grok-4x.ai · 访问于 2026-10-18权威媒体 · 非本人原话↩
  18. [18][151] DeepSeek-AI. DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models . arXiv:2512.02556, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  19. [19][98] Deng X, Da J, Pan E, et al. (Scale AI). SWE-Bench Pro: Can AI Agents Solve Long-Horizon Software Engineering Tasks? arXiv:2509.16941, 2025; OpenAI. Why SWE-bench Verified No Longer Measures Frontopenai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  20. [20][99] Wang H, Mang Q, Cheung A, Sen K, Song D. How We Broke Top AI Agent Benchmarks: And What Comes Next . UC Berkeley RDI Blog, 2026-04. https://rdi.berkeley.edu/blog/trustworthy-benchmarks-cont/ ; Wardi.berkeley.edu · 访问于 2026-10-18权威媒体 · 非本人原话↩
  21. [21][254] Whitfill P, Wu C, Becker J, Rush N. Many SWE-bench-Passing PRs Would Not Be Merged into Main . METR Notes, 2026-03-10. https://metr.org/notes/2026-03-10-many-swe-bench-passing-prs-would-not-be-mmetr.org · 访问于 2026-10-18权威媒体 · 非本人原话↩
  22. [22][89] Novikov A, Vũ N, Eisenberger M, et al. (Google DeepMind). AlphaEvolve: A Coding Agent for Scientific and Algorithmic Discovery . arXiv:2506.13131, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  23. [23][152] Patwardhan T, Dias R, Proehl E, et al. GDPval: Evaluating AI Model Performance on Real-World Economically Valuable Tasks . arXiv:2510.04374, 2025; OpenAI. Introducing GPT-5.2 . OpenAI, 2025-12-1openai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  24. [24][153] METR. Recent Frontier Models Are Reward Hacking . METR Blog, 2025-06-05. https://metr.org/blog/2025-06-05-recent-reward-hacking/metr.org · 访问于 2026-10-18权威媒体 · 非本人原话↩
  25. [25][60] Sharma M, Tong M, Korbak T, et al. Towards Understanding Sycophancy in Language Models . ICLR 2024 (arXiv:2310.13548).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  26. [26][87] Yue Y, Chen Z, Lu R, et al. Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model? NeurIPS 2025 (Oral) (arXiv:2504.13837).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  27. [27][255] Shao R, Li S S, Xin R, et al. Spurious Rewards: Rethinking Training Signals in RLVR . arXiv:2506.10947, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  28. [28][154] Liu M, Diao S, Lu X, et al. ProRL: Prolonged Reinforcement Learning Expands Reasoning Boundaries in Large Language Models . arXiv:2505.24864, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  29. [29][155] Hu J, Liu M, Lu X, et al. BroRL: Scaling Reinforcement Learning via Broadened Exploration . arXiv:2510.01180, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  30. [30][90] Prime Intellect. Environments Hub: A Community Hub To Scale RL To Open AGI . Prime Intellect Blog, 2025-08-27. https://www.primeintellect.ai/blog/environmentswww.primeintellect.ai · 访问于 2026-10-18权威媒体 · 非本人原话↩
  31. [31][156] Zeng Z, Ivison H, Wang Y, et al. RLVE: Scaling Up Reinforcement Learning for Language Models with Adaptive Verifiable Environments . ICML 2026 (arXiv:2511.07317).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  32. [32][256] MiniMax. MiniMax M2.5: Built for Real-World Productivity . MiniMax, 2026-02-12. https://www.minimax.io/news/MiniMax-m25www.minimax.io · 访问于 2026-10-18权威媒体 · 非本人原话↩
  33. [33][47] Shumailov I, Shumaylov Z, Zhao Y, Papernot N, Anderson R, Gal Y. AI Models Collapse When Trained on Recursively Generated Data . Nature 631, 2024.unknown · 访问于 2026-10-18官方 · 非本人原话↩
  34. [34][157] Gerstgrasser M, Schaeffer R, Dey A, et al. Is Model Collapse Inevitable? Breaking the Curse of Recursion by Accumulating Real and Synthetic Data . arXiv:2404.01413, 2024.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  35. [35][158] Shafayat S, Tajwar F, Salakhutdinov R, Schneider J, Zanette A. Can Large Reasoning Models Self-Train? arXiv:2505.21444, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  36. [36][159] Song Y, Zhang H, Eisenach C, Kakade S, Foster D, Ghai U. Mind the Gap: Examining the Self-Improvement Capabilities of Large Language Models . ICLR 2025 (arXiv:2412.02674).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  37. [37][160] Zhao A, Wu Y, Yue Y, et al. Absolute Zero: Reinforced Self-play Reasoning with Zero Data . arXiv:2505.03335, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  38. [38][85] Silver D, Sutton R S. Welcome to the Era of Experience . 2025-04 preprint (essay, in: Designing an Intelligence, MIT Press).unknown · 访问于 2026-10-18官方 · 非本人原话↩
  39. [39][29] Pearl J, Mackenzie D. The Book of Why . Basic Books, 2018.unknown · 访问于 2026-10-18官方 · 非本人原话↩
  40. [40][93] Generalist AI. GEN-0: Embodied Foundation Models That Scale with Physical Interaction . Generalist AI Blog, 2025-11-04. https://generalistai.com/blog/gen-0generalistai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  41. [41][52] LeCun Y. Lex Fridman Podcast #416 Transcript . Lex Fridman Podcast, 2024-03-07. https://lexfridman.com/yann-lecun-3-transcript/ ; LeCun Y. LinkedIn note on text vs sensory data bandwidth, 2024-01lexfridman.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  42. [42][257] Kwa T, Cheng V. How Does Time Horizon Vary Across Domains? METR Blog, 2025-07-14. https://metr.org/blog/2025-07-14-how-does-time-horizon-vary-across-domains/metr.org · 访问于 2026-10-18权威媒体 · 非本人原话↩
  43. [43][161] Lin F, Hu Y, Sheng P, Wen C, You J, Gao Y. Data Scaling Laws in Imitation Learning for Robotic Manipulation . ICLR 2025 (arXiv:2410.18647).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  44. [44][94] Zheng R, Niu D, Xie Y, et al. (NVIDIA GEAR). EgoScale: Scaling Dexterous Manipulation with Diverse Egocentric Human Data . arXiv:2602.16710, 2026.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  45. [45][162] Brohan A, Brown N, Carbajal J, et al. RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control . arXiv:2307.15818, 2023.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  46. [46][57] Driess D, Xia F, Sajjadi M S M, et al. PaLM-E: An Embodied Multimodal Language Model . ICML 2023 (arXiv:2303.03378); Kim M J, Pertsch K, Karamcheti S, et al. OpenVLA: An Open-Source Vision-Languaarxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  47. [47][56] Black K, Brown N, Driess D, et al. π0: A Vision-Language-Action Flow Model for General Robot Control . arXiv:2410.24164, 2024.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  48. [48][258] Generalist AI. GEN-1: Scaling Embodied Foundation Models to Mastery . Generalist AI Blog, 2026-04-02. https://generalistai.com/blog/gen-1generalistai.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  49. [49][259] Physical Intelligence, Amin A, Aniceto R, et al. π*0.6: a VLA That Learns From Experience . arXiv:2511.14759, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  50. [50][96] AgiBot-World-Contributors, Bu Q, Cai J, et al. AgiBot World Colosseo: A Large-scale Manipulation Platform for Scalable and Intelligent Embodied Systems . IROS 2025 (arXiv:2503.06669).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  51. [51][260] Tian Y, Yang Y, Xie Y, et al. InternData-A1: Pioneering High-Fidelity Synthetic Data for Pre-training Generalist Policy . arXiv:2511.16651, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  52. [52][163] Wei A, Agarwal A, Chen B, Bosworth R, Pfaff N, Tedrake R. Empirical Analysis of Sim-and-Real Cotraining of Diffusion Policies for Planar Pushing from Pixels . IROS 2025 (arXiv:2503.22634).arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  53. [53][103] Parker-Holder J, Fruchter S. Genie 3: A New Frontier for World Models . Google DeepMind Blog, 2025-08-05. https://deepmind.google/blog/genie-3-a-new-frontier-for-world-models/deepmind.google · 访问于 2026-10-18权威媒体 · 非本人原话↩
  54. [54][97] NVIDIA. Cosmos World Foundation Model Platform for Physical AI . arXiv:2501.03575, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  55. [55][95] Li F-F. From Words to Worlds: Spatial Intelligence is AI's Next Frontier . 2025-11-10. https://drfeifei.substack.com/p/from-words-to-worlds-spatial-intelligence ; World Labs. Marble: A Multimodaldrfeifei.substack.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  56. [56][164] Assran M, Bardes A, Fan D, et al. V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning . arXiv:2506.09985, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  57. [57][261] Hafner D, Yan W, Lillicrap T. Training Agents Inside of Scalable World Models . arXiv:2509.24527, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  58. [58][63] Chen L, Wu P, Chitta K, Jaeger B, Geiger A, Li H. End-to-End Autonomous Driving: Challenges and Frontiers . IEEE TPAMI, 2024 (arXiv:2306.16927); Elluswamy A (Tesla). Building Foundation Models focvpr2023.wad.vision · 访问于 2026-10-18权威媒体 · 非本人原话↩
  59. [59][165] Baniodeh M, Goel K, Ettinger S, et al. (Waymo). Scaling Laws of Motion Forecasting and Planning — A Technical Report . arXiv:2506.08228, 2025.arxiv.org · 访问于 2026-10-18官方 · 非本人原话↩
  60. [60][51] Kwa T, West B, Becker J, et al. Measuring AI Ability to Complete Long Tasks . METR, 2025-03-19 (arXiv:2503.14499; 博客页现题为 Measuring AI Ability to Complete Long Software Tasks ). https://metr.org/bmetr.org · 访问于 2026-10-18权威媒体 · 非本人原话↩
  61. [61][166] METR. Time Horizon 1.1 . METR Blog, 2026-01-29. https://metr.org/blog/2026-1-29-time-horizon-1-1/metr.org · 访问于 2026-10-18权威媒体 · 非本人原话↩
  62. [62][262] METR. Task-Completion Time Horizons of Frontier AI Models . METR, 2026-05-08 更新. https://metr.org/time-horizons/ ; METR. Post on Bluesky (Claude Mythos Preview 早期版本的 50% 任务时长测量), 2026-05-08. httmetr.org · 访问于 2026-10-18权威媒体 · 非本人原话↩
  63. [63][167] Patel D. Ilya Sutskever — We're moving from the age of scaling to the age of research . Dwarkesh Podcast, 2025-11-25. https://www.dwarkesh.com/p/ilya-sutskever-2www.dwarkesh.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  64. [64][168] Roose K, Newton C. Google's Gemini 3 Is Here: A Special Early Look (interview with Demis Hassabis). Hard Fork, The New York Times, 2025-11-18.unknown · 访问于 2026-10-18官方 · 非本人原话↩
  65. [65][169] Amodei D. Machines of Loving Grace: How AI Could Transform the World for the Better . Essay, 2024-10. https://www.darioamodei.com/essay/machines-of-loving-gracewww.darioamodei.com · 访问于 2026-10-18权威媒体 · 非本人原话↩
  66. [66][170] Patel D. Andrej Karpathy — AGI is still a decade away . Dwarkesh Podcast, 2025-10-17. https://www.dwarkesh.com/p/andrej-karpathywww.dwarkesh.com · 访问于 2026-10-18权威媒体 · 非本人原话↩