• 榜单数据10-19 11:33
  • 论文数据10-16 13:30
  • 周报10-18 20:50

附录：口径、边界与未采用材料

阅读约 5 分钟AI 生成已核查 · 已审核审核人 负责人

所属专题：Yoshua Bengio（约书亚·本吉奥） · 第 7 章引语索引信源台账

专题章节

口径

  • 2018 Turing Award：奖项年份为 2018，ACM 于 2019-03-27 公布获奖者 [1]。
  • LawZero 职务：采用 Bengio 官方主页当前写法 “Co-President and Scientific Director” [2]。
  • 国际报告参与方：采用官网可核实的概括“由 30 多个国家和国际组织提名的顾问机制”，不在未打开各版报告正文时细分国家数字 [3]。
  • 白皮书日期：英文页面显示 05 02 2026，日期格式未明确；在获得机器可读元数据或官方确认前不换算为 ISO 日期 [4]。

未采用的来源

微信公众号和知乎条目只作为检索线索。原型声称部分微信正文来自本地缓存，但这些缓存不在本次可审查目录中；因此不把它们登记为已采用来源，也不使用其中文编译作为 verified 引语。

人物照片、机构 Logo、宣传图全部不迁移。原型中的论文图没有逐篇确认 arXiv 许可；即使图片来源可定位，也暂不转载。

本次迁移只以原型已发布页面为内容底稿；非公开材料不作为公开内容、事实依据或独立信源。

独立性

论文、个人博客、LawZero 白皮书和国际报告官网都是高真实性材料，但多数属于 Bengio 或其组织的自述，不能自动视为独立验证。对 Scientist AI 的可行性判断，仍需要第三方实验、复现和外部评估。

术语速查

术语本专题中的含义
分布式表示用多个可复用特征组合编码对象，而不是一个对象对应一个局部原型 [5]
长期依赖早期信息对远期预测有作用，但梯度需要跨越长时间链 [6]
Xavier／Glorot 初始化以输入、输出宽度折中权重方差，使初始信号传播近似守恒 [7]
去噪自编码器从被污染输入重构干净样本，以学习鲁棒表示 [8]
课程学习设计训练分布的难度与顺序，逐步接近目标分布 [9]
GRU以更新门、重置门控制循环状态的信息流 [10]
additive attention用小网络对解码状态与源注释打分，再 softmax 加权 [11]
GFlowNet学习终态边缘概率与非负奖励成比例的构造策略 [12] [13]
trajectory balance在整条构造轨迹上约束前向概率、后向概率、奖励与配分函数 [14]
System 2 议程面向组合推理、高层变量操作和 OOD 泛化的归纳偏置研究 [15]
因果表示学习从低层观测中发现具有因果语义、可跨环境复用的高层变量 [16]
Scientist AI非智能体预测内核、世界模型与带不确定性的推理／护栏研究路线 [17]
consequence invariance预测器训练更新不依赖预测造成的下游效用结果 [4]
Guaranteed Safe AI世界模型、安全规范与验证器组成的条件性安全框架 [18]

关键节点口径

时间节点采用口径
2006Greedy Layer-Wise Training一般逐层预训练纲领，不与 2008 DAE 混为同一论文 [19]
2008／2010DAE／Stacked DAE单层去噪准则与堆叠深层方案分开 [8] [20]
2009Deep Architectures／Curriculum“为什么深”与“如何安排样本”是两项不同工作 [21] [9]
2014GRU／attention／GAN三项工作作者与问题不同，不压成“Bengio 一人发明” [10] [11] [22]
2015／2016Nature 综述／花书同名但不同文献，作者与体裁不同 [23] [24]
2017–2018蒙特利尔宣言用于说明公共伦理关切早于 2023，不据此否认后来的真实转向 [25]
2023Pause／CAIS两份不同公开声明，诉求不同 [26] [27]
2025–2026LawZero 公告／白皮书机构成立公告与技术白皮书分开 [28] [4]

GFlowNet 作者与贡献口径

  • 原始 GFlowNet 论文一作是 Emmanuel Bengio，Yoshua Bengio 为共同作者；该文提出 flow matching 与非迭代多样候选生成 [12]。
  • 《GFlowNet Foundations》由 Yoshua Bengio 等系统化理论框架，包含 detailed balance 等内容 [13]。
  • Trajectory Balance 是 Malkin 等后续工作，Bengio 为共同作者，不是一作 [14]。

原型已经主动纠正了把三篇论文贡献互换、把所有工作归于 Yoshua Bengio 的问题；迁移保留这一纠正。

安全与治理材料的功能分层

技术方案

  • 《Towards Guaranteed Safe AI》：框架级讨论世界模型、规范与验证器 [18]。
  • Bayesian Oracle：研究对智能体行动伤害风险的条件性概率界 [29]。
  • Scientist AI：提出非智能体安全路线 [17]。
  • LawZero 白皮书：提出 agency 三维分解、contextualization、consequence invariance 和生成器—估计器结构 [4]。
  • Disinterested Predictor：形式化训练产生危险预测器的条件性概率质量 [30]。

风险评估与公共治理

  • 国际 AI 安全报告：跨国专家证据评估机制 [3]。
  • Global Call for AI Red Lines：要求形成具有约束力的红线 [31]。
  • IDAIS：科学家跨国对话与共识声明 [32]。

三个开放争论

Scientist AI 能否扩展

支持理由是其预测器可复用现有自监督训练与数据，生成器—估计器分离也允许逐步构建；Bengio 在官方文字稿中明确作出这一主张 [33]。反方问题是高维后验校准、危险假设覆盖、从零训练成本和竞赛速度均没有前沿规模独立验证。

因果表示能否辨识

有干预、多环境、辅助变量或时间结构时，可辨识结果提供理论希望；一般纯观测非线性潜在表示则存在大量等价解。因而“因果结构提升 OOD 泛化”是有条件纲领，不是无条件定理 [16]。

科学共识能否变成约束

国际报告负责证据基线，IDAIS 推动科学家对话，红线呼吁提出政治目标 [3] [32] [31]。三者都不能单独替代国家立法、国际条约、核验机制与执行资源。

来源等级分布的阅读方式

本专题来源以 official 为主，包括论文、官方页面、组织报告和公开声明；first_hand_interview 仅用于带官方文字稿或原视频的访谈。台账没有把微信公众号、知乎或原型本地缓存列为已采用来源。

这使专题能够可靠回答“Bengio 或相关论文提出了什么”，却较少回答“第三方是否复现成功”。负责人审核时应特别关注：

  1. Scientist AI 的独立实验与规模化证据；
  2. LawZero 白皮书页面发布日期冲突；
  3. 原型中尚未逐字定位的访谈金句；
  4. 治理诉求与实际制度进展之间的差距。

参考来源

  1. [1]Fathers of the Deep Learning Revolution Receive ACM A.M. Turing AwardAssociation for Computing Machinery · 2019-03-27 · 公告首段与 Yoshua Bengio 小节 · 访问于 2026-10-17官方 · 非本人原话↩
  2. [2]Yoshua Bengio — Official HomepageYoshua Bengio · 首页个人简介 · 访问于 2026-10-17官方 · 部分原话↩
  3. [3]International AI Safety Report 2026International AI Safety Report · 2026-02-03 · About；2026 Annual Report 条目 · 访问于 2026-10-17官方 · 部分原话↩
  4. [4]The Scientist AI: Safe by Design, by Not DesiringLawZero · 开篇；Agency 三支柱；Contextualization；Consequence invariance · 访问于 2026-10-17官方 · 部分原话↩
  5. [5]Representation Learning: A Review and New PerspectivesarXiv · 2012-06-24 · 摘要；第 II–III 节分布式表示与解释因子；Section VIII 流形学习 · 访问于 2026-10-18官方 · 部分原话↩
  6. [6]Learning long-term dependencies with gradient descent is difficultIEEE · 1994-03-31 · 摘要；第 III–IV 节长期依赖与梯度传播分析 · 访问于 2026-10-17官方 · 部分原话↩
  7. [7]Understanding the difficulty of training deep feedforward neural networksProceedings of Machine Learning Research · 2010-05-13 · 摘要；第 4 节 · 访问于 2026-10-18官方 · 部分原话↩
  8. [8]Extracting and Composing Robust Features with Denoising AutoencodersICML 2008 · 第 2.3 节公式 (5) · 访问于 2026-10-18官方 · 部分原话↩
  9. [9]Curriculum LearningICML 2009 · 2009-06-14 · 摘要；第 3 节公式 (1)–(4)；第 4–6 节实验 · 访问于 2026-10-18官方 · 部分原话↩
  10. [10]Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine TranslationarXiv · 2014-06-03 · 摘要；第 2 节 · 访问于 2026-10-18官方 · 部分原话↩
  11. [11]Neural Machine Translation by Jointly Learning to Align and TranslatearXiv · 2014-09-01 · 摘要；第 3 节公式 · 访问于 2026-10-17官方 · 部分原话↩
  12. [12]Flow Network based Generative Models for Non-Iterative Diverse Candidate GenerationarXiv · 2021-06-08 · 摘要；第 2–3 节 · 访问于 2026-10-18官方 · 部分原话↩
  13. [13]GFlowNet FoundationsarXiv · 2021-11-17 · 摘要；1.1–1.2；2.5 Flow Matching Conditions 与 Detailed Balance；第 3–4 节训练目标 · 访问于 2026-10-17官方 · 部分原话↩
  14. [14]Trajectory balance: Improved credit assignment in GFlowNetsarXiv · 2022-01-31 · 摘要；第 3 节公式 (13)–(14) · 访问于 2026-10-18官方 · 部分原话↩
  15. [15]From System 1 Deep Learning to System 2 Deep LearningNeurIPS · 2019-12-11 · 官方页面 Abstract；2019 Invited Talk (Posner Lecture) · 访问于 2026-10-18官方 · 本人原话↩
  16. [16]Towards Causal Representation LearningarXiv · 2021-02-22 · 摘要；第 I–II 节分布变化与数据条件；第 VI 节 causal representation learning／identifiability · 访问于 2026-10-18官方 · 部分原话↩
  17. [17]Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?arXiv · 2025-02-21 · 摘要；第 3–6 节 · 访问于 2026-10-17官方 · 部分原话↩
  18. [18]Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI SystemsarXiv · 2024-05-10 · 摘要；第 3 节 Guaranteed Safe AI，尤其定义与 Figure 1 · 访问于 2026-10-18官方 · 部分原话↩
  19. [19]Greedy Layer-Wise Training of Deep NetworksNeurIPS Proceedings · 2006-12-01 · 摘要；第 2–4 节逐层训练与实验 · 访问于 2026-10-18官方 · 部分原话↩
  20. [20]Stacked Denoising AutoencodersJournal of Machine Learning Research · 摘要；第 3–4 节 · 访问于 2026-10-18官方 · 部分原话↩
  21. [21]Learning Deep Architectures for AIFoundations and Trends in Machine Learning · 第 2 节理论优势；第 6 节逐层训练 · 访问于 2026-10-18官方 · 本人原话↩
  22. [22]Generative Adversarial NetsarXiv · 2014-06-10 · 第 3 节公式 (1)；第 4 节定理；第 6 节训练困难 · 访问于 2026-10-17官方 · 部分原话↩
  23. [23]Deep learningNature · 2015-05-27 · 摘要；Representation learning、Recurrent neural networks 等对应小节 · 访问于 2026-10-18官方 · 部分原话↩
  24. [24]Deep LearningMIT Press · 官方首页 Citing the book；在线版目录 Part I–III · 访问于 2026-10-18官方 · 部分原话↩
  25. [25]Montréal Declaration for a Responsible Development of Artificial IntelligenceUniversité de Montréal · Principles；Credits；Activity Report 时间说明 · 访问于 2026-10-18官方 · 部分原话↩
  26. [26]Pause Giant AI ExperimentsFuture of Life Institute · 2023-03-22 · 公开信正文与签署人 · 访问于 2026-10-18官方 · 部分原话↩
  27. [27]Statement on AI Extinction RiskCenter for AI Safety · 声明正文与签署人 · 访问于 2026-10-18官方 · 部分原话↩
  28. [28]Introducing LawZeroYoshua Bengio · 2025-06-03 · 全文；Scientist AI 介绍段 · 访问于 2026-10-17官方 · 本人原话↩
  29. [29]Can a Bayesian Oracle Prevent Harm from an Agent?Proceedings of Machine Learning Research · 2025-07-21 · 摘要 · 访问于 2026-10-17官方 · 本人原话↩
  30. [30]Safety from Honesty in a Disinterested AI PredictorarXiv · 2026-06-28 · 摘要；Theorem 5.26 · 访问于 2026-10-18官方 · 部分原话↩
  31. [31]Global Call for AI Red LinesGlobal Call for AI Red Lines · 诉求、期限与签署人说明 · 访问于 2026-10-18官方 · 部分原话↩
  32. [32]International Dialogues on AI SafetyIDAIS · Ditchley、北京与威尼斯共识声明 · 访问于 2026-10-18官方 · 部分原话↩
  33. [33]Yoshua Bengio thinks he knows how to build safe superintelligence80,000 Hours · 2026-05-07 · 官方文字稿 00:00:00、00:21:02、01:08:37 · 访问于 2026-10-17一手采访 · 本人原话↩