• 榜单数据10-19 11:33
  • 论文数据10-16 13:30
  • 周报10-18 20:50

人物小传与研究转向

阅读约 8 分钟AI 生成已核查 · 已审核审核人 负责人

所属专题：Yoshua Bengio（约书亚·本吉奥） · 第 1 章引语索引信源台账

专题章节

早期基础工作

Yoshua Bengio 是蒙特利尔大学计算机科学教授、Mila 创始人及科学顾问，并担任 LawZero 联合主席兼科学主任；他与 Geoffrey Hinton、Yann LeCun 共同获得 2018 年 ACM A.M. Turing Award [1] [2]。

1994 年，他与合作者分析了循环网络用梯度下降学习长期依赖的困难。2000 年会议版、2003 年期刊版的神经概率语言模型把离散词映射为连续分布式表示。2014 年，Bahdanau、Cho 与 Bengio 提出的神经机器翻译模型让解码器按输出步对源序列动态分配注意力；同年，Goodfellow 等人在 Bengio 所在的蒙特利尔研究环境中发表 GAN [3] [4] [5] [6]。

2017 年的《The Consciousness Prior》把“有意识处理”描述为从高维状态中选择低维成分的先验。2021 年的《GFlowNet Foundations》则系统讨论了按未归一化奖励函数采样组合对象的框架 [7] [8]。

2023 年后的安全转向

2023 年 5 月，Bengio 在个人博客列举了“rogue AI”可能出现的路径，包括恶意使用、目标错位与竞争压力；文章同时强调技术设计和治理都需要推进 [9]。这不是从零开始的思想跳跃，但确实改变了他的研究优先级与公共角色。

2025 年 2 月，Scientist AI 论文把非智能体世界模型、问答式推理与显式不确定性组织为一条安全研究路线 [10]。同年 6 月，他宣布成立非营利组织 LawZero，并明确将其称为自己 2023 年以来新研究方向的制度化回应 [11]。

Bayesian Oracle 工作尝试在运行时估计违反安全规范的概率上界；其正式会议版本发表于 2025 年，并把“如何从理论结果走向实用护栏”列为开放问题 [12]。

2026 年的细化

LawZero 的公开白皮书把 agency 拆成 affordances、goal-directedness 与 intelligence 三个程度维度，并提出 contextualization 与 consequence invariance 两项训练原则 [13]。

2026 年的 80,000 Hours 长访谈中，Bengio 说明同一诚实预测器可以通过显式问题生成策略，而非把目标直接写入预测器内核；访谈也承认误用、权力集中和竞赛动态不能只靠技术方案解决 [14]。

《国际 AI 安全报告》官网记录，第二版于 2026-02-03 发布，由 Bengio 领导、100 多位独立专家参与；其定位是汇总通用 AI 能力、风险与风险管理证据 [15]。

第一阶段：可训练性与表示学习（1994–2018）

1994：长期依赖问题

Bengio、Simard 与 Frasconi 分析了循环网络通过梯度下降学习长期依赖的困难：时间展开后的雅可比连乘会让早期信息对后期损失的影响指数衰减或放大。论文讨论的是普通梯度法的困难，不是“长期依赖绝对不可学”；门控记忆、梯度裁剪、残差路径和注意力后来从不同角度缩短或稳定了信息路径 [3]。

2003：神经概率语言模型

2000 年会议版与 2003 年 JMLR 版的神经概率语言模型把离散词映射为低维向量，再由前馈网络预测下一个词。它没有解决任意长上下文，词表 softmax 也昂贵，但明确展示了“相似词共享统计强度”的分布式表示路线 [4]。

2006–2010：让深网真正可训练

  • 2006 年的逐层贪心训练把无监督预训练推广到一般自编码器式模块，提供较好的初始化，并在实验中改善优化与泛化 [16]。
  • 2008 年去噪自编码器通过“先破坏、再重构”迫使网络学习数据结构；2010 年堆叠去噪自编码器把这一准则逐层组合成深层预训练方案 [17] [18]。
  • 2009 年《Learning Deep Architectures for AI》系统讨论深度的组合复用优势；同年的课程学习把样本顺序和难度调度纳入优化设计 [19] [20]。
  • 2010 年 Glorot 与 Bengio 用前向和反向方差传播解释深层网络难训，并提出后来称为 Xavier／Glorot 初始化的尺度选择 [21]。

这些工作不能被压成一条“抽象—因果”路线。它们分别处理表达效率、初始化、优化地形、自监督目标和训练稳定性。

2013–2016：表示、序列与生成

2012 年预印本、2013 年期刊版的表示学习综述把分布式表示、流形假设和“解耦解释性因子”组织为共同研究纲领 [22]。2014 年 RNN Encoder–Decoder／GRU 使用固定长度上下文向量；后续 Bahdanau、Cho 与 Bengio 的工作将其指出为性能瓶颈，并用可微软对齐让解码器按步读取源序列 [23] [5]。

GAN 同样发表于 2014 年，由 Ian Goodfellow 主导、Bengio 为共同作者。它把生成建模改写为生成器与判别器的极小极大博弈；其历史归属应写作“出自 Bengio 当时在蒙特利尔大学的研究环境”，而不是把全部发明归于 Bengio 个人 [6]。

2015 年 LeCun、Bengio 与 Hinton 在 Nature 共同发表《Deep learning》，2016 年 Goodfellow、Bengio 与 Courville 的《Deep Learning》教材系统整理了概率、优化、网络架构和生成模型 [24] [25]。2018 年，Bengio、Hinton 与 LeCun 共同获得 2018 ACM A.M. Turing Award；ACM 公告于 2019-03-27 发布 [2]。

第二阶段：高层认知与结构（2017–2022）

2017–2019：意识先验与 System 2

《The Consciousness Prior》把高维“无意识状态”与低维、可供后续处理的“有意识状态”区分开，提出以注意力选择少量成分的机器学习先验 [7]。同一时期，蒙特利尔《负责任 AI 发展宣言》经历公众协商并于 2018 年正式发布，说明 Bengio 对社会影响的公开关切早于 2023 年 [26]。

2019 年 NeurIPS Posner Lecture《From System 1 Deep Learning to System 2 Deep Learning》把问题表述为：现有深度学习擅长快速直觉式处理，但需要面向组合、推理、注意控制和分布变化的新归纳偏置 [27]。

2020–2022：因果表示与 GFlowNet

关于高层认知归纳偏置的论文强调稀疏因子图、模块化和稀疏机制变化；因果表示学习综述则系统讨论从低层观测发现高层因果变量所需的可辨识性假设 [28] [29]。

2021 年原始 GFlowNet 工作提出在组合构造图上学习流，使终态的采样概率与非负奖励成比例；《GFlowNet Foundations》补充一般理论框架，2022 年的 Trajectory Balance 进一步改善整条轨迹上的信用分配 [30] [8] [31]。

第三阶段：AI 安全与治理（2023–2026）

2023：公开转向

2023 年 3 月，Bengio 签署呼吁暂停训练比 GPT-4 更强系统至少六个月的公开信；5 月又签署 CAIS 关于 AI 极端风险应成为全球优先事项的声明 [32] [33]。同月，他在个人博客从恶意使用、目标错位、竞争和自主性等路径讨论 rogue AI，并要求技术研究与治理同时推进 [9]。

这次转向有两层。其一是资源与公共角色的变化：安全架构、风险评估和治理成为主要议题。其二是规范立场的变化：面对低概率但不可逆的后果，应采用预防原则。不能因为他此前已有负责任 AI 关切，就把 2023 年说成“没有转向”。

2024：从呼吁走向可验证框架

《Towards Guaranteed Safe AI》提出“世界模型—安全规范—验证器”的总体框架，把安全要求从训练善意转向可核验约束 [34]。Bayesian Oracle 随后研究如何在真实世界假设未知时，为违反安全规范的概率构造上界 [12]。

2025：Scientist AI、LawZero 与治理升级

Scientist AI 论文把非智能体预测、显式不确定性、因果世界模型和行动护栏组织为正面研究路线 [10]。2025 年 6 月，Bengio 宣布成立 LawZero，把 2023 年以来的安全研究制度化 [11]。

治理侧，他继续参与国际科学共识建设，并签署《Global Call for AI Red Lines》；IDAIS 则通过 Ditchley、北京和威尼斯对话推动科学家层面的跨国讨论 [35] [36]。这些声明和对话是真实的公共治理行动，但不等于已经形成具有法律约束力的国际制度。

2025–2026：从设计纲领到条件性形式界

《Chain-of-Thought Is Not Explainability》综述并整理了 CoT 忠实性问题，提醒不能把模型生成的推理文字直接当作内部计算的透明记录 [37]。

LawZero 白皮书把 agency 拆为 affordances、goal-directedness 与 intelligence，提出 contextualization 和 consequence invariance，并用“生成器由中立估计器问责”描述架构 [13]。官方页面日期显示与原型中的日期冲突，本专题只采用可逐字核对的内容，不强行写死发布日期。

2026 年的 80,000 Hours 官方文字稿表明，Bengio 设想把诚实预测器放在内核中，再通过外部、可审计的策略构造获得受限 agency；他也明确承认误用、权力集中和竞赛动态不由技术方案单独解决 [14]。

《Safety from Honesty in a Disinterested AI Predictor》进一步给出条件性形式界，讨论训练分布诱导危险预测器的概率质量；其结论依赖初始化、富集、训练不变性等前提，不能写成“已证明 Scientist AI 绝对安全” [38]。

国际 AI 安全报告在 2026 年进入第二个年度版本，继续汇总通用 AI 的能力、风险与风险管理证据 [15]。

参考来源

  1. [1]Yoshua Bengio — Official HomepageYoshua Bengio · 首页个人简介 · 访问于 2026-10-17官方 · 部分原话↩
  2. [2]Fathers of the Deep Learning Revolution Receive ACM A.M. Turing AwardAssociation for Computing Machinery · 2019-03-27 · 公告首段与 Yoshua Bengio 小节 · 访问于 2026-10-17官方 · 非本人原话↩
  3. [3]Learning long-term dependencies with gradient descent is difficultIEEE · 1994-03-31 · 摘要；第 III–IV 节长期依赖与梯度传播分析 · 访问于 2026-10-17官方 · 部分原话↩
  4. [4]A Neural Probabilistic Language ModelJournal of Machine Learning Research · 摘要；第 3 节模型 · 访问于 2026-10-17官方 · 部分原话↩
  5. [5]Neural Machine Translation by Jointly Learning to Align and TranslatearXiv · 2014-09-01 · 摘要；第 3 节公式 · 访问于 2026-10-17官方 · 部分原话↩
  6. [6]Generative Adversarial NetsarXiv · 2014-06-10 · 第 3 节公式 (1)；第 4 节定理；第 6 节训练困难 · 访问于 2026-10-17官方 · 部分原话↩
  7. [7]The Consciousness PriorarXiv · 2017-09-25 · 摘要与 Conscious State 小节 · 访问于 2026-10-17官方 · 本人原话↩
  8. [8]GFlowNet FoundationsarXiv · 2021-11-17 · 摘要；1.1–1.2；2.5 Flow Matching Conditions 与 Detailed Balance；第 3–4 节训练目标 · 访问于 2026-10-17官方 · 部分原话↩
  9. [9]How Rogue AIs may AriseYoshua Bengio · 2023-05-22 · 开篇与风险场景小节 · 访问于 2026-10-17官方 · 本人原话↩
  10. [10]Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?arXiv · 2025-02-21 · 摘要；第 3–6 节 · 访问于 2026-10-17官方 · 部分原话↩
  11. [11]Introducing LawZeroYoshua Bengio · 2025-06-03 · 全文；Scientist AI 介绍段 · 访问于 2026-10-17官方 · 本人原话↩
  12. [12]Can a Bayesian Oracle Prevent Harm from an Agent?Proceedings of Machine Learning Research · 2025-07-21 · 摘要 · 访问于 2026-10-17官方 · 本人原话↩
  13. [13]The Scientist AI: Safe by Design, by Not DesiringLawZero · 开篇；Agency 三支柱；Contextualization；Consequence invariance · 访问于 2026-10-17官方 · 部分原话↩
  14. [14]Yoshua Bengio thinks he knows how to build safe superintelligence80,000 Hours · 2026-05-07 · 官方文字稿 00:00:00、00:21:02、01:08:37 · 访问于 2026-10-17一手采访 · 本人原话↩
  15. [15]International AI Safety Report 2026International AI Safety Report · 2026-02-03 · About；2026 Annual Report 条目 · 访问于 2026-10-17官方 · 部分原话↩
  16. [16]Greedy Layer-Wise Training of Deep NetworksNeurIPS Proceedings · 2006-12-01 · 摘要；第 2–4 节逐层训练与实验 · 访问于 2026-10-18官方 · 部分原话↩
  17. [17]Extracting and Composing Robust Features with Denoising AutoencodersICML 2008 · 第 2.3 节公式 (5) · 访问于 2026-10-18官方 · 部分原话↩
  18. [18]Stacked Denoising AutoencodersJournal of Machine Learning Research · 摘要；第 3–4 节 · 访问于 2026-10-18官方 · 部分原话↩
  19. [19]Learning Deep Architectures for AIFoundations and Trends in Machine Learning · 第 2 节理论优势；第 6 节逐层训练 · 访问于 2026-10-18官方 · 本人原话↩
  20. [20]Curriculum LearningICML 2009 · 2009-06-14 · 摘要；第 3 节公式 (1)–(4)；第 4–6 节实验 · 访问于 2026-10-18官方 · 部分原话↩
  21. [21]Understanding the difficulty of training deep feedforward neural networksProceedings of Machine Learning Research · 2010-05-13 · 摘要；第 4 节 · 访问于 2026-10-18官方 · 部分原话↩
  22. [22]Representation Learning: A Review and New PerspectivesarXiv · 2012-06-24 · 摘要；第 II–III 节分布式表示与解释因子；Section VIII 流形学习 · 访问于 2026-10-18官方 · 部分原话↩
  23. [23]Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine TranslationarXiv · 2014-06-03 · 摘要；第 2 节 · 访问于 2026-10-18官方 · 部分原话↩
  24. [24]Deep learningNature · 2015-05-27 · 摘要；Representation learning、Recurrent neural networks 等对应小节 · 访问于 2026-10-18官方 · 部分原话↩
  25. [25]Deep LearningMIT Press · 官方首页 Citing the book；在线版目录 Part I–III · 访问于 2026-10-18官方 · 部分原话↩
  26. [26]Montréal Declaration for a Responsible Development of Artificial IntelligenceUniversité de Montréal · Principles；Credits；Activity Report 时间说明 · 访问于 2026-10-18官方 · 部分原话↩
  27. [27]From System 1 Deep Learning to System 2 Deep LearningNeurIPS · 2019-12-11 · 官方页面 Abstract；2019 Invited Talk (Posner Lecture) · 访问于 2026-10-18官方 · 本人原话↩
  28. [28]Inductive Biases for Deep Learning of Higher-Level CognitionarXiv · 2020-11-30 · 摘要；第 2–5 节 · 访问于 2026-10-18官方 · 部分原话↩
  29. [29]Towards Causal Representation LearningarXiv · 2021-02-22 · 摘要；第 I–II 节分布变化与数据条件；第 VI 节 causal representation learning／identifiability · 访问于 2026-10-18官方 · 部分原话↩
  30. [30]Flow Network based Generative Models for Non-Iterative Diverse Candidate GenerationarXiv · 2021-06-08 · 摘要；第 2–3 节 · 访问于 2026-10-18官方 · 部分原话↩
  31. [31]Trajectory balance: Improved credit assignment in GFlowNetsarXiv · 2022-01-31 · 摘要；第 3 节公式 (13)–(14) · 访问于 2026-10-18官方 · 部分原话↩
  32. [32]Pause Giant AI ExperimentsFuture of Life Institute · 2023-03-22 · 公开信正文与签署人 · 访问于 2026-10-18官方 · 部分原话↩
  33. [33]Statement on AI Extinction RiskCenter for AI Safety · 声明正文与签署人 · 访问于 2026-10-18官方 · 部分原话↩
  34. [34]Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI SystemsarXiv · 2024-05-10 · 摘要；第 3 节 Guaranteed Safe AI，尤其定义与 Figure 1 · 访问于 2026-10-18官方 · 部分原话↩
  35. [35]Global Call for AI Red LinesGlobal Call for AI Red Lines · 诉求、期限与签署人说明 · 访问于 2026-10-18官方 · 部分原话↩
  36. [36]International Dialogues on AI SafetyIDAIS · Ditchley、北京与威尼斯共识声明 · 访问于 2026-10-18官方 · 部分原话↩
  37. [37]Chain-of-Thought Is Not ExplainabilityOxford Martin School · 2025-07-15 · 摘要；调查结果与限制 · 访问于 2026-10-18官方 · 部分原话↩
  38. [38]Safety from Honesty in a Disinterested AI PredictorarXiv · 2026-06-28 · 摘要；Theorem 5.26 · 访问于 2026-10-18官方 · 部分原话↩