Yoshua Bengio（约书亚·本吉奥）
梳理 Yoshua Bengio 从深度学习基础研究到 AI 安全、Scientist AI 与全球治理的技术主线及其边界。
核心认知
- 01
从分布式表示到注意力选择
神经语言模型学习连续分布式表示，Bahdanau 注意力按输出步选择相关源表示；意识先验进一步提出从高维状态选择少量低维成分。
A Neural Probabilistic Language Model官方Neural Machine Translation by Jointly Learning to Align and Translate官方The Consciousness Prior官方
- 02
安全转向是真实的优先级变化
2023 年后，他把主要公共工作转向失控风险、治理与安全架构；这既延续旧技术兴趣，也包含明确的规范立场转变。
- 03
Scientist AI 以预测替代欲望
该路线试图构建只理解和预测、不追逐自身目标的系统，并让它充当智能体行动的概率护栏。
Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?官方The Scientist AI: Safe by Design, by Not Desiring官方
- 04
概率护栏仍是研究方案
Bayesian Oracle 与后续工作给出条件性安全论证，但公开材料仍把从理论界到实用护栏列为开放问题。
Can a Bayesian Oracle Prevent Harm from an Agent?官方Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?官方
章节导航
- 人物小传与研究转向从表示学习、注意力与 GFlowNet 到 2023 年后的 AI 安全转向。
- 技术谱系：表示、注意力与生成压缩梳理 Bengio 代表性技术工作的共同问题、公式与边界。
- 认知框架：抽象、因果与非智能体预测梳理 Bengio 对高层表示、因果泛化、agency 与 epistemic humility 的理解。
- 安全路线：从风险论证到 Scientist AI区分 Bengio 的风险判断、技术护栏与治理主张，并标出证据边界。
- 前沿印证与开放争论评估注意力、推理模型与 Scientist AI 的后续发展，避免把血缘写成独占。
- 引语索引与迁移说明展示已逐字核对的短引语，并说明原型中文金句为何降级为待核查。
- 附录：口径、边界与未采用材料汇总术语口径、迁移取舍、来源等级和暂不采用的原型材料。
- 技术遗产与今日边界将代表性工作与今天的模型技术连接，同时区分直接血缘、类比与编者判断。
- 方法论与勘误说明资料收集范围、非穷尽检索方式、复核过程与发布后勘误规则。
信源分级概览
导读
本专题迁移自 insight 原型，按“时间线—技术谱系—认知框架—安全治理—前沿评价—引语—附录—技术遗产—方法论”九章展开。原型中的交互图被改写为表格与文字，论文图、人物照片和宣传图因许可或站点规则不迁移；主要论点、公式、限制条件与编者评价则尽量保留。
一条贯穿全篇的阅读线索
九章导览
- 人物小传与研究转向：按三个阶段恢复关键论文、公共事件与安全转向。
- 技术谱系：从长期依赖、表示学习一直推导到 GFlowNet。
- 认知框架：讨论 System 1/2、因果表示、意识先验与 agency。
- 安全与治理：区分风险论证、技术护栏和国际治理。
- 前沿印证：逐项评估哪些影响已稳定、哪些仍只是研究方案。
- 引语索引：只展示已逐字核对的原话，其余明确降级。
- 附录：给出口径、术语、来源等级与争议。
- 技术遗产：区分直接血缘、后续改造与弱类比。
- 方法论与勘误：说明检索、核验、删除和发布后修订规则。
参考来源
- [1]A Neural Probabilistic Language Model（在新窗口打开）官方↩
- [2]Neural Machine Translation by Jointly Learning to Align and Translate（在新窗口打开）官方↩
- [3]The Consciousness Prior（在新窗口打开）官方↩
- [4]Towards Causal Representation Learning（在新窗口打开）官方↩
- [5]GFlowNet Foundations（在新窗口打开）官方↩
- [6]Superintelligent Agents Pose Catastrophic Risks: Can Scientist AI Offer a Safer Path?（在新窗口打开）官方↩
- [7]Learning long-term dependencies with gradient descent is difficult（在新窗口打开）官方↩
- [8]Greedy Layer-Wise Training of Deep Networks（在新窗口打开）官方↩
- [9]Extracting and Composing Robust Features with Denoising Autoencoders（在新窗口打开）官方↩
- [10]Understanding the difficulty of training deep feedforward neural networks（在新窗口打开）官方↩
- [11]Curriculum Learning（在新窗口打开）官方↩
- [12]Generative Adversarial Nets（在新窗口打开）官方↩
- [13]How Rogue AIs may Arise（在新窗口打开）官方
- [14]Can a Bayesian Oracle Prevent Harm from an Agent?（在新窗口打开）官方
- [15]Introducing LawZero（在新窗口打开）官方
- [16]The Scientist AI: Safe by Design, by Not Desiring（在新窗口打开）官方