• 榜单数据10-19 11:33
  • 论文数据10-16 13:30
  • 周报10-18 20:50

术语、节点与延伸阅读

阅读约 3 分钟AI 生成已核查 · 已审核审核人 负责人

专题章节

术语表

术语简明定义
反向传播用链式法则从输出向输入计算全部参数梯度
玻尔兹曼机以能量和随机状态定义概率分布的神经网络
正相/负相数据条件期望与模型自由运行期望
RBM删除同层连接、便于条件采样的受限玻尔兹曼机
对比散度用数据起始的短采样链近似模型负相
DBN以 RBM 逐层预训练的深度生成模型
Wake-Sleep交替训练识别与生成通路的 Helmholtz Machine 算法
自编码器将输入压缩为潜变量并重构输入
Dropout训练时随机屏蔽单元的正则方法
MoE门控网络按输入组合多个专家
知识蒸馏学生学习教师软分布或生成数据
暗知识教师对非正确类别给出的相对结构
胶囊用向量活动表达实体存在与姿态
GLOM用位置柱与多层共识表示部分—整体层级的研究设想
Forward-Forward以正负两次前向和局部目标训练各层
Mortal Computation让知识与模拟硬件特性绑定以换取能效
t-SNE用重尾低维分布保留局部邻域的可视化方法
Fast Weights快速变化、用于短期联想记忆的权重
Confabulation无据但自洽的重构式生成
工具性趋同不同最终目标可能共享自保、资源与控制等中间策略
CoT 可监控性通过可读中间推理观察系统行为的有限窗口
AI 母亲更强系统主动保护人类的关系隐喻,不是成熟算法

关键节点

时间节点来源
1947生于伦敦[1]
1970/1978剑桥本科/爱丁堡博士[1]
1985玻尔兹曼机学习论文[2]
1986隐藏表示的反向传播论文[3]
1991Adaptive Mixtures of Local Experts[4]
1995Wake-Sleep 与 Helmholtz Machine[5] [6]
2002对比散度[7]
2006DBN 与深度自编码器[8] [9]
2008t-SNE[10]
2012AlexNet[11]
2014Dropout[12]
2015知识蒸馏[13]
2017胶囊网络;Vector Institute 职务开始[14] [1]
2018获年度图灵奖(2019 公布)[15]
2021GLOM[16]
2022Forward-Forward[17]
2023离开 Google 并公开预警[18] [19]
2024与 Hopfield 获诺贝尔物理学奖[20]
2025“AI 母亲”公开讨论[21]

来源分层

本专题优先使用论文、官方履历、官方奖项页面、本人公开讲座和带文字稿访谈。媒体报道用于记录公开事件或补充背景,不独立承担论文技术结论。多作者论文统一标 subject_own_words: partial;第三方履历、奖项公告与媒体报道标 no。

未采用的中文公众号译稿不进入事实论证。原型引用它们作为线索,但缺乏逐字定位,故相关“金句”进入待核查区。

推荐阅读入口

  1. Hinton 个人主页与 CV:履历、论文目录 [1]。
  2. Two Paths to Intelligence:数字与生物智能、风险转向 [22]。
  3. 诺奖演讲:玻尔兹曼机历史、反向传播对照 [23]。
  4. 1986 反向传播论文:隐藏表示 [3]。
  5. 2015 蒸馏论文:温度与软目标 [13]。
  6. 2022 Forward-Forward:局部学习 [17]。
  7. CBC 访谈:母性隐喻与处方边界 [21]。

常见问题

Hinton 改变了什么观点?

他不再默认生物大脑拥有更优学习算法,而更重视数字系统可复制、可共享和反向传播可扩展的优势 [22]。

他为何离开 Google?

公开说明是为了更自由地谈风险,并明确没有把离职描述为对 Google 的指控 [18] [19]。

“AI 母亲”是方案吗?

不是。它是关系目标和设计方向的隐喻,尚无可靠实现方法 [21]。

时间预测可信吗?

它们是主观概率与时间窗,应该结合其放射科预测偏快的自我复盘阅读 [24] [25]。

为什么没有图片?

人物照片和机构宣传图按站点规则不使用;论文与原型插图未逐张确认转载许可。交互图已转换为公式、表格和文字。

参考来源

  1. [1]Geoffrey Hinton Curriculum Vitae(在新窗口打开)University of Toronto · Education;Employment;Honours · 访问于 2026-10-18官方 · 本人原话↩
  2. [2]A Learning Algorithm for Boltzmann Machines(在新窗口打开)Cognitive Science · 能量函数;学习规则 · 访问于 2026-10-18官方 · 部分原话↩
  3. [3]Learning representations by back-propagating errors(在新窗口打开)Nature · 1986-10-09 · 摘要;正文反向传播与 family tree 实验 · 访问于 2026-10-18官方 · 部分原话↩
  4. [4]Adaptive Mixtures of Local Experts(在新窗口打开)Neural Computation · 摘要;门控与专家混合 · 访问于 2026-10-18官方 · 部分原话↩
  5. [5]The Wake-Sleep Algorithm for Unsupervised Neural Networks(在新窗口打开)Science · 1995-05-26 · 摘要;wake 与 sleep 两阶段 · 访问于 2026-10-18官方 · 部分原话↩
  6. [6]The Helmholtz Machine(在新窗口打开)Neural Computation · 摘要;模型与学习过程 · 访问于 2026-10-18官方 · 部分原话↩
  7. [7]Training Products of Experts by Minimizing Contrastive Divergence(在新窗口打开)Neural Computation · 摘要;对比散度更新 · 访问于 2026-10-18官方 · 本人原话↩
  8. [8]A Fast Learning Algorithm for Deep Belief Nets(在新窗口打开)Neural Computation · 摘要;逐层训练算法 · 访问于 2026-10-18官方 · 部分原话↩
  9. [9]Reducing the Dimensionality of Data with Neural Networks(在新窗口打开)Science · 2006-07-28 · 摘要;深度自编码器训练 · 访问于 2026-10-18官方 · 部分原话↩
  10. [10]Visualizing Data using t-SNE(在新窗口打开)JMLR · 摘要;第 2–3 节 · 访问于 2026-10-18官方 · 部分原话↩
  11. [11]ImageNet Classification with Deep Convolutional Neural Networks(在新窗口打开)NeurIPS · 摘要;架构与 ImageNet 结果 · 访问于 2026-10-18官方 · 部分原话↩
  12. [12]Dropout: A Simple Way to Prevent Neural Networks from Overfitting(在新窗口打开)JMLR · 摘要;第 2 节 · 访问于 2026-10-18官方 · 部分原话↩
  13. [13]Distilling the Knowledge in a Neural Network(在新窗口打开)arXiv · 2015-03-09 · 摘要;第 2 节蒸馏 · 访问于 2026-10-18官方 · 部分原话↩
  14. [14]Dynamic Routing Between Capsules(在新窗口打开)arXiv · 2017-10-26 · 摘要;Procedure 1;公式 (1)–(3) · 访问于 2026-10-18官方 · 部分原话↩
  15. [15]Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award(在新窗口打开)ACM · 2019-03-27 · 官方公告 · 访问于 2026-10-18官方 · 非本人原话↩
  16. [16]How to represent part-whole hierarchies in a neural network(在新窗口打开)arXiv · 2021-02-25 · 摘要;总体架构与 islands of agreement · 访问于 2026-10-18官方 · 本人原话↩
  17. [17]The Forward-Forward Algorithm(在新窗口打开)arXiv · 2022-12-27 · 摘要;第 2–3 节 · 访问于 2026-10-18官方 · 本人原话↩
  18. [18]Geoffrey Hinton statement on leaving Google(在新窗口打开)X · 2023-05-01 · 本人公开帖子 · 访问于 2026-10-18官方 · 本人原话↩
  19. [19]Google AI pioneer says he quit to speak freely about technology's dangers(在新窗口打开)Reuters · 2023-05-02 · 报道正文 · 访问于 2026-10-18权威媒体 · 部分原话↩
  20. [20]The Nobel Prize in Physics 2024(在新窗口打开)Nobel Prize Outreach · 2024-10-08 · 官方奖项摘要 · 访问于 2026-10-18官方 · 非本人原话↩
  21. [21]Geoffrey Hinton on why AI needs maternal instincts(在新窗口打开)CBC Ideas · 2026-02-18 · 官方单集页文字实录;母性隐喻、灭绝概率问答与“不到 1% 研究者”段 · 访问于 2026-10-18一手采访 · 本人原话↩
  22. [22]Two Paths to Intelligence(在新窗口打开)Cambridge Centre for the Study of Existential Risk · 2023-05-25 · 视频;精确时间点待独立核查 · 访问于 2026-10-18一手采访 · 本人原话↩
  23. [23]Boltzmann Machines(在新窗口打开)Nobel Prize Outreach · 2024-12-08 · Nobel Lecture 页面与演讲 · 访问于 2026-10-18官方 · 本人原话↩
  24. [24]Interview with Geoffrey Hinton(在新窗口打开)Nobel Prize Outreach · 2024-12-06 · 官方访谈全文;时间表段落 · 访问于 2026-10-18一手采访 · 本人原话↩
  25. [25]Geoffrey Hinton public lecture at the Royal Institution(在新窗口打开)The Royal Institution · 2025-07-22 · 视频;精确时间点待核查 · 访问于 2026-10-18一手采访 · 本人原话↩