技术谱系

CHAPTER 05 # 技术谱系 Gemini 的技术血统是怎么一步步长出来的—— 以及为什么发明了这些技术的公司，一再留不住发明它们的人。

    阅读时长 **约 95 分钟**
    时间范围 **2016 前史 – 2026.07**
    论文配图 **25 张**
    交互图 **2 个**
    数据冻结 **2026-07-25**





  ### 本章要点

1. Gemini 不是一条血脉的产物，是三条血脉的合流。 Transformer 与稀疏化（Google Brain 的预训练底座）、RL 与搜索（DeepMind 纵队）、 长上下文与位置编码——它们在 2023 年 4 月的组织合并之后才第一次在同一个模型里相遇。 Gemini 是合并的产物，而不是合并的原因。

2. 「为什么不是 Google 先做出 ChatGPT」的答案不在技术栈里。 这条链上从 Transformer、MoE、MQA、GShard、Switch、GLaM 到 Pathways、PaLM、Chinchilla 几乎每一环都是 Google 做的。差距出在产品-风险函数、双头组织 和迭代周期的量纲——后训练的迭代速度比预训练快一个数量级。

3. DeepMind 的搜索传统只转化成功了一半。 「搜索是 policy improvement operator」这个内核活了下来（变成 RLVR 与蒸馏）， 「打比赛拿分」的评测文化活了下来；但真正带回溯的树搜索只剩 AlphaProof 一条线—— 因为只有 Lean 编译器能提供低边际成本、可重复、确定性的 proof checking 当终局奖励 （它只验证证明相对于形式命题成立，把命题写对仍要花人力）。 Deep Think 的并行思考机制官方从未披露，不能写成 MCTS。

4. 长上下文这条线上，Google 自己的记忆研究没有进入 Gemini。 Infini-attention、Titans、Atlas、Nested Learning 全部出自 Google Research， 与 Gemini 的工程实现没有任何公开关联。原因不难理解： 它们卖的是「便宜地记住大意」，而 Gemini 长上下文卖的是「昂贵地记住细节」。

5. 谱系在 2023 年从「论文序列」变成了「产品序列」。 PaLM 2 起不再公布参数量，Gemini 3.x 起连技术报告都没有，作者栏统一变成「Gemini Team」。 今天还能看清架构取舍的唯一窗口是 Gemma 开源线——而这个窗口随时可以关闭。

    本章 4 条主线 · 44 节点谱系图 · 2 个交互图 · 25 张论文配图 ·
    关键词：Transformer Sparse MoE
    AlphaZero Pathways
    长上下文 Noam Shazeer

   本章严格区分「Google 做了什么」与「进了 Gemini 的什么」。 除 Nano-1（1.8B）与 Nano-2（3.25B）外，Gemini 各版本的参数量、层数、专家数、top-k、 训练 token 数、注意力实现官方从未披露。凡是「Gemini 用了 X」的说法， 除非有官方技术报告或模型卡明文，一律写成「外部推测」并给出依据与可信度。

   版本口径（截至 2026-07-25）：最新旗舰是 Gemini 3.1 Pro Preview（2026-02-19，仍未 GA）； 最新 Flash 是 Gemini 3.6 Flash（2026-07-21 GA），上一版是 3.5 Flash（2026-05-19 GA）； 3.5 Pro 仍在 partner testing、未公开发布；Gemini 4 只披露已开始预训练。 3.6 > 3.1 是产品线命名错位，不是能力排序。 2021 年之前的内容（2016 AlphaGo、2017 Transformer、2019 MQA）均标注为前史。

   一张图看完：三条血脉如何汇流

   下面这张谱系图是本章的骨架。它不是时间轴——横轴是时代分列，纵轴是血脉。 三条上游泳道分别对应本章的主线一到主线四：Transformer 与稀疏化（Google Brain 的预训练底座）、 RL 与搜索（DeepMind 纵队）、长上下文与位置编码。 第四条泳道单独画成虚线，是 Google Research 的记忆线—— 它在右端有一个刻意留下的断口：Titans、Atlas、Nested Learning 与 Gemini 的工程实现之间没有任何公开关联， 把它画成汇流会是这张图能犯的最严重的错误。

   节点详情

   点击上图任意节点，这里会显示它的完整说明、出处与「它进了 Gemini 的哪一部分」。 图中所有信息在下方正文里都有对应的文字版本，不依赖交互也能读完整章。

   三个省略是有意的，因为把它们画进去就会变成编造： （1）没有任何一条线直接连到 Gemini 的内部架构。 除 Nano-1（1.8B）与 Nano-2（3.25B）外，Gemini 的参数量、层数、专家数、top-k、注意力实现官方从未披露； 图中连到主干的线表示的是「技术传统的延续」，不是「这段代码进了那个模型」。 **（2）2023 年之后上游泳道明显变稀疏。**这不是 Google 停止研究，而是 PaLM 2 起不再公布参数量、Gemini 3.x 起连技术报告都没有—— 这条谱系在 2023 年从「论文序列」变成了「产品序列」，能继续画下去唯一的原因是 Gemma 这条开源支线还在同步释放架构细节。 **（3）人的流动没有画进去。**把「主要作者」那一列竖着读，2017–2022 每一行几乎都能找到 Noam Shazeer、Quoc Le、Jeff Dean、Barret Zoph 中的至少一个；2023 年之后作者栏全部变成了「Gemini Team」。 这一层在本章 1.8 节单独展开。

   同一批事件，按时间读一遍

   谱系图回答「谁从谁长出来」，时间轴回答「什么时候发生」。下面这张按四条泳道排布， 点击图例可以单独隐藏某一条线；模型泳道上的实心大点是有官方模型卡或技术报告的版本。

    2016–2026 · 四条线的时间分布
    悬停看说明，点击图例可筛选泳道
   
   
   
   
   
    日期口径：论文取 arXiv 首次提交月，产品取官方发布日；**preview 与 GA 分开标注**。
    2026 年的三个关键状态：**Gemini 3.1 Pro 仍是 Preview**（2026-02-19）、
    **Gemini 3.6 Flash 于 2026-07-21 GA**、**TPU 8t/8i 已官宣但截至 2026-07-25 尚未 GA**。

   主线一 · Transformer 血脉：从八个人的论文到二十亿用户的底座

   Gemini 的技术谱系有一个不太体面的特点：**它几乎每一个关键节点都是 Google 自己做的，而每一个节点的作者名单，今天读起来都像一份竞争对手的花名册。**这一节沿着一条主线走完——从 2017 年的两篇论文，到 2026 年 7 月的 Gemini 3.x 与 Gemma 4。中间要回答两个问题：这条血脉上到底有哪些东西真的进了 Gemini（而不是只是「Google 做过」），以及为什么发明它们的人一个接一个地走了。

   三条读法规则，全节遵守。一，2021 年以前的节点一律标「前史（背景）」，它们是 Gemini 的祖先而不是 Gemini 本身。二，「Google 做的」与「进了 Gemini 的」是两件事，下表最后一列凡官方未确认的一律写「外部推测」。三，除 Gemini 1.0 的 Nano-1（1.8B）与 Nano-2（3.25B）之外，Gemini 主线的参数量、层数、专家数、top-k、训练 token 数、是否使用 RoPE / GQA / Ring Attention，Google 从未公开过任何一个数字^[1][Gemini 1.0 报告]。本节凡是写得出具体超参的地方，全部来自 Gemma 这条开源支线。

| | 年月 | 论文 / 系统 | 关键机制 | Google 内部谁 | 进了 Gemini 的哪一部分

| | 2017.01前史 | Sparsely-Gated MoE^[2][1701.06538] | noisy top-k gating + 负载均衡辅助损失；在 LSTM 上推到 137B 参数 | Noam Shazeer（一作）、Azalia Mirhoseini、Quoc Le、Geoffrey Hinton、Jeff Dean 等 | MoE 全线的源头；Gemini 1.5 报告逐条点名了它

| | 2017.06前史 | Transformer^[3][1706.03762] | scaled dot-product attention + 多头 + 位置编码 | Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan Gomez、Łukasz Kaiser、Illia Polosukhin（八人） | 全部 Gemini 的骨干（官方确认为 decoder-only Transformer 家族）

| | 2019.11前史 | Multi-Query Attention^[4][1911.02150] | 所有 query 头共享同一份 K/V，KV cache 压缩 (n_h) 倍 | Noam Shazeer（独作） | 官方确认：PaLM 与 Gemini 1.0 报告都写明使用 MQA

| | 2020.06 | GShard^[5][2006.16668] | MoE + SPMD 自动分片标注；600B 参数 / 2048 块 TPU v3 / 4 天 / 100 语种 | Dmitry Lepikhin、HyoukJoong Lee、Orhan Firat、Yanping Huang、Noam Shazeer、Zhifeng Chen 等 | GSPMD 分片体系是训练栈祖先；1.5 报告点名

| | 2021.01 | Switch Transformer^[6][2101.03961] | top-1 路由 + 容量因子 + router 用 fp32 的 selective precision；1.6T 参数 | William Fedus*、Barret Zoph*、Noam Shazeer（*共同一作） | 1.5 报告点名；两位共同一作后来都去了 OpenAI

| | 2021.12 | GLaM^[7][2112.06905] | 1.2T 总参 / 96.6B 激活（8%）/ top-2 / 64 专家 × 32 个 MoE 层；训练能耗 456 MWh | Nan Du、Yanping Huang、Andrew Dai、Quoc Le、Barret Zoph、William Fedus 等 | 1.5 报告点名；「稀疏比稠密省」的成本模型出处

| | 2022.02 | ST-MoE^[8][2202.08906] | router z-loss 解决稀疏模型训练发散；269B 总参 / 32B 稠密等效 FLOPs | Barret Zoph*、Irwan Bello*、Noam Shazeer、William Fedus* 等 | 1.5 报告点名；Gemini 是否沿用 z-loss 属外部推测

| | 2022.02 | Expert Choice Routing^[9][2202.09368] | 专家选 token，负载天然均衡，不需要辅助损失，不丢 token | Yanqi Zhou、Tao Lei、Hanxiao Liu、Nan Du、Quoc Le、James Laudon 等 | 官方从未提及外部推测

| | 2022.03 | Pathways^[10][2203.12533] | single-controller + gang scheduling + islands 的异步分布式数据流 | Paul Barham、Aakanksha Chowdhery、Jeff Dean、Sanjay Ghemawat、Michael Isard 等 | 训练系统的直接祖先；Gemma 4 报告确认它今天仍在用

| | 2022.04 | PaLM^[11][2204.02311] | 540B 稠密 / 6144 块 TPU v4 跨两个 pod / MFU 46.2%；架构上用了 MQA、RoPE、SwiGLU | Aakanksha Chowdhery、Sharan Narang、Noam Shazeer、Yi Tay、Quoc Le、Jeff Dean 等 67 人 | Gemini 之前的旗舰；证明 Pathways 能满负荷跑

| | 2023.05 | PaLM 2^[12][2305.10403] | 按 Chinchilla 走计算最优配比；更强的多语种与代码混合；不再公布参数量 | Yi Tay（建模 / 架构 co-lead）、Rohan Anil、Andrew Dai 等 | Gemini 1.0 的直接前身；信息透明度断崖从这里开始

| | 2023.05 | GQA^[13][2305.13245] | (g) 组共享 K/V，是 MHA 与 MQA 的插值；只用 5% 原预训练算力 uptrain | Joshua Ainslie、James Lee-Thorp、Michiel de Jong 等（Google Research） | Gemma 全系明确使用；Gemini 是否使用官方未披露外部推测

| | 2023.12 | Gemini 1.0^[1][2312.11805] | decoder-only、32K、MQA、四模态交错序列；Nano-1 1.8B / Nano-2 3.25B；「稠密」为报告对照反推 | Gemini Team（Google DeepMind） | 汇流点；作者栏从这一行开始不再有个人名字

| | 2024.02 | Gemini 1.5^[14][2403.05530] | 1.5 Pro 报告开篇明写 sparse MoE + 长上下文；生产 1M，研究中测到 10M；1.5 Flash 是否为 MoE 未披露 | Gemini Team（Google DeepMind） | MoE 在这一个型号上由官方确认；「此后全家族同一骨干」没有公开证据

| | 2024.04 | Mixture-of-Depths^[15][2404.02258] | token 级 top-k 跳层，在静态计算图下做动态 FLOPs 分配；12.5% capacity 最优 | David Raposo、Sam Ritter、Blake Richards、Timothy Lillicrap、Peter Humphreys、Adam Santoro（Google DeepMind） | 未确认进入生产；理念与 thinking_level 相通外部推测

| | 2025.03 | Gemma 3^[16][2503.19786] | 5:1 局部 / 全局交替 + 滑窗 1024；全局层 RoPE base 10k→1M；KV 开销从 60% 降到 3.1 就说 Flash 更强，也不能说「3.6 是最新旗舰」。3.5 Pro 截至冻结日仍在 partner testing，从未公开发布；Gemini 4 只披露了已开始最大规模预训练，没有发布任何产品。另外：Gemini 3.x 全系没有技术报告，只有模型卡，2.5（arXiv:2507.06261，2025-07-07）是最后一份公开技术报告。

### 1.7 本章最重要的一问：为什么是 Google 发明了 Transformer，却不是 Google 先做出 ChatGPT？

先把证据摆齐。表 5.1 那条链上的每一环都是 Google 或 DeepMind 做的：Transformer、MoE、MQA、GShard、Switch、GLaM、Pathways 与 PaLM、Chinchilla[@src-46fd66187e][Chinchilla]。LaMDA 在 2021 年的 I/O 上就演示了对话能力，同一场 I/O（2021-05-18）Google 也公布了 TPU v4。**2022 年 11 月 ChatGPT 发布后，Google 内部宣布「code red」，Sundar Pichai 调整了多个团队的优先级**——这是《纽约时报》基于内部备忘录与录音的报道，**不是 Google 的官方公告**[@src-a0bb14c2b4][NYT, 2022-12-21]。

可以拆成三个具体机制，三个都能在表 5.1 上找到对应的时间点。

（a）搜索业务的负外部性。一个会胡说八道的对话框，对一家靠搜索广告赚钱、市占率约九成的公司是纯风险；对一家没有收入的实验室是纯期权。这是标准的创新者窘境，但它的技术表现形式很具体：Google 把大量精力投在「安全 + 事实性 + 不出错」上，而这些恰恰是降低惊艳感的方向。

**（b）组织的双头结构。**2023 年 4 月之前，Brain 和 DeepMind 是两个组织、两套技术栈（TensorFlow 与 JAX）、两套文化（产品导向与论文导向）^[17][合并公告, 2023-04-20]。表 5.1 上 Chinchilla（2022-03，DeepMind）比 PaLM（2022-04，Brain）早一个月发表——也就是说 PaLM 还在训的时候，同一家公司里已经有人证明了 540B 稠密模型是严重欠训练的，但来不及改。Gemini 是这次合并的产物，不是合并的原因。

（c）Chinchilla 的时间差。Chinchilla 证明 Gopher / PaLM 这一代都欠训练，Google 内部要按新配方重训；而 OpenAI 在 GPT-3.5 上做的是后训练（RLHF + 指令微调）。**后训练的迭代周期比预训练短一个数量级。**OpenAI 赢在了迭代速度的量纲上，不是模型质量的量纲上。

#### 1.7.1 一条比上面三条推断都硬的证据：Jeff Dean 自己讲的那个内部 chatbot

上面（a）（b）（c）三条都是**从公开时间线反推的机制**。而 2025 年 12 月，Google 现任首席科学家在 NeurIPS 现场把其中一条讲成了第一人称的证言——**这是本章关于这个问题最硬的一条一手材料，而且它的内容对说话人不利**。

we actually did have an **internal chatbot** that was quite heavily used within Google. It was developed during COVID... we had about **80,000 internal users** at Google... people found it really really useful **but I think we had a little bit of a myopic view** because it obviously had **factuality issues**... and **hallucination** kind of issues. And **if you view that as from a search lens, that's not good** because one of the most upheld core tenets of our search product is you want to be as accurate and factual as you can. **But I think we sort of didn't quite understand all the other potential uses of a chat system that are not core search things.**

  ...so we wanted to work on factuality issues and hallucination issues more before we sort of turned it into something we exposed external users to.

  Jeff Dean2025-12-17 发布（NeurIPS 2025 现场录制）Radical Talks《The Collaboration that Built Modern AI》[@src-4c38ef8738][官方频道，00:33:54–00:35:43]A（官方频道原始录音，已逐字核对字幕轨）

同一段稍后，他给了一句更直接的自评：“we could have been the ones that released something like that... **that was a little sad**”[@src-4c38ef8738][同上，00:37:22]。


  **它支持的（可以当事实写）：**①「Google 手里有一个规模不小的对话系统而没有对外发布」——**约 8 万内部员工在用**，时间是 COVID 期间（2020–2021）；②**搁置的理由是被明确说出来的**，即事实性与幻觉**在搜索的透镜下**不可接受；③ Jeff Dean 本人把这个判断评价为「有点狭隘的视角」。

  **它不支持的（越过这条线就是过度使用）：**「所以那个系统当时已经和 ChatGPT 同等，差的只是按发布键」。
    **请注意他给的搁置理由本身就否定了这一步**——他说的是**那个系统在 Google 自己的验收标准上没通过**，不是它在 ChatGPT 的标准上已经通过了。
    「我们有一个东西」和「我们有一个够格的东西」是两个命题，这段话只证成了前一个。

  **★必须一并保留的那一半：他承认了真实的技术缺陷。**把这段话剪成「Google 只是不敢发」，等于删掉他原话里的 *factuality issues* 与 *hallucination issues*——**而那两个词是这段证言里唯一一处技术判断**。
    本材料的处理是两半都留：**缺陷是真的，谨慎也是真的，「谨慎是唯一原因」才是假的。**

  **两条来源纪律。**① 该视频为多人炉边谈话，**字幕轨的 speaker split 未经人工听音复核**，本材料只引用可由上下文明确归属给 Jeff Dean 的句子。
    ② 他在同一场谈话里对 2022-12「Code Red」的框架表达过保留；**但这不能用来推翻 2022-12-21 同期媒体基于内部备忘录的报道**——当事人事后的措辞偏好与同期报道是两类证据，不构成互相证伪。



上面三条都可以反过来读成「Google 只是判断错了时机」，而不是有结构性劣势。证据是恢复速度：**从 2023-12 的 Gemini 1.0 到 2025-03 的 Gemini 2.5 Pro，大约 15 个月，Google 就重新回到了前沿模型的第一梯队**（具体名次随榜单、快照日期与评测设置而变，本节不给排名）。一个真正的结构性组织病症，不会在一年多里被治好。更谨慎的表述是：**Google 输掉的是 2022 年的产品时机，不是技术能力；而它之所以能追回来，恰恰依赖的是同一批被指责「拖慢它」的资产——TPU、Pathways、XLA、GSPMD。**

还有一条更难反驳的反证：如果组织问题是根因，2023 年合并之后本应一劳永逸；但到 2026 年，3.5 Pro 承诺六月发布、七月仍在伙伴测试，Pro 线的版本号被 Flash 线反超。这说明「预训练节奏慢于后训练节奏」不是 Google 的组织病，而是一个产业级现象——只是在 Google 的命名空间里留下了最显眼的化石。

#### 1.7.2 三个竞争解释，以及为什么本材料不给它们排序

「Google 为什么慢了」这个问题下，公开材料里至少有三个**互不排斥**的解释。此前的材料曾试图按「陈述对陈述者是否不利」给它们排一个可信度序（把当事人自陈的失误排在当事人体面的叙事之上）。**本轮把这个排序删掉了**，理由写在表下。

| | 竞争解释 | 最强的一手证据 | 它在什么条件下成立 | 它解释不了什么

| | ① 发布阈值 搜索的事实性门槛压住了发布 | Jeff Dean 的 8 万内部用户证言（见 1.7.1）：搁置理由是 factuality / hallucination「从搜索的透镜看不可接受」^[18][NeurIPS 2025] | 成立于 2020–2022 这段窗口，且限定为「发布决策被一个更高的事实性门槛推迟了」这个弱版本 | 2023-02 之后的三年。发布键在 2023-02-06 就按了（Bard 官宣 + trusted testers），2023-03-21 进入美英 waitlist 有限公测——此后仍追了约 32 个月才在 benchmark 上被广泛认为反超（以 2025-11-18 Gemini 3 计）

| | ② 组织执行力 算力与团队切得太碎 | Jeff Dean 自陈「我们把算力切得太碎了」；合并前 Chinchilla（DeepMind）比 PaLM（Brain）早一个月发表，而 PaLM 来不及改配方（见 3.1） | 成立于合并之前（2023-04-20 之前），且限定为「协调成本与算力碎片化确实存在」 | 合并之后仍然存在的节奏问题。到 2026 年 3.5 Pro 仍未公开发布——如果碎片化是根因，合并本应一劳永逸

| | ③ 产品面缺失 缺的是数据回路，不是用户 | Pichai 在 NYT《Hard Fork》（2026-05-28 发布）承认在 agentic coding 上「此刻是有点落后的」，原因是「拿到那些数据流很重要，而我们大概没有那个 surface——比如 Claude Code，或者 Anthropic 通过 Cursor 拿到的东西」^[19][转载]

          **可信度 B，且必须标注取证方式**：英文原句经多家二手转载、措辞一致，**但 NYT 原播客页 URL 本项目未能取得**，标 待核。上面给出的是可核对的**转载源**，不是一手页面。
         | 成立于**编程这个具体场景**，且限定为「**Google 缺的是 IDE / 终端这个特定分发面，不是分发总量**」
         | **2022 年那一次**。ChatGPT 首发时的场景是通用对话，不是编程；用一个 2026 年的场景诊断去解释 2022 年的事件是**时序倒置**

    表 5.11 · 三个竞争解释及其各自的成立条件。**三者不互斥，而且各自的适用时段几乎不重叠**——①管 2020–2022，②管合并之前，③管 2024 之后的编程场景。
      这本身就说明「Google 为什么慢了」**不是一个有单一答案的问题**。





  「Google 输的是发布阈值」这个曾经是本材料头号洞察的说法**过强**：它把一个五年的组织—技术—产品复合过程，压缩成了一个二元的发布决策。

  **最硬的一条反证来自时间线本身**：如果差的只是按发布键，那么按下之后就该结束了。
    **发布键在 2023-02-06 按了**（Bard 官宣并向 trusted testers 开放），**2023-03-21 进入美英 waitlist 有限公测**——此后仍追了约 **32 个月**（至 2025-11-18 Gemini 3），
    而在消费端，截至 2026-07 仍无法用混口径的 MAU / WAU 裁定胜负。
    **第二条**：支撑该叙事的关键实证——「Sparrow 当时已可与 ChatGPT 相比」——**没有任何公开对比证据**。Sparrow 论文的对照组全部是它自己的变体，目标函数里不含 instruction following，承诺的 private beta 未见公开记录。**这是一个不可检验的反事实，不能当论据用。**

  反方成立的条件很窄，必须写清楚：它成立于「**唯一/决定性**」这个量词上。
    **如果原命题是「发布阈值是决定性因素」，反方赢；如果原命题是「发布阈值是若干真实因素之一」，反方不成立**——后者有 Jeff Dean 的一手证言、8 万内部用户的规模、以及被明确说出口的搜索事实性门槛在支撑，证据强度是 A 级。

  正方收窄归因之争 **正方收窄为「因素之一」，反方不接管。**
    按 SPEC §0.8 第二条硬约束逐条自检：

    **① 我是在说正方不够充分，还是在说我的反方才是答案？**是前者。**本节没有提出新真因，也不打算提。**上表三条并列，**本材料不给它们排序**。

    **② 为什么删掉了原先的 against-interest 排序？**原先的写法是「按『陈述对陈述者不利者更可信』的原则，②③ 的可信度高于 ①」。这条原则本身是对的，但**用它给竞争假说排序是误用**——它评估的是**单条证言的可信度**，不是**假说的解释力**。
      三条假说各自的最强证据都是当事人自陈（Jeff Dean 说搜索透镜、Jeff Dean 说切得太碎、Pichai 说没有那个 surface），**它们在 against-interest 这个维度上并无差别，因此这条原则在这里根本区分不开三者**。用一个区分不开的尺度排出一个序，是**自定折扣**，不是证据。

    **③ 那什么能分开它们？**只有**时段**能。上表最后两列做的就是这件事：给每条假说划定它管得着的时间窗，并写明它管不着什么。**这不是排序，是划界。**
      可证伪的判据也随之改变：不再是「哪条最可信」，而是「**在某个具体时点上，哪条假说做出了与观测不符的预测**」。



上表三条竞争解释的最强证据分别是 Jeff Dean、Jeff Dean、Pichai——**全部是 Google 现任高管对自己公司失败的解释**。这构成一个必须显式写出来的方法论问题：

  **本材料关于「Google 为什么慢了」的核心框架，几乎就是当事人自己原话的复述。**即使每一条证言都逐字可查、即使内容对说话人不利，**用当事人的自我解释去解释当事人的失败，也不是独立验证**——它至多是一份高质量的自述。
    真正的独立验证需要的是当事人没有选择权的证据：同期的内部文档、第三方的同期对照评测、或者一个当事人无法自我叙述的行为记录。**这三类本章一条都没有。**

  这一层不是给本节加的免责声明，**它本身就是一个发现**：一个公司对自己失败的解释，天然会收敛到对它更体面的那个版本（「我们太谨慎」比「我们做不出来」体面得多）。
    **而本节能做的最诚实的事，不是假装找到了独立证据，而是把「我只有当事人证言」这件事写在证据旁边。**

### 1.8 这条血脉的注脚：Noam Shazeer 的二度出走

回到表 5.1 的第四列。这条主线上有三个最关键的节点——**Transformer（2017，八作者之一）、Sparsely-Gated MoE（2017，一作）、Multi-Query Attention（2019，独作）**——署名里都有同一个人。他还是 Switch Transformer 的第三作者、ST-MoE 的作者之一、GShard 的作者之一、PaLM 67 人名单里的一个。**如果把这条血脉画成一棵树，Noam Shazeer 是根、是主干上的三个分叉点，也是最后一个离开的人。**



    2017.01 / 2017.06 / 2019.11

    三篇论文，三个节点

    Sparsely-Gated MoE 一作、Transformer 二作、MQA 独作。**这三项恰好就是本节这条血脉的三个关键分叉。**

    前史Noam Shazeer




    2021 年内

    第一次离开：创办 Character.AI

    与 Daniel De Freitas 一同离开 Google 创办 Character.AI。**离职原因只有二手报道**：多家媒体转述称 Google 不同意公开发布两人做的对话系统（内部代号 Meena，后并入 LaMDA 路线）。本节把它记为**转述，非已证实事实**。

    二手报道离职




    2024-08-02 / 08-22

    回归：授权交易换回一个人

    Character.AI 与 Google 达成**非独家许可**，Shazeer、De Freitas 等回到 Google DeepMind[@src-97b7b7ee6e][Reuters]；三周后内部备忘录任命他为 **Gemini technical co-lead**，与 Jeff Dean、Oriol Vinyals 共同领导[@src-c61637d59b][Reuters]。交易被媒体称为 “reverse acqui-hire”；**具体金额未获 Google 或 Character.AI 官方确认**，外界常引的约 27 亿美元本节不作为事实采用。

    Gemini co-lead2024.08




    2026-06-17（美国时区；亚洲 06-18）

    第二次离开：加入 OpenAI

    本人发帖宣布离开 Google、加入 OpenAI[@src-71f5a0a2d1][本人原帖]；Google 向 Reuters 确认[@src-5fbf59eed8][Reuters]。**截至 2026-07-25 冻结日，OpenAI 没有发布官方 bio，其精确新职称存疑**——只能说其研究方向与 architecture research 有关，**不得自行补一个 title**。从回归任 co-lead 到再度出走，**不到两年**。

    离职新职称存疑





他不是孤例。把表 5.1 的第四列**竖着读**：2017–2022 每一行都能找到 Noam Shazeer、Quoc Le、Jeff Dean、Barret Zoph 中的至少一个；而 2023 年之后，作者栏全部变成了「Gemini Team」或「Gemma Team」。下面这张表把「谁写了这条血脉、后来去了哪」摊开。

| | 人 | 在本条血脉上的位置 | 截至 2026-07-25 的去向 | 证据

| | Noam Shazeer | Transformer（二作）、Sparsely-Gated MoE（一作）、MQA（独作）、GShard、Switch（三作）、ST-MoE、PaLM | 已离开 Google，2026-06 加入 OpenAI；新职称存疑 | ^[20]本人原帖^[21]Reuters

| | William Fedus | Switch Transformer 共同一作、ST-MoE | 离开 Google → OpenAI（post-training 方向）→ 后创办 Periodic Labs | 公开报道二手

| | Barret Zoph | Switch Transformer 共同一作、ST-MoE 一作、GLaM | 2022-08 离开 Google Brain → OpenAI → Thinking Machines → 2026-01 回 OpenAI → 2026-06 再度离开，下一站不明 | ^[22]The Verge

| | Jason Wei | Chain-of-Thought 一作（2022），Gemini「thinking」的算法先祖之一 | 离开 Google Brain → OpenAI | ^[23]CoT 论文去向为公开报道

| | Yi Tay | UL2 一作（2022）、PaLM 2 建模 / 架构 co-lead、PaLM 作者之一 | 离开又回归：2023-03 创办 Reka → 2024 年末回到 Google DeepMind；2026 年以 Gemini Deep Think 研究作者身份出现，公开 title 未核实 | GDM Deep Think 研究页署名title 待核

| | Quoc Le | Sparsely-Gated MoE、GLaM、Expert Choice、CoT 线、PaLM | 仍在 Google DeepMind（Distinguished Scientist） | GDM 官方署名

| | Jeff Dean | Sparsely-Gated MoE、Pathways、PaLM | 仍在 Google，Chief Scientist | ^[24]Google Research bio

| | Jack Rae | 时任 DeepMind：Gopher（2021）、Chinchilla（2022）—— 决定了 PaLM 2 之后的配比 | 已离开 Google：2025-06 加入 Meta Superintelligence 组织；公司归属不再待核，只有 Meta 内部的精确职级待核 | ^[25]Reuters仅职级待核

    表 5.2 · 这条血脉的作者去向。**「共同一作」那两行值得单独看**：Switch Transformer 是把 MoE 从研究玩具变成生产技术的那一篇，它的两位共同一作后来都去了 OpenAI。去向列的颜色只表示「是否仍在 Google」，不表示价值判断。凡标「二手 / 待核」的，都是冻结日拿不到官方证据的**那一项具体属性**（例如 Jack Rae 待核的只是 Meta 内部职级，公司归属已终裁），**不得在别处被引用成确定事实**。




这是作者判断，不是官方结论，但它有两层可检验的支撑。

第一层是人。MoE 这条线上最懂「怎么把稀疏训起来」的三个人——Shazeer、Fedus、Zoph——在 2022 到 2026 年之间全部离开了 Google，其中两个直接去了同一个竞争对手；CoT 的一作也是。Google 流失的是发明者，留下的是系统：GSPMD、Pathways、XLA、TPU 编译栈是几百人年积累、无法随人走的资产，这解释了为什么人走了 Gemini 没垮。但「代价」这一层只能给同期性，给不了因果：2022–2023 年 Google 在 LLM 产品上的迟钝与这批人集体离开高度同期，而 Google 从未披露离职对任何具体项目造成的延迟。写成可证伪的形式是这样：若人才流失是主因，应当能观察到「稀疏训练的公开产出在离职后断档」；实际上 Gemini 1.5 的 MoE 化恰恰完成于 Zoph 2022-08 离开之后。所以本节只采用弱化版：流失抬高了重建成本，但不足以充当产品迟钝的解释。「组织重建用了多久」本节不给数字——起点取合并（2023-04）还是 code red（2022-12）、终点取 1.0 还是 2.5，每一组都能得出完全不同的年数，一个定义不清的时长不构成证据。

第二层是署名方式本身。表 5.1 第四列在 2023 年之后整齐地变成了「Gemini Team」——这不是排版偷懒，是一次主动的去个人化：从 PaLM 2 开始不再公布参数量，从 Gemini 1.0 开始不再有可辨识的个人贡献划分。同时「arXiv」那一列在 2025 年之后开始出现空缺：Gemini 3 Pro、3 Deep Think、3.1 Pro、3.5 / 3.6 Flash 全都没有技术报告，只有模型卡。这条谱系在 2023 年从「论文序列」变成了「产品序列」。

两层放在一起，得到一个不太舒服的读法：**去个人化既降低了「关键人物出走」的组织风险，也降低了外界（包括本节）看清这条谱系的分辨率。**Noam Shazeer 2026 年 6 月离开时，Gemini 的架构描述里已经没有任何一处写着他的名字——尽管 MQA 那一条至今仍写在 Gemini 1.0 的报告里。本节能一路写到这里的唯一原因，是 Gemma 这条开源支线还在同步释放架构细节；而这个通道随时可以被关闭。

## 主线二 · DeepMind 的 RL 与搜索血脉：从围棋到未解数学题

主线一解释 Gemini 的**骨架**，这条线解释它的**脾气**——为什么它强在数学、代码、多模态推理，却不以「像人一样聊天」见长。DeepMind 的信条只有一句：**把问题变成有明确得分函数的游戏，再用「学到的先验 + 测试时的搜索」去打**。本节回答一个容易被含混过去的追问：**AlphaGo 那套传统在大模型时代到底转化成了什么真实优势，还是其实没转化成功？**

### 2.1 前史（背景）：AlphaGo 留下的三件套

**以下四个系统全部早于本材料的时间窗口（2021.01–2026.07），仅作前史列出。**写它们的唯一理由是：2025–2026 年 Gemini 每一个「思考」相关设计，在措辞上都能在这四篇论文里找到对应物。

| | 系统（全部为前史） | 关键事实与数字 | 相对上一代去掉了什么 | 代价

| | AlphaGo 2016-03 · Nature 529:484 | 4:1 胜李世石^[26][Nature]。四网络：棋谱监督学习的 (p_\sigma)、快 1500 倍的走子网 (p_\pi)、自对弈策略梯度的 (p_\rho)、价值网 (v_\theta)；决策核心 MCTS，每个 simulation 走完整四步：选择、扩展、评估、回传 | —（基线） | 依赖 3000 万人类落子

| | AlphaGo Zero 2017-10 · Nature 550:354 | 并成一个双头网络 ((\mathbf{p},v)=f_\theta(s))；训练 40 天 Elo 5185，同一网络关掉前瞻搜索只有 3055——搜索值 +2130 Elo^[27][AGZ] | 人类棋谱与 rollout | 冷启动难，早期自对弈质量极低

| | AlphaZero 2018-12 · Science 362:1140 | 国象 4 小时超越 Stockfish，而它每秒只搜 6 万个局面，Stockfish 是 6000 万——1000 倍搜索量差距被更好的先验补掉^[28][DeepMind]，这个 1000× 是理解 DeepMind 路线选择的关键数字 | 围棋专用先验（对称增广、领域特征） | 仍需完美已知的规则当模拟器

| | AlphaStar 2019-10 · Nature 575:350 | 《星际争霸 II》三族全达 Grandmaster，超过 Battle.net 上 99.8% 的已定级玩家^[29][Nature]；打破三个前提：局面不完全可见、无回合制、动作组合式 | 显式树搜索本身（改用联赛式自对弈） | 「搜索」第一次在 DeepMind 内部被替换掉

| | MuZero 2019-11 arXiv / 2020-12 Nature 588:604 | 三网络在学到的隐状态上做 MCTS（见 2.2） | 规则本身（连观测都不重建） | 隐状态失去可解释性与可迁移性、样本效率变差；EfficientZero（NeurIPS 2021，非 DeepMind）用自监督一致性损失把「忠实性」加回来，Atari 100k 上只用 2 小时实机经验达中位 116% 人类水平^[30][EfficientZero]

表 5.3 · AlphaGo → AlphaZero → MuZero 三代的「减法」。每一代去掉的东西不同，代价也不同；三者均为 2021 年之前的前史，列在这里是为了交代 Gemini 继承的是哪一套方法论。






  **图 5.14** MCTS 四步。**记住这四个动词**，2.3 节要用它们判断 Deep Think 是不是树搜索。[@src-0df4be45b4]出处：Mastering the game of Go with deep neural networks and tree search, Nature, 2016


选择这一步用 **PUCT（Polynomial Upper Confidence Trees）** 的变体，AlphaGo Zero 的形式最干净：

\[
a_t \;=\; \arg\max_{a}\Big[\, Q(s_t,a) \;+\; c_{\text{puct}}\, P(s,a)\, \frac{\sqrt{\sum_{b} N(s,b)}}{1 + N(s,a)} \,\Big]
\]

每个状态-动作对存 \(\{N,W,Q,P\}\)；训练目标不是网络自己的先验，而是 **MCTS 在根节点输出的访问计数分布** \(\pi_a\propto N(s,a)^{1/\tau}\)。完整推导见第 6 章 B10。

AlphaZero 的全部秘密是一句话：**\(\pi\)（搜索后的分布）比 \(\mathbf{p}\)（网络先验）更强，所以搜索既是决策器，也是 policy improvement operator。**把 \(\pi\) 蒸馏回 \(\mathbf{p}\)，网络变强；网络变强，同预算的搜索又更准。推论很反直觉：**模型越好，搜索越省**——传统引擎每步看数百万局面，AlphaZero 看数万，人类顶尖棋手只看几百。所以「把模型做强」与「加搜索」不是二选一，而是**乘法关系**：能力 \(\approx f(\text{模型质量})\times g(\text{搜索预算})\)，\(g\) 的斜率由 \(f\) 决定——这是 DeepMind 与「scale is all you need」派最本质的分歧。

Hassabis 在 2025 年 Google I/O 期间的现场对谈中，用「关掉思考只有大师水平，打开远超世界冠军，差 **600 多 Elo**」复述这组消融转述[@src-159be72387][对谈实录]，而论文数字是 **2130 Elo**。**本材料一律以论文为准，把高管口述当观点而非数据。**

### 2.2 MuZero（前史）：把「忠实性」换成「可决策性」

AlphaZero 有一个致命前提：**需要完美的模拟器**。围棋规则已知，搜索时能真把棋盘推演出来；现实世界没有这个奢侈品。**MuZero**（arXiv:1911.08265，2019-11；Nature 588:604，2020-12）的解法是不学环境，只学一个「对规划有用的」内部模型：representation \(s^0=h_\theta(o_{1:t})\)、dynamics \((r^k,s^k)=g_\theta(s^{k-1},a^k)\)、prediction \((\mathbf{p}^k,v^k)=f_\theta(s^k)\)。MCTS 跑在这棵**纯想象出来的隐状态树**上，而损失函数里**没有任何一项要求隐状态能还原观测**；论文原话是它只 "predicts the quantities most directly relevant to planning: the reward, the action-selection policy, and the value function"[@src-9c26dd01c8][MuZero]。



  **图 5.15** MuZero 三联图：在**抽象隐状态**上规划（节点不是真实盘面）、与环境交互、沿 \(K\) 步展开联合训练奖励/价值/策略——「搜索」第一次脱离「可枚举的真实后继」。[@src-9c26dd01c8]出处：Mastering Atari, Go, Chess and Shogi by Planning with a Learned Model, arXiv:1911.08265, 2019 / Nature 588:604, 2020


**MuZero 唯一一次真实落地**，也是这条线进入本材料时间窗口的第一个事件：2022 年 2 月 DeepMind 用它做 **VP9 编解码器的码率控制**，在 YouTube 一部分真实线上流量上**平均降码率 4%** 且画质无可察觉损失（离线 PSNR BD-rate 降 6.28%）[@src-a16b7c8bf3][DeepMind]。4% 很小，但它证明 MCTS 能在「每秒跑几百万次、必须满足硬约束」的生产环境里工作——这套经验在 AlphaEvolve 优化 Borg 调度时被完整复用。

### 2.3 关键转折：这套传统在 LLM 时代转化成了什么

我的答案是**三样东西，而且只有第三样是真正意义上的「搜索」**：

| | AlphaZero 三件套 | LLM 时代的对应物 | 是搜索吗 | 证据

| | 搜索作为策略改进算子 | 训练信号：用采样 + 验证生成比策略本身更好的目标，再蒸馏回策略——这就是 RLVR / self-consistency 蒸馏的本质 | 不是 | ^[31][Self-Consistency]^[32][2.5 报告]

| | 打比赛拿分的执念 | 评测文化：IMO / IPhO / IChO / ICPC / Codeforces 这一整套非 benchmark 的硬评测——题目第三方出、第三方评 | 不是 | ^[33][IMO 2025]^[34][ICPC 2025]

| | MCTS 本体 | 只剩 AlphaProof 这条线：Lean 编译器提供低边际成本、可重复、确定性的 proof checking，可当终局奖励反复调用——这是 MCTS 在这里能工作的关键条件。它只验证证明相对于形式命题成立；形式化本身有人力与计算成本 | 是 | ^[35][AlphaProof·Nature]^[36][Nexus]

表 5.4 · AlphaZero 三件套在 LLM 时代的对应物。「是搜索吗」一列是本节的核心判断：三件里只有一件仍是带回溯的树搜索。**Deep Think 的机制官方从未披露，表中不作断言。**




**MCTS 的三个前提——离散动作空间、可枚举的后继、廉价的叶节点估值——在自然语言推理里一个都不成立。**DeepMind 的应对是拆开各找替代品：「可枚举的后继」→ **并行采样**；「廉价叶节点估值」→ **外部验证器**（Lean 编译器 / 自动评测函数 / 单元测试）；「策略改进算子」→ **在推理轨迹上做 RL**。

**★ 关于 Deep Think，已知信息必须严格分三层。第一层是官方原文**——2025-08-01 向 AI Ultra 用户推送时，Google 官方博客写的是：

Deep Think pushes the frontier of thinking capabilities by using **parallel thinking techniques**. This approach lets Gemini generate many ideas at once and consider them simultaneously, even revising or combining different ideas over time… We've also developed **novel reinforcement learning techniques** that encourage the model to make use of these extended reasoning paths.

Google 官方博客 · 2025-08-01 · Gemini 2.5: Deep Think is now rolling out · [@src-9ecb690728]blog.google · 中译：用并行思考技术让 Gemini 一次生成许多想法并同时考量，甚至随时间修订或合并；另有新的强化学习技术鼓励模型利用这些被拉长的推理路径

**官方从未出现过「MCTS」「树搜索」「PUCT」「verifier-guided search」这些词**，那套 novel RL 的细节一个字都没披露。**第二层是一手口述**：Hassabis 多次表达过路线目标是「在模型之上叠加类 AlphaZero 的规划机制」转述[@src-78c3e73116][Dwarkesh]，但用的是 "could be possible" 这类措辞，**是研究愿景不是架构说明**。**第三层是外界推测**：并行思考最朴素的形式是采样 \(K\) 条链再聚合，聚合取多数投票即 self-consistency、取 \(\arg\max_k R_\phi\) 即 best-of-\(K\)；而官方说的 revising / combining 意味着聚合本身是一次**由模型执行、可跨链读写的再生成**：\(\hat{y}\sim\pi_\theta(\cdot\mid x,\,y^{(1)},\dots,y^{(K)})\)。



  **图 5.16** 四种范式对照。**右起第二个（多路采样投票）与最右（树搜索）的差别，正是本节全部争议所在**：前者各分支生成时互不影响、只在聚合时交互一次；后者第 \(n\) 次展开依赖前 \(n-1\) 次的统计量并可回溯。[@src-ba7b8013ee]出处：Tree of Thoughts, arXiv:2305.10601, 2023


Deep Think 最可能是**「大规模并行采样 + 交叉修订 + 隐式聚合」**，而不是带回溯的显式树搜索。三条理由：**（1）动词对不上**——官方反复用 generate / consider / revise / combine，MCTS 的 select / expand / evaluate / backup **一个都没出现**；**（2）预算的形状不像树**——输出上限从 2.5 Pro 的 65,536 token 提到约 192,000，更像「多条长链并存于同一上下文」；**（3）自然语言证明没有廉价的中间价值函数**——写到一半的证明无法用一个标量 \(v\) 可靠打分，而 AlphaProof 能用 AlphaZero 范式恰恰因为 Lean 提供了一个**确定性、可反复调用**的 verifier。**这三条是推理不是证据，证据不足，本材料标注为推测**；任何把 Deep Think 写成 MCTS 的表述（包括中文技术圈流传甚广的那些架构图）都属未经证实。公开信息中最接近「LLM 时代的 MCTS」的其实是 AlphaGeometry 2 的 **SKEST**：多棵搜索树并行、但共享已证明的中间事实[@src-d1c3874884][AG2]。

**（a）分支因子等于词表大小。**状态是整个 token 前缀，不同路径到达语义相同的状态仍是不同节点，树**永不合并**；有效分支因子是词表规模（数十万量级），比围棋的 250 大三个数量级。**（b）没有终局奖励。**围棋有胜负、Atari 有分数，开放域文本没有——只有数学、代码、形式化证明这类**可验证**领域才有。**（c）value 网络没有 ground truth，这才是真正的拦路虎。**AlphaZero 的 \(v\) 靠自对弈胜负标签自举，LLM 没有对手也没有胜负；用奖励模型代替就整个继承了 reward over-optimization——**搜索越强，reward hacking 越狠**。**（d）状态不可回退，「展开」的量纲也不同。**围棋展开一个节点是一次盘面评估，LLM 是**一次完整前向**；回溯还意味着 KV cache 的分叉管理或重算。四条里只有 (c) 不是工程问题，而是「奖励从哪来」的根本问题。

**★ 同名不同物：IMO 2025 的「研究版」与「公众版」必须分开写。**同一个「Gemini 2.5 Deep Think」的名字，在 2025 年 7 月和 8 月指的是两个算力/延迟配置完全不同的系统：


  35/422025-07-21 · 研究版Advanced Gemini 2.5 Deep Think，达 IMO 2025 金牌标准；**非公众 app 模型**

  60.7%2025-08-01 · 公众版向 AI Ultra 用户 rollout 的**低延迟 variation**，Google 官方内部 IMO 评测仅 bronze-level



把两者混用——比如说「订阅 Ultra 就能用上 IMO 金牌模型」——是**事实错误**。各版本成绩必须连同**条件**一起写，不同条件**不得并排比较**：

| | 版本与可及性 | 日期 | 评测与条件（缺一不可） | 分数

| | Advanced 2.5 Deep Think（研究配置，非公众可用） | 2025-07-21 | IMO 2025；端到端自然语言；4.5 小时竞赛时限内；IMO 官方 coordinator 按人类同标准评分 | 35/42

| | 2.5 Deep Think（Ultra 订阅，app 模式） | 2025-08-01 | IMO 2025；低延迟 variation；Google 官方内部评测，非 IMO 评分 | 60.7%

| | 3 Deep Think（Ultra 可用） | 2025-12-04 | HLE no tools / ARC-AGI-2 with code execution | 41.0% / 45.1%

| | 3.1 Deep Think（Ultra 可用；API 仅 select EAP） | 2026-02-12 | HLE 无工具（带搜索+代码执行 53.4%）；ARC-AGI-2 / ARC-AGI-1 经 ARC Prize 验证，成本 $13.62 / $7.17 每题；Codeforces Elo | 48.4% 84.6% / 96.0% 3455

表 5.5 · 数学线三级跳的可核查记录。**评测条件一列缺一不可**：研究版与公众版、有无工具、是否人工形式化，都会改变分数的含义，不同条件的分数不得并排比较。数据冻结于 2026-07-25。




来源：[@src-9ecb690728][2.5 DT][@src-75a056ee76][3 DT][@src-c8bba1a41d][3.1 DT 模型页]——均为厂商或厂商委托的报告值，不是独立复现。**Gemini 3.x 全系没有技术报告、只有模型卡**，2.5（arXiv:2507.06261）是最后一份公开技术报告；RL 细节、并行分支数、聚合方式、算力预算一概未披露。领先也不是永久的：截至 2026-07-24，ARC-AGI-2 Semi-Private 榜上 Claude Opus 5 Max 报 **90.4%**，已高于 3.1 Deep Think 的 84.6%，但两者 reasoning effort 与单题成本不同，**严格说不可并列**[@src-1f86bb6aa9][ARC Prize]。

### 2.4 数学线的三级跳：银牌 → 金牌 → 未解难题

如果只用一条曲线证明「这套传统真的转化成了东西」，就是它。三年三个质变，而每一级的**限制条件**都比成绩本身更有信息量：

- 2024-07-25 IMO 银牌：AlphaProof + AlphaGeometry 2，需人工形式化，耗时 2–3 天

      六题解出四题（AlphaProof 拿下 P1、P2 与当年最难的 P6，AlphaGeometry 2 拿下 P4），每题满分，**合计 28/42**，当年金牌线 29 分——差 1 分[@src-4487619628][GDM]。三条必须写清的限制：**① 题目需人类专家先手工译成 Lean，证明再翻回自然语言；② 除一题外最长耗时 2–3 天，远超竞赛时限；③ 评分方是 Timothy Gowers 与 Joseph Myers 作为独立专家按 IMO 规则打分，不是 IMO 官方 coordinator 认证流程**——写「2024 年也经官方认证」即为错误。

      AlphaProof需人工形式化

- 2025-07-21 IMO 金牌标准：Gemini Deep Think，纯自然语言，4.5 小时内

      一个 advanced version of Gemini Deep Think 完美解出 6 题中的 5 题，**35/42，恰好踩上当年金牌线**，由 IMO 官方 coordinator 按学生同样标准评阅确认。两个可确认的质变：**① 端到端自然语言，无需人类形式化；② 在 4.5 小时正式时限内完成**。官方对系统本身只说了「an advanced version of Gemini Deep Think」这一句，**没有说明它与产品线模型是什么关系，本节因此不作「是不是专用系统」的裁决**。**IMO 确认的范围也要原样写清楚：只确认提交的证明完整且正确，不验证底层系统、算力预算、是否有人工参与、是否可复现**（官方免责声明原文见下）。正确措辞是「达到金牌标准」，**不是作为正式选手获发一枚金牌**。

      Deep Think自然语言路线

- 2026-06 AlphaProof Nexus：353 个开放 Erdős 问题中给出 9 个形式化解

      arXiv:2605.22763。**353 个开放 Erdős 问题中给出 9 个形式化解**（两个悬置 **56 年**），**492 条 OEIS 开放猜想中证明 44 条**，另解决一个悬置约 15 年的 Hilbert 函数问题；**单题推理成本「几百美元」**[@src-1d4ccde518][arXiv]。耐人寻味的消融：**最朴素的基础版 agent 也能解出全部 9 题**，只是最难的题上更贵。每次成功后**仍需人类专家验证 Lean 陈述是否忠实刻画原猜想**。

      AlphaProof Nexus形式化路线









    **图 5.17** AlphaGeometry：**符号引擎负责一切能机械推出的东西，语言模型只负责「跳出当前图形的那一步」**，每步构造由 DDAR 验证。[@src-3600df4d20]出处：Solving olympiad geometry without human demonstrations, Nature 625:476, 2024



    **图 5.18** AlphaProof Nexus：子 agent 各自生成 Lean 证明并靠**编译器反馈**迭代；完整版用 AlphaEvolve 式进化算子共享草图种群，由 Gemini 3.0 Flash 打分并 Elo 排序。[@src-1d4ccde518]出处：Advancing Mathematics Research with AI-Driven Formal Proof Search, arXiv:2605.22763, 2026



2025 年那场官方评分，IMO 主席 Gregor Dolinar 确认了成绩，但 DeepMind 自己在同一篇博客里加的免责声明更重要，也几乎从不被转载：

The IMO have confirmed that our submitted answers are complete and correct solutions. It is important to note that their review does not extend to validating our system, processes, or underlying model.

Google DeepMind 官方公告 · 2025-07-21 · [@src-1f65760bea]deepmind.google · 中译：IMO 已确认提交的答案完整且正确；需要指出的是，**他们的审阅并不延伸到验证我们的系统、流程或底层模型**

因为**两条路线的失败模式恰好互补，而 Google 自己也不知道哪条对**。**自然语言路线**（Deep Think、Aletheia）赌模型能**内化验证**：通用、能处理无法形式化的问题，但**没有正确性保证**——2026-02 的数学研究 agent Aletheia 把这个缺点量化得很残酷：它在 700 个标记 Open 的 Erdős 问题上声称解出 **212** 个，数学家复核 200 个，**137 个（68.5%）错误**，仅 13 个（6.5%）在原意下正确，扣掉文献已有解的，**真正新颖的只有 4 个**[@src-b9bb0277d5][arXiv:2602.10177]。**形式化路线**（AlphaProof、Nexus）赌验证必须外部化：Lean 给出的是**确定性、可重复的 proof checking**，它保证证明相对于**那条形式命题**成立，**但不保证形式命题忠实于原猜想**——这一步至今由人类专家把关。它也只能处理能形式化的问题，命中率 9/353 ≈ 2.5%，且高度集中在 Mathlib 成熟的组合数学、凸优化、数论。成本结构也完全不同：一边「4.5 小时做完 6 道题」，另一边「每题几百美元、成功率 2.5%」。**同时押注两边，本身就是对「可验证性能不能内生于模型」这个未决问题的对冲——这种诚实的不确定性，比任何一方的胜利宣言都更值得记录。**

**① 声称数 ≠ 正确数 ≠ 新颖数。**Aletheia 的漏斗是 212 → 200（可判定）→ 13（原意正确，6.5%）→ 4（新颖，1.9%）；这类标题不同时给出三个数就基本没有信息量。**② 成功率恰好落在专家事先划的线上。**Terence Tao 早就校准过「AI 在 Erdős 问题上的实际成功率只有 1–2%，且集中在较容易的题」转述，Nexus 的 2.5% 几乎精确落在线上——它**验证了专家预期，而不是超出预期**；他对 AlphaEvolve 的评价同样克制：价值在于**快速检验候选不等式是否有反例、改善直觉**，不是替人产出证明转述[@src-99b1170ac1][GDM]。**生成变便宜了，验证没有；这个剪刀差是 2026 年 AI4Science 的核心矛盾。**

③ 评测治理的缺口两年没关上。2025 年争「Google 官方评分 vs OpenAI 自评」（OpenAI 同期宣称同样 35/42，但未与 IMO 官方合作，自找三位前 IMO 奖牌得主评分并抢先发布）；2026 年还是同一件事——第 67 届 IMO（2026-07-15/16，上海，666 名选手，仅 7 人满分）后，华为 Celia 与小红书 dots-note-3.0 宣称在 IMO 官方流程下拿到 42/42，另有若干模型的满分来自第三方自组织、由 AI 评分的测试，两类不应等同。叠加上面那句免责声明：**没人知道模型跑了多少次、用了多少算力、有没有联网；行业至今没有等价于「临床试验注册」的制度。**另记一个缺口：截至 2026-07-25 未检索到 GDM 公布 IMO 2026 成绩的官方信息——不应臆测。

### 2.5 算法发现线：AlphaTensor → AlphaDev → AlphaEvolve

数学线证明「AI 能不能想出新东西」，算法发现线证明**「想出来的东西能不能落到 Google 自己的机器上」**——后者对理解 Gemini 的成本结构更重要。

| | 系统 | 做法 | 硬结果 | 不能省的局限

| | AlphaTensor 2022-10 · Nature 610:47 | 用 AlphaZero 玩张量分解单人游戏：找 (\mathcal{T}{n,m,p}=\sum{r=1}^{R}\mathbf{u}^{(r)}\otimes\mathbf{v}^{(r)}\otimes\mathbf{w}^{(r)}) 的秩-(R) 分解，等于找到用 (R) 次标量乘法的算法 | (\mathbb{Z}_2) 上 (4\times4) 由 49 降到 47（50 多年来首次改进）；70 多个尺寸刷新 SOTA；定制算法在 V100 / TPU v2 实测快 10–20%^[37][Nature] | 47 只在 (\mathbb{Z}_2) 上成立，对一般数域没有改进 Strassen

| | AlphaDev 2023-06 · Nature 618:257 | 把排序算法的汇编指令序列当搜索空间，用 RL 在指令级找更短更快的程序 | sort3/4/5 反向工程回 C++ 并正式合入 LLVM libc++：长度 5 的序列快最多 70%；这些例程每天被调用数万亿次^[38][Nature] | 超过 25 万元素的序列只快约 1.7%——收益集中在极短序列

| | AlphaEvolve 2025-05 · arXiv:2506.13131 | 通用进化式编码 agent：初始代码 + 自动评测函数 → Gemini 提修改 → 程序数据库 → 评测打分 → 选最适者再变异^[39][GDM] | 补上 AlphaTensor 的遗留问题：4×4 复数矩阵乘法只用 48 次标量乘法，56 年来首次超越 Strassen 的 49，且可推广到实矩阵 | 只在有便宜自动评测函数的问题上有效（见下方四条边界）

表 5.6 · 算法发现线的三个系统。「不能省的局限」一列是这张表存在的理由——这三个系统的增益都是个位数百分比量级，且都依赖一个便宜的自动评估器。






  **图 5.19** AlphaEvolve 的循环。注意顶部那一行输入——**「Evaluation code」是人写的，这就是整个闭环的人类闸门所在。**[@src-1b5c7b4997]出处：AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms, Google DeepMind, 2025


被严重低估的不是数学成果，而是**它对 Google 自己基础设施的改造**。2025 年首发清单：Borg 集群的新调度启发式**回收全球算力的 0.7%**；训练用矩阵乘 kernel 的切分策略相对专家手写**平均提速 23%**，使 **Gemini 训练时间减少 1%**；一个 GPU kernel 配置使 **FlashAttention 提速 32%**；优化 TPU 内部算术电路。2026-05-07 的第二年盘点再推进一层：**已成为下一代 TPU 设计的常规工具**（找到「反直觉的高效电路布局」）；缓存替换策略**用 2 天完成过去数月人力的工作**；Spanner 的 LSM-tree compaction 写放大 **−20%**；编译优化使软件存储占用 **−9%**；Willow 量子处理器的分子模拟电路误差比传统基线**低 10×**；刷新 **5 个经典 Ramsey 数下界**（R(3,13) 60→61，前纪录保持 11 年）[@src-5e984a89c5][Google][@src-99b1170ac1][GDM]。

严格讲，**它是一个弱形式的、有人类闸门的递归改进闭环**：AlphaEvolve 由 Gemini 驱动 → 优化 Gemini 训练用的 matmul kernel（+23%）→ Gemini 训练更快 → 更强的 Gemini 驱动更强的 AlphaEvolve；到 2026 年它**已在设计下一代 TPU 的电路布局**，开始改进**自己赖以运行的物理基质**。它相对 AlphaTensor 的真正进步**不是结果更好，是通用性的量级跃迁**：它的「动作空间」就是 Python 代码，「策略网络」就是 Gemini，「价值网络」就是**你自己写的那个 evaluate() 函数**——用到新问题的成本从「几个月的研究」降到「写一个评测函数」。**这才是 AlphaZero 范式在通用模型时代的正确形态：模型提供先验，进化提供搜索，评测函数提供 ground truth。**

整条主线二可以收束成一句：DeepMind 与其他前沿实验室最大的不同不在模型架构，而在于它把「客观可验证的评价函数」当成一切工作的前置条件——蛋白有晶体结构，数学有 Lean，算法有 benchmark，芯片有时延。这既是护城河也是天花板——但**要看清它必须一项一项地看：ARC、Codeforces、GDPval-AA 的 harness、reasoning effort 与单题成本各不相同，把三项合成一个「总能力排名」没有意义。**逐项列设置如下。ARC-AGI-2（经 ARC Prize 验证）：3.1 Deep Think 84.6%、单题成本 $13.62；同一榜的 Semi-Private 快照上，Claude Opus 5 Max 截至 2026-07-24 报 90.4%，但两者 reasoning effort 与单题成本不同，严格说不可并列^[40][ARC Prize]。Codeforces：3.1 Deep Think 报 Elo 3455，厂商报告值、非独立复现，提交次数与时限口径未公开，本节因此不与任何其他模型的 Elo 并排。GDPval-AA：Google 07-21 模型卡记 1421、Artificial Analysis 07-25 动态榜记 1423±18，落后同榜榜首约 440 Elo——这是同一张榜、同一快照内的差距，可以说。

三项各自成立，合起来只能支持一个弱得多的判断：**验证信号越清晰的任务上，Gemini 的相对位置越靠前；「什么算好」本身模糊的任务上，它没有同样的优势。**这足以解释「Gemini 强在推理、数学、代码而不是像人一样聊天」这个印象的来源，但不足以支撑任何一句「遥遥领先」或「明显落后」的整体结论。

**（a）不是自主部署**：每一步改进都要**过自动评估器 + 人类采纳**，图 5.19 里的 evaluation code 是人写的。**（b）增益是个位数百分比量级，不是超指数**：kernel +23% 对应的是 **Gemini 总训练时间 −1%**，Borg 调度回收的是全球算力的 **0.7%**。**（c）只在有便宜自动评估函数的问题上有效**——论文自己承认这是主要限制，它**排除了绝大多数「重要但难以评估」的问题**。**（d）量纲差得很远**：「训练时间 −1%」距离「智能爆炸」有若干个数量级。所以必须两句一起说：**AlphaEvolve 证明了这个闭环在工程上可以闭合，同时也精确量化了它当下的增益有多小**；只说前半句是营销，只说后半句是短视。

## 主线三 · 两条血脉的合流：2023 年 4 月之后

主线一（Transformer 血脉，Google Brain）与主线二（RL/搜索血脉，DeepMind）在 2023 年之前是**两条互不隶属的技术线，属于两个互不隶属的组织**。合流的日期可以精确到天：**2023-04-20**，Google 宣布把 DeepMind 与 Google Research 的 Brain 团队合并为 **Google DeepMind**，由 Demis Hassabis 领导，Jeff Dean 出任 Google Chief Scientist[@src-14efe0eafb][GDM][@src-4d3eafecee][Google]。

### 3.1 合并前：两个组织、两套栈、两套激励



**Google Brain**（隶属 Google Research，山景城）

技术资产：Transformer（2017）、MoE / Switch（2017–2021）、Chain-of-Thought（2022-01）、Self-Consistency（2022-03）、Pathways（2022-03）、PaLM（2022-04）。

文化：产品导向——技术要服务搜索、广告、Android 这些十亿量级的产品面。

**DeepMind**（伦敦，Alphabet 独立子公司）

技术资产：AlphaGo / AlphaZero / MuZero、AlphaFold、AlphaStar、Gopher、Chinchilla（2022-03）。

文化：论文导向——目标是发 Nature/Science、拿下有历史意义的里程碑。

这个双头结构造成过一次代价明确的事故：**Chinchilla（2022-03，DeepMind，Jack Rae 为作者之一）证明了 Gopher/PaLM 这一代全都严重欠训练，而 PaLM（2022-04，Brain）只差一个月发表——PaLM 训练时 Google 内部已经有人知道 540B 稠密是「训练不足」的配方，但来不及改**[@src-46fd66187e][Chinchilla][@src-24fe2b2a7a][PaLM]。合并后，两篇论文的作者**第一次出现在同一条汇报线上**。

「合并前是两套栈：Brain 用 TensorFlow、DeepMind 用 JAX」在中文材料里几乎成了定论，但它**把出身搞反了**：**JAX 本身诞生于 Google Brain / Google Research**，DeepMind 是 2020 年前后才把研究栈迁到 JAX 上，并围绕它建了 Haiku、Optax、RLax 一整套库[@src-a38d273f21][JAX][@src-82ce17a33a][dm-haiku]。真正的分裂**不在框架，而在汇报线与激励结构**：两个组织各自决定训什么、发不发论文、上不上产品。

### 3.2 「Gemini 是合并的产物，而不是合并的原因」

这句话需要证据，不是断言。可核查的证据链有四条：

| | 证据类型 | 可核查的事实 | 说明什么

| | 时间顺序 | 2022-12-21 NYT 报道 ChatGPT 促使 Google 管理层宣布 “code red”^[41][NYT] → 2023-04-20 合并 → 2023-12-06 Gemini 1.0 发布（首发 Ultra/Pro/Nano 三档，没有 Flash）^[42][Google] | 外部竞争压力与合并同期；1.0 在合并 8 个月后才发布。官方合并公告未作任何归因，因果解释见下方作者判断

| | 技术线分布 | 合并前 CoT 在 Brain、RL/搜索在 DeepMind、大规模训练系统在 Google Research——三条线分属三个团队 | 三条线进入同一个产品是分代发生的：Gemini 1.0（2023-12）确证的只有原生多模态（且仅限「预训练即混合模态 + 交错序列」这一轴，见 1.6.1）与 MQA，没有披露任何 test-time thinking 或 RL 搜索机制；thinking / inference-time compute 的明确公开证据要到 **2.0 Flash Thinking（2024-12）与 2.5（2025-03）**才出现。把整个家族倒推成「一开始就整合了三线」证据不足

| | 人事 | Noam Shazeer 2024-08-02 随 Character.AI 授权交易回归^[43][Reuters]，2024-08-22/23 内部 memo 任命其为 Gemini technical co-lead^[44][Reuters] | 组织修复分两步：先合并结构（2023），再回收人才（2024）

| | 署名 | 2017–2022 的关键论文几乎每篇都能找到 Shazeer / Quoc Le / Jeff Dean / Zoph 中的至少一个；2023 年之后作者栏统一变成「Gemini Team」「Gemma Team」^[1][1.0 报告] | 一次主动的去个人化：谱系从「论文序列」变成「产品序列」

表 5.7 · 「Gemini 是合并的产物」这一判断的证据链。注意每一行说明的都只是**时间顺序**；因果方向没有官方材料支持，相关讨论见下方作者判断块。






  **图 5.20** Chain-of-Thought（2022-01，Google Brain：Jason Wei、Xuezhi Wang、Denny Zhou、Quoc Le 等）。**论文出自 Brain，而把「思考」变成训练目标所需的 RL 传统在 DeepMind——两者在同一家公司里隔了一年多才走到一起**；第一个把它产品化的却是 OpenAI 的 o1（2024-09），Google 的 2.0 Flash Thinking（2024-12）晚约三个月。[@src-7d42a191f4]出处：Chain-of-Thought Prompting Elicits Reasoning in LLMs, arXiv:2201.11903, 2022


**先把上面那张证据链表格第一行里被降级的那条因果放在这里说。**ChatGPT 带来的外部竞争压力与 GDM 合并**同期发生**（code red 2022-12-21 → 合并 2023-04-20），**可能加速了整合**；但**因果关系未获官方确认**——合并公告通篇没有提竞争，Google 也从未说明这个决策是什么时候作出的。一个四个月的时间差既容得下「被 ChatGPT 逼出来的应急重组」，也容得下「早已在推进、恰好在此时宣布」。**这里只有同期性，没有因果证明。**

把三条线拧成一个产品花了约一年半：合并（2023-04）→ Gemini 1.0（2023-12）→ 2.0 Flash Thinking（2024-12）→ Gemini 2.5（2025-03）→ Deep Think 公开（2025-08）。这个加速度恰恰说明：Google 缺的从来不是技术储备，而是让储备互相看得见的组织结构；反过来它给出一个可证伪的口径——如果 Google 未来再度落后，先看组织，而不是先看模型。但这条因果链的证据强度是中，不是高：Google 从未公开过 Gemini 项目的立项日期，所以「合并 → Gemini」严格说是时间线推断而非因果证明，存在另一种无法排除的读法——Gemini 的立项本身就是推动合并的动因之一，两者互为因果。

  上面那条可证伪口径（「再落后就先看组织」）默认了一个方向：**分散是病，集中是药**。而组织学的实证文献指向的方向恰好相反——纯集中与永久分散**都不是**最优。

  Siggelkow 与 Levinthal 在 *Organization Science*（2003）用 NK 景观模拟证明：当活动之间存在广泛相互依赖时，最优结构是「**先分散探索、再重新整合**」的**暂时性**分散，且相互依赖越强，最优分散期越长[@src-374d123a85][Organization Science 14(6), 650–669；作者主页全文 PDF]。
    **而 Google 的历史记录与这个形状是吻合的**：Transformer、Chinchilla、CoT、Pathways/PaLM、AlphaGo 的搜索与 RL 传统、TPU——**六条线全部产生于分散期，且全部被合并后的 Gemini 用上了**。
    如果 2018 年就强行统一，这六条里有几条还会存在，是一个没人能回答的问题。

  **★这条反方成立的条件，比它看起来窄得多，必须写死。**Siggelkow–Levinthal 是**一般组织学的模拟研究**，它的结论是「在满足其模型假设的景观上，暂时性分散优于两个极端」。
    **它成立的条件是：Google 2018–2023 的技术景观满足该模型的假设（广泛相互依赖、可分解的活动集、探索收益递减的形状）——而这一条无人验证过。**
    更关键的是：**一个一般规律说「暂时性分散更优」，推不出「Google 的分散期恰好长了/短了多少」。**最优分散期是模型参数的函数，而那些参数在 Google 这个具体案例上**一个都没有被测量过**。

  正方收窄归因之争 **正方收窄，反方不升格为新真因。**

    **此前的版本在这里越了界**：它用这份文献推出「『切得太碎』是一次误诊，真正的问题是**整合太晚**」，并据此把可证伪口径改写成「再落后就先看整合时点，而不是集中度」。
      **这一步是把一个竞争解释直接升格成了新真因**——一般组织学模拟**不能裁定 Google 的历史反事实**。「整合太晚」和「切得太碎」是两个同样未经识别的假说，**用后者替换前者只是换了一个叙事，没有增加任何证据**。

    **能站住的只有这一句**：合并**确实**解决了算力池与协调这两件可观测的事（3.3 给了模型卡层面的证据）；**但「分散本身是不是当时的错误」，公开材料无法判定，本材料也不判定。**
      原来那条「再落后就先看组织」的口径因此要降级为**一个观察建议，而不是一条可证伪判据**——因为「组织」这个变量在本章始终没有被操作化成可测量的东西。




  合并统一的是**汇报线与算力池**；而被反复指为病根的那个东西——晋升委员会奖励「发布新东西」、不奖励维护与修复——**与汇报线正交，合并不必然触及它**。

  三位**具名**前 Google 员工在各自公开文章里独立描述了同一个机制：晋升评审看重「上线了什么新东西」，维护既有系统的工作在晋升材料里难以呈现。
    **这是署名的个人经历，可信度 C**——三个独立来源指向同一机制，足以立论；但都是个人观察、无一份内部制度文件，**不足以定案**。
    **⚠️ 中文圈流传的「谷歌把激励绑定到榜单，谁刷榜谁升职」是未经证实的传闻，方向一致但强度完全不同，不得与上述具名证言混用。**

  反方成立的条件是：**晋升激励确实是一个独立于汇报线的变量，且合并没有改动它**。前半句有具名证言支撑；**后半句没有任何证据——正面反面都没有。**

  正方收窄归因之争 **只能收窄到「已证的那一半」。**

    **此前版本在这里犯了一个更隐蔽的错误**：它写「一个可核对的判据是——如果合并修复了激励结构，AI 产品关停速度应该下降；**实际记录是没有**」，并据此断言合并没有改变激励。
      **这是把「证据缺失」当成了「缺失被证明」。**关停速度没下降有太多其它解释（产品组合本身变了、关停标准变了、统计口径变了），**而且我们从未定义过「关停」「改名」「合并」的边界，所以「实际记录是没有」这句话本身就没有可核的分母。**

    **因此本材料的最终口径是**：**合并解决了算力碎片化与汇报线分裂（有证据）；是否改变了晋升激励结构，无证据表明改变了，也无证据表明未改变（未知）。**
      第二句必须写成「未知」而不是「未改变」——这两者在读者脑中的分量差得很远，而只有前者是诚实的。



### 3.3 技术后果：收敛到 JAX / Pathways / TPU 一条栈

组织合并最容易写成空话。要落到可验证的层面，只需看一个地方：**官方模型卡的 Software 一栏**。Gemini 3 Pro 模型卡在这一栏只有一句话——训练使用 **JAX 与 ML Pathways**[@src-2149ea33ed][3 Pro 模型卡]。这背后是一次相当彻底的收敛：**训练系统来自 Brain / Google Research**——Pathways（arXiv:2203.12533，Barham、Chowdhery、Jeff Dean 等，MLSys 2022 最佳论文）的「单控制器 + 异步分派 + gang scheduling」是 Gemini 训练系统的直接祖先[@src-3b4a083c85][Pathways]；**硬件来自 Google 自研硅**——Gemini 1.0 Ultra 训练在 TPUv4 的 4096 芯片 SuperPod 上跨数据中心组织，pod 内模型并行、pod 间数据并行[@src-ab8a9ba753][1.0 报告]，这条线在第 7 章展开；**算法品味来自 DeepMind**——「先验 + 测试时搜索 + 外部验证器」在 Gemini 上的形式就是 thinking / Deep Think 与 RLVR 后训练。

三条合起来读，得到一个比「两个团队变成一个」更具体的结论：**Gemini 是「DeepMind 的算法品味 × Brain/Research 的训练系统 × Google 的自研硅」三者的乘积**；前两样都能被竞争对手挖人复制，**第三样不行**。这次收敛的代价是**公开证据链的断裂**——PaLM（2022）还公布 540B 参数量与 46.2% MFU，PaLM 2（2023）开始不公布参数，Gemini（2023 至今）连架构类别之外的细节都不给。**目前唯一还在同步释放架构细节的通道是开源的 Gemma 线，而它随时可以被关闭。**

### 3.4 文化的两个极点：IMO 金牌与十亿用户的默认模型

合并没有让两种文化中的一种消灭另一种。最好的证据是**这两件事发生在同一家公司、同一段时间里**：



**DeepMind 的极点：打比赛、发 Nature**

2024-07 IMO 银牌 → 2025-07 IMO 金牌标准 → 2025-09 ICPC 世界总决赛金牌级 → 2025-11 AlphaProof 登上 Nature → 2026-06 AlphaProof Nexus 解决 9 个 Erdős 未解问题。**这条线上没有一个产品，全部是里程碑。**




**Brain 的极点：上产品、服务十亿用户**

2026-05-19 GA 的 **Gemini 3.5 Flash 上线即成为 Gemini App 与 Search AI Mode 的全球默认模型**[@src-64d3b9098e][Google]；官方口径下 Gemini App 月活约 9.5 亿、Search AI Mode 月活超 10 亿。**这条线上没有一个里程碑，全部是流量。**





它们不是并存，而是**互为经济基础**。IMO 金牌那一版模型不可能服务十亿用户——它是「非公众 app 模型」，算力与延迟都在消费级产品的可行域之外；反过来 Flash 线也永远拿不到金牌，它被要求在几百毫秒内出答案。**Google 的解法是把两者做成同一条技术栈上的两个工作点**：thinking 这一层既可拉到 4.5 小时（研究配置），也可压进 Flash 的延迟预算（3.x 上是 `thinking_level` 离散档位）。（要说清楚这里的证据边界：**「两个工作点共用同一个 MoE 骨干」是本节的解释框架，不是已知事实**——Deep Think 与 Flash 是否共享 checkpoint 或同一 backbone，官方从未披露；**公开可确认的只有「同一套 JAX / Pathways / TPU 训练栈」这一层**，见 3.3。）里程碑负责证明能力上限、吸引人才与建立叙事，Flash 负责把成本摊薄到广告与订阅能覆盖的水平。**所以「旗舰是给榜单看的，Flash 是给财报看的」不是讽刺，而是这次合并留下的组织结构在产品线上的直接投影。**

### 3.5 合并的代价：不能只写融合，不写摩擦


**① 人才是双向流动的，最近一次是流出。**Noam Shazeer 2024-08 回归并任 Gemini technical co-lead，**2026-06-17/18 宣布离开 Google 加入 OpenAI，Google 已向 Reuters 确认**[@src-5fbf59eed8][Reuters]——**不到两年再度出走**。两条必须严格标注的边界：**截至 2026-07-25 缺少 OpenAI 官方 bio，其新职称存疑，不得自行补一个确定 title；也不得再把他写成 Google/Gemini co-lead。**更早的一批（Switch 两位一作、CoT 一作 Jason Wei、Barret Zoph 等）离开在 2022 年前后，**早于合并**，不能归因于合并；能说的只是这两件事同属一个「发表激励与产品激励错配」的时期。

**② 发布节奏出现了可观测的割裂。**截至 2026-07-25，最新旗舰是 Gemini 3.1 Pro Preview（2026-02-19 preview，至今仍未 GA），而 Flash 线已跑到 Gemini 3.6 Flash（2026-07-21 GA），上一版 3.5 Flash 于 2026-05-19 GA；3.5 Pro 仍处于 partner testing、从未公开发布；官方另披露 Gemini 4 的最大规模预训练已启动，但没有发布任何 Gemini 4 产品^[45][Google 2026-07-21]。注意这个数字陷阱：3.6 > 3.1 不代表 Flash 比 Pro 强——两条产品线各自计数、彼此脱节，把「Gemini 3.6 是最新旗舰」写进材料是明确的事实错误；这个命名错位本身就是节奏割裂的表征。

**③ 透明度单向下降。**Gemini 3.x 没有技术报告，只有模型卡；2.5（arXiv:2507.06261）是最后一份公开技术报告。合并统一了组织，也统一了口径——而统一后的口径是「少说」。

最后一条自我约束：本节关于组织与文化的判断（3.2 的因果方向、3.3 的「谁的栈赢了」、3.4 的两个极点互为经济基础）全部是作者判断，不是官方披露，它们建立在可核查的时间顺序、公开署名、官方模型卡措辞三类间接证据上，读者应据此打折。

## 主线四 · 长上下文与记忆：一条没有汇流的支线

前三条主线最后都汇进了 Gemini 主干。第四条不一样：
  它**一半汇流、一半没有**，而没有汇流的那一半恰恰是 Google 自己产出密度最高的部分。
  这一节要把这条分岔讲清楚，因为它是本项目最容易被写错的地方——
  本地语料里就存在把 Titans 说成「Gemini 用了」的错误陈述。



### 4.1 先说汇流的那一半：位置编码这一段其实是外部工作

长上下文能力的第一块基石是**相对位置编码**。这里有一个容易被忽略的事实：
  Gemma 全系明确使用的 **RoPE**（旋转位置编码）
  出自苏剑林等人 2021 年 4 月的 RoFormer[@src-83213326f5][RoPE]，
  作者在追一科技，**不是 Google**。同样，让长度外推真正可用的
  位置插值、NTK-aware 缩放、YaRN[@src-021ecc8cb3][YaRN]
  也都来自 Google 之外。**Google 在这一段是使用者而不是发明者。**

RoPE 的核心性质是：把位置以旋转矩阵的形式注入 query 与 key 之后，
  内积 \(\langle R_m q, R_n k\rangle\) 只依赖相对位置 \(m-n\)。
  外推为什么会崩，则要看每一对维度的旋转频率——**最低频的那些维度在训练长度内根本没有转完一圈**，
  于是推理时遇到更大的相对距离，相位就走出了训练时见过的弧段。
  Gemma 3 采取的补救是最简单的一种：**只把全局注意力层的 RoPE base 从 10k 拉到 1M**，
  局部滑窗层保持不变[@src-cf5ce22f4d][Gemma 3]。
  完整推导与失效条件见第 6 章 B2。


  **为什么 Google 在位置编码这一段是跟随者？**我的判断是：
    因为这一段的创新**不需要算力**。RoPE、位置插值、YaRN 都是可以在小模型上验证、
    由个人或小团队完成的工作，而 Google 的组织优势在于「需要一万颗芯片才能验证的想法」。
    这反过来解释了 Google 在另外三条线上的强势——GShard、Pathways、PaLM、Chinchilla
    全都是**只有拿得到大规模算力的人才能做的实验**。
    **一家公司的研究产出结构，会精确地映射它的资源结构。**



### 4.2 Gemini 1.5 的 1M / 10M：官方说了什么，没说什么

2024 年 2 月的 Gemini 1.5 是这条线的高光。官方技术报告的原话是：模型
  “incorporates a series of significant architecture changes that enable long-context
  understanding of inputs up to **10 million tokens** without degrading
  performance”[@src-79a8d5beef][Gemini 1.5]。
  生产环境给到 **1M**（后扩到 2M），研究评测做到 **10M**，
  大海捞针（NIAH）召回率 **>99%**；官方 blog 明确说改进横跨
  “architecture, data, optimization and systems” 四个层面。




    **图 5.21** 文本 NIAH 热力图。横轴是上下文长度、纵轴是「针」插入的深度百分比，
    绿色代表成功检索。**正确的读法不是「一片绿」，而是「对照组根本画不到这么宽」**——
    右侧 GPT-4 Turbo 的区域到 128k 就结束了。
    [@src-79a8d5beef]出处：Gemini 1.5 技术报告, 2024



但同一份报告里还有另一张图，它说的话要克制得多：**多针检索**。
  单针召回接近满分，并不意味着能同时找准若干根针——而后者才是「把整个代码库扔进去然后信任输出」
  这个产品叙事真正需要的能力。




    **图 5.22** 多针（multiple needles）检索召回率。**★本轮开图核对后必须先说清这张图实际测的是什么，否则会被误用**：
    它是 Gemini 1.5 报告的**图 11**，任务是「单轮内检索 **100 根**不同的针」，对比 Gemini 1.5 Pro 与 GPT-4 Turbo，横轴 1K→1M，纵轴 recall。
    **论文原文的结论是「towards 1M tokens 只有很小的召回下降」，正文并给出 Gemini 1.5 Pro「128K 以内约 70% recall、到 1M 仍 >60%」。**
    **也就是说这张图并不显示崩塌，它显示的是缓慢下滑。**
    （本地这张图是**整页扫描**，含图 11 与其下方正文段落，不是单独的图表裁切。）
    它与下面要说的 MRCR v2 **不是同一个任务、不是同一条曲线的延续**——
    MRCR v2 **定义不同、难度更高**（题目构造与评分方式都和多针检索不一样，
    不是这条曲线的延续），Gemini 3.1 Pro 在它的 1M 档（8 针 pointwise）上只剩 **26.3%**。
    **读这个数不需要拿它和任何别的数相减**：Google 自己的 `eval_hub` 说明给出 8 针任务的**噪声地板约 15%**
    （模型在相关回答里随机挑一个就能拿到的分），**所以 26.3% 对应的真实信号只有约 11 个百分点**[@src-6aa389bcef][eval_hub MRCR v2 README]。
    **但这是工程差距，不是能力上限**——同口径下 Flash 线两个月内从 26.6% 涨到 54.0%，曲线还在动。
    [@src-79a8d5beef]出处：Gemini 1.5 技术报告, 2024



官方对长上下文只留下 “significant architecture changes” 这一句，一个机制名都没有点。
  因此外界的所有实现猜测都必须**整体降级**：下表把五条流传最广的推测摆开，
  **可信度一律只给「低」或「不可判定」**——不是因为它们都荒谬，
  而是因为**没有任何一条能被官方材料证实或证伪**，「猜得合理」不是一档可信度。
  Gemma 的公开方案在这里**只能当解释框架用**：它说明的是「如果要做，可以怎么做」，
  不是「Gemini 就是这么做的」。

| | 推测 | 依据 | 可信度 | 本材料的处理

| | 用了 Ring Attention 或其等价物 | TPU 3D torus 天然适合环形传递；10M 的 K/V 必须分布式存放；报告强调「无质量下降」排除了有损近似。三条都是可行性论证，不是使用证据 | 低 | 写成外部推测，不作为事实

| | 用了局部-全局混合（类似 Gemma 3 的 5:1） | Gemma 3 报告明确此设计；但 Gemma 与 Gemini 官方只声明「共享技术」，从未说架构相同 | 不可判定 | 只作解释框架，不作为 Gemini 的实现候选

| | 预训练阶段就用了长上下文数据 | Gemma 3 的做法是在预训练期改 RoPE base；Gemini 侧无任何对应披露 | 不可判定 | 写成外部推测

| | 用了 Infini-attention | 无任何证据，且时间线矛盾——Infini-attention 发表晚于 Gemini 1.5 | 低 | 应予否定

| | 用了 Titans / Atlas | 无任何证据，且作者属不同组织（Google Research） | 低 | 应予否定

    表 5.8 · Gemini 长上下文实现的五条外部推测与证据强度。
      **五条一律为「低 / 不可判定」**：前三条是「无法证实」，后两条是「已可否定」，两者性质不同但都不构成证据。
      「可信度」是作者对证据强度的主观评级，不是官方口径。数据冻结于 2026-07-25。





  **为什么 Gemini 3 的上下文从 10M「退回」到 1M？**
    我的判断是：这不是能力退化，是**经济学决策**。三个观察支持它——
    （a）10M 从来只出现在**研究评测**里，从未上过生产；
    （b）context caching 的定价结构（缓存命中只付约十分之一）说明 Google 非常清楚
    长上下文的真实成本在**重复的 prefill**，而不是模型能不能处理；
    （c）Gemini 3 引入 `media_resolution` 与 `thinking_level`，
    都是**让用户为自己消耗的算力买单**的机制。
    更深一层：**长上下文和 test-time compute 抢的是同一块算力预算。**
    当 Deep Think 能用 ARC-AGI-2 的分数证明「多想一会儿」边际收益更高时，
    把算力从「塞更多上下文」挪到「想更久」就是理性选择。
    **Gemini 的上下文曲线（32K → 1M → 10M 研究 → 1M 生产）不是一条技术曲线，是一条成本曲线。**



### 4.3 汇流的另一半：用架构换显存

长上下文真正进入生产，靠的不是新的注意力机制，而是一笔**显存账**。
  解码时每一层每一个 token 都要保存 K 与 V，这份 KV cache 随上下文**线性增长**，
  而且必须留在每一步解码的关键路径上。Gemma 3 给出的公开答案是
  **五层局部滑窗配一层全局注意力，窗口取 1024**：
  每六层里有五层、也就是**六分之五**的层根本不需要保存全长的 K/V，KV cache 在总显存里的占比
  从约 60% 压到 15% 以下[@src-cf5ce22f4d][Gemma 3]。
  **要强调的是：这是 Gemma 的账，不是 Gemini 的账。**Gemini 侧没有任何对应披露，
  下面这张曲线证明的是**「这条路走得通」**，不是**「Gemini 走了这条路」**。




    **图 5.23** KV cache 显存随上下文长度的增长：交错架构与全局注意力基线的对照。
    这张图是**「用架构而不是用显存解决长上下文」**的最直接证据。
    本章第 6 章交互图 6-A 可以自己拨参数复算这条曲线。
    [@src-cf5ce22f4d]出处：Gemma 3 技术报告, 2025



长上下文的收益也不止于检索。**多样本上下文学习**（many-shot ICL）
  表明：把示例数从几十提到成百上千，多类任务仍在继续变好[@src-f54c8f5f3d][Many-Shot ICL]。
  这是长上下文**最被低估的用途**——它把「微调」这件事部分地变成了「把训练集贴进 prompt」。




    **图 5.24** 多样本上下文学习的增益总览：示例数从数十增加到上千，多类任务持续受益。
    [@src-f54c8f5f3d]出处：Many-Shot In-Context Learning, 2024



### 4.4 没有汇流的那一半：Google Research 的记忆线

这是全章最需要说清楚的一段。从 2024 年起，**Google Research**
  在「线性注意力 / 神经记忆」这个方向上的产出密度是全行业最高的：
  Infini-attention（2024-04）[@src-21b8c0494c][Infini]、
  Griffin / Hawk 与 RecurrentGemma（2024）[@src-6cf23d115a][Griffin]、
  **Titans**（2025-01）[@src-d68f2d3cf9][Titans]、
  Atlas / MIRAS（2025-05）[@src-e83391bd41][Atlas]、
  Nested Learning / HOPE（NeurIPS 2025）。


  **这些是 Google Research 的论文，不是 Google DeepMind 的 Gemini 生产线。**
    Gemini 主线**没有任何公开证据**表明使用了其中任何一个。
    准确的表述是：「Google Research 在同期探索的记忆机制方向，
    与 Gemini 长上下文的工程实现**没有公开的直接关联**」。
    本地语料里存在把它们写成「Gemini 用了」的陈述，那是错的；
    Infini-attention 这一条甚至**时间线就矛盾**——它发表于 Gemini 1.5 之后。






    **图 5.25** Titans 的 MAL（Memory as Layer）变体。Titans 有 MAC / MAG / MAL 三种把
    「按惊奇度在测试时更新的神经长期记忆」接进主干的方式。
    **这是 Google Research 的研究方向，与 Gemini 的实现没有公开关联**；
    更新规则的推导见第 6 章 B15。
    [@src-d68f2d3cf9]出处：Titans: Learning to Memorize at Test Time, 2025





    两条线服务的是**不同的约束**。线性 / 循环记忆的卖点是推理时的**常数内存**，
      代价是**固定容量的状态**——一个 \(d\times d\) 的矩阵里存不下 100 万 token 的细节。
      （措辞要与第 6 章对齐：B16 的容量约束**只对「线性 associative map」这一类读出方式成立**，
      **不是对所有循环 / 状态空间模型的普遍硬界**；本章此前写的「硬界」过强，已改。）
      而 Google 在长上下文上卖的恰恰是**精确召回**（NIAH、MRCR），
      这正是线性注意力最弱的一环。
      **Google Research 在研究「怎样便宜地记住大意」，Gemini 产品线在卖「昂贵地记住细节」——
      两者优化的不是同一个东西。**




    2026 年出现了一个反方向的信号：**TPU 8i 给了 384 MB 片上 SRAM**，是 Ironwood 的 3 倍，
      官方说法是为了把 KV cache 尽量留在硅上。这等于在说「我们打算继续用精确注意力」——
      **硬件路线图是最诚实的架构声明**。
      需要同时说明两点边界：其一，8i **已官宣但截至 2026-07-25 尚未 GA**；
      其二，384 MB 按常见配置只装得下几千个 token 的 KV，
      更准确的说法是「注意力 kernel 的工作集缓冲」而不是「整个 KV cache 上硅」。
      即便如此，结论方向不变：**固定状态的模型根本不需要为这条通路花这块面积。**






  截至 2026 年 7 月，Google Research 记忆线公开的最新论文仍然是 2025 年 12 月的
    Nested Learning；同期把长上下文推进到 100M 量级的工作
    （ARMT、MSA、Parallel Causal Associative Fields 等）**没有一篇是 Google 的**。
    两种解释都成立：**要么这条线转入了内部化，要么它在 Gemini 主线上没有拿到优先级。**
    本材料无法在两者之间裁定——但无论哪一种，
    「Google 在记忆架构上领先」这个说法在 2026 年都需要重新举证。



## 结语 · 这条谱系的三道断裂

把四条主线并排读完，真正值得记住的不是「Google 做过多少东西」，而是三道断裂。


  2017–2022 年，这条谱系的每一步都有 arXiv 编号、有可辨识的作者、有可复核的消融实验。
    **2023 年之后，它变成了一串产品发布。**
    PaLM 2 起不再公布参数量；Gemini 1.0 起作者栏统一为「Gemini Team」；
    Gemini 3.x 起连技术报告都没有，只剩模型卡——
    [@src-75cbdfdb08]Gemini 2.5（arXiv:2507.06261）是最后一份公开技术报告。
    **今天还能看清架构取舍的唯一窗口是 Gemma 开源线**，
    而 Gemma 不只是一个开源模型，它是 Google 保留的、唯一一条通往 Gemini 架构的公开证据通道。
    **这个通道随时可以被关闭。**




  Transformer 的八位作者、Switch 的两位共同一作、CoT 的一作、
    以及 Transformer、MQA、Sparse MoE 三项技术的作者 Noam Shazeer——
    **他们中的大多数今天都不在 Google**（详见本章 1.8 节）。
    Noam **2021 年离开 Google 并创办 Character.AI**——这一层可确认；
    **「因产品化受阻」这个原因只有二手转述**转述，
    本章不把它当作因果论证的支点。他 2024 年 8 月回归任 Gemini co-lead，
    **2026 年 6 月 17/18 日再次离开，加入 OpenAI**（本人发帖，Google 向 Reuters 确认；
    新职称至今没有官方证据，不应写死）。
    这不是八卦，它是一条可观测的结构性事实：
    **Google 一再在同一个位置上重复同一次损失——它能产出发明，但留不住把发明变成产品的那种不耐烦。**




  本章给出的每一条「A 长出了 B」的连线，性质都是**技术传统的延续**，
    而不是「这段代码进了那个模型」。
    谱系图能解释**为什么 Gemini 长成现在这样是合理的**，
    但它**不能证明 Google 就是这么做的**——
    因为自 2023 年起，验证所需的那一层信息已经不再公开。
    这是本章最应该被记住的方法论边界：
    **在一条闭源的技术线上，谱系学能做的极限是「排除不可能」，不是「确认发生过」。**




  本章反复使用的那套组织叙事——「摊得太薄、必须收拢」——**有一个令人不安的性质：它似乎对任何处境的公司都讲得通**。
    赢的时候它解释为什么赢（收拢奏效了），输的时候它解释为什么输（收拢得太晚）。**一个总是讲得通的解释，解释力可能来自它的空洞而不是它的正确。**

  这个疑虑有一个真实的观察作为起点：**2025 年 12 月 OpenAI 内部发出「code red」时，中英文评论里出现的诊断与三年前施于 Google 的那一套高度相似**——精力分散在太多产品线上、核心模型投入被稀释、需要重新收拢。
    **两家公司当时的处境几乎相反（一家在追赶、一家在守擂），却收到了同一份处方。**

    **⚠️ 证据强度必须写死：这一条主要来自二手转述的匿名评论与社区讨论，可信度 D。**本材料**没有**取得一份可署名、可回溯的对照文本，
      因此它**只能作为「同一套说辞可以套用于不同处境」的一个提示**，**不能当事实引用**，也不能用来对 OpenAI 的组织状况做任何判断。

  反方（「钟摆论不可证伪」）成立的条件是：**该理论对任何观测结果都能给出事后解释，且无法预先指定哪种观测会与它冲突。**
    这是一个**关于理论结构的命题**，只能靠**检查理论本身有没有给出可测量的变量与阈值**来判定。

  正方收窄方法论之争 **疑虑成立，但上面那条证据支持不了它——这两句话必须分开说。**

    **① 先说证据这一侧。**此前的版本写的是「这就是钟摆论**不可证伪的证据**」。**这一步不成立**：一条匿名的二手评论只能说明**有人这么说过**，说明不了**这个理论在结构上无法被证伪**。
      「很多人用同一个词描述两件事」与「这个词没有可证伪的内容」之间，隔着一整个概念分析。**用一条 D 级材料去做一个方法论层面的裁定，是本轮打回这条补丁的原因。**

    **② 再说疑虑这一侧——它其实靠本章自己就能成立，不需要外部证据。**回头看 3.2：本章给出的可证伪口径是「再落后就先看组织」。
      **请问「组织」怎么测？多碎算碎？多久算太晚？**本章一个操作性定义都没给。**一条没有测量方法的判据，无论措辞多像预测，都不是预测。**
      这个自我审查的结论比那条匿名评论硬得多，而且它指向的是本章可以自己修的东西。

    **③ 因此本章的处置是**：把 3.2 那条口径**从「可证伪判据」降级为「观察建议」**（已在 3.2 的反方块里执行），
      并在下面的脆弱性登记表里把它单列一行。**本材料不主张「组织解释是错的」，只主张「本材料给出的组织解释目前不可检验」——这两句话的差别，正是本轮补丁轮想守住的那条线。**



## 已知不确定性登记

本章刻意保留了若干 待核 标记。
  按项目规范，回溯不到一手来源的东西**宁可标注也不删掉、更不猜一个**，
  但这些标记需要集中登记，方便后续核验，也方便读者知道哪些结论的地基是软的。

| | 项目 | 目前能确证到哪一步 | 缺什么 | 对本章结论的影响

| | Noam Shazeer 在 OpenAI 的职称 | 离职与去向已确证：本人 2026-06-17/18 发帖，Google 向 Reuters 确认 | OpenAI 官方 bio 或正式任命页 | 无影响。本章只用「离开 Google、加入 OpenAI」这一层，不写任何 title

| | Jack Rae 在 Meta 的内部职级 | 公司归属已终裁：他是 Gopher 与 Chinchilla 的作者之一（时任 DeepMind）， 2025-06 加入 Meta Superintelligence 组织 | Meta 内部的精确职级 / title，没有官方页面可查 | 无影响。本章写他的历史贡献一律用「时任 DeepMind」，写当前只写公司、不写职级

| | TPU 第八代的制程与代工 | 算力、带宽、拓扑、SRAM 等规格官方已披露 | 制程只有媒体报道，且不同来源分别写 2nm 与 3nm，官方从未确认 | 无影响。本章与第 6 章的 roofline 论证只用官方披露的算力与带宽两个数

| | Character.AI 交易的金额 | 非独家许可 + 创始人回归已由 Reuters 确认 | 金额没有一手确认，只见于第三方报道汇总 | 本章不写金额

| | Noam 2021 年离职的原因 | 离职时间与创办 Character.AI 可确证 | 「因 Meena/LaMDA 未获发布而离开」只有转述，无一手来源 | 正文已标 转述，不作为因果论证的支点

| | Transformer 八位作者的当前去向 | 「无一人仍在 Google」是业内广泛引用的说法 | 未逐人回溯一手来源 | 本章的论证只依赖 Shazeer、Fedus、Zoph、Jason Wei 四人这几条可查记录

    表 5.9 · 本章的六项已知不确定性。数据冻结于 2026-07-25。
      「对本章结论的影响」一列说明的是：即使该项最终被推翻，本章的论证是否需要改写。




## 单点数据脆弱性登记表

上一张表登记的是**「我们不知道的事」**。这一张登记的是另一类东西：**本章那些已经写成结论、但只靠一个数据点、一次口径选择、一份第三方研究、或一个会随时间漂移的快照站着的判断。**

**脆弱不等于错误。**登记它们的理由很实际：**下一次数据更新时，得有人知道该回头改哪里。**
  最后一列刻意写成「**什么变化会让它需要重估**」，而不是「它可能是错的」——前者是一个可执行的监测项，后者只是一句免责声明。

| | # | 本章的结论 | 它实际建立在什么之上 | 脆在哪 | 什么变化会让它需要重估

| | L1 | 「Google 手里有对话系统而没有发」及其规模（8 万内部用户）（§1.7.1、§1.7.2 表 5.11 假说 ①） | 一场炉边谈话的一段口述——Jeff Dean，NeurIPS 2025，官方频道录音^[18][来源]。没有任何内部文档、同期记录或第二个建模侧信源佐证 | 三层叠加：(a) 单一信源；(b) 事后约四到五年的回忆，「约 8 万」是口述的概数；(c) 该视频的字幕 speaker split 未经人工听音复核，本章只用上下文可明确归属的句子 | ① 出现第二位建模侧（非基础设施侧）前员工的具名证言；② 该内部系统的任何同期 benchmark 数据或与 text-davinci-002/003 的对照被公开——这一条一旦发生，「有一个东西」与「有一个够格的东西」就第一次变得可分辨；③ 有人完成逐句听音核对并推翻某句的归属

| | L2 | 表 5.11 三个竞争解释的全部内容（§1.7.2） | 三条最强证据全部来自 Google 现任高管的自述（Jeff Dean ×2、Pichai ×1） | ★这是本章最深的一处结构性脆弱，而且它不是靠加一条证据就能修的：用当事人的自我解释去解释当事人的失败，无论证言多硬都不是独立验证。 本章已把这一层写成显式的元批判，但元批判不能替代独立证据 | 只有一类变化能真正改变它：出现当事人没有叙述选择权的证据——同期内部文档、第三方同期对照评测、或司法/监管程序中被披露的记录。在那之前，这三条只能并列，不能排序（原因见表下审计）

| | L3 | 「按下发布键后仍追了约 32 个月」（§1.7.2 反方块） | 起点 2023-03-21（美英 waitlist 有限公测）是硬日期；终点 2025-11-18（Gemini 3）是一次判断，不是一个可测事件 | ★与 ARC-AGI-3 的 7.78%、GDPval-AA 的 440 Elo 是同一种失效模式：把一个会漂移的量当成固定终点线。 「在 benchmark 上反超」既没有指定榜单、也没有指定快照日与评测设置，换一张榜就能得出 24 个月或 40 个月。 本章保留这个数，是因为它的量级（两年半以上）足以支撑论点；但它不是一个精确值，不得被下游当精确值引用 | ① 任何人指定一张固定榜单 + 固定快照规则重算——届时应当直接换成那个可复核的数；② 若出现「反超从未发生」或「更早已发生」的可核证据，反方块的整段论证要重写

| | L4 | MRCR 相关的全部表述：1M 档 26.3%、噪声地板 15%、真实信号约 11pp、Flash 两个月 26.6%→54.0%（§4.2 图 5.22 图注、全景图节点） | 三份模型卡快照 + 一份开源仓库 README（eval_hub）。全部是 2026-07-25 冻结日的状态 | (a) 模型卡会被静默更新，分数与针数标注都可能变；(b) 15% 这个噪声地板是 README 给的估算式（约 (1/\text{针数})），不是实测；(c) 「两个月翻倍」依赖 3.5 Flash 与 3.6 Flash 两张卡的针数标注一致——3.6 Flash 已标 8-needle，3.5 Flash 的标注若不同则该对比作废 | ① 任一模型卡修订该行；② eval_hub 改变噪声率的定义或估算式；③ 3.1 Pro 之后的 Pro 线首次在 1M 档移动——届时「Pro 线两代未动」与由它推出的「优先级而非能力边界」都要重写；④ 出现 128K 的 pointwise 值（这一条会让本章一直说「算不出来」的那个落差第一次变得可算）

| | L5 | 轴 5 的 12 / 15 个月两档交付差（§1.6.2 表 5.10） | 「2024-12 trusted testers」这一档没有当时的公告，只有 2025-03-12 博客里的一句回述（“In December we first introduced…”） | 12 个月那一档是事后追认的月份，没有日；15 个月那一档有确切日期（2025-03-12），因此两档的证据强度并不相等，不应并列成一个「12–15 个月」的区间 | ① 找到 2024-12 的原始公告或 trusted tester 通知，把月份坐实到日；② 若该回述被更正（例如实为 11 月或次年 1 月），表 5.10 第二行要改

| | L6 | 「encoder-free 只是 Gemma 的一个数据点」以及由此得出的「轴 4 未知」（§1.6.1） | Gemma 4 五个尺寸里的一个（12B，2026-06-03 发布），加上 Google 没有公布 encoder-free 与带编码器版本的对照实验 | 结论的一半建立在沉默上（对照数据未公布）。沉默是弱证据：它同样相容于「实验做了但结论平淡」「实验没做」「实验做了但属于未披露范围」三种情况，本章无法区分 | ① Google 发布该对照实验的任何数据；② 后续 Gemma 把 encoder-free 推广到全部尺寸（或反过来在 12B 上撤回）；③ Gemini 侧首次披露编码器结构——那会让整节从「跨线取证」变成「直接取证」

| | L7 | 「合并解决了算力碎片化与汇报线分裂」（§3.2、§3.3） | 官方模型卡 Software 一栏的一句话（JAX + ML Pathways）+ 公开署名变化 + 时间顺序 | 这三类都是间接证据。模型卡只证明「现在用同一套栈」，不证明「合并导致了它」——Google 从未公布 Gemini 的立项日期，所以因果方向始终无法固定（§3.2 已写明互为因果的读法无法排除） | ① Google 披露 Gemini 立项时间或合并决策时间线；② 出现合并前后算力分配的任何量化对比

| | L8 | 「合并未必动得到晋升激励」（§3.2 第二个反方块） | 三位具名前员工各自的公开文章，可信度 C；且「合并是否改动了激励」正反两侧都没有证据 | 本章已把它收窄成「未知」而不是「未改变」。这一格的脆弱之处在于它极易在转述中退回强版本——「没有证据表明改变了」被读成「证据表明没改变」，只差三个字 | ① 出现任何一份关于晋升评审标准的内部制度材料；② 有人给出「AI 产品关停」的可操作定义并完成前后对照（本章明确没有做这件事，因此也不引用任何关停速度的结论）

| | L9 | Siggelkow–Levinthal 那条「暂时性分散更优」用在 Google 身上（§3.2 第一个反方块） | 一篇 2003 年的一般组织学 NK 景观模拟研究 | 它的适用需要 Google 2018–2023 的技术景观满足该模型的假设，而这从未被验证；而且它给的是「存在一个最优分散期」，推不出 Google 的分散期长了还是短了。本章因此拒绝用它裁定「整合太晚」 | ① 出现针对大型 AI 实验室的组织结构实证研究（而非一般模拟）；② 出现 Google 内部关于合并时点讨论的一手材料

| | L10 | 版本号口径的全部表述（§1.6.1 末尾、§3.5） | 2026-07-25 当日的发布状态快照：3.1 Pro 仍 Preview、3.6 Flash 已 GA、3.5 Pro 仍 partner testing、Gemini 4 仅披露开始预训练 | 本章有效期最短的一格。这四条里任何一条随时可能在交付后的某一周失效，而它们又被 §3.5「发布节奏割裂」整段论证依赖 | ① 3.1 Pro GA；② 3.5 Pro 或 Gemini 4 公开发布；③ Google 改变 Pro / Flash 的命名规则——第三条一旦发生，「命名错位本身就是节奏割裂的表征」这个论点会失去它唯一的证据

    表 5.12 · 本章的单点数据脆弱性登记表（**10 条**）。数据冻结于 **2026-07-25**。

      **★本章最深的一处承重点是 L2**：§1.7 与 §1.7.2 整节——三个竞争解释、元批判、以及由它们支撑的「Google 为什么慢了」全部讨论——**压在同一类证据（当事人自述）上**。
      它们看起来是三条独立论证，**在证据类型上实际是一条**。这与第 7 章 V1/V2 共用同一份第三方建模是同型的风险，只是这里共用的不是一个数字，而是一个**视角**。





  SPEC 要求逐条审计本章的可证伪阈值**有没有锚定在会漂移的快照上**。已知的同型失效有两个：**ARC-AGI-3 的 7.78%**（动态 benchmark，四个月后变成 30.16%）与 **GDPval-AA 的 440 Elo**（动态榜，检验时必须重测当时的榜首，不能拿 1861 当固定终点线）。本章逐条核下来，结果分三类：

  **① 锚定在事件上（不漂移，可以留）**：L5 的「找到 2024-12 原始公告」、L6 的「Google 发布对照实验」、L7 的「披露立项时间」、L4 的「出现 128K pointwise 值」。
    事件要么发生要么没发生，**不会因为时间推移而改变含义**。这是本章质量最好的一类判据。

  **② 锚定在会漂移的快照上（必须在检验时重取，不得沿用冻结日的数）**：**L3 的「32 个月」**与 **L4 的三个 MRCR 数**。
    **L3 与 ARC-AGI-3 / GDPval-AA 是完全同型的失效模式**——它把「在 benchmark 上反超」这个**随榜单与快照变化**的判断当成了一个固定终点。
    **改法**：检验时必须先指定榜单、快照日与评测设置，再重算区间；**本章保留 32 这个数只作量级，不作精确值**。
    L4 的改法是检验时重取当日模型卡，并**核对针数标注是否仍然一致**。

  **③ ★第三类，比前两类都糟：根本没有测量方法的判据。**
    §3.2 原先给出的「**如果 Google 未来再度落后，先看组织，而不是先看模型**」就属于这一类——
    「组织」没有操作性定义，「多碎算碎」「多久算太晚」一个阈值都没有。
    **一条没有测量方法的判据，无论措辞多像预测，都不是预测。**
    本轮的处置是把它**从「可证伪判据」降级为「观察建议」**（已在 §3.2 的反方块与结语的反方块里执行）。
    这一类之所以最危险，是因为它**看起来**比第二类更稳健——它不会因为数据更新而失效，**因为它压根没有可以失效的地方**。




  主要一手来源
  正文中每条断言都就近给出了可点击的原始链接；下表只汇总本章反复引用的一手材料。
    可信度分级：A 官方一手 / B 权威媒体 /
    C 中文转述 / D 传闻。
  ★混装等级的显示规则：一条脚注若同时装了多个等级的来源，本章同时渲染全部等级的圆点，并按最低的一级来读，
    条目内写明「引用其中哪一部分时以低等级计」。
    这条规则是为了堵住一个真实存在的漏洞：只画最高那一级的圆点，等于在视觉层绕过了「可信度只能降不能升」这条纪律——
    读者扫一眼圆点就走，不会读完整条。本章需要这样处理的有 2 条（fn5-noam、fn5-tpu8）。


































    ← 总览
    上一章：Gemini 独特认知与路线差异
    下一章：核心公式推导



    Gemini 认知体系全景 · 材料时间边界 2021.01 – 2026.07（含 2016–2020 前史） · 数据冻结于 2026-07-25



    本章中，正文为有出处的事实陈述；**紫色「本质洞察 / 本质追问」**与
    **橙色「批判 / 局限」**为作者判断。引语标「转述」者非原话。
    凡官方未披露的 Gemini 内部参数一律标注为「未公开」，外部推测均写明依据与可信度。