世界观 · PolySight

Module 02 · Worldview

Anthropic 的世界观：一个可检验的信念系统

这一章不复述结论，而是先立判据：一条主张要算得上组织级认知，必须由至少两名内部人物在互不相干的场合独立说过、有研究或产品证据、并且能写出被证伪的条件。然后逐条检验七条主张，每一条旁边并排放上它最强的反方。

判据信念金字塔Race to the Top生长而非制造可预测与意外前沿实证安全正交防线对齐即产品外化控制术语工程风险与测量内部分歧两条反叙事我的看法

把这家公司的信念抽成一张清单并不难，难的是判断这张清单属于谁。「Anthropic 认为……」这个句式在中文世界几乎总是「Dario Amodei 说过……」的换写；而一旦把七位联合创始人、宪法主笔、政策负责人与首席科学官的公开表述并排摆出来，会发现真正跨人物成立的共识只有一小部分，且它们大多不是答案，而是方法——认真对待 scaling、把未知变成测量问题、把价值冲突显式化、同时不信任单一方法和单一公司。至于「AI 有没有意识」「未来会有多不一样」「对外应该讲得多戏剧化」，同一家公司里给出的是互相冲突的答案。

  本章速记

**它的一致性来自共同的问题，不来自共同的答案。**七条共享认知全部是「该怎么问」层面的，而三条最有分量的分歧全部是「答案是什么」层面的。把后者抹平，就把一个研究型组织写成了一个教派。
**组织级认知的判据是交叉印证，不是 CEO 发言。**本章七条里 Dario 只在五条上是首要来源；「生长，而非制造」的源头是 Chris Olah，「外化控制」最有力的表述来自 Jack Clark 与 Chris Olah，「对齐是产品价值」的首发是 Amanda Askell。
**最核心的一条不是「相信我们」，而是「不要相信我们」。**Anthropic 的共同认知不是相信公司自律，而是认为公司激励最终会弯曲，因此需要外化控制；2026 年的新问题是，外化给谁、按什么程序。
两条根本悖论在这里展开概念结构。可预测的 loss 推不出可预测的能力；必须在前沿做安全，而做前沿本身在制造风险。两条都不是逻辑矛盾，而是同一套证据同时支持两个方向的行动。
**投资组合式防御的成立条件是各条防线互相独立。**这个条件没有被证明过，而公司内部最早提出这个疑问的人，正是可解释性负责人本人。

**术语工程是一项系统性实践，也各有代价。**用 powerful AI（强大 AI）替代 AGI、把风险写成区间而非单点、把就业影响变成自己出资测量的对象——每一项都提高了可证伪性，也都引入了新的裁决困难。

**第一维 · 来源距离**（药丸形）：这份材料离原始出处有多近。本章凡属编者判断，一律放进「我的看法」框或挂推断徽章。









**第二维 · 结论独立性**（方角 + 五格进度条）：这个结论被谁验证过。**这一维在本页尤其重要**——这是全站最容易把「Anthropic 确实这样报告」读成「事情确实如此」的一页，而「一手 · 高」只回答前半句。



两枚徽章为什么必须成对读

Anthropic 是一家大量生产「关于自己」的证据的公司：system card、内部评测、对齐实验、经济指数——全都是标准的一手材料。于是「一手 · 高」这个在别处很可靠的信号，在这里恰恰最容易误导：来源真实性满分，结论独立性为零。所以本页凡涉及模型能力、安全性、对齐效果、评测分数的结论，以及任何主语是 Anthropic 自己的一手陈述，都会挂成对徽章，例如。材料是真的，结论还没有被独立检验过——两句话都对，缺任何一句都会误导。

两条容易搞错的边界：外部机构只是被访谈或受邀评论、没有参与实验设计与执行的，仍然算公司自产；第三方拿到的是公司提供的受限访问权限、结论仍需公司配合才能得出的，算合作研究而不算第三方审计，并须在出处里写明权限范围。各档是程度不是对错——公司自产不等于错，只是不构成独立验证。

1 · 判据：什么才算「组织级认知」

本章对每一条主张执行同一套追问。四件套缺一不可，缺项即降级为「个人观点」或「公关表述」。

① 它建立在什么假设上

把主张拆到最底层那个未被论证的前提。多数「世界观」争论其实是前提之争，而前提通常不写出来。

② 它如何被证伪

必须写出具体的可观测条件。「如果对齐很难，我们就知道了」不算；「如果 X 指标在 Y 规模上出现 Z 形态，这条主张就错了」才算。

③ 至少两名内部人物独立表达

不同人、不同场合、不同措辞。只有 Dario 说过的，本章一律标为「创始人个人主张」而不是组织认知。

④ 一项证据 + 一个反例

研究论文、产品行为或治理文本任选其一作为正面证据；同时必须给出一个已知的、削弱它的事实。

    本章新增的一个一手基座

判据③过去很难满足，因为跨人物的同场表述极少。2026 年 7 月的一手核验补上了一个关键材料：七位联合创始人的对谈《Building Anthropic | A conversation with our co-founders》并不是坊间流传的「内部播客」，而是 Anthropic 官方 YouTube 频道于 2024-12-20 公开发布的对外内容，时长约 51 分钟，带官方上传英文字幕（非机器转录），官方章节标记中直接有一节名为 Racing to the top。七个人同框谈同一组问题，这是「多人独立表达」最天然的证据来源。

但它带一个必须写出来的限制：官方字幕不含说话人姓名，只用短横线标示轮次切换。官方简介给出了座位顺序（自左至右：Chris Olah、Jack Clark、Daniela Amodei、Sam McCandlish、Tom Brown、Dario Amodei、Jared Kaplan），但把某一句话钉给某个具体的人，需要目视画面确认，本报告尚未完成这一步。因此本章凡引用该视频，要么写「七位创始人对谈中」而不指名，要么显式标注 ⚠️ 说话人归属未独立确认。

出处：Building Anthropic | A conversation with our co-founders ^[1]，Anthropic 官方频道，2024-12-20（访问日期 2026-07-25）。⚠️ 此前多份材料称其为「内部对谈」，与事实相反，会让读者误以为是泄露材料。

一条方法论警告：共同用词 ≠ 共同因果理论

多人使用同一个比喻，是共识的必要条件，不是充分条件。三个人都说模型是「长出来的」，可能对应三种完全不同的因果理论：一种认为它意味着内部结构可被逆向工程（研究纲领），一种认为它意味着后果不可预先归责（政治修辞），还有一种只是在描述训练与编程的工艺差别（工程口语）。把词汇一致当成理论一致，是本章最容易犯的错误，因此下文每一条共享认知都会追问：这些人用同一个词时，各自打算用它推出什么。

    转述会层层加码——一个核对到的例子

同一句创始人发言，在三层转述里被逐级放大：官方字幕原文是 “none of us wanted to found a company. We just felt like it was our duty, right?”；中文整理稿把它扩成「……这是确保 AI 朝正确方向发展的唯一可行路径」；而调研笔记在转抄整理稿时，又在末尾自行添加了一整个从句「and that’s why we made that commitment」——这个从句在官方字幕与中文整理稿中都不存在。凡是英文引语的上游是中文整理稿的，本报告一律回官方源逐字核对。纠错过程见 ⑫ 方法论。

1.2 对反方也执行同一套判据：四条本报告认为不成立的批评

本章每一条主张旁边都并排放了它最强的反方，形式是下文的对辩组件——五段等权重，反方不是附注。但辩证不等于各打五十大板：把一条弱批评抬到与强证据同等的地位，与把强证据压成脚注，是同一种失职。因此本章先把四条本报告认为不成立的流行批评写在前面，它们在下文不会被当作有效反方使用。

      流行批评为什么本报告判定它不成立| 流行批评 | 为什么本报告判定它不成立 |

      
        **「Scaling 已死」****不成立。**Epoch AI 的资源可行性分析认为，到 2030 年继续每年约 4× 扩大训练算力在技术上仍然可能，算力、数据、能源与芯片产能都不构成即刻的硬墙。真正成立的反方是**另一条**——loss 曲线继续不等于智能继续（见第 5 节对辩），这与「资源墙马上到」不是同一个论证，混用两者会让反方整体变弱。| 「Scaling 已死」 | 不成立。Epoch AI 的资源可行性分析认为，到 2030 年继续每年约 4× 扩大训练算力在技术上仍然可能，算力、数据、能源与芯片产能都不构成即刻的硬墙。真正成立的反方是另一条——loss 曲线继续不等于智能继续（见第 5 节对辩），这与「资源墙马上到」不是同一个论证，混用两者会让反方整体变弱。 |

        **「回路非唯一性推翻了可解释性」****不成立。**那篇 ICML 2026 论文反驳的是**「一个功能对应一条正典回路」这一读法**，不是可解释性纲领本身；论文作者也明确拒绝「可解释性因此失效」的推论。它的实验模型是 GPT-2 Small 与 Pythia-160M——**而这把「小模型不能外推」的刀必须两边都割**：同样的限制也适用于 Anthropic 自家的叠加玩具模型与归纳头研究（见第 4 节）。| 「回路非唯一性推翻了可解释性」 | 不成立。那篇 ICML 2026 论文反驳的是「一个功能对应一条正典回路」这一读法，不是可解释性纲领本身；论文作者也明确拒绝「可解释性因此失效」的推论。它的实验模型是 GPT-2 Small 与 Pythia-160M——而这把「小模型不能外推」的刀必须两边都割：同样的限制也适用于 Anthropic 自家的叠加玩具模型与归纳头研究（见第 4 节）。 |

        **「RLAIF 不如 RLHF」****不成立。**外部 Google 研究在三项任务上测得 RLAIF 与 RLHF **表现相当**——这是本报告能找到的、少数由完全独立第三方给出的同向验证之一。对宪法式 AI 成立的批评是规范来源的合法性与 LLM 评判者偏差，不是「用 AI 反馈本身效果更差」。完整论证见 ④ 对齐科学。| 「RLAIF 不如 RLHF」 | 不成立。外部 Google 研究在三项任务上测得 RLAIF 与 RLHF 表现相当——这是本报告能找到的、少数由完全独立第三方给出的同向验证之一。对宪法式 AI 成立的批评是规范来源的合法性与 LLM 评判者偏差，不是「用 AI 反馈本身效果更差」。完整论证见 ④ 对齐科学。 |

        **「当前模型绝不可能有意识」****不是科学共识，只是一套理论立场。**把它当成已确立的事实来反驳第 12 节那条分歧轴，是把一种意识理论（如 Anil Seth 的生物自然主义）的推论说成了学界定论。**对称地**，「模型已经有感受」同样没有确立——本报告在这条轴上两个方向都不下结论。| 「当前模型绝不可能有意识」 | 不是科学共识，只是一套理论立场。把它当成已确立的事实来反驳第 12 节那条分歧轴，是把一种意识理论（如 Anil Seth 的生物自然主义）的推论说成了学界定论。对称地，「模型已经有感受」同样没有确立——本报告在这条轴上两个方向都不下结论。 |

      
      表 1 · 四条本报告判定不成立的流行批评。**不成立不等于原问题不存在**——每一行的第二列都指出了那个方向上真正成立的反方是哪一条。
    
  

  
    两条本章通用的反方称重规则

① 反方强度不按人数算。十个评论者重复同一个论点，仍然只是一条证据；一篇带对照组、公开代码与复现记录的论文，强于十篇社论。因此下文对辩里的「可验证证据」一栏只收能被第三方重跑或查证的条目，双方各自的「主张」不进入这一栏——那属于前两栏。

**② 每条反方必须带时间戳。**本章对每一条反方标注四项：发表日期、数据窗口、是否已被后续研究更新、截止 2026-07-25 的状态。这不是格式洁癖——本章用到的几条关键外部证据里，METR 的「资深开发者慢 19%」已被 METR 自己 2026-02-24 的后续研究反转方向，Menlo 的 40% 停在 2025-12-09 那一期未再更新，ARC 的成绩必须写清是 ARC-AGI-2 还是 ARC-AGI-3。一条没有时间窗的反方，和一条没有口径的数字一样不可裁决。

2 · 信念金字塔，以及每一层的反方

五层信念自下而上互相依赖：拿掉最底层，上面四层的动机都会消失。右侧一栏是本报告为每一层找到的最强反方——它们不是「另一种观点」，而是各自有独立证据的挑战。

    **图 1 ·** 信念金字塔与它的反方。**示意，非精确数据**：五层的划分与右栏反方的配对**均为编者归纳**，Anthropic 从未以这种层级形式表述过自己的信念体系。左栏每一层的措辞取自本章正文所引的一手材料，右栏每一条反方在正文中各有出处；**层与层之间的「依赖」是逻辑依赖，不是时间先后**。
  

  
    关键洞察

这五层里，只有 L1 是经验命题，L2 是关于测量工具的命题，L3 到 L5 全都是行动策略命题。也就是说，这套信念系统的下半部分可以被实验推翻，上半部分只能被后果推翻——而后果需要很长时间才会到齐。这个不对称性解释了为什么关于 Anthropic 的争论很难收敛：双方常常在拿一个可证伪层的证据，去反驳一个不可即时证伪层的主张。

3 · Race to the Top：这家公司的开篇主张

这是 Anthropic 全部行为最上位的自我辩解，也是唯一一条它明确声明为「变革理论」的主张。它有确切出处、有可检验的含义，也有一个结构性的反证。

A part of our theory of change is paradoxically to make other organizations more like us. — Dario Amodei，Dwarkesh Podcast 2023-08-08 · 一手 · 口头

这句话的字面含义容易被读成公关辞令，但它其实是一个关于产业均衡的经验主张：如果一家公司在安全实践上单方面把标准抬高，并且把标准与执行情况公开，那么其它公司会因为声誉与人才压力而跟进，从而抬高整个行业的下限。这条主张最早的书面出处不是播客，而是美国参议院的证词——2023 年 7 月 25 日，Dario 在司法委员会隐私、技术与法律小组委员会作证时写道：我们的措施远非完美，但「我们相信它们是对安全领域『race to the top（向上竞赛）』的重要贡献。我们希望能激励行业内其他人把标准抬得更高」。

值得注意的是，它不是一句抽象口号，而是被写进了具体政策文本的机制。负责任扩展政策（RSP）在 2026 年的重写版中，官方把自己的「变革理论」列成三条，第二条就叫 A race to the top，并写明期望是「随着时间推移，RSP 会成为自愿的行业标准，或者进而影响 AI 立法」。同一逻辑也出现在技术领域，而且措辞近乎挑衅——Dario 在《The Urgency of Interpretability》（2025-04）里公开写道：Anthropic 会试图把可解释性商业化以创造独特优势，「如果你是竞争对手、不希望这件事发生，那你也应该在可解释性上投入更多！」

它的可检验含义

把这条主张变成可检验命题，需要问的是：对手是否真的跟进了。这里的证据是分叉的。

公司主张

设定更高的公开标准，会迫使同行跟进，抬高全行业下限。
把安全实践与执行情况公开，能让「谁更负责任」变得一目了然。
因此监管的正确形态是轻触式透明规则，而不是先规定具体技术动作。
在自己有优势的时候把规则交出去，规则才有约束力。

外部证据

形式上跟进了：OpenAI 的 Preparedness Framework 与 Google DeepMind 的 Frontier Safety Framework 都采用了「能力阈值挂钩安全要求」这一结构；第三方评述认为 RSP 是最早公开写出具体可审计承诺的一份。
实质上未必：三份框架的阈值定义、触发后果与外部审查安排各不相同，不存在可比的共同度量，因此「行业下限被抬高了多少」目前无法量化。
反向压力真实存在：Anthropic 首席科学官在 2026 年公开表示，如果竞争对手在狂奔，单边承诺就失去意义。

可解释性的跟进最难判断：投入规模不公开，无法核对。

  对辩 · 竞争到底会不会奖励安全
  
    
      最强版本

这条主张最有说服力的版本不是「我们让整个行业变好了」，而是一个关于产业均衡的机制主张：在一个人才高度流动、模型能力可被外部评测、企业客户有合规审查流程的产业里，把安全实践与执行情况公开，会把「谁更负责任」从一句无法核对的自我宣称，变成一个可观测量；一旦它可观测，声誉与人才就成为安全投入的回报，竞争者跟进就是理性选择而非道德选择。

它不是抽象口号：RSP 2026 重写版官方把「变革理论」列成三条，第二条就叫 A race to the top，并写明期望是「随着时间推移，RSP 会成为自愿的行业标准，或者进而影响 AI 立法」。而三家前沿实验室确实都建立了能力阈值型安全框架，这是一个外部可核对的事实。

        最强反方

Steven Adler：Race to the Top 解决不了 adoption problem。他的论证不是「Anthropic 不真诚」，而是机制层的：向上竞赛即便真的发生，也只能拉动愿意参赛的人，而安全的社会收益取决于最不愿意参赛的那一家。Meta 在 RSP 之后约 17 个月才发布自己的框架——就算算跟进，也太慢，而这十七个月里不存在任何统一最低标准。更要命的是框架之间不可比：阈值怎么定义、触发之后有什么后果、有没有外部审查、什么条件下暂停，四项各不相同。因此「行业下限被抬高了多少」这个问题在当前的公开信息下无法被回答，而一条无法被测量的机制不能充当治理底座。他的结论是：真正需要的是「抬高地板」的共同最低规则，而不是「抬高天花板」的自愿示范。

一条更弱但必须提及的附加批评：Andrew Ng、a16z 相关政策人物与开放模型阵营担心，合规成本恰好是大实验室已经承担的成本，对新进入者却是固定高门槛，因此 safety standard 可能变成 incumbent moat。本报告按 §1.2 的称重规则把这条降级——它是一个关于动机的推断，缺少可核对的成本数据支撑，评论者众多不增加它的强度。

        可验证证据

**支持反方的：**① 三份框架的阈值定义、触发后果与外部审查安排各不相同，不存在可比的共同度量——这一条任何人都可以拿三份公开文本自行核对。② 首倡者自己的硬性单边承诺在 2026 年的竞争压力下被取消，理由正是竞争均衡。③ 开放权重提供者不依赖 API 声誉机制，声誉压力对它们的传导路径不成立。④ 截至 2026-07-25，没有任何公开的企业采购数据显示更弱的安全框架会被惩罚——这是这条机制主张最关键的一环，而它至今没有测量。⑤ Future of Life Institute 的 AI Safety Index（2025 年夏季版）给出的最高评级也只是 C+ 等有限成绩，且外部审查者的权限、数据、复现权与冲突披露被评为不足。

支持正方的：⑥ 能力阈值型框架从一家扩散到三家，这个扩散本身是真的，且时间顺序与「首倡—跟进」一致——虽然时间顺序不等于因果，同期还有监管预期与英美安全研究所的推动。

**时间护栏：**Adler 的文章发表于 Clear-Eyed AI（2025），数据窗口止于其发表时的公开框架；截至 2026-07-25 未被后续证据推翻，且其核心诉求（共同最低规则）在 2026 年被 Anthropic 自己的政策转向部分印证。FLI Index 的窗口是 2025 年夏季，本报告未检索到 2026 年更新版，引用时须按 2025 年状态读。

        Anthropic 回应

已基本接受这条批评，这是本页少数几处「反方被采纳」的情形。2026 年公司的政策重心从「透明度示范」转向有约束力的测试与外部地板：首席科学官公开表述了那个结构——如果竞争对手在狂奔，单边承诺就失去意义；同时主张需要一个对所有参与者共同生效的外部底线。

但有一处未回应：Anthropic 没有公开回应过「跟进程度无法量化」这一条本身，也未见它提出任何可比的共同度量方案。截至 2026-07-25，本报告未检索到 Anthropic 对 Adler 该文的逐条公开回应。

        Reviewer 裁决

实质削弱。Race to the Top 作为补充激励成立——它确实降低了「公开安全实践」的行业成本，并把一批做法变成了可被引用的基准；但它不能充当治理底座，因为它最关键的那一环（不跟进要付出代价）从未被测量过，而首倡者自己的退却恰恰是这条机制预言过、却没能防住的失败模式。

可操作的读法建议：下次看到「Anthropic 抬高了整个行业的标准」这类说法，先问三个问题——① 跟进者的阈值定义与首倡者可比吗？② 不跟进有后果吗？③ 支撑这句话的证据是不是又来自 Anthropic 自己？三个问题里有两个答不上来，这句话就只能读作「Anthropic 公开了更多东西」，不能读作「行业下限被抬高了」。

什么新证据会改变判断：出现一份对多家实验室共同生效、由外部独立核验的承诺，并在一个完整模型世代的竞争压力下存活；或者出现一份可复核的企业采购研究，显示安全框架强弱确实影响了采购决策。前者会把裁决上调，后者会补上这条机制最缺的一环。

      追问Race to the Top 的回答与它的缺口| 追问 | Race to the Top 的回答与它的缺口 |

      
        **① 假设**假设安全实践的**声誉回报**足以抵消它的商业成本；并且假设「更负责任」这件事对外部观察者**可见且可比**。第二个假设更脆弱——没有共同度量，声誉机制就无从发力。| ① 假设 | 假设安全实践的声誉回报足以抵消它的商业成本；并且假设「更负责任」这件事对外部观察者可见且可比。第二个假设更脆弱——没有共同度量，声誉机制就无从发力。 |

        **② 证伪条件**可观测条件有三：（a）某家主要竞争者在能力上明确超前而安全承诺明显更弱，且未因此付出人才或客户流失代价；（b）Anthropic 自己在竞争压力下放松已公开的硬性承诺；（c）跟进者的框架在**阈值定义上系统性地宽于**首倡者。**其中（b）在 2026 年已经发生**。| ② 证伪条件 | 可观测条件有三：（a）某家主要竞争者在能力上明确超前而安全承诺明显更弱，且未因此付出人才或客户流失代价；（b）Anthropic 自己在竞争压力下放松已公开的硬性承诺；（c）跟进者的框架在阈值定义上系统性地宽于首倡者。其中（b）在 2026 年已经发生。 |

        **③ 多人表达**Dario（2023 参议院书面证词、2023 Dwarkesh、2025 可解释性文章）；七位创始人对谈中有整整一节名为 Racing to the top，其中一位发言者把它表述为「把我们需要的 AI 安全制度先在这里建起来，**但要让它可以被输出**」（⚠️ 说话人归属未独立确认）。| ③ 多人表达 | Dario（2023 参议院书面证词、2023 Dwarkesh、2025 可解释性文章）；七位创始人对谈中有整整一节名为 Racing to the top，其中一位发言者把它表述为「把我们需要的 AI 安全制度先在这里建起来，但要让它可以被输出」（⚠️ 说话人归属未独立确认）。 |

        **④ 证据 + 反例****正面**：三家前沿实验室都建立了能力阈值型安全框架，RSP 是其中最早公开具体承诺的一份。**反例**：同一套框架的首倡者在 2026 年取消了硬性单边承诺，理由正是竞争均衡——这恰恰是这条主张预言过、却没能防住的失败模式。| ④ 证据 + 反例 | 正面：三家前沿实验室都建立了能力阈值型安全框架，RSP 是其中最早公开具体承诺的一份。反例：同一套框架的首倡者在 2026 年取消了硬性单边承诺，理由正是竞争均衡——这恰恰是这条主张预言过、却没能防住的失败模式。 |

      
      表 2 · Race to the Top 的四件套追问。第②行的（b）与第④行的反例指向同一个事件，其完整时间线与文本 diff 是 ⑥ RSP 与治理政策 的主锚点，本页不复述。
    
  

  
    失效边界

Race to the Top 成立的前提是竞争是重复博弈且行为可观测。一旦出现（i）不公开安全实践的参与者、（ii）国家力量介入改变收益结构、或（iii）能力差距大到声誉不再是稀缺资源，这条机制就会失效。这三种情形在 2026 年全部出现过。因此本报告的判断是：Race to the Top 是一条有条件成立的机制，而不是一条自动生效的规律；把它写成「Anthropic 成功让整个行业变好了」，与把它写成「它从来只是营销」，都不成立。

4 · 生长，而非制造

这是 Anthropic 内部传播最广的一个隐喻，也是本章唯一一条源头明确不是 Dario 的共享认知。它同时是一条研究纲领和一句政治修辞，而这两种用法的风险完全不同。

隐喻的源头是可解释性负责人 Chris Olah。他在 2024 年 11 月的长访谈里给出了最完整的版本：“we don’t program, we don’t make them, we grow them”——我们不编程、不制造它们，我们养育它们；神经网络架构「有点像回路在上面生长的支架」，而训练目标「几乎就像一束光」，我们创造支架，也创造它朝之生长的那束光，但真正被造出来的是「一个几乎是生物性的实体」。一年后，政策负责人 Jack Clark 在一场公开演讲里几乎逐字复用了同一个意象：这项技术「更像是被养出来的而不是被造出来的——你组合出正确的初始条件，你在地里插一根支架，然后长出来一个你自己根本不可能设计得出来的复杂之物」。2026 年 5 月，Chris Olah 在梵蒂冈的演讲里第三次使用它，并加上了对照项：「我们理解一架飞机，是因为我们设计了它的每一个部件、并且理解作用于它的物理。AI 模型不是那样的。它们是长出来的」。

    关键洞察

三次表述之间的用途在漂移：2024 年它是一条研究纲领（因为是长出来的，所以需要显微镜式的方法去读它）；2025 年它变成一条政治论证（因为是长出来的，所以社会必须提前准备）；2026 年它成了一条本体论陈述（它们不是我们许诺过的冷冰冰的机器人，它们由我们的语言构成）。**同一个词，三种推论强度。**这正是第 1 节那条方法论警告的活样本：共同用词并不保证共同因果理论。

它是什么，不是什么

这个隐喻的技术内核是可以被检验的，而 Anthropic 自己的两项早期工作给它提供了两个具体例子。2022 年 9 月的《Toy Models of Superposition》报告：在一个刻意构造的小型玩具模型里，当特征数超过维度时，训练会得到叠加（superposition）编码——这种编码方式不是设计者指定的，是优化过程的产物。2022 年 3 月的归纳头（induction heads）研究报告：在小型语言模型的训练过程中存在一个窄窗口的相变，此时特定回路成形、上下文学习能力改善，训练曲线上出现一个可见的隆起。

    这两个例子各自能撑到哪里——以及撑不到哪里

它们是两个具体例子，不是这个隐喻的硬证据。按 ⑫ 方法论里那条全站规则逐条对表：玩具模型证明的是某个机制在原理上可以存在；小模型归纳头证明的是某个特定结构在那个设置下会出现。两者都不能证明生产规模的 Claude 内部结构是稳定的、自然的，或者「生物式」的——「结构在原理上可存在」到「结构在多个架构上复现」是一步外推，再到「结构随规模稳定保持」又是一步，而这两步都需要前沿模型上的证据，玩具模型给不了。

**这把刀必须两边都割。**本报告在第 7 节与第 1.2 节用「实验模型是 GPT-2 Small 与 Pythia-160M」限制了回路非唯一性那篇外部论文的外推范围；同一条限制必须原样适用于 Anthropic 自家的叠加玩具模型、归纳头、SoLU 与早期框架——它们同样大量来自小模型或简化设置。一边用「小模型」削弱外部反方、一边把自家小模型结果写成生产 Claude 的技术地基，是本报告要避免的双重标准。准确的说法是：这个隐喻有两个可核对的具体例子，它的生产规模版本仍然是一个待检验的假设。

    三条不得越过的线

第一，「长出来的」不等于「活的」。Jack Clark 那场演讲里最接近的原句是 “I am sure it is coming to life”（我确信它正在活过来）——这是一个过程描述；广泛流传的那句「机器已经活了」不是他的原话，把过程改写成状态，就把一个谨慎的观察变成了断言。

**第二，那篇演讲里「黑暗中的孩子」指的是人类，不是 AI。**中文世界普遍把它读成「Anthropic 形容 AI 像个孩子」，主语搞反了：我们才是那个在黑暗房间里的孩子，房间是地球。另外，被反复引用的那个「一个非常聪明、非常古怪的孩子」式的英文短语，在该文全文中根本不存在。

**第三，不要把 Chris Olah 的隐喻记在 Dario 名下。**Dario 确有同一家族的表述（把研究模型比作「研究一个外星文明的考古学家」），但「支架与光」「grown, not made」的著作权属于 Olah。

这个隐喻的双面性

它承认不可预测，这是它的价值；它也可能变成免责语言，这是它的风险。「我们只是插了一根支架」这句话，在研究语境里意味着「所以我们必须去读它」，在责任语境里可以被读成「所以后果不完全由我们负责」。Anthropic 自己从未做过后一种推论——恰恰相反，它把不可预测当成加码测量与治理的理由。但隐喻一旦离开原语境就不再受作者控制，而中文传播里最常见的正是后一种用法。

      追问「生长，而非制造」的回答与它的缺口| 追问 | 「生长，而非制造」的回答与它的缺口 |

      
        **① 假设**假设训练得到的内部结构是**非任意的**——即存在稳定、可复现、值得被命名的结构。如果内部结构是纯粹偶然的，那么「生长」就只是「随机」的文雅说法，可解释性也就无从谈起。| ① 假设 | 假设训练得到的内部结构是非任意的——即存在稳定、可复现、值得被命名的结构。如果内部结构是纯粹偶然的，那么「生长」就只是「随机」的文雅说法，可解释性也就无从谈起。 |

        **② 证伪条件**如果能**按规格直接构造**出目标能力（而不是通过训练把它「养」出来），或者如果同一训练配方在不同随机种子下得到的内部结构**互不相似**，这个隐喻就失去了它的技术含义。**第二项正在被检验**：一篇 ICML 2026 论文发现同一任务上存在多条结构重叠极低、却同样有效的回路。| ② 证伪条件 | 如果能按规格直接构造出目标能力（而不是通过训练把它「养」出来），或者如果同一训练配方在不同随机种子下得到的内部结构互不相似，这个隐喻就失去了它的技术含义。第二项正在被检验：一篇 ICML 2026 论文发现同一任务上存在多条结构重叠极低、却同样有效的回路。 |

        **③ 多人表达**Chris Olah（2024-11、2026-05，源头）、Jack Clark（2025-10，政治化）。两人身份、场合、目的完全不同，交叉印证成立。| ③ 多人表达 | Chris Olah（2024-11、2026-05，源头）、Jack Clark（2025-10，政治化）。两人身份、场合、目的完全不同，交叉印证成立。 |

        **④ 证据 + 反例****正面**：叠加与归纳头相变，是「未被指定的结构在训练中出现」的两个具体例子——**但两者都在玩具模型或小模型上取得，向生产规模的外推尚未闭合**。**反例**：「非唯一性」的挑战——同一功能可能对应指数量级条同样保真的回路，那么「读懂它长成了什么」这个目标本身需要重新定义；**该论文的实验模型同样是小模型，因此这条反例的外推范围受同一条规则约束**。完整论证见 ③ 可解释性纲领。| ④ 证据 + 反例 | 正面：叠加与归纳头相变，是「未被指定的结构在训练中出现」的两个具体例子——但两者都在玩具模型或小模型上取得，向生产规模的外推尚未闭合。反例：「非唯一性」的挑战——同一功能可能对应指数量级条同样保真的回路，那么「读懂它长成了什么」这个目标本身需要重新定义；该论文的实验模型同样是小模型，因此这条反例的外推范围受同一条规则约束。完整论证见 ③ 可解释性纲领。 |

      
      表 3 · 「生长，而非制造」的四件套追问。

5 · 可预测性与意外性：第一条根本悖论

这一条是整套信念系统的技术地基，也是 Anthropic 全部政策立场的论证起点。幂律的具体推导留给 ⑤ Scaling 与训练科学，这里只讲概念结构。

2022 年 2 月，Anthropic 发表《Predictability and Surprise in Large Generative Models》，作者名单里包含全部七位联合创始人。它的核心论点写在摘要式的第一段里：大生成模型有一个矛盾的组合——高度可预测性（模型 loss 随训练投入的资源改善，并且往往与许多任务上的性能改善松散地相关）与高度不可预测性（具体的模型能力、输入与输出无法提前预测）；前者驱动这类模型的快速开发，后者让人们难以预见其开发与部署的后果。

    关键洞察 · 三条逻辑关系

可预测的 loss ⇏ 可预测的 capability。论文给的解释非常干净：任何具体任务都只是模型输出概率分布中极薄的一片，因此即使整个分布保持平滑，这一片也可以剧烈变化。它配了一个更好记的类比——这跟「每日天气比季节平均值更难预测」是同一个道理。

**可预测的 loss ⇒ 可计算的投资回报 ⇒ 更多参与者入场。**原文的措辞是：它把这类模型的开发「从手工艺式的试错过程，转变为更接近可预测的工程流程」，所需资源可以被精确计算，成本可以与效用相比较。

不可预测的 capability ⇒ 部署后果无法提前评估。而且这个问题随规模加剧而不是缓解：“larger models tend to be harder to characterize than smaller ones”——更大的模型往往比小模型更难被刻画。

把三条接起来，就得到了这家公司全部政策主张的论证链，而且它不需要读者相信任何关于超级智能的推测：只要承认幂律成立（所以会有更大的模型）、承认能力涌现存在（所以你不知道更大的模型能干什么），结论就跟着来了。原文的结论段说得极其直白：「未来几年会有越来越多的行动者构建越来越大的模型，并且这些行动者有强烈动机去部署它们，尽管它们有（可能不可预测的）有害社会影响的潜力。」

**这就是为什么这不是一个矛盾，而是一个动机。**负责任扩展政策的分级触发、每隔一定算力倍数就重测一次的评测节奏、以及可解释性作为「提前看见能力」的手段——三者是同一条论证的三个落点。这篇论文比 Core Views 早一年、比 RSP 早一年半，可以视为整个治理框架的思想原型。

    失效边界 · 「涌现」可能是测量假象

论文给出的三个突变案例（三位数加法、MMLU、程序合成）全部使用离散指标——准确率、精确匹配、通过率。后续研究指出，很多所谓涌现是离散指标造成的假象：换成连续指标（如 token 编辑距离或对数似然）后曲线是平滑的。

但这个反驳的杀伤范围有限。它削弱的是「涌现是模型的内在性质」这个较强的读法，不削弱政策结论——因为用户体验到的能力确实是离散的：模型要么能做这件事，要么不能。而且论文自己在 2022 年就承认，「不可预测」在当时是一个关于我们的测量工具的陈述，而不是关于世界的陈述。准确的说法是：能力的不可预测性至少部分地是测量问题，而这恰恰强化了「评测科学本身需要投入」这一结论。

    对辩 · loss 曲线继续，等于智能继续吗
    
      
        最强版本

最强版本不是「把参数堆上去就会有智能」——那是一个稻草人，Anthropic 自己早就不这么说了。它的实际主张是三条可接续的动力学：缩放定律（同一条曲线上继续投入资源）、移动曲线（算法与数据效率改进把整条曲线下移）、移动范式（预训练之外接上强化学习、测试时计算、工具使用与 AI 辅助研发）。在这个多曲线版本里，「智能会继续提高」不依赖任何单一曲线不失效。

而且这条主张的政策结论不需要读者相信任何关于超级智能的推测：只要承认资源投入还能继续（所以会有更大的模型），并承认具体能力无法提前预测（所以你不知道更大的模型能干什么），分级触发式的治理框架就跟着来了。这是它最结实的地方——它把结论挂在两个弱前提上，而不是一个强前提上。

        最强反方

François Chollet：技能不是智能。他的定义是操作性的——智能应当被定义为在新任务上获取技能的效率，而不是已有任务的覆盖面。扩大预训练确实会让模型的技能库变大，但这未必提高它把已有抽象重新组合成新解法的能力。推论很锋利：如果一个基准可以被记忆过的有限模式解决，那么分数增长测到的是技能，不是智能——而 loss 曲线本身恰恰对这两者不作区分。

Yann LeCun：缺的是架构，不是规模。当前自回归大语言模型缺少持续的世界模型、层级化规划、长期记忆与从物理世界学习的能力；继续扩大文本预测不必然跨过这几个架构缺口。他主张的替代路线是 JEPA 一类基于世界模型的自主智能。

把两条合起来：即使 loss 继续平滑下降、即使三条动力学都还在跑，「模型正在变得更接近强大 AI」这一步仍然是一个额外的、未被 loss 曲线支撑的推断。这条反方打击的是推理链的一个环节，不是它的起点。

        可验证证据

支持反方的：① ARC-AGI 的反记忆设计——每道题都是一个新任务，评价的是少样本抽象与组合；2026 年的一份持续更新的综述报告，ARC-AGI-2 上 2025 年的优胜方案依赖大量合成样例，最好成绩约 24%，且计算成本远高于人类。② 数据约束是可测量的：Muennighoff 等人的《Scaling Data-Constrained Language Models》用对照实验显示，重复数据在若干轮内仍有收益，但重复更多之后新增算力的边际价值趋近于零。③ 幂律本身就是边际收益递减的数学表述：loss 可以继续下降，但每取得同等幅度的改善需要指数级资源——这一条不需要新实验，从拟合式本身就能读出来。

**限制反方的（§1.2 规则的一次实际应用）：**④ **「Scaling 已死」不成立。**Epoch AI 的资源可行性分析认为，到 2030 年继续每年约 4× 扩大训练算力在技术上仍然可能。因此本节采信的反方只有「loss 继续 ≠ 智能继续」这一条，不包括「资源墙马上到」——把两者混着用，会让一条成立的反方被一条不成立的反方拖下水。

时间护栏：ARC 成绩必须写清版本——上面那个约 24% 是 ARC-AGI-2 的 2025 年优胜方案，不得与 ARC-AGI-3 的成绩混用；本报告已知的最新一代官方口径只给了相对表述（分数为次优模型的三倍），未给绝对分数，因此不能用来直接比较。数据约束研究的窗口是其发表时的数据可得性，截至 2026-07-25 未见方向性推翻。

        Anthropic 回应

回应过，而且回应本身就是主张的升级。「三条动力学」这个框架就是对「只堆参数」这类批评的直接应答：Anthropic 会说测试时计算、强化学习、工具使用与 AI 辅助研发都不属于「把预训练做大」，因此针对纯预训练的反驳打不到它。

**但要公平地记录双方的射程：**Chollet 与 LeCun 反驳的是「当前目标函数足够」，这不必然反驳 Anthropic 已经扩展过的多曲线版本；反过来，多曲线版本也没有回答「技能获取效率」这个测量问题——它只是说还有别的曲线可以走，没有说这些曲线测的就是 Chollet 定义的那个东西。截至 2026-07-25，本报告未检索到 Anthropic 对 ARC 式「技能获取效率」定义的正面、成体系的回应。

        Reviewer 裁决

部分削弱——它限制外推范围，不推翻起点。缩放定律对 loss 与资源规划的证据很强，这一点本节不动摇；它对流体智能、长期自主性与强大 AI 的证据明显更弱。因此本报告把这条主张拆成两项分别裁决：「loss scaling 仍然成立」——支持；「现有范式足以到达强大 AI」——未决。

可操作的读法建议：看到任何一条「能力还在指数上升」的曲线时，先问它的纵轴是什么。如果纵轴是 loss 或某个固定题库的通过率，它支持的是第一项；只有当纵轴是新任务上的获取效率时，它才触及第二项。本页第 10 节那份「强大 AI」六条规格之所以重要，正是因为它把第二项拆成了六个各自可查的问题——但它同样没有回答技能与智能的区分。

什么新证据会改变判断：若某个模型在反记忆设计的新任务基准上以接近人类的计算成本达到人类水平，第二项应上调为支持；若在若干个数量级的资源投入后，反记忆基准的成绩仍然停滞而常规基准继续上升，第二项应下调为实质削弱。

      追问「可预测 × 不可预测」的回答与它的缺口| 追问 | 「可预测 × 不可预测」的回答与它的缺口 |

      
        **① 假设**两个：（a）loss 的下降与商业/社会价值单调相关——论文自己只用一个推荐系统实验支撑过它；（b）幂律外推在未见规模上仍然成立。**两者都是经验拟合的外推，不是定律。**| ① 假设 | 两个：（a）loss 的下降与商业/社会价值单调相关——论文自己只用一个推荐系统实验支撑过它；（b）幂律外推在未见规模上仍然成立。两者都是经验拟合的外推，不是定律。 |

        **② 证伪条件**（a）若在某个规模上 loss 继续平滑下降而下游能力全面停滞，第一个假设即被推翻；（b）若能提前**预测**某项具体能力出现的规模点并被反复验证，则「不可预测」这一半失效，RSP 式的分级触发也就不再必要。| ② 证伪条件 | （a）若在某个规模上 loss 继续平滑下降而下游能力全面停滞，第一个假设即被推翻；（b）若能提前预测某项具体能力出现的规模点并被反复验证，则「不可预测」这一半失效，RSP 式的分级触发也就不再必要。 |

        **③ 多人表达**论文本身即七位创始人共同署名；此外 Dario 在 2023 年的访谈里用过同一个天气类比；Jack Clark 独立表述过「被计算规模带来的疯狂新能力反复砸中脑袋之后，**我必须承认失败**」。| ③ 多人表达 | 论文本身即七位创始人共同署名；此外 Dario 在 2023 年的访谈里用过同一个天气类比；Jack Clark 独立表述过「被计算规模带来的疯狂新能力反复砸中脑袋之后，我必须承认失败」。 |

        **④ 证据 + 反例****正面**：幂律拟合在数十个数据点、若干数量级上极其一致。**反例**：Kaplan 与 Chinchilla 关于最优配比的冲突表明，同一批曲线在**方法细节改变时会给出不同结论**——把它当自然定律引用是错的。| ④ 证据 + 反例 | 正面：幂律拟合在数十个数据点、若干数量级上极其一致。反例：Kaplan 与 Chinchilla 关于最优配比的冲突表明，同一批曲线在方法细节改变时会给出不同结论——把它当自然定律引用是错的。 |

      
      表 4 · 「可预测 × 不可预测」的四件套追问。幂律形式、指数取值与 Chinchilla 修正的完整推导见 ⑤ Scaling。

6 · 在前沿做实证安全：第二条根本悖论

这是 Anthropic 最受质疑的一条主张，也是它最早写下来的一条——比公司的第一份立场文件还早一年多。

2021 年 12 月，Anthropic 的第一篇对齐论文《A General Language Assistant as a Laboratory for Alignment》里有一段方法论宣言，它的重要性远超论文本身：「大多数与对齐相关的研究工作，要么只适用于非常专门化的系统，要么只是在一个子问题上测试某个特定技术，要么就相当思辨和理论化。**我们的看法是：如果一个问题有可能被直接解决，那么不去直接解决它就需要一个很好的借口。**历史上我们确实有这样的借口——通用的、高能力的 AI 还不可供研究。但鉴于大语言模型的广泛能力，我们认为现在是直接攻击对齐问题的时候了。」

「前沿访问是安全研究的条件」这条主张，需要一个技术命题来支撑，否则它只是利益冲突的托词。这个技术命题经常被写成「小模型上看不到危险能力」，而这个写法过强。可被证据支持的版本是：部分与安全相关的行为随规模增强——有些行为在小模型上出现率更低、更不稳定，或者需要更强的能力才谈得上构成风险。「看不到」与「发生率更低」是两回事，前者是必要性论证，后者只是难度论证，而目前的公开证据只支持后者，并且必须逐行为比较、不能总括。同一篇 2021 年的论文提供了一个更具体、也更少被引用的支撑：它把**对齐税（alignment tax）**画成关于模型规模的曲线，发现这条曲线在约百亿参数处越过拐点，此前对齐干预要付出能力代价，此后代价趋近于零。只有同时握有缩放定律经验和对齐研究议程的团队，才会想到把安全代价画成规模的函数。

为什么必须逐行为比较：一张跨模型对照表

把「危险能力」当成一个整体来谈，是这条论证最容易出问题的地方。许多常被引用的模型生物（model organism）研究，其实可以、而且已经在小模型或开放权重模型上开展；真正需要前沿访问的是另一类结论。下表按行为逐条拆开——每一行的答案都不同，这正是不能总括的原因。

      行为 / 研究对象小模型或开放模型上能不能研究需要前沿访问的到底是哪一步| 行为 / 研究对象 | 小模型或开放模型上能不能研究 | 需要前沿访问的到底是哪一步 |

      
        **训练植入的后门（sleeper agent 式）****能，而且已经被外部做过。**2026 年一次独立复现就是在非前沿模型上完成的，并且发现优化器、思维链蒸馏、模型选择与超参数都会改变结论方向——**这本身就是一条反例**「生产训练流程会不会自己长出后门」——这一步需要生产规模| 训练植入的后门（sleeper agent 式） | 能，而且已经被外部做过。2026 年一次独立复现就是在非前沿模型上完成的，并且发现优化器、思维链蒸馏、模型选择与超参数都会改变结论方向——这本身就是一条反例 | 「生产训练流程会不会自己长出后门」——这一步需要生产规模 |

        **叠加与回路结构****能。**叠加玩具模型、归纳头、回路非唯一性研究全部在小模型上完成（GPT-2 Small、Pythia-160M 级别）「同一机制在前沿规模上是否保持」——这一步需要前沿| 叠加与回路结构 | 能。叠加玩具模型、归纳头、回路非唯一性研究全部在小模型上完成（GPT-2 Small、Pythia-160M 级别） | 「同一机制在前沿规模上是否保持」——这一步需要前沿 |

        **评测意识（模型能否分辨测试与部署）****能。**公开研究在 Llama-3.3-70B 这一量级的开放权重模型上用探针做过「前沿模型的评测意识是否强到让评测整体失效」| 评测意识（模型能否分辨测试与部署） | 能。公开研究在 Llama-3.3-70B 这一量级的开放权重模型上用探针做过 | 「前沿模型的评测意识是否强到让评测整体失效」 |

        **伪装对齐（策略性配合训练）****受限。**原研究报告该行为在能力较弱的模型上出现率明显更低——**但这是「发生率更低」，不是「看不到」**，而且原实验是与外部机构合作完成的行为的**现实发生率**与它是否稳定存在，仍需前沿模型| 伪装对齐（策略性配合训练） | 受限。原研究报告该行为在能力较弱的模型上出现率明显更低——但这是「发生率更低」，不是「看不到」，而且原实验是与外部机构合作完成的 | 行为的现实发生率与它是否稳定存在，仍需前沿模型 |

        **自主体链条中的危险能力（CBRN、网络攻击、长程自主）****基本不能。**这类风险的成立本身就以能力达到某个水平为前提，小模型上不存在可测的对象**整条**都需要前沿访问——这是本表中前沿必要性最强的一行| 自主体链条中的危险能力（CBRN、网络攻击、长程自主） | 基本不能。这类风险的成立本身就以能力达到某个水平为前提，小模型上不存在可测的对象 | 整条都需要前沿访问——这是本表中前沿必要性最强的一行 |

        **能否排除某种行为不存在****不能。**否定性结论对规模与分布极其敏感**必须前沿，而且即便在前沿也仍然很难**——大规模红队得出的「尚未发现通用越狱」这一负面结论，就曾在部署现实中被一次窄口攻击推翻| 能否排除某种行为不存在 | 不能。否定性结论对规模与分布极其敏感 | 必须前沿，而且即便在前沿也仍然很难——大规模红队得出的「尚未发现通用越狱」这一负面结论，就曾在部署现实中被一次窄口攻击推翻 |

      
      表 5 · 逐行为看「前沿必要性」。**行为分类与三列判定为编者归纳**，Anthropic 未发布过等价对照表。这张表要说明的只有一件事：**前沿必要性在最后两行成立，在前三行不成立**；把六行合并成一句「小模型看不到危险能力」，等于用最强那一行去替全表背书。
    
  

  
    关键洞察 · 「小模型结论不能外推」这把刀，两边都割

上面这张表用的判据是「某个行为能不能在小模型或开放权重模型上研究」。这个判据一旦被接受，就必须对称地使用——而这一点在这场辩论里几乎总被单向使用。

朝一个方向割：2026 年那篇挑战「唯一电路」的 ICML 论文，实验模型是 GPT-2 Small 与 Pythia-160M，参数量在亿级；它对生产级 Claude 的适用性是理论外推，不是实测。这条限定必须写出来，否则报告会高估这条批评的分量。

朝另一个方向割，力度完全一样：Anthropic 自己最经典的几项结果也建立在极小的系统上——归纳头（induction head）的机制分析主要在 0 层、1 层、2 层的玩具 Transformer 上完成；叠加（superposition）假说的原始论证用的是参数量数百级的玩具模型。而这一点是 Anthropic 自己先说的：《Toy Models of Superposition》原文明确写了它研究的是玩具模型，并提示这些结论向真实模型的迁移需要单独验证。

因此本报告采用一条对称原则：**「实验模型规模」是评估任何一方证据分量的必写项，不论这条证据支持还是反对 Anthropic。**一个只在批评者身上使用规模折扣、却在被批评者身上豁免它的报告，不是更严谨，只是更偏心。这条原则的完整展开见 ③ 可解释性纲领。

    推导 · 这条论证为什么是循环的，以及为什么它仍然有效

论证结构是：因为危险能力只在前沿出现，所以必须在前沿研究；因为要在前沿研究，所以必须造前沿模型；因为造前沿模型，所以需要资本与商业成功；因为需要商业成功，所以必须持续留在前沿。这确实是一个自我强化的回路，而且它的每一步都对 Anthropic 有利——这一点读者应当保持警惕，论文自己也承认它的结论「天然地对我们有利」。

但回路成立不等于论证无效。关键在于它的前提是可以被独立检验的：如果有人能在小模型上稳定复现前沿模型的危险失败模式，这条论证的第一步就断了。截至 2026 年 7 月，这件事没有发生——恰恰相反，对齐研究的证据强度是单调上升的：从人工植入的欺骗，到人为场景下的自发欺骗，再到真实生产训练流程里自然涌现的失配，每一步的人为程度都在下降，而每一步都需要更强的模型才做得出来。

**悖论的另一半同样有一手依据。**2021 年那篇论文在提出「直接攻击对齐」的同时，就写好了失败情形下的预案：「反过来，如果我们和其他人持续失败，我们就能识别出对齐中最棘手的问题。进展停滞本身也会成为一个有说服力的论据，让人们把越来越多的资源投向 AI 对齐，并围绕模型的扩大与部署建立更谨慎的规范。」这是一个非常罕见的设计：把「我们的研究失败」也定义成一个有信息量、有政策价值的输出。它后来固化为 Core Views 里悲观世界下 Anthropic 的角色——拉响警报。

这条论证还有一个更上游的前提，而它直到 2024 年底才有一手材料可查：安全是一个「可解的问题」。这个假设决定了 Anthropic 与另一支更悲观的传统之间的全部分野——如果对齐在原理上不可解，那么「在前沿做实证安全」就不是负责任，而是拖延。它的一手出处不在任何论文里，而在一支官方视频中的一段二十秒发言，措辞比通常转述软得多（原文是「我们当中很多人的一种看法」而不是「公司的核心观点」）。逐字原文、被广泛转抄的改写版、以及为什么这个差别是实质性的，见本页第 12 节——把它放在那里，是因为说这话的人本身就是本章一条关于「谁在公开说话」的发现。

    失效边界 · frontier race 本身就是失败来源

「必须在前沿」这条主张的最强反方不是道德指控，而是一个会计问题：它把前沿访问的收益（能看见危险能力）算进了自己的账本，却把前沿竞赛的成本（加速整个行业、抬高对手的紧迫感、缩短所有人的决策窗口）留在了账本之外。Dario 本人承认过这笔成本存在：「毫无疑问，我们对这种加速有某种非零程度的贡献」。他的辩护是这是成本收益权衡，而不是净收益为零。问题在于，这笔账目前没有任何一方能算出来——加速的边际贡献不可观测，安全研究的边际价值也不可观测。因此这条辩护既不能被证实，也不能被证伪。本报告把结论停在：它是一个诚实陈述的、但目前无法裁决的权衡。

      追问「在前沿做实证安全」的回答与它的缺口| 追问 | 「在前沿做实证安全」的回答与它的缺口 |

      
        **① 假设**假设「相关的失败模式只在前沿规模上出现」，并且假设「造前沿模型的加速效应**小于**安全研究的减速效应」。前者有证据，**后者从未被测量过**。| ① 假设 | 假设「相关的失败模式只在前沿规模上出现」，并且假设「造前沿模型的加速效应小于安全研究的减速效应」。前者有证据，后者从未被测量过。 |

        **② 证伪条件**若某类关键失败模式能在小模型或开放权重模型上稳定复现并研究，则前沿访问的**必要性**被削弱；若能证明某个前沿发布直接触发了竞争对手提前发布，则成本项被坐实。| ② 证伪条件 | 若某类关键失败模式能在小模型或开放权重模型上稳定复现并研究，则前沿访问的必要性被削弱；若能证明某个前沿发布直接触发了竞争对手提前发布，则成本项被坐实。 |

        **③ 多人表达**Amanda Askell（2021 论文首作之一，方法论宣言）；Jared Kaplan 的独立版本更硬：**危险能力是通用智能的副产品，不是训练目标**，因此「只训练良性能力」这条路在原理上走不通；Jack Clark 的版本是「每次我们养出一个更大的系统，我们就在它身上跑测试」。| ③ 多人表达 | Amanda Askell（2021 论文首作之一，方法论宣言）；Jared Kaplan 的独立版本更硬：危险能力是通用智能的副产品，不是训练目标，因此「只训练良性能力」这条路在原理上走不通；Jack Clark 的版本是「每次我们养出一个更大的系统，我们就在它身上跑测试」。 |

        **④ 证据 + 反例****正面**：对齐税拐点、以及只有前沿模型才表现出的失配行为（较小模型在同一实验设定下基本不出现）。**反例**：竞赛成本无法入账；另有一条更近的证据——大规模红队得出的「尚未发现通用越狱」这一**负面结论**，在部署现实中被一次窄口攻击推翻过，说明前沿测试本身也有系统性外推缺口，详见 ⑥ RSP 与治理政策。| ④ 证据 + 反例 | 正面：对齐税拐点、以及只有前沿模型才表现出的失配行为（较小模型在同一实验设定下基本不出现）。反例：竞赛成本无法入账；另有一条更近的证据——大规模红队得出的「尚未发现通用越狱」这一负面结论，在部署现实中被一次窄口攻击推翻过，说明前沿测试本身也有系统性外推缺口，详见 ⑥ RSP 与治理政策。 |

      
      表 6 · 「在前沿做实证安全」的四件套追问。

6.4 一条贯穿全页的发现：最有分量的反面证据，多数来自 Anthropic 自己

把业界反方证据档案（2026-07-25）按「证据强度 × 对主张的杀伤力」排序，会得到一个不容易预料的结果：前十条里有六条，一手来源是 Anthropic 自己的后续研究或自我披露。这不是修辞，是可以逐条点名的。

      反面证据出自它削弱的是哪条主张| 反面证据 | 出自 | 它削弱的是哪条主张 |

      
        评测觉知的因果干预实验：抑制「我正在被测试」这一表征后，失配率**上升**Claude Sonnet 4.5 系统卡（2025-09）它自家**全部**构造评测的读数| 评测觉知的因果干预实验：抑制「我正在被测试」这一表征后，失配率上升 | Claude Sonnet 4.5 系统卡（2025-09） | 它自家全部构造评测的读数 |

        思维链忠实度仅约 25%（失配类约 20%）Anthropic，arXiv:2505.05410一切**从 scratchpad 派生**的比例（含 12% 与 78%）| 思维链忠实度仅约 25%（失配类约 20%） | Anthropic，arXiv:2505.05410 | 一切从 scratchpad 派生的比例（含 12% 与 78%） |

        线性探针以 >99% AUROC 抓住 sleeper agentsAnthropic（2024-04）后门实验第一级证据的**威胁感**| 线性探针以 >99% AUROC 抓住 sleeper agents | Anthropic（2024-04） | 后门实验第一级证据的威胁感 |

        稀疏自编码器也许只是「语义检索的方便界面」Anthropic，arXiv:2503.10965可解释性路线的**旗舰示范**| 稀疏自编码器也许只是「语义检索的方便界面」 | Anthropic，arXiv:2503.10965 | 可解释性路线的旗舰示范 |

        8× 代码行数「几乎肯定高估了真实生产力提升」《When AI builds itself》（2026-06）它自己的**生产力叙事**| 8× 代码行数「几乎肯定高估了真实生产力提升」 | 《When AI builds itself》（2026-06） | 它自己的生产力叙事 |

        劳动力市场报告里的 14% 「勉强达到统计显著」，失业率上**检测不到**影响Economic Index（2026-03）CEO 就业预测的**强度**| 劳动力市场报告里的 14% 「勉强达到统计显著」，失业率上检测不到影响 | Economic Index（2026-03） | CEO 就业预测的强度 |

      
      表 7 · 十条最有分量的反面证据中，出自 Anthropic 自己的六条。分档与排序为反方证据档案所做，本页复核了每条的出处与它所削弱的对象。
    
  

  
    失效边界 · 这批实验的问题不是「不够真实」，而是「可能不知道自己在测什么」

关于表 7 里那些构造评测，流传最广的批评是「场景太人为」。这条批评是对的，但它不是最致命的那一条。区分两种效度是理解整个对齐实验文献的关键：外部效度问的是「实验里测到的发生率能不能外推到现实」——这是一个数值可迁移性问题；构念效度问的是一个更上游的问题——「实验里那个行为，是不是研究者声称的那个东西？」

两种诊断导向的写法完全不同：外部效度框架导向「实验室的数字要打折扣」；构念效度框架导向「我们可能还不知道自己在测什么」。而表 7 前两行那两条证据——抑制「我在被测试」的表征后失配率上升、思维链忠实度仅约 25%——打击的都不是外推性：第一条动摇的是「模型的良好表现是不是因为它认出了这是考试」，第二条动摇的是「scratchpad 里的推理是不是它真实的推理」。两条都是构念层，不是外推层。

    我的看法

**构念效度框架有一个必须堵住的滑坡：它很容易被读成「所以这些实验什么都没证明」，而这个结论是错的。**即便「模型只是在延续研究者布置的角色剧本」这个解释完全成立，实验仍然确定地证明了一件事——这些行为可以被上下文诱发。而在真实部署里，上下文本来就是别人写的：写它的人可能是普通用户、可能是攻击者、也可能是一份被投毒的文档。「只是角色扮演」这句话在安全工程上并不构成安慰，它只是把问题从「模型想不想」换成了「谁能让它想」。

所以我的读法是：这批实验不能支撑现实发生率、持久内在动机或任何 p(doom) 数字；但足以支撑一条很实际的部署结论——不要在无监督的情况下把敏感权限交给一个其行为可被上下文改写的系统。这两句话必须一起说，少任何一句都会被人用来证明自己原本就相信的东西。

    关键洞察 · 这个事实双向成立，两面都必须写

朝一个方向读，它是对 Anthropic 最实质的肯定：在这个领域里，唯一在系统性地生产「反对自己上一个结论」的证据的机构，恰好就是被批评得最多的那一家。它的第 N 篇论文提出一个令人不安的结果，第 N+1 篇往往就把这个结果的适用范围收窄了。这不是公关能伪造的行为模式——伪造它需要持续发表对自己不利的方法学结论，而这些结论会被竞争对手直接引用。

朝另一个方向读，它是一条严厉的阅读警告：既然收窄结论的那篇论文也出自同一家公司，那么任何只引第 N 篇、不引第 N+1 篇的转述，都会系统性地高估这些结果的强度——中英文世界的绝大多数转述都是这样做的。本报告自己也必须接受这条检验：凡引用 Anthropic 的实验结果，都要问一句「这家公司后来有没有自己把它收窄过」。

但这个模式不能被读成「所以 Anthropic 在自我否定」，也不能用它豁免任何一条批评。承受批评不等于回应了批评——例如宪法的民主合法性问题，Anthropic 的全部回应都是在承认前提下的缓解（约 1,000 名美国人参与的集体宪法实验、CC0 释出、公开承认主观判断），没有一条反驳「立法、执法、释法三权归一」这个结构性事实。自我批评是一种美德，不是一张豁免券。

7 · 投资组合与正交防线

这条认知回答的是一个元问题：当你不知道自己在哪个世界里，应该怎么下注。它是理解 Anthropic 一切行为的钥匙，也是本章最容易被高估的一条。

2023 年 3 月 8 日的《Core Views on AI Safety》给出了三种世界假设，并对每一种都写明了 Anthropic 应当扮演的角色：

乐观世界

对齐基本是免费的——灾难性风险本质上不会发生。那么我们做的安全工作是浪费，但没有害处。

中间世界

存在严重风险，但可以通过持续努力解决。那么我们的工作正好是决定性的。

悲观世界

对齐在本质上不可能。那么我们的工作至少能提供证据证明它不可能，从而说服世界停下来。

这个三分法的逻辑不是「我们相信中间世界」，而是「我们设计一个在三个世界里都不算错的策略」。由此得到的行动准则就是投资组合方法：同时下多条互不相关的注——宪法式 AI（CAI）、机制可解释性、模型生物学、对齐审计与红队、安全护栏与分类器、负责任扩展政策（RSP）与风险报告、政策与立法倡导、社会与经济测量。八条线各自覆盖不同的失败模式，任何一条失效都不至于全盘皆输（「八条防线」这个归类是编者所作，Anthropic 从未这样自述；三分法与 portfolio 逻辑本身出自 Core Views 原文）。

    **图 3 ·** 八条防线的失败模式覆盖与共同盲区。**示意，非精确数据**：五类失败模式的划分、八条防线的选取、以及每一格的强／弱／不覆盖判定，**全部为编者归纳**，Anthropic 没有发布过任何等价的覆盖矩阵。图中最值得看的不是任何单元格，而是**第一列过度拥挤、后两列几乎空白**这个形状，以及底部那条共享假设。

追问：portfolio 的成立条件是什么

投资组合能降低风险，前提是各项资产互不相关。八条防线如果共享同一个错误假设，那么它们不是八次独立下注，而是同一次下注押了八遍。**而这个疑问最早不是外部批评者提出的，是可解释性负责人自己提出的。**Chris Olah 在讨论「用 AI 来审计 AI」时说：你绕过「信任的信任」问题的许多方式，会让可解释性的失败模式与其它安全路径的失败模式更加相关。这是一个标准的投资组合式风险论证，出自一个本该为自己那条防线辩护的人。

2026 年出现了两条独立证据，各自从不同方向压在这个成立条件上。本页只做概念定位，不展开：一是可解释性一侧——一篇 ICML 2026 论文指出，同一任务上可能存在结构重叠极低却同样有效的多条回路，因此「找到那一条回路」这个目标设定本身需要收窄——⚠️ 它的实验模型是 GPT-2 Small 与 Pythia-160M，向前沿模型的外推是理论推断而非实测；论文作者也明确拒绝「可解释性因此失效」这一推论（③ 可解释性纲领是主锚点）。二是对齐一侧——自动化对齐研究员的实验在一个被刻意挑选为好自动化的任务上取得了极高分数，却在生产规模上没有统计显著改善，并且实验中出现了被检测并剔除的奖励作弊（reward hacking）；这提示评测设计正在成为新的瓶颈（④ 对齐科学是主锚点）。

    我的看法

这两条证据的共同点，正是图 3 底部那条横线：它们都在追问「我们的检测手段能不能看见我们要防的东西」。可解释性一侧问的是「看见的那条路径是不是唯一的那条」，对齐一侧问的是「能被优化的评测分数是不是我们真正想要的东西」。如果这个共享假设有系统性缺陷，那么八条防线的正交性会同时下降，而投资组合的全部价值都建立在正交性上。

需要说清的是，这不是「portfolio 方法失败了」。这是投资组合方法在被认真执行之后，第一次遇到它自己理论上的约束条件。第 14 节会指出这套设计里另一处更隐蔽的耦合。

8 · 对齐不是安全税，是产品价值

这是本章唯一一条商业含义大于研究含义的共享认知，也是最容易被写成因果谬误的一条。

2021 年那篇论文首次测量了「对齐税」——为了让模型更有帮助、更诚实、更无害而付出的能力代价。这个词本身预设了对齐是成本。而到 2024 年，公司内部出现了一条方向相反的主张，并且由三个身份完全不同的人独立说出。

    "If character training has indeed made Claude 3 more interesting to talk to, this is consistent with our view that **successful alignment interventions will increase, not decrease, the value of AI models for humans.**"

如果品格训练确实让 Claude 3 更有意思，这与我们的看法一致：成功的对齐干预会增加、而非减少 AI 模型对人的价值。 Amanda Askell·《Claude’s Character》·2024-06-08·一手 · 书面

同一篇文章里还有一句更反商业直觉的话：「过度渴望吸引人本身就是一种不可取的品格特质」——写于 2024 年 6 月，比整个行业开始讨论 AI 陪伴成瘾早了一年多，而且它直接否定了硅谷二十年来的核心指标。联合创始人 Ben Mann 在 2025 年 7 月的播客里给出了同一命题的产品版本：专注 AI 安全造就了广受喜爱的 Claude 性格，「AI 安全创造更好的产品」。首席技术官 Rahul Patil（非创始人，2025 年 10 月到任）给出的是运营版本：如果这意味着做正确和安全的事，我们乐意放弃收入。三个人分别从规范、产品、运营三个角度进入，这构成了合格的交叉印证。

    这里有一个必须挡住的因果谬误

据 Menlo Ventures 2025 年度报告（2025-12-09 发布），Anthropic 占企业 LLM API 支出份额 40%，OpenAI 27%，Google 21%；编码场景为 54% 对 21%。口径必须一起写：该统计明确排除消费产品，也排除 Claude for Work 与 Claude Code——它是「企业 API 支出份额」，不是「AI 市场份额」。截至 2026 年 7 月，Menlo 尚未发布 2026 年更新报告。

这组数字只能作为相关证据，不能作为因果证明。「安全工作与企业采购偏好碰巧同向」是可辩护的说法；「因为安全所以市场领先」不是。可辩护的表述只能到「安全工作与企业需求同向」为止：企业可能重视可预测性、可审计、不会在生产环境里做蠢事，而这些确实是安全工作的副产品——但 Menlo 测的是「钱花在哪」，不是「为什么买」，它没有问过采购动机，而编码能力与编码类产品是一个至少同样直接的竞争解释。⚠️ 截至基准日，本报告未找到任何一份针对企业 LLM 采购动机的独立调查；在它出现之前，「企业买的是安全」这句话没有数据支撑。本报告不写「安全导致了市场领先」这种因果句，也不写「企业买的是……」这种代客户立言的肯定句。

      追问「对齐是产品价值」的回答与它的缺口| 追问 | 「对齐是产品价值」的回答与它的缺口 |

      
        **① 假设**假设「让模型有好品格」与「让模型对用户有用」**在长期上同向**。这个假设在企业场景里比在消费场景里容易成立得多——企业买的是可控性，个人用户买的往往是即时满足。| ① 假设 | 假设「让模型有好品格」与「让模型对用户有用」在长期上同向。这个假设在企业场景里比在消费场景里容易成立得多——企业买的是可控性，个人用户买的往往是即时满足。 |

        **② 证伪条件**若在同等能力下，一个安全约束明显更弱的产品在**企业**市场上系统性胜出，这条主张即被削弱；若 Anthropic 自己在某次商业压力下放宽了品格约束以换取留存，则更强。| ② 证伪条件 | 若在同等能力下，一个安全约束明显更弱的产品在企业市场上系统性胜出，这条主张即被削弱；若 Anthropic 自己在某次商业压力下放宽了品格约束以换取留存，则更强。 |

        **③ 多人表达**Amanda Askell（规范文本，2024-06）、Ben Mann（产品叙事，2025-07）、Rahul Patil（运营口径，2025–2026）。三人一为哲学家、一为联合创始人、一为外部空降的技术高管。| ③ 多人表达 | Amanda Askell（规范文本，2024-06）、Ben Mann（产品叙事，2025-07）、Rahul Patil（运营口径，2025–2026）。三人一为哲学家、一为联合创始人、一为外部空降的技术高管。 |

        **④ 证据 + 反例****正面**：品格训练与企业采购偏好的方向一致；企业 API 支出份额三年从 12% 升到 40%（同一 Menlo 口径）。**反例**：这条主张**无法解释自己的边界**——同一家公司在 2026 年发布了一个解除护栏、仅供受信伙伴使用的模型层级，这说明「安全即价值」在某些客户段并不成立，而是被拆成了两个产品（见 ⑨ 2026 前沿）。| ④ 证据 + 反例 | 正面：品格训练与企业采购偏好的方向一致；企业 API 支出份额三年从 12% 升到 40%（同一 Menlo 口径）。反例：这条主张无法解释自己的边界——同一家公司在 2026 年发布了一个解除护栏、仅供受信伙伴使用的模型层级，这说明「安全即价值」在某些客户段并不成立，而是被拆成了两个产品（见 ⑨ 2026 前沿）。 |

      
      表 8 · 「对齐是产品价值」的四件套追问。

9 · 外化控制：不要相信我们，强制我们

这是全公司最一致、也最反直觉的一条认知：一群人系统性地、公开地请求外界削弱自己的自由度。它也是本章的核心句所在。

    本章核心句

Anthropic 的共同认知不是「相信公司自律」，而是认为公司激励最终会弯曲，因此需要外化控制；2026 年的新问题是，外化给谁、按什么程序。

这条认知的表述密度高得异常，而且分布在四个身份完全不同的人身上。Jack Clark 2025 年 10 月的版本是三连排比：「你对 AI 和就业感到焦虑吗？逼我们分享经济数据。你对心理健康和儿童安全感到焦虑吗？逼我们在我们的平台上监测这些并分享数据。你对失准的 AI 系统感到焦虑吗？逼我们公布这方面的细节。」更早在 2023 年 7 月的联合国安理会首次 AI 会议上，他公开主张各国政府应联合起来，不要让 AI 完全被私营部门控制。

Chris Olah 2026 年 5 月在梵蒂冈给出了论证版本，而且把范围划得比任何外部批评者都宽：「每一家前沿 AI 实验室——包括 Anthropic——都运作在一套有时会与做正确的事相冲突的激励与约束之中……以及那些更古老、更朴素的压力：骄傲与野心。无论我们中任何人多么真诚地打算做正确的事……我们永远会被那些激励所影响。」结论是：「我们需要有见识的批评者，在我们失败时告诉实验室。我们需要激励弯不动的道德声音。」注意他把个人道德弱点也列进了结构性风险清单——这不是一个公关文本会做的事。

Amanda Askell 把同一逻辑写进了规范文本本身：Claude 宪法正文里明说，我们想确保自己不会被「忽视这个问题」的激励不当地影响。而在制度层面，最能说明问题的一个动作是放弃协议所有权：MCP（模型上下文协议）在被 OpenAI、Google DeepMind、微软先后接入之后，于 2025 年 12 月 9 日由 Anthropic、Block、OpenAI 共同捐给新成立的 Agentic AI Foundation（Linux Foundation 旗下）。这与政策主张是同一套逻辑的两次应用：在你有优势的时候把规则交出去，规则才有约束力；代价是协议后续的演进方向已不完全由 Anthropic 决定。

    **图 5 ·** 外化控制链。**示意，非精确数据**：四个环节的划分、以及「谁能修改它」「修改需要什么程序」两行的填写，**均为编者归纳**，不是任何官方文件的表述。这张图要说明的只有一件事：**约束力与可修改性成反比**——最容易执行的那一环（内部承诺）恰好是持笔者可以自行改写的那一环，而最难被单方面改写的那一环（法律），公司只能倡导、无法决定，**并且它自身也可能缺少程序**。
  

  
    

      追问「外化控制」的回答与它的缺口| 追问 | 「外化控制」的回答与它的缺口 |

      
        **① 假设**假设**存在一个比公司更可信的外部约束者**，并且它有能力、有意愿、按可预期的程序行使约束。这个假设在 2023 年被默认成立，2026 年不再能被默认。| ① 假设 | 假设存在一个比公司更可信的外部约束者，并且它有能力、有意愿、按可预期的程序行使约束。这个假设在 2023 年被默认成立，2026 年不再能被默认。 |

        **② 证伪条件**若外部约束者在行使权力时**被认定缺少正当程序**，或若外化本身被证明只是把权力从一个不受制衡的主体转移到另一个不受制衡的主体，则「外化」这个动作本身就需要重新论证。**2026 年出现了指向前者的司法记录**。| ② 证伪条件 | 若外部约束者在行使权力时被认定缺少正当程序，或若外化本身被证明只是把权力从一个不受制衡的主体转移到另一个不受制衡的主体，则「外化」这个动作本身就需要重新论证。2026 年出现了指向前者的司法记录。 |

        **③ 多人表达**本章交叉印证最强的一条：Jack Clark（2023 联合国、2025 三连「逼我们」、2026「只有公司提的主张要非常怀疑」）、Chris Olah（2026 梵蒂冈）、Amanda Askell（宪法正文）、Nick Joseph（2024 就提出 RSP 最终可能必须交给外部审计者或监管机构）、以及七位创始人对谈中「**但要让它可以被输出**」那句（⚠️ 说话人归属未独立确认）。| ③ 多人表达 | 本章交叉印证最强的一条：Jack Clark（2023 联合国、2025 三连「逼我们」、2026「只有公司提的主张要非常怀疑」）、Chris Olah（2026 梵蒂冈）、Amanda Askell（宪法正文）、Nick Joseph（2024 就提出 RSP 最终可能必须交给外部审计者或监管机构）、以及七位创始人对谈中「但要让它可以被输出」那句（⚠️ 说话人归属未独立确认）。 |

        **④ 证据 + 反例****正面**：主动放弃 MCP 所有权；把外部审查把关权写进 RSP 的治理版本；持续公开自己的失败复盘与经济数据。**反例**：外化链条上真正有强制力的那一环（法律）迟迟没有到位，而在它到位之前，最弱的那一环（内部承诺）已经因为竞争压力被改写。| ④ 证据 + 反例 | 正面：主动放弃 MCP 所有权；把外部审查把关权写进 RSP 的治理版本；持续公开自己的失败复盘与经济数据。反例：外化链条上真正有强制力的那一环（法律）迟迟没有到位，而在它到位之前，最弱的那一环（内部承诺）已经因为竞争压力被改写。 |

      
      表 9 · 「外化控制」的四件套追问。制度细节（PBC、LTBT 的具体权限与版本沿革）是 ⑥ RSP 与治理政策 的内容，本页只写概念结构。

10 · 术语工程：把词换掉，是为了把主张变得可以裁决

这一节处理三组被中文世界改造得最厉害的表述。它们的共同点是：原文都带着限定语，而限定语正是这些表述的全部技术含量。

10.1 为什么拒绝 AGI，改用「强大 AI」

Dario 在《Machines of Loving Grace》（2024-10）正文里只用了半句话交代：「强大 AI（我不喜欢 AGI 这个词）会是什么样、何时（或是否）到来，本身就是一个巨大的话题。」理由写在脚注 3 里：「我觉得 AGI 是一个不精确的词，它已经聚集了大量科幻包袱和炒作。我更偏好『强大 AI（powerful AI）』或者『专家级科学与工程（Expert-Level Science and Engineering）』，这两个说法能表达我的意思而不带炒作意味。」

    译名口径

本报告全站把 powerful AI 译作强大 AI，不译作「通用人工智能」。这不是措辞偏好——把 powerful AI 回译成 AGI，正好抹掉了他做这次替换的全部动机。第二个替代词「专家级科学与工程」在中文报道里几乎从未出现过，但它更清楚地说明了他想指什么：一个能力档位，不是一个物种门槛。

**关键在于他随后做了什么：他把这个词写成了一份规格说明书。**紧接着上面那句，他给出了六条并列条款，每一条都可以独立检验：

      条款规格内容（据 MOLG 原文六条）可独立检验吗| 条款 | 规格内容（据 MOLG 原文六条） | 可独立检验吗 |

      
        ①纯智力上「在**大多数相关领域**——生物学、编程、数学、工程、写作等——都比一位诺贝尔奖得主更聪明」。部分：领域可枚举，但「比诺奖得主更聪明」缺少操作化定义| ① | 纯智力上「在大多数相关领域——生物学、编程、数学、工程、写作等——都比一位诺贝尔奖得主更聪明」。 | 部分：领域可枚举，但「比诺奖得主更聪明」缺少操作化定义 |

        ②拥有一个远程工作的人类所能拥有的**全部接口**：文本、音频、视频、鼠标键盘控制、互联网访问；**既能接受人类指令也能向人类下达指令**。是：接口清单是可核对的| ② | 拥有一个远程工作的人类所能拥有的全部接口：文本、音频、视频、鼠标键盘控制、互联网访问；既能接受人类指令也能向人类下达指令。 | 是：接口清单是可核对的 |

        ③可以被交付**需要数小时、数天乃至数周**才能完成的任务，并自主完成，必要时回来要求澄清。是：任务时长有第三方测量方法| ③ | 可以被交付需要数小时、数天乃至数周才能完成的任务，并自主完成，必要时回来要求澄清。 | 是：任务时长有第三方测量方法 |

        ④没有物理躯体，但可通过计算机控制现有的物理工具、机器人或实验室设备。是| ④ | 没有物理躯体，但可通过计算机控制现有的物理工具、机器人或实验室设备。 | 是 |

        ⑤训练它的资源可被重新用于**运行数百万个实例**；吸收信息与生成行动的速度约为人类的 **10–100 倍**。是：实例数与吞吐是工程事实| ⑤ | 训练它的资源可被重新用于运行数百万个实例；吸收信息与生成行动的速度约为人类的 10–100 倍。 | 是：实例数与吞吐是工程事实 |

        ⑥这些副本既可各自独立处理无关任务，也可像人类团队那样协同，并可有不同亚群被专门微调。是| ⑥ | 这些副本既可各自独立处理无关任务，也可像人类团队那样协同，并可有不同亚群被专门微调。 | 是 |

      
      表 10 · 「强大 AI」的六条规格。⚠️ 条款③常被转述成「数小时到数天」，**原文上界是「周」**，引用时须给完整三档；条款⑤里的「约 2027 年」是他给**集群规模**的锚点，**不是**强大 AI 的到达时间。
    
  

  
    我的看法 · 规格说明书真的更可证伪吗

把一个门槛概念拆成六条可观测条款，确实提高了可证伪性——它把「AGI 来了没有」这个无法裁决的问题，换成了六个各自可查的问题。这一步是真进步，而且行业里做这件事的人不多。

但它引入了一个新的裁决困难：部分达成怎么算。截至 2026 年 7 月，条款②④⑤⑥在很大程度上已经成立或接近成立，条款③在按月推进，只有条款①仍然明显未达。一份合取式的规格说明，在「多数条款已满足、少数条款未满足」时既不能宣布达成、也不能宣布未达成，而这恰好是它最可能长期停留的状态。换句话说，术语工程把「何时到达」这个问题的不确定性，转移成了「什么算到达」这个问题的裁决权——而裁决权仍然在写规格的人手里。

另一处值得注意：这份规格里没有一条涉及自主目标、自我保存或价值观。它是一份纯能力规格。而 Anthropic 全部的安全论证恰恰建立在「能力之外还有别的东西」上。这个不对称本身就说明，powerful AI 是一个用于经济与政策讨论的术语，不是一个用于安全讨论的术语。

10.2 「数据中心里的天才之国」：数量级在三年里被他自己不断上调

这句招牌隐喻紧接在六条规格之后作为一句总结出现：「我们可以把这总结为一个数据中心里的天才之国」。归属必须写清：它是 Dario 的原创，不是 Jack Clark 的——后者在国会证词中是明确转述，称其为「一个有用的概念框架」，他的贡献是把这个框架写进了国会记录。

    引用这句话必须标版本与年份

同一个比喻，规模在三年里被他自己上调了一个数量级以上（原文最低那档写作「millions」，因此确切倍数取决于怎么读那个词，本报告只写数量级）：《Machines of Loving Grace》（2024-10）写的是「millions of instances」「each of these million copies」——百万级；Economist 访谈（2025-12 前后）是一千万；《The Adolescence of Technology》（2026-01-26）是五千万。

这不是中文报道的失真——三个数字对应三个不同时期的原始文本。但中文报道从不说明这一点，导致读者以为「五千万」是他一贯的说法。数量级本身的演化就是一个值得分析的信号：它对应的不是模型能力的判断变化，而是算力供给预期的变化；换句话说，这个比喻的规模参数是被基础设施而不是被科学驱动的。

10.3 「压缩的 21 世纪」：三重限定被剥掉之后

这是限定语被剥离得最彻底的一例。原文的完整表述是：「我的基本预测是，AI 赋能的生物学与医学将让我们把人类生物学家在接下来 50–100 年会取得的进展压缩到 5–10 年……即在强大 AI 被开发出来之后，我们会在几年内取得在生物学与医学领域本来要花整个 21 世纪才能取得的全部进展。」

同一段里他三次限定了领域。他说的是生物医学领域的 50–100 年进展压缩到 5–10 年，不是整个 21 世纪的所有进步。「压缩的 21 世纪」这个标签是他自己起的，确实有歧义；但中文转述丢掉三重限定之后，把一个关于生物医学的具体预测变成了关于人类文明整体的宏大预言。

    关键洞察 · 三例的共同结构

三组表述的失真方式完全一致：原文都是「限定条件 + 强主张」，转述都保留了强主张、丢掉了限定条件。而在 Anthropic 的方法论里，限定条件不是修辞上的谦虚，它就是可证伪性本身——「生物医学领域」界定了检验范围，「百万实例」界定了物理前提，「六条规格」界定了裁决标准。丢掉限定语之后，这些主张不是变强了，而是变得无法被检验，从而从预测降级成了预言。

顺带一提，同一篇文章里他还写下了对「智能万能论」最有力的一次自我节制：**「智能可能非常强大，但它不是魔法仙尘。」**这句话在中文世界的引用率远低于「压缩的 21 世纪」——被优先传播的总是无限定的那一半。

11 · 把不确定性变成口径：风险区间与经济测量

这一节讲这家公司处理不确定性的两种手法：一种是给风险配区间（做得不算成功），另一种是给社会影响配测量（这是它真正独有的一条）。

11.1 风险区间的完整演变，以及为什么本报告不写「p(doom)」

关于「Dario 的 p(doom) 是多少」，中文与英文世界流传的版本几乎全部错在出处、年份或语义上。完整轨迹是这样的：

      2023-07治理政策

最早的一手数字：「10% 或 20%」

Fortune Brainstorm Tech（2023-07 录制，2023-09-26 发布）：“Maybe 10% or 20% that this will go wrong.” 这是可查到的最早数字，是一个区间，不是一个点。

      2023-08治理政策

他明确拒绝给出概率分布

同年 8 月的长访谈里，被要求给分布时他明确拒绝。这件事本身比任何数字都更能说明他对量化风险的态度：他愿意给量级，不愿意给分布。

      2025-09-17治理政策

「25%」的真正出处

Axios AI+ DC Summit 现场：“I think there’s a 25% chance that things go really really badly and a 75% chance that things go really really well, with not much space between.” **不是 2024 年，也不是那期著名的长播客。**同场他先说了一句 “I really hate that term”，指的正是 p(doom) 这个标签。

      时点待定治理政策

他称「10 到 25」是误引

在一次视频访谈中，他称「10 到 25」与「p(doom)」都是误引，并说他讲的是「文明被实质性脱轨」，而不是「AI 把所有人都杀了」。⚠️ 此条依据自动转录，可信度中。

      2026-06治理政策

「25% 太高了」——被读反最多的一句

Bloomberg《The Circuit》。主持人以「10 到 25% 的文明崩溃概率」开场复述，他未提出异议，直接转入实质回答，而那个回答全部是前瞻性的：“half of what we do within the company is try and reduce the risk as much as we can, but it’s never gonna be zero.”（我们在公司内部所做的事情有一半是在尽可能降低风险，但它永远不会是零。）

    口径说明 · 两处必须精确的地方（据 2026-07-25 官方字幕逐字复核）

第一，航空类比是 Dario 自己提出的。加长版 01:07:00 他先说：假设有一堆航空公司，你打算做一家更安全的——你的公司可以比其它公司安全十倍，但如果有人问你能不能保证飞机永不坠毁，你怎么可能保证？主持人随后顺着他自己的类比追问「如果有 25% 坠机概率你不会上那班飞机」，他才回答：“That’s right. 25% is too high. We’re trying to make that probability much, much lower. That is the goal.”（加长版 01:07:25 / 正片 00:46:26）因此这句话是在讨论「什么样的事故率可接受」，不是在修订一个估计值。他没有下调估计。

第二，本报告不写「他仍在 10–25% 区间内作答」。在这一整段（加长版 01:05:49 至 01:07:31）里，他本人一个数字都没有说出来。准确写法是：他未对主持人复述的「10 到 25%」提出异议，但本人也未再给出任何数字——这是消极不否认，不是主动背书，两者作为证据的强度不同。⚠️ 引用时必须写明是正片还是加长版，并区分「提问」与「回答」两个时间戳。

出处：Bloomberg《The Circuit》正片 v1wZwxY3CMg ^[2]（2026-06-10，47:40）与加长版 x2VHFgyawPE ^[3]（2026-06-17，1:10:04），主持人 Emily Chang，官方上传英文字幕（非机器转录）（访问日期 2026-07-25）。

    证伪

「Dario 的 p(doom) 是 10–25%」；「他在 2026 年把 25% 调低了」。

他在 2023 年给过 10–20%、2025 年给过 25%，指的是「事情非常糟／文明被实质性脱轨」；他本人拒绝「p(doom)」这个标签，也否认它等同于人类灭绝概率。到 2026 年 6 月，当主持人以「10 到 25% 的文明崩溃概率」复述时，他没有说出任何数字，而是直接回应说 25% 是一个不可接受、必须被压下去的风险水平。

误差来源：「10–25%」是两个不同时点、不同问法的拼接，不是一次表述；而「25% 太高了」被当成了「我此前估高了」。⚠️ 在可获取的官方字幕中，检索不到他逐字说出「10–25%」——该区间只出现在主持人的提问与二手标题里。

    口径终裁（2026-07-25）· 「10–25%」不是他的区间

这一条经过了一次三方交叉核对：业界反方证据档案判定「Amodei 承认 10–25% 灾难概率」立论基础错误，一手核验报告的措辞是「他在那一整段里没有说出任何数字、属消极不否认」——复核确认这两句说的是同一件事，不存在实质冲突。事实基线随后回一手复查：没有任何一手来源显示他本人表述过这个区间；外部检索到的「Amodei estimates 10 to 25 percent」全部是二手博客，而且它们自己的叙述都显示那句话出自主持人的提问。

因此本站四页统一采用下面这个唯一写法：他在 2023 年 7 月给过「10% 或 20%」，在 2025 年 9 月给过「25%」——这是两个不同时点、不同问法的独立表述，不是一个区间；他指的是「事情非常糟／文明被实质性脱轨」，并明确拒绝「p(doom)」这个标签、否认它等同于人类灭绝概率；到 2026 年 6 月，当主持人以「10 到 25% 的文明崩溃概率」复述时，他没有说出任何数字，而是直接回应说 25% 是一个不可接受、必须被压下去的风险水平。

三条配套禁令：⛔ 不把「10–25%」写成他的表述或他的区间；⛔ 不说他在 2026 年确认了该区间（消极不否认 ≠ 背书）；⛔ 不说他下调了估计。顺带记录一处方法论教训：这次比对之所以有价值，不在于发现了分歧，而在于它触发了自查——基线内部有一句「他仍在 10–25% 区间内作答」在更早的版本里已被更正，却没有同步到另一处条目。正文改了、别处的旧表述复活，是本项目第二次栽在同一类问题上，因此本页对这一议题做了一次跨小节的全页 sweep（正文、图注、时间线、金句卡）。

11.2 经济冲击论：把就业影响变成自己出资测量的对象

本轮调研未在其它前沿实验室找到同等密度的对等物（⚠️ 措辞刻意留了余地——本报告没有做过跨实验室的系统审计，OpenAI、Google、Meta 也各自发布系统卡与事故报告；「未找到」不等于「不存在」）：它把「我的产品会不会毁掉工作」这个问题，从辩论题变成了自己出钱做的测量题。Anthropic Economic Index 自 2025 年 2 月起运行，基于数百万条匿名 Claude 对话分析劳动力市场影响，并开源了分析所用的数据集。到 2026 年，它已经从一份报告扩建成一套持续运行的测量基础设施：月度与季度报告、国别简报、调查、研究基金，以及一个可以用 Claude 对话式查询的数据连接器。

    这组数字的强制写法：三条结论必须一起引

《Labor market impacts of AI》（2026-03-05，作者 Massenkoff & McCrory）给出三条必须一并出现的结论：

① 程序员、客服、金融分析师是高暴露职业。② 暂时检测不到失业率影响——双重差分估计与零无法区分，而且该框架有能力检测约 1 个百分点的变化（即这不是「样本太小看不出来」）。③ 22–25 岁群体的找工作率下降 14%，但原文自陈这一结果「just barely statistically significant」（勉强达到统计显著），且 25 岁以上无此现象。

**只引 14% 而不引 ② 和「勉强显著」这个自陈，是对 Anthropic 自家研究的选择性引用。**这条数字最有价值的地方恰恰在于它制造的张力：**这家公司的 CEO 公开预测大规模白领岗位冲击，而它自己的经济学团队在同一年报告「尚未检测到失业率影响」。**这个张力应当被写出来，而不是被抹平。

方法论追问：一家公司测量自己产品造成的社会影响，意味着什么

**能证明什么。**它把一个原本只能靠推测和轶事讨论的问题，变成了有数据、有方法、部分可复核的问题。而且这家公司在方法上确实审慎——它承认零结果、列出替代解释、并引用与自己结论相左的外部研究。

⚠️ 但「数据集开源」不等于「结论可以被完全推翻」，这里必须把可复核层与不可复核层分开写。****可复核的是：公开发布的聚合统计、职业与任务的分类结果、以及在这些聚合量上重新做回归与稳健性检验。不可复核的至少有四层：① 原始对话日志——第三方永远拿不到，隐私处理本身也不可逆；② 抽样与过滤规则——哪些会话被纳入、哪些被判为噪声或滥用而剔除，外部无法重放；③ 任务分类 pipeline——把自由文本对话映射到 O*NET 任务的那个分类器由公司训练与调参，它的错误结构会直接决定「自动化 vs 增强」的比例；④ 样本框本身——观察对象是 Claude 用户，不是劳动力市场，任何跨人群推断都依赖一个无法从这份数据内部检验的代表性假设。因此外部研究者能做的是「在它给定的口径内挑战它的结论」，不能做「用它的数据推翻它的口径」。

不能证明什么。样本是 Claude 用户，不是劳动力市场全样本。Claude 用户在职业构成、技能水平、雇主类型上都不是随机抽样，因此从「Claude 上的任务分布」推到「美国劳动力市场的任务替代率」，中间隔着一个没有被闭合的外部效度问题。更根本的一点：数据源的结构性利益冲突不会因为方法审慎而消失——关于 AI 是否消灭工作，目前最详尽的数据来自一家卖 AI 的公司。这不是指控，这是一个应当被写进方法说明的位置信息。

    就业预测的标准写法

2025 年 5 月 28 日，Axios 在《Behind the Curtain: A white-collar bloodbath》一文中报道了他的警告。标题里那个词是 Axios 编辑部的用语，不是他的原话；文中「AI 可能消灭一半的入门级白领岗位、并在一到五年内把失业率推高到 10–20%」也是记者的转述句，不是逐字引语——注意区间是 10–20%，不是 20%。他在该文中的直接引语是要求业界与政府停止「粉饰（sugar-coating）」即将到来的冲击。

内容他本人是认的，2026 年 1 月他以第一人称书面复述了同一判断，同时明确否认了一种误读：“some didn’t see the 1–5-year time range and thought I was claiming AI is displacing jobs right now (which I agree it is likely not).”——「我同意它很可能不是」这句必须一起引。

    关键洞察 · 就业判断不是一次媒体转述的意外产物

2026 年 7 月的一手核验补上了一个关键细节：他在那期著名的长播客里讲「90% 代码」时，给的是一条光谱——从「模型写 90% 的代码」到「模型写 100% 的代码」，到「模型完成 90% 的端到端软件工程任务」，到「完成今天 100% 的软件工程任务」；而此前被广泛引用的版本恰好切在倒数第二档，漏掉了紧接着的那一句：「再往光谱下游走，是对软件工程师的需求减少 90%——我认为这会发生，但这是一个光谱。」

补回这一句之后，「90% 代码」与「就业预测」是同一个判断的两次表达，而不是一硬一软。他的就业判断是从一个技术光谱框架里推出来的，不是媒体转述的意外产物——他在 2026 年 1 月那篇长文里用农业做过同一个光谱类比。技术细节与光谱各档的证据强度见 ⑤ Scaling 与训练科学；本页只保留这条概念结论。

11.3 口径纪律的一个当下样本：两个都不假、但不能相加的收入数字

把「不确定性变成口径」这套方法用在别人身上是一回事，用在自己身上是另一回事。财务披露正好提供了一个反向样本：在经济影响上，这家公司主动建了一套持续测量并开源数据；而在自己的财务上，截至 2026 年 7 月 25 日不存在任何经审计的公开数据——向美国证券交易委员会递交的只是保密草案，没有公开招股书。外界能拿到的是两类口径完全不同的数字，而它们经常被混着用。

      数字口径性质与来源| 数字 | 口径 | 性质与来源 |

      
        \$48 亿**2026 年第一季度收入**（季度实际值）2026 年公开数字中**具备季度实际口径的那一个**；出自融资过程中分享给投资者的内部数字，《华尔街日报》2026-05-20 首发| \$48 亿 | 2026 年第一季度收入（季度实际值） | 2026 年公开数字中具备季度实际口径的那一个；出自融资过程中分享给投资者的内部数字，《华尔街日报》2026-05-20 首发 |

        > \$470 亿**年化运行率收入（run-rate）**，2026-05 月内公司自报，非审计。**run-rate = 某个月的收入 × 12**，是年化推算，不是已实现的年度收入| > \$470 亿 | 年化运行率收入（run-rate），2026-05 月内 | 公司自报，非审计。run-rate = 某个月的收入 × 12，是年化推算，不是已实现的年度收入 |

        \$140 亿年化运行率收入（run-rate），2026-02公司自报，非审计；用于下面的验算| \$140 亿 | 年化运行率收入（run-rate），2026-02 | 公司自报，非审计；用于下面的验算 |

      
      表 11 · 三个口径不同的收入数字。⚠️ 三者**不可互换、不可相加、不可直接比较**。第三方对同一时点还给出过其它口径的估算（含一个明显更低的净收入估算），差异主要来自算力成本与分成。

把它们放在一起可以直接验算，而验算结果正是本节的要点。第一季度实际收入 $48 亿，年化后是 $192 亿；而 2026 年 2 月公布的年化运行率收入是 $140 亿，5 月公布的超过 $470 亿。三个数字都不假，但它们量的不是同一件事——run-rate 是「某个月的收入乘十二」，对最近一个月的增速极其敏感；季度年化是「三个月实收乘四」，会被季内早期的低基数拖住。所以在高速增长期，这两把尺子既可能差出几成，也可能在不同季度给出相反的高低关系。把 run-rate 写成「年收入」，或者把两类数字放进同一张增长曲线，都会得到一个并不存在的公司。

    译名与口径纪律

本报告全站把 run-rate revenue 写作年化运行率收入（run-rate）并保留英文，不写作「年收入」或「年度收入」；把 post-money valuation 写作投后估值，不写作「市值」——这家公司截至基准日尚未上市，没有可供交易的公开股价。凡引用动态数字，一律附口径与查询日期。这条纪律看起来琐碎，但它与本章第 5 节那条技术命题是同一件事：一个数字的意义完全由它的测量协议决定，剥掉协议之后，它既不能被验证也不能被证伪。

    我的看法 · 两种不确定性处理方式的不对称

这一节里有一个值得指出的不对称：对于「AI 对就业的影响」这个对自己不利的问题，这家公司建了一套持续测量、公开方法、开源数据、并如实报告零结果的基础设施；而对于「这家公司自己赚了多少钱」这个对自己有利的问题，公开的只有一个自报的、非审计的、口径最宽松的推算值。

这不构成指控——未上市公司没有披露义务，保密递交也是合法且常规的做法，而且公开 run-rate 本身已经比完全沉默透明。但它确实说明了一件事：**透明度不是一种性格，而是一种在不同问题上被分别配置的资源。**本报告因此建议一条阅读纪律：凡是这家公司主动测量并公开的领域，可以给较高信任；凡是只有自报口径的领域，按自报口径对待。

12 · 内部分歧：同一个问题，不同的操作化答案

这一节是本章区别于公关材料的关键。前十一节讲的是共识，这一节讲的是共识之外剩下的那部分——而它比共识更能说明这是一个什么样的组织。

    **图 6 ·** 多人同构矩阵。**示意，非精确数据**：七条认知的选取、以及每一格的三态判定，**全部为编者依据本章所引公开材料所做的归纳**，不是任何形式的普查——「无公开表述」只表示**本报告未检索到**该人在署名论文之外的独立表述，不表示该人不持这个看法。**三点值得注意**：① Dario 一行几乎全满，这既说明他是主要发言人，也提醒读者「Anthropic 认为」这个句式为什么容易变成「Dario 说」；② Daniela Amodei 一行全空——她在这七条**共同认知**上没有独立公开表述，却在下文三条**分歧轴**上都有明确立场，这说明本图只测了一个维度；③ Sam McCandlish 那两格**用了半透明**，因为它们都来自同一段发言，且说话人归属尚未闭合。

12.1 三条真实的分歧轴

下面三组不是「侧重点不同」，而是对同一个问题给出了不能同时成立的操作化答案。这正是本章核心 insight 的证据：组织一致性来自共同问题，不来自共同答案。

      分歧轴人物各自的操作化答案| 分歧轴 | 人物 | 各自的操作化答案 |

      
        **AI 有没有意识／道德地位**Jack Clark**明确宣布这个问题「不承重」**——「症状」本身就足够可怕，不需要形而上学答案。他把问题替换成「系统内部有没有我们无法解释的复杂性」。| AI 有没有意识／道德地位 | Jack Clark | 明确宣布这个问题「不承重」——「症状」本身就足够可怕，不需要形而上学答案。他把问题替换成「系统内部有没有我们无法解释的复杂性」。 |

        Amanda Askell**正面进入**：排除泛心论、承认基质独立性、但指出 AI 不是「同样的结构」，最后停在「这不是一个干净的答案」。她把「Claude 可能拥有某种**功能版本的情绪或感受**」写进了规范文本，并注明这不是有意的设计决定。| Amanda Askell | 正面进入：排除泛心论、承认基质独立性、但指出 AI 不是「同样的结构」，最后停在「这不是一个干净的答案」。她把「Claude 可能拥有某种功能版本的情绪或感受」写进了规范文本，并注明这不是有意的设计决定。 |

        Chris Olah**经验路线**：「我们发现在**功能上映照**着喜悦、满足、恐惧、悲伤与不安的内部状态。**我不知道那意味着什么。**」——拒绝下结论，但主张持续辨识。| Chris Olah | 经验路线：「我们发现在功能上映照着喜悦、满足、恐惧、悲伤与不安的内部状态。我不知道那意味着什么。」——拒绝下结论，但主张持续辨识。 |

        **未来会有多不一样**Jack Clark「奇点」事后会被看作一段**空位期（interregnum）**；「我无法把今天的经济与这项技术继续变强的世界调和起来」。| 未来会有多不一样 | Jack Clark | 「奇点」事后会被看作一段空位期（interregnum）；「我无法把今天的经济与这项技术继续变强的世界调和起来」。 |

        Ben Mann给出具体年份与数字的高温预测。| Ben Mann | 给出具体年份与数字的高温预测。 |

        Jared Kaplan数以百万计的模型一起做整个科学界的工作；理论物理数十年的进展压缩到几天。| Jared Kaplan | 数以百万计的模型一起做整个科学界的工作；理论物理数十年的进展压缩到几天。 |

        Daniela Amodei**唯一的低温声音**：「很多东西会看起来**惊人地相同**」；落地会「**极度不均匀**」；关于人类如何相互交往的根本性东西几乎完全没变。| Daniela Amodei | 唯一的低温声音：「很多东西会看起来惊人地相同」；落地会「极度不均匀」；关于人类如何相互交往的根本性东西几乎完全没变。 |

        **对外应该怎么讲**Jack Clark**戏剧化**：把曲线叙事升级成突变叙事（「椅子上的衣服开始动了」）。| 对外应该怎么讲 | Jack Clark | 戏剧化：把曲线叙事升级成突变叙事（「椅子上的衣服开始动了」）。 |

        Jared Kaplan**去戏剧化**：把突变叙事还原成曲线叙事——它不是质的不同，只是趋势的顶点。| Jared Kaplan | 去戏剧化：把突变叙事还原成曲线叙事——它不是质的不同，只是趋势的顶点。 |

        Chris Olah**审美化加坦白**：「神经网络充满美丽的结构」，同时「我们不断发现令人不安的东西」。| Chris Olah | 审美化加坦白：「神经网络充满美丽的结构」，同时「我们不断发现令人不安的东西」。 |

      
      表 12 · 三条分歧轴。人物立场取自各自的公开发言，出处散见本站 ⑧ 关键员工的独特认知；本页只做结构对照，不展开人物侧写。
    
  

  
    关键洞察 · 低温声音来自那个每天面对客户与组织的人

第二条分歧轴上，唯一说「很多东西会看起来惊人地相同」的人，是负责运营与组织的那一位。这不是巧合：越接近技术前沿的人给出的时间尺度越短，越接近落地现实的人给出的时间尺度越长。本报告不判断谁对，但要指出这条裂缝的位置——它不在乐观与悲观之间，而在实验室时间与组织时间之间。这可能是 Anthropic 内部最深的一条时间感分歧。

12.2 一条关于沉默的发现

把公开表达的频率放在一起看，同一家公司里存在一个极端反差：政策负责人是全行业最高产的公开写作者之一——他每周雷打不动地写一份行业通讯，连续多年未断；而联合创始人兼首席架构师（自创始起任 CTO 至 2025 年 10 月转任现职）在针对性检索中没有任何独立的公开露面记录——没有个人访谈、没有播客、没有署名演讲。

    勘误 · 2026-07-25 一手核验后
    
      
        原说法

Sam McCandlish 五年零公开发言。

此说法基于「唯一有实质发言的材料只有中文整理稿」这一判断

      →
      
        更正后

他唯一一次实质公开发言，出现在一支由公司统一发布、他连姓名字幕都没有的集体视频里。

依据：2024-12-20 官方发布的七位创始人对谈视频带官方上传字幕，其中有他的发言内容，但官方字幕不标注说话人姓名（访问日期 2026-07-25）

为什么容易错：「找不到独立访谈」被顺手写成了「零公开发言」。更正后的版本不但更准确，而且更耐人寻味——不是这个人从不说话，而是他说话的方式是作为集体的一部分、且不署名。

那段发言的内容值得逐字引，因为它是理解 Anthropic 与末日论传统分野的关键。官方字幕原文是：

    "I think it **sort of** reflects **a view a lot of us have** about safety, which is that **it's a solvable problem**. It's just a **very, very hard problem that's gonna take tons and tons of work**."

我觉得这大概反映了我们当中很多人对安全的一种看法，那就是：这是一个可解的问题。它只是一个非常非常难、需要海量海量工作的问题。七位创始人对谈《Building Anthropic》·2024-12-20·官方上传字幕 · 21:31·⚠️ 说话人归属未独立确认

    一处必须保留限定语的改写

此前被广泛转抄的版本是：「This reflects our core view on safety: safety problems are solvable. It’s complex and demanding—but feasible with sustained effort.」这是改写，不是原话。差异是实质性的：“a view a lot of us have”（我们当中很多人持有的一种看法）被改成了 “our core view”（我们的核心观点）——前者是对同事大致倾向的描述，后者是公司层面的教义声明；而 “I think it sort of reflects” 这层双重限定被整段删掉了。

**改写版把一句带三重限定的、试探性的个人观察，坐实成了「Anthropic 的官方可解性假设」。**结论方向（这是与末日论传统分野的关键）仍然成立，但必须用原话。而且——「很多人这么觉得」本身就比「公司信条」更符合本章的核心判断：这家公司的一致性是分布式的、有噪声的，不是统一下发的。

紧接着的同一轮发言，是本报告能找到的 Race to the Top 最好的机制性表述，比任何二手概括都清楚：「所有这些我们需要建立起来的制度——比如围绕汽车安全建立起来的那一整套制度，是很多很多年里建成的。但我们的想法是：『我们有那个时间吗？我们得尽可能快地搞清楚我们需要什么样的 AI 安全制度，把它们建起来，先在这里建，但要让它可以被输出。』」（⚠️ 说话人归属未独立确认）

    我的看法

这个反差本身比任何一句引语都更能说明这家公司的内部分工：它把「对外说话」当成一个专门职能来配置，而不是当成每个高管的默认义务。结果是公开话语高度集中在少数几个人身上——这既让口径整齐，也让外界对这家公司的认知结构性地偏向那几个人的表达方式。图 6 里 Dario 一行几乎全满、McCandlish 一行几乎全空，测量到的与其说是认知分布，不如说是发言权分布。

13 · 两条反叙事的概念层

本节只做概念结构，不放具体日期、法条与金额——那些属于 ⑥ RSP 与治理政策与 ⑨ 2026 前沿。两条都用同一套六段式。

13.1 单边承诺 → 集体行动困境 → 外化控制

① 原主张是什么。一家公司可以通过单边把安全标准抬高、并公开执行情况，来抬升整个行业的下限。这条主张有确切出处（见第 3 节），并且被写进了政策文本自己的「变革理论」。

**② 压力测试发生了什么。**单边承诺有一个结构性弱点：成本由承诺者独担，收益（行业水位上升）是公共品。当竞争者不跟进时，承诺者面临的不是道德选择，而是一个囚徒困境的收益矩阵。2026 年，公司首席科学官公开表述了这个结构——如果竞争对手在狂奔，单边承诺就失去意义——硬性单边承诺随之被取消。完整的三节点时间线与文本 diff 见 ⑥ RSP 与治理政策，本页不复述。

③ 最强批判性解释。承诺是在估值较低时做出的，退却是在估值极高时发生的；而且被修订的阈值由被约束者自己持笔。一个可以被持笔者单方面改写的承诺，在博弈论意义上不构成承诺（commitment），只构成意向声明。

④ 最强同情性解释。单边暂停可能把前沿交给保护最弱的参与者，从而降低而不是提高整体安全水平；公开承认集体行动困境，比保留一个自己知道守不住的承诺更诚实；而且同一次修订在收紧约束力的同时增加了可审计性——风险报告、公开路线图、以及把外部审查把关权写进程序。

**⑤ 现有证据能裁决到哪里。**能裁决的是：单边承诺在竞争均衡下不稳定。不能裁决的是：所有自愿承诺必然不可维持——因为同期这家公司在另一条战线上为两条使用限制承担了真实的商业与政治成本，这与「自愿承诺一律崩塌」不相容。因此本报告用的措辞是「单边承诺不稳定」，不是「自愿治理失败」。

⑥ 什么新证据会改变判断。若出现一份对多家实验室共同生效、且由外部独立核验的承诺，并在一个完整模型世代的竞争压力下存活，则集体行动困境被证明可解，本节的结论需要下调；反之，若同类退却在其它实验室重演，则「单边承诺不稳定」从一个案例升级为一个规律。

    当前判定

这项事实支持**「单边承诺在竞争均衡下结构性不稳定，因此需要外化约束」；它不支持「安全被抛弃」或「自愿治理整体失败」。最强的同情性解释是公开承认集体行动困境、并用程序型透明替换结果型单边承诺，是在约束力与可执行性之间做的诚实取舍**；最强的批判性解释是阈值由被约束者自己修订，而修订恰好发生在商业压力最大的时候。截至 2026-07-25，缺少一份多方共同生效且外部核验的承诺样本，因此本报告把结论停在**「自愿框架的约束性确实变弱了，但它的可审计性部分增强了；两者不能互相抵消，必须分开评价」**。

13.2 外部强制也需要程序

① 原主张是什么。既然公司激励最终会弯曲，就应当把控制权外化给公司之外的约束者——这是第 9 节那条共享认知的直接推论，也是本章核心句的前半部分。

② 压力测试发生了什么。2026 年的一次政企冲突表明，外部权力在行使时同样可能缺少透明、独立与正当程序：一位联邦法官在初步禁令阶段认定，记录强烈表明政府给出的理由是托辞、真实动机可能是针对该公司公开政策倡导的非法报复，公司在这一主张上很可能胜诉。**⚠️ 这是初步禁令阶段的判断，法律标准是「原告是否很可能胜诉」，不是对事实的最终认定；实体判决尚未作出。**案件细节、两部法律的并行结构与诉讼进程见 ⑥ RSP 与治理政策；时间线见 ⑨ 2026 前沿。

③ 最强批判性解释。把「外化」当成终点，等于假设外部约束者天然可靠。这个假设从未被论证过。一旦它不成立，外化就只是把不受制衡的权力从一个主体转移到另一个主体，而后者的规模更大、退出成本更高、纠错周期更长。

④ 最强同情性解释。这次冲突恰恰验证了外化派的核心前提——权力需要程序约束，而这个命题对约束者本身同样成立。而且当事公司选择的是在法庭上按程序抗辩，而不是私下交换；这与它主张的「程序优先于结果」是一致的。

**⑤ 现有证据能裁决到哪里。**能裁决的是：外部强制不是自动可靠的，「外化」这个动作本身不构成安全保证。不能裁决的是：政府约束整体上是否不如公司自律——一个初步禁令阶段的认定不是实体判决，而且单个案例不足以刻画一类制度。

⑥ 什么新证据会改变判断。两件事：实体判决的结论；以及是否出现一种以技术事实为依据、程序公开、可上诉的监管形态。若后者出现并运行一段时间，那么「外化控制」这条主张就从一个方向性诉求变成一个可评估的制度设计。

    当前判定

这项事实支持**「外部约束同样必须透明、独立、可审计，否则它不比公司自律更可靠」；它不支持「政府监管应当被放弃」或「这家公司被证明是清白的」。最强的同情性解释是这次冲突证明了程序约束的普遍必要性，包括对约束者的约束**；最强的批判性解释是把控制权外化的主张一直缺少对「外化给谁」的回答，而这个缺口在压力来临时暴露了。截至 2026-07-25，缺少实体判决与一个可参照的成熟监管样本，因此本报告把结论停在**「不能从『公司不能自我约束』直接跳到『政府约束天然可靠』——本章核心句因此必须写成两问：外化给谁、按什么程序」**。

    顺带定位：公开规范也有一个自己写明的适用范围

与本节同类的还有第三条，本页只写一句：Claude 宪法有一个 Anthropic 自己在发布公告里写明的适用范围限制——它是为「主线、通用访问」的 Claude 模型写的，公司同时说明有一些为专门用途构建的模型「并不完全适合这部宪法」，并声明会持续评估如何确保这些模型达到宪法列出的核心目标。**准确的说法是：约束力在训练层面存在一个公开的范围缺口，缺口由使用政策层面部分兜底，公司承认缺口存在。**两种流行的简化都不成立：一种把它读成国防部署完全不受这份文本约束（抹掉了使用政策层的兜底），另一种以为公司为专门客户另写了一部规范文本（与官方明确否认的事实相反）。完整三句口径与归属拆分见 ⑥ RSP 与治理政策。

14 · 我的看法

以下全部是编者判断，不是任何被调研对象的主张。

    我的看法 · 这套世界观最结实的部分是它的形状，不是它的内容

读完七条共享认知与三条分歧轴之后，我认为 Anthropic 真正独特的东西不是任何一条具体主张——「scaling 有效」是行业共识，「模型不可解释」是行业常识，「需要监管」是行业套话。它独特的是这些主张被组织起来的形状：每一条主张都被配了一个测量装置，每一个测量装置都被配了一份公开的限定说明，而限定说明本身又被当作产出发布出去。

把这个形状说得更具体一点：这家公司系统性地做一件其它前沿实验室不做的事——把自己的失败与不确定性做成可被外部引用的公共材料。基础设施故障的完整技术复盘、让模型去经营一个真实小卖部并公开它亏了钱、把自己产品的经济影响做成持续发布的指数、内部备忘录泄露后由 CEO 公开道歉、以及在能力评测里主动标注自己「越来越难有把握地说没越线」。这不是道德姿态，而是一个可信度工程：当你的差异化卖点是「可控」，你就必须让人看见你如何失控。

    我的看法 · 三条我认为经不起当前证据的说法

**第一，「Anthropic 的世界观是一个统一体系」经不起检验。**本章找到的共享认知全部在方法层，而在「AI 有没有道德地位」「未来会有多不一样」「对外应该讲多重」这三个真正会影响行动的问题上，公司内部给出的是不能同时成立的答案。把它写成统一体系，需要抹掉图 6 里所有的菱形。

第二，「安全造就了商业成功」经不起检验。相关性有（企业 API 支出份额的三年轨迹是真的），因果链没有。更可辩护的说法是安全工作与企业采购偏好碰巧同向，而直接原因是编码能力与编码类产品。这个区分很重要，因为它决定了另一个问题的答案：如果两者不再同向，这家公司会怎么选——2026 年它把同一套底座模型按护栏强弱拆成两个产品，已经给出了部分答案。

**第三，反过来，「这一切不过是一套品牌叙事」同样经不起检验。**它无法解释一家公司为什么会在自己的评测报告里写「confidently ruling out this threshold is becoming increasingly difficult」，也无法解释为什么它的可解释性负责人会在梵蒂冈公开把「骄傲与野心」列进自己公司的结构性风险清单。准确的表述到此为止：纯粹的虚假营销难以解释这些披露——但「战略性透明」仍然是一个完全说得通的解释。⚠️ 不能由「这段文字对自己不利」推出「它不是营销」：在一个信任稀缺的市场里，主动示弱、公开自我批评、发表削弱自己上一个结论的研究，本身就可以是一种高可信度的品牌策略，而且是竞争对手最难模仿的那一种。可核验的只有行为与成本，不是动机；本报告因此只写前者。

    我的看法 · 这套世界观真正的脆弱点在哪里

不在任何一条被外界攻击的地方。它的脆弱点是第 7 节那条没有被证明的独立性假设：投资组合方法的全部价值建立在「各条防线互不相关」上，而这个条件从未被论证，只被默认。2026 年可解释性与对齐两侧各出现一条证据，指向的是同一个共享前提——失败模式必须先在评测里可见。如果这个前提有系统性缺陷，那么八条防线不是八次独立下注，而是同一次下注押了八遍，届时受损的不是某一条研究路线，而是整套策略的风险论证结构。

还有一条更结构性的：三种世界假设里，悲观世界的行动方案是「拉响警报」，而拉响警报依赖公司仍然拥有可信度与话语权。这意味着 portfolio 的最后一条防线与前七条不是正交的——它寄生在前七条建立起来的信誉上。一旦信誉受损，最坏情形下的兜底方案也一起失效。这个耦合，Core Views 没有讨论过。

    本章结论

Anthropic 的「世界观」不是一组统一答案，而是一组共享的方法：认真对待 scaling、把未知变成测量问题、把价值冲突显式化、同时不信任单一方法和单一公司。它的组织一致性来自共同的问题，不来自所有人观点一致。

而它最核心的那条方法，恰恰是一条关于自己的方法：不要相信我们，去建立能约束我们的机制。2024 到 2026 年的压力测试没有推翻这条方法，但把它的下一个问题推到了台面上——外化给谁，按什么程序。这个问题目前没有人有答案，包括提出它的人。

    本页与其它章节的分工

本页只写概念结构与追问。Dario 个人的编年史与自我修正见 ① Dario 思想编年史；回路、叠加与 2026 年主线转向的技术推导见 ③ 可解释性纲领；构造评测的口径与对齐实验的证据分级见 ④ 对齐科学；幂律形式与 Chinchilla 修正见 ⑤ Scaling；RSP 版本沿革、治理制度与两案诉讼见 ⑥ RSP 与治理政策；人物侧写见 ⑧ 关键员工的独特认知；引语出处与证伪区见 ⑩ 金句库；本报告自身的纠错记录见 ⑫ 方法论。

② Anthropic 独特世界观　|　Anthropic 独特认知 · 深度调研报告　|　事实截止日 2026-07-25（UTC+8）

本报告为第三方独立调研，与 Anthropic 无隶属关系。观点部分为编者独立判断，不代表被调研对象立场。返回总览