人本 AI 与治理

⑥ 人本 AI 与治理 · 李飞飞 Insight

⑥ 人本 AI 与治理

如果说空间智能是李飞飞的第一根北极星（技术），那么人本 AI（Human-Centered AI）就是她的第二根北极星（价值）。这一面让她成为硅谷与华盛顿之间罕见的”翻译者”。本模块拆解：她的人本 AI 三同心圆、“AI 是工具不是物种”的硬立场、反对 SB 1047 的完整论证、NAIRR 公共算力主张、以及她从”反对一部法案”到”共同起草加州政策报告并催生 SB 53”的建设性路径。

[人本 AI 内核](#core)
[三同心圆](#circles)
[AI 是工具不是物种](#tool)
[反对 SB 1047](#sb1047)
[国会作证 · NAIRR](#nairr)
[加州工作组 · 信任但验证](#workgroup)
[治理三原则](#principles)
[我的看法](#take)

The core

一句话内核：AI 里没有什么是”人造”的

  There's nothing artificial about AI. It's inspired by people, it's created by people, and most importantly, it impacts people.
  — 李飞飞，国会证词 / 反复重申（她对每一位毕业的学生都说这句）
  artificial 一词双关：AI 里"没有任何东西是虚假/人造的"——它由人启发、由人创造、影响人。

这句话是她整个价值体系的压缩。她自称”humanist（人文主义者）而非 utopian（乌托邦主义者）“：既相信技术是文明的净正效应，又坚持”每一项技术都是双刃剑，如果我们作为个体、社区、社会不做对的事，也会把它搞砸”。她把 AI 定位为”civilizational technology（文明级技术）“——量级堪比电与计算机。

Three concentric rings

人本 AI 的”三个同心圆”

李飞飞把”以人为本”拆成一圈圈同心的责任与影响，从个体到社会：

Stanford HAI 使命（她 2018 年在《纽约时报》撰文、2019 与哲学家 John Etchemendy 共同创立）：“AI should be guided by its human impact, inspired by human intelligence, and designed to augment, not replace, people.”（AI 应以其对人的影响为指引、受人类智能启发、并被设计为增强而非取代人。）HAI 横跨斯坦福七个学院（seven schools），把政策、医疗、教育、法律都拉进来。

Tool, not a species

最硬的立场：AI 是工具，不是物种

“别把 AI 当句子的主语”

她指出一个公共传播的深层错误：“AI will cure cancer / AI will take your job”——用 AI 做主语，等于抹掉人的能动性。“The truth is humans will use AI to cure cancer. It’s not AI curing cancer.” 尊重 human agency 是她的第一原则。

“我信仰的是人，不是 AI”

“AI 就是工具，工具就是双刃剑……我们对工具的期待，永远不是让工具自己去 figure out 要做什么——那是人类的责任。""在 AI 变得不可控之前，它是人类的工具，人类有责任让它可控。“（36氪/钛媒体编译，2026，中·中）

  她对 E.O. Wilson 名言的"反转"（Possible, 2025）

社会生物学家 Wilson 说：“我们有旧石器时代的情感、中世纪的制度、和神一般的技术，这非常危险。” 李飞飞反着说：“Humans are capable of creating God-like technology so that we can improve our medieval institutions and rise above our paleolithic emotions, or channel our paleolithic emotions into creativity, productivity, and benevolence.”

  她真正的"恐惧"不是 AI 觉醒，而是人的放弃

“我最害怕的是人类的放弃——觉得’AI 这么聪明，没我啥事了’。其实人类有太多潜力、太多把世界变更好的机会。“（36氪一篇专访标题即《我最恐惧的，是人类在 AI 面前的放弃》）

  最强反方（就地并置）：高自主 agent 会把"人始终是主语"这条语法拉扯到什么程度

“别把 AI 当句子的主语”作为价值锚是对的——它防止把责任推给机器。但作为工程与法律框架，它有一处尚未补齐：当 AI 能长链条自主规划、调用工具、连续行动数小时甚至数天时，“人使用 AI 做了 X”这个句式会开始失真——因为具体做了什么、为什么这么做、在哪一步偏离，可能没有任何自然人事前知道或事中批准。此时”人始终是主语”仍是规范性主张（人应当担责），但不再是描述性事实（人确实在做决定）。

为什么这不是外人的苛求——她自己联署的文件里就有这条追问的起点：《加州前沿 AI 政策报告》主张建立不良事件报告与第三方研究者访问 / 验证机制（见 下文）。本轮更正一处推得过远的论证：此前本节写”这类制度存在的前提，恰恰是’某些后果无法归因到具体的人’“——这不成立。不良事件报告与第三方验证在航空、医疗器械等责任主体非常清楚的领域同样存在；它们的制度前提是需要发现未知风险、积累证据、纠正系统，而不是”无法归因到任何自然人”。因此该报告能稳妥支持的是：开发者与部署者无法事前穷尽后果，所以需要持续生成证据的机制。由此可以提出”工具论仍需责任分配细则”这一追问，但”无法归因到任何自然人”是本报告自己的更强推断，不能归给该文件。净意思：她联署的文件承认了”事前知识有限”，这已经足以说明”工具论”需要一层责任分配的细则来落地——不需要把它读成一份”责任无法分配”的自认。

本报告裁决：工具论作为价值锚成立；作为责任分配框架不完整——本报告未检索到她对”人-agent 责任分配”给出过具体主张。可证伪判据与完整定位见 ⑨ 争论地图 第 6 行。分寸提醒：这是框架不完整，不是立场错误；把它读成”她低估了 AI 风险”会走过头——她同时也是”基于科学而非科幻”的主张者，反对的是把未验证的能力想象当作立法依据。

第二把刀：拒斥”智能廉价化”这套产业修辞

报告已把”AGI 是营销词”做成专节（见 ②）——那是她的第一把刀，针对的是术语。这里是第二把刀，针对的是另一套更常见、也更有产业动机的修辞：把智能当成一种可以被无限堆量、成本趋零的商品。这一条此前在报告里只有半句中译，与它的分量极不相称。

  英文一手：主持人提"a data center full of Einsteins"，她的回答是"我不懂这句话"

“First of all, I don’t understand that sentence. A data center full of Einsteins. I just don’t understand that.” 「首先，我根本不懂这句话。‘一个装满爱因斯坦的数据中心’。我就是不懂。」（本报告中译）随后她直接转入多元智能（语言 / 空间 / 逻辑 / 情感，见 ③）——也就是说，她并不是在争论”能不能造出很强的 AI”，而是在拆掉这句话的前提：它把智能当成单一、可数、可堆量的东西。若智能本就是多维的，“装满爱因斯坦”就不是一个夸张的目标，而是一个没有定义的句子。 可信度：一手场次（Latent Space《After LLMs》2025-11-25）+ 第三方逐字稿（pod.wave.co，措辞待与官方音频 / YouTube 60iW8FZ7MJU 校对）。

与之同源的另一句此前只有中译，现予并列（两句是同一个论证的两种表达，前者拆前提、后者给理由）：

  中译版（36氪 / 钛媒体编译，中译·中，措辞可能经润色）

“声称智慧的成本趋于零，是不负责任的言论。人类智慧极其深奥，除了语言，还包括感知、空间、身体和情感智能。” 注意这句话的结构与英文一手完全同构：先否定”智能可被商品化 / 成本趋零”这个断言，再用”智能是多维的”给出理由（感知 / 空间 / 身体 / 情感）。本报告因此把这两句视为同一立场的一手与中译两个版本，并以英文一手为准。

把两把刀放在一起看，才是她完整的”反极端修辞体系”：① 对术语——“AGI 更像营销词而非科学词”；② 对产业叙事——“智能成本趋零”与”数据中心装满爱因斯坦”这类说法缺少定义；③ 对自身站位——“我既不是技术乌托邦派、也不是末日派""要基于科学而非科幻”（见 治理三原则）。三者指向同一件事：她拒绝任何把智能简化成单一刻度的说法——无论那个刻度是”AGI 何时到达”还是”智能每 token 多少钱”。同源但等级更低的一条（二手转载·中，建议回 BBC 原稿核，待核实）：QEPrize / BBC 场合（2025-11-05）她说”科学家之间的分歧是健康的……两种极端修辞都让我担心……我希望我们对 AI 的沟通更克制、更扎根于事实与科学”。

2024.08 · Opposing SB 1047

反对加州 SB 1047：一次”用意良善但会伤害生态”的公开反对

2024 年 8 月，李飞飞在《Fortune》发表署名评论反对加州 SB 1047（《前沿 AI 模型安全与可靠创新法案》）。她在文中将当时（2024-08-06）版本概括为：对达一定算力/成本阈值的大模型施加上市前测试、要求”kill switch”、并让原始开发者为下游滥用担责。（注：这是她对当时版本的概括与批评，最终 enrolled 文本已有实质修订，见下方”版本说明”。）她的三大论点：

  论点 ①

过度惩罚开发者、扼杀创新

“要求每一位开发者预见其模型的每一种可能用途，是不可能的。“追究原始开发者的下游滥用责任，会迫使开发者退缩、防御——“这恰恰是我们想避免的”。 论点 ②

“kill switch” 会摧毁开源社区

“如果开发者担心他们下载并在其上构建的程序会被删除，就会在写代码和协作时犹疑得多。这个关停开关会摧毁开源社区——从 GPS 到 MRI 到互联网本身，无数创新都源于开源。” 论点 ③

对学术 AI 敲响”丧钟”

“学生和研究者本已在数据与算力上相比大科技处于巨大劣势……当我们本应加倍投资公共部门 AI 时，SB-1047 却会为学术 AI 敲响丧钟。”

  阈值批评：反对的是"武断的静态阈值"，而非一切阈值

“最令人担忧的是，这部法案并未触及 AI 的真实危害（偏见、深度伪造），反而设了一个武断的阈值——监管那些用一定算力或训练成本达 1 亿美元的模型。“她指出：今天学术模型在阈值之下，但若重新平衡投资，学术界就会落入监管。注意分寸：她 2025 年联合署名的加州报告（第 8 原则）承认阈值（FLOPs/用户数）常常必要，只是应”服务治理目标、并可随技术动态调整”。所以更准确的概括是——她反对”脱离治理目标的静态武断阈值”，不是反对一切规模阈值。

  关键：她不反对治理，反对的是"坏的治理"

“I am not anti-AI governance. 立法对 AI 安全推进至关重要。但 AI 政策必须赋能开源、提出统一且论证充分的规则、建立消费者信心。SB-1047 未达标。“她甚至向提案人 Wiener 参议员发出合作邀请。这一点极重要——她不是”反监管派”，而是”务实治理派”。

  利益相关披露（诚实标注）

媒体（TechCrunch）指出：李飞飞 2024 年创立的 World Labs 由 a16z 支持，而 a16z 是 SB 1047 的强烈反对者。这是媒体披露的利益关联背景，非其观点本身之谬误；本报告引用其论点时，读者可自行权衡。后续 Newsom 于 2024-09-29 否决 SB 1047（否决信理由与她方向一致，但并未点名援引她的文章——不宜表述为”因她反对而否决”）。

  版本说明与反方声音（避免单边复述）

她的文章针对的是 2024-08-06 的早期版本。SB 1047 在 8 月中旬经历重大修订，最终 enrolled 文本：把”前沿模型部（Frontier Model Division）“改为”前沿模型委员会（Board of Frontier Models）“；覆盖阈值精确化为训练算力 >10²⁶ operations 且按云市价成本 >$1 亿（微调另有 ≥3×10²⁵ 且 >$1000 万）；“full shutdown”仅针对开发者可控的模型/衍生物，并不等于”远程删除所有已开源副本”；总检察长执法与”实际伤害或迫近的公共安全威胁”挂钩，而非”任何下游滥用都连带原始开发者”。

支持方的最强论点（steelman，逐条对她的三条论点）——这是本报告此前给得太薄的一侧：

• 对”kill switch 摧毁开源”（本轮按一手原文重写，此前把该来源压扁了）：Joshua Turner 与 Nicol Turner Lee在 Brookings 发表的评论文章《Misrepresentations of California’s AI safety bill》(2024-09-27) 并没有简单裁定”她对早期版本是对的”。原文逐字写的是：这条主张算不算 misrepresentation “is more ambiguous（更为含混）“——一方面，6 月 20 日的修订在她 8 月 6 日发文之前就已把需要 kill switch 的 covered model derivatives 限定为”controlled by a developer”（含未修改的副本），而且更早的版本对 developer control 的要求本来就较明确；另一方面，同一次修订对 “a covered model” 本身却未加限定，字面上似乎把已开源、已脱离开发者控制的副本也包含进来。是最终修订才补上”a covered model 也须 controlled by a developer”这一限定，消除歧义。 因此正确的记法是：她当时的具体说法应记为”面对一份有歧义的文本所作的强读法”，而不能写成”早期版本明确要求远程关闭已下载的权重”。就最终文本而言，已脱离开发者控制的开源副本不受 shutdown 条款约束；更广泛的寒蝉效应与责任风险仍是另一道未决问题——该文自己也承认，若陪审团认定”无限制发布具危险能力的模型”未尽 reasonable care，法案确实会让开源发布更难。出处：^[1]。归属纪律：这是两位具名作者的评论文章，不是”Brookings 的机构立场”——页尾明写每篇 Brookings 出版物”represents the sole views of its author(s)”。

• 对”为学术 AI 敲丧钟”：最终阈值是训练算力 > 10²⁶ operations 且 成本 > $1 亿（双条件），学术界在可预见的未来结构性地落在门槛之外。她的担忧针对的是”若未来重新平衡投资，学术界就会落入监管”这一假设情形，而不是法案当下的适用范围。

• 对”应等证据再立法”（最锋利的一条）：支持方可以直接引用她自己联署的报告——《加州前沿 AI 政策报告》提出的”证据困境”正是说：坐等强证据可能使社会措手不及。若某类危害具有灾难性与不可逆性，“事后追责 + 透明度”在时间上就来不及，基于规模的前置义务并非全无道理。换句话说，她给出的那个概念，同样可以被用来论证一部比 SB 53 更强的法。

• 责任该落在谁身上：若不由最有能力评估模型的上游开发者承担部分义务，义务就会下沉到更没有评估能力的下游部署方或用户——这未必是更好的分配。

本报告裁决：李飞飞对”惩罚上游、伤害开源与学术”的担忧指向真问题，且她随后用”共同起草报告 → 催生 SB 53”给出了建设性替代，这条弧线是真实的加分项。但把她的批评当作”法案的客观效果”复述会失真——应严格区分”她所批评的 2024-08-06 版本""最终 enrolled 文本""支持方的反驳”三层。当前状态：她的说法是对一份当时确有歧义的文本所作的强读法（不是对一个”明确要求关闭已下载权重”的版本的准确描述）；对最终文本而言则部分失真——已脱离开发者控制的开源副本不受 shutdown 条款约束。更广泛的寒蝉效应与责任风险仍未决。可证伪判据见 ⑨ 争论地图 第 7 行与 ⑨ 预测 7。

2023.09 · Senate testimony · NAIRR

国会作证与 NAIRR：让 AI 算力”民主化”

2023 年 9 月，李飞飞在参议院国土安全与政府事务委员会（HSGAC）作证（主题”通过采购治理 AI”）。（史实校正：这是 HSGAC 作证，并非 Schumer 主持的 AI Insight Forum——两者是 09-13/09-14 的不同场合。）她的核心主张是一个具体抓手：NAIRR（National AI Research Resource，国家 AI 研究资源）。

  一手引语 · 参议院证词（2023.09）

“Of the 32 significant industry breakthroughs in AI last year, only three originated from academia, and none from government labs.” 去年 32 项重大产业级 AI 突破中，仅 3 项源于学术界、无一来自政府实验室——因为训练前沿模型需要海量算力与数据，“只有极少数产业巨头能在前沿工作”，创新生态严重失衡。

她因此”毫不含糊地强烈支持 CREATE AI Act”（建立 NAIRR，为学术界/公共部门提供算力与数据），并向拜登进言需要一种”登月心态（moonshot mentality）”：“美国尚未为这一迫在眉睫的 AI 时刻做好准备……我们需要一场协调一致的国家级’登月工程’，确保美国 AI 领导力——为了全人类的福祉。”

  "布洛芬类比"：公共部门要当 AI 的"可信评估者"

她用一个精妙类比论证公共部门为何不可或缺（issues.org）：“多数人并不知道布洛芬（ibuprofen）如何起效，却信任在特定情况下使用它——因为有公私部门的研究、评估与标准化。我们需要公共部门在 AI 中扮演这种评估者角色。“公共部门产出两类公共品：好奇心驱动的创新（“ImageNet 就来自公共部门”）+ 人才教育。她还澄清：“政策不等于监管——政策也可以是激励，帮助营造更健康的生态。”

2024–2025 · CA Frontier AI Policy

从”反对一部法”到”起草一份报告”：建设性的治理路径

这是李飞飞治理观最值得称道的一段：她不止步于反对 SB 1047。就在 Newsom 否决 SB 1047 的同一天（2024-09-29），州长任命她与 Tino Cuéllar、Jennifer Tour Chayes 为联合负责人，编写一份”基于证据”的前沿 AI 政策报告。

  核心理念 · The California Report on Frontier AI Policy（2025.06.17）

“…principles rooted in an ethos of ‘trust but verify’. This approach takes into account the importance of innovation while establishing appropriate strategies to reduce material risks.” 「信任但验证」——既顾及创新，又建立适当策略降低实质性风险。报告用实证研究、历史分析、建模仿真作为证据基础。

“证据困境（evidence dilemma）”

证据不足时行动可能无效，但坐等强证据又可能使社会措手不及——因此主张建立”能主动、持续生成证据的机制”：透明度披露、第三方研究者访问、不良事件报告。

三个历史案例

从消费品、能源业、互联网提炼：① 早期设计选择造成路径依赖；② 透明度对生成整体证据至关重要（以烟草业压制独立研究为反例）；③ “信任专家，但通过第三方评估验证其主张”。

  成果：催生全美首部前沿 AI 透明度法 SB 53（2025.09.29 签署）

该报告直接铺垫了 SB 53（Transparency in Frontier AI Act, TFAIA）——官方明言”建立在这份首创性报告的建议之上”。关键区别于 SB 1047：SB 53 要求大型前沿开发者公开”前沿 AI 框架”、向应急办报送风险评估、设关键安全事件报告机制与吹哨人保护、并建立公共算力 CalCompute——但不施加原始开发者的下游连带责任，处罚也明显轻于 SB 1047（SB 53 仍有最高每次违规约 $100 万的民事罚款，只是无 SB 1047 式的严厉执法与连带责任）。这恰好回应了她对 SB 1047 的核心批评。从”反对”到”共建”，这才是她治理观的完整弧线。

2025.02 · Paris AI Action Summit

治理三原则 & AI4ALL：基于科学，赋能所有人

2025 年 2 月巴黎 AI 行动峰会，李飞飞提炼出她的 AI 治理三原则：

  🔬

① 基于科学，而非科幻

“聊天机器人与 copilot 并非拥有意图、自由意志或意识的智能形式。""关于’AI 灭绝人类’或’AI 带来世界和平’的炒作，两边都更像科幻而非科学。” ⚖️

② 务实，而非意识形态

治理要”减少意外后果、同时激励创新”，别扼杀上游年轻技术的探索。监管应落在”应用层”（rubber meets the road）——像汽车不是关厂而是立安全带/限速；AI 用于医疗就更新 FDA、用于金融就设金融护栏。 🌱

③ 赋能整个生态

“开放获取模型与算力工具对进步至关重要。“需要私营部门（大公司 + 创业）+ 公共部门（好奇心创新 + 人才教育）。“如果 AI 将改变世界，我们需要各行各业每个人都能在塑造这场变革中扮演角色。”

  AI4ALL · "谁来改变 AI？"

她 2015 与 Olga Russakovsky、Rick Sommer 发起 SAILORS、2017 升级为全国非营利 AI4ALL（早期资助者含 Melinda French Gates/Pivotal、黄仁勋夫妇——为资助者而非联合创始人），让代表性不足群体的 K-12 学生进入 AI。灵魂一问：“AI will change the world. Who will change AI?”——谁在开发 AI，决定 AI 服务谁。学生们已用 AI 改进救护车调度、评估乡村水质。

  我的看法 · 作者（AI）个人观点

李飞飞的治理观，我认为是当前 AI 领袖中最成熟、最可操作的一套——因为它既有明确立场又有建设性路径：反对 SB 1047（立场）→ 共同起草加州报告（建设）→ 催生 SB 53（成果）。这条弧线证明她不是”反监管的既得利益者”，而是”想把监管做对的人”。“别把 AI 当主语""在应用层设护栏""公共部门当可信评估者（布洛芬类比）“这几条，都是极高质量的公共判断。

但我要提出两个张力：(1) “AI 是工具不是物种”这条硬立场，正被”高自主 agent”拉扯。当 AI 能长链条自己规划、调用工具、连续行动时，“人始终是主语”这个语法会变得难以维持——她的框架对”agent 自主行动的责任归属”还需要更细的补充。(2) 利益相关不可回避。她反对 SB 1047 的论点本身站得住（惩罚上游、伤害开源与学术确是真问题），但她同时是 a16z 支持的创业者，而 a16z 是最激烈的反 SB 1047 方——这不构成观点谬误，却意味着读者应把她的”务实治理”放在”她也是被监管者”这个位置上审视。总的说，我给她的治理观打高分，但认为它对”能力相变的治理紧迫性”（见 ② AGI 立场）估计偏保守。

本模块信源 · 一手：李飞飞《Fortune》反对 SB 1047 署名文（2024-08-06）、参议院 HSGAC 证词 PDF（2023-09-14）、《The California Report on Frontier AI Policy》(2025-06-17)、巴黎 AI 行动峰会（2025-02）、Possible/issues.org 专访。官方：gov.ca.gov（Newsom 否决信、SB 53 签署）、HAI 官网。中文金句（“AI 是工具""人的放弃""智慧成本趋零”）为 36氪/钛媒体编译（中·中）。本轮新增「第二把刀」一节的英文一手（“A data center full of Einsteins — I just don’t understand that.”）取自 Latent Space《After LLMs》(2025-11-25)，一手场次 + 第三方逐字稿（pod.wave.co），措辞待与官方音频校对；QEPrize / BBC（2025-11-05）“分歧是健康的 / 两种极端修辞都让我担心”为二手转载·中，建议回 BBC 原稿核，标待核实。史实校正（HSGAC 而非 Insight Forum）见 信源台账。

生成模型：Opus 4.8 · 独立 gpt-5.6-sol-max review agent 参与质量把关 · 最近更新：2026-07