• 榜单数据10-19 11:33
  • 论文数据10-16 13:30
  • 周报10-18 20:50

技术押注、反方与证伪

阅读约 22 分钟AI 生成已核查 · 已审核审核人 负责人

专题章节

D 技术押注(重点)

PART D技术押注(他在赌什么,以及为什么)

为避免”押注”沦为不可反驳的陈述,每条统一给四栏:押注 / 关键证据(含强度)/ 若这条错了会先在哪看到(可证伪信号)/ 置信度与时间窗。能被证伪的判断才是判断。推断:置信度与时间窗是我的主观标定。 本节读完请接 PART D′ 反方论证——那里把”这套路线整体失败”的叙事做到最强(steel-man),并说明我因此下调了哪一条。

  ①数据引擎②生成=理解③视觉范式④超越FID⑤高效表征⑥机理杠杆

生成模型是可扩展的"数据引擎",合成数据成为一等公民。

押注真实数据边际获取成本持续上升,而生成器能近零成本、可控地造出任务相关多样性。关键证据 (含强度)StableRep / SynCLR(中:受控对比、但均为自家协议,且”合成>真实”实为”提纯>原始”)可证伪信号 若错了先在哪看到2026–27 若真实数据 scaling 一线(DataComp / SigLIP2)持续吃掉合成数据的相对增益,且 model collapse 无法靠真实数据配比稳住 → 这条先塌置信度 与时间窗高(作为”补长尾/造配对监督”)· 中低(作为主粮);窗口 2–3 年 生成与理解终将统一且互为增益。 押注生成迫使模型建世界模型,理解又提升生成可控性;与 Geirhos、DeltaWorld/NEPA 同频。关键证据 (含强度)弱:统一是工程事实,“互为增益”缺干净因果证据(见 PART G 反方证据)可证伪信号 若错了先在哪看到已在发生:统一模型消融显示生成并未显著反哺理解;Janus 的解耦本身就是承认。若 2027 前主流仍需解耦视觉编码 → “互为增益”证伪,只剩”可共处”置信度 与时间窗”统一”高;“互为增益”低(我已下调) 视觉 scaling 需要”对的范式”,而非照搬语言。 押注视觉天生连续、无固定序;VQ 量化与光栅序是人为枷锁 → 连续 token + 随机序 + 扩散损失。关键证据 (含强度)较强:Transfusion(连续>离散同预算)、MAR/Fluid 的 scaling 曲线可证伪信号 若错了先在哪看到统一多模态最终仍以离散 token 收敛——Emu3 已上 Nature、VAR 拿 NeurIPS best paper;若 2027 前旗舰统一模型清一色离散 token(为与 LLM 共栈),则”连续更对”在工程终局上被证伪(尽管在纯生成质量上仍成立)置信度 与时间窗高(纯生成质量)· 中(统一建模终局);窗口 2 年 评测要”超越 FID”、回归表征本质。 押注既然表征质量是根本,度量生成也应在更好的表征空间里做(FD-loss / FDrK)。关键证据 (含强度)强:验证集自身 FID=1.68 而多方法已 ≤1.5(比真图还真)——度量已失效【有据】可证伪信号 若错了先在哪看到若多表征度量自身也被快速 Goodhart(模型专刷 DINOv2/CLIP 空间),则”换尺子”只是延后问题而非解决;届时需转向人类偏好/下游效用为准置信度 与时间窗很高(FID 已不够用是既成事实);窗口已到 资源/数据受限场景下,合成 + 高效表征是主路径。 押注LIMIT.Lab 纲领;1 图/1 视频/纯合成也能学好表征。关键证据 (含强度)中:Asano”1 视频≈ImageNet”、3D sans 3D Scans 均成立但在受限基准上可证伪信号 若错了先在哪看到若在资源受限赛道上,直接蒸馏开源大模型(而非自造合成数据)成为压倒性性价比方案,则”合成造血”被更简单的路径替代置信度 与时间窗中高(学术/长尾场景)· 中低(前沿实验室) 机理性理解是持续进步的杠杆。 押注不满足”能用”,要懂”为什么”,从而系统提效(Restart、PFGM++、DVT、l-DeTok)。关键证据 (含强度)中:每项都有明确增益,但多为局部改进,非范式级可证伪信号 若错了先在哪看到若未来两年最大增益全部来自纯粹的规模与数据工程,而机理性改进的贡献持续被摊薄至噪声级 → 这条降级为”锦上添花”置信度 与时间窗中(作为研究方法论高,作为竞争壁垒中低)

交互演示 · Classifier-Free Guidance:多样性 ↔ 保真度的取舍

生成机理里最典型的”旋钮”之一是 CFG 引导强度 (w):采样时用 (\hat\epsilon = \epsilon_{\text{uncond}} + w,(\epsilon_{\text{cond}}-\epsilon_{\text{uncond}}))。(w) 越大越贴合条件(保真/文本对齐↑),但样本越单一(多样性↓)——这恰是 Raghunathan”别只靠温度旋钮求多样性”、田永龙”生成机理要理解”的共同关切。拖动感受这个 trade-off:

引导强度 w = 3.0


  文本对齐/保真度:–
  多样性:–
  状态:–

读法CFG 的存在本身证明了 Raghunathan/田永龙的共同论点:把”多样性”外包给一个标量旋钮,必然要牺牲另一头。真正的解法(seed-conditioning、多 token/扩散范式、更好的采样如 Restart)是从范式与机理下手,而不是拧旋钮。这就是”机理理解是杠杆”的具体含义。 ❓深问:田永龙的”资源受限”路线,和他在 OpenAI 的”重算力”日常,矛盾吗?

不矛盾,反而是同一枚硬币。关键在于把”资源”分成数据侧与算力侧两个账本:

② 机理理解降低算力的边际浪费:Restart 采样、连续 token(免 VQ 量化损失)、超越 FID 的评测——每一项都是”让每一份算力更值钱”。所以”重算力”与”高效”不对立:越是大规模,越需要机理性优化来避免把 GPU 烧在错误范式上(如照搬语言的离散 next-token 拖慢视觉 scaling)。

③ 但有一条硬边界(呼应 Efros):无论哪个账本,合成/重放都受真实数据信息量的上界约束。所以田永龙同时押”合成造血”与”诚实标注 …for now / 自消耗会崩溃”——这不是自相矛盾,而是知道杠杆的支点在哪。推断

D′ 反方:如果这条路走不通

PART D′反方论证:如果这条路整体走不通——一次刻意的 steel-man

阅读须知本节是刻意把反方立场做到最强(steel-man):假设站在 2028 年回看,田永龙这套路线整体失败了,最可能的失败叙事是什么?本节不代表全篇结论——我的实际判断在 PART D 各条的置信度栏与 PART H 综合判断里。写它的理由是:一条只能被赞同、不能被反驳的路线,不配叫判断。

下面不是零散风险点罗列,而是一条连贯的失败叙事:从信息论天花板出发(§1–2),到方向性错误(§3),到生态性失败(§4),到度量的自我循环(§5),最后归到最根本的维度错误(§6)与组织层面的分散(§7)。

1 · 起点:信息天花板是硬的,“数据引擎”可能只是昂贵的数据增广

反方的第一块砖不需要新论据——就用本文自己论证过的东西:由数据处理不等式,(I(\text{world};\mathcal D_{\text{syn}})\le I(\text{world};\mathcal D_{\text{gen}}));由 Kamb–Ganguli,卷积扩散的”创造”机理就是训练 patch 的局部最近邻拼贴(推导见 数据引擎深问,此处不重复)。

反方要补的那一步是经济学而非信息论:既然合成数据不产生关于世界的新信息,它的全部价值就落在”把已有信息重组成更好学的形态”——也就是一种数据增广。而增广的收益天生是递减的:真实数据侧一旦继续 scaling(DINOv3 / SigLIP 2 / DataComp 这条线),“提纯”带来的相对增益会被直接吃掉。届时回看 StableRep 的”2000 万合成 > 5000 万真实”,会被重新叙述为”在真实数据尚未被充分清洗的年代,一个聪明的清洗手段”——一旦数据清洗/配平本身成熟,生成器这条昂贵的路径就失去性价比。推断

2 · 转折:他自己装的两个刹车,反方会读成”上限的早期信号”

本文此前把 “Scaling Laws of Synthetic Images …for Now” 的标题留白与 Self-Consuming Loops 的崩溃 读成科研诚实。反方会给出完全相同事实的另一种读法:这不是谨慎,而是路线内在上限的早期信号——一个人给自己的结论加时间限定词,通常是因为他已经看到了曲线在弯。

这个读法之所以有力,是因为它不需要反驳任何数据,只需要重新解释动机。而且它与 §1 严丝合缝:如果合成数据的价值本质是增广,那”…for now”就正是增广收益递减被提前观察到的样子;Self-Consuming Loops 则说明一旦切断真实数据这个外部锚,系统会主动退化(机制见 坍缩动力学)——即这条路线必须持续依赖它声称要替代的东西。推断

3 · 最强一击:「生成反哺理解」可能不是”还没做到”,而是方向错了

这是反方全部论证里最锋利的一条,因为它同时握有实证与理论两头。

  • 实证侧:多个统一模型的消融显示,加入生成任务对理解端提升有限甚至互斥;而 Janus 之所以必须解耦理解与生成的视觉编码,本身就是承认二者需求不同(详见 PART G 反方证据)。

  • 理论侧:PART H 轴 6 给出的信息论反向——理解要 (\min I(z;x))(丢掉视角/光照/纹理,求不变性),生成要 (\max I(z;x))(保住每个像素,求完整性)。同一项被要求同时最小与最大。

    [ \underbrace{\max_f I(z;y)\ \text{s.t.}\ \min_f I(z;x)}{\text{理解}} \qquad\Big/\qquad \underbrace{\max_f I(z;x)}{\text{生成}} ] 为什么这一击最重bet② 的措辞是”生成与理解终将统一且互为增益”。反方只需要证明那个张力是结构性的而非工程性的——如果它源自目标函数的符号冲突,那么”还没做到”就不是时间问题,而是方向问题:再多算力与数据都不会让 (\min I(z;x)) 和 (\max I(z;x)) 变成同一个解。 更致命的是它反噬到田永龙的理论核心:InfoMin(最小充分)恰恰是”理解侧”的最优性原则。若他后半段的生成主线(MAR/Fluid/l-DeTok)本质上要求”充分且完整”,那么他自己的两半工作在目标函数层面互相排斥——本文 PART C 第 8 张卡片用”InfoMin 定义好数据、引擎负责造”来化解这个张力,反方会说那只是把冲突从”表征层”挪到了”数据层”,并未消解。推断:这是我能构造出的最强反驳,我认为它真正有威胁,见文末置信度。

4 · 生态:离散路线可能已经赢了(VHS vs Betamax 式失败)

技术上更优雅 ≠ 生态上会赢。反方会指出:Emu3 已上 Nature(见 G·1)、VAR 拿 NeurIPS 2024 最佳论文、国内一批统一多模态模型(Janus / Show-o / BAGEL / Emu3)大量走离散 token 路线——原因很实际:离散 token 能直接复用 LLM 的全套基建(同一个词表、同一个自回归栈、KV cache、现成的 RL/serving 流水线)。

而”去 VQ 的连续 token”要付的代价是:无法与文本共用一个词表、需要额外的扩散头、推理更慢、且脱离了 LLM 生态的顺风车。如果 2028 年的旗舰统一模型清一色是离散的,那么 MAR/Fluid 会被记成”在图像生成质量上更对,但在统一建模的生态战争中输掉”的路线——正如 Betamax 在画质上胜过 VHS。推断:这条已被写进 PART D bet③ 的可证伪信号,此处是把它升级为完整叙事。

5 · 度量:「超越 FID」可能只是把 Goodhart 往后推了一格

反方在这里可以直接引用田永龙合著论文自己报告的数字——这使它格外难以辩驳:(\mathrm{FDr}^K) 依然建立在表征选择与高斯矩匹配两个假设上,而论文自报存在这样的样本:IS 高达 660、FID 低至 2.09,但 (\mathrm{FDr}^6) 恶化到 50.66——即可以把旧指标刷到离谱,同时新指标崩掉。【有据:FD-loss 论文自报,见 §B⑥】

反方的推论:这个例子固然证明了”FID 会骗人”(支持田永龙),但它同时证明了”指标之间可以被任意解耦”——那么凭什么相信 (\mathrm{FDr}^6) 本身不会在被当成优化目标后,被同样地刷掉?多表征只是提高了刷分成本,没有改变刷分的可能性。若 2028 年出现”专门在 6 个表征空间同时刷分”的方法,“超越 FID”就只是把 Goodhart 往后推了一格,而非解决了度量问题。推断

6 · 最根本:整条路线可能在错误的维度上优化(Efros 式反方)

把前五条合起来,就得到最根本的那一条:合成数据、表征技巧、更好的度量——全都在”表层数据”这一侧打转。若 AGI 的真正瓶颈在”与世界交互”(Efros 的 deep data:干预、因果、反事实,见 A·1·7),那么这整条路线不是走得慢,而是走错了维度——就像在给一台没接传感器的机器不断优化压缩算法。

Physics-IQ 是这条反方最好的实证注脚:跨 Sora/Runway/Pika/Lumiere/SVD/VideoPoet,视觉真实感与物理理解无显著相关,最好的 VideoPoet 仅 29.5 vs 物理变异基线 100.0(见 PART H 轴 9)。反方会说:这就是”在表层数据上优化到极致”的天花板长什么样——像素越来越真,物理理解原地不动。【有据:[1]】

7 · 组织:是”同一信念的两种投影”,还是押注分散、两头都不极致?

本文现有解释是:他在 OpenAI 主导重算力视觉推理,与 LIMIT/VGI 的资源受限普惠路线共享同一内核——“每单位算力/数据的最大能力”(见 §B⑥)。

反方的质疑很直接:这个解释无法被证伪——任何两件事都能被说成”共享某个抽象内核”。更朴素的读法是:他同时押了两个方向相反的注——一边是”用最少资源”(LIMIT),一边是”最大内部 GPU 消耗者”(OpenAI)。若 2028 年回看,可能的结果是:资源受限那条被工业界的蛮力规模抹平,重算力那条又不是他的独有贡献(大团队工程,“I led visual reasoning”的贡献边界本就不透明,见 GPT-5 专题评析)。推断:这条是七条里我认为最弱的一击(见下),但它是反方叙事里必然会出现的一环。

综合判断:反方最强的是哪一条

内容

  反方最强的一条§3「生成反哺理解可能方向错了」。理由:它是七条里唯一同时握有实证(Janus 必须解耦、统一模型消融)与理论(\(I(z;x)\) 符号冲突)的一条,且直接反噬田永龙的理论核心(InfoMin 是理解侧原则,与生成所需的完整性对立)。其余六条要么是时间问题(§1 §5)、动机重释(§2)、生态偶然(§4)、范围问题(§6 针对的是整个领域而非他个人)、或不可证伪(§7)。
  证据强度中高。实证侧:Janus 的解耦是强的间接证据(工程上不得不这么做),统一模型消融待核(缺一份系统性的公开元分析)。理论侧:\(I(z;x)\) 的符号冲突论证清晰但非定理——它假设理解必须走"最小充分",而分层方案(浅层保完整、深层做抽象,见 轴 6 出路②)在原理上就能绕开这个冲突,且与"重建式模型判别信息分散各层"的实证([@arxiv-2304-13089])吻合。所以这一击很重,但不致命。
  需要看到什么

才能确认反方成立三个信号,任一出现即大幅抬高反方置信度:① 2027–28 年最强的多模态模型仍必须解耦理解与生成的视觉编码(分层/条件化方案在规模上均失败);② 真实数据侧 scaling 持续吃掉合成数据的相对增益,且 model collapse 无法靠真实配比稳住(→ §1 成立);③ 一个”同时刷 6 个表征空间”的方法出现并被普遍采用(→ §5 成立,度量问题未被解决只被推迟)。 我对”反方成立” 的置信度整体约 30%,分项差异很大:§3(方向错)≈35–40%——最需要认真对待;§1(退化为增广)≈30%;§5(Goodhart 推后一格)≈50%,但注意这条即便成立也不否定他(发现”旧尺子坏了”本身就是贡献);§4(生态失败)≈40%,但这属于”技术对、生态输”,不同于”判断错”;§6(错维度)≈25%,且它不是针对他的反驳——他已内化 deep data 的护栏;§7(押注分散)≈10%,最弱。结论:反方能撼动的主要是 bet②(互为增益),撼不动 bet③(视觉需要对的范式)与 bet④(超越 FID)。推断:概率为我的主观标定,非统计估计。

写完这节之后我改了什么写 steel-man 的价值在于它会逼你修改自己的结论。写完后我做了一处实质下调:bet②「生成与理解互为增益」应拆成两句——“可以统一”(工程事实,高置信)与”互为增益”(待证假设,低置信)。这一修正已同步进 PART D bet② 与 PART G 反方证据。其余五条 bet 我不下调,理由见上表分项。

D″ 被证伪 / 被超越 / 被放弃

PART D″被证伪、被超越、被放弃——诚实化补白

为什么必须有这一节前面把他的路线整理成”六条押注”,读起来像六条全部命中——那是成功叙事偏差。真实的研究生涯是:做了二十多次押注,其中两条(对比学习、合成数据)形成纵深,一条(GNN)在他离开后被别人做大,其余多为一次性尝试。本节把中止的、被反驳的、被超越的一并写出,每条标依据强度。

A · 中止与放弃的方向(判断依据 = 此后无同方向论文)

方向轨迹(含引用数)读法

  图神经网络Jumping Knowledge Networks(ICML 2018,[@arxiv-1806-03536],第三作者;一作 Keyu Xu、通讯 Stefanie Jegelka)—— 引用 2403最大的反讽:这是他被引第三高的论文,却是唯一一篇 GNN 工作,此后再未回头。GNN 后来成为一个大领域,但那是别人做大的。为何离开:未找到公开说明,待核。
  神经符号 /

程序化结构先验shape2prog(ICLR 2019,[2],一作,162)→ Unsupervised Shape Programs(NeurIPS 2022,仅 18)→ 2022 后中止推断他离开的不是”结构先验”,而是”手工设计的 DSL”:2019 年需人为定义形状程序语法;2023 年后他改用 LLM 生成 caption 来控制分布——符号从人工 DSL 换成了自然语言,与领域整体走向一致。⚠️ 未找到他本人做过这个类比的任何公开表述。 跨模态 无线感知2018 年三篇:RF-Pose(CVPR’18,677)、RF-based 3D skeletons(SIGCOMM’18,409)、RF-Based Fall Monitoring(IMWUT’18,166)→ 2018 后完全终止关键细节:Dina Katabi 此后仍是常规合作者(LaCLIP / SynCLR / Scaling Laws 均有她)→ 中止的是方向,不是人际关系,说明这是一次主动的研究选择而非合作破裂。 GAN 理论ProbGAN(ICLR 2019)—— 引用仅 33,其顶会论文最低之一 → 此后再无 GAN 理论工作一次明确的低回报押注。推断其内核可能延续到 PFGM++ / Restart——都是”给生成过程找原理性数学骨架”的同一品味,只是换了对象。 知识蒸馏CRD(ICLR 2020,1375)→ Simple Distillation Baselines([3],仅 9)→ Co-Advise(CVPR 2022,70)→ 2022 后中止引用曲线 1375 → 9 → 70 本身就是叙事:开山之作影响巨大,后续两次尝试均未续上,于是收手。 少样本学习Rethinking Few-Shot([4],一作,1074)→ 2020 后中止这一条不该算失败:论文结论本身就是”a Good Embedding Is All You Need?”——它是一篇终结子领域的论文;作者随后转去做表征,恰是其自身逻辑的贯彻。可作”中止 ≠ 失败”的正面反衬。 一次性工作去中心化 SSL(2210.10947,27)· Feature Suppression(2012.09962,16)· Training-Free Uncertainty(1910.04858,36)· Composable Aug(2104.00616,21)· Divide&Contrast(2105.08054,113)· RandSAC(2203.12054,18)· Restart(94)· PFGM++(103)多为单次探索,未形成纵深。这才是研究的常态分布。

B · 被证伪、被修正、被超越(本节最有价值的部分)

B1 · InfoMin:经验现象站得住,因果解释没站住

  • NeurIPS 2020 官方公开审稿([5])【有据·原文】:审稿人 3 称核心发现 “trivial”——用 (I_{\text{NCE}}) 代表互信息、画一条相对 (I_{\text{NCE}}) 的倒 U 曲线,等价于画一条相对训练损失的倒 U 曲线,而这是平凡的,因为训练本就要经历欠拟合/临界/过拟合三阶段;并称”73.0% SOTA 这项贡献显得很弱,作者所做的只是加强了数据增广”。审稿人 2:“(I_{\text{NCE}}) 本质上就是 (-\mathcal L_{\text{NCE}})“,且”既然模型已训好,也可以直接算迁移性能”——即该指标无预测力、只有事后解释力。审稿人 4 指出视图生成器 (g) 的平凡解风险。两位审稿人判定 Reproducibility: No。

  • Tschannen et al., On Mutual Information Maximization for Representation Learning([6],ICLR 2020)【有据·原文】:“这些方法的成功不能归因于 MI 本身的性质”,而是强烈依赖特征提取器架构的归纳偏置与 MI 估计器的参数化方式;建议改用深度度量学习来解释。

  • 时间关系必须写出来:Tschannen 2019-07 发布、ICLR 2020 发表;而 InfoMin(2005.10243)是 2020-05,在这篇反驳之后——即他是在”MI 解释已被质疑”的背景下仍选择 MI 框架。

    准确的结论(不宜过度断言)不宜说”InfoMin 已被证伪”。准确的三分法是:① 经验现象(倒 U 甜点)站得住;② 因果解释(“MI 是原因”)没站住;③ 实践建议(用更强增广)被后来的路线绕过(BYOL/MAE/DINOv2 都不显式最大化 MI)。本文 §B③ 的 InfoMin 评析此前已指出”它更像解释框架而非可优化目标”——现在有官方审稿原文作为更硬的依据。

B2 · SupCon:最优几何与交叉熵相同;并有明确失效域

  • Graf et al., Dissecting Supervised Contrastive Learning([7],ICML 2021)【有据·原文】:证明 SupCon 与交叉熵两个损失都在”每类表征坍缩到内接超球面的正则单纯形顶点”时取最小值——即最优几何完全相同;先前报告的优势”根源在 batch 内样本的强交互项”(是优化动力学差异,不是目标更优)。另:完美拟合所需迭代随随机翻转标签比例超线性增长。

  • 明确失效域:A Tale of Two Classes(CVPR 2025)——SupCon 在二元不平衡数据集上无效:约 20% 不平衡时即降到加权交叉熵之下,5%→1% 之间完全坍缩。

  • ⚠️ 一条必须写成开放问题的说法:坊间常称”SupCon 的优势在大规模/长训练下消失”——我未找到受控证据;ResNet strikes back([8])不是受控对比(同时改了增广、正则、优化器与训练轮数)。故此处只写为开放问题,不可写成已被推翻。

B3 · CMC:被超越得最清晰的一条

  • 它曾被 ICLR 2020 拒稿(OpenReview forum BkgStySKPB;官方 bibtex 用 @misc 而非 @inproceedings,据此判定拒稿),后发 ECCV 2020。审稿质疑新颖性:“该方法本身多年前就已被提出,其推广形式也已在先前工作中被描述过”(【有据·二手】,具体措辞需登录 OpenReview 复核)。

  • 三条主流路线逐一拆掉 CMC 的三个前提【有据】:BYOL / SimSiam 拆掉”需要负样本”;MAE / 掩码建模拆掉”需要多视图”(单图重建即可);DINOv2 / DINOv3([9])以自蒸馏 + 数据策展主导;Web-SSL([10])更进一步证明同数据下视觉 SSL 比 CLIP 扩展得更好、7B 仍未饱和。→ “多视图 + 负样本”这一配方,在 2026 年已不是任何前沿视觉表征模型的架构选择。

  • 给他的公平注脚:CMC(2772)与 SupCon(6586)至今仍是他被引最高的两篇。被超越 ≠ 无影响——准确的说法是它们是奠基性的,而非持久的技术方案。

B4 · 纯合成数据:这条线遭遇了最实质的打击

  • 他自己的论文就写了限定([11] 摘要):合成图在 CLIP 训练上”相似但略逊”,在有监督分类上”显著落后”,主因是现成 T2I 模型”无法生成某些概念”。标题 ”… for Now” 是本人刻意的自我限定。

  • 被外部论文用同一论证正面反驳:The Unmet Promise of Synthetic Training Images([12])【有据·原文】直接点名 SynCLR,并给出数据处理不等式论证——“Stable Diffusion 本身也训练在 LAION-2B 上,因此根据数据处理不等式,它生成的图像不可能包含关于 LAION-2B 的任何额外信息”;实证上”训练在合成数据上的收益,始终被训练在检索到的真实数据上的收益所匹配或超越”(FGVC-Aircraft 上 139K 检索真实图带来 +17.8 个百分点)。→ 这与本文 数据引擎深问的 DPI 论证完全同构——区别是:现在这不再只是我的推断,而是有论文用同一不等式正面反驳 SynCLR。

  • 最致命的一条(2026-02):[13]【有据·原文】用 2022→2025 逐代更强的 SOTA T2I 生成数据、仅用合成训练分类器,结果是——“尽管视觉保真度与 prompt 遵循度有可观进步,真实测试精度却随更新的 T2I 模型作为数据生成器而持续下降”,因为这些模型”坍缩到狭窄的、以美学为中心的分布”,破坏多样性与真实分布覆盖;并明言”挑战了’生成真实感的进步意味着数据真实感的进步’这一假设”。→ 他 2023 年写的 “for Now”,其中的 “now” 不仅没有变好,反而变差了。

  • 方向性修正(此前常被说反):[14](CVPRW’24)显示合成克隆模型的 shape bias、背景偏置、校准度与真实数据基线相当甚至更优——短板不在形状偏置,而在对抗噪声与真实世界噪声;且”真实 + 合成混合”可提升鲁棒性、prompt 选择很关键。

  • 真实数据路线明显拉开:DINOv3(2508.10104)、SigLIP 2([15])、Web-SSL(2504.01017)——三者都是”更好的真实数据 + 更好的算法”,无一走纯合成。推断(有支撑)合成数据并未消失,而是从”替代真实数据”退回”补充/增广”(2405.20469 建议真实+合成混合;PolyGen [16] 用多生成器集成消除单一生成器的谱偏置)。

  • 待核:未找到他本人在 2025–2026 对这条线的公开修正表态(需查其 X 时间线,本次未能访问)。

B5 · “生成反哺理解”:正反证据都很具体,须平衡呈现

证据

  反Janus([@arxiv-2410-13848])原文即以"理解与生成所需信息粒度不同、共享编码器导致次优"为解耦动因;RealUnify([@arxiv-2509-24897])评估 12 个领先统一模型 + 6 个 SOTA 专用基线,结论"尽管有统一架构,当前模型仍难以有效协同理解与生成"——把最强专才分步组合成 oracle 达 72.7%,统一模型远达不到(约 25 个百分点差距);UniSandBox([@arxiv-2511-20561])发现"显著的理解-生成鸿沟",BAGEL 某项 0.0283 → 0.5100(加 CoT 后)——能力存在,但不会自动流动。
  正[@arxiv-2505-23043]:"用混合数据训练的统一 VLM 都优于任务专用对照……生成中获得的知识可迁移到理解,且发生在基座语言模型内部";Pisces([@arxiv-2506-10395])消融显示双向互益。
  综合这是一个在小规模受控设置下可测得、在大规模真实基准上尚未兑现的假设。反向证据(Janus 的解耦动因、RealUnify 的 25 点差距)与正向证据同样具体。→ 与 PART D bet② 现有标注一致:"可以统一"高置信 / "互为增益"低置信;PART D′ §3 的最强一击也建立在这条上。

B6 · “超越 FID”:这一条他已经交出答卷

与前五条不同,这条不是被反驳而是被兑现:FD-loss([17],2026-04,与 USC 团队)不只质疑 FID,而是给出可训练的 FD-loss 与多表征度量 (\mathrm{FDr}^k),并报告 Inception 空间下单步生成器在 ImageNet 256×256 达 0.72 FID;论文自承”FID 可能对视觉质量误排序”。→ 本文凡写”他质疑 FID”处,都应同时写”他已给出替代方案”(§B⑥ 已含完整推导与三条实证)。

C · 他本人承认的局限(一手,最能说明其诚实度)

工作作者自承的局限

  Scaling Laws of Synthetic Images标题即 "… for Now" 的自我限定;合成在有监督分类上"显著落后",因 T2I 无法生成某些概念
  StableRep必须先有真实数据训练的生成器;生成慢;语义错配;偏见放大;归属复杂;且合成图恒定高分辨率导致迁移到低分辨率场景(CIFAR)时有域差——故需引入 Random Downsample
  Self-Correcting Self-Consuming Loops承认除特定条件外会不稳定甚至崩溃
  NegBench承认 VLM 不理解否定(no/not)
  FD-loss承认 FID 会对视觉质量误排序

这一节改变了什么把 A/B/C 合起来看,对他的评价应从”连续命中六次的预言家”改成一个更真实也更值得尊重的形象:一个在二十多次押注里保持极高诚实度、并在两条线上做出纵深的研究者。他的”刹车”(for Now、self-consuming 会崩、FID 会误排序、VLM 不懂否定)不是修辞,而是可核验的自我限定——而这些限定后来大部分被外部论文证实为真(2406.05184、2602.19946)。能被自己的限定条件追上的人,比从不设限的人可信。推断

参考来源

  1. [1]arXiv:2501.09038(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  2. [2]arXiv:1901.02875(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  3. [3]arXiv:2106.11304(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  4. [4]Rethinking Few-Shot Image Classification(在新窗口打开)arxiv.org · 2020-03-25 · Abstract · 访问于 2026-10-18官方 · 部分原话↩
  5. [5]papers.nips.cc(在新窗口打开)papers.nips.cc · 访问于 2026-10-18权威媒体 · 非本人原话↩
  6. [6]arXiv:1907.13625(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  7. [7]arXiv:2102.08817(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  8. [8]arXiv:2110.00476(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  9. [9]arXiv:2508.10104(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  10. [10]arXiv:2504.01017(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  11. [11]arXiv:2312.04567(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  12. [12]arXiv:2406.05184(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  13. [13]arXiv:2602.19946(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  14. [14]arXiv:2405.20469(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  15. [15]arXiv:2502.14786(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  16. [16]arXiv:2602.01370(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩
  17. [17]arXiv:2604.28190(在新窗口打开)arxiv.org · Abstract · 访问于 2026-10-18官方 · 非本人原话↩