核心洞见

C 核心洞见

PART C核心洞见（把十年工作压成几条第一性判断）

这些洞见彼此咬合，构成一个自洽的世界观。 1 · 对比/互信息是一把通用锤子。 无监督（两视图）、蒸馏（师生）、监督（同类）、多模态（同 caption 多图）都可归为”把该相似的当正样本、用互信息拉近”。multi-positive（多正样本）是贯穿 SupCon→StableRep 的暗线。 2 · 信息要”最小充分”，不是越多越好（InfoMin 甜点）。 好视图/好增强/好合成数据的标准，是”只共享任务相关信息”。这条既是理论，也是他做合成数据”可控注入多样性”的操作指南。 3 · 表征质量优先于算法花活。 “a good embedding is all you need”——决定下游的是表征，不是 head/元学习的聪明。于是问题自然转向”用什么数据学表征”。 4 · 从模型学，而非只从数据学（learning from models）。 生成模型是可无限采样、可控变换的数据引擎；StableRep：2000 万合成 > 5000 万真实 CLIP；SynCLR：纯合成媲美 DINOv2/CLIP。 5 · 但要诚实标注边界。 Scaling Laws 标题写 “…for now”；自消耗回路会崩溃（需 self-correcting，田永龙为合著者）。合成数据”复制+放大”已有能力，突破上界仍需真实/深层数据——与 Efros 的”表层 vs 深层数据”互为印证。（注：这套”model collapse”边界是田永龙论文视角；勿与田渊栋在中文访谈里”形式化验证过滤合成数据防坍塌”混为一谈——见 身份消歧。） 6 · 重视生成机理，而非只当黑箱。 采样误差可被 Restart 收缩；扩散只是 PFGM++ 的一个极限；视觉不必照搬离散 next-token（MAR/Fluid 用连续 token+扩散损失）；ViT 有位置编码伪影可去噪修复。机理理解是持续进步的杠杆。 7 · 对评测保持怀疑：超越 FID。 用表征而非 Inception 特征度量生成（Representation Fréchet Loss）；区分 ability vs reliability。评测要与”表征本质”对齐。 8 · 洞见之间的冲突：「最小充分」与「数据引擎」在操作层面互相拉扯。

冲突在哪：洞见 2（InfoMin）说信息要”最小充分”——多余的共享信息帮不了泛化，少而准才好；洞见 4（数据引擎）说生成模型可以近零成本无限造数据——听上去多多益善。落到操作上就是一个尖锐的问题：合成数据到底该”多造”还是”造得刚好”？本文若不显式回答，两条洞见就在同一页上互相拆台。

答案其实已经藏在他自己的做法里（见 数据引擎深问 ③）：他造合成数据从来不是盲目堆量，而是三种受控注入——可控配对监督（同 prompt 多图→多正样本）、可控分布（平衡长尾/去偏/condition）、组合式覆盖（latent 插值补真实集缺席的组合）。这三条的共同点是：只注入”任务相关”的变化，不注入任务无关的噪声——这正是用 InfoMin 的标准去筛合成数据。

所以两条洞见不是矛盾，而是”目标函数 + 生成手段”的配对：InfoMin 定义”什么样的数据是好数据”（最小充分），数据引擎提供”如何廉价地造出这种数据”（可控生成）。量的意义只在”扩大对最小充分子空间的覆盖”，而非”增加信息量”（后者受 DPI 上界锁死）。推断：把这层关系显式化是我的整理——他本人未如此并列表述，但其全部合成数据工作都符合这个读法。显式化之后，全篇世界观才闭环。