技术谱系:从边缘检测到世界模型
专题章节
主谱系
| 时间 | 工作 | 角色与贡献 | 理念 |
|---|---|---|---|
| 2015 | HED | 第一作者;整体嵌套、多尺度深监督边缘检测 | 视觉结构先验 |
| 2016/2017 | ResNeXt | 第一作者;把 cardinality 作为深度、宽度之外的架构维度 [1] | 同构分支与可扩展设计 |
| 2019–2020 | MoCo | 合著;动量编码器与队列支持大规模对比学习 [2] | 自监督表征 |
| 2022 | ConvNeXt | 资深作者;逐步现代化 ResNet,检验卷积设计空间 [3] | 架构与训练协同 |
| 2022/2023 | DiT | William Peebles 第一作者、谢共同作者;以 Transformer 替代潜扩散 U-Net,提出 adaLN-Zero [4] | 标准骨干与可扩展计算 |
| 2024 | MMVP | 资深作者;以 CLIP-blind pairs 暴露基础视觉 grounding 失败 [5] | vision-centric 诊断 |
| 2024 | SiT | 资深作者;随机插值与速度场统一研究 diffusion/flow [6] | 解耦路径、目标与采样 |
| 2024 | Cambrian-1 | 资深作者;比较视觉编码器,提出 CV-Bench 与 SVA [7] | vision-centric、fully open |
| 2024/2025 | REPA | 共同指导;用冻结视觉编码器表征约束扩散中间层 [8] | 表征即生成瓶颈 |
| 2024/2025 | MetaMorph | 共同作者;统一自回归理解与视觉生成 [9] | 理解—生成统一 |
| 2025/2026 | RAE | 资深作者;以预训练表征编码器和训练解码器替代传统 VAE 潜空间 [10] | 表征即潜空间 |
| 2025/2026 | Cambrian-S | 资深作者;LFP、surprise 与空间超感知分阶段路线 [11] | 预测式感知与记忆 |
| 2026 | 统一多模态预训练 | 共同指导;研究编码器、数据、MoE、动作 token 与 IsoFLOP [12] | 从语言建模走向多模态预训练 |
识别线:从人工结构到设计空间
第一条是“减少专门架构、提高可扩展性”:ResNeXt 用同构分支简化多分支设计,DiT 使用标准 Transformer 骨干 [1] [4]。
ConvNeXt 并不是“Transformer 失败”的证明,而是控制变量式地吸收训练策略与宏观设计,说明架构比较必须把训练配方纳入。同样,ResNeXt 的结论是在近似保持复杂度的受控实验中提高 cardinality 有效,不是 cardinality 在所有预算下永远优于深度和宽度 [3] [1]。
自监督线:MoCo、MAE 与去噪表征
MoCo 把对比学习字典视为动态队列,并用动量更新键编码器以保持一致性。此后 MAE 与 l-DAE 分别从高掩码重建和去噪机制研究表征。原型将其概括为“监督标签不足以形成 common sense”;论文能支持方法与实验,不能单独支持这一更强哲学判断 [2] [13]。
生成线:DiT、SiT 与 REPA
DiT 的核心是标准 Transformer 骨干、patch token 与 adaLN-Zero 条件注入;论文观察到 Gflops 与 FID 强相关,但没有报告拟合出的幂律指数 [4]。
SiT 保留 Transformer 骨干,把前向过程改写为随机插值并学习速度场,使 diffusion、flow、插值路径与采样器可以分别研究 [6]。
REPA 并非新的独立生成器,而是加在宿主训练目标上的表征对齐正则。论文主要结果来自 SiT 设置,基础损失应写成 velocity objective;套到原始 DiT 时,基础目标才是 improved-DDPM hybrid [8]。
表征即基座:从 REPA 到 RAE
第二条连续线索是“把表征从副产品变成生成基础”:REPA 先对齐扩散模型与外部视觉表征,RAE 再直接把预训练表征编码器作为生成潜空间的组成部分 [8] [10]。
RAE 有两个阶段:先冻结编码器训练解码器,再在 RAE latent 上训练 flow-matching 生成模型。只写重建损失会漏掉生成阶段。论文关于宽度阈值和误差下界的分析来自受限函数族与单图 overfit 设置,不能提升为所有深模型的普适定理 [10]。
Vision-centric 线:诊断、系统与空间能力
MMVP 用成对问题要求模型同时识别细微视觉差异;Cambrian-1 从编码器、连接器、数据和 Benchmark 全栈研究视觉瓶颈;Cambrian-S 又把持续视频理解拆为记忆、空间认知与预测。它们共同支持“视觉能力不能靠语言主干自动涌现”,但没有证明语言中心系统整体失败 [5] [7] [11]。
理解与生成统一
MetaMorph 让语言 token 用交叉熵、视觉表征用余弦目标,在同一自回归框架中处理理解与生成;统一多模态预训练进一步研究 RAE 编码器、MoE 与动作 token。结果显示理解和生成可以协同,但贡献不对称、结论受数据与任务设置限制 [9] [12]。
必须保留的署名纠错
- **RCG(arXiv:2312.03701)**作者为 Tianhong Li、Dina Katabi、Kaiming He,不是谢赛宁。它只能作为“表征条件生成”的平行先行工作,不能画成谢本人谱系节点。
- MMStar作者为 Lin Chen 等,不是谢赛宁。谢参与的评测工作是 MMVP 与 Cambrian-1 中的 CV-Bench。
- Fluid没有足够证据确认谢赛宁署名,本专题不列入。
对“隐式派”和“反 NAS”的反例
把谢赛宁固定为“只做隐式潜状态”并不准确。个人主页列出 PointContrast、Image Sculpting、3D Gaussian Splatting scaling 等显式 3D 工作;三派世界模型的区分只是输出契约,不是人物阵营 [13]。
原型还记录他对 NAS 的严厉回顾,但他本人参与过 Randomly Wired Neural Networks、On Network Design Spaces 等工作。这更像深度参与后的自我复盘,不应被写成“NAS 没有留下任何成果”的客观技术史 [13]。
参考来源
- [1]Aggregated Residual Transformations for Deep Neural Networks(在新窗口打开)官方 · 部分原话↩
- [2]Momentum Contrast for Unsupervised Visual Representation Learning(在新窗口打开)官方 · 部分原话↩
- [3]A ConvNet for the 2020s(在新窗口打开)官方 · 部分原话↩
- [4]Scalable Diffusion Models with Transformers(在新窗口打开)官方 · 部分原话↩
- [5]Eyes Wide Shut? Exploring the Visual Shortcomings of Multimodal LLMs(在新窗口打开)官方 · 部分原话↩
- [6]SiT — Exploring Flow and Diffusion-based Generative Models with Scalable Interpolant Transformers(在新窗口打开)官方 · 部分原话↩
- [7]Cambrian-1 — A Fully Open, Vision-Centric Exploration of Multimodal LLMs(在新窗口打开)官方 · 部分原话↩
- [8]Representation Alignment for Generation — Training Diffusion Transformers Is Easier Than You Think(在新窗口打开)官方 · 部分原话↩
- [9]MetaMorph — Multimodal Understanding and Generation via Instruction Tuning(在新窗口打开)官方 · 部分原话↩
- [10]Diffusion Transformers with Representation Autoencoders(在新窗口打开)官方 · 部分原话↩
- [11]Cambrian-S — Towards Spatial Supersensing in Video(在新窗口打开)官方 · 部分原话↩
- [12]Beyond Language Modeling — An Exploration of Multimodal Pretraining(在新窗口打开)官方 · 部分原话↩
- [13]Saining Xie — About Me and Selected Publications(在新窗口打开)官方 · 本人原话↩