MoE-ViE: Mixture of Experts Vision Encoder for Efficient Image and Video Understanding（在新窗口打开）
系统研究 CLIP 式视觉编码器的 MoE 扩展，细粒度拓扑与无辅助损失平衡加专用 kernel，对齐 LLM 后在图像与视频 benchmark 上优于更大 dense 编码器。
- 细粒度 MoE 拓扑在 SOTA 尺度上显著优于 dense 与标准 MoE
- 提出无辅助损失平衡变体与 MoE kernel 以改善专家利用并降低推理延迟
- frame-level distillation 与 freezing 机制在增强视频能力同时保留图像知识