LLaDA2.0-Uni: Unifying Multimodal Understanding and Generation with Diffusion Large Language Model
本条目由 AI 按收录标准筛选与撰写，经独立的 AI 核查在原文中逐条找到依据，未经人工审核；数字与结论以原文为准。
相关报告
收录理由
该报告为统一离散扩散多模态大模型论文，阐述 SigLIP-VQ 语义分词、MoE 骨干与扩散解码器及块级掩码目标，含多阶段训练数据配方、理解生成编辑与交错任务评测，并提供开源仓库与模型发布。
关键要点
- 架构含 SigLIP-VQ 语义离散分词器、16B 参数 MoE 扩散语言模型骨干与扩散解码器，文本与图像共用块级掩码预测目标。
- 扩散解码器经蒸馏可在 8 步 CFG-free 推理下由语义 token 重建高保真图像，并含 2× 超分。
- 训练分视觉语言对齐、多任务预训练与监督微调三阶段；SFT 数据约六千万样本，文本与多模态约一比五。
- 多模态理解在 MMStar 得 64.1，相对 Lumina-DiMOO 的 58.0 在 general VQA 等类别提升明显。
- GenEval 整体得 0.89，Position 子项 0.90；DPG 整体 87.76，为文中统一模型对比中的最高整体分。
- SPRINT 无训练推理加速在九项基准上 TPS 约 1.6×，平均得分由 76.3 降至 75.7。