Internalizing Agent Experience into Diffusion Model Weights via On-Policy Context Distillation
本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。
相关报告
收录理由
arXiv 论文提出 D-OPCD/ASE,将 agent 经验蒸馏进扩散权重,含四基准评测与两轮消融式数值结果,研究价值高。
关键要点
- D-OPCD 以 harness 产出的 prompt 为教师特权上下文,在学生仅见原始 query 的 on-policy 去噪轨迹上蒸馏。
- 四基准直接生成平均分由 60.52 提至 65.09;相对 Vanilla SFT 的 63.38 高 1.71 分。
- ASE 将任务轨迹提炼为可复用 skill;首轮 evolved harness 均分 81.83,较仅 query 生成高 21.31 分。
- 权重内化后无 skill harness 均分 82.33,signed internalization gap 为 +0.50。
- 清空 skill 后第二轮 ASE 在更新生成器上再进化,相对无 skill harness 额外 +1.83 分(均分 84.16)。
- 实验基于 Z-Image-Turbo,在 GenEval、GenEval2、WISE、R2I-Bench 上评测。