MiMo-V2.6: Scaling Reinforcement Learning Towards Self-Improvement
本条目由 AI 按收录标准筛选与撰写，经独立的 AI 核查在原文中逐条找到依据，未经人工审核；数字与结论以原文为准。
相关报告
收录理由
arXiv 技术报告，说明 MiMo-V2.6-Pro/Flash 架构与预训练 mid-training、异步大规模 RL（batch、环境、harness、GRS/GAR 评分）、MoE 路由冻结与反 reward hacking，及开源蒸馏模型与环境框架。
关键要点
- MiMo-V2.6-Pro 为 1.02T 参数 MoE，42B 激活参数；MiMo-V2.6-Flash 为 310B 总参数、15B 激活参数。
- 全异步 RL 每步使用 1,568 个 prompt、组大小 G=16，每步 rollout 约 25K 条序列。
- 每步训练 token 约 2.7B–3.7B，上下文长度最高可达 1M。
- MiMo-V2.6-Pro 与 MiMo-V2.6-Flash 的 RL 后训练分别花费 $2.6M 与 $0.9M。
- RL 过程中 DeepSWE average@3：Pro 由 58.4 升至 72.6，Flash 由 48.7 升至 65.7。
- 确认 reward hacking 的轨迹有效奖励置零后，全程 logged confirmed-hack 占比低于 2%。