Phoenix-VL 1.5 Medium Technical Report
本条目由 AI 按收录标准筛选与撰写，经独立的 AI 核查在原文中逐条找到依据，未经人工审核；数字与结论以原文为准。
相关报告
收录理由
该报告为 HTX 与 Mistral AI 合作的技术报告，说明多模态持续预训练与长上下文扩展、新加坡域后训练及在线直接偏好优化对齐，并给出本地化知识评测、行为与安全框架及 benchmark 与推理表现。
关键要点
- Phoenix-VL 1.5 Medium 为 123B 参数、原生多模态且多语言的基础模型，适配区域语言与新加坡语境。
- 自 Mistral Medium 3.1 基座检查点起，在 1-trillion tokens 精选数据混合上持续预训练，以提高新加坡相关内容与区域语言覆盖并保留通用能力。
- 长上下文扩展训练混合含 250-billion tokens 长上下文数据，并以短上下文数据作 reply 以保留预训练分布与能力。
- 后训练阶段数据 corpora 合计约 22-billion multimodal tokens，含新加坡人工标注多模态数据及文化、知识与立法文本语料。
- ODPO 在 curated 5B-token preference mixture 上运行，含反馈提示、带图反馈及带图指令对。
- 持续域训练相较仅指令微调基线，在图像与文本模态的本地化上下文评测上均有显著提升。