K-EXAONE 2.0 Technical Report
本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。
相关报告
收录理由
该报告为 arXiv 前沿规模基础模型技术报告,记述自前代 upcycle、持续预训练与中期及后训练流程、投机解码与九类基准评测及安全 taxonomy 扩展,并说明开源许可发布。
关键要点
- 该模型总参数量 750B,每 token 约 37B 参数被激活。
- 通过对 K-EXAONE 在深度与专家宽度上 upcycle 并继续大规模持续预训练得到该模型。
- 在九类评测上相对 K-EXAONE 一致提升,agentic coding 与长上下文理解增益最大。
- Needle-in-a-Haystack 评测中,在最长 256K token 上下文与不同 needle 位置下检索准确率为满分。
- OpenAI-MRCR 得分由 52.3 提升至 94.4。
- 多语言支持由六种扩展至十种,并以 Apache 2.0 许可发布 K-EXAONE 2.0。