EXAONE 4.5 Technical Report
本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。
相关报告
收录理由
该报告为 LG AI Research 的 arXiv 技术报告,说明视觉编码器与 EXAONE 语言基座融合、两阶段多模态预训练与 OCR/文档等数据设计,并含 SFT 上下文扩展、偏好优化与多模态强化学习及基准评测与开放权重许可说明。
关键要点
- EXAONE 4.5 将 1.2B 参数视觉编码器集成于 EXAONE 4.0 32B 基座,可同时处理文本与图像输入。
- EXAONE 4.5 为 LG’s first open-weight Vision Language Model(VLM)。
- 模型在 SFT 阶段集成上下文扩展,最大上下文长度为 256K tokens。
- 团队从零训练 1.2B 参数视觉编码器,视觉侧采用 GQA 与 2D RoPE,语言侧保留 1D RoPE。
- 预训练分 Stage 1 模态对齐与 Stage 2 感知与知识 refinement 两阶段顺序进行。
- 原文举例称其在 MathVision 上优于更大规模 Qwen3-VL-235B,得分为 75.2 vs. 74.6。