搜索Ctrl K
  • 榜单数据10-28 11:35
  • 论文数据10-29 13:30
  • 周报10-26 15:29

EXAONE 4.5 Technical Report

阅读约 1 分钟AI 生成已核查

本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。

LG AI Research报告发布于 arXiv多模态推理

涉及模型EXAONE 4.5EXAONE 4.0GPT-5 miniQwen3-VL-235B-A22BQwen3.5-27B

阅读原文(在新窗口打开)
相关报告

收录理由

该报告为 LG AI Research 的 arXiv 技术报告,说明视觉编码器与 EXAONE 语言基座融合、两阶段多模态预训练与 OCR/文档等数据设计,并含 SFT 上下文扩展、偏好优化与多模态强化学习及基准评测与开放权重许可说明。

关键要点

  1. EXAONE 4.5 将 1.2B 参数视觉编码器集成于 EXAONE 4.0 32B 基座,可同时处理文本与图像输入。
  2. EXAONE 4.5 为 LG’s first open-weight Vision Language Model(VLM)。
  3. 模型在 SFT 阶段集成上下文扩展,最大上下文长度为 256K tokens。
  4. 团队从零训练 1.2B 参数视觉编码器,视觉侧采用 GQA 与 2D RoPE,语言侧保留 1D RoPE。
  5. 预训练分 Stage 1 模态对齐与 Stage 2 感知与知识 refinement 两阶段顺序进行。
  6. 原文举例称其在 MathVision 上优于更大规模 Qwen3-VL-235B,得分为 75.2 vs. 74.6。

参考来源

  1. [1]EXAONE 4.5 Technical Report(在新窗口打开)LG AI Research · 2026-04-09 · 访问于 2026-10-28