EXAONE Tabular 1.0 : Technical Report
本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。
相关报告
收录理由
该报告为 arXiv 技术报告,说明 CAST 架构、SCM 合成先验预训练、分类与回归独立训练及推理流程,并在 TabArena、BCCO、TALENT、ScoringBench 上给出评测协议与结果。
关键要点
- EXAONE Tabular 为 LG AI Research 的表格基础模型族,分类与回归共享 CAST 核心架构, entirely 在 SCM 合成数据上预训练。
- CAST 在各层交替特征轴与支持集条件化样本轴注意力,经 item-summary 与 feature-summary 令牌连接,全程保留单元格级表示。
- 分类检查点约 20.81M 参数,回归检查点约 21.11M 参数。
- TabArena 上分类在单一默认配置下 Elo 居 leaderboard 首位;回归以约 1/11 的 TabFM 推理成本进入与其重叠置信区间的性能水平。
- BCCO 与 TALENT 上回归平均 R² 均为对比模型中最高,分类任务平均准确率均为第二。
- ScoringBench 官方榜上该模型在 R²、RMSE 与 CRPS 的平均名次均为最佳。