JoyAI-Image: Awaking Spatial Intelligence in Unified Multimodal Understanding and Generation
本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。
相关报告
收录理由
该报告描述 MLLM 与 MMDiT 统一架构、OpenSpatial 空间数据合成与多阶段训练流程,并在理解、生成与编辑多项基准上给出实验,提供开源代码。
关键要点
- JoyAI-Image 将空间增强 MLLM 与 Multimodal Diffusion Transformer 耦合,经共享多模态接口连接感知与生成。
- 生成核心为 16B-parameter MMDiT,潜在压缩采用 Wan-2.1-VAE。
- OpenSpatial-3M 训练集含 3 million entries,覆盖五类空间能力与 19 个子任务。
- 整体训练语料约 11.3M samples,其中 Spatial Understanding 约 3.4M samples(29.65%)。
- 空间专项模型 JoyAI-Image-Und 在空间基准 Spa. Avg. 达 64.4,较 Qwen3-VL-8B-Instruct 基座高 5.3 点。
- LongText-Bench 上 JoyAI-Image 的 LongText-Bench-EN 与 LongText-Bench-ZH 均为 0.963。