搜索Ctrl K
  • 榜单数据10-28 11:35
  • 论文数据10-29 13:30
  • 周报10-26 15:29

JoyAI-Image: Awaking Spatial Intelligence in Unified Multimodal Understanding and Generation

阅读约 1 分钟AI 生成已核查

本条目由 AI 按收录标准筛选与撰写,经独立的 AI 核查在原文中逐条找到依据,未经人工审核;数字与结论以原文为准。

京东 JoyAI报告发布于 arXiv多模态推理

涉及模型JoyAI-ImageJoyAI-Image-EditJoyAI-Image-Und (Ours)Qwen3-VL-8B-InstructWan-2.1-VAE

阅读原文(在新窗口打开)
相关报告

收录理由

该报告描述 MLLM 与 MMDiT 统一架构、OpenSpatial 空间数据合成与多阶段训练流程,并在理解、生成与编辑多项基准上给出实验,提供开源代码。

关键要点

  1. JoyAI-Image 将空间增强 MLLM 与 Multimodal Diffusion Transformer 耦合,经共享多模态接口连接感知与生成。
  2. 生成核心为 16B-parameter MMDiT,潜在压缩采用 Wan-2.1-VAE。
  3. OpenSpatial-3M 训练集含 3 million entries,覆盖五类空间能力与 19 个子任务。
  4. 整体训练语料约 11.3M samples,其中 Spatial Understanding 约 3.4M samples(29.65%)。
  5. 空间专项模型 JoyAI-Image-Und 在空间基准 Spa. Avg. 达 64.4,较 Qwen3-VL-8B-Instruct 基座高 5.3 点。
  6. LongText-Bench 上 JoyAI-Image 的 LongText-Bench-EN 与 LongText-Bench-ZH 均为 0.963。

参考来源

  1. [1]JoyAI-Image: Awaking Spatial Intelligence in Unified Multimodal Understanding and Generation(在新窗口打开)京东 JoyAI · 2026-05-05 · 访问于 2026-10-28