发布多人人像文生图专用基准与四维评测,并借分割与匈牙利匹配提升身份相似度。
- 构建含 1800 组 prompt 与 5550 张多样化人脸的 MultiHuman-Testbench
- 提出人脸数量、ID 相似度、文本对齐与动作检测四类评测指标
- 用人体分割与区域隔离、匈牙利匹配显著改善 ID 保持
指出 LLM 多为参数中的浅层因果知识,提出 CausalProbe-2024 与 G²-Reasoner 以逼近类人深层因果推理。
- 从自回归机制论证 Transformer LLM 并非 inherently causal
- 发布近乎未见的因果问答基准 CausalProbe-2024
- 提出融合通用知识与目标导向提示的 G²-Reasoner
分步 V2A 用负向引导避免重复已有音效,在单参考数据集上训练并提升合成质量。
- 借鉴 Foley 流程,支持按步增量生成视频中多种互补声音
- 每步用负向引导 V2A,抑制与已生成轨道的声音重复
- 在同视频非重叠片段音频对上微调,可用标准单参考视听数据训练
用 MLLM 生成 CoT 引导分阶段 foley、交互 refinement 与语言编辑,并发布 AudioCoT 数据集。
- 三阶段 CoT 框架:基础 foley、物体级交互、语言指令编辑
- AudioCoT:视觉、文本与合成之间的结构化推理标注
- 视频到音频生成在音频与 CoT 指标上达 SOTA
提出 SP-Ctrl,在稀疏 OpenPose 条件下增强姿态可控文生图,性能可比稠密信号方法。
- 提出 Spatial-Pose ControlNet,将 OpenPose 扩展为可学习的空间表征
- 引入关键点概念学习,使关键点 token 对齐空间位置
- 在人与动物生成上优于同类稀疏/空间可控 T2I 基线
发布电影镜头语言理解基准 ShotBench 与大规模 ShotQA,微调 ShotVL 在 ShotBench 上显著优于现有模型。
- ShotBench:200+ 部影片、八维电影摄影、3500+ 专家 QA
- 构建约 70k 电影 QA 的 ShotQA 数据集
- SFT 与 GRPO 训练 ShotVL,开源模型与数据
在 MoE LLM 单 epoch 预训练中验证 grokking,用 pathway 指标零成本追踪下游泛化。
- 首次在实用 LLM 预训练设定下研究 grokking 与异步 local grokking
- 揭示 MoE 训练 pathway 由实例特化转向更可迁移结构
- 提出两种仅依赖训练数据的 pathway 指标替代昂贵 benchmark 评测
用 SIG 流水线自动构造 32 万+视频质量指令数据,并提升 Video LMM 打分与解释能力。
- Score-based Instruction Generation 对无标注视频多维度打分并映射为文本等级
- 层次化 Chain-of-Thought 建模维度与整体质量关系,生成 Score2Instruct 数据集
- 提出渐进式指令微调与 S2I-Bench,系统评测质量 justification 能力
通过直接跨模态对齐与视觉-文本记忆库,提升文本查询下点云点级分割表现。
- 设计直接跨模态对齐模块,显式联结 3D 点云与文本/2D 图像
- 视觉-文本记忆模块用特征库与映射做场景相关的知识召回
- 在 3D 指令、指代与语义分割基准上达到 SOTA
从 15 万+ 多轮原始语音偏好对出发,离线对齐微调全双工 speech-to-speech 对话模型。
- 面向实时语音(打断、插话等)的偏好对齐框架
- AI 反馈标注的语言内容与时间上下文偏好数据
- 部署与人评验证多轮对话中的事实性、安全性与上下文对齐
为神经语音 codec 插件式引入动态帧率,在同架构相近码率下显著降低重建 WER。
- 首次在神经 speech codec 上无监督、架构无关地支持动态帧率 DFR
- ScheDFR 与 Melt-and-Cool 分别适配推理与训练阶段的帧率变化
- 单模型可在多帧率推理,相对固定帧率基线重建 WER 最多降约 32%
两阶段框架用 MLLM 结构推理与 OSVF 约束生成语义增强矢量字形,辅助专家释读甲骨文。
- MLLM 增强空间感知推理,分析glyph结构并定位关键部件
- Oracle Structural Vector Fusion 融合结构与字形保持约束生成矢量字体
- 在语义、视觉与字形保持上优于基线,对未见字符给出专家级解读线索
LiSER 从大 speech/face 教师向轻量学生蒸馏无标音视频,降低 SER 对大量标注的依赖。
- 面向 SER 的无标音视频知识蒸馏框架 LiSER
- 融合 speech 与 face 表征的大教师向 lightweight student 迁移
- 在 RAVDESS、CREMA-D 上验证可减轻对大规模标注的依赖
在 bitwise 自回归 T2I 的 token 比特流中嵌入水印,兼顾保真、速度与抗移除及放射性检测。
- BitMark 在生成过程的 bit 级嵌入不可感知、可检测水印
- 对多种移除手段鲁棒,且水印图像用于训练次级生成模型仍可检出
- 针对无限离散 token 的自回归 T2I,缓解模型 collapse 风险
仅用文本 LLM 微调标注指代 span,在中小数据上有效,并讨论该任务对纯文本方法的局限。
- 将预训练 LLM 适配为对话中指代 mention 的 span 边界预测
- 表明 linguistic context 对该检测任务相对重要
- 指出任务本质多模态、单模态方法存在 fundamental 局限