两阶段先在 K&K 逻辑谜题蒸馏 Long CoT 热身,再对小样本 RLVR,提升推理与样本效率。
- 提出数据稀缺下的样本高效两阶段训练:玩具域 CoT 蒸馏 + 目标域 RLVR
- 仅热身即可在 MATH、HumanEval+、MMLU-Pro 等多任务上带来提升
- 相同小数据 RLVR 时热身模型优于基座,且有助于保持跨域泛化
THOR-MoE 先预测域/语言再分层选专家并注入上下文路由,在多域与多语翻译上 consistently 更优。
- 提出分层任务引导路由:先预测域/语言标签再分配任务级专家
- 在预筛专家集合上做上下文增强的 token 路由以提升专家匹配
- 作为即插即用模块兼容 Top-k/Top-p,在多域与多语 NMT 基准上验证增益
自动扩展指令跟随数据建 Ground-V,显著提升 LISA/PSALM 等模型的像素级 grounding。
- 针对幻觉指代、多物体、推理、多粒度与部件级指代五类难题设计数据流程
- 教师蒸馏生成与像素标注对齐的高质量指令-响应对,减少人工标注
- 在 RefCOCO 系列等基准上取得 SOTA,gRefCOCO N-Acc 达 83.3%
先按阅读顺序生成版式锚点再并行解析内容,三千万级数据训练,多基准 SOTA 且更高效。
- 提出 analyze-then-parse 与异构锚点提示的文档解析范式
- 构建超 3000 万样本的多粒度解析训练数据
- 在页面级与元素级任务上 SOTA,并行解析提升效率
CLO 用英文 SFT 数据与翻译模型做跨语言迁移,在保英语能力同时更好习得目标语。
- 提出 Cross-Lingual Optimization,缓解 SFT 过度偏重英语与低资源数据敏感
- 利用公开英文 SFT 与翻译模型实现高效目标语能力迁移
- 在五模型六语言上显示 CLO 以更少样本优于 SFT 并保持英语性能
ESWM 用离散情节记忆建空间地图,少轨迹即可预测未观测转移并支持探索与导航。
- 提出 Episodic Spatial World Model,从稀疏不相连情节记忆构建空间地图
- 潜空间几何与环境对齐,可独立存储更新并快速适应环境变化
- 无需额外训练即可支持近最优探索与任意点间导航策略
ClapFM-EVC 用语言或参考语音并调节强度,实现高保真可控情感 voice conversion。
- 提出 EVC-CLAP,对齐语音与文本的细粒度情感要素
- FuEncoder 与自适应强度门融合情感特征与 ASR 的 PPG
- flow matching 重建 Mel,主客观评测验证效果
在 DPO 中用多源概率融合的参考模型做隐式模型融合,Phi-4 在 11 项基准上平均分明显提升。
- 提出偏好优化阶段的隐式多模型融合方法 InfiFPO
- 序列级融合多源概率并引入概率裁剪与 max-margin 融合
- 在 11 个基准上 consistently 优于现有融合与 PO 方法
以听觉语义框架组织推理并发布 AudSem 数据集,AudSemThinker 在多种设定下优于 SOTA。
- 提出面向细粒度声音语义推理的 AudSemThinker 模型与认知启发框架
- 构建经多阶段流水线生成标注、面向零样本评测防污染的 AudSem 数据集
- 在多训练设定下展示语义音频推理能力优于现有音频—语言模型
扩展 CoT 的推理模型在解题与置信度校准上均优于非推理模型,慢思考是主因。
- 六类推理模型在 36 组设定中 33 组校准严格优于非推理对照
- 揭示慢思考(备选路径、回溯)使 CoT 过程中置信度逐步更准确
- 用上下文引导非推理模型慢思考可复现校准提升
用统一 concept tokens 在同一 VLM 中联合个性化理解与生成,在属性推理生成上达 SOTA。
- 提出 UniCTokens,用统一 token 共享理解与生成语义
- 三阶段渐进训练:理解预热、由理解引导生成、由生成深化理解
- 发布 UnifyBench,评测概念理解、生成与属性推理生成
对有害提示在推理开头生成 8 token Safety Primer 的轻量对齐,大幅降有害输出且保持推理能力。
- SAFEPATH 微调 LRM 在有害提示下先输出短 Safety Primer,其余推理不监督
- 在 DeepSeek-R1-Distill 等上显著减少有害响应并阻挡多数 jailbreak
- 分析现有 LLM 安全方法在推理中心模型上的泛化缺口,并提供零样本变体
系统检验 CoT 轨迹正确性与可解释性,发现二者与最终答案质量并不一致。
- 用规则分解 QA 构造正确/错误轨迹但答案正确的微调数据,隔离轨迹语义效应
- 正确轨迹仅 28% 测试例得到正确答案,错误轨迹也未必降精度
- R1 冗长轨迹性能最好但用户认为最难理解,呼吁监督目标与展示轨迹解耦
MoE 投影器融合语音/音频/音乐编码器,语义感知对比损失强化对齐,多基准优于专用与现有音频 LM。
- 构建覆盖 speech、general audio、music 的统一音频语言模型 U-SAM
- MoE projector 做任务感知特征路由与融合
- Semantic-Aware Contrastive Loss 抑制冗余特征并增强跨模态对齐
改进 XAB 主观听测并提元音/formant 与音素后验相关客观指标,更好评口音合成。
- 主观上扩展 XAB 测试:转写、高亮口音差异与听众筛选以提高显著性
- 客观上基于元音 formant 与音素 posteriorgram 距离构建发音相关指标
- 揭示 WER 等指标在欠代表口音评估上的显著局限
在潜空间用聚类与正样本队列找同说话人不同录音条件的正样本,降低 SimCLR/DINO 的 EER。
- 指出现有同 utterance 正采样易编码录音通道而非身份信息的瓶颈
- SSPS 在潜空间为 anchor 匹配不同录音条件的同说话人 positive
- 在 VoxCeleb1-O 上 SimCLR/DINO 达约 2.57%/2.53% EER,SimCLR 相对大幅降 EER
神经 codec token 去噪器接入 LauraTTS,减轻提示音噪声对零样本 TTS 的影响。
- 提出含 codec、token denoiser 与 embedding refiner 的去噪框架
- 从噪声 token 预测干净声学 token 组,作为 LauraTTS 提示或波形重建
- 去噪器优于 SOTA SE,集成后噪声鲁棒 LauraTTS 优于外挂 SE 方案
分层建模语义与声学属性,用因子化 codec 与扩散模型逐步增强语音,复杂噪声下质量更稳并利于下游 TTS。
- 提出语义信息驱动的因子化分层语音增强框架
- 结合因子化 codec 与扩散模型分步恢复干净语音
- 在复杂声学场景下优于 SOTA,并提升噪声环境 TTS 表现
借鉴说话人验证思路,用源归因分类器嵌入距离判断测试音频是否与参考同源。
- 定义源验证任务:判断测试轨是否与参考集来自同一合成模型
- 利用源归因分类器嵌入计算轨间距离并系统评估多场景因素
- 首次探索开放集下源验证的潜力与脆弱性,服务取证应用
仅用目标初始位置弱引导,结合深度跟踪与联合训练,在说话人移动与交叉场景提取说话人。
- 提出仅依赖目标初始位置的弱引导提取,适配空间动态场景
- 集成深度跟踪算法与合成数据联合训练策略
- 在歧义场景下可优于失配的强引导提取方法
自动检测并补全数学 CoT 中专家省略的中间步骤,桥接数据微调可显著提升推理表现。
- 提出 CoT Thought Leap Bridge 任务与 CoT-Bridge 模型
- 基于 ScaleQuestMath 构建 ScaleQM+ 训练集
- 作为即插即用模块,提升蒸馏数据与 RL 起点并改善 OOD 逻辑推理
AnaST 固定特征提取器,新攻击出现时单 epoch 闭式解析更新分类器,缓解溯源类增量遗忘。
- 针对音频 deepfake 溯源的类增量场景提出 AnaST
- 新攻击到来时分类器用闭式解析解更新,特征提取器固定
- 兼顾数据隐私、内存与在线训练,实验优于基线
无显式人口统计标签时用 IDI 伪标签或 k-means 无监督推断子群,提升 SER 公平性。
- 提出 Implicit Demography Inference,在缺人口标签下缓解 SER 子群偏差
- 伪标签 IDI 使公平指标提升超 28% 且准确率降幅小于 2%
- 无监督 IDI 在 SER 性能小幅下降下进一步改善公平并缓解种族与年龄差异
LISTEN 用骨干 LLM 合成负样本对比训练,不改 LLM 参数,减轻 ALLM 对不存在声事件的幻觉。
- 提出 LISTEN:用合成扩展负样本区分存在与缺失声音
- 轻量 adapter 融合音频表示,无需修改 LLM 参数
- 在保持音频问答与推理基准表现的同时缓解幻觉,数据与算力更省
提出更适合一阶推理的 score 学习准则,对比 NCE 与 SSM 训练能量基 TTS。
- 指出 NCE 依赖噪声样本质量,SSM/NCE 未充分贴合 log-likelihood 形态
- 针对 EBM/DM 一阶推理提出新的 score 学习准则
- 在训练 EBM 的实验中与 NCE、SSM 等方法进行对比
TR-DRL 利用轨迹反转增强与时间反演奖励塑形,在 Robosuite/MetaWorld 上提高样本效率与最终性能。
- 系统探索机器人任务中的时间反演对称性
- 提出 TR-DRL:动力学一致滤波、轨迹反转增强与奖励塑形
- 单任务与多任务设置下均优于基线
按 Contextual Integrity 将安全隐私建模为上下文合规,用规则奖励 RL 对齐 GDPR 等标准并提升推理。
- 在 CI 框架下对齐 GDPR、EU AI Act、HIPAA 等监管标准
- 规则奖励 RL 激励上下文推理并增强安全隐私合规
- 安全隐私基准与 MMLU、LegalBench 等通用推理均有提升
双分支谱时 Mamba 与互交叉注意力检测合成语音,在 ASVSpoof LA21/DF21 上相对 SOTA 显著提升。
- 提出 BiCrossMamba-ST 谱时双分支与双向 Mamba 架构
- 互交叉注意力与 2D 注意力图聚焦关键谱时区域
- 在 ASVSpoof LA21 与 DF21 上取得显著相对增益
从目标态反向分解规划,BAR 在复杂 Minecraft 任务上优于现有前向推理智能体。
- 提出从终态出发的反向推理规划范式,缓解初始态与目标感知鸿沟
- 设计递归目标分解、状态一致性与阶段记忆模块以稳定高效规划
- 在 Minecraft 复杂任务上验证 BAR 相对现有方法的优越性
提出 TruthHypo 与 KnowHD,系统评估 LLM 科学假设的真实性与知识 grounding,用于筛选可信假设。
- 发布 TruthHypo 基准评估 LLM 生成真实科学假设的能力
- 提出 KnowHD 知识型幻觉检测器评估假设与现有知识的 grounding
- 分析推理步骤幻觉,表明 KnowHD grounding 分数可筛真实假设
用自然度与标签联合度量样本难度做课程学习,并加自然度动态温度,ASVspoof 2021 DF 上 EER 相对降 23%。
- 提出利用 speech naturalness 的课程学习训练框架
- 结合 MOS 与标签调节训练样本引入顺序
- 引入基于自然度的动态 temperature scaling 提升泛化
Interspeech 2025 会议场景视听 AVSD/AVSR/AVDR 挑战赛总结,最优系统相对基线 DER/CER/cpCER 大幅改善。
- 定义并举办多设备会议场景的视听日记化与识别挑战
- 提供数据集、基线及参与者方案概览
- 报告 AVSD、AVSR、AVDR 最优成绩相对基线的提升
构建带时间戳与情感标注的对话数据,用 LLM 融合多模态线索预测人格,更贴近人工评判。
- 预处理原始录音得到带时间戳、响应类型与情感标注的全双工对话数据集
- 设计利用 LLM 结合文本、声学与行为线索预测对话级人格的系统
- 相较现有方法与人类人格标注的一致性更强
大规模用户研究探索 TTS 与游戏角色声中与 kawaii 相关的声学特征及手动/自动调节方式。
- 四阶段研究(N=512)系统考察计算机语音中的 kawaii vocalics
- 发现部分声线可通过基频与共振峰调节存在 kawaii sweet spot 及上限
- 为 kawaii vocalics 初步模型提供实证并给出初级感知操控方法
融合注视与说话人空间约束的轻量框架,提升三元对话话轮预测,面向智能眼镜定向声场与听辅。
- 将注视与说话人定位纳入空间约束,使注视成为可靠预测信号
- 单用户注视即可提升预测,多用户注视进一步刻画对话动态
- 轻量、注重隐私,支持噪声环境下自适应定向声控以改善可懂度