💬LLMP1 顶会ICLR 2026
在 Chinchilla 框架上加入架构因素的 conditional scaling law,搜索兼顾精度与推理吞吐的 LLM 结构。
- 分析 hidden size、MLP/Attention 参数比与 GQA 对精度与推理成本的影响
- 提出含架构信息的 conditional scaling law 与架构搜索框架
- 大规模训练验证:同预算下相对 LLaMA-3.2 报告更高精度与更高推理吞吐
👁️VLMP1 顶会CVPR 2026
免训练两阶段框架压缩流式视频 VLM 的 prefill 与 kv-cache,在有限活跃内存下做实时视频理解。
- Causal Temporal Reduction 按帧变化与显著性固定每帧 token 预算
- Online Quantized Memory 以 4-bit 存储并按需检索,限制 kv-cache 增长
- 在多个离线/流式基准上达到免训练方法中的领先表现
💬LLMP1 顶会ICLR 2026
搜索自对弈让模型同时充当任务提出者与求解者,在无标注下通过 RL 协同进化并提升多轮搜索 Agent。
- 提出 Search Self-play:提出者与求解者共演化的深度搜索 Agent 训练
- 用提出者检索轨迹作外部知识、RAG 校验查询可答性以构造可验证奖励
- 从零与持续 RL 设定下均在多基准上统一提升搜索 Agent
💬LLMP1 顶会ACL 2026
在 RLVR 中加入变量级执行轨迹对齐,加强代码文本与执行语义的联系并提升 pass@1。
- CodeRL+ 从 on-policy rollout 构造执行语义对齐信号
- 与多种 RL 算法及 LLM 兼容并优于 RLVR/蒸馏等后训练基线
- 探针分析表明文本表示与执行语义对齐增强
🎧音频P1 顶会ICASSP 2026
分析 Whisper 与 Seamless-M4T 在口音间的 WER 差异,用适配器与公平目标微调缩小口音间差距。
- 揭示主流 ASR 在 26 个口音组间 WER 波动与公平性缺口
- 融合 ERM 与 SD、Group-DRO、IRM 的 fairness-prompted 轻量适配器微调
- 在 macro-averaged WER 上相对大模型基线报告显著公平性提升
💬LLMP1 顶会NeurIPS 2025
COUPLE 用结构因果模型建模价值维度依赖与优先级,经反事实推理按目标价值生成对齐输出。
- 针对价值复杂性与可 steer 性提出 COUPLE 反事实对齐框架
- SCM 刻画价值维度间依赖及其与行为的因果关系
- 在两种价值体系数据集上优于多种价值对齐基线
🎬视频生成P1 顶会ICCV 2025
从房屋图像集合生成几何一致的漫游相机轨迹、3D grounded 文案,并用 3D Gaussian Splatting 合成看房视频。
- 扩散过程结合已知相机位姿生成平滑 3D 漫游轨迹
- 将轨迹信息融入 VLM 以生成具 3D 几何 grounding 的解说文本
- 发布含位姿、三维重建与描述的 HouseTour 数据集及联合评测指标
👁️VLMP1 顶会CVPR 2026
提出 3DThinker,在推理中隐式对齐 3D 表征,无需 3D 输入与标注即可提升有限视角空间推理。
- 首次在 VLM 推理中引入无 3D 先验的 3D mentaling
- 两阶段训练:与 3D 基础模型对齐 latent,再用结果信号优化推理轨迹
- 多基准上优于强基线,推动 3D 表征融入多模态推理
🎨文生图P1 顶会CVPR 2026
冻结 VFM 作 LDM tokenizer 并设计新解码器,显著加速扩散训练并提升生成 gFID。
- 提出 VFM-VAE,避免蒸馏削弱 VFM 表示鲁棒性
- 系统研究不同 tokenizer 表示对扩散训练全过程的影响
- 较少 epoch 即达到 competitive gFID,并支持继续训练进一步改进
💬LLMP1 顶会EMNLP 2025
用 CoT 知识蒸馏将 LLM 推理能力迁移到 SLM,在工业资产健康场景显著优于基座并缩小与 LLM 差距。
- 面向工业资产健康的 LLM→SLM CoT 蒸馏框架
- 基于 MCQA 提示蒸馏并配合上下文学习校验生成知识
- 微调 SLM 在生成知识上显著优于基座模型
💬LLMP1 顶会EMNLP 2025
构建中英盲文混合数据集与 BKFT,经指令微调统一完成盲文翻译与公式转盲文等任务。
- 发布含数学公式的 EBMD/CBMD 及语法树增强方法
- 提出 Braille Knowledge-Based Fine-Tuning 降低盲文上下文学习难度
- BrailleLLM 在盲文相关任务上优于常规微调