🧑 人体理解¶
🧠 NeurIPS2025 · 共 42 篇
- A Differential and Pointwise Control Approach to Reinforcement Learning
-
将RL问题通过连续时间控制的微分对偶形式重新表述,利用哈密顿结构嵌入物理先验,提出dfPO算法实现逐点策略优化,在科学计算任务(曲面建模、网格控制、分子动力学)上以更少样本超越12个RL基线。
- A Practical Guide for Incorporating Symmetry in Diffusion Policy
-
本文提出了一套将对称性融入扩散策略的实用指南——通过不变性表征(相对轨迹动作 + 手眼感知)、等变视觉编码器和 Frame Averaging 三种简单方法,在 MimicGen 12 个任务上达到了接近甚至超越完全等变扩散策略的性能,同时实现复杂度大幅降低。
- A Regularized Newton Method for Nonconvex Optimization with Global and Local Complexity Guarantees
-
提出一类基于当前与历史梯度构造的新型正则化器,结合带负曲率监测的共轭梯度法求解正则化Newton方程,在不需要Hessian Lipschitz常数先验知识的自适应框架下,首次同时实现了\(O(\epsilon^{-3/2})\)最优全局迭代复杂度和二次局部收敛速率。
- A Simple Linear Patch Revives Layer-Pruned Large Language Models
-
提出 LinearPatch,一种即插即用的轻量修补技术,通过在剪枝界面插入一个融合了 Hadamard 变换(压制 token 级outlier)和通道缩放(对齐通道幅度)的对称矩阵,有效弥合层剪枝后的激活幅度失配问题,在 LLaMA-3-8B 上剪掉 5/32 层后仍保留 94.15% 性能(无训练),加上 30 分钟蒸馏可达 95.16%。
- Ada-KV: Optimizing KV Cache Eviction by Adaptive Budget Allocation for Efficient LLM Inference
-
发现现有 KV cache 驱逐方法对所有注意力头均匀分配预算忽略了头间注意力集中度的巨大差异,提出 Ada-KV——首个 head-wise 自适应预算分配策略,将稀疏头的预算重新分配给分散头,理论证明最小化驱逐损失上界,在 29 个数据集上即插即用地提升现有方法。
- Agint: Agentic Graph Compilation for Software Engineering Agents
-
提出 Agint,一个将自然语言意图编译为类型化、效果感知的DAG(有向无环图)的 agentic 图编译器,通过六层类型地板(TEXT→TYPED→SPEC→STUB→SHIM→PURE)渐进式精化自然语言为可执行代码,支持中间表示可执行、混合JIT运行时和Unix风格的可组合工具链。
- BEDLAM 2.0: Synthetic Humans and Cameras in Motion
-
BEDLAM 数据集的重大升级版,新增多样化相机运动(合成+手持+头戴设备捕获)、更广的焦距范围(14-400mm)、更多样化体型/发型/鞋子/服装,总计 27K 序列 8M+ 帧,显著提升世界坐标 3D 人体估计的精度。
- Breaking The Gradient Barrier Unveiling Large Language Models For Strategic Clas
-
提出 GLIM(Gradient-free Learning In-context Method),首次利用 LLM 的 In-Context Learning 机制隐式模拟策略分类中的双层优化(特征操纵 + 决策规则优化),无需微调即可在大规模数据上高效完成策略分类任务。
- BubbleFormer: Forecasting Boiling with Transformers
-
提出 BubbleFormer,基于分解时空轴注意力的 Transformer 架构用于预测沸腾动力学——包括难以预测的自主气泡成核事件,配合 BubbleML 2.0 数据集(160+ 高保真仿真),在多种流体、几何和壁面条件下实现准确的沸腾时空过程预测。
- Consistent Supervised-Unsupervised Alignment for Generalized Category Discovery
-
提出 NC-GCD 框架,通过预分配固定的 Equiangular Tight Frame (ETF) 原型为已知类和新类建立统一优化目标,结合语义一致性匹配器 (SCM) 稳定跨迭代伪标签分配,在 6 个 GCD 基准上显著提升新类发现精度。
- Counteractive RL: Rethinking Core Principles for Efficient and Scalable Deep Reinforcement Learning
-
CoAct TD Learning 颠覆 ε-greedy 的随机探索范式——以概率 ε 选择最小化 \(Q(s,a)\) 的动作(而非随机动作)来获取高时间差分信号,理论证明其产生更大 TD 误差,在 Atari 100K 上实现 248% 性能提升,仅需改动 2 行代码且零额外计算。
- CPEP: Contrastive Pose-EMG Pre-training Enhances Gesture Generalization on EMG Signals
-
提出 CPEP 框架,通过对比学习将低质量 EMG 信号表征与高质量手部姿态表征对齐,使 EMG 编码器获得姿态感知能力,首次实现从 EMG 信号零样本识别未见手势,分布内手势分类提升 21%、未见手势分类提升 72%。
- Cycle-Sync: Robust Global Camera Pose Estimation through Enhanced Cycle-Consistent Synchronization
-
提出 Cycle-Sync 全局相机位姿估计框架,通过将消息传递最小二乘 (MPLS) 扩展到相机位置估计、引入 Welsch 型鲁棒损失和环一致性加权,在无需 bundle adjustment 的情况下超越了包括完整 SfM pipeline(含 BA)在内的所有基线方法。
- Data-Juicer 2.0: Cloud-Scale Adaptive Data Processing for and with Foundation Models
-
Data-Juicer 2.0 是面向基础模型的云规模多模态数据处理系统,150+ 跨文本/图像/视频/音频算子,支持自适应分布式执行(Ray/MaxCompute),在 10000+ CPU 核心上高效处理 TB 级数据,已广泛应用于阿里云 PAI 等产品。
- Decomposition of Small Transformer Models
-
将 Stochastic Parameter Decomposition (SPD) 扩展到 Transformer,设计适用于序列数据的因果重要性函数和新损失函数,在玩具 induction head 上恢复期望两步电路,在 GPT-2-small 上定位到"高尔夫""篮球"等可解释概念对应的 rank-1 参数子空间。
- Devfd Developmental Face Forgery Detection By Learning Shared And Orthogonal Lor
-
提出 DevFD——一种发展式 MoE 架构,用共享 Real-LoRA 建模真实人脸共性、正交 Fake-LoRA 序列逐步建模新伪造类型,并通过将正交梯度集成到正交损失中缓解灾难性遗忘,在持续学习人脸伪造检测中达到最高准确率和最低遗忘率。
- Discovering Transformer Circuits via a Hybrid Attribution and Pruning Framework
-
提出混合归因与剪枝框架 HAP,先用快速的边归因修补(EAP)筛选高潜力子图,再在缩小后的搜索空间上运行精确的边剪枝(EP),在 GPT-2 Small 的 IOI 任务上比纯 EP 快 46% 且保持相当的电路忠实度,同时成功保留了 EAP 单独使用时会遗漏的 S-inhibition 头。
- Distillation Robustifies Unlearning
-
揭示了"蒸馏能使遗忘变得鲁棒"的核心发现——将遗忘后的模型蒸馏到随机初始化的学生网络中能有效丢弃潜在能力,并基于此提出UNDO方法(Unlearn-Noise-Distill-on-Outputs),通过对遗忘模型权重加噪再蒸馏,建立了计算量与鲁棒性之间的可调权衡,在合成任务和WMDP基准上接近从头重训的黄金标准。
- Distribution Learning Meets Graph Structure Sampling
-
本文建立了高维概率图模型 PAC 学习与图结构高效计数/采样之间的新联系,利用在线学习框架(EWA/RWM)将指数级专家集合的维护问题转化为 DAG 结构的加权采样问题,首次给出了弦图骨架贝叶斯网络的高效 agnostic 学习算法,并将树结构分布的样本复杂度从 O(nk³/ε) 改进到最优的 O(nk²/ε)。
- Emergent World Beliefs: Exploring Transformers in Stochastic Games
-
将LLM涌现世界模型的研究从完全信息游戏(Othello、国际象棋)扩展到不完全信息领域(德州扑克),通过在PHH格式扑克数据上预训练GPT-2并探测其内部激活,证明模型不仅学习了确定性特征(牌型识别~98%准确率),还自发发展了对随机性特征(胜率/equity,相关系数0.59)的内部表示。
- Evolutionary Learning in Spatial Agent-Based Models for Physical Climate Risk Assessment
-
提出一种整合地理空间气候灾害数据与进化学习机制的Agent-Based Model(ABM),在包含商品-制造-零售三级供应链的简化经济网络上,通过RCP8.5洪水投影模拟2025-2100年的经济响应,证明了进化自适应机制使企业在气候压力下维持显著更高的生产、资本、流动性和就业水平,同时揭示了传统资产级评估无法捕捉的供应链系统性风险。
- Exploration of Incremental Synthetic Non-Morphed Images for Single Morphing Attack Detection
-
系统研究了在单图像变形攻击检测(S-MAD)训练中增量引入合成非变形人脸图像的效果,发现适量的合成数据(~75%增量)可提升跨数据集泛化能力(EER从6.17%降至6.10%),但过度使用或仅用合成数据会导致性能严重退化(EER升至~38%)。
- Face-Human-Bench: A Comprehensive Benchmark of Face and Human Understanding for Multi-modal Assistants
-
提出 Face-Human-Bench,首个系统评估多模态大模型人脸与人体理解能力的基准,包含三级能力分类体系(2个L1 × 10个L2 × 18个L3),开发集与测试集各 1800 题,支持中英双语,评测 25 个主流 MLLM 并揭示其与专家模型的显著差距。
- FACE: A General Framework for Mapping Collaborative Filtering Embeddings into LLM Tokens
-
FACE 提出将协同过滤(CF)嵌入通过解纠缠投影 + 残差量化映射为 LLM 预训练 token(描述符),再用对比学习对齐语义,无需微调 LLM 即可实现 CF 嵌入的语义解读和推荐性能增强。
- FACE: Faithful Automatic Concept Extraction
-
提出 FACE 框架,在非负矩阵分解 (NMF) 中加入 KL 散度正则项,约束概念重建后的激活值保持与原始模型预测一致,从而提取真正忠实于模型决策过程的概念解释,在 ImageNet/COCO/CelebA 上全面超越 CRAFT 和 ICE。
- Faster Algorithms for Structured John Ellipsoid Computation
-
针对对称凸多面体 \(P = \{x \in \mathbb{R}^d : -\mathbf{1}_n \leq Ax \leq \mathbf{1}_n\}\) 的 John 椭球计算问题,提出两个快速算法:基于 sketching 的近输入稀疏度算法 \(\widetilde{O}(\text{nnz}(A) + d^\omega)\) 每次迭代,和基于树宽的算法 \(O(n\tau^2)\) 每次迭代,均显著优于已有最优 \(O(nd^2)\)。
- FirstAidQA: A Synthetic Dataset for First Aid and Emergency Response in Low-Connectivity Settings
-
构建 FirstAidQA,一个包含 5500 条合成急救问答对的数据集,基于认证急救教材用 ChatGPT-4o-mini 生成,经人工验证,旨在支撑低连接/离线环境下急救 AI 系统的微调训练。
- GraphChain: Large Language Models for Large-scale Graph Analysis via Tool Chaining
-
提出 GraphChain 框架,通过渐进式图蒸馏(RL驱动的工具链序列生成)和结构感知测试时自适应(基于图拓扑指纹的轻量适配器),使 LLM 能像人类探索未知环境一样,通过动态工具链序列逐步分析大规模图数据,平均准确率 84.7% 超越最优基线 20.7%,可扩展至 20 万节点。
- GUI-Rise: Structured Reasoning and History Summarization for GUI Navigation
-
提出 GUI-Rise 框架,通过结构化推理(进度估计 + 决策推理)、动作预测和历史摘要三个子任务的联合设计,结合 GRPO 强化学习与历史摘要奖励,显著提升 GUI 导航智能体在跨域场景下的泛化能力。
- HOI-Dyn: Learning Interaction Dynamics for Human-Object Motion Diffusion
-
将人体-物体交互(HOI)生成建模为 Driver-Responder 系统,通过轻量级 Transformer 交互动力学模型显式预测物体对人体动作的响应,利用残差动力学损失在训练时增强因果一致性,同时保持推理效率。
- Human-Machine Ritual: Synergic Performance through Real-Time Motion Recognition
-
提出一种轻量级实时动作识别系统,利用可穿戴 IMU 传感器 + MiniRocket 时序分类器实现 <50ms 延迟的舞者特定动作识别(96.05% 准确率),通过"具身记忆映射"将舞者的个人动作-声音关联编码到系统中,构建了一种尊重人体表达深度的人机协作表演范式。
- In-Context Compositional Learning via Sparse Coding Transformer
-
受稀疏编码启发,将 Transformer 注意力机制重新解释为在编码字典和解码字典上的投影,通过稀疏系数显式表示组合规则,并利用提升方案(lifting scheme)将上下文任务的组合规则迁移到目标任务。
- Incentivizing Reasoning For Advanced Instruction-Following Of Large Language Mod
-
提出 RAIF,通过 RL+规则中心奖励培养 LLM 在复杂指令(含 And/Chain/Selection/Nested 组合约束)下的深度推理能力:发现 vanilla CoT 对指令跟随有负面影响(因 LLM 只会浅层复述指令),设计 superior CoT enforcement(样本级对比过滤无效推理)+ 行为克隆控制分布偏移,1.5B 模型匹配 8B 性能,7 个 benchmark 平均提升 11.74%。
- K-DeCore: Facilitating Knowledge Transfer in Continual Structured Knowledge Reasoning
-
提出 K-DeCore 框架,通过知识解耦将结构化知识推理分为任务无关的 schema 过滤和任务特定的 query 构建两阶段,配合双视角记忆构建和结构引导的伪数据合成策略,在固定参数量下实现跨异构 SKR 任务的有效知识迁移。
- Learning Dense Hand Contact Estimation from Imbalanced Data
-
提出 HACO 框架,通过平衡接触采样(BCS)解决类别不平衡和顶点级类别平衡损失(VCB Loss)解决空间不平衡,首次在 14 个数据集(65.5 万图像)上训练稠密手部接触估计模型,在多种交互场景下达到 SOTA。
- Learning From Design Procedure To Generate CAD Programs for Data Augmentation
-
提出一种受工业设计流程启发的CAD程序数据增强范式,通过向LLM提供参考曲面程序和设计流程描述来引导生成包含B-Spline有机形状的CAD程序,显著缩小了公开CAD数据集与工业级设计在几何复杂度上的差距。
- Learning Skill-Attributes for Transferable Assessment in Video
-
提出CrossTrainer方法,通过发现跨运动通用的技能属性(如平衡、控制、手部定位)作为中间表示,训练多模态语言模型从视频中生成可操作反馈和水平评估,在跨运动零样本迁移中相对SOTA提升高达60%。
- Learning to Watermark: A Selective Watermarking Framework for Large Language Models via Multi-Objective Optimization
-
提出LTW(Learning to Watermark)框架,使用一个轻量级选择器网络基于句子嵌入、token熵和当前水印比例来自适应决定何时施加水印,通过多目标优化(MGDA)在可检测性和文本质量之间达到Pareto最优,在不降低检测性能的前提下显著提升水印文本质量。
- LUMIA: A Handheld Vision-to-Music System for Real-Time, Embodied Composition
-
提出Lumia——一个手持相机式设备,通过GPT-4 Vision分析拍摄画面生成结构化提示,再由Stable Audio合成音乐循环段,实现从视觉到音乐的实时、具身化即兴创作工作流。
- Mapping Faithful Reasoning in Language Models
-
提出Concept Walk框架,通过将推理模型每步的残差流激活投影到从对比数据学到的概念方向上,追踪内部概念表示在推理过程中的演化轨迹,以此区分CoT链是真正参与计算的还是仅为事后合理化的装饰性输出。
- MOSPA: Human Motion Generation Driven by Spatial Audio
-
首次提出空间音频驱动的人体运动生成:构建 SAM 数据集(9+ 小时 Ambisonics 空间音频-运动配对数据),设计 MOSPA 扩散模型框架融合空间位置信息 + 语义音频特征,在 VR/游戏/辅助技术等方面有应用前景。
- SPROD: Spurious-Aware Prototype Refinement for Reliable Out-of-Distribution Detection
-
SPROD 是一种后置(post-hoc)OOD 检测方法,专门应对训练数据中的虚假相关——通过将每个类别的原型细分为"正确分类"和"误分类"子组(后者共享虚假特征),配合 K-means 式精炼和距离式(生成式)评分,在 5 个虚假相关 OOD 基准上平均 AUROC 85.1%(+4.8% vs 次优 KNN),FPR@95 49.0%(-9.3% vs 次优)。