Channel Matters: Estimating Channel Influence for Multivariate Time Series¶

会议: NeurIPS 2025
arXiv: 2408.14763
代码: GitHub
领域: 时间序列 / 影响函数 / 数据中心方法
关键词: 通道影响函数, 多变量时间序列, 异常检测, 数据剪枝, TracIn

一句话总结¶

提出 Channel-wise Influence (ChInf)——首个能量化多变量时间序列中不同通道对模型性能影响的影响函数方法，将 TracIn 从整体样本级分解到通道级，衍生出通道级异常检测和通道剪枝两个应用，在 5 个异常检测基准上排名第一。

研究背景与动机¶

领域现状：多变量时间序列 (MTS) 分析中，通道（变量）的重要性被广泛认知。iTransformer 用注意力建模通道依赖，PatchTST 用通道独立增强泛化。但这些方法都是模型中心的——它们隐式利用通道信息，无法显式量化每个通道对模型性能的具体影响。
现有痛点：
经典影响函数（Koh & Liang 2017）和 TracIn 都是针对整个数据样本设计的，无法区分 MTS 中不同通道的贡献
TimeInf 考虑了时间依赖性，但忽略了通道维度，在 MTS 异常检测和数据剪枝任务上效果不佳
没有工具能回答"哪个通道对模型预测最重要？""哪个通道最异常？"
核心矛盾：MTS 的不同通道包含不同类型的信息且有复杂的相关性，但现有影响函数无法区分通道级别的贡献——它们将所有通道打包成一个样本来计算影响。
本文要解决什么：(1) 定义通道级影响函数；(2) 基于此推导异常检测和通道剪枝方法。
切入角度：将 TracIn 的梯度内积从整个样本分解到各通道的梯度内积之和，自然获得一个通道影响矩阵 \(M_{CInf}\)。
核心idea一句话：将影响函数从样本级分解到通道级，用通道自影响做异常检测、用通道影响排序做数据剪枝。

方法详解¶

整体框架¶

ChInf 是一个后处理可解释性工具。给定训练好的 MTS 模型，ChInf 为任意训练-测试样本对计算一个 \(N \times N\) 的通道影响矩阵（\(N\) 为通道数），矩阵元素 \(a_{i,j}\) 表示训练通道 \(i\) 对测试通道 \(j\) 损失的影响。

关键设计¶

Channel-wise Influence Function (ChInf)：
做什么：将 TracIn 分解到通道级
核心思路：经典 TracIn 为 \(\text{TracIn}(z', z) = \eta \nabla_\theta L(z'; \theta)^\top \nabla_\theta L(z; \theta)\)。对 MTS，\(z' = \{c_1', ..., c_N'\}\)，利用损失关于通道的可加性，证明 \(\text{TracIn}(z', z) = \sum_{i=1}^{N} \sum_{j=1}^{N} \eta \nabla_\theta L(c_i'; \theta)^\top \nabla_\theta L(c_j; \theta)\)
定义通道影响矩阵：\(M_{CInf} = [a_{i,j}]_{N \times N}\)，其中 \(a_{i,j} = \eta \nabla_\theta L(c_i'; \theta)^\top \nabla_\theta L(c_j; \theta)\)
设计动机：\(a_{i,j}\) 表示在通道 \(i\) 上训练对通道 \(j\) 的损失有多大帮助——相似通道通常有高影响分数
ChInf 异常检测：
做什么：利用通道自影响（对角线元素）作为异常分数
核心思路：异常分数 = \(\max_i \eta \nabla_\theta L(c_i'; \theta)^\top \nabla_\theta L(c_i'; \theta)\)，即各通道自影响的最大值。异常样本因与正常训练数据分布不一致，自影响更大
设计动机：传统整体影响函数无法定位到具体哪个通道异常；ChInf 的通道分解使得可以取各通道最大值而非整体平均
ChInf 通道剪枝：
做什么：识别最具代表性的通道子集，用更少通道训练模型
核心思路：在验证集上计算各通道的自影响（对角线），按影响排序，等间隔采样选取代表性通道子集 \(\hat{D}\)
设计动机：iTransformer 表明用部分通道可以有效预测全部通道，说明通道间存在冗余；ChInf 提供了数据中心的方法来识别这些冗余

实验关键数据¶

主实验：异常检测¶

方法	SWaT F1	SMD F1	SMAP F1	MSL F1	WADI F1
PCA ERROR (Simple)	83.3	57.2	39.2	42.6	50.1
GCN-LSTM (Simple)	82.9	55.0	42.6	46.3	43.9
iTransformer	83.7	55.9	39.6	45.5	48.8
TimeInf	79.0	54.1	35.1	39.7	-
GCN-LSTM + ChInf	82.9	58.8	48.0	47.1	47.2
iTransformer + ChInf	84.0	59.1	46.3	46.1	50.5

消融实验¶

配置	关键发现
ChInf vs TracIn	ChInf 在所有数据集上显著优于 TracIn，证明通道级分析的必要性
ChInf vs TimeInf	TimeInf 仅考虑时间不考虑通道，在 MTS 任务上效果差
通道剪枝比例	30-50% 通道即可保持 90%+ 预测性能
不同基础模型	ChInf 作为即插即用工具，在多种模型上一致提升

关键发现¶

ChInf 排名第一：在公平评估协议下（使用标准 F1 而非点调整 F1），ChInf 方法在 5 个数据集上综合排名第一
通道级分析远优于样本级：TracIn 和 TimeInf 在 MTS 异常检测上不如简单基线，但 ChInf 的通道分解使影响函数在 MTS 上真正有效
通道剪枝效果显著：30-50% 的通道就能保持接近完整通道的预测性能
通道影响矩阵提供可解释性：可视化显示模型对不同通道的依赖模式，不同模型有不同的通道利用方式

亮点与洞察¶

从样本级到通道级的自然推广：ChInf 的推导简洁优雅——利用 TracIn 梯度的可加性自然分解到通道级，不需要新的近似
即插即用的后处理工具：ChInf 不修改任何模型，只需要训练好的模型和梯度信息，可以叠加到任何 MTS 模型上
数据中心 vs 模型中心的互补性：现有方法是模型中心（改架构利用通道信息），ChInf 是数据中心（量化通道的数据价值），两者互补

局限性 / 可改进方向¶

计算成本：每个通道需要独立计算梯度，\(N\) 个通道需要 \(N\) 倍的梯度计算，大通道数 MTS 可能较慢
假设损失可以按通道分解：ChInf 的理论推导依赖于损失函数关于通道的可加性，对于通道间有复杂交互的损失可能不完全成立
通道剪枝的采样策略简单：等间隔采样可能不是最优的选择策略，更复杂的子集选择可能效果更好
仅在异常检测和剪枝上验证：通道影响矩阵应该在更多任务上有用（如通道选择、迁移学习）

评分¶

新颖性: ⭐⭐⭐⭐ 通道级影响函数是自然但有效的新概念，推导简洁
实验充分度: ⭐⭐⭐⭐ 5 个数据集 + 公平基准 + 多模型验证 + 通道剪枝，全面