跳转至

GenCast:面向无观测区域的交通预测泛化

一句话总结

本文提出 GenCast 模型,通过物理信息神经网络(引入 LWR 交通方程作为软约束)、动态外部天气信号融合和空间分组模块三大创新,实现了从有传感器区域到无传感器连续区域的交通预测泛化,在五个真实数据集上一致性地超越了现有最优方法。

研究背景与动机

  1. 传感器覆盖不足:交通传感器部署和维护成本高昂,导致空间覆盖稀疏且有限,许多区域缺乏历史交通观测数据,形成了有限观测与精细化广覆盖预测需求之间的巨大鸿沟。

  2. 现有方法局限于散点场景:Kriging 方法(如 IGNNK、INCREASE)和外推方法(如 STGNP)在分散的无观测点上效果尚可,但面对大面积连续无观测区域时严重失效——它们依赖观测区域内部的信息传播路径,无法有效外推。

  3. SOTA 方法依赖静态特征:当前最优方法 STSM 基于 POI 类别和地理坐标等静态辅助特征定义相似性进行选择性掩码训练,无法捕捉动态交通模式的变化,限制了泛化能力。

  4. KITS 的结构假设问题:KITS 在观测区域内创建虚拟节点,隐式假设已知密度的散点分布,这一先验假设限制了其向大规模连续无观测区域泛化的能力。

  5. 缺乏外部知识引导:现有纯数据驱动方法仅依赖交通数据自身,忽略了物理定律(如交通流守恒)和外部信号(如天气)等跨区域普适的知识,错失了增强泛化的重要信息来源。

  6. 局部噪声干扰泛化:个别位置的特殊交通模式(如交通事故导致的异常)会引入不可泛化的局部噪声,现有模型缺乏有效过滤此类干扰信号的机制。

方法详解

整体架构

GenCast 基于对比学习骨架(继承自 STSM),每个 epoch 通过随机掩码子图生成两个视图(原始图 \(G_o\) 和掩码图 \(G_o^m\)),训练模型在有/无掩码节点时保持预测一致性。在此基础上新增四个创新模块:

1. 时空编码器——实现可微分空间表征

为使物理约束可在离散图上反向传播,设计两种连续可微空间嵌入:

  • SE-L(LLM 基嵌入):利用 LLaMA3 8B Instruct 处理每个位置的文本描述(含地理坐标、POI、路段属性),生成 4096 维冻结嵌入,编码丰富的语义空间信息
  • SE-H(GeoHash 基嵌入):将地理坐标通过 GeoHash 编码为字符串,经 CharBERT + Transformer 编码器生成可训练嵌入,适用于位置特征不丰富的场景

时间嵌入采用正弦/余弦函数编码日内周期:\(\mathbf{TE}_{enc} = [\sin(2\pi \cdot \mathbf{TE}/T_d), \cos(2\pi \cdot \mathbf{TE}/T_d)]\)

2. 外部信号编码器——天气数据融合

利用 ECMWF ERA5 全球天气数据(9km×9km 分辨率,含温度、太阳辐射、降水、径流四个变量),通过地理坐标最近邻匹配将天气站数据关联到交通节点。采用交叉注意力机制计算交通-天气时序关联:

\[\mathbf{H}_{fuse}^0 = \text{ReLU}(\text{FC}_h(z \odot \mathbf{H}^0 + (1-z) \odot \mathbf{H}_{wx}))\]

其中门控向量 \(z = \sigma(\text{FC}_s(\mathbf{H}^0) + \text{FC}_t(\mathbf{H}_{wx}))\) 自适应控制融合比例。经验上使用 12 小时天气窗口(\(T_w=12\))以捕捉天气的持续性影响。

3. 空间分组模块——过滤局部噪声

将每层 ST 模型输出的特征通道分为 \(cg\) 个通道组,通过可学习权重将节点软分配到 \(sg\) 个空间组。对分配权重施加熵最小化损失,鼓励近似 one-hot 的组分配:

\[\mathcal{L}_{spg} = \frac{1}{N \cdot cg} \sum_{i=1}^{N \cdot cg} \mathcal{H}(\mathbf{W}_s[i,:])\]

使得每个节点主要属于一个代表性组,从而抑制个别位置的特异性信号,学习组级别的可泛化模式。

4. 物理信息模块——LWR 交通方程约束

将 LWR 交通流守恒方程改写为仅含速度的形式(避免对通常不可获得的密度数据的依赖):

\[R = \frac{\partial x}{\partial t} + (2x - x_{fspd}) \frac{\partial x}{\partial l}\]

其中 \(x_{fspd}\) 为自由流速度。利用连续可微空间嵌入使自动微分在离散图上成为可能,物理损失采用自适应 Huber loss:\(\mathcal{L}_{phy} = \text{Huber}(R, \delta)\)

总损失函数

\[L = L_{pred} + \lambda L_{cl} + \mu L_{spg} + \theta L_{phy}\]

实验结果

实验一:整体预测性能(五个真实数据集)

数据集 指标 INCREASE STSM KITS GenCast-L 提升
PEMS07 RMSE↓ 8.399 8.390 9.574 8.253 1.64%
PEMS08 MAE↓ 5.097 4.899 4.863 4.728 2.78%
PEMS-Bay MAPE↓ 0.134 0.134 0.138 0.131 2.10%
METR-LA R²↑ 0.025 0.048 -0.086 0.086 79.58%
Melbourne R²↑ -0.042 0.027 -0.165 0.061 125.56%

GenCast 在所有 5 个数据集、全部 20 个指标组合上均取得最优,配对 t 检验 \(p \ll 10^{-8}\)。在 Melbourne 数据集上 R² 提升高达 125.56%。

实验二:消融实验与无观测比例影响

消融变体 说明 影响
w/o-phy 移除物理约束 GenCast-L 退化显著(冻结嵌入缺乏物理引导)
w/o-spg 移除空间分组 各数据集上稳定退化,熵分布变平坦
w/o-wx 移除天气编码器 预测误差增加
w/o-SE 移除空间嵌入+物理 严重退化
w/o-TE 移除时间嵌入+物理 误差大幅上升

无观测比例从 0.2 增至 0.8 时,GenCast 始终保持最优性能,展现出对不同观测缺失程度的鲁棒性。

领域泛化验证

GenCast 变体在太阳能 NREL 数据集上也超越所有基线,证明方法的跨领域泛化能力。

亮点与创新

  • 首次将 PINN 引入离散交通图:通过连续可微空间嵌入解决了物理方程在图结构上不可微分的核心难题
  • LWR 方程的速度重构:巧妙避开了通常不可获得的交通密度数据需求
  • 外部信号利用思路新颖:不同于用天气检测异常事件,而是将其作为跨区域泛化的指导信号
  • 空间分组过滤局部噪声:熵最小化驱动的软聚类有效区分可泛化模式与位置特异性信号
  • 两种空间嵌入策略互补:SE-L 适合数据新且特征丰富的场景,SE-H 适合特征简单或数据年代久远的场景

局限性

  • R² 值整体偏低:即使最优结果,多数数据集的 R² 仍在 0.2 左右,说明跨区域预测的准确性仍有较大提升空间
  • SE-L 对时间敏感:LLM 嵌入使用最新 OpenStreetMap 数据,但 PEMS-Bay/METR-LA 数据较旧,环境变化导致嵌入不匹配
  • 天气数据时间分辨率粗:ERA5 为小时级 9km 分辨率,对城市短距离精细交通模式的捕捉可能不足
  • 物理约束依赖模型假设:LWR 方程基于 Greenshields 密度-速度关系和非封闭系统假设,真实交通场景中这些假设常被违反
  • 计算开销较大:SE-L 需要 LLaMA3 8B 前向推理生成嵌入,物理损失需要额外的自动微分步骤

相关工作对比

维度 GenCast STSM
泛化信号来源 物理定律 + 动态天气 + 空间分组 仅 POI 和地理坐标(静态)
掩码策略 随机子图掩码 基于静态相似性选择性掩码
对未观测比例鲁棒性 0.2-0.8 均稳定最优 高比例下性能下降
维度 GenCast KITS
适用场景 大面积连续无观测区域 散点无观测位置
空间假设 无密度先验 隐式假设已知密度分布
外部知识 天气 + 物理约束

评分

  • ⭐⭐⭐⭐ 新颖性:将 PINN 引入离散交通图的想法巧妙,可微空间嵌入是关键技术贡献
  • ⭐⭐⭐⭐ 技术深度:LWR 速度重构、门控天气融合、熵正则空间分组等模块设计合理且有理论支撑
  • ⭐⭐⭐⭐⭐ 实验充分性:5 个数据集、多种分割策略(水平/垂直/环形)、不同无观测比例、跨领域迁移、详尽消融
  • ⭐⭐⭐⭐ 实用性:有开源代码,超参数跨数据集无需大量调优,可拓展至太阳能等其他空间预测领域