跳转至

Clear Nights Ahead: Towards Multi-Weather Nighttime Image Restoration

会议: AAAI 2026
arXiv: 2505.16479
代码: https://henlyta.github.io/ClearNight/
领域: 图像复原 / 夜间恶劣天气去除
关键词: nighttime image restoration, multi-weather, Retinex prior, dynamic MoE, AllWeatherNight dataset

一句话总结

首次定义并探索多天气夜间图像复原任务,构建 AllWeatherNight 数据集(8K 训练 + 1K 合成测试 + 1K 真实测试),提出 ClearNight 统一框架通过 Retinex 双先验引导和天气感知动态专一性-共性协作,一阶段同时移除雾/雨条/雨滴/雪/flare 复合退化,仅 2.84M 参数全面超越 SOTA。

研究背景与动机

夜间场景中恶劣天气退化与非均匀光照(flare 效应、光晕)紧密耦合,极大影响自动驾驶和视频监控等下游任务。已有研究存在三大空白:

空白 具体问题 现有代表
数据集缺失 无同时覆盖多天气 + 夜间 + flare 的数据集 UNREAL-NH (仅雾), GTAV-NightRain (仅雨)
方法局限 夜间方法仅处理单一退化类型 TKL (去雾), FSDGN (去雨)
退化耦合被忽略 光照与天气退化交织(如雨条在灯光下更亮、雾在暗处更浓) 白天方法 WeatherDiff, AWRaCLe 无法处理

ClearNight 需同时解决两个核心挑战:(1) 缺乏逼真的多天气夜间训练样本;(2) 现有模型无法有效处理耦合退化。级联方案(先去雾再去雨)PSNR 仅 27.8 dB 且速度慢。

方法详解

整体框架

ClearNight 采用基于 DehazeFormer 的编码器-解码器架构,集成两大核心模块:Retinex 双先验引导(解耦光照与纹理)和天气感知动态专一性-共性协作(WDS + TFB 双分支处理多天气退化)。整体仅 2.84M 参数。

关键设计

  1. AllWeatherNight 数据集构建
  2. 从 BDD100K 和 ExDark 筛选 2000 张高质量夜间图像作为 GT(亮度/梯度/方差三重过滤 + 人工二次筛选)
  3. 光照感知退化生成:先通过大气点扩散函数 (APSF) 卷积模拟 flare(\(X^\text{flare} = \alpha X + \beta(L * K^\text{APSF})\)\(\beta\) 根据光源像素比自适应设定),再叠加光照感知的天气退化(\(X^d = X^\text{flare} + \sum_{e \in \mathcal{E}} \omega_e \cdot \mathcal{F}_e^G(X^\text{flare})\)
  4. 关键创新:权重图 \(\omega_e\) 使用 Retinex 分解的光照图,使天气退化强度与光照自然耦合(雨滴例外,\(\omega_\text{RD}=1\),因雨滴受局部背景影响)
  5. t-SNE 验证:光照感知合成数据分布比传统均匀合成更接近真实数据

  6. Retinex 双先验引导

  7. 将退化图像 Retinex 分解为反射分量 \(R^d\) 和光照分量 \(I^d\)\(X^d = R^d \cdot I^d\)
  8. 光照先验 \(i_n\):注入前三阶段 Transformer 块(TFB),引导网络聚焦非均匀光照区域
  9. 反射先验 \(r_n\):注入 WDS 块增强纹理表示,帮助区分天气退化类型和恢复背景细节
  10. 共享权重多尺度先验提取单元(MPE)通过膨胀卷积提取三尺度先验

  11. 天气感知动态专一性-共性协作

  12. 共性分支:顺序 Transformer Feature Blocks (TFBs),捕获所有天气退化的共享特征
  13. 专一性分支 (WDS):从 25 个候选单元中 Top-10 动态选择组合,输入自适应构建子网络
  14. 天气指导器:执行多标签分类(BCE loss),学习天气特定原型,将不同天气类型自动关联到不同候选单元组合

损失函数

\[L_\text{total} = L_1 + 0.1 \cdot L_\text{perceptual} + 0.001 \cdot L_\text{bce} + 0.01 \cdot L_\text{lb} + 0.02 \cdot L_\text{depth}\]

Adam 优化器,lr=2×10⁻⁴,余弦退火,100 epochs,patch 256×256,仅 2.84M 参数,0.32s 推理时间。

实验关键数据

主实验:AllWeatherNight 合成测试集(详细场景)

场景 方法 PSNR↑ SSIM↑
Rain Scene TKL 29.09 0.8769
AWRaCLe 31.54 0.9210
ClearNight 32.59 0.9223
Snow Scene RAMiT 29.12 0.8889
AWRaCLe 29.43 0.8738
ClearNight 30.65 0.9041
Haze RAMiT 36.44 0.9738
ClearNight 36.47 0.9621
单一雨条 DEA-Net 32.76 0.9285
ClearNight 33.62 0.9331

消融实验

配置 PSNR↑ SSIM↑ 说明
Baseline (DehazeFormer) 28.80 0.8825 无先验无动态分支
+ 光照先验 32.13 0.9148 +3.33 dB,最大单项贡献
+ 反射先验 32.39 0.9189 纹理增强有效
+ 动态分配 32.49 0.9207 WDS 动态路由有效
+ 天气指导 32.59 0.9223 完整 ClearNight

关键发现

  • 光照先验贡献最大(+3.33 dB),验证夜间复原中光照解耦的核心重要性
  • 真实数据评估:雨条场景 NIQE 3.7653(最优),雪场景 NIQE 3.2191(最优)
  • 在 AllWeatherNight 训练的模型在真实数据上 NIQE 显著优于在现有夜间数据集组合训练的模型
  • 单天气场景中 ClearNight 也达到或超过专用方法,证明统一框架的有效性

亮点与洞察

  • 首个多天气夜间图像复原框架和数据集,填补重要研究空白
  • 光照感知退化生成策略巧妙利用 Retinex 光照图作为天气退化权重,合成逼真度大幅提升
  • WDS 天气指导器的动态单元分配具有可解释性,不同天气自动激活不同候选单元组合
  • 仅 2.84M 参数在多天气夜间场景超越 DEA-Net (15M+)、AWRaCLe 等大模型

局限性

  • 极端动态光照变化下效果有限(如快速闪烁光源)
  • 数据集场景以驾驶/检测为主,室内夜间场景覆盖不足
  • Flare 单独去除效果一般(PSNR 38.77 vs RAMiT 43.01),缺乏专用 flare 训练数据
  • 退化类型仅预定义 4 种(雾/雨条/雨滴/雪),未覆盖沙尘暴等罕见天气

相关工作

方向 代表方法 与本文差异
白天多天气复原 WeatherDiff, WGWS, AWRaCLe 忽略夜间光照 + 天气退化耦合
夜间单天气复原 TKL (去雾), FSDGN (去雨) 仅处理单一退化,无法应对复合场景
夜间数据集 UNREAL-NH, GTAV-NightRain, RVSD 仅覆盖单一天气类型,无 flare 合成
动态网络 MoE, 动态滤波 ClearNight 的 WDS 结合天气分类实现语义引导的动态路由

评分

  • 新颖性: ⭐⭐⭐⭐ 首次定义多天气夜间复原任务,数据集和光照感知合成方法新颖
  • 实验充分度: ⭐⭐⭐⭐ 合成 + 真实数据评估、消融、t-SNE、级联对比
  • 写作质量: ⭐⭐⭐⭐ 论文结构清晰,光照感知退化生成的动机阐述充分
  • 价值: ⭐⭐⭐⭐ 填补重要空白,数据集和方法对社区有持续贡献