Clear Nights Ahead: Towards Multi-Weather Nighttime Image Restoration¶
会议: AAAI 2026
arXiv: 2505.16479
代码: https://henlyta.github.io/ClearNight/
领域: 图像复原 / 夜间恶劣天气去除
关键词: nighttime image restoration, multi-weather, Retinex prior, dynamic MoE, AllWeatherNight dataset
一句话总结¶
首次定义并探索多天气夜间图像复原任务,构建 AllWeatherNight 数据集(8K 训练 + 1K 合成测试 + 1K 真实测试),提出 ClearNight 统一框架通过 Retinex 双先验引导和天气感知动态专一性-共性协作,一阶段同时移除雾/雨条/雨滴/雪/flare 复合退化,仅 2.84M 参数全面超越 SOTA。
研究背景与动机¶
夜间场景中恶劣天气退化与非均匀光照(flare 效应、光晕)紧密耦合,极大影响自动驾驶和视频监控等下游任务。已有研究存在三大空白:
| 空白 | 具体问题 | 现有代表 |
|---|---|---|
| 数据集缺失 | 无同时覆盖多天气 + 夜间 + flare 的数据集 | UNREAL-NH (仅雾), GTAV-NightRain (仅雨) |
| 方法局限 | 夜间方法仅处理单一退化类型 | TKL (去雾), FSDGN (去雨) |
| 退化耦合被忽略 | 光照与天气退化交织(如雨条在灯光下更亮、雾在暗处更浓) | 白天方法 WeatherDiff, AWRaCLe 无法处理 |
ClearNight 需同时解决两个核心挑战:(1) 缺乏逼真的多天气夜间训练样本;(2) 现有模型无法有效处理耦合退化。级联方案(先去雾再去雨)PSNR 仅 27.8 dB 且速度慢。
方法详解¶
整体框架¶
ClearNight 采用基于 DehazeFormer 的编码器-解码器架构,集成两大核心模块:Retinex 双先验引导(解耦光照与纹理)和天气感知动态专一性-共性协作(WDS + TFB 双分支处理多天气退化)。整体仅 2.84M 参数。
关键设计¶
- AllWeatherNight 数据集构建
- 从 BDD100K 和 ExDark 筛选 2000 张高质量夜间图像作为 GT(亮度/梯度/方差三重过滤 + 人工二次筛选)
- 光照感知退化生成:先通过大气点扩散函数 (APSF) 卷积模拟 flare(\(X^\text{flare} = \alpha X + \beta(L * K^\text{APSF})\),\(\beta\) 根据光源像素比自适应设定),再叠加光照感知的天气退化(\(X^d = X^\text{flare} + \sum_{e \in \mathcal{E}} \omega_e \cdot \mathcal{F}_e^G(X^\text{flare})\))
- 关键创新:权重图 \(\omega_e\) 使用 Retinex 分解的光照图,使天气退化强度与光照自然耦合(雨滴例外,\(\omega_\text{RD}=1\),因雨滴受局部背景影响)
-
t-SNE 验证:光照感知合成数据分布比传统均匀合成更接近真实数据
-
Retinex 双先验引导
- 将退化图像 Retinex 分解为反射分量 \(R^d\) 和光照分量 \(I^d\)(\(X^d = R^d \cdot I^d\))
- 光照先验 \(i_n\):注入前三阶段 Transformer 块(TFB),引导网络聚焦非均匀光照区域
- 反射先验 \(r_n\):注入 WDS 块增强纹理表示,帮助区分天气退化类型和恢复背景细节
-
共享权重多尺度先验提取单元(MPE)通过膨胀卷积提取三尺度先验
-
天气感知动态专一性-共性协作
- 共性分支:顺序 Transformer Feature Blocks (TFBs),捕获所有天气退化的共享特征
- 专一性分支 (WDS):从 25 个候选单元中 Top-10 动态选择组合,输入自适应构建子网络
- 天气指导器:执行多标签分类(BCE loss),学习天气特定原型,将不同天气类型自动关联到不同候选单元组合
损失函数¶
Adam 优化器,lr=2×10⁻⁴,余弦退火,100 epochs,patch 256×256,仅 2.84M 参数,0.32s 推理时间。
实验关键数据¶
主实验:AllWeatherNight 合成测试集(详细场景)¶
| 场景 | 方法 | PSNR↑ | SSIM↑ |
|---|---|---|---|
| Rain Scene | TKL | 29.09 | 0.8769 |
| AWRaCLe | 31.54 | 0.9210 | |
| ClearNight | 32.59 | 0.9223 | |
| Snow Scene | RAMiT | 29.12 | 0.8889 |
| AWRaCLe | 29.43 | 0.8738 | |
| ClearNight | 30.65 | 0.9041 | |
| Haze | RAMiT | 36.44 | 0.9738 |
| ClearNight | 36.47 | 0.9621 | |
| 单一雨条 | DEA-Net | 32.76 | 0.9285 |
| ClearNight | 33.62 | 0.9331 |
消融实验¶
| 配置 | PSNR↑ | SSIM↑ | 说明 |
|---|---|---|---|
| Baseline (DehazeFormer) | 28.80 | 0.8825 | 无先验无动态分支 |
| + 光照先验 | 32.13 | 0.9148 | +3.33 dB,最大单项贡献 |
| + 反射先验 | 32.39 | 0.9189 | 纹理增强有效 |
| + 动态分配 | 32.49 | 0.9207 | WDS 动态路由有效 |
| + 天气指导 | 32.59 | 0.9223 | 完整 ClearNight |
关键发现¶
- 光照先验贡献最大(+3.33 dB),验证夜间复原中光照解耦的核心重要性
- 真实数据评估:雨条场景 NIQE 3.7653(最优),雪场景 NIQE 3.2191(最优)
- 在 AllWeatherNight 训练的模型在真实数据上 NIQE 显著优于在现有夜间数据集组合训练的模型
- 单天气场景中 ClearNight 也达到或超过专用方法,证明统一框架的有效性
亮点与洞察¶
- 首个多天气夜间图像复原框架和数据集,填补重要研究空白
- 光照感知退化生成策略巧妙利用 Retinex 光照图作为天气退化权重,合成逼真度大幅提升
- WDS 天气指导器的动态单元分配具有可解释性,不同天气自动激活不同候选单元组合
- 仅 2.84M 参数在多天气夜间场景超越 DEA-Net (15M+)、AWRaCLe 等大模型
局限性¶
- 极端动态光照变化下效果有限(如快速闪烁光源)
- 数据集场景以驾驶/检测为主,室内夜间场景覆盖不足
- Flare 单独去除效果一般(PSNR 38.77 vs RAMiT 43.01),缺乏专用 flare 训练数据
- 退化类型仅预定义 4 种(雾/雨条/雨滴/雪),未覆盖沙尘暴等罕见天气
相关工作¶
| 方向 | 代表方法 | 与本文差异 |
|---|---|---|
| 白天多天气复原 | WeatherDiff, WGWS, AWRaCLe | 忽略夜间光照 + 天气退化耦合 |
| 夜间单天气复原 | TKL (去雾), FSDGN (去雨) | 仅处理单一退化,无法应对复合场景 |
| 夜间数据集 | UNREAL-NH, GTAV-NightRain, RVSD | 仅覆盖单一天气类型,无 flare 合成 |
| 动态网络 | MoE, 动态滤波 | ClearNight 的 WDS 结合天气分类实现语义引导的动态路由 |
评分¶
- 新颖性: ⭐⭐⭐⭐ 首次定义多天气夜间复原任务,数据集和光照感知合成方法新颖
- 实验充分度: ⭐⭐⭐⭐ 合成 + 真实数据评估、消融、t-SNE、级联对比
- 写作质量: ⭐⭐⭐⭐ 论文结构清晰,光照感知退化生成的动机阐述充分
- 价值: ⭐⭐⭐⭐ 填补重要空白,数据集和方法对社区有持续贡献