跳转至

EHETM: High-Quality and Efficient Turbulence Mitigation with Events

会议: CVPR 2026
arXiv: 2603.20708
代码: https://github.com/Xavier667/EHETM (有)
领域: 科学计算 / 事件相机
关键词: 大气湍流缓解, 事件相机, 极性加权梯度, 事件管约束, 运动解耦

一句话总结

提出EHETM,首次利用事件相机的微秒时间分辨率突破传统多帧湍流缓解(TM)方法的精度-效率瓶颈,发现两个关键物理现象——湍流诱导事件的极性交替与清晰梯度相关、动态物体形成时空相干"事件管"——设计极性加权梯度和事件管约束两个互补模块,数据开销降低77.3%、系统延迟降低89.5%,尤其在动态物体场景显著超越SOTA。

研究背景与动机

领域现状:大气/热湍流是远距离成像的主要退化来源,引入随机折射率波动导致的几何倾斜和空间变化模糊。现有方法(如DATUM)依赖传统相机拍摄的多帧序列来捕捉稳定模式。

现有痛点:多帧方法面临精度-效率的根本trade-off——帧越多恢复越好但系统延迟和数据开销越大。且当场景中存在动态物体时,多帧方法难以区分湍流抖动和真实物体运动。

核心矛盾:湍流缓解需要大量时间冗余来平均随机抖动,但传统相机的帧率限制了在合理延迟内能获取的信息量。

切入角度:事件相机以微秒级时间分辨率异步记录亮度变化——一帧的事件数据包含的运动信息远超传统帧——可以用极少帧实现高质量恢复。

核心idea:发现两个物理现象作为恢复先验:(1) 湍流事件的极性交替与图像梯度相关→场景结构线索;(2) 动态物体在事件流中形成相干"管状"结构→运动先验。

方法详解

整体框架

传统帧(少量) + 事件流 → 极性加权梯度模块(场景结构恢复) + 事件管约束模块(动态物体解耦) → 高质量恢复结果。

关键设计

  1. 现象1:湍流事件的极性交替与图像梯度:

    • 发现:湍流造成的亮度变化在清晰图像梯度处产生正/负极性交替的事件——这些事件"描绘"了场景的边缘和纹理结构
    • 极性加权梯度模块:利用事件极性信息加权图像梯度估计,正极性事件指示正梯度方向,负极性指示负梯度方向
    • 设计动机:传统方法需要多帧平均来恢复清晰边缘,事件的极性信息直接提供了结构线索——单事件窗口即可获得类似多帧的结构信息
  2. 现象2:动态物体的"事件管":

    • 发现:动态物体(如车辆、行人)在时空事件流中形成连续的管状结构(因物体的连续运动产生的事件在时空中排列为管状),而湍流事件呈随机不规则分布
    • 事件管约束模块:利用事件管的时空相干性来分离物体运动和湍流抖动。检测管状结构→提取物体运动轨迹→从总位移中减去物体运动→得到纯湍流成分
    • 设计动机:传统多帧TM方法假设场景静态——存在动态物体时它们的运动会被误判为湍流。事件管提供了区分两者的自然先验
  3. 真实世界数据集构建:

    • 构建两个事件-帧湍流数据集:(1) 大气湍流数据集——远距离户外场景;(2) 热湍流数据集——热源附近成像
    • 覆盖静态和动态场景
    • 设计动机:现有湍流数据集仅有传统帧,无事件数据。真实世界数据对评估至关重要

损失函数 / 训练策略

结合像素级重建损失、感知损失和极性一致性约束训练。

实验关键数据

主实验(对比多帧TM方法)

方法 帧数 PSNR↑ SSIM↑ 延迟 数据量
DATUM (50帧) 50 基准 基准 100% 100%
DATUM (10帧) 10 下降 下降 ~20% ~20%
EHETM (2帧+事件) 2 SOTA SOTA 10.5% 22.7%

动态场景对比

方法 静态场景 动态场景(含运动物体) 说明
DATUM 严重伪影 无法区分物体运动和湍流
EHETM SOTA 显著超越(优势最大) 事件管约束有效解耦

消融实验

配置 PSNR 说明
仅传统帧(基线) 基准 少帧质量差
+极性加权梯度 +大幅提升 事件的结构线索
+事件管约束 +进一步提升 动态物体解耦
完整EHETM 最优 两个模块互补

效率对比

指标 EHETM vs DATUM
数据开销降低 77.3%
系统延迟降低 89.5%

关键发现

  • EHETM在仅用2帧+事件的情况下超越了使用50帧的DATUM——事件相机的时间分辨率优势被充分利用
  • 动态场景是EHETM优势最大的场景——传统方法在此场景几乎完全失效,EHETM通过事件管约束有效处理
  • 极性交替现象在大气湍流和热湍流中都成立——具有物理普适性
  • 数据效率和系统延迟的大幅降低使实时远距离成像成为可能

亮点与洞察

  • 事件相机在湍流缓解中的首次系统应用:为事件视觉开辟了科学成像的新应用方向。事件相机的微秒时间分辨率完美匹配湍流的随机高频特性
  • 两个物理现象的发现:(1) 极性交替-梯度相关性和(2) 事件管的时空相干性。这些发现不仅指导了方法设计,更为后续研究提供了重要的物理先验知识
  • 动态场景的突破:传统TM方法的"静态场景假设"被彻底打破。事件管约束为"湍流中的运动物体"问题提供了优雅的解决方案
  • 效率的质变:77%数据降低+89%延迟降低不是渐进改善,而是量级的变化——使实时湍流缓解从不可能变为可能

局限与展望

  • 事件相机硬件成本较高,限制了实际部署
  • 当前事件管检测假设物体运动是刚体运动——非刚体运动(如流体、变形物体)的处理有待探索
  • 极端湍流条件(如强对流天气)下的鲁棒性未充分评估
  • 事件相机在低光或极端高动态范围下的性能特性可能影响结果
  • 可探索将事件相机TM技术与自适应光学结合

相关工作与启发

  • vs DATUM/TurbNet等多帧方法: 依赖大量传统帧→延迟高→动态场景失效。EHETM用事件相机根本性地改变了信息获取方式
  • vs 自适应光学: 硬件方案的成本和复杂度远高于软件方案。EHETM是更轻量的计算替代
  • vs 其他事件相机应用(光流/去模糊): 湍流缓解是事件视觉的新应用方向——湍流的随机性与事件的高时间分辨率形成天然互补

评分

  • 新颖性: ⭐⭐⭐⭐⭐ 全新的事件驱动湍流缓解范式+两个物理现象的发现
  • 实验充分度: ⭐⭐⭐⭐ 真实世界数据集构建+定量/定性全面对比+消融
  • 写作质量: ⭐⭐⭐⭐ 物理现象的描述清晰,方法设计有物理直觉支撑
  • 价值: ⭐⭐⭐⭐⭐ 对远距离成像和事件视觉两个领域都有重大贡献

相关论文