RL-ScanIQA: Reinforcement-Learned Scanpaths for Blind 360° Image Quality Assessment¶
总结¶
本文提出 RL-ScanIQA，首个基于强化学习的端到端盲 360° 图像质量评估（BIQA）框架。核心思想是将扫描路径（scanpath）生成建模为序列决策过程，使用 PPO 策略直接从质量评估反馈中学习任务驱动的观看策略，而非依赖人类注视数据的模仿学习。框架包含扫描路径生成器和质量评估器两个联合优化的模块，辅以多层级奖励（步级探索、集合多样性、任务对齐感知）和失真空间数据增强。在 CVIQD、OIQA、JUFE 三个基准上取得了 SOTA 性能和优异的跨数据集泛化能力。
动机¶
- 360° 图像的视口限制：全景图像在沉浸式环境中只能通过有限视口逐步体验，质量感知取决于观看轨迹而非全图
- 现有方法解耦扫描路径与质量评估：已有扫描路径方法将路径生成作为独立预处理步骤，无法端到端优化，路径不与 IQA 目标对齐
- 人类注视数据依赖：先前方法需要人类眼动追踪数据作为监督，成本高昂且可能偏向显著内容而非质量相关区域
- ERP 投影失真：直接在等距柱状投影上分析会引入空间偏差，忽略球面几何特性
- 固定采样策略的局限：基于预定义视口的方法忽略了用户探索的序列性质和内容自适应性
- 跨数据集泛化差：不同数据集的失真类型差异大，固定策略方法在跨域场景下性能急剧下降
方法¶
扫描路径生成器（PPO 策略网络）¶
将球面离散化为 \(8 \times 4 = 32\) 个候选视口（\(90° \times 90°\) FOV），建模为有限时间 MDP： - 状态：\(s_t = [h_{t-1}; g]\)，\(h_{t-1}\) 为 GRU 历史隐状态，\(g\) 为 DINOv2 提取的全局图像描述 - 动作：基于候选视口特征的注意力打分 + Softmax 选择下一个视口 - 优化：PPO 带裁剪目标函数、GAE 优势估计、熵正则化
多层级奖励设计¶
A. 步级探索奖励：\(r_t = \lambda_{\text{ent}} \cdot \mathcal{H}(x_t) + \lambda_{\text{ssim}} \cdot (1-\text{SSIM}) + \lambda_{\text{nov}} \cdot \delta_{\text{new}} + \lambda_{\text{eqb}} \cdot \mathcal{B}(x_t)\) - 信息熵鼓励关注纹理丰富区域、SSIM 差异性促进多样探索、新颖性信号防止重复访问、赤道偏置先验模拟人类注视习惯
B. 扫描路径多样性奖励：\(\mathcal{R}_{\text{div}} = \beta_{\text{cov}} \cdot \frac{|\cup_k S_k|}{X} - \beta_{\text{jac}} \cdot \text{平均Jaccard相似度}\) - 鼓励 K 条路径覆盖更大球面区域，惩罚路径间重叠
C. 任务对齐感知奖励：MSE 负奖励 \(\mathcal{R}_{\text{mse}}\) + 排序奖励 \(\mathcal{R}_{\text{rank}}\) - 直接来自 IQA 预测误差的反馈，使路径生成与质量预测目标对齐
质量评估器¶
- 注意力加权聚合视口特征：\(\alpha_t\) 由局部特征 \(f_t\) 与全局特征 \(g\) 交互计算
- 聚合表示与全局特征拼接后 MLP 回归质量分数
- K 条路径的预测取平均作为最终分数
跨域增强¶
- 一致性损失：弱增强后预测应稳定
- 三元组损失：清晰/轻度失真/重度失真的分数排序约束
- 交叉排序损失：增强后仍保持图像对间的相对质量关系
实验¶
表1：数据集内评估结果（SRCC / PLCC）¶
| 方法 | JUFE | OIQA | CVIQD |
|---|---|---|---|
| NIQE (手工特征) | 0.552 / 0.592 | 0.745 / 0.736 | 0.893 / 0.872 |
| MC360IQA | 0.502 / 0.623 | 0.875 / 0.906 | 0.877 / 0.892 |
| Assessor360 | 0.489 / 0.510 | 0.979 / 0.945 | 0.958 / 0.963 |
| GSR-X | 0.843 / 0.857 | 0.922 / 0.937 | 0.805 / 0.957 |
| Q-Insight (LLM) | 0.557 / 0.412 | 0.643 / 0.795 | 0.872 / 0.801 |
| RL-ScanIQA | 0.816 / 0.902 | 0.941 / 0.967 | 0.970 / 0.970 |
RL-ScanIQA 在所有数据集上取得最高 PLCC，CVIQD 上 SRCC 也最优。在 JUFE 上 PLCC 大幅领先（0.902 vs 0.857），显示强化学习策略在真实失真分布下的优势。
表2：跨数据集评估结果（SRCC / PLCC）¶
| 方法 | 训练:CVIQD→测试:OIQA/JUFE | 训练:JUFE→测试:CVIQD/OIQA |
|---|---|---|
| Assessor360 | 0.853/0.632 — 0.887/0.749 | 0.617/0.724 — 0.405/0.499 |
| GSR-X | 0.804/0.765 — 0.831/0.694 | 0.782/0.732 — 0.733/0.611 |
| F-VQA(A) | 0.772/0.621 — 0.604/0.509 | 0.665/0.679 — 0.683/0.732 |
| RL-ScanIQA | 0.901/0.800 — 0.913/0.822 | 0.771/0.755 — 0.802/0.833 |
跨数据集泛化显著优于所有对比方法，验证了失真增强和排序一致性约束的有效性。
亮点¶
- 首个端到端 RL-based 360° IQA 框架：将扫描路径生成与质量评估联合优化，无需人类眼动数据
- 多层级奖励设计精巧：从步级到集合级到任务级，将稀疏 IQA 监督转化为密集塑形信号
- 反直觉发现有价值：人类真实注视轨迹反而不如 RL 学出的路径（Table 3: 0.724→0.816 SRCC），表明人类倾向关注显著内容而非质量关键区域
- 跨域泛化能力强：失真空间增强 + 排序一致性损失使得模型在不同失真类型间迁移效果好
- 可视化直观有说服力：高质量图像路径均匀覆盖，低质量图像路径聚焦失真区域
局限¶
- 计算开销较大：推理时需要 K=15 条路径 × T=7 步 = 105 次视口特征提取，实时性受限
- 离散化视口可能过粗：32 个候选视口可能无法精确定位微小失真区域
- 仅评估了三个数据集：全景 IQA 数据集规模有限，CVIQD、OIQA 各仅数百张图
- DINOv2 作为固定特征提取器：冻结的预训练模型可能不是对失真最敏感的特征提取方案
- 依赖 MOS 标注：训练仍需要精确的人工主观评分，标注成本较高
- 奖励函数超参数多：步级 4 个权重 + 多样性 2 个 + 任务对齐 2 个 + 损失函数 5 个，调参负担重
相关工作¶
- 2D BIQA：BRISQUE（自然场景统计）、DBCNN、TreS、MANIQA（Transformer）、Q-Insight（多模态 RL + LLM）
- 360° BIQA：MC360IQA（多分支 CNN 固定视口）、VGCN（图卷积视口关系）、Assessor360/GSR-X/F-VQA（扫描路径建模但解耦训练）
- 强化学习视觉任务：视角规划、视频摘要、注意力选择；PPO 在稀疏奖励下结合方差缩减和值引导表现稳健
- 360° 视觉探索：眼动追踪研究表明赤道偏置、显著目标偏好等人类观看行为特征
评分¶
| 维度 | 分数 (1-10) | 说明 |
|---|---|---|
| 创新性 | 8 | 首次将 RL 端到端引入 360° IQA，联合优化路径+评估的范式新颖 |
| 技术贡献 | 8 | 多层级奖励设计合理，跨域增强策略有效 |
| 实验充分度 | 7 | 三个数据集覆盖、消融实验完整，但数据集规模偏小 |
| 写作质量 | 8 | 结构清晰，图表丰富，对比全面 |
| 实用价值 | 7 | 360° IQA 需求日增，但推理开销和超参数量可能限制部署 |
| 总分 | 7.6 | 将主动感知引入 360° 质量评估的优秀工作，端到端 RL 范式有启发意义 |