Unlocking Transfer Learning for Open-World Few-Shot Recognition¶

会议: NeurIPS 2025 (Workshop)
arXiv: 2411.09986
代码: 无
领域: 少样本学习 / 开放世界识别
关键词: 少样本开集识别, 迁移学习, 元学习, 开放世界, 伪开集样本

一句话总结¶

提出两阶段方法，通过开集感知元学习 + 开集无关迁移学习，首次将迁移学习范式成功应用于少样本开集识别 (FSOSR)，在 miniImageNet 和 tieredImageNet 上达到 SOTA。

少样本开集识别 (Few-Shot Open-Set Recognition, FSOSR) 面临双重挑战：

闭集分类: 使用极少样本将输入分类到已知类别

开集检测: 同时识别不属于已知类别的开集输入

尽管迁移学习在闭集少样本学习中已成为主流范式，但用于开放世界场景时存在根本问题：迁移学习微调模型时，仅使用闭集样本，缺乏对开集边界的建模。本文旨在"解锁"迁移学习在 FSOSR 中的潜力。

两阶段方法： 1. 阶段一 — 开集感知元学习: 训练模型建立有利于开集检测的度量空间 2. 阶段二 — 开集无关迁移学习: 对特定任务进行迁移学习微调

开集感知元学习 (Open-set Aware Meta-learning):
- 在元学习阶段引入模拟的开集样本
- 训练模型不仅区分已知类别，还能识别"不认识"的输入
- 建立的度量空间为后续迁移学习提供良好的初始化
伪开集样本生成策略:
- 数据集修改法: 从训练数据中划出部分类别模拟开集
- 生成法: 在特征空间中合成离群样本
- 两种策略可互补使用
开集无关迁移学习 (Open-set Free Transfer Learning):
- 在测试阶段，仅用闭集支持集进行迁移学习
- 不需要额外的开集校准样本
- 依赖阶段一建立的度量空间来维持开集检测能力

\[\mathcal{L} = \mathcal{L}_{\text{CE}} + \lambda \mathcal{L}_{\text{open}}\]

方法	miniImageNet AUROC ↑	miniImageNet Acc ↑	tieredImageNet AUROC ↑	tieredImageNet Acc ↑
ProtoNet + threshold	68.5	65.2	70.2	67.8
PEELER	72.3	68.5	73.8	70.5
SnaTCHer	74.1	70.2	75.5	72.3
OpenFSL	75.8	71.5	77.2	73.8
TANE	76.5	72.8	78.1	74.5
Ours	79.2	75.5	80.8	77.2

方法	训练 epochs	额外训练开销	5-shot AUROC	1-shot AUROC
PEELER	200	+50%	72.3	65.8
SnaTCHer	200	+30%	74.1	67.2
OpenFSL	200	+40%	75.8	68.5
Ours	200	+1.5%	79.2	72.5