1. 论文信息

论文标题:Focal Loss for Dense Object Detection

论文来源:IEEE Transactions on Pattern Analysis and Machine Intelligence 2020
论文链接:Focal Loss for Dense Object Detection | IEEE Xplore
论文代码:https://github.com/facebookresearch/Detectron

image-20211119213555220

1
2
3
4
5
6
7
@inproceedings{lin2017focal,
title={Focal loss for dense object detection},
author={Lin, Tsung-Yi and Goyal, Priya and Girshick, Ross and He, Kaiming and Doll{\'a}r, Piotr},
booktitle={Proceedings of the IEEE international conference on computer vision},
pages={2980--2988},
year={2017}
}

2. 归纳总结

标签目的方法总结
#Anchor #单阶段解决正负样本严重不均衡的问题retinanet和focal loss针对训练过程中的实际问题,修改损失函数以达到优化的目的

3. 主要工作

作者认为之前的单阶段检测算法精度不高的原因可能是前后景类别(正负样本)严重不均衡导致的。因此作者重新设计了一个损失:Focal Loss,其能降低可以较好分类的样本的损失权重,防止训练过程中大量的easy negatives给检测器带来的压制影响,并基于Focal Loss设计提出并训练了RetinaNet。

3.1 网络结构

RetinaNet的结构如下图:

image-20211120135540595

主要包括三个部分:

  • Backbone:使用了ResNet+FPN,用于生成多尺度{p3~p7}卷积特征图
  • Anchor:p3-p7特征图的base_size设置为$[32^2,64^2,128^2,256^2,512^2]$,在每一层特征图针对denser scale coverage,设置{${2^0,2^{1/3},2^{2/3}}$}三种不同的anchor size,比例为{1:2,1:1,2:1},即每个位置9种Anchor。
  • subnets:用于分类和回归,结构相同但参数不共享的小型FCN结构

image-20211120135222791

3.2 Focal Loss

作者提到基于R-CNN模式的两阶段算法在解决训练过程中的正负样本不均衡的方法是:

  • 两阶段级联:在proposal阶段过滤掉大量负样本
  • 启发式采样:例如固定正负样本比例(例如1:3)或者在线难样本挖掘(Online Hard Example Mining,OHEM)

Focal loss的做法是设置一个sacling factor,如下图的$(1-p_t)^{\gamma}$,其可以自动的对easy example进行降权,从而使模型更关注hard example。

image-20211120135146831

首先,对于二分类任务,普通的交叉熵如下:

image-20211120132951497

如果定义$p_t$:

image-20211120133459396

那么交叉熵可以写成$CE(p,y)=CE(p_t)=-log(p_t)$

有一种常见的用于解决类别不均衡的方法是添加一个权重变量$\alpha \in [0,1]$:

image-20211120133655071

Focal Loss的做法是添加了一个权重变量$(1-p_t)^{\gamma}$:

image-20211120133916235

因此当$p_t$趋近于1时,可以较好分类的样本被降权;而$\gamma$可以用来调节权重比率。除此之外,还可以将$\alpha$和FL损失相结合:

image-20211120134227038

除此之外还有其他的Focal Loss变种形式。

4. 实验结果

image-20211120141212266