作者：Tsung-Yi Lin，Priya Goyal，Ross Girshick，Kaiming He，Piotr Doll´ar

机构：Facebook AI Research (FAIR)

发布时间：2017

发布期刊：IEEE Transactions on Pattern Analysis & Machine Intelligence

论文全称：Focal Loss for Dense Object Detection

论文地址：https://arxiv.org/abs/1708.02002

代码：*https://github.com/facebookresearch/Detectron.*

地位：提出了Focal Loss

一、摘要

The highest accuracy object detectors to date are based on a two-stage approach popularized by R-CNN, where a classififier is applied to a sparse set of candidate object lo cations. In contrast, one-stage detectors that are applied over a regular, dense sampling of possible object locations have the potential to be faster and simpler, but have trailed the accuracy of two-stage detectors thus far. In this paper, we investigate why this is the case. We discover that the extreme foreground-background class imbalance encountered during training of dense detectors is the central cause. We propose to address this class imbalance by reshaping the standard cross entropy loss such that it down-weights the loss assigned to well-classifified examples. Our novel Focal Loss focuses training on a sparse set of hard examples and prevents the vast number of easy negatives from overwhelming the detector during training. To evaluate the effectiveness of our loss, we design and train a simple dense detector we call RetinaNet. Our results show that when trained with the focal loss, RetinaNet is able to match the speed of previous one-stage detectors while surpassing the accuracy of all existing state-of-the-art two-stage detectors.

• Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了简单负样本在训练中所占的权重。

二、研究背景

• 目标识别主要分为两类：
  • 单阶段（YOLO系列等）：该方法不需要提取proposal，直接对特征图进行分类、回归，一步到位，虽然速度快，但是准确率远远比不上双阶段的目标检测算法
  • 双阶段（RCNN系列等）：第一阶段专注于proposal的提取，第二阶段对提取出来的proposal进行分类和精确坐标回归，这种方法准确对较高，但由于第二阶段需要对每个proposal都进行分类、回归，导致速度较慢
• 为什么单阶段目标识别算法的识别准确率低：
  • 作者认为单阶段算法的识别准确率低主要是因为class imbalance（正负样本数量不均衡）引起的。用于计算Loss的BBox可根据与GT的IOU值分为**positive（正样本，要检测的目标）和negative（负样本，背景）。**然而，在输入的图片中，往往需要检测的目标所占的比例都远远小于背景占的比例，导致这两类中，用于计算Loss的Bbox以negative为主，这会出现以下两个问题：
    1. 负样本数量过多，导致它的loss太大，以至于把正样本的loss都淹没掉了，即主导了梯度，不利于目标的收敛。
    2. 大多negative example不在前景和背景的过渡区域上，分类很明确(这种易分类的negative称为easy negative)，训练时对应的背景类score会很大，换个角度看就是单个example的loss很小，反向计算时梯度小。梯度小造成easy negative example对参数的收敛作用很有限，我们更需要loss大的对参数收敛影响也更大的example，即hard example/negative example。

这里要注意的是前一点我们说了negative的loss很大，是因为negative的绝对数量多，所以总loss大；后一点说easy negative的loss小，是针对单个example而言。

• 为什么两阶段模型不会出现这种问题：

  • 例如 RCNN 系列中，在挑选候选框的策略中，会根据前景score的高低过滤出最有可能是前景的proposal (1K~2K个)，因为依据的是前景概率的高低，就能把大量背景概率高的easy negative给过滤掉**（这就解决上述的第二个问题），并且IOU的大小来调整positive和negative example的比例，比如设置成1：3，这样防止了负样本过多的情况（解决上述第一个问题）**

• OHEM——一种筛选proposal的方法

  • OHEM是近年兴起的另一种筛选example的方法，它通过对loss排序，选出loss最大的example来进行训练，这样就能保证训练的区域都是hard example。这个方法有个缺陷，它把所有的easy example都去除掉了，造成easy positive example无法进一步提升训练的精度。

  

三、 Focal Loss（本文主要创新点）