α-IoU | 再助YOLOv5登上巅峰，造就IoU Loss大一统

%u3B1-IoU | 再助YOLOv5登上巅峰，造就IoU Loss大一统

在本文中，作者将现有的基于IoU Loss推广到一个新的Power IoU系列 Loss，该系列具有一个Power IoU项和一个附加的Power正则项，具有单个Power参数%u3B1。称这种新的损失系列为%u3B1-IoU Loss。

在多目标检测基准和模型上的实验表明，%u3B1-IoU损失：

• 可以显著地超过现有的基于IoU的损失

• 通过调节%u3B1，使检测器在实现不同水平的bbox回归精度方面具有更大的灵活性

• 对小数据集和噪声的鲁棒性更强。

在本文中，作者将现有的基于IoU Loss推广到一个新的Power IoU系列 Loss，该系列具有一个Power IoU项和一个附加的Power正则项，具有单个Power参数%u3B1。称这种新的损失系列为%u3B1-IoU Loss。

在多目标检测基准和模型上的实验表明，%u3B1-IoU损失：

• 可以显著地超过现有的基于IoU的损失

• 通过调节%u3B1，使检测器在实现不同水平的bbox回归精度方面具有更大的灵活性

• 对小数据集和噪声的鲁棒性更强。

可以显著地超过现有的基于IoU的损失

通过调节%u3B1，使检测器在实现不同水平的bbox回归精度方面具有更大的灵活性

对小数据集和噪声的鲁棒性更强。

1 简介

Bounding box 回归通过预测目标的bbox来定位图像/视频中的目标，这是目标检测、定位和跟踪的基础。例如，最高级的目标检测器通常由一个bbox回归分支和一个分类分支组成，其中bbox回归分支生成用于定位对象进行分类的bbox。在这项工作中，作者探索了更有效的损失函数。

早期的目标检测工作使用损失进行bbox回归，而近期的工作直接采用定位性能度量，即Intersection over Union (IoU)作为定位损失。与损失相比，IoU损失对bbox scales是不变的，从而有助于训练更好的检测器。然而，当预测框与Ground truth不重叠时，IoU损失会出现梯度消失问题，导致收敛速度减慢，导致检测器不准确。这激发了几种改进的基于IoU的损失设计，包括Generalized IoU (GIoU)、Distance IoU (DIoU)和Complete IoU (CIoU)。GIoU在IoU损失中引入惩罚项以缓解梯度消失问题，而DIoU和CIoU在惩罚项中考虑了预测框与Ground truth 之间的中心点距离和宽高比。

在本文中，作者通过在现有的IoU Loss中引入power 变换，提出了一个新的IoU损失函数。

首先将Box-Cox变换应用于IoU损失，并将其推广为power IoU loss:

实验结果表明，相对于,

当时，它降低了High IoU目标的权重，实验可以看出这会影响BBox的回归精度。power参数%u3B1可作为调节%u3B1-IoU损失的超参数以满足不同水平的bbox回归精度，其中%u3B1 &gt1通过更多地关注High IoU目标来获得高的回归精度(即High IoU阈值)。

从经验上表明，%u3B1对不同的模型或数据集并不过度敏感，在大多数情况下，%u3B1=3表现一贯良好。%u3B1-IoU损失家族可以很容易地用于改进检测器的效果，在干净或嘈杂的环境下，不会引入额外的参数，也不增加训练/推理时间。

本文贡献

• 提出了一种新的power IoU损失函数，称为%u3B1-IoU，用于精确的bbox回归和目标检测。%u3B1-IoU是基于IoU的现有损失的统一幂化；
• 分析了%u3B1-IoU的一系列性质，包括顺序保留和损失/梯度重加权，表明适当选择%u3B1(即%u3B1 > 1)有助于提高High IoU目标的损失和梯度自适应加权的bbox回归精度；
• 经验表明，在多个目标检测数据集和模型上，%u3B1-IoU损失优于现有的基于IoU的损失，并为小数据集和噪声Box提供更强的鲁棒性。

2 相关工作

2.1 目标检测模型

目前主流的检测模型有2种:

• 基于Anchor的检测模型

• Anchor-Free检测模型

基于Anchor的检测模型

Anchor-Free检测模型

基于Anchor的检测器可进一步分为：

• Two-Stage

• One-Stage模型

Two-Stage

One-Stage模型

Two-Stage基于Anchor的检测器(例如，R-CNN系列，HTC和TSD在目标检测任务中首次提出了区域建议网络），该任务由区域建议网络和分类器组成。rpn生成大量的前景和背景区域建议，然后使用网络对建议中的目标进行分类。

针对实时目标检测，开发了基于Anchor的One-Stage检测器(如YOLO系列、RetinaNet、SSD)，可以同时预测BBox和类别，不再需要rpn。在训练基于Anchor的检测器之前，应该定义具有优先尺度和高宽比的Anchor Box。已经提出了一些技术来降低这些模型对人工选择Anchor Box的敏感性，例如基于注意力的融合网络和聚类算法。这些技术从每个滑动窗口或网格单元的训练集中学习之前的Anchor。

2、Anchor-Free Model

最近，诸如CornerNet、CenterNet-1、ExtremeNet和Centrpetal-Net等Anchor-Free检测器也被提出来消除Anchor先验。

这些模型首先预测关键点(角、质心或极端点)的位置，然后如果它们在几何上对齐，就将它们分组到相同的框中。还有其他一些模型可以生成像素级的结果。例如，CenterNet-2估计目标的像素级类别以及它们的大小和偏移量。

FCOS使用多头CNN生成像素级分类、中心度和bbox (top, down, left, right)结果，然后是自适应训练样本选择(Adaptive Training Sample Selection, ATSS)，作为对自动选择阳性和阴性样本的改进。

此外，还开发了用于不产生Anchor Point或非最大抑制(NMS)的目标检测的Transformer(如DETR系列)，其性能与上述基于CNN的检测器相当。

在这项工作中，作者提出了一种新的Generalized IoU损失来提高这些检测器的性能，而不需要任何结构上的修改，这项研究与上述研究也是正交的。

2.2 BBox回归损失

基于Anchor的检测器会回归Grounb Truth BBox和它们最近的Anchor之间的偏移量，而Anchor-Free的检测器会预测目标的关键点，一些框架还会生成BBox的大小。然后将预测的偏移量或关键点(w/或w/o大小)映射回像素空间以生成Box。

定位损失通常将生成的BBox与其Ground Truth进行比较。早期的研究采用n范数损失进行BBox的回归，研究发现它对变化的BBox尺度很敏感。最近的研究用IoU损失及其变体，如BIoU、GIoU、DIoU和CIoU来取代它们，因为IoU是定位的度量，而且它是尺度的度量。

• Bounded IoU (BIoU) 损失基于一组IoU上界使感兴趣区域(RoI)与Ground Truth之间的IoU重叠最大化；

• GIoU是为了解决非重叠样本上的梯度消失问题而提出的，非重叠样本是指具有非重叠预测Box(IoU为零)的样本；

• DIoU和CIoU损失进一步考虑了IoU中的重叠面积、中心点距离和纵横比以及正则化项。这些正则化项有助于提高收敛速度和最终检测性能；

• 还有一些损失函数是为了更关注High IoU目标而设计的。例如，Rectified IoU (RIoU)损失和Focal and Efficient IoU(Focal- eiou)损失。这些损失函数增加了那些在高回归精度样本的梯度。然而，与其他基于IoU的损失相比，RIoU和Focal-EIoU既不简洁也不具有泛化性。

Bounded IoU (BIoU) 损失基于一组IoU上界使感兴趣区域(RoI)与Ground Truth之间的IoU重叠最大化；

GIoU是为了解决非重叠样本上的梯度消失问题而提出的，非重叠样本是指具有非重叠预测Box(IoU为零)的样本；

DIoU和CIoU损失进一步考虑了IoU中的重叠面积、中心点距离和纵横比以及正则化项。这些正则化项有助于提高收敛速度和最终检测性能；

还有一些损失函数是为了更关注High IoU目标而设计的。例如，Rectified IoU (RIoU)损失和Focal and Efficient IoU(Focal- eiou)损失。这些损失函数增加了那些在高回归精度样本的梯度。然而，与其他基于IoU的损失相比，RIoU和Focal-EIoU既不简洁也不具有泛化性。

在本文中，作者应用一个power变换来推广上述普通IoU损失和基于正则IoU的损失的IoU和正则化项。新的损失家族通过自适应地重新加权高和低IoU目标的损失和梯度，提高了bbox回归精度。

3 %u3B1-IoU损失

3.1 Preliminaries

本部分主要研究目标检测中的bbox回归问题。设是输入空间，是标注空间，dx和dy分别表示输入维度和标注维度。给定数据集的n个训练样本，每个，任务是学习一个函数可以将输入空间映射到标注空间。

在目标检测中，每个

BBox回归性能由预测bbox B和ground truth :

正样本(真阳性和假阳性)是根据IoU阈值从一组预测中确定的，根据该阈值可以计算所有类别对象的平均精度(AP)。例如，AP50度量由IoU高于阈值0.5目标的AP。检测器的最终性能通常通过多个IoU阈值的平均精度(mAP)来评估。

3.2 %u3B1-IoU Losses

普通IoU损失定义为。这里首先应用Box-Cox变换，将IoU损失归纳为%u3B1-IoU损失:

通过对%u3B1-IoU中的参数%u3B1进行调制，可以推导出现有损失中的大多数IoU terms，如log(IoU)、IoU和。

当时，可以得到

证明如下：

当%u3B1 = 1时， 。

当%u3B1 = 2时，

这里还可以利用多个%u3B1值将上述%u3B1-IoU公式推广到具有多个IoU项(如RIoU)的损失函数。

对%u3B1 > 0和的上述%u3B1-IoU公式进行简化，在这种情况下，方程(1)中的分母%u3B1只是目标中的一个正常数。这给了2种情况的%u3B1-IoU损失%u3B1 > 0和分别为:

在这里，更感兴趣的情况，因为最先进的基于IoU的损失有一个%u3B1≥1。然后，通过在公式中引入power惩罚/正则化项，将的上述%u3B1-IoU损失扩展到更一般的形式:

式中

这个简单的扩展可以根据%u3B1的值允许对现有的基于IoU的损失进行简单的概括。

作者也通过实例证明了

根据上面的%u3B1-IoU公式，现在可以使用相同的power参数%u3B1来表示IoU和penalty terms归纳出常用的基于IoU的损失包括、、和:

式中，中的C为B和的最小凸形中的B和表示B和的中心点，%u3C1(·)为欧几里得距离，c为最小BBox的对角线长度

而在:

它们提供了在%u3B1 = 1时回归的bbox回归的power IoU损失。注意，上面的%u3B1-IoU泛化可以很容易地扩展到更复杂的具有多个IoU或惩罚项的损失函数。接下来，将分析%u3B1取不同值时%u3B1- iou损失的性质。

3.3 %u3B1-IoU损失的性质

在这里，重点分析vanilla %u3B1-IoU 公式

1、Order保持性

首先让和分别为2个不同模型和的预测框，和对应相同的Ground truth 和IoU&ltIoU。然后有了

上述性质表明，

2、相对损失权重

由于

第2个性质表明，当和时，

进一步注意到，当%u3B1 &gt1时，加权因子随IoU的增加而单调增加(从1到%u3B1)，在时，随IoU的增加而单调减少(从1衰减到%u3B1)。实证证明了

3、相对梯度权重

当%u3B1&gt1时，上述reweighting factor 单调地随IoU的增加而增加，而在0<%u3B1&lt1时单调地随IoU的增加而减少。

该相对梯度重加权方案对也具有较好的适应性，0<%u3B1&lt1时IoU从上加权转为下加权，%u3B1&gt1时IoU从下加权转为上加权。这种相对梯度重新加权方案允许模型根据目标的IoU学习具有自适应速度(即不同梯度)的目标。

理论上，当%u3B1=2时，

以上损失和梯度重权方案也可以从图1中推导出来，详细的证明在附录a中。综上所述，

• 当%u3B1&gt1时，

• 当%u3B1&gt1时，

• 当%u3B1&gt1时，

当%u3B1&gt1时，

当%u3B1&gt1时，

当%u3B1&gt1时，

，先学习简单的例子，学习速度逐渐提高到IoU = 1，然后逐渐学习困难的例子，学习速度随着IoU的提高而加快。

将在图3中经验地显示，对高IoU目标的损失和梯度进行上权可以在后期提高训练。作为比较，还将证明%u3B1-IoU损失为0 <%u3B1&lt1倾向于降低最终性能。减少高IoU目标的损失和梯度，最终会产生更多定位较差的目标。

4 实验

4.1 结果与分析

首先验证了%u3B1-IoU损失在两个数据集上训练基于Anchor和Anchor-Free模型的有效性。

作者选择YOLOv5s(即YOLOv5小)和YOLOv5x(即YOLOv5超大)作为单级基于Anchor的模型，而DETR (ResNet-50)作为Anchor-Free模型。根据公式(4)，%u3B1-IoU损失(即

从表1可以看出，在mAP和mAP75:95的多个模型和数据集上，%u3B1-IoU损失一致超过现有损失，特别是在高bbox回归精度mAP75:95的情况下。%u3B1-IoU损失在高精度水平上的优势更明显，在AP95时相对改善可达60%以上。

有趣的是，%u3B1-IoU损失倾向于更有利于轻量化模型(例如，YOLOv5s, 7.3M参数和17 GFLOPs)，而不是大模型(例如，YOLOv5x, 87.7M参数和218.8 GFLOPs)。这表明，当在计算资源有限的场景中训练轻模型时，如移动设备、自动驾驶车辆和机器人，%u3B1-IoU损失更具优势。

将%u3B1-IoU与一组现有的基于IoU的损失进行比较，以训练一个流行的基于Backbone的两阶段模型，Faster R-CNN (ResNet-50-FPN)。在表2中，MS COCO的结果表明，在mAP和mAP75:95方面，与现有基线相比，%u3B1-IoU损失具有相当的竞争力。需要注意的是，Autoloss 同时搜索分类损失和定位损失，因此需要花费大量的搜索时间。相比之下，%u3B1-IoU损失只需要对定位损失进行简单的修改，就可以赢得Autoloss，而不会造成任何额外的计算开销。

4.2 对噪声BBox的鲁棒性

如表3所示，在这些噪声场景下，%u3B1-IoU显著改善了Baseline损失(即和)。从AP50到AP95获得了越来越多的相对改善，累积到mAP75:95中更显著的改善。

请注意，%u3B1-IoU损失在所有噪声场景下也优于AP50的Baseline，当Box是干净的时并不总是这样(表1)。此外，%u3B1-IoU损失在更严重的噪声中明显更稳健。例如，当噪声率%u3B7从0.1增加到0.3时，根据mAP/mAP75:95,

4.3 的敏感性

在这里，通过对和

当%u3B1=比=3、%u3B1- iou损失在低ap上的表现往往比Baseline(即%u3B1 = 1的%u3B1- iou)更差，尽管在高ap上的性能获得了更多的改善。在噪声率%u3B7 = 0/0.1/0.2/0.3时，%u3B1 = 10时的性能比%u3B1 = 3时平均下降了5.61%/10.92%/23.88%/31.82%。

更具体地说，它变得比mAP或mAP75:95的Baseline更差。这说明%u3B1的选择对%u3B1-iou损失至关重要。

建议直接使用%u3B1 = 3。

4.4 可视化结果

参考链接：

[1].Alpha-IoU:A Family of Power Intersection over Union Losses for Bounding Box Regression

天天向上天佑 http://www.cityruyi.com/lm-4/lm-1/9297.html