基于smoothL1改进的边框回归损失函数

2021-10-30陈孝聪

大学数学 2021年5期

陈孝聪

(合肥工业大学数学学院，合肥230601)

1 引言

目标检测一直是计算机视觉领域内一个基础而又重要的方向,它由目标定位和目标识别两个任务组成.当前主流的目标检测算法可以分为两个方向,两步法和一步法.两步法的经典算法有基于区域建议的Faster R-CNN[1-3]等,一步法的经典算法有基于回归的YOLO[4-5],SSD[6]等.

目标检测任务的损失函数由分类损失和定位损失两部分组成.以Faster R-CNN[3]中定义的多任务损失函数为例，如式(1)

Lp,u,tu,v=Lcls(p,u)+λ[u≥1]Lloc(tu,v).

(1)

Lcls和Lloc分别对应分类损失函数和定位损失函数.Lcls中的p和u分别对应类别预测值和真实值.tu对应类别u的边框预测值，v对应类别u的边框真实值.λ是一个超参数，用来平衡分类损失和定位损失的权重.真实值u只能是0或者1，所以u≥1表示1或者0，这表明定位损失函数只对正样本负责.通常称预测值与目标值差的绝对值大于或等于1的点为离散点，小于1的点为非离散点.平衡上述损失的一个常用方法是，调节两个任务损失的权重λ.但是这会增大离散点的梯度，导致模型对离散点非常敏感，不利于训练.[7]中指出，平均每个离散点对整体的梯度贡献达70%，而平均每个非离散点对整体的梯度贡献仅30%.

目标检测中，通常采用交叉熵作为分类损失函数.常见的定位损失函数采用n范数(n=1,2)形式[8-9].L1有固定的梯度，可以让模型稳定收敛，但需要手动的调整学习率，否则后期很难收敛在极值点；L2在训练初期容易产生梯度爆炸.[2]综合了n范数的优势，提出了smoothL1损失函数(式(6))，该损失函数对离散点采用L1，对非离散点采用L2，有效地避免了L1的不稳定性和L2梯度爆炸的情况.

本文提出一种基于smoothL1的新型边框回归损失函数.在不改变离散点梯度的前提下，自适应地增大定位损失函数中非离散点的梯度，缓解了反向传播中对离散点和非离散点的梯度分布不平衡问题.在PASCAL VOC2007数据集上的实验表明，改进后的smoothL1在Faster R-CNN上精度达到70.8%.

2 基于smoothL1改进的边框回归损失函数

2.1 n范数与smoothL1

图1 实线表示L1函数图象，虚线表示L2 图象，点虚线表示smoothL1函数图象

L1的表达式如式(2)，函数图象如图1，梯度函数表达式如式(3),L1是用来统计预测值与真实值之间差的绝对值之和.可以看到，L1的梯度是一个常量，可以保证模型训练前期稳定收敛，但训练到后期时，需要手动地逐步调低学习率，否则模型将难以收敛.

(2)

(3)

L2的表达式如式(4)，函数图像如图1，梯度函数表达式如式(5)，L2是用来统计预测值与真实值之间差的平方和.可以看到，L2的梯度随着x的变小而减小，起到逐步降低学习率的效果.但是，训练初期，当x很大时，x的梯度也会成倍的增长，这导致模型难以收敛，并且对离散点非常敏感.

(4)

(5)

smoothL1的表达式如式(6)，函数图象如图1，梯度函数表达式如式(7).可以看到，smoothL1对离散点采用L1，可以减少模型对离散点的敏感程度；对非离散点，采用L2，可以起到逐步降低学习率的效果，使模型能够稳定在极小值点处.

(6)

(7)

2.2 改进的smoothL1

为了缓解离散点与非离散点之间的梯度不平衡，提出了改进的smoothL1，表达式如式(8)，梯度函数表达式如式(9).可以看到，L1保持不变，L2采用了其等价无穷小的自然指数形式.这样做有两个好处，(i)当|x|趋向0时，smoothL1趋近L2，保证模型训练后期可以稳定在极小值点处；(ii)当|x|较大时，可以自适应地增大梯度.图2(a)展示了smoothL1和改进后的smoothL1的损失函数图象，可以看到，改进后的smoothL1有更大的损失.改进后的smoothL1损失函数的分段点设置在0.65，这样做是为了保证梯度函数的单调性(0.65e0.652≈0.9918)，使梯度函数符合这样一个规则，非离散点越靠近真实值，梯度就不增或者越小.图2(b)展示了smoothL1和改进后的smoothL1梯度函数图象，可以看到，改进后的smoothL1自适应地增大了非离散点的梯度.综上所述，改进后的smoothL1相较smoothL1，在不增大离散点梯度的情况下，增大了非离散点的梯度.非离散点越靠近真实值，梯度增加的幅度就越小.

(a) (b)图2 (a) 虚线表示smoothL1的损失函数曲线，实线表示改进后的smoothL1的损失函数曲线； (b) 虚线表示smoothL1的梯度函数曲线，实线表示改进后的smoothL1的梯度函数曲线.

(8)

(9)

3 实验结果与分析

3.1 实验设置

本文在目标检测模型Faster R-CNN上对比基于改进的smoothL1,smoothL1和n范数(n=1,2)的边框回归损失函数的实验，数据集为PASCAL VOC2007，评价指标为平均精度均值(mAP)，是目标检测领域最主要的评价指标，mAP越大，表示模型的表现越好.Faster R-CNN采用近似联合训练的方式，训练总共迭代7轮，初始学习率设置为0.001，训练到第5轮时，将学习率缩小10倍，批量大小设置为1.训练前对每张图片水平翻转，达到数据增强的作用.

Faster R-CNN是一个经典的基于区域建议的两步法目标检测模型，模型结构如图3.实验设置的基础特征提取网络为VGG16，通过区域候选网络(RPN)得到候选区域(RoIs),进一步通过候选区域池化(RoI Pooling)得到最终检测结果.

图3 Faster R-CNN模型结构图

PASCAL VOC2007是目标检测领域内最通用的数据集之一，该数据集由5011张训练集和4952张测试集组成，总计9963张图，共包含20个类别物体.

实验环境：深度学习框架PyTorch，GPU为NVIDIA GeForce GTX 1650，显存4G.

3.2 实验结果

3.2.1 模型精度对比

表1展示了不同边框回归损失函数在PASCAL VOC2007数据集上的测试结果.从表中数据可以看出，改进后的smoothL1的mAP达到了70.8%，相较smoothL1，提高了0.2%，基于L1和L2的边框回归损失函数的mAP分别为70.1%和70.2%.对于VOC中的20类不同物体，基于改进后的smoothL1，大部分物体的精度都有所上升.改进后的smoothL1只影响训练期间的梯度大小，没有增加模型的推算时间.

表1 不同边框回归损失函数精度对比

3.2.2 可视化结果对比

图4挑选了PASCAL VOC2007测试集上的一些图片，通过可视化结果对比基于改进的smoothL1和smoothL1的模型检测结果.对比(a),(b)，(a)只检测出了一只猫，并且猫的边框还很不准确，(b)检测到了猫和桌子，同时回归框十分准确；对比(c),(d)，(c)检测到的两艘船的边框都不准确，(d)准确地检测到了两艘船；对比(e),(f)，(e)漏检了一头牛，(f)检测到了所有牛.通过这些可视化结果发现，改进后的smoothL1相较smoothL1，回归框更加准确，回归精度更高.