基于改进Xception方法的绝缘子识别

汤 璐，王淑青，金浩博，刘逸凡，王 娟

（1.湖北工业大学电气与电子工程学院，湖北 武汉 430068；2.华中科技大学武汉光电国家研究中心，湖北 武汉 430074）

0 引言

随着电网智能化地不断推进，电网系统的安全性越来越得到重视[1]。绝缘子作为架空输电线路重要的元器件，发现其缺陷并及时处理十分重要[2]。传统的绝缘子检测方式一般是人工进行检查，存在一定的风险[3]。尤其是在山区的输电线路，为人工检查带来了一定困难。人工巡检存在工作量大、效率低下、成本高、巡检结果依赖检查人员的主观经验等问题，在无人机巡检的运用下这些问题得到了一定解决[4]。绝缘子出现断裂、开裂和破损等表面缺陷时，容易发生击穿，导致绝缘子串两端的绝缘电阻值为零和绝缘功能丧失等结果，从而造成供电中断引发停电事故[5]。定期对绝缘子进行检查和维修，在确保供电系统的可靠性和安全性方面具有重大意义[6]。

许多国内外学者对绝缘子分类识别方面进行了相关研究。文献[7]采用灰度共生矩阵方法研究了交流闪络过程中覆冰绝缘子串表面放电的特征提取与分类。文献[8]提出了基于红蓝色差和改进Kmeans 算法的航拍绝缘子分类识别方法。文献[9]提出了结合多任务学习和特征融合方法提高了绝缘子分类的准确率。文献[10]提出了基于点云的杆塔绝缘子分类方法。文献[11]结合视觉库和服务器、数据库等工具设计了一种绝缘子缺陷图像识别分类系统。文献[12]提出了一种基于视觉词包模型的绝缘子识别分类模型。

绝缘子是否有缺陷本质上是一种分类问题。Xception 网络是一种轻量型图像分类网络，其分类能力相较于其他Inception 系列网络在ImageNet 数据集上的分类效果小幅度提升，Jft 数据集上显著提升[13]。本文将Xception 网络运用在对自然环境下的绝缘子种类以及是否含有表面缺陷的识别中，并依据复杂自然环境下绝缘子的特性改进Xception 网络，实现对自然环境下绝缘子种类以及是否含有表面缺陷进行快速精准的识别，在无人机巡检和进行绝缘子更换时具有重要意义[14]。

1 图像预处理

1.1 图像数据集的确定

通过深度学习进行绝缘子是否有缺陷的分类的相关研究并不多见，为保证数据能够充分反映自然环境的复杂性，基于文献[15]采集真实情况下的无标签的绝缘子数据集[15]，本文进行了分类，分为有表面缺陷和无缺陷的聚合灰色绝缘子（Polymeric Grey Insulator，PGI）、陶瓷针形绝缘子（Ceramic Pin Insulator，CPI）、玻璃绿绝缘子（Glass Green Insulator，GGI）和陶瓷双色绝缘子（Ceramic Bicolor Insulator，CBI）。其中有表面缺陷的绝缘子图片各有120 张，无缺陷的绝缘子图片各有400 张。为了使绝缘子种类更加丰富，本文实验利用无人机（大疆mini2）拍摄了400 张正常陶瓷单色绝缘子（Ceramic Monochrome Insulator，CMI），正常400 张正常陶瓷高压绝缘子（Ceramic High voltage Insulator，CHI），400 张正常玻璃高压绝缘子（Glass High voltage Insulator，GHI）以及400 张正常陶瓷低压绝缘子（Ceramic Low voltage Insulator，CLI）照片。由于采集的数据图片不符合Xception 模型的输入要求，利用resize 函数对原始图像进行等比例缩放处理至适合Xception 模型要求的尺寸（299 像素×299 像素）。利用resize 函数进行等比例缩放，不会导致图像内物体的形变。

1.2 图像数据处理

本文研究搜集的绝缘子数据集较少，神经网络在训练时，容易将不同位置、不同大小、不同颜色的同一物体识别成不同的物体，容易造成过拟合的问题[16]。通过对原始图像进行随机剪裁、旋转、缩放、颜色变换的操作，进行数据增强的方法扩充样本。该方法能够生成相似但不相同的图像数据，增加样本的数量以及多样性，提升模型的鲁棒性。并且随机生成的图片能够抑制模型对某些无意义特征的依赖，使模型得到更好的泛化效果。得到扩充后的绝缘子数据集为原始数据集的3 倍，合计17 280幅。然后对新生成的数据集按照6:2:2 的比例划分为训练集，验证集和测试集。

2 绝缘子识别网络的构建

2.1 Xception网络算法

Xception 网络是一种用于图像分类的网络，是基于Inception V3 改进而来[17]。Xception 网络将原来Inception V3 中的卷积替换成为深度可分离卷积，增加了网络宽度，减少了模型的参数量和计算量[18]。同时引入类似ResNet 的残差连接机制，使得网络收敛速度加快，分类的正确率提升，网络对细节特征的学习能力也增强了[19]。因此Xception 网络在基本不增加网络复杂度的前提下提高了模型的效果，可将其运用在绝缘子的分类问题中。

Inception V3 是将3×3 卷积分成3 组，如果将Inception V3 的1×1 得到k1个通道的特征图完全分开，也就是使用k1个不同的卷积分别在m个通道上进行卷积，那么它的参数数量是m×k1+k1×3×3。若将InceptionV3 的卷积的通道数设为k2，即参数数量为m×k2+k2×3×3。其参数数量是普通卷积的1/k1，把这种形式叫做Extreme Inception，简称Xception，如图1 所示：

图1 Xception示意图Fig.1 Schematic diagram of Xception

Xception 模型共分为3 个部分，分别为输入流（Entry flow）、中间流（Middle flow）和输出流（Exit flow），共有14 个块，其中输入流4 块、中间流8 块、输出流2 块[20]。

2.2 改进Xception网络算法

Xception 相较于其他分类网络，有了一定的性能提升。但绝缘子的识别容易受背景干扰（Background Clutter，BC），在特征提取时导致绝缘子难以被辨认[21]。针对这种复杂环境下绝缘子的物体分类，不能直接简单使用，因此针对绝缘子的特点进行一定的改进。

2.2.1 全局最大池化

绝缘子特征提取的误差主要来自领域大小受限造成的估计值方差增大和卷积层参数误差造成的估计值的偏移[22]。在深度学习的过程中，池化作为一个对特征的操作，需针对不同的任务，选择合适的池化层。全局平均池化是对特征图领域内特征值求平均，可以减少领域大小受限造成的估计值方差增大的问题[23]。而全局最大池化是对特征图邻域内特征点取最大，能减少卷积层参数误差造成的估计值的偏移问题，并且能很好地保留纹理特征[24]。

Xception 网络输出层中利用全局平均池化层对最后一个卷积得到的特征图进行池化处理。对于绝缘子分类这种在复杂背景下的分类问题，需要削弱其背景干扰，更好地保留绝缘子的细节特性。尤其在进行绝缘子的细小表面缺陷特征提取时，容易被忽略，从而造成分类成正常绝缘子的情况。所以针对这一问题，用全局最大池化层代替原来的全局平均池化层，使网络的泛化能力得到提升。假设该网络以最后卷积层中的第个特征图作为输入，则经过全局操作后可得其最大特征值为：

式中：Zj为全局最大池化后的特征值；(xm,n)为第j个特征图的值。

2.2.2 分类输出层

Xception 网络输出层中，经过全连接层之后是Softmax 层和分类输出层。经过了全连接层后Softmax层将多个输入映射到（0，1）区间中，从而进行多分类。假设输入的数据为x，则ar(x)为x的第r个元素，经过softmax 变换后yr(x)为ar(x)的对应的输出，即：

式中：k为输入的个数。

分类输出层运用具有互斥类的分类和加权分类任务的交叉熵损失函数[25-26]（Cross-entropy Loss，CL）。对于典型的分类网络，分类层必须跟在Softmax 层之后。在分类层中，网络从Softmax 函数中获取值，并使用交叉熵函数将每个输入分配给K个互斥类之一。交叉熵损失函数为：

式中：N为样本数；K为类别数；wi为第i类的权重；tni为第n个样本属于第i类的指标；yni为网络将第n个输入与第i类相关联的概率。

像素分类输出层（Pixel Classification Layer，PCL）原为语义图像分割网络创建像素分类输出层。该层输出卷积神经网络（Convolutional Neural Networks，CNN）处理的每个图像像素或体素的分类标签。像素分类输出层同样具有交叉熵损失函数作为损失函数，但该层在训练期间能够自动忽略未定义的像素标签。本文将像素分类输出层替换Xception 原有的分类输出层，有效提高了绝缘子分类的准确率。

2.2.3 绝缘子识别网络模型结构

本文对Xception 网络进行了改进，改进后的网络结构包括输入层、卷积层、修正线性单元层（Rectified Linear Unit，ReLU）、深度可分离卷积层、池化层、全局最大池化层、全连接层和输出层，具体结构如图2 所示。

图2 改进Xception模型的网络模块示意图Fig.2 Schematic diagram of network module of improved Xception model

首先对输入尺寸为299×299×3 的图像进行2次卷积，得到64 个特征图；每个特征图经过32 次深度可分离卷积操作以及1 次全局最大池化操作后，生成通道数为2 048 的一维特征向量；最后由全连接层，Softmax 层和像素分类输出层进行预测，最终得到分类结果。

3 实验过程及结果分析

3.1 实验环境

本文实验基于TensorFlow2.0 在python3.7 下实现的。TensorFlow 是1 个核心开源库，是可以开发和训练的机器学习模型。CPU 为因特尔Core i5-10600KF@4.10 GHz 六核、GPU 为NVIDIA GeForce RTX 2070 SUPER 8GB，在Window 10 上运行。

3.2 参数设置

为了使训练结果达到最佳，在验证集上进行试验，确定最佳的实验参数。试验确定每一轮中训练样本的数量（batch size），模型的学习率（leaning rate），然后对其他参数进行依次调整至最佳。试验分别训练16，32，64 和128 的训练样本的数量，经比较后发现batch size 设置太小模型收敛较慢，太大会导致模型泛化能力变弱，最终将训练样本的数量确定为16。每次试验运行60 轮（epochs），1epoch代表使用训练集的全部数据对模型进行1 次完整的训练。学习率控制着网络权重更新的速度，设置合理的学习率能使目标函数快速收敛到局部最小值。试验分别进行0.1，0.01，0.001 和0.000 1 的学习率训练，比较后发现学习率设置为0.001 时模型训练的效果最佳。在深度学习的过程中，选取合适的优化器可以加速训练过程，实验对比了Adam 优化器，sgdm 优化器和sgd 优化器，sgdm 优化器训练慢，但收敛性更好，训练也更稳定，最终结合其他参数的设置，选择了sgdm 优化器。

3.3 结果分析

为了验证改进方法的性能，本文在测试集中进行了实验，实验结果如表1 所示。

表1 改进前后测试集的网络性能对比Table 1 Comparison of network performance between test sets before and after improvement

正样本被正确识别为正样本的数量（True Positives，TP），负样本被错误识别为正样本的数量（False Positives，FP），负样本被正确识别为负样本的数量（True Negatives，TN），正样本被错误识别为负样本的数量（False Negatives，FN）。其中，准确度=。每秒处理图片张数（Frames Per Second，FPS）：FPS 越高，网络的速度越快。

由表1 可知，先用全局最大池化层代替原来的全局平均池化层，准确度提升了1.86%，FPS 提高了0.65。再将像素分类输出层替换原来的分类输出层，准确度提升了0.64%，FPS 提高了0.98。

本文实现了改进Xceotion 网络在绝缘子分类上表现良好，在与Xception 网络进行对比后，再与Irception-V3，ResNet50 和VGG 19 分类网络在验证集和测试集上的准确度和FPS 进行对比，结果如表2 所示。

表2 5种网络在绝缘子数据集训练测试数据Table 2 Training and testing data of five kinds of networks in insulator dataset

从表2 可知，改进Xception 与原有的Xception相比，验证集准确度提高了2.85%，FPS 提高了2.39。测试集准确度提高了2.5%，FPS 提高了1.63。对比其他的分类检测，网络性能更好，验证了改进Xception 网络在绝缘子分类识别上的可行性。

为了更加直观地观察模型在迭代过程中的训练情况，实验选取前1 000 次迭代测试集训练情况绘制了5 种网络的训练准确度图和训练损失图，训练准确度见图3，训练损失见图4。

图3 5种网络的训练准确度Fig.3 Diagram showing training accuracy of five types of networks

损失值越大，说明分类方法在真实标签上的分类准确度越小，性能也就越差。从图3 和图4 可知，改进Xception 方法相较于其他方法，在相同迭代次数内达到的准确度更高损失值更小，以及网络收敛的速度更快。

图4 5种网络的训练损失值图Fig.4 Diagram showing training loss of five types of networks

4 结语

为实现自然环境下绝缘子种类以及绝缘子是否存在表面缺陷的快速精准的识别，本文将Xception 图像分类方法运用在绝缘子分类识别中，并依据复杂自然环境下绝缘子的特性改进了Xception 网络。

实验结果表明，在数据集上改进的Xception 的准确度和每秒处理图片张数都有一定提升。其中验证集的准确率达到99.07%，测试集的准确率达到91.57%，符合无人机巡检中绝缘子的识别的要求。有效解决了绝缘子分类识别问题。