基于深度残差网络的电缆绝缘层截面图像分类研究
2021-11-17侯北平张晓刚
刘 宇, 侯北平, 张晓刚
(浙江科技学院自动化与电气工程学院,浙江 杭州310023)
0 引 言
电缆的需求量随着各行业发展逐年递增,至2020年底,我国输电线路总里程超过159万千米。随着对电缆的需求显著增加,电缆生产企业不断增多,产能过剩,造成行业、企业间的市场竞争异常激烈,产品质量千差万别,部分企业以产品质量为主体的责任意识不强,出现了不检测、偷工减料、制假、售假等质量失信和违法现象,电缆的可靠性越来越受到关注[1]。电缆绝缘层作为电缆的重要组成部分,其质量直接影响电缆的使用寿命及使用安全。因此,对电缆质量检测至关重要。由于电缆的应用环境不同,电缆种类也不同。根据国家标准GB/T 3956—2008[2],不同类型电缆绝缘层,需要测量不同的参数。目前,针对不同电缆绝缘层的质量检测,多为人工测量,自动化程度较低,且测量周期长,测量过程耗时耗力。
近年来,机器视觉技术及深度神经网络的快速发展,被广泛应用到自动计数[3⁃5]、质量检测[6⁃7]和自动识别分类[8⁃9]等领域。侯维岩等[4]提出使用图像处理的方式解决捆扎棒材计数的问题。电缆绝缘层质量检测问题与相关行业具有共性,但同时具有特殊性,全自动测量问题亟待解决。肖金球等[9]首先将电缆切片分类,再采用人工选择类型进行测量。人工选择电缆切片类型需要操作人员具备一定的专业知识和工作经验,有一定错误率,自动化程度低。国内针对电缆检测设备研究较少。董辉平等[10]利用机器视觉等技术设计出一套电缆绝缘层厚度测试系统;ZHU W等[11]提出一种基于深度学习的半导电层分割方法;侯北平等[12]发明了一种全自动电缆绝缘层检测方法,实现对电缆绝缘层参数的自动测量。可替代传统人工检测,极大地提高了检测效率,但对各类电缆绝缘层自动分类尚存在不足。加入电缆绝缘层自动分类,将对电缆检测设备性能进一步提升。因此,对电缆绝缘层精准分类具有重要意义。目前,针对电缆绝缘层自动分类的研究较少。
针对以上问题,分析了圆形、类圆形、其他形状等3类共18种电缆绝缘层截面图像的特征,对比传统的支持向量机(SVM)分类方法、利用GoogleNet[13]模型进行分类及使用单一深度残差网络模型的分类方法,提出了基于深度残差网络的电缆绝缘层截面图像多级分类方法。利用4个分类模型,分两级对电缆绝缘层截面图像进行分类,极大地提高了分类精确度。
1 电缆绝缘层图像特征分析
如图1所示,为18种典型电缆绝缘层截面图像。针对几种典型的电缆绝缘层进行特征分析。
图1 18种典型电缆绝缘层
1.1 电缆绝缘层图像特征分析
由电缆绝缘层截面图像可知,各类电缆绝缘层几何特征差异较大。按照电缆绝缘层外形差异,将其主要分为圆形、类圆形和其他等,分析3类电缆绝缘层图像的具体特征。
1.1.1 圆形电缆绝缘层截面图像特征
如图2所示,依次为不透明圆形、透明圆形、三层内表面光滑圆形电缆绝缘层截面图像,本组圆形电缆绝缘层截面图像主要特征如下:
图2 圆形电缆绝缘层截面图像
(1)整体外观呈圆环状;
(2)圆环内部为单孔,且内部也为近似圆形,圆度接近1;
(3)存在透明、不透明两种情况。
1.1.2 类圆电缆绝缘层截面图像特征
如图3所示,依次为内表面不光滑圆形、半导电层、三层内表面不光滑圆形等3种电缆绝缘层,本组类圆形电缆绝缘层截面图像主要特征如下:
图3 类圆形电缆绝缘层截面图像
(1)整体外轮廓为正圆形;
(2)内层轮廓为非圆形,但内轮廓的最大外接圆与最小内切圆的半径差值较小;
(3)存在部分电缆绝缘层为两层拼接形成,如内表面不光滑圆形和半导电层两种电缆绝缘层,两者的特征相似。
1.1.3 其他形状电缆绝缘层截面图像
如图4所示,依次为单排三芯形、外梅花形、不透明扇形、瓦楞形等4种电缆绝缘层。本组电缆绝缘层截面图像特征较为复杂,其主要特征如下:
图4 异形电缆绝缘层截面图像
(1)整体形状多为不规则形状;
(2)由两个及以上圆形或椭圆拼接而成;
(3)部分电缆绝缘层形状较为特殊;
(4)存在透明、不透明两种情况。
1.2 传统分类试验
1.2.1 提取特征构建SVM分类器
根据以上分析,各类电缆绝缘层几何特征较为明显,可利用几何特征训练SVM分类器进行分类。选部分电缆绝缘层截面图像作为训练样本,进行图像预处理,提取图像亚像素内外边缘轮廓,如图5所示。提取圆度、不变矩等几何特征,构建特征矩阵。平均圆度统计表见表1,不变矩特征统计表见表2,表2中Hu1-Hu7分别代表7个不变矩阵特征。
表2 不变矩特征统计表
图5 电缆绝缘层截面图像亚像素边缘轮廓
表1 平均圆度统计表
由于部分类型电缆绝缘层截面图像存在透明与不透明两种情况,如图6所示,依次为透明圆形、不透明圆形、透明扇形、不透明扇形等4类电缆绝缘层。分析其灰度值分布,透明与不透明电缆绝缘层截面图像灰度差距较为明显。将平均灰度值作为补充特征加入特征矩阵中,提高分类精度。
图6 透明与不透明电缆绝缘层截面图像
1.2.2 SVM分类测试结果评估
取典型如图7所示不透明圆形、透明圆形、内表面不光滑圆形、双层圆形、半导电层、透明扇形、不透明扇形等7种类型电缆绝缘层。获取电缆绝缘层截面样本图像,进行分类试验。
图7 电缆绝缘层测试样本图像
试验结果混淆矩阵如表3所示,由表3结果可以看出如下问题:
表3 混淆矩阵
(1)特征较为相似的电缆绝缘层截面图像,如透明扇形电缆绝缘层与不透明扇形电缆绝缘层,两者几何特征较为接近,若利用灰度特征区分二者,易受采样光照影响,使其灰度特征较为接近。此时,利用SVM分类方法无法准确对两者进行分类。
(2)半导电层、双层圆形等形状类似的电缆绝缘层识别错误率较高,半导电层的平均圆度为0.927 47,双层圆形平均圆度为0.927 05,而内表面不光滑圆形平均圆度为0.930 167,三者平均圆度特征相近,且灰度特征相近,该方法无法正确识别3种类型电缆绝缘层。
(3)由于生产工艺原因,会出现畸形、残次等异常电缆绝缘产品,如图8所示,畸形、残次品是进行电缆绝缘层质量检测主要排查的对象之一。但由于传统分类可提取的特征有限,易出现无法识别或误分类现象,影响质量检测。
图8 异常电缆绝缘层截面图像
试验结果发现,传统的分类方法对于几何形状差异较大的电缆绝缘层分类效果较好,但对于几何特征相似度较高,且不具有特殊特征的绝缘层分类效果较差。与传统分类方法相比,利用深度残差网络的分类方法是从大数据中自动学习特征,而非采用手工设计的特征。样本充足的情况下,可以准确地提取样本深层次特征进行分类训练,并解决了传统分类方法特征提取不充分等问题。
2 基于深度残差网络的多级分类方法
2.1 基于深度神经网络分类方法的整体流程
基于深度残差网络多级分类方法的整体流程如图9所示。采集电缆绝缘层图像,构建样本数据集;对样本数据集进行增强;首先利用深度模型构建一级分类器,将电缆绝缘层分为圆形、类圆、其他等3类;再分别构建3个二级分类器,确定电缆绝缘层的具体类型;利用增强数据集训练分类器,最后试验验证分类结果。
图9 基于深度残差网络多级分类方法
2.2 多级分类模型
2.2.1 模型迁移
在深度卷积网络的有监督训练中,需要大量的有标签样本进行充分训练,网络才能取得优秀的分类效果。由于对电缆绝缘层的研究较少,且不宜获得大量的样本图像。所以为了尽可能少地使用有标签样本,同时避免过拟合现象,利用基于深度迁移学习方法的训练策略,以提高深层网络在小样本情况下的分类效果。将问题转变为利用一个拥有充足标签的相关数据集对网络进行预训练,再通过现有数据集对网络进行微调(fine⁃tune)[14]。目前被广泛应用的迁移模型有AlexNet、VGGNet、GoogLeNet、ResNet[15]等。
在迁移学习中,基于深层卷积网络模型,由于网络浅层卷积核主要捕获边缘和轮廓等浅层特征,而这些特征是通用的,同样存在于源数据集样本中,由此可用大量的源数据集样本对网络进行预训练,使网络参数得到充分训练,然后将浅层卷积核进行固定,使其不再进行优化。整个过程可看作网络将在源数据集中学习到的知识迁移到目标数据集中,一定程度避免了过拟合现象,同时也保证了对目标数据特有特征的学习。
2.2.2 构建多级分类模型
采用深度残差网络ResNet50[15⁃17]作为迁移学习模型,在预训练好的ResNet50网络模型基础上添加一层平均池化层(avgpool),一层全连接层(dense)加分类网络(Softmax)。共构建4个电缆绝缘层分类模型,分别为分类器Ⅰ、分类器Ⅱ、分类器Ⅲ、分类器Ⅳ。分类器Ⅰ用于将电缆绝缘层分为三大类,分类器Ⅱ、分类器Ⅲ、分类器Ⅳ用于对电缆绝缘层具体分类。并利用GoogLeNet网络作为迁移模型构建一个电缆绝缘层分类器,进行对比试验。
3 试验分析
3.1 试验准备
首先对数据样本图像集进行预处理,为了方便构建卷积神经网络和网络训练,将样本图像尺寸重置为224(像素)×224(像素)×3(通道)。并将样本数据集按照70%,15%,15%的比例分为3个子集,分别用于训练、验证和测试。初始学习率设置为0.01,迭代次数设置为100次。
3.2 结果与对比
3.2.1 利用GoogLeNet网络模型分类结果
利用GoogLeNet网络模型构建的电缆绝缘片分类器进行训练、测试,训练过程曲线如图10所示,图10(a)为验证正确率曲线,图10(b)为损失函数曲线。最终试验测试得到深度模型测试结果部分混淆矩阵如表4所示。
图10 GoogLeNet分类器训练过程曲线
3.2.2 深度残差网络单分类器分类
利用ResNet50网络对电缆绝缘层样本提取特征,以半导电层绝缘片样本为例,提取第一层卷积层的特征图像如图11所示。通过连续多层卷积提取特征,最后可以提取到2 048维特征。
图11 一次卷积后提取的抽象特征
利用一个重新构建的电缆绝缘片分类器进行训练、分类,最后得到训练过程曲线如图12所示,图12(a)为验证正确率曲线,图12(b)为损失函数曲线。最终试验测试得到深度模型测试结果部分混淆矩阵如表5所示。
图12 深度残差网单分类器训练过程曲线
与表3传统SVM分类测试结果混淆矩阵对比发现,利用GoogLeNet网络模型及ResNet网络模型重新构建的分类器,分类精度远远高于传统SVM分类器。对于表3中较难区分的几类电缆绝缘层,两者均可较准确地进行分类。通过表4 GoogLeNet模型分类器分类测试混淆矩阵、表5深度残差网络单分类器分类测试混淆矩阵对比分析可以发现,深度残差网络单分类器分类精度高于GoogLeNet模型分类器分类精度。但两者均存在错误分类的情况,如双层圆形、半导电层、内表面不光滑圆形电缆绝缘层分类错误。
表4 GoogLeNet分类器测试结果部分混淆矩阵
表5 深度残差网络单分类器测试部分混淆矩阵
3.2.3 深度残差网络多级分类器分类
首先利用分类器Ⅰ进行训练分类,初步将电缆绝缘层截面图像样本分为圆形、类圆、其他三大类。训练过程曲线如图13所示,图13(a)为验证正确率曲线,图13(b)为损失函数曲线。测试一级分类结果精度达到100%。
图13 一级分类训练过程曲线
根据一级分类结果自动选择二级分类器,分类器Ⅱ、分类器Ⅲ、分类器Ⅳ对三大类电缆绝缘层进行训练分类。如图14所示,分别为圆形、类圆形、其他三类电缆绝缘层截面图像二级分类训练过程正确率曲线,经过100次迭代,验证正确率曲线均稳定于1.000。综合测试分类结果得到二级分类器测试混淆矩阵如表6所示,可以准确识别出各种电缆绝缘层,测试分类结果精度达到99.99%。
图14 二级分类训练过程曲线
表6 二级分类器测试结果混淆矩阵
4种分类方法分类精度见表7。
表7 4种分类法分类精度
本工作提出的基于深度残差网络的电缆绝缘层截面图像多级分类方法分类精度远远高于其他3种分类方法。
4 结束语
针对当前电缆行业中产品质量人工检测方法中存在的不足,提出了一种基于深度残差网络的电缆绝缘层分类方法。首先分析电缆绝缘层截面图像的结构特点以及图像的特征,对比了传统分类方法利用单分类器分类的深度残差网络分类方法的不足。利用深度残差网络,构建4个电缆绝缘层截面图像分类器,进行二级分类。试验结果显示,本工作提出的方法,分类精度在99.9%以上,可从根本上解决电缆绝缘层自动分类问题,在电缆质量检测行业中具有积极意义,本方法可提高检测效率,可以被广泛应用。