基于卷积神经网络的管道漏磁内检测焊缝识别方法

沈阳工业大学信息科学与工程学院 岳明星 杨理践 石 萌

1 引言

目前，管道焊缝和缺陷的识别方式主要通过管道漏磁内检测数据中的漏磁场径向和轴向分量进行数据图像可视化，根据漏磁曲线特征进行判定。在国内，对于焊缝缺陷的智能识别领域，主要应用的神经网络方法有支持向量机[1]、BP神经网络[2]、RBF神经网络等[3]；国外对于焊接缺陷数据进行训练和识别主要应用的方法为多层感知器神经网络[4]。基本都是采用人工的图像分割到目标的特征提取，然后采用统计方法或浅层神经网络方法来实现目标的分类识别[5]。近年来，基于深度卷积神经网络算法的图像分类识别方法已经广泛的应用于各种工程检测领域。本文提出一种改进的卷积神经网络方法对于管道漏磁图像进行训练和识别，并在管道漏磁曲线图像数据集上验证识别率。

2 卷积神经网络

卷积神经网络采用卷积核运算对于输入图像进行特征提取。该运算方法在结构设计上选择局部连接，该设计类似生物神经网络的稀疏连接的特性。一个卷积层中通常包含多个具有不同权值向量的特征图，使得能够在同一个位置获得多种不同的特征图[6]。完成对于图像数据的特征深度提取和组合。

选取64*64像素的管道漏磁图像，该尺寸能够包含完整的焊缝特征并且有效减小冗余数据量。基于LeNet5卷积神经网络的5个隐含层加入了两层局部归一化响应层，在输出层中加入Softmax分类器层，改进后的卷积神经网络结构模型如图1所示。

图1 改进的卷积神经网络结构

改进的卷积神经网络模型结构中，C1层为卷积层，是通过6个3*3的卷积核与输入图像进行卷积运算，得到6个60*60的特征图，每个神经元与输入图像中的3*3的邻域相连。对于该层的训练参数为W1和b1。该卷积层数学表达式为：

其中，l表示输入的图像的数量，其中l=6，输入层经过第一层3*3卷积核的卷积运算之后输出的图像数据的映射图大小为62*62像素。φ1表示第一层的激活函数。在每一个卷积层运算结束后都要进行激活操作，目的是抑制非特征区域，输出映射特征图。

S2层为池化层，采用最大池化操作（Maxpolling），池化半径为2，主要完成对于卷积层的特征聚合提取。每个神经元通过与C1层相对应的2*2区域相连接，采样输出的特征图大小为31*31像素，为C1层大小的1/4。该层无训练参数。数学表达式为：

L3和L6层为局部响应归一化层（Local Response Normalization）。加入该层的目的为完成对于数据归一化。当神经网络每批次训练数据的分布各不相同时，则卷积神经网络在每次迭代时都要去学习适应不同的分布，训练速度将会降低[7]。当对于数据进行归一化处理后，即使网络在训练开始的阶段出现数据的分布各异性，归一化后的数据分布也能降低训练误差，提高训练速度。对于该层没有训练参数。

C4层同样为卷积层，该层增加10个卷积核对于S2层输出图像进行卷积运算，该层的输出可得到16个28*28大小的特征图，训练参数为W2和b2。数学表达式为：

S5层与S2层完成同样的池化操作，即池化半径为2，该网络的层的输出可到16个14*14的特征图。对于该池化层的数学表达式为：

公式（4）中r5表示第5层的池化半径，与S2层中的池化操作相同，即对于C4层做最大池化操作。经过S5层的池化操作后输出的特征图大小为14*14像素。

F7层为全连接层，分为全连接1层和全连接2层，主要完成的功能即为把卷积核二维矩阵运算的稀疏连接变为一维数据向量的全连接方式。全连接层的数学表达式为：

对于分类器（Softmax）的设计为：

公式（6）中，θ为管道漏磁数据集中目标类别，对于最后分类器的最后输出类标为：

分类器输出分类目标的依据即为对于待分类目标求得最大的概率，由公式7可知对于分类概率求反运算即可得分类结果，最后将待分类中概率最大的一类输出。

3 实验结果及分析

首先对于管道漏磁曲线图像数据进行判别分析。管道漏磁内检测数据通过高精度管道漏磁在线检测系统形成管道漏磁曲线图像[8]。对于无焊缝特征处的管道壁，漏磁曲线呈现出平滑的波线，对于管道的焊缝处则形成明显的焊缝特征，如图2所示。

图2 管道焊缝曲线特征

如图2中所示的管道漏磁图像，建立基于卷积神经网络的管道漏磁曲线图像数据集，该数据集分为两个部分，即训练数据集和测试数据集；数据集中的图像一共包括3个分类，管道无缺陷的漏磁曲线图、环焊缝漏磁曲线和螺旋焊缝的漏磁曲线。每个类的曲线图分别为200张，大小为64*64像素。其中管道螺旋焊缝包含两种特征曲线，因此本文所建立的漏磁曲线图像训练数据集中一共包含600张图像数据，分为3个标签。测试数据集中一共包含300张，其中每个类别100张图像。

基于深度学习平台中实现改进的卷积神经网络模型的运算，对于管道漏磁曲线图像数据集进行训练。如图3所示为不同神经网络层级中的图像训练结果。

图3 不同卷积层中图像训练结果

选取Φ720管径的管道漏磁焊缝原始灰度图作为卷积神经网络不同层级训练结果的实验观测对象，从图3中b图可以看出第一个卷积层6个3*3的卷积核对于原始图像中的特征图之外的部分有明显的滤波效果。在C4层中增加了10个卷积核后对于管道焊缝特征的深度提取效果较为明显。在S5层中，经过了2个卷积层和2个池化层后对于图像中的非特征区域实现了完全滤波的效果。可以对于管道漏磁图像数据集执行图像的批量化训练过程。如图4为不同参数情况下利用损失函数观测到的训练过程。

图4 不同参数下的损失函数收敛结果

深度学习平台中损失函数的定义为神经网络的训练结果与期望之间的误差，在改进的卷积神经网络模型中加入归一化层之后，损失函数表达为损失率，作为神经网络训练结果的监测标准。其中，lr为神经网络的学习速率，batch为每一批次训练所读取的图像数量，通过每一批次的训练，卷积神经网络模型通过不断对于批次的读取和训练完成对于权值连接矩阵和偏置矩阵的不断更新。

由图4中a所示，当学习率为0.01，batch=16时神经网络未完全训练，图b中将神经网络的学习率改为0.001后，损失率降低10%左右，c图中，将图像训练批次增加一倍，同时将学习速率减小为0.0001，相比b中，损失率下降了5%左右；在d图中，通过将最大迭代步数设置为2000步时，神经网络损失率收敛在[1800,2000]步的区间之内，神经网络的损失函数值收敛在[0.02,0.08]区间内，满足训练误差。

当损失率满足误差标准时，认为神经网络训练达到最优化。将训练好的卷积神经网络模型保存，然后在300张测试数据集上验证识别正确率，如表1所示为测试图像集在训练好的卷积神经网络模型上的验证的正确率。

表1 测试数据集的平均识别正确率

由表中的识别正确率可知，该模型对于平滑漏磁曲线和特征较为明显的管道螺旋焊缝的识别率高于环焊缝的93.25%平均识别率。验证了卷积神经网络对于管道焊缝图像批量化训练结果能够应用管道焊缝识别。较传统的分类的神经网络具有批量识别的优势。

4 结论

通过对于改进的卷积神经网络的理论分析计算，基于深度学习平台对于模型训练阶段进行观测，验证了改进的卷积神经网络在加入了归一化层之后，能够防止训练参数分布的各异性，有效的降低训练误差。最终在测试数据集上实现了平均测试率为93%以上。验证了该卷积神经网络在处理批量训练数据上的优势，证明了该方法相对于传统的机器学习方法有着广阔的应用前景。

[1]申清明,高建民,李成.焊缝缺陷类型识别方法的研究[J].西安交通大学学报,2010,44(7):100-103.

[2]金涛,阙沛文,陈天璐.基于改进BP神经网络算法的管道缺陷漏磁信号识别[J].上海交通大学学报,2005(07):1140-1144.

[3]朱红秀,刘欢,李宏远.基于优化RBF神经网络的管道缺陷量化分析方法[J].仪表技术与传感器,2016(02):83-86.

[4]Limty,Ratnam,Khalidma.Automatic classification of weld defects using simulated data and an MLP neural network[J].Insight,2007,49(3):154-159.

[5]余永维,殷国富,殷鹰.基于深度学习网络的射线图像缺陷识别方法[J].仪器仪表学报,2014,39(9):135-143.

[6]Christian Szegedy,Wei Liu,Yangqing Jia.Going deeper with convolutions[J].arXiv:1409.4842v1 17 Sep 2014.

[7]Karen Simonyan,Andrew Zisserman,Very Deep Convolutional Networks for Large-Scale Image Recognition[J].arXiv:1409.1556v6[cs.CV]10 Apr 2015.

[8]杨理践,邢燕好,高松巍.高精度管道漏磁在线检测系统的研究[J].无损探伤,2005(01):20-22+41.