APP下载

基于卷积神经网络的乙烯球罐泄漏检测研究

2019-09-03李传坤李乐宁

安全、健康和环境 2019年8期
关键词:球罐池化神经元

滕 潇,李传坤,李乐宁

(中国石化青岛安全工程研究院,山东青岛 266071)

0 引言

乙烯球罐焊缝中的氢在微裂纹前缘不断地积聚、循环载荷,引起的疲劳或应力腐蚀会促使微裂纹逐渐扩展成宏观裂缝或穿透裂缝,从而导致球罐的低应力脆性破坏[1],造成物料泄漏。乙烯球罐的操作温度一般为-36~-27 ℃,设计压力一般为2.16~2.2 Mpa(G)[2]。低温高压的操作条件更加促进了上述现象的发生。泄漏的乙烯会吸收周围的热量而迅速汽化,由于乙烯本身的密度在常压下较空气略小,闪点较低,故遇高温极易发生燃烧甚至爆炸,威胁人员生命安全。

目前石化行业主要利用气体探测系统对罐区泄漏进行在线监测[3],配合以泄漏检测与修复技术(Leak Detection and Repair,LDAR)进行局部微量的泄漏检测[4]。其中,红外热成像技术在气体泄漏检测的应用越来越广泛[5]。但是,红外热成像需要人工观察画面实现实时检测,一是造成人员浪费;二是人的不可靠性对实时检测效果有较大的负面影响。因此,迫切需要研究可以通过图像识别自动判断泄漏的方法。

近年来,深度学习凭借其优越的特征提取能力,广泛应用于语音识别、视觉目标识别、目标检测等其它领域[6]。其中,卷积神经网络(Convolutional Neural Network,CNN)最适用于图像目标识别。卷积神经网络通过组合低层特征,形成更加抽象的高层特征以表示属性类别,发现数据的分布式特征表达,更有利于学习到数据蕴藏的本质特征[7]。2012年,卷积神经网络在ImageNet竞赛中取得冠军,识别错误率从26%降到15%,准确率超出第二名近10%[8],大幅度提升了大规模图像识别的精度。

本文探索使用卷积神经网络对乙烯球罐进行泄漏识别的方法,实现以图像识别方式进行自动泄漏检测的应用研究。

1 卷积神经网络基本原理

卷积神经网络是一类专门设计用来处理二维数据的多层神经网络,其层次之间的紧密关联和空间上的信息提取特别适用于图像的处理[9]。卷积神经网络由卷积层、激活层、池化层、全连接层、输入-输出层构成,有权重共享、局部连接、下采样3个结构特性,该特性使卷积神经网络在图像识别方面更具优势。

图1 CNN的网络结构

1.1 卷积层

采用卷积层来代替全连接层,使得下层的神经元只与上层的局部窗口内的神经元相连接,即局部连接,如图2所示。图中s1-s5表示l层的神经元,x1-x5表示l-1层的神经元。

图2 卷积层和全连接层

在全连接层中,如果第l层有n个神经元,第l-1层有m个神经元,则连接线有n×m个,即权重参数有n×m个。当n和m都很大时,权重矩阵的参数将会特别多,训练效率会比较低。在卷积层中,第l层的神经元只和第l-1层的神经元构成局部连接,有效减少了权重矩阵参数的数量,提高了训练效率。

通常一维卷积运算用式(1)表示[10,11]:

(1)

f(·)——激活函数;

Mj——第j个神经元对应的卷积核大小;

*——卷积运算;

bj——偏置。

式(1)还可以写成:

x(l)=f(x(l-1)*k(l)+b(l))

(2)

式中:x——输出矩阵;

b——偏置矩阵;

k——权重矩阵。

不难发现k(l)对于l层的神经元都是相同的,即权重共享,如图3所示。

图3(a)黑色箭头表示在卷积模型中对3元素核的中间元素的使用,由于权重共享,这个权重的参数被用于所有的输入位置。图3(b)黑色箭头表示权重没有共享,这些权重参数只用于一个输入位置。可以看出权重共享有效减少了权重矩阵参数数量,可以提高训练速度。

图3 权重共享示意

1.2 池化层

虽然使用卷积层来代替全连接层降低了一定的特征维度,但是此时的特征维度依然很高,还需近一步降低特征维度。因此,有学者提出池化(pooling)的概念。对局部区域的特征值进行聚合统计,来代表该区域整体的特征值,这个聚合的过程即为池化[12,13]。池化函数表示如下:

(3)

f(·)——激活函数;

down(·)——池化函数;

bj——偏置。

常用的池化方法包括最大池化法和均值池化法。最大池化法如式(4)所示:

(4)

式中:Nj——池化区域大小。

均值池化法如式(5)所示:

(5)

式中:mean——平均数

1.3 激活层

激活层通过对输入数据进行处理,为线性表达能力差的神经网络注入非线性因素,使数据在非线性条件下可区分。常用的激活函数有TanH函数,见式(6)、(7)、(8)、Sigmoid函数和ReLU函数(Rectified Linear Unit)。TanH激活函数是Sigmoid激活函数的变形形式,取值范围从[0,1]变为[-1,1]。ReLU激活函数能够将大于0的数据保留,其它的数据均置为0,这使得数据可以表示为大部分元素为0的稀疏矩阵,提高数据处理效率,所以ReLU激活函数在卷积神经网络方面较TanH激活函数和Sigmoid激活函数应用更广[14]。

(6)

(7)

(8)

1.4 全连接层

如图2(b)所示,全连接层的神经元与前一层的每一个神经元相连接,该层的神经元之间没有连接。全连接层数学表达式如式9所示[15]:

(9)

n——第l-1层神经元总数;

Wi——权重(w表示从第l-1层中第i个神经元到第l层中第j个神经元的权重);

bj——偏置。

2 乙烯球罐泄漏检测模型构建

2.1 数据集

在工业实践中,红外热成像仪多为固定设置,所拍摄的图像每帧之间差别较小,从而重复数据较多,实际可用数据量很小。因此,为了验证本文建立的检测模型的效果,利用仿真软件模拟乙烯球罐泄漏的现场,以便得到更多维度的图像。模拟了正常工况和泄漏工况两种状态,并从不同角度进行了图像截取,如图4所示。共截取图像1 648张(正常工况751张,泄漏工况897张),其中1 200张作为训练集(正常工况和泄漏工况各600张),448张作为测试集(正常工况151张,泄漏工况297张)。

2.2 模型结构

基于Caffe(Convolutional Architecture for Fast Feature Embedding)框架,通过实验探究,最终确定了一个15层的网络模型,用于实现乙烯球罐泄漏的自动检测。该网络模型包括3个卷积层,4个激活层,3个池化层,2个局部响应归一化层,2个全连接层和1个dropout层。其结构如图5所示。

图4 正常工况和泄漏工况

图5 泄漏检测CNN网络模型结构示意

2.2.1输入层、输出层

所有图像的像素都标准化为227×227,且输入的图像是RGB图片,即3通道,所以输入的图像规格为227×227×3。

如图5所示,F2既是输出层,也是全连接层。所甄别的图像最终分为有泄漏和无泄漏2类,故F2的输出神经元为2个。

2.2.2卷积层

如表1所示,本文搭建的泄漏检测模型包含3个卷积层。

表1 泄漏检测模型卷积层结构

2.2.3池化层

在前3个激活层之后均有池化层,分别是S1、S2和S3,其结构如表2所示。

表2 泄漏检测模型池化层结构

2.2.4全连接层

如图5所示,F1是1个具有400个神经元的全连接层,与S3进行全连接。F2是1个输出神经元为2个的全连接层。F2的2个神经元,与F1中的400个神经元进行全连接,然后通过高斯过滤器,得到2个float值,即为图像识别的准确率。

3 模型验证与结果分析

重点研究了不同种类的池化方法和激活函数对识别准确率的影响。

3.1 池化方法的影响与分析

由图6可以看出,当迭代达到2 000次时,最大池化法的识别准确度已经达到95.86%,均值池化法只有79.13%。

图6 最大池化法和均值池化法准确度对比

造成最大池化法和均值池化法准确度相差较大的原因,应该是由于两者之间的池化过程不同造成的。两者的池化过程如图7所示:

图7 最大池化法和均值池化法池化过程

由图7可以看出,最大池化法的输入矩阵中最大值处所对应的权重为1,其余为0,故将局部区域所对应的最大值挑选出来,能减小由参数误差造成的均值偏移,保留更多的纹理信息。而平均池化法的输入矩阵所对应的权重均为0.25,即为输入矩阵求平均,能降低由邻域大小受限造成的估计值方差增大,可保留更多的原始图像的背景信息。本文验证用的数据集,其背景图像基本不变,而泄漏工况的特征主要体现在图像纹理上,故采用最大池化法可以得到更高的准确率。

3.2 激活函数的影响与分析

对于不同的激活函数,由图8可以看出,最终ReLU的识别准确度达到了95.86%,PReLU(Parametric Rectified Linear Unit)的识别准确度达到了95.43%,而TanH的识别准确度只有73.08%。此外,随着迭代次数的上升,ReLU和PReLU识别准确度的收敛速率趋于一致。从理论角度分析,ReLU的准确度最高,应该与其函数性质有关。ReLU函数为左侧硬饱和(即负值强制为0),PReLU函数为两侧均不饱和(即两侧导数均不为0),TanH函数为两侧软饱和(即两侧导数逐渐趋近于0)。

图8 激活函数ReLU、PReLU和TanH准确度对比

经过对比分析,最终确定最大池化法和ReLU激活函数的识别精度更高,对泄漏工况的识别准确率可以达到95.86%。

4 结论

通过以上研究,得到如下结论。

a)提出了应用卷积神经网络对乙烯球罐进行自动泄漏识别的方法。实验证明,最终模型的图像识别准确率高达95.86%,证实了本文提出的泄漏检测模型的有效性。

b)在仿真条件下,构建了一个15层的卷积神经网络模型,分别研究了不同池化方法和激活函数对识别准确度的影响并进行了机理分析,确定了最大池化法和ReLU激活函数可使本实验的识别精度更高。

下一步应研究将该方法应用在工业视频的实时分析,为乙烯泄漏检测提供在线辅助。此外,对卷积神经网络关键参数的优化方法及其理论依据应继续探索。

猜你喜欢

球罐池化神经元
面向神经网络池化层的灵活高效硬件设计
基于Sobel算子的池化算法设计
卷积神经网络中的自适应加权池化
《从光子到神经元》书评
2000m3球罐声发射检测应用研究
球罐不开罐检验方法及其相互验证
基于卷积神经网络和池化算法的表情识别研究
球罐整体迁移施工技术
跃动的神经元——波兰Brain Embassy联合办公
基于二次型单神经元PID的MPPT控制