自适应聚乙烯管道超声信号线检测算法
2021-12-30李礼彬周家乐颜秉勇王慧锋华东理工大学信息科学与工程学院上海200237
李礼彬, 顾 震, 周家乐, 颜秉勇, 王慧锋(华东理工大学信息科学与工程学院,上海 200237)
相比传统的金属管道,聚乙烯(PE)管道具有绝缘、耐磨损、抗腐蚀、易弯曲、性价比高的优势[1],正逐渐成为运输管道的主流。电熔焊接是PE 管道接头最主要的焊接方式之一[2]。现阶段对焊接质量较为有效的无损检测手段是利用超声相控阵成像技术进行人工测定[3],而人工检测成本高、效率低,因此依靠机器视觉进行自动化焊接缺陷识别是当前的发展趋势。
由焊接缺陷的定义[4-6]可知,缺陷识别的依据是超声成像中特征线、电阻丝线(也称熔合面)、管材内壁回波信号线之间的相对距离和各自的形状特性,因此,完整地检测特征线、电阻丝线和管材内壁回波信号线是实现自动化缺陷识别的关键。
目前学界和工业界针对PE 管道电熔焊接接头的超声信号线检测研究还处于起步阶段。黄跃鑫[7]通过缺陷检测仿真实验,分析了不同缺陷的信号特征,提出了Otsu 阈值分割和形态学运算相结合的分割方法,可以在仿真图中有效检测特征线和电阻丝线,具有一定的理论参考价值。郭伟灿等[8]分析了电阻丝的成像机理,提出了针对电阻丝线的检测方法,但并未检测特征线和管材内壁回波信号线,不利于全部类型的缺陷识别。黄跃鑫等[3]提出了将Kmeans 聚类与形态学运算相结合的处理方法,先将RGB 色彩空间中的B 分量图像整体聚为3 簇,对其中一簇进行形态学运算得到相对完整的电阻丝线,再对灰度图像聚类来检测特征线。该方法同样没有考虑管材内壁回波信号线,处理过程中的多次去噪和膨胀操作会丢失电阻丝信息,而且需要耗时地在全局空间进行两次聚类。
相比这些无监督算法,近年来有监督的深度学习算法在计算机视觉领域有了突破性发展,国内外学者在分割检测方向提出了诸多模型,如FCN、SegNet、Unet、DFANet[9]等。实验显示,这类卷积神经网络模型通过特征学习同样适用于超声信号线检测,但是其本质是像素级分类模型,分割轮廓往往比较粗糙,并且需要大量的训练样本和标记图像。
针对上述算法的不足,考虑到超声成像在空间上具有纵向分层显著、全局干扰较多的特点,本文提出了一种用于聚乙烯管道焊接接头超声信号线的自适应检测算法。该算法具有如下特性:(1) 自适应模糊灰度图像的内部细节,根据水平投影曲线在纵向上实现了图像分层;(2) 改进了自适应阈值分割算法,能够识别明暗变化不一的特征线;(3) 引入条件随机场理论,提出了Otsu-CRF 算法,在HSV 色彩空间实现了电阻丝线的检测,并改善了电阻丝粘连问题;(4)进一步检测了管材内壁的信号线。
1 检测原理
图1 示出了PE 管道超声成像图,其中电熔套管区域内的暗色线条即为特征线。本文算法分为两个阶段:(1) 基于自适应模糊算法保留区域边缘,去除灰度图像的内部细节,按水平投影曲线自动完成区域分层;(2) 在对应分层中选择合适算法独立检测3 条信号线。
图1 超声相控阵检测成像Fig. 1 Image of ultrasonic phased array inspection
1.1 区域分层
实现检测图像自动分层的关键在于能够充分模糊各区域的内部细节,而保留轮廓信息,使得水平投影曲线的“峰-谷”特性能正确反映分层信息。
如图2(a)所示,由于存在特征线以及电阻丝的回声信号,灰度图像的水平投影曲线噪声较大,各区域的极值并不唯一,难以根据峰值或谷值划定区域的分界线,因此需要进行模糊处理。图2(b)示出了高斯模糊后的灰度图及其水平投影曲线,其中高斯核尺寸为5×5 像素。从结果来看,具有一定的模糊效果,但并不能完全消除区域内部细节(特征线、电阻丝回声信号等)的影响,如投影曲线在第150 行附近仍存在较大坡度,此处对应电阻丝区域和PE 管材区域的分界,但并没有发生标志性的像素值跳变现象,因此,需要进一步模糊处理。
图2 模糊算法的对比结果Fig. 2 Comparison results of blur algorithms
形态学运算是数字图像处理的常用手段,图像膨胀和腐蚀是所有形态学运算的基础。图像f(x,y)的膨胀和腐蚀定义[10]分别如式(1)和式(2)所示:
其中: ⊕ 和 ⊕ 分别表示形态学的膨胀与腐蚀运算;b表示索引为 (s,t) 的结构单元。若b是3×3 的矩形结构,则图像f在(x0,y0)处的膨胀定义为:以(x0,y0)作为b的原点,将f(x0,y0) 赋值为此3×3 区域中的最大值;类似地,图像f在(x0,y0)处的腐蚀定义就是将f(x0,y0) 赋值为此区域的最小值。通过组合膨胀和腐蚀运算可以得到模糊能力更优的开运算和闭运算[10],分别表示为式(3)和式(4):
其中, ◦ 和 • 分别表示形态学的开运算与闭运算。开运算是先用结构单元b腐蚀f,再对结果进行膨胀;闭运算则相反。通常,开运算操作用于去除较小的亮细节,闭运算操作则是去除较小的暗细节,具体效果与结构单元的形状和尺寸有关。
针对灰度图中的特征线、电阻丝回声信号等暗纹,本文采用5×5 尺寸的矩形结构进行形态学闭运算处理,结果如图2(c)所示。其模糊效果类似于高斯模糊,在边缘处理上存在优势,但仍未达到模糊细节的预期。虽然随着结构单元尺寸的加大,特征线的模糊效果得到改善,但同时会减淡管材内壁回波信号线,而且固定尺寸并不适用于所有图像。
为了解决这一问题,本文基于形态学运算结合内部细节的空间信息提出了一种自适应模糊算法,如式(5)所示:
其中,Δ 是形态学运算结果的补偿量,由每幅图像的灰度分布决定,因而具有自适应性。理想情况下,应使得mean(f′)+Δ≥255 在电熔套筒区域和管材区域成立,以完全消除特征线和电阻丝回声信号,但由于区域分界并不固定,只能选定区域求得近似的补偿量。根据空间信息可知,回声信号的灰度值正相关于其上侧电阻丝的灰度值。在超声成像中,电阻丝越亮则其回声信号越明显,因此选定区域除了包含存在特征线的电熔套筒区域和存在回声信号的管材区域之外,还应当包含电阻丝。为了方便计算,本文取整幅图像的下2/3 区域,则
自适应模糊效果及其水平均值投影曲线如图2(d)所示。可以看出,自适应模糊算法消除了特征线和大部分的回声信号,投影曲线具有稳定峰值且在分界处存在标志性的转折点,可以据此实现自动分层。
选取固定阈值T=255×95%作为区域划分的标准,以遍历法确定区域间的分界线(如图3 所示),并按特征线、电阻丝线和管材内壁的所处位置确定感兴趣区域(Region of Interest, ROI),分别记作ROI-1、ROI-2 和ROI-3。
图3 区域分层结果Fig. 3 Areas layered result
1.2 信号线检测
1.2.1 特征线检测 阈值分割是常用的图像分割方法[11],适用于检测相比背景具有明显色彩或亮度差异的目标,主要有固定阈值分割[12]、Otsu 阈值分割[13]和自适应阈值分割[14]。
在图4(a)所示的ROI-1 灰度图中,特征线与背景存在一定差异,可以选择阈值分割。根据统计的灰度直方图的峰值分布,本文选取固定阈值T=240进行二值化分割,结果如图4(b)所示。可以看出固定阈值分割的结果中存在大量的误分割,且特征线形状发生改变。Otsu 阈值分割是根据类间方差最大原则,在灰度直方图的基础上自动选择阈值进行分割,因此对每幅图像具有自适应性,结果如图4(c)所示。其特征线的分割结果优于固定阈值分割,但在上下两侧的分界区域同样存在误分割,而且在特征线的右侧存在欠分割,这是由于特征线的明暗程度不一致造成的。明暗变化在超声成像中比较常见,因此基于全局灰度特征选定的阈值并不适用。
自适应阈值分割通过将图像划分为m×n个相邻网格,不再考虑全局特征,而是在每个网格中独立计算阈值,再进行二值化分割,因此可以自适应于明暗程度不一致的目标。由均值法计算各网格的阈值,如式(7)所示:
其中:M(i,j) 是第i行第j列网格的灰度均值;T0是固定补偿量。取T0=0,分割结果如图4(d)所示。结果显示,自适应阈值分割能够完整分割特征线,但在不存在特征线的局部区域中误分割了较多的噪声。虽然通过增大网格的划分尺寸或者选择合适的T0能够抑制部分噪声,但同时也会影响特征线的分割形状,仍然存在较多误分割,需要进一步处理。本文尝试了文献[3]中的去噪手段,如删除与边界相连区域、形态学腐蚀等,再通过检测拟合椭圆的二阶矩来过滤,这对部分图像是有效的,但增大了计算量。腐蚀改变了目标形态,分割结果对参数设置有较强依赖。
图4 ROI-1 的分割结果对比Fig. 4 Comparison of ROI-1 segmentation results
为了解决信号线分割困难的问题,本文基于目标特征和空间信息提出了一种改进的自适应阈值分割算法。基本的自适应阈值分割算法由于未考虑空间信息,在不存在目标的区域仍然进行阈值分割,因而当噪声较多时会导致误分割。改进算法的思路是通过目标特征和空间信息对目标所在区域进行判定,只在目标可能存在的区域中进行自适应分割,进而提升分割的针对性,改善分割效果。
首先,将图像划分为m×n个相邻网格,并求出每个网格的灰度均值M(i,j);然后按目标特征设定规则,把必然存在目标的网格区域设定为“强区”,可能存在目标的网格区域设定为“弱区”,不可能存在目标的网格区域则为背景;其次,按空间位置将与强区相接触的弱区也设定为强区;最后,在所有强区中进行自适应阈值分割。
针对特征线检测问题,设定如下规则:考虑到特征线在水平方向上是暗色的棒状结构,因而将满足式(8)的网格区域设置为强区;将平均灰度低于全局灰度均值的区域设置为弱区;其他区域设置为背景。
改进算法的检测结果如图4(e)所示。可以看出,改进算法不仅完整地提取了特征线,还保持了与人眼视觉一致的目标形态,不需要进行额外的噪声处理,具有明显的优势。
改进的自适应阈值分割算法流程如图5 所示。
图5 改进算法的流程Fig. 5 Flow chart of improved algorithm
1.2.2 电阻丝线检测 如图6(a)所示,在RGB 色彩空间中ROI-2 区域中的电阻丝颜色并不统一,但电阻丝与其所在背景区域存在明显色差,因此选取一个合适的色彩模型将有利于目标检测。
RGB 模型是一个通用模型,但该模型并不能提供均匀的色彩空间,且每个分量都带有亮度信息会造成色彩分割不良。LUV 色彩空间[15]是国际照明委员会为了统一评价颜色差别而提出的,其中L 分量代表亮度信息,U、V 分量代表色度信息。该空间更具均匀性,符合人的视觉心理,在图像处理中有着广泛应用。图6(b)~(d)示出了ROI-2 区域在LUV 色彩空间中3 个分量对应的单通道图像。
图6 ROI-2 图像及其LUV 分量Fig. 6 Images of ROI-2 and its components in LUV color space
图6(c)中U 分量的色度信息和电阻丝的前景背景信息相吻合,前景和背景有明显差异。经过多次实验,这一特征在不同图像中保持稳定,因此可通过Otsu 阈值分割检测电阻丝线。随后进行反色和形态学腐蚀处理,结果如图7 所示,实现了电阻丝线的检测,但存在粘连现象。
图7 电阻丝线的检测结果Fig. 7 Detection result of resistance wire signal line
1.2.3 管材内壁回波检测 与电阻丝线的检测方法类似,先将RGB 色彩空间的绿色分量(G)和蓝色分量(B)按式(9)进行线性组合以增强目标和背景的对比度,再对计算得到的Q值进行Otsu 阈值分割。结果如图8 所示,实现了管材内壁回波信号线的检测。
图8 管材内壁回波信号线的检测结果Fig. 8 Detection result of pipewrie in wall echo signal line
1.2.4 Otsu-CRF 算法 在RGB 色彩空间中难以分割的电阻丝线可以在LUV 色彩空间中通过Otsu 阈值分割实现检测,但结果比较粗糙,而且存在粘连问题。引入全连接条件随机场理论(Conditional Random Field, CRF)[15],用灰度值方差为特征,结合空间信息进行二次分割以细化目标边缘,则可以得到更精细的检测结果。
设X={X1,X2, ···,XN}为定义在整幅图像上的观测向量,Y={Y1,Y2, ···,YN}为所有观测向量对应的类别标签向量,构建条件概率模型P(Y|X),并用无向图G=(V,E) 来表示,则结点v对应的特征向量为Xv,对应的类别标签为Yv,每个结点都满足马尔可夫性[16]:
其中:w≠v表示v以外的所有结点;w~v表示与v相邻的结点。因此(Y,X)构成一个条件随机场,其Gibbs 分布[17]表示为
其中:Z(X)为规范化因子;E(Y|X)为Gibbs 能量函数[18],简写为E(Y)。在全连接条件随机场中,
其中:Ψc(Yc)是基团c上的势函数,由两部分组成:一元势函数Ψu(Yi)用来衡量在给定整幅图像的观测向量X的条件下,结点i被标记为Yi的可能性;二元势函数Ψp(Yi,Yj)用来描述相邻结点i和j的空间关系,结点i的标记相关于相邻结点j的标记。
势函数的选取决定了CRF 模型的准确性和速度,本文采用的一元势函数为
其中,Xi为第i个像素对应的特征向量,取该像素所在类别的灰度值方差;采用的二元势函数为
其中β为权重。可以看出,结点的类别不仅由自身灰度决定,还取决于临近结点。
最后通过模拟退火算法[19]最小化式(12)所示的能量函数,得到最优的像素点分类结果。
Otsu-CRF 算法的完整流程如下:
(1) 对目标图像用Otsu 算法进行粗分割得到f0;
(2) 通过形态学腐蚀f0得到Marker 图像,膨胀f0得到Mask 图像,二者的差分区域U=Mask−Marker即为需要细化的边缘范围;
(3) 随机初始化像素点(x,y)∈U的标签,在整幅图像中计算初始能量;
(4) 模拟退火算法:依概率随机更改某像素点的标签,重新计算能量。若能量减小则保留更改,否则以一定概率接受更改;
(5) 重复执行步骤(4)直至收敛或达到最大迭代次数。
2 实验结果与分析
除了检测原理中声明的常量参数外,Otsu-CRF 算法不依赖其他参数。为了验证算法的有效性,在笔记本电脑上进行了实验,配置为Intel i5-9300H CPU@2.40 GHz 处理器,NVIDIA GeForce GTX 1650 显卡,Python3.7 编程环境。
2.1 评价基准和指标
为了客观分析和量化信号线的检测结果,以人工检测结果作为评价基准,图9(a)示出了人工在LabelMe[20]中对图1 的标注结果。可以看出,由于选用多边形框定目标,人工检测结果带有明显的边角特征,并不符合实际的目标形态。为了得到更加合理、准确的评价基准,采用Otsu-CRF 算法对人工检测结果的边缘进行细化,结果如图9(b)所示。对比原始图像,所得信号线的形态更加自然饱满,与人眼视觉相一致,后续实验将以此作为人工检测结果进行分析和评估。
图9 人工检测及其细化结果Fig. 9 Results of manual detection and refinement
选用准确率(Accuracy)和精确度(Precision)作为评价指标,计算公式见式(15)。准确率表示正确识别的正例样本占总样本数的比值,用来衡量背景像素和信号线像素的分类准确性。但由于正例目标是狭长的信号线,在整幅图像中占比不足10%,导致该指标无法突出算法差异。而精确度表示正确识别的正例样本占所有识别的正例样本的比值,即只关注信号线的检测结果,因此选用其作为有效补充。准确率和精确度的数值越高表明算法的性能越好,另外,将算法的运行时间作为另一项指标。
式中:TP (True Positive) 是正确识别为正例/目标像素点的像素数量;FP (False Positive) 是错误识别为正例/目标像素点的数量;TN (True Negative) 是正确识别为负例/背景像素点的数量;FN (False Negative) 是错误识别为负例/背景像素点的数量。
2.2 实验结果与分析
将本文算法分别与文献[3]和文献[9]的算法进行了对比。文献[3]通过两次聚类分别检测特征线和电阻丝线,再采用清除边界区域、形态学腐蚀等方法去除噪声,没有检测管材内壁回波信号,且特征线和电阻丝线分割粗糙,电阻丝甚至会出现漏检问题,结果如图10(a)所示。
图10(b)示出了文献[9]的检测结果,其中特征线存在误分割且相对较粗,电阻丝存在粘连问题,并且数据集标记耗费了大量时间,检测结果依赖于训练方法和标记精度。
而本文算法完整地检测了3 条信号线,结果如图10(c)所示,其中电阻丝粘连问题可以应用Otsu-CRF 算法进行改善,最终结果如图10(d)所示。
图10 不同检测算法的结果对比Fig. 10 Comparison of different detection algorithms
对10 幅含有不同缺陷类型的超声图像进行检测,表1 给出了不同算法的对比结果。其中文献[3]的聚类算法耗时最久,且准确度不高;文献[9]的算法虽然精度和速度有所提高,但依赖GPU 加速,部署环境存在限制;本文算法基本实现了实时检测,且准确率高。应用Otsu-CRF 算法后,需要对式(12)所示的Gibbs 能量函数进行迭代寻优,因此计算量增加,损失了部分速度性能,但进一步提高了检测精度,改善了电阻丝粘连问题。
表1 不同算法的检测结果对比Table 1 Comparison results of different algorithms
值得说明的是,自适应检测算法可以完成超声信号线检测任务,计算量小、速度最快,因此适用于大多数的应用场景,尤其适合实时检测或部署在嵌入式设备上。而增加了细化处理的自适应检测算法则适用于对精度要求较高或离线检测的场景,例如需要对焊接缺陷进行分级时,可以对3 条信号线进行细化以进一步提升检测结果。
图11 示出了本文算法对不同缺陷类型图像的实际检测结果。实验结果表明,本文算法能够适用于不同的焊接缺陷,增加了细化处理后对信号线的检测结果,具有一定的改善作用。
图11 不同类型图像的检测结果Fig. 11 Detection results of different types of images
为了分析自适应模糊处理对算法整体性能的影响,移除自适应模糊处理步骤,直接对灰度图像进行水平投影,并更新区域划分策略,实验结果如表2 所示,其中括号内数值为完整算法的指标得分。可以看出,移除了自适应模糊处理后,检测算法的准确率下降约2%,精确度下降约8%~10%,处理时间几乎成倍增加。这是因为灰度图像的水平均值投影曲线存在较多波动,不能严格反映分层信息,使得区域分层出现误差,具体表现为:信号线所在区域变宽,导致信号线检测存在误分割;直接增加了计算量,导致算法速度变慢。由此可以得出结论,自适应模糊处理提高了分层准确性,保障了算法的整体性能。
表2 移除自适应模糊处理后的算法性能Table 2 Performance of algorithms without adaptive blur processing
3 结 论
本文针对聚乙烯管道焊接接头的超声成像提出了一种自适应信号线检测算法。在形态学运算的基础上实现了灰度图像的自适应模糊以便对图像纵向分层;改进了自适应阈值分割算法用于检测特征线;提出的Otsu-CRF 算法能够细化电阻丝的检测结果,改善电阻丝粘连问题,能够完整、准确、快速地实现超声信号线的检测。后续将在此基础上研究焊接缺陷类型的自动化识别。