基于属性描述的零样本滚动轴承故障诊断

2022-08-16赵晓平吕凯扬张中洋

振动与冲击 2022年15期

赵晓平，吕凯扬，邵凡，张中洋

(1.南京信息工程大学计算机与软件学院，南京 210044；2.南京信息工程大学江苏省网络监控中心，南京 210044;3.南京信息工程大学自动化学院，南京 210044)

机械故障诊断是对工业生产设备进行维护的最佳途径，故滚动轴承故障诊断[1]是现今工业生产过程不可或缺的任务。因滚动轴承长期处于连续工作状态且工作环境极其恶劣，故很容易发生故障[2]。一旦滚动轴承损坏，轻则导致机器故障延误生产，重则造成重大事故甚至出现伤亡。因此，对滚动轴承的工作状况进行监测，确认已发生的故障类型并及时做出相应的零件更换具有重要意义[3]。

随着科技的不断创新以及大数据技术的不断发展，大量轴承运转状态的监测信息被记录下来。因此，以数据驱动方式为根本的故障诊断方法被学术以及工业领域广泛运用。而在实际数据采集环境中，通过频繁停机检查确定故障类型费时费力，故需通过试验台采集已知故障信号从而对实际工作环境中的未知故障进行诊断。传统的滚动轴承故障诊断方法主要采用时频分析方法，通过对振动信号的故障特征进行降维和提取，进而获取故障诊断结果。蔡艳平等[4]结合经验小波变换与同步压缩小波变换进行图像的纹理特征提取，有效地降低了振动信号间的交叉干扰，提高了故障诊断的准确率。李勇发等[5]考虑到故障检测方法泛化能力较弱的问题，提出了融合支持向量数据描述与小波奇异谱的滚动轴承故障检测方法，通过db5小波对信号分解后进行筛选，最后通过支持向量数据描述训练，有效地实现了滚动轴承故障诊断。但是，传统的故障诊断方法过分依赖于专家知识，容易造成误判，且面对数据量日益增大的机械诊断任务，很难高效地完成诊断工作。

近年来，深度学习技术迅猛发展，在图像识别与分割、自动驾驶、目标风格变换等方向都得到了广泛运用。卷积神经网络(convolutional neural networks， CNN)作为深度学习中的一类模式分析方法，因其强大的自适应特征提取能力以及学习能力，越来越多的学者和专家将其运用到故障诊断领域。赵晓平等[6]提出了一种基于多任务深度学习模型的诊断方法，针对单标签系统会忽视复合故障之间关系的情况，引入了多标签系统，从而实现了对多故障情况的准确分类。汤保平等[7]考虑到齿轮箱内部各个零部件的振动信号重叠严重的问题，提出了一种多共振分量融合CNN，得到了不错的分类效果。针对传统的旋转机械故障算法抗干扰性差，无法准确提取故障特征的问题，Shao等[8]提出了一种基于迁移学习的对抗域自适应方法，对故障特征利用最大均方差和域混淆函数进行域间自适应，实现了跨域故障诊断。但是，深度学习故障诊断模型大多是以数据驱动的方式来对模型进行训练，通过试验台采集的数据进行模型训练，往往导致训练出来的故障诊断模型可迁移性较差。在实际生产过程中，因为工况不同、生产环境复杂等原因，出现的故障种类不可预测，这可能会导致无可用的测试类样本进行故障诊断模型的训练。因此，为了解决上述问题，笔者结合零样本学习(zero-shot learning， ZSL)的思想，在无测试类样本可供训练的情况下完成对未知类故障的诊断工作。

ZSL[9]由Palatucci和Hinton等于2009年提出，该方法在模型的学习过程中，训练集和测试集没有交集。ZSL模型在使用非测试类的样本进行训练后，通过属性迁移、语义输出编码、跨模态迁移[10]等方法，仍能对测试类进行准确的分类。Norouzi等[11]构造了一个图像分类模型，通过类标签将图像映射到语义空间中，从而在不需要对测试类进行额外训练的情况下，完成图片分类任务。Verma等[12]建立了一个基于概率编码器的ZSL框架，减小了预测的偏差，在ZSL常用的公开数据集上都得到了不错的结果。然而上述几个ZSL的试验中，试验对象往往是物品或者动物等，而将零样本图像识别的方法迁移到故障诊断方向时，这些物品的属性并不适用于工业传感器信号，因此在进行零样本滚动轴承故障诊断任务时，需要更加有代表性的故障属性信息来辅助识别工作。

针对零样本故障诊断问题，Feng等[13]采用了一种基于故障描述的属性迁移方法，从而实现了对TEP数据集故障的准确诊断，该方法使用良好的语言描述代替样本来进行诊断和识别各种故障，然而该模型完成特征提取任务的主成分分析方法(principal component analysis，PCA)，需要大量的先验知识才可以最优化保留特征维数，故提取的特征往往不能很好地代表训练和测试样本。针对上述问题，笔者从属性描述的角度出发，提出了一种结合Xception网络[14]与CNN的零样本滚动轴承故障诊断方法，即X-CNN故障诊断模型。本方法凭借对现有固定故障类型的属性学习，完成在工业场景下对未见类故障的识别工作，以此摆脱对共享故障类型的依赖，从而令使用范围更加广泛。该方法采用Xception网络对故障信号时频图进行特征提取；根据故障类别的属性描述构建属性矩阵，使用CNN对提取的特征进行属性学习；最后通过属性矩阵的相似度比较完成故障诊断工作。

1 理论基础

1.1 ZSL

传统的机器学习采用大量具有标签的数据进行有监督学习，现如今人们已经不满足这种繁琐的学习方式，于是针对一些尚未获得大量训练数据的新类型，或者需要消耗繁杂、巨大的人力物力才能获得足够训练数据的对象，提出了一种零样本学习方法[15]。

ZSL衍生于迁移学习[16]，但是却与普通的迁移学习方法有着很大的区别：在ZSL的训练过程中，训练集样本类型和测试集是没有交集的[17]。ZSL模型通过对其他已知类别的学习，完成对未知类的识别。这一过程常常搭建直接属性预测(direct attribute prediction，DAP)模型来进行分类工作。DAP的结构图如图1所示。

图1中:D1,D2,…,DK为训练类数据;DK+1,DK+2,…,DK+M为测试类数据;y={ε1,ε2,…,εN}为不同类型训练数据的属性向量。通过对属性学习器α1,α2,…,αz的训练，完成对数据属性的预测，从而得到输入数据的特征估计，最终进行分类判断，其分类过程如式(1)

图1 直接属性预测模型

(1)

式中:M为数据包含的属性数目;εn,l为l类属性的第n个分量;p(εn,lx)为输入数据x的特定属性包含的概率;P(εn,l)则为对该类特定属性的先验估计。

1.2 Xception网络

Xception网络是一种将有残差连接的深度可分离卷积层进行线性堆叠的深度学习模型，Xception网络将Resnet中的卷积层模块替换为极致的Inception模块[18]，极致的Inception模块对输入先进行了普通的卷积操作，然后对1*1卷积后的每一个通道分别进行3*3的卷积操作，并在最后将结果concat，该过程如图2所示。Xception网络在原网络的基础上提高了网络的运行效率，在不增加网络复杂度的情况下改善了模型的效果。

2 X-CNN故障诊断模型

X-CNN模型通过对已知类故障样本的学习，完成对未知类故障样本的诊断。这一过程分为两个阶段：第一阶段采用Xception特征提取网络对样本进行特征提取；第二阶段使用基于CNN的属性学习器完成对特征的属性学习以及预测，并最终通过相似度度量获得具体的故障诊断结果。

图2 Inception模块

2.1 Xception特征提取网络

X-CNN模型选用Xception网络进行时频图特征提取。Xception网络通过36个卷积层来进行基础的特征提取，其引入了Entry flow,Middle flow和Exit flow 3层，每个flow都有若干个conv_bn模块或者sep_bn模块。本模型删除用于输出的Exit flow，Xception特征提取网络结构如图3所示。

(1) Entry flow

Entry flow共进行了8次卷积，其作用是对输入振动信号时频图进行下采样，减小空间维度。其中的con_bn层将卷积层与批归一化层(batch normalization，BN)结合，sep_bn层将可分离卷积层与BN层结合。这一改进省去了整个BN层的计算量。BN层计算过程如式(2)。

(2)

图3 Xception特征提取网络结构图

(2) Middle flow

Middle flow将3个可分离卷积层重复运算8次以不断学习通道间的关系，实现特征的优化，即图3中Middle flow模块内部的虚线连接处。再将原网络中的Exit flow中的部分模块添加至Middle flow，在完成特征优化后流向sep_bn层和conv_bn层，进行特征的汇总和整理后，将多维特征输出。

2.2 基于CNN的属性学习器

基于属性描述的零样本滚动轴承故障诊断方法需要对提取的特征进行属性预测，因CNN采用局部连接和权值共享的方式，可以有效地降低权值的数量，使得网络易于优化，从而很好得完成特征提取与多分类任务[19]，故选用CNN作为特征图的属性学习器。

基于CNN的属性学习器由特征提取层和预测分类层组成，其网络结构如图4所示。

(1) 特征提取层

特征提取层由卷积层、池化层组成[20]。卷积层和池化层对输入数据的特征进行提取。卷积的过程中，使用矩形的卷积核对输入对象的每一个像素点进行卷积计算，同一输入对象共享权重。卷积计算过程如式(3)

fi+1=Wi⊗fi+bi

(3)

式中:fi为卷积运算的输入;fi+1为卷积过后产生的特征图;Wi为权重;bi为偏置值;⊗为卷积运算符。通过卷积操作，会增加输出的特征图个数，这将导致输出维度不断增大，造成维度灾难，故通过添加最大池化层的方式降低输出维度并保留主要特征，最大池化的过程对输入特征的纹理较为敏感，其过程见式(4)。

Max-pooling(f[i-1],f[i],f[i+1])=

max(f[i-1],f[i],f[i+1])

(4)

通过将卷积层和池化层进行堆叠，不断降低参数量，与此同时获得感受野的提升，该过程见图4特征提取层结构。卷积池化层后使用ReLU激活函数，使得原先的单一线性变化多样化，从而增强学习能力。

(2) 预测分类层

预测分类层中用全连接层将提取的所有主要特征合并，并将其输送至SoftMax分类器，经过全连接层或者池化层输出可得一个k行j列的矩阵Yk*j，其中:k为样本数量;j为j个类别对应的量化值。对于输入样本x以及其对应的标签y，可以用q(y=jx)表示y属于j类别的概率，Softmax函数的公式为

(5)

图4 基于CNN的属性学习器网络结构

2.3 X-CNN故障诊断流程

图5为X-CNN故障诊断流程图，由图5可以看出X-CNN故障诊断模型由数据预处理阶段、特征提取阶段、属性学习及分类阶段组成。

(1) 数据预处理阶段

随机选择凯斯西储大学原始振动信号，按照ZSL的思想(训练类样本在测试类样本中均不出现)，对数据集进行训练集和测试集的划分，划分比例为22∶5。对所选取的训练集和测试集，分别进行短时傅里叶变换(short-time Fourier transform， STFT)得到振动信号时频图。

(2) 特征提取阶段

对模型进行训练时，将训练集时频图作为样本输入到Xception网络训练，对其进行特征提取，训练直至网络收敛，从而获得时频图的特征并将训练完毕的Xception网络保存。将测试集信号时频图输入到训练完毕的Xception特征提取网络，通过Entry flow完成对时频图的下采样以及降低维度后，经Middle flow完成对特征的不断优化，得到训练集和测试集的特征图并输出供属性学习器使用。

(3) 属性学习及分类阶段

将训练阶段中由训练集得到的特征图传入到属性学习器{α1,α2,…,αM}中，对其M个属性分别训练对应的属性学习器。测试阶段，将测试集特征输入属性学习器中，获得测试样本的属性预测矩阵，并将测试集样本的属性预测矩阵与数据集属性表进行相似度度量，从而诊断最终的故障类别。

图5 X-CNN故障诊断流程图

3 试验分析

为验证所提方法对未知类故障的诊断能力，试验中选用真实的滚动轴承数据，数据选自凯斯西储大学(Case Western Reserve University， CWRU)的滚动轴承数据集。

3.1 数据预处理

CWRU数据集的采集试验台如图6所示。装置主要由3个部分组成：位于最左侧的1.5 kW的驱动电机、位于中间的扭矩传动装置、位于最右侧的功率测试机。加速度传感器分别安装在试验电机的基座处、风扇端、驱动端的电机外壳处，从而获得基座加速度数据(base accelerometer data, BA)、风扇端加速度数据(fan end accelerometer, FE)、驱动端加速度数据(drive end accelerometer data, DE)。同时，CWRU通过电火花加工技术在滚动轴承三处布置单点故障，分别是内圈故障(InnerRace)、外圈故障(OuterRace)和滚动体故障(Ball)，并且选用0.17 mm,0.35 mm,0.52 mm,0.7 mm的不同故障体量级别。除此之外，外圈故障还区分为外圈3点钟，外圈6点钟和外圈12点钟三处损伤点。

图6 CWRU试验台

在试验中属性描述为判断某种故障属性是否出现，按照不同故障类型的故障位置(内圈故障、外圈3点钟方向故障、外圈6点钟方向故障、外圈12点钟方向故障、滚动体故障)、电机负载0,0.75 kW,1.5 kW,2.25 kW、故障大小0.17 mm,0.35 mm,0.52 mm,0.7 mm等信息定义其属性。

根据选用的数据集，定义了13种不同的属性(如表1所示)，其中包括4种故障尺寸属性、4种运行负载属性、5种不同故障位置属性。试验从驱动端数据中根据5种不同的故障位置、4种不同的工作负载和4种故障的损伤尺寸选取了共计27类故障数据进行试验，按照不同滚动轴承状态选取的不同故障类别数及其样本数如表2所示。

表1 属性描述对应表

表2 故障类别数及样本数

其中无故障状态因本试验存在3种负载故选择3类，外圈故障因其包含更多类故障位置故选择10类，滚动体和内圈故障选择7类，共计27类故障。

对选取的故障类型定义数据编码，数据编码代表故障的发生位置、尺寸以及机器的运行负载：对于故障位置，正常类型为N，滚动体故障为B，内圈故障为IR，外圈故障为OR；故障类型后的两位数字代表故障尺寸。如“OR07@3_0”代表外圈故障，故障尺寸0.17 mm，且负载为0，故障位置为外圈3点钟方向。表3展示了从CWRU数据集中，选取用作试验部分的属性描述在向量空间中的配置，共计27种故障。表3中:“1”表示该故障具备该属性;“0”表示该故障不具备该属性。通过对3种不同的属性类型，共计13种属性的学习，可以实现在不使用测试类故障样本进行训练的情况下，完成对测试类故障的诊断分类工作。

将选取的振动信号数据随机划分为训练集、测试集，其序号如表4所示。

在对CWRU所提供的振动信号进行预处理时，考虑到选取的特征提取网络在对图像处理方面有着优异的表现，故先采用STFT将故障信号数据转变为时频图，从而获得其随时间变化的频谱信息。在STFT中使用Hanmming窗作为窗函数并且预设窗函数长度为256，窗重叠度为50%，采样频率设为120 kHz。

3.2 试验与结果对比分析

3.2.1 特征提取网络效果分析

对时频图进行特征提取是基于属性描述的零样本滚动轴承故障诊断方法的第二步，本试验中分别使用有监督的机器学习方法PCA、改进后的Xception特征提取网络来提取时频图的相关特征，特征提取网络的主要参数见表5。表5中Entry flow和Middle flow中的残差连接conv_bn步长相同，卷积核大小分别为1×1和3×3，池化过程都选择最大池化，padding方式为“same”，大小为3×3，步长为2。其余sep_bn和conv_bn的卷积核大小皆为3×3，各自的步长如表5所示。

设置对比试验时，需对选定机器学习方法参数进行设置。在进行特征提取时，选用的PCA方法，保留前20个主要特征。属性学习阶段选用经典机器学习分类方法，即支持向量机(support vector machine, SVM)、概率朴素贝叶斯(naive Bayesian, NB)和随机森林(random forest, RF)进行属性学习。对PCA提取的20个主要特征，使用SVM,NB和RF进行属性学习器的训练。其中SVM的惩罚系数C设为1，NB中不设先验概率大小，利用极大似然法进行计算，RF的决策树数设为50。

X-CNN故障诊断网络通过Entry flow和Middle flow完成对时频图的特征的逐步提取，特征提取网络的末端添加一个Softmax层，并设置网络的损失函数如下

(6)

训练集和测试集的分类准确率和Loss值见图7和图8，试验结果表明，Xception网络可以很好的提取时频图特征并进行分类工作。如图7所示，在训练阶段，当iteration达到1 000次时，在训练集上模型的分类准确率已经达到99.5%，Loss值已经降到了0.348，在这之后模型训练的分类准确率和Loss值的变化趋势逐渐平缓。如图8所示，在测试阶段，当进行到第1 000个iteration时，模型的分类准确率已经达到99.6%，Loss值降到了0.298，在这之后准确率和Loss值保持稳定。由此可见若是只对可见类进行分类，Xception网络可以很好地完成任务，从而说明了Xception网络具有极强的分类能力。

表3 CWRU数据集属性表

表4 训练集、测试集划分

图7 训练集准确率与Loss值

图8 测试集准确率与Loss值

为了验证Xception网络是否具备优异的特征提取能力，本试验使用t-SNE方法将提取的多维特征降维后投影到二维空间中进行可视化分析，若投射结果可分性好，则可以说明该方法的特征提取能力强。本试验随机选取了7种故障对其进行特征提取并且降维可视化，使用PCA方法以及Xception特征提取网络进行特征提取后，特征降维可视化的结果如图9和图10所示。通过观察图9可以发现使用PCA方法进行特征提取后，负载为2.25 kW、损伤尺寸0.17 mm和负载为1.5 kW、损伤尺寸0.52 mm的滚动体故障发生了混淆，即图9中圆圈划出部分，故PCA特征提取方法对不同故障尺寸与负载的滚动体故障区分能力较弱。而观察图10可以发现使用Xception网络提取的特征可分性极好，各种不同位置、尺寸、负载的故障类型特征可分性极强，特征分类无混淆。故相较于使用PCA进行特征提取的方法，Xception网络可以更好得进行特征提取。

表5 特征提取网络主要参数

图9 PCA特征提取降维可视化

图10 Xception网络特征提取降维可视化

3.2.2 属性学习器效果对比

使用CNN作为属性学习器对提取的特征图进行属性预测，所搭建的CNN网络参数如表6所示。考虑到Softmax通过自然底数e使得输入差异扩大，然后使用配分方式将结果归一化为概率分布，具有优异的分类效果，故选用Softmax作为最终全连接层输出的分类函数。此外，属性学习器选用Adam作为优化器，选用categorial crossentropy损失函数。使用训练完毕的属性学习器对其进行属性预测，从而评估其属性学习的准确率。将属性矩阵传入学习器，分别预测13种属性在多种不同故障类型种是否存在。使用PCA方法与Xception网络提取特征后使用不同属性学习器进行属性学习，其准确率如图11所示。

表6 CNN参数

由图11可知，X-CNN模型对故障尺寸(属性1～4)、故障位置(属性9～13)的属性学习准确率高，最低的属性预测准确率可达75.4%。在对属性1～4与属性9～13进行分析时，观察图11(a)可知，使用X-CNN进行属性学习的准确率优于PCA+RF或者X-RF，最高预测准测率可达100%，最低预测准确率可达85.2%。X-CNN对属性的预测准确率明显优于使用传统方法；由图11(b)可知，使用X-NB对多数属性的预测准确率都高于PCA+NB，而X-CNN对所有属性的预测准确率都高于X-NB；观察图11(c)可知，使用X-SVM进行属性预测的准确率优于使用PCA+SVM进行属性预测，而使用X-CNN对所有属性的预测准确率皆优于X-SVM。相对于内圈故障和滚动体故障，X-CNN模型对外圈故障的属性识别率尤其优秀，针对3点钟方向和12点钟方向的外圈故障属性学习的准确率都达到了100%，对0.7 mm的故障属性识别准确率也达到100%。观察图11可以发现，本方法对振动信号的负载属性(即图中的属性5,6,7,8)的识别能力均较弱，准确率均在50%左右。可见本方法对于负载的识别能力较弱，分析原因是相同故障状态的滚动轴承在变负载条件下，数据特征分布差异较小，这一情况增加了区分难度。为减小这类特征分布差异所带来的问题，可以使用度量学习方法，或者使用triplet loss损失函数，加大相似特征之间的分布差异，从而提高区分度。这一情况为接下来的研究学习提供了方向。

(a) X-CNN与RF方法下属性学习准确率比较

(b) X-CNN与NB方法下属性学习准确率比较

3.2.3 零样本分类结果分析

为保证试验过程的合理性和真实性，对所选择的数据集进行测试集和训练集的随机划分，其中训练类故障样本与测试类故障样本无交集，样本序号和故障类型的对应情况可见表3。对测试集进行故障类别诊断过程中，考虑到过小的K值会造成过拟合，而过大的K值会增大学习的近似误差，故通过交叉验证法确定最优K值为K=7，并且选用欧氏距离作为度量标准。

表7展示了使用Xception网络和PCA方法进行特征提取后，配合不同属性学习器，在不同数据集上的分类准确率。由表7可知，使用Xception提取特征后进行属性学习并进行故障诊断，相较于使用PCA方法，无论是使用SVM,RF还是NB作为属性学习器，都可以获得更高的分类准确率，最高达到了82.6%，而使用PCA作为特征提取器时，在5组试验中准确率最高的PCA+RF也只有59%，平均准确率最高仅仅55.92%。此外，相对于使用机器学习方法作为属性学习器，使用CNN作为属性学习器时可以获得更高的分类准确率，单次分类的准确率最高达到了88.5%，平均准确率达到了86.5%，可见X-CNN模型对于各种故障属性、故障位置、故障大小的滚动轴承故障进行诊断时鲁棒性较强。

表7 分类准确率

图12展示了对数据集A使用Xception进行特征提取后，运用不同属性学习器进行故障诊断的混淆矩阵。图12中，纵坐标代表了测试样本的真实类别，横坐标表示模型预测的类别，横纵坐标交点代表预测的准确率。图12(a)中X-CNN模型的平均准确率达到了88.2%，诊断准确率最低的故障类型也可达到83%，远高于其他使用PCA作为特征提取方法后得到的结果，相比于图12(b)～图12(d)中其他使用Xception网络作为特征提取网络的方法，CNN对属性学习的准确率比SVM(82.6%)、RF(73.4%)、NB(76.2%)等机器学习方法更高，图12(c)与图12(d)方法对于测试集中的各种不同种类的故障，均存在较高的识别错误率，平均准确率仅76.6%与74.2%。比较图12(a)与图12(b)，可以发现，X-SVM模型的识别精度相当高，但是对于某种特定的故障类型识别效果一般，最优诊断结果与最差诊断结果误差可达36%，而X-CNN方法最优准确率可达100%，最低可达83%，结果误差仅17%。可见X-CNN模型对各种不同的故障种类在零样本情况下分类的鲁棒性更高。