基于深度信念网络的空压机故障监测研究

王华秋，王 斌

(1.重庆理工大学 两江人工智能学院， 重庆 401135； 2.重庆理工大学 计算机科学与工程学院， 重庆 400054)

空气压缩机是一种用来压缩空气的设备，种类多样，其中螺杆式空压机已成为当今空气压缩机发展的新主流[1]。螺杆式空气压缩机具有结构简单、易损件少、配件更换方便、噪声小及运转安全可靠、单级压比大、效率高等优点[2]。因而其在工业生产中的应用越来越广泛，又因其在生产中的广泛应用，各种故障也时常出现，逐渐受到人们的关注。如果在空压机的运行过程中出现了问题，而不能及时发现，将会带来各种无法预计的后果与损失。因此，对空压机运行状态的监控、研究与分析对于空压机的正常运行，保障生产生活的持续良好进行意义重大。

文献[3]对空压机运行过程中的各种故障做了分析，其中排气温度异常是一个十分常见的运行故障现象。对于空压机排气温度的监测主要还是基于传统的传感器和设置固定的故障阈值。文献[4]使用云推理的方法预测叶丝干燥筒壁温度，而文献[5]在对冷水机组运行性能的预测中使用了基于改进BP神经网络的方法。因此，如果在空压机的运行状态监测方引入一些基于数据的机器学习方法，就能有效提高监测的效率与准确性。

2006年，Hinton等学者开启了深度学习的浪潮[6]。所谓深度学习，其本质目的是提取特征，手段是通过大规模的数据样本对复杂的网络模型进行训练，以此来提高预测和分类精度。深度信念网络属于深度学习技术的一种，它是由Hinton等学者提出。这种网络利用受限玻尔茨曼机(RBM)组成深度神经网络，同时将训练分为预训练和微调两部分，解决了一些传统的神经网络所具有的深层网络训练困难、易陷入局部最优以及需要大量的带标记的训练样本的缺点。在语音、文字识别方面已有许多应用方向与实际案例，同时在故障监测、诊断方面也有许多应用[7]。本文将深度信念网络的优势应用于空压机排气温度预测，提出一种新的空压机排气温度监测方法，以实现空压机运行过程中的异常监测。

1 深度信念网络

深度信念网络(deep belief network,DBN)是一种典型的深度学习(Deep Learning)方法[8]。它由多个神经元叠加而成，其组成元件是受限制玻尔兹曼机(RBM)，同时也属于一种概率生成模型。RBM是一种神经感知器，由一个可视层和一个隐藏层构成，可视层与隐藏层的神经元之间为双向全连接。其中，任意两个相连的神经元之间有一个权值表示其连接强度。同时，每个RBM的隐藏层作为下一个RBM的可视层，并最终构建成整个网络。图1是由3个RBM组成的深度信念网络。深度信念网络的整个训练过程分为无监督的预训练和有监督的微调两部分。

图1 深度信念网络结构

1.1 预训练

预训练是使用未进行标注的数据集对每一层受限制玻尔兹曼机分别进行单独训练，然后自下而上，把下层受限制玻尔兹曼机隐藏层作为上层受限制玻尔兹曼机的可视层继续训练。总体来说，它是通过一个非监督贪婪逐层方法进行预训练获得权重[9]。

设定RBM中可视层与隐藏层神经元都只有激活与未激活两种状态，分别用1与0表示。给定一组状态(v,h)表示可视层与隐藏层，则一个有n个可视层和m个隐藏层的RBM的能量函数可定义为：

(1)

式中θ={w,b,a}是RBM的参数，vi表示可视层的状态，hj表示隐藏层的状态，bi表示可视层的偏置，aj表示隐藏层的偏置，wij则表示连接可视层和隐藏层的权重。

基于该能量函数定义一个可视层与隐藏层的联合概率分布为

(2)

其中Z为归一化因子，公式为

可得联合概率分布P(v,h;θ)的边际分布为

(3)

使用最大似然估计法对上式进行最大化求得RBM参数θ，然后应用对比散度方法求出RBM的参数θ={w,b,a},更新规则为：

Δwij=ε(〈vihj〉P(h|v)-〈vihj〉recon)

(4)

Δbi=ε(〈vi〉P(h|v)-〈vi〉recon)

(5)

Δaj=ε(〈hj〉P(h|v)-〈hj〉recon)

(6)

式中：ε为学习率，〈·〉P(h|v)代表P(h|v)分布下偏导函数的极限，〈·〉recon表示重构模型分布下的偏导函数的极限。

1.2 微调

当预训练完成后，网络会获得一个较好的网络初始值，但这还不是最优的，所以需要对网络进行微调。具体做法是：利用反向传播神经网络(BP),将其设置在深度信念网络的最后一层，将最后的RBM的隐藏层即输出层作为BP的输入层，然后利用有标签的数据集进行由下至顶的有监督的训练，实现对深度信念网络在预训练阶段生成的参数进行优化微调，使模型更加准确。深度信念网络巧妙地将无监督与有监督学习合二为一，优势互补，避免了BP网络容易陷入局部极小的弊端，同时缩短了收敛时间，加快了训练速度。

1.3 对DBN的改进

深度网络的难点体现在网络的训练过程中[10]，学习率、权值初始化、网络层数、单层神经元数等训练参数对模型起决定性的影响。其中，学习率的设定特别重要，传统的方法是人工设定，往往并非最佳设定。后果学习率是设定太高可能导致无法收敛，而学习率设定太低又会造成学习速度太慢，增加了实验的成本。为解决这一问题，提高DBN的性能，本文引入了一种基于动态学习率的DBN训练方法。所谓动态学习率，就是在RBM结构的训练过程中，自适应动态调整学习率。其具体内容如下：

根据前后的重构误差自适应调整学习率，定义P(h|v)分布下偏导函数的极限〈·〉P(h|v)，重构模型分布下的偏导函数的极限〈·〉recon之间的误差为：

Ω=〈·〉P(h|v)-〈·〉recon

(7)

将学习率更新为：

(8)

其中，λ是学习率的调整系数，而参数更新规则可改为：

(9)

(10)

(11)

其中，γ为更新过程的惯性系数，可以减少学习过程中的震动，使其更加稳定。t表示在参数更新序列中本次更新的参数，t-1则表示上次更新的参数。

2 基于DBN的空压机排气温度预测模型建立

2.1 空压机排气温度预测建模参数选取

为了建立基于DBN的空压机排气温度预测模型，需要先确定参与模型建立的具体参数。因为该空压机运行参数众多，若要降低模型的复杂程度同时降低训练量，另外为了剔除一些相关性太低的参数对模型的影响，需要对各参数与空压机排气温度的相关性进行分析，然后选取相关性较高的参数参与建模。

在一般研究中，常用Pearson相关性系数做相关性分析[11]，其计算公式为

(12)

利用一段时间的空压机正常运转数据对各项参数与空压机排气温度进行相关性分析，得到各参数的相关系数。通常情况下相关系数在1.0～0.8为极强相关，0.8～0.6则是强相关，0.6～0.4是中等相关，而0.4～0就只是弱相关到不相关。因此，取其中相关系数大于0.4的参数作为模型输入变量，最后得到7个相关性较强的参数如表1所示。

表1 参数相关性系数

2.2 基于DBN的空压机排气温度预测模型构建、训练及验证

将上面选取的7个相关性较高的运行参数作为底层的输入层，然后构建基于深度信念网络的空压机排气温度模型。深度信念网络的结构主要参数是网络层数以及每层网络的具体神经元个数。为了使模型的预测精度达到最优，需要对网络使用枚举法，以确定每个参数的最佳值。因此，在本文实验中，选取了2018年6月19日到25日的空压机运转数据作为训练集，一方面用于试验确定空压机温度模型的具体网络结构参数；另一方面用于模型参数确定后的模型训练。经过多次实验以及参考文献[12]的参数选取方法后确定了最优的模型网络结构参数，其具体结构为4层，包括底部的输入层，中间的两个隐含层以及顶部的输出层，每层具体神经元数量为7-25-5-1。

在确定了模型具体结构后，使用选取的数据集作为训练样本，对模型进行训练。随着训练周期的不断增加，模型预测结果的准确率也在增加且增长趋势逐渐变缓。最后，根据模型准确率以及训练时间成本的考虑，确定训练周期为200。之后选取2018年6月26日到30日的数据作为测试数据集，对模型进行预测准确率的具体测试。

另外，为了确定基于DBN模型的方法是否有更好的效果，分别使用基于BP神经网络、SVM算法、RBF神经网络的方法进行温度预测。最后，将基于DBN方法的结果与以上3种方法进行对比。图2和图3分别表示了4种预测方法的具体预测值以及预测残差。

图2 模型预测结果对比

图3 模型预测残差特性对比

由图2、3可以看出：在空压机的正常运转过程中，基于DBN的模型预测方法的预测值与实际值之间的距离明显小于基于BP神经网络、SVM算法、RBF神经网络的模型预测方法的预测值与实际值之间的偏离程度，基于DBN的预测方法残差明显更小。

另外，为了更直观地表现几种预测方法的预测效果，使用回归预测的3个常用评估指标平均标准误差(MAE)、平均平方误差(MSE)、平均百分比误差(MAPE)来对4种预测方法进行效果评估，对比结果如表2所示。从表2的对比结果可以看出：因BP神经网络易陷入局部极小，故预测精度较低；而SVM方法与RBF神经网络方法虽也有较高的精度，但因为基于DBN的预测方法是一种深度学习方法，能够利用深度模型提取更复杂的参数关系，因此能获得更为精确的预测结果。

3 基于排气温度预测残差分析的空压机运行异常监测

当使用以上模型预测出排气温度后要对其值是否异常进行确定，因此需要确定一个故障阈值用以监测运行过程中的异常变化。本文选取了核密度估计的方法用以确定故障阈值，其具体监测机制是在得到模型预测温度之后，才能得到预测值的残差特性，然后检查其是否超出了设定好的故障阈值。当其超出故障阈值后，就可以激发后续的一系列告警、通知、维护措施。使用核密度估计方法，可以估计一个序列分布的密度函数。本文就是通过对模型预测残差特性序列进行核密度估计从而获得其密度函数，然后根据密度函数可以得到所需的故障阈值。

表2 模型预测性能评估

因为缺少丰富详细的空压机异常运行数据，于是进行故障模拟。具体方法是通过对测试样本数据中实际的排气温度值逐个添加0.01度的累计温度偏移。该方法的目的是为了模拟排气温度异常情况中的排气温度过高以及其温度逐渐升高的过程。分别使用4种方法进行温度预测，4种方法的预测残差以及故障阈值如图4所示。

图4 残差值与故障阈值

通过图4的比较可以看出：随着排气温度实际值不断增高即模拟的故障程度不断增强，预测结果的残差值也不断变大。可以发现4种方法都检测出了异常故障的发生，但明显基于深度信念网络的方法最早达到了预设的故障阈值。因此说，基于深度信念网络的方法能够较早发现空压机运行过程中的异常情况，验证了本文所提方法是准确、有效的。

4 结束语

针对螺杆式空压机排气温度异常故障的监测，本文提出了一种基于深度信念网络的螺杆式空压机排气温度监测方法。经过实验分析模型具体参数，选取了合适的模型结构，构建了基于深度信念网络的空压机排气温度预测模型。采用核密度估计方法对空压机的故障阈值进行了设定，并利用模拟故障的方式对模型进行了对比测试。在基于BP神经网络的方法的测试中可以看出：本文提出的基于深度信念网络的方法更为高效、准确，能够准确、及时地发现空压温度异常，明显优于基于BP神经网络、SVM算法、RBF神经网络的预测方法，说明本方法性能优异、预测有效。另一方面，本方法有很好的拓展性，经过修改与优化可以进一步应用于空压机其他故障的监测与诊断，甚至可应用于与空压机类似的其他机械装置的故障监测与诊断。