APP下载

循环神经网络在剩余使用寿命预测中的应用综述

2024-01-27邱佩臻

现代信息科技 2023年24期

吴东燃  夏艺  王婧  古书怀

摘  要:准确的剩余使用寿命预测对于提高工业设备及复杂系统的使用价值、降低设备生命周期成本具有重要意义。循环神经网络具有时间维度上的记忆性且能够参数共享,比较适用于剩余使用寿命预测。文章基于循环神经网络对剩余使用寿命预测展开深入的研究,将搜集文献法分为三种:基于单一循环神经网络的预测方法,以循环神经网络为主、以其他神经网络为辅的混合网络预测方法,以及循环神经网络与其他算法相结合的预测方法。最后,文章从鲁棒性研究、泛化性研究和优化预测模型三个方面提出了下一步的研究建议。

关键词:循环神经网络;长短时记忆网络;门控循环单位;预测性维护;剩余使用寿命

中图分类号:TP18    文献标识码:A  文章编号:2096-4706(2023)24-0061-06

Review on the Application of Recurrent Neural Networks in the Prediction of Remaining Service Life

QIU Peizhen, WU Dongran, XIA Yi, WANG Jing, GU Shuhuai

(School of Data Science and Engineering, South China Normal University, Guangzhou  510631, China)

Abstract: Accurate prediction of remaining service life is of great significance for improving the using value of industrial equipment and complex systems, and reducing equipment lifecycle costs. Recurrent neural networks have memory in the time dimension and can share parameters, making them more suitable for predicting remaining service life. This paper conducts in-depth research on the prediction of remaining service life based on recurrent neural networks. The literature collection methods are divided into three types: prediction methods based on a single recurrent neural network, hybrid network prediction methods mainly based on recurrent neural networks and supplemented by other neural networks, and prediction methods combining recurrent neural networks with other algorithms. Finally, it proposes further research recommendations from three aspects: robustness research, generalization research, and optimization of prediction models.

Keywords: recurrent neural network; Long Short-Term Memory; gate recurrent unit; predictive maintenance; remaining service life

0  引  言

剩余使用壽命(Remaining Useful Life, RUL)是指从当前时间点到产品使用寿命结束之间的时间段[1]。RUL预测是预测性维护(Predictive Maintenance)[1]最重要的组成部分。准确的RUL预测有助于将计划维护转向预测性维护,有效减少维护成本和避免因重大设备故障带来的灾难性后果。

在RUL预测中,需要建立性能良好、稳定可靠的模型,对设备状态进行准确的辨识和预测。经过多年的研究和探索,神经网络在RUL预测领域展现出强大的优势。基于神经网络的RUL预测方法旨在以原始测量数据或基于原始测量数据提取的特征作为神经网络的输入,通过一定的训练算法不断调整网络的结构和参数,利用优化后的网络在线预测设备的剩余使用寿命,预测过程中无须提供任何先验信息,完全基于监测数据得到预测结果。

循环神经网络(Recurrent Neural Network, RNN)是一类以序列数据为输入,在序列的演进方向上进行递归,且其所有节点(循环单元)均以链式进行连接的递归神经网络[2]。不同于传统神经网络,RNN允许信息持续存在,它能挖掘数据中的时序信息和语义信息,在处理连续时间序列数据方面具有很高的效率。时序数据是一种随时间变化的数据,可在一定程度上反映出设备在不同时间点的运行情况。在RUL预测中,大多数设备传感器数据本质上是时序数据,可用于识别设备性能的退化趋势和潜在问题,从而对设备进行预测性维护。

本文所讨论的RNN是广义上的RNN,包括最基本的RNN,以及在RNN的基础上进行改进得到的多种变体,如常用的长短期记忆神经网络(LSTM)、双向长短时记忆网络(BiLSTM)、门控循环单元(GRU)等[2]。这些变体的特殊结构弥补了RNN的不足,可以帮助提高RUL预测的效率和准确性。

在实际的工业生产中,采用RNN进行RUL预测的过程中常常会遇到模型参数众多、训练复杂度较高,需要消耗大量时间和计算资源进行训练的问题。因此,将优化算法与RNN模型相结合,可以有效地优化RNN模型,提高其性能和训练效率。常见的优化算法包括梯度下降法(GD)、随机梯度下降法(SGD)、遗传算法(GA)和粒子群算法(PSO)等[3]。优化算法可以优化RNN模型的权重和偏置参数,逐渐提高模型的精度和泛化能力。优化算法和RNN相结合的方法逐渐成为机器学习领域极为重要的方法,在许多领域广被采用。

本文作者在中国知网、IEEE、SCIENCEDIRECT、SCI和ACM Digital Library等数据库中进行了两组关键词(领域关键词和技术关键词)的搜索。前者包括“RUL”,后者包括“RNN”“LSTM”“GRU”。从2017年至今,根据相关程度筛选出42篇论文(不包括综述)。截至2023年2月,已有多篇论文回顾了与RUL预测相关的主题。文献[4]侧重点为轴承故障分类和基于机器学习的RUL预测技术。文献[5]侧重点为RNN方法在机械故障诊断中的研究现状。现有综述多是论述机器学习方面的内容,范围较广。而对擅于处理有时间序列特征的数据的RNN在RUL预测中的应用,暂无相关综述。为填补这一空白,本文将主要基于RNN对RUL的预测展开深入研究,将所有涉及RNN在RUL预测领域的文献进行统计与筛选,挑选出代表性论文进行综述。最后从鲁棒性研究、泛化性研究、优化预测模型三个方面对RNN在RUL预测中的应用进行了展望。

1  基于单一RNN的预测方法

1.1  基于LSTM的RUL预测方法

有学者定量评估各种最先进的RNN结构对RUL预测性能的影响,证明了变体方法比原RNN的性能更好[6]。而LSTM[2]作为最常见和最著名的RNN变体之一,经常被学者应用于RUL预测中。在飞机涡扇发动机[7]、滚动轴承[8]和传感器[9]等设备数据的RUL预测应用中均取得了不错的效果。图1为LSTM的结构图,由遗忘门、输入门和输出门组成。遗忘门决定丢弃上一状态的哪些信息;输入门决定在此刻的单元格状态中存储哪些新信息;输出门决定要输出何种信息,用来控制单元状态ct的内容传递到输出值ht的比例。

单向LSTM存在只能沿着时间轴向前传递信息的局限性,而BiLSTM可以双向传递信息,从而可以更好地捕捉时间序列数据中的相关性,成为学者研究的热点[10]。

当传统的LSTM不能满足要求时,学者往往通过改进LSTM来达到理想结果,基于权值放大的长短期记忆神经网络(WA-LSTM)就是其中的一种[11]。WA-LSTM通过对不同时间步的权重进行加权放大,提高了预测准确率。多细胞LSTM(MCLSTM)也是其中一种改进的LSTM模型[12]。MCLSTM可以在每个时间步骤上使用多个LSTM单元来学习不同的特征,这使得它可以增强网络的表示能力。

当单个LSTM不能满足实际生产的要求时,可以将堆叠LSTM(S-LSTM)投入到应用中[13]。S-LSTM可以更好地学习和捕捉时间序列数据中的长期依赖关系,减少过拟合的风险。

1.2  基于GRU的RUL预测方法

GRU[2]的结构比LSTM简单,参数也较少,且不需要像LSTM那样存储多个状态,因此GRU的计算效率相对LSTM来说更高,也更适合短序列。图2为GRU的结构图,它在LSTM模型的基础上进行了改进,将遗忘门和输入门合并成更新门,同时将状态单元与隐藏层合并成重置门。研究人员将GRU用于RUL预测中,取得了不错的成效[14]。

在传统GRU的基础上,研究人员提出了增强记忆门控循环单元(RMGRU)网络,与传统的GRU相比,RMGRU在处理长序列或长时间记忆的任务上具有优势,且能够更好地泛化到不同的任务上。将RMGRU用在RUL预测中也能取得不错的成果[15]。

单向GRU只能考虑过去的信息,而BGRU可以同时考虑过去和未来的信息。这使得BGRU能够更好地处理输入序列中的复杂模式,成为RUL预测领域的研究热点[16]。

LSTM的记忆单元可以更好地捕捉长期依赖关系,而GRU的门控单元可以更好地控制信息流的开关,将GRU和LSTM结合在一起可以充分利用它们各自的优点,得到更好的泛化能力和计算效率[17]。

2  以RNN为主的混合网络预测方法

2.1  RNN与CNN结合模型

卷积神经网络(CNN)具有较强的分类能力,能夠处理高维数据,适用于多维信息的处理,且CNN可以捕捉局部特征,可以用于检测信号中的局部特征。图3为CNN结构图,由卷积层、池化层和全连接层组成。卷积层对输入数据进行特征提取,池化层进行特征选择和信息过滤,全连接层将特征图展开为向量,然后进行分类或回归。将LSTM和CNN结合可以同时捕捉全局特征和局部特征,从而提高了预测的准确性。在RUL预测研究中,学者结合使用CNN和LSTM来提取特征[18]。通常,学者使用CNN提取特征,然后将CNN提取的信息作为LSTM的补充,将LSTM和CNN有机地结合增强预测能力[19]。

为了突破单向LSTM的局限,学者也常将BiLSTM与CNN结合应用于RUL预测中,让CNN提取空间特征,BiLSTM提取时间特征[20]。

与LSTM相比,GRU在处理长序列时具有更高的效率,并且可以更好地处理高维数据,因此有些学者也将CNN与GRU结合应用于RUL领域[21]。

在实际生产中,面对不同特征的数据,也可以将RNN与CNN再结合其他结构,以达到更好的效果。由于多时间窗口集成框架可以利用不同时间尺度的信息来提高预测精度和鲁棒性,有学者将其用于准确预测状态监测数据的长度存在高度不一致情况下的RUL[22]。多尺度卷积神经网络(MSCNN)是一种用于图像处理的深度学习模型,可以同时处理不同尺度的特征,并从中提取更加丰富的信息,因此也有学者将其应用在RUL预测中[23]。

2.2  RNN与自动编码器结合模型

自编码器(Auto-Encoders, AE)是一种神经网络模型,由编码器和解码器两个主要组件组成,图4为自编码器的结构图。AE可以有效地实现信息降噪,做到在不同维度上进行特征提取。研究人员将AE和RNN结合起来进行RUL预测,将它们结合起来,可以利用RNN的序列建模能力对序列数据进行编码和解码,使得AE能够处理序列数据,降低过拟合风险[24]。

在此基础上,研究人员将LSTM与自编码器相结合,通过AE的降噪和特征提取来提高LSTM的稳定性和鲁棒性,从而缓解模型的过拟合和欠拟合问题[25]。当需要通过双向處理来捕捉数据的前后文关系时,也可以将AE和BiLSTM相结合[26]。BiLSTM作为时态建模工具,捕捉特征之间的双向长程依赖关系。

此外,研究人员还将GRU和AE进行了结合。AE可以通过学习数据的特征表示来提取数据的有用信息,而GRU可以通过门控机制来捕捉数据的动态变化,二者相得益彰[27]。

除了传统的AE,研究人员还将AE的变体和RNN及其变体相结合,以达到更好的效果,卷积自编码器(CAE)就是其中的一种。研究人员将CAE与RNN及其变体进行结合,用于RUL预测中[28]。与传统的AE不同,CAE使用卷积层代替全连接层,能够提取更深层次的特征。

变分自编码器(VAE)也是自动编码器的一个变种,与标准AE不同的是,VAE具有概率解释,其编码器输出的是潜在空间的概率分布,而不是单个编码向量。学者将其应用于RUL预测,也取得了不错的效果[29]。

2.3  RNN与注意力机制结合模型

注意力机制[30]是一种可以增强神经网络模型对输入数据关注度的结构,可以在计算能力有限的情况下,过滤掉重要程度较低的信息,将计算资源分配到主要信息处理,提高当前任务中关键工作的效能。研究人员常将注意力机制与LSTM结合应用在RUL预测中[31]。

BiLSTM对较长序列的处理能力仍有不足。而将注意机制与BiLSTM集成,能够选择性地处理部分信息,模型可以更加精确地选择需要关注的部分[32]。注意力机制常常与优化算法相结合,以达到最优效果。PSO即为一种常见的算法,是学者研究的热点[33]。

在实际的工业应用中,研究人员为了网络能够更好地关注输入信息中的属性,提高序列建模和预测的准确性,对注意力机制进行了改进,属性关注LSTM神经网络就是其中的一种[34]。

2.4  RNN与其他结构的结合

除了以上三种结构与RNN的结合以外,研究人员也尝试将其他结构与RNN相结合,在应用中同样取得了显著的效果,DenseNet网络就是其中的一种[35]。DenseNet网络可以“拓宽”模型每一层的过滤器,同时学习更少的参数,表现出优异的性能。有向无环图(DAG)能够建模多种复杂的关系,与RNN结合则可以更好地建模多个时间步之间的依赖关系,提高模型的预测准确度,成为研究人员的研究方向之一[36]。

3  RNN与其他算法相结合的预测方法

由于数据复杂性和噪声的存在,RNN难以准确捕捉到序列数据中的关键特征。而在RNN前进行特征提取,可以对原始数据进行一些变换和处理,从而提取出更加抽象和高层次的特征,下面是RUL预测应用中在RNN前常用的几种特征提取方法:

1)主成分分析(PCA)。主成分分析是一种常用的数据降维和特征提取方法,它能够将高维度的数据转换为低维度的数据。因此学者们常将其用于去除指标数据冗余、降低数据的复杂度[37]。PCA常用于数据的线性降维,而核主成分分析(KPCA)可实现数据的非线性降维,用于非线性特征提取[38]。Akpudo等[39]也提出了用于退化评估的KPCA特征融合技术。概率主成分分析(PPCA)是PCA的一种升级,通过引入概率来降低原始数据的维数[40]。

2)经验模态分解(EMD)。经验模态分解是一种信号处理方法,能够自适应地将信号分解为若干个具有明确物理意义的成分,使得信号的特征更加明显,便于后续处理。学者们常采用EMD对数据进行降噪处理[41]。遇到数据量较小、难以精确描述的数据(即只有几个数据点)时,研究人员经常会使用灰色关联分析法来解决这些问题[42]。灰色关联分析(GRA)是一种基于灰色系统理论的分析方法,用于研究多个因素之间的关系和影响。

3)聚类。聚类是一种无监督学习方法,其基本思想是对原始数据样本进行聚类,然后使用新的特征向量——聚类中心来表示每个数据样本。通过这种方式,可以将高维的原始数据样本转换成低维的聚类中心,从而减少特征维度,提取出更加有效的特征,方便后续模型训练和分类任务的开展。因此学者们常采用聚类方法进行数据预处理[17]。

RNN的训练和调参往往需要大量的时间和资源。为了解决这一问题,人们提出了很多算法来优化神经网络的参数。Dropout是一种用于防止过拟合的正则化技术,常被学者用于避免过拟合和梯度消失现象的发生。Adam算法是一种常用的SGD优化算法,具有自适应学习率和可靠性等优点,可以提高RUL预测的准确度[43]。此外,还采用粒子滤波(PF)算法对模型参数进行跟踪,采用GA来优化权重和偏置等参数[44]。PSO的收敛速度和精度均优于GA,因此前者也可以用于优化模型超参数[45]。

自适应是指系统或算法能够自主地调整自身的行为、参数或结构,能够提高模型的泛化能力和准确率,应用领域越来越广泛,在RUL领域也成为研究热点。学者使用不同的算法来实现模型自适应,其中有自适应Levy飞行算法[46]、弹性均方反向传播方法[47]等。

4)多网格搜索(MLGS)。多网格搜索是一种模型参数优化算法,它可以在较短的时间内快速找到最优的模型参数。学者将其用于对模型参数进行优化,也取得了不错的效果[37]。

除了上述算法,研究人員还将其他优化算法用于优化RNN参数上。实际运用中可以根据工业生产的需要选择合适的算法。

4  结  论

准确的RUL预测有助于将计划性维护转变为预测性维护,有效减少维护成本并避免重大设备故障带来的灾难性后果。在RUL预测的应用中,往往需要使用传感器收集有时间序列特征的数据。随着RNN算法的改进、高效算力、与其他模型的结合以及基准数据集等多方面的推进,剩余使用寿命预测领域的鲁棒性研究、泛化性研究和优化预测模型将会取得新的突破。

鲁棒性要求预测方法和学习模型对于含有微小扰动的不确定因素不敏感,可以从数据预处理、自适应处理、特征提取、置信区间、优化器等方面入手,改进未来的学习模型,从而提升或加强鲁棒性能力。针对RUL预测算法中数据库庞大、特殊性显著、RNN模型中参数众多等问题,提出迁移学习、对模型进行预训练、堆叠集成基础模型、分布式优化等深度学习方法,利用优化算法对超参数和超结构进行改进,最终得到具有较强泛化性的剩余使用寿命预测方法。为加强对工业设备和复杂系统运行状态特征与故障机理的研究,将RNN与其他方法及模型相结合,构建更为精确的RUL预测混合模型。

参考文献:

[1] 王加昌,郑代威,唐雷,等.基于机器学习的剩余使用寿命预测实证研究 [J].计算机科学,2022,49(S2):937-945.

[2] 杨丽,吴雨茜,王俊丽,等.循环神经网络研究综述 [J].计算机应用,2018,38(S2):1-6+26.

[3] 丹·西蒙.进化优化算法——基于仿生和种群的计算机智能方法 [M].北京:清华大学出版社,2018:364-387.

[4] SCHWENDEMANN S,AMJAD Z,SIKORA A. A survey of machine-learning techniques for condition monitoring and predictive maintenance of bearings in grinding machines [J/OL].Computers in Industry,2021,125[2023-03-05].https://doi.org/10.1016/j.compind.2020.103380.

[5] ZHU J J,JIANG Q S,SHEN Y H,et al. Application of recurrent neural network to mechanical fault diagnosis: a review [J].Journal of Mechanical Science and Technology,2022,36(2):527-542.

[6] WANG Y D,ZHAO Y F,ADDEPALLI S. Practical Options for Adopting Recurrent Neural Network and Its Variants on Remaining Useful Life Prediction [J].Chinese Journal of Mechanical Engineering,2021,34(3):32-51.

[7] WU Q H,DING K Q,HUANG B Q. Approach for fault prognosis using recurrent neural network [J].Journal of Intelligent Manufacturing,2018,31(7):1-13.

[8] WANG F T,LIU X F,DENG G,et al. Remaining Life Prediction Method for Rolling Bearing Based on the Long Short-Term Memory Network [J].Neural Processing Letters,2019,50(2):2437-2454.

[9] ZHENG S,RISTOVSKI K,FARAHAT A,et al. Long Short-Term Memory Network for Remaining Useful Life estimation [C]//2017 IEEE International Conference on Prognostics and Health Management (ICPHM). Dallas:IEEE,2017:88-95.

[10] ZHANG N,CHEN E,WU Y,et al. A novel hybrid model integrating residual structure and bi-directional long short-term memory network for tool wear monitoring [J].The International Journal of Advanced Manufacturing Technology,2022,120:6707-6722.

[11] XIANG S,QIN Y,ZHU C C,et al. Long short-term memory neural network with weight amplification and its application into gear remaining useful life prediction [J/OL].Engineering Applications of Artificial Intelligence,2020,91[2023-03-16].https://doi.org/10.1016/j.engappai.2020.103587.

[12] XIANG S,QIN Y,LUO J,et al. Multicellular LSTM-based deep learning model for aero-engine remaining useful life prediction [J/OL].Reliability Engineering & System Safety,2021,216[2023-03-05].https://doi.org/10.1016/j.ress.2021.107927.

[13] WANG F K,CHENG X B,HSIAO K C. Stacked long short-term memory model for proton exchange membrane fuel cell systems degradation [J/OL].Journal of Power Sources,2020,448[2023-02-30].https://doi.org/10.1016/j.jpowsour.2019.227591.

[14] MENG W,GU H R,YE M,et al. Remaining useful life prediction of lithium-ion batteries based on Monte Carlo Dropout and gated recurrent unit [J].Energy Reports,2021,7:2862-2871.

[15] ZHOU J H,QIN Y,CHEN D L,et al. Remaining useful life prediction of bearings by a new reinforced memory GRU network [J/OL].Advanced Engineering Informatics,2022,53[2023-02-49].https://doi.org/10.1016/j.aei.2022.101682.

[16] CAO Y D,JIA M P,PENG D,et al. Transfer learning for remaining useful life prediction of multi-conditions bearings based on bidirectional-GRU network [J/OL].Measurement,2021,178[2023-03-06].https://doi.org/10.1016/j.measurement.2021.109287, 109287.

[17] CHENG Y W,HU K,WU J,et al. A deep learning-based two-stage prognostic approach for remaining useful life of rolling bearing [J].Applied Intelligence,2022,52:5880-5895.

[18] FU H B,LIU Y. A deep learning-based approach for electrical equipment remaining useful life prediction [J/OL].Autonomous Intelligent Systems,2022,2[2023-03-19].https://kns.cnki.net/kcms2/article/abstract?v=LeQIq0pPraN7z56UFBXYmp5cqSpFXzXCsduiAbZweC6AiaAe9bGL9LzNdXaWc0vxw5WmGgOQvKSX3wAFVtwoVAD_d4l6hENPBImbedExGKt5s7RaxKDrjjIbg0JF7L0g&uniplatform=NZKPT.

[19] ZAHRA E,KARIM S,BEHNAM F ,et al. A New Hybrid Model for RUL Prediction through Machine Learning [J].Journal of Failure Analysis and Prevention,2021,21(5):1596-1604.

[20] REMADNA L,TERRISSA S L,ZERHOUNI R,et al. Leveraging the Power of the Combination of CNN and Bi-Directional LSTM Networks for Aircraft Engine RUL Estimation [C]//2020 Prognostics and Health Management Conference (PHM-Besan?on).Besancon:IEEE,2020:116-121.

[21] LIN T J,WANG H Q,GUO X D,et al. A novel prediction network for remaining useful life of rotating machinery [J/OL].The International Journal of Advanced Manufacturing Technology,2022,124[2023-03-10].https://kns.cnki.net/kcms2/article/abstract?v=LeQIq0pPraN7z56UFBXYmp5cqSpFXzXCPHl8LWp24vGzfSOscJcbBv7wpRx0XxRD6HLYF_JyJgLJNT7XBh55pplc2LW7ZgwSP1USf1VfmT71_j82ea-sascRGw7yvuHc&uniplatform=NZKPT.

[22] XIA T B,SONG Y,ZHENG Y,et al. An ensemble framework based on convolutional bi-directional LSTM with multiple time windows for remaining useful life estimation [J/OL].Computers in Industry,2020,115[2023-02-06].https://doi.org/10.1016/j.compind.2019.103182.

[23] XUE B,XU Z B,HUANG X,et al. Data-driven prognostics method for turbofan engine degradation using hybrid deep neural network [J].Journal of Mechanical Science and Technology,2021,35(12):5371-5387.

[24] HAN T,PANG J C,TAN A C C. Remaining useful life prediction of bearing based on stacked autoencoder and recurrent neural network [J].Journal of Manufacturing Systems,2021,61:576-591.

[25] WU J Y,WU M,CHEN Z H,et al. Degradation-Aware Remaining Useful Life Prediction With LSTM Autoencoder [J/OL].IEEE Transactions on Instrumentation and Measurement,2021,70[2023-02-26].https://kns.cnki.net/kcms2/article/abstract?v=LeQIq0pPraN7z56UFBXYmp5cqSpFXzXCPHl8LWp24vFLK16mbsfnDlFjy8cp6CvMNi4staAhHYFmmmOQ9D09gJTL4GdpWA8qxXjmb-Yy2pDfEWvHjZfG3ES_xXl5Hcre&uniplatform=NZKPT.

[26] SONG Y,SHI G,CHEN L Y,et al. Remaining Useful Life Prediction of Turbofan Engine Using Hybrid Model Based on Autoencoder and Bidirectional Long Short-Term Memory [J].Journal of Shanghai Jiaotong University (Science),2018,23(S1):85-94.

[27] DANGUT M D,JENNIONS L K,KING S,et al. A rare failure detection model for aircraft predictive maintenance using a deep hybrid learning approach [J].Neural Computing and Applications,2022,35(4):2991-3009.

[28] WANG H,PENG M J,MIAO Z,et al. Remaining useful life prediction techniques for electric valves based on convolution auto encoder and long short term memory [J].ISA Transactions,2021,108:333-342.

[29] SU C,LI L,WEN Z J. Remaining useful life prediction via a variational autoencoder and a time-window-based sequence neural network [J].Quality and Reliability Engineering International,2020,36(5):1639-1656.

[30] KOSIOREK A.神經网络中的注意力机制 [J].机器人产业,2017(6):12-17.

[31] TSENG S H,TRAN K D. Predicting maintenance through an attention long short-term memory projected model [EB/OL].[2023-03-07].https://doi.org/10.1007/s10845-023-02077-5.

[32] SHAH S R B,CHADHA G S,SCHWUNG A,et al. A Sequence-to-Sequence Approach for Remaining Useful Lifetime Estimation Using Attention-augmented Bidirectional LSTM [J/OL].Intelligent Systems with Applications,2021,10-11[2023-02-23].https://doi.org/10.1016/j.iswa.2021.200049.

[33] RATHORE M S,HARSHA S P. Prognostics Analysis of Rolling Bearing Based on Bi-Directional LSTM and Attention Mechanism [J].Journal of Failure Analysis and Prevention,2022,22(2):704-723.

[34] JIANG Y C,DAI P W,FANG P C,et al. A2-LSTM for predictive maintenance of industrial equipment based on machine learning [J/OL].Computers & Industrial Engineering,2022,172[2023-03-09].https://doi.org/10.1016/j.cie.2022.108560.

[35] LIU X L,ZHANG B W,LI X B,et al. An approach for tool wear prediction using customized DenseNet and GRU integrated model based on multi-sensor feature fusion [J].Journal of Intelligent Manufacturing,2022,34(2):885-902.

[36] LI J L,LI X Y,HE D. A Directed Acyclic Graph Network Combined With CNN and LSTM for Remaining Useful Life Prediction [J].IEEE Access,2019,7:75464-75475.

[37] 黄扣.基于深度学习的旋转类机械预测性维护方法研究 [D].镇江:江苏科技大学,2022.

[38] CHEN J L,JING H J,CHANG Y H,et al. Gated recurrent unit based recurrent neural network for remaining useful life prediction of nonlinear deterioration process [J].Reliability Engineering & System Safety,2019,185:372-382.

[39] AKPUDO U E,HUR J W. A feature fusion-based prognostics approach for rolling element bearings [J].Journal of Mechanical Science and Technology,2020,34(10):4025-4035.

[40] SUN H,LI Y,HOU Y. Remaining Useful Life Prediction of Turbofan Engine Based on Probabilistic Principal Components Analysis and Gated Recurrent Unit[C]// 2021 CAA Symposium on Fault Detection, Supervision, and Safety for Technical Processes (SAFEPROCESS). Chengdu:IEEE,2021:1-5.

[41] LI X Y,ZHANG L,WANG Z P,et al. Remaining useful life prediction for lithium-ion batteries based on a hybrid model combining the long short-term memory and Elman neural networks [J].Journal of Energy Storage,2019,21:510-518.

[42] MENG W,GU H R,YE M,et al. Remaining useful life prediction of lithiumion batteries based on Monte Carlo Dropout and gated recurrent unit [J].Energy Reports,2021,7:2862-2871.

[43] ZHOU Y T,HUANG Y N,PANG J B,et al. Remaining useful life prediction for supercapacitor based on long short-term memory neural network [J/OL].Journal of Power Sources,2019,440[2023-03-16].https://doi.org/10.1016/j.jpowsour.2019.227149.

[44] GE Y,SUN L N,MA J X. An Improved PF Remaining Useful Life Prediction Method Based on Quantum Genetics and LSTM [J].IEEE Access,2019,7:160241-160247.

[45] DING N,LI H L,YIN Z W, et al. Journal bearing seizure degradation assessment and remaining useful life prediction based on long short-term memory neural network [J/OL].Measurement,2020,166[2023-02-29].https://doi.org/10.1016/j.measurement.2020.108215.

[46] ZHANG Y,CHEN L,LI Y,et al. A hybrid approach for remaining useful life prediction of lithiumion battery with Adaptive Levy Flight optimized Particle Filter and Long Short-Term Memory network [J/OL].Journal of Energy Storage,2021,44[2023-03-14].https://doi.org/10.1016/j.est.2021.103245.

[47] ZHANG Y,XIONG R,HE H,et al. A LSTM-RNN method for the lithuim-ion battery remaining useful life prediction [C]//2017 Prognostics and System Health Management Conference (PHM-Harbin). Harbin:IEEE,2017:1-4.

作者簡介:邱佩臻(2003—),女,汉族,广东阳江人,本科在读,主要研究方向:预测性维护;吴东燃(2002—),男,汉族,广东茂名人,本科在读,主要研究方向:用机器学习与优化算法实现系统健康检测与预测性维护;夏艺(2003—),女,汉族,湖南益阳人,本科在读,主要研究方向:用机器学习与优化算法实现系统健康检测与预测性维护;古书怀(2003—),男,汉族,广东河源人,本科在读,主要研究方向:预测性维护;王婧(1988—),女,汉族,甘肃兰州人,助理研究员,博士,主要研究方向:系统优化、系统可靠性、机器学习。