LSTM-BP长短时记忆模型的设备寿命预测
2022-09-20薛缠明赵翔宇
薛缠明,赵翔宇
(太原卫星发射中心,太原 036301)
0 引言
当前形势下,设备复杂度、集成度越来越高,而整系统维护检修频率越来越低,有效的设备状态监测手段作用日益凸显。通过设备分系统信号数据的日常记录,挖掘设备器件损耗规律,实现设备的及时性维护维修,避免出现累积性设备故障显得十分重要。
随着支持向量机、BP网络、卷积神经网络等技术的发展,越来越多自适应数据驱动建模方法用于机电设备故障诊断与寿命预测过程。基于数据驱动的方法主要分为统计分析和机器学习两大类,统计学方法通过利用统计模型或随机过程模型描述设备性能退化,通过统计参数变化规律进一步分析设备问题,归结得出设备健康阶段。而机器学习的方法具有自适应性能好,无需过多地关注建模过程,利用原始监测记录数据即可实现设备的健康状态评估。循环神经网络作为机器学习中深度学习模型较为成功的方法之一,广泛应用于时间序列预测与回归过程中,在信息处理、时间序列建模、设备寿命预测等领域起到了很好的效果。
循环神经网络(RNN)的主体思想通过数据的隐藏层循环,实现序列演进方向的递归且所有节点按链式传播,结构如图1所示。
图1 循环神经网络记忆单元
其具体计算过程为
从结构和计算公式可看出,输出结果与输入和隐藏层状态有关,通过串联式的记忆单元,实现了时间序列的前后关联。
1 基本理论
1.1 LSTM网络
LSTM网络是一种用于序列预测的优化型循环神经网络模型,除了RNN中的隐藏层加入机制,同时设置了门控机制,控制前期数据的累计作用,从而实现长短记忆的作用,具体结构如图2所示,主要分为三个控制门:输入门、遗忘门、输出门,对信息进行调节。
图2 LSTM结构
1.1.1 输入门
输入门的目的在于控制时刻,输入X及短期记忆状态h经门限后保留在长期状态c的信息成分。
式中为Sigmoid函数,为Tanh函数。
1.1.2 遗忘门
控制时刻,先前长期状态c保留在当前长期状态c的信息成分。
1.1.3 输出门
控制时刻,长期状态c输出o后,保留在短期状态下的信息成分。
1.2 BP网络
BP网络仍是目前神经网络领域的基础结构,据统计80%以上的神经网络算法采用了BP网络构型变体。结构由输入层、隐藏层、输出层构成,层之间采用全连接方式,层内无连接,通过反向传播实现模型的参数矩阵迭代,基本单元输入层通过与权重的乘法、与参数的加法实现传统的线性模型,增加非线性激活函数,实现线性表达转化为非线性形式,实现更丰富的表达能力。
1.2.1 基本结构
模型的基本结构如图3所示。
图3 隐藏层50个神经元的BP结构
其基本的单元公式为
式中为激活函数,为隐藏神经元个数。
1.2.2 反向传播
反向传播作为网络模型训练的基本过程,起到了核心的作用,如何进行有效的反向迭代,根据预测值与实际值的偏差量,最终改变参数矩阵,达到二者更好的契合十分重要。反向传播的核心问题是解决度量误差,传统采用均方误差项,利用预测值与实际值的均方差度量二者的距离,公式为
而反向传播采用梯度下降方式,对每个权重值做偏导,乘以学习率得到迭代项。
1.3 LSTM-BP模型
本文的主要模型采用LSTM-BP串联模型改进单个LSTM模型参数量小,泛化性能相对较差的问题,其结构如图4所示。
图4 串联LSTM-BP模型
2 实例数据验证
为验证模型,采用目前公开使用的设备寿命数据集,NASA公开的航空发动机数据集进行验证。数据集采集了航空发动机不同运行条件下和故障模式下的4组监测数据,监测传感器21个,分别监测风扇压力比、风流量、燃料流量等状态,通过全周期的数据采集,得到数据样本,截取部分样本情况如表1所示。
从表1可得,数据传感器样本间差异较大,需要进行统一归一化运算,通过最大最小值比例归一化后数据情况如表2所示。
表1 发动机原始数据
表2 发动机归一化数据
通过归一化处理后能够明显地发现样本中存在不变量的问题,有6个传感器数据为恒定值,去除相应指标,采用15个传感器数据,train_FD001为训练数据,test_FD001为验证数据,对模型进行训练和验证。
损失误差情况如图5所示。
图5 损失误差情况
验证集中取3段值模型预测情况如图6所示。
图6 模型验证集预测情况
从数据验证情况看,模型在任取的段内,根据输入样本能够较好地预测实际情况,趋势和差值较小,模型取得了较好的效果。
3 结语
本文通过构建LSTM-BP串联型结构,实现了预测模型方法,改进了传统LSTM预测过程中参数矩阵规模小的问题,同时在航空发动机寿命预测数据上进行了实验分析,改进的LSTMBP串联模型能够通过采集原始的传感器数据对设备寿命进行较好的预测。后续在航空航天领域从设备长时间使用,维护周期长的角度出发,采用本模型对设备的健康状态进行预测,以保证设备运转正常。