一种基于长短时记忆网络的铁路变压器剩余寿命预测方法

戴明 汤浩 许坤

（1、南京恒星自动化设备有限公司，江苏 南京 211135 2、中国铁路上海局集团有限公司 南京供电段，江苏 南京 210011 3、中国铁路西安局集团有限公司，陕西 西安 710000）

1 概述

随着科技发展和生产力进步，铁路变压器日益朝着智能化、复杂化及自动化发展，并且得到广泛应用。铁路变压器一旦发生故障，维修成本高，往往造成不必要的经济损失，甚至重大事故。因此，为保障铁路变压器的安全可靠性，实现对变压器健康状态的可靠预测便显得尤为重要，即实现对铁路变压器的剩余使用寿命(Remaining useful life，RUL)预测。基于寿命预测结果提前预测设备的失效时间，进而提前安排铁路变压器维护，降低供电设备突然失效而带来的风险，提升铁路运行整体可靠性。

目前，许多学者和机构开展了铁路变压器剩余寿命预测研究，并取得了许多成果。铁路变压器寿命预测方法可分为基于物理失效机制模型和基于数据驱动模型。基于物理失效机制模型通过供电设备退化机制或失效方式构建数学退化模型，如一种基于能量参数的设备损伤缺口的退化评估模型；另一种基于无偏灰色马尔可夫链的设备性能退化。然而随着铁路变压器复杂化的发展趋势，设备的失效机制越来越复杂，此时难以建立一种明确的数学模型去描述设备的物理退化过程，因此，基于物理失效机制的模型也就很难对设备的剩余寿命做准确预测。

基于数据驱动的寿命预测方法不依赖设备的物理失效机制和专家知识，而是在基于设备性能退化数据的基础上直接识别设备的故障特征，进而对设备的剩余寿命做出准确预测。如一种基于PCA 和DNN 融合的设备微小故障早期诊断和寿命预测方法；一种基于Wiener 过程及Logistic 概率分布融合方法的设备寿命预测方法；另一种多分类概率ELMs 模型，基于sigmoid 后验概率映射和Lagrange 成对耦合法，可实现对变压器剩余寿命的准确预测。

然而上述基于机器学习的数据驱动方法无法从原始数据中直接识别故障特征，依赖信号处理及诊断专家先验知识，可能造成识别的故障特征仅适用于某些特定场合。此外，机器学习模型通常为浅层架构，仅含一个隐藏层，处理非线性问题能力有限，面临复杂的变压器故障时无法做出准确诊断及预测。而深度学习，作为机器学习领域的最新成果，采用深层网络架构，更强数据表达能力，可直接从原始数据中识别深层次抽象特征表达，为实现铁路变压器剩余寿命智能化预测提供了新思路。因此，本文提出了一种基于长短时记忆网络(LSTM)的铁路变压器剩余寿命预测方法，可直接从原始数据中识别故障特征，进而对设备剩余寿命做出准确预测。

2 基于LSTM 的铁路变压器寿命预测模型

2.1 LSTM 模型

铁路变压器监测传感器数据包括油温、油中烃类气体类型和含量、振动、油中水质量分数等多种不同类型信息，而LSTM网络可将输入的变压器的传感器数据进行一系列非线性变换，进而识别变压器深层次的故障演化趋势，基于识别的故障演变趋势对变压器的剩余寿命做出准确预测。

LSTM 是循环神经网络的一种变体，在循环神经网络基础上多了一个“门控装置”，LSTM 被提出是解决随着循环神经网络中存储的时间信息增加，而产生的梯度消失或梯度爆炸的长期依赖问题，在传统的循环神经网络结构的隐含层中加入了记忆单元来代替隐含层神经元。LSTM 网络结构图如图1 所示。

图1 LSTM 网络结构图

LSTM 的重点是在图1 中的记忆“传送带”部分，即长期记忆单元模块ct，它一直处于整个LSTM 的链式系统中，因为它自身的状态在不断更新，能够长期携带记忆信号，因而解决了RNN 中的长期依赖问题，使得时序信息可以很有效的被LSTM网络利用，使得LSTM 神经网络在时间序列预测方面有着很大的优势。

2.2 模型优化

特征缩放是压缩数据集中差异很大的特征值到较小区间的方法，一般在数据预处理流程期间使用。高铁变压器传感器信息数值范围差别很大，对LSTM 网络识别变压器故障特征产生不利影响。运用特征缩放的前提是原始数据的具体数值间的范围差异很大，在LSTM 网络算法中，使用特征缩放可加快模型收敛。

最小-最大规范化也称为最小-最大缩放，包括重新缩放特征范围以缩放为[0,1]或[-1,1]中的范围。选择目标范围取决于数据性质。将特征范围缩小为[0,1]之间的最小-最大缩放公式为：

其中x 为原始特征值，x'为规范化后的特征值。

3 实验结果分析

3.1 实验数据集

实验数据集被划分为训练子集和测试子集以及RUL 子集，每个训练子集和测试子集包含有26 列数据，第1 列ID 代表编号，第2 列cycle 是时间步，是该时间节点处于本运行周期的位置，在训练集中指整个变压器的寿命，在测试集中它是随即停在某一时间步第3-5 列指的是3 种操作设定数据，第6-26 列代表了21 种传感器数据。RUL 子集则是提供了测试子集的真实剩余寿命，用来与测试集测试结果对比。

3.2 数据预处理

实验数据集数据排列杂乱无序，不利于数据演化特征的识别，因此，需要对数据集预处理，具体过程如下：

3.2.1 删除常量值特征。数据集21 个传感器数据中，部分数据在所有时间步都保持不变，表明其对变压器剩余寿命无影响，故将其删去。

3.2.2 特征缩放训练预测变量。将训练预测变量缩放为具有零均值和单位方差。特征缩放方法采用z-score 标准化方法。

3.2.3 裁剪响应。为使模型更快从序列数据中进行训练学习，以一定阈值对响应进行裁剪。测试集数据处理完，训练集数据继续下一步。

3.2.4 准备填充数据。按照各序列的长度队训练数据进行排序，选择合适的小批量大小尽可能平均划分，减少划分训练数据后的填充量。

3.3 搭建网络模型

本文构造网络包含两个LSTM 层，第一个LSTM 层包含有200 个隐藏单元，第二个LSTM 包含50 个隐藏单元；两个Dropout 层，丢弃率设置为0.5，一个大小为50 的全连接层，一个输出大小为1 的全连接层作为网络基本模型，具体网络结构如表1。

表1 网络结构描述

3.4 模型训练

实验采用LSTM 神经网络搭建训练模型，平台为Matlab 中的Deep Learning 工具箱。模型训练参数的设定如下：Adam 优化算法，学习率0.01，训练次数60，梯度阈值1，最大迭代次数60。

3.5 模型预测

在模型预测中，采用均方根差评价指标，用来衡量预测值偏差，公式为：

其中，yi代表真实值，y^i代表预测值。

在模型预测中，为防止函数自动填充数据，指定小批量大小为1。利用训练好的模型对测试集中随机时间序列，利用每一时间节点特征值进行寿命预测，预测时不断更新网络状态。预测的最后一个元素对应于部分序列的预测RUL 随机选择一个变压器预测，其结果如图2。

图2 变压器RUL 预测结果

在图2 中，虚线为变压器随时间增加剩余寿命变化情况，直线表示处于健康状态，折线表示逐渐损坏，最后时间点所对应为测试集停止时间节点对应剩余寿命。实线表示用模型预测出的剩余寿命变化曲线。通过对比，可看出该网络模型效果较好，尤其后期，模型预测剩余寿命与实际基本一致。同时利用直方图可视化预测的均方根误差，如图3。

在图3 中，横坐标表示预测剩余寿命与测试实际的差值，纵坐标表示差值分布频率，观察可看出预测误差主要分布在±20%以内，表明预测的寿命误差较小，该模型取得了良好效果。

图3 预测误差分布

4 结论

本文提出了一种基于长短时记忆网络的铁路变压器寿命预测方法，长短时记忆网络可从油温、油中气体类型和含量、振动、油中水质量分数等不同信息中自动识别变压器故障特征以及故障演化趋势，进而对铁路变压器寿命做出实时预测，实验结果表明了本文提出方法的有效性。与传统的数据驱动方法相比，本方法无须依赖信号技术及诊断专家的先验知识，更适合于复杂环境下的应用场合。