基于ELM-SVR模型的装备关键部件寿命预测

2023-02-25范小虎赵爱罡许强葛春李瑞帅张猛刘茜萱

科学技术与工程 2023年2期

范小虎，赵爱罡，许强，葛春，李瑞帅，张猛，刘茜萱

(火箭军士官学校，青州 262500)

现代化精导武器装备中，兼有导航制导、环境感知、自主决策及毁伤评估等作战任务，主要由一些传感器、测量装置、导航装置、执行机构等关键部件组成。武器装备长时间服役时，其中各关键部件是决定武器系统寿命的主要原因，因此，研究众多关键部件的剩余寿命预测，不仅能够预估武器系统的可靠性，降低发生事故的概率，而且可为科学制订武器系统维护保养计划提供参考和依据，为科学合理地使用武器系统提供有力保障。

剩余使用寿命预测方法中，基于机器学习的数据驱动预测方法是目前行业研究的主流方向，众多学者对剩余使用寿命预测进行了深入研究。裴洪等[1]分析了基于机器学习的剩余寿命预测方法，根据机器学习模型隐层神经元的层数，分为浅层机器学习模型和深度学习模型。周俊[2]将数据驱动的预测方法细分为基于人工智能的方法、基于随机过程的方法、基于时间序列分析的方法和基于状态估计的方法，并将RUL(remaining useful life)预测方法进行融合研究。时间序列预测[3]方法主要有移动平均自回归(autoregressive integrated moving average， ARIMA)[4]模型、支持向量回归机(support vector regression， SVR)[5-6]模型、极限学习机(extreme learning machine， ELM)[7-9]模型、深度学习[10-11]模型等，一阶灰度[GM(1，1)]模型为指数模型，可描述时间序列长期的变化趋势，对局部剧烈的变化无法预测；ARIMA[12]模型可以拟合序列相邻之间的相关性，但对序列要求比较苛刻，要求序列是平稳性；SVR可以对序列核变换之后的线性关系进行描述，但是对非线性变化预测不佳；ELM[13]训练简单，对非线性变化拟合效果好，但随机参数的选择也一定程度影响了预测精度。

武器装备关键部件较多，因受环境、震动、运动等因素影响，即使属于同厂家同批次产品，其综合性能指标也可能是不同的。综合性能指标序列的平稳性、线性及变化趋势等特性均无法预知，因此无法直接使用ARIMA及GM(1，1)模型，ELM及SVR单一模型对非线性序列的预测精度不高，因此，现将ELM模型与SVR模型融合建立ELM-SVR模型，对ELM模型的神经元输出使用核函数进一步将特征映射到高维空间，提高特征的辨识度，输出拟合采用SVR[14]模型的软间隔函数，以进一步提高预测精度。

1 ELM模型

ELM相比传统的BP神经网络，将参数迭代优化过程转化为随机生成隐层网络权值和神经元偏置，线性规划问题，降低了参数优化不收敛的风险和难以调节的难度。网络结构如图 1所示。

ai，j、bj为随机生成权值和神经元偏置；βj为线性规划参数图1 ELM模型网络结构Fig.1 ELM model network structure

(1)

GβELM=Y

(2)

式(2)中：G为神经元矩阵；Y为输出向量；βELM为输出权值。其值分别为

(3)

Y=[y1y2…yN]T

(4)

βELM=[β1β2…βL]T

(5)

实际应用中，隐层神经元数量一般小于训练样本数量，即L

βELM=G†Y

(6)

式(6)中：G†为矩阵G的广义逆，为防止出现相同训练样本导致广义逆矩阵不稳定的情况，引入正则化系数λ及单位矩阵I，则网络输出权值的最小二乘解为

βELM=GT(GGT+I/λ)-1Y

(7)

2 KELM模型

为进一步提高特征的区分度，在ELM模型的基础上，使用核函数对神经元矩阵进行处理，将神经元矩阵G中的行特征，即将经过神经元激活函数映射后的特征，再次向更高维空间映射，则式(3)中神经元矩阵变为

(8)

相应的式(7)中GGT换为HHT，称为核矩阵，其表达式可写为

(9)

式(9)中：φ[f(xi)]=φ[f(a1xi+b1]，…，f(aLxi+bL)]，因为高维空间的向量内积可使用低维空间的核函数等价计算，核函数为

κ[f(xi)，f(xj)]=<φ[f(xi)]，φ[f(xj)]>

=φ[f(xi)]Tφ[f(xj)]

(10)

经过以上分析，KELM模型的输出权值计算公式为

βKELM=HT(ΩKELM+I/λ)-1Y

(11)

式(11)中：H的映射φ(·)无需确定具体形式，在预测中使用核函数替代。

KELM模型求解步骤为：①随机生成输入权值ai和隐层神经元偏置系数bi，i=1，2，…，L，选定核函数类型κ(·)；②计算隐层神经元矩阵G;③计算核矩阵ΩELM；④输出预测值计算公式为yKELMpredict={κ[f(x)，f(x1)]，…，κ[f(x)，f(xN)]}1×N×(ΩKELM+I/λ)-1Y。

3 SVR模型

h(x)=wTφ(x)+b

(12)

式(12)中：w、b为模型的系数及偏置；φ(·)为映射函数，将低维特征映射到高维空间，以便增强特征的区分度。SVR模型容许预测值h(x)与真实值yi之间存在偏差ε，预测值超出容许偏差的样本值，距离超平面距离越近精度越高，SVR最优化问题可描述为

(13)

(14)

具体求解过程中，给定嵌入维M，将时间序列生成训练样本集，给定待预测特征向量x，SVR模型求解步骤如下。

步骤1确定参数。C、ε、γ需要根据训练样本的拟合结果进行迭代选定最优参数，核函数选择RBF函数，表达式为

κ(xi，xj)=exp(-γ‖xi-xj‖2)

(15)

步骤3对新特征向量x预测。按照式(14)计算预测值。

4 ELM-SVR模型

ELM模型属于单隐层神经网络，其训练过程为：隐层神经元输入权值及偏置为随机产生，经过L个神经元激活后，输入的M维特征向量映射为L维特征向量，增加了特征维度，特征之间的区分度增强了，有利于分类和回归问题。ELM模型输出网络权值以L维特征向量为输入，以实际输出yi为响应，建立线性回归，以均方误差为优化函数，使用最小二乘法求得输出网络权值βELM。

ELM-SVR模型中特征向量映射到高维空间，将最后的线性回归模型使用SVR回归代替。即式(12)变为

h(x)=wTφ(f(x))+b

(16)

式(16)中：f(x)=[f(a1xi+b1)，…，f(aLxi+bL)]T，即经过ELM隐层神经元激活后的特征向量，优化过程是相同的，相应的预测表达式为

(17)

ELM-SVR模型使用SVR回归代替线性回归，这样处理避免了对所有训练样本计算损失，对符合预测精度的样本即偏差ε内的样本不计算损失，对拟合偏差在ε以外的样本计算损失，优化模型的参数，突出某些样本的重要性，这是支持向量的含义，在预测特征向量时，可只与支持向量计算核函数，降低了计算量，增强了模型的泛化能力。

ELM-SVR模型的训练复杂度较高，预测时间均为毫秒级。模型训练的时间复杂度与SVR相同，因为 ELM模型神经元输出的复杂度为O(nLM)，其中n为样本数量，L为神经元个数，M为嵌入维的维数，本应用中M、L一般较小，故ELM模型时间复杂度一般为O(n)。SVR典型训练算法的时间复杂度为O(N3+nN2+NnM)，其中N是支持向量的个数，n是训练集样本的个数，M是每个样本的维数。故ELM-SVR模型的训练复杂度约为O(N3+nN2)。

图2 ELM-SVR模型流程图Fig.2 ELM-SVR model flow chart

5 关键部件剩余寿命预测

某批次武器装备共有关键部件230个，在使用期间，连续执行任务，每隔15 d进行一次全面测试，结合测试数据及相应标准，最终形成综合性能指标，当指标大于0.7时，寿命终止。

如图 3所示，为230个同类关键部件综合性能指标全寿命曲线，每条曲线变化趋势相似，但局部变化不同，变化快慢差异明显，导致同批次关键部件，不同使用环境下，寿命也是不同。

图3 关键部件综合性能指标全寿命曲线Fig.3 Comprehensive performance index’s full life curve of key components

5.1 急速退化期提取

如图 4所示，随机3个关键部件的综合性能指标曲线，在曲线前半段，曲线大致在[0.1，0.3]范围内震荡，是稳定使用期阶段；在某次测试之后，指标逐渐升高，直至寿命终止，进入了急速退化期阶段；急速退化期中的曲线变化步长逐渐变大，某些测试周期会出现下降的反复现象。根据以上分析，对剩余使用寿命相关性最大的是急速退化期，所以需要对急速退化期实现自动提取，简化预测模型，对剩余使用寿命进行预测。根据综合性能指标曲线特点，如图 4所示，采用归一化曼哈顿距离最大值方法提取急速退化期，提取步骤如下。

(1)选取终点。在综合性能指标曲线上任取大于0.4的一点为终点B，坐标(xB，yB)。

LX为曲线上任一点距离起点A的水平距离(即X轴的跨度)； LY为曲线上任一点距离终点B的垂直距离(即Y轴的跨度)图4 急速退化期示意图Fig.4 Schematic diagram of rapid degeneration period

(2)计算曲线上任一点的归一化曼哈顿距离。起点为A点，坐标为(xA，yA)=(0，0.2)，点C为曲线AB中间任一点，坐标为(xC，yC)，则归一化曼哈顿距离为：

(18)

式(18)中：α为权重系数，取值一般为[0.5，0.65]。

(3)确定归一化曼哈顿距离最大的点为急速退化期起点。

如图 4所示为随机3个关键部件的综合性能指标，虚线标注的为使用曼哈顿距离最大值方法提取的急速退化期起点，可以看出能够自动捕捉曲线的拐点，急速退化期内曲线趋势走向明显，变化模式相对简单，降低了预测难度。

5.2 ELM-SVR模型预测结果

可靠性要求极高的武器装备系统长期预测不确定因素较多，一般结合定期测试数据进行短期预测。为验证预测模型的效果，将全寿命综合性能指标序列的最后两个数据作为验证数据，序列其余部分作为训练样本，对模型参数进行优化。

ELM模型参数包括：嵌入维大小、神经元数量、神经元激活函数，根据多样本拟合的经验值，神经元激活函数为sigmoid函数，嵌入维范围：[2，6]，神经元数量范围：[5，20]，每个综合性能指标搜索最佳参数。SVR模型参数采用网格化搜索机制，每个指标序列的嵌入维与对应的ELM模型一致，核函数取值为RBF函数，容许误差ε取值为[0.000 05，0.000 1，0.000 2]，参数C的取值为[0.5，1.0，5.0，10]，参数γ取值为[0.5，1.0，1.5]，在参数的组合中以拟合误差最小为准则选择最佳参数组合。KELM的核函数采用RBF函数，其余参数与对应的ELM模型一致。为对比模型预测效果，对每个指标序列进行预测时，ELM-SVR模型均采用与ELM、SVR模型一致的参数。

图5为4种模型对关键部件19、146、212急速退化期的预测结果对比图，从图5可以看出，4种预测模型均能够拟合曲线的变化趋势，但在局部剧烈变化处，4种模型拟合均存在滞后现象，在曲线平稳段误差较小，影响剩余使用寿命的最后两个数据一般变化比较平缓，预测精度较高。4种模型对比，关注最后两个预测数据，特别是图5(b)和图5(c)中，ELM-SVR预测精度最高，其次为KELM模型，ELM与SVR模型在图5(b)中预测值与真值误差较大。

图6为ELM-SVR模型对多个关键部件综合性能指标序列的拟合、预测曲线，黑色为样本真值，红、绿、蓝色曲线为ELM-SVR模型的拟合、预测曲线(后两个数据为预测值)。可以看出在达寿指标0.7附近曲线变化较为平缓，ELM-SVR模型预测精度比较高，未影响剩余使用寿命的预测精度。

图5 4种模型对某些部件的预测结果对比Fig.5 Comparison of the prediction results of the four models for certain parts

图6 ELM-SVR模型的预测结果Fig.6 Prediction results of ELM-SVR model

在230个关键部件综合性能指标的拟合与预测中，与ELM、SVR、KELM模型相比，拟合精度分别提高了30.61%、20.93%、5.56%，预测精度分别提高了57.14%、44.44%、11.76%。ELM-SVR对多个关键部件综合性能指标序列的拟合、预测精度比较一致，表明ELM-SVR模型具有一定的鲁棒性。

5.3 不同模型预测性能对比

图7为4种模型对230个关键部件综合性能指标序列的预测相对平均误差。ELM模型与SVR模型的相对平均误差较大，KELM模型与ELM-SVR模型预测相对误差较小，均处于点图的下方，ELM-SVR预测相对平均误差更为集中，对全部关键部件预测相对平均误差集中在0.02以下，表明了ELM-SVR模型的鲁棒性。

图8为4种模型对达寿时综合性能指标的预测对比，即对样本序列最后一个值的预测。从图8可以看出，黑色曲线的SVR模型比真值偏大，蓝色曲线的ELM比真值偏小，KELM模型预测值比真值稍大，ELM-SVR模型预测值与真值最为接近。

对于序列末位达不到0.7的，继续逐步预测，直至末位数据大于0.7为止。计算样本真值、4种模型预测序列综合性能指标大于0.7时的检测次数，次数减1即为测试次数，使用寿命计算公式为

S(i)={j-1|xi，j≥0.7}×15，i∈[1，237]

(19)

式(19)中：S(i)为对应关键部件的使用寿命；xi，j为第i个序列的第j次测量的综合性能指标。

绿色为样本真值图7 4种模型的预测相对平均误差对比Fig.7 Comparison of the relative mean error of prediction of the four models

图8 4种模型达寿指标对比Fig.8 Comparison of life expectancy indicators of four models

表1 4种模型对综合性能指标、寿命预测的相对平均误差Table 1 Relative average error of four models for comprehensive performance index and RUL prediction

表1为4种模型对综合性能指标拟合与预测的相对平均误差，最终使用寿命预测的相对误差，ELM-SVR模型在3种对比项目中均为最优。ELM-SVR模型将输入特征两次向高维空间映射，设置容许误差，只对偏离回归值较大的支持向量计算损失函数，这种组合模型与ELM、SVR、KELM模型相比，能够显著提高拟合与预测精度，实验仿真验证了ELM-SVR模型的泛化能力与鲁棒性。