基于集成ELM模型的航空发动机性能参数预测
2017-06-05徐建新侯振华
徐建新,侯振华
(中国民航大学航空工程学院,天津 300300)
基于集成ELM模型的航空发动机性能参数预测
徐建新,侯振华
(中国民航大学航空工程学院,天津 300300)
为预测航空发动机性能参数,提出了一种动态集成极端学习机模型。采用AdaBoost.RT集成算法对极端学习机(ELM)进行集成,并针对AdaBoost.RT集成算法中固定阈值的局限性,采用自适应动态调整阈值的方法来提高预测精度。通过比较前后两次迭代的均方根误差(RMSE)的大小,对阈值进行调整。最后,以排气温度裕度为预测参数,使用动态集成ELM模型对其进行预测,并与单一ELM模型和原始集成ELM模型进行比较。结果表明:改进模型的预测结果好于其他模型,更适合航空发动机性能参数预测。
航空发动机;性能参数;预测;AdaBoost.RT;极端学习机
航空发动机长年工作在高温、高压及高载荷的环境下,其性能会随着飞行循环的累积而逐渐衰退。如果能准确掌握发动机的性能衰退规律,将会为航空公司制定科学、有效的维修方案提供极大的科学依据,这对于航空公司降低维修成本、提高市场竞争力具有重大意义。
在目前的发动机性能分析中,气路参数分析仍是一种重要方法。尽管航空发动机具有多个性能监测参数,但排气温度裕度(EGTM,exhaust gas temperature margin)是最能反映发动机运行状态的性能参数之一。对连续航班的EGTM参数进行预测分析,有助于判断航空发动机的后续工作性能。目前,人工神经网络(ANN,artificial neural network)由于其良好的非线性预测能力而被广泛应用到航空发动机性能参数的预测中[1-2]。然而,基于ANN的预测模型存在网络参数难以确定、极易陷入局部最优等问题。
为解决单一ANN建模存在的问题,文献[3]证明可将多个次优的弱学习机通过集成算法得到效果优越的强学习机。其中研究最多且前景良好的集成算法有Boosting和Bagging及其衍生算法。因此,本文采用一种针对回归问题设计的AdaBoost.RT集成算法,相对于ANN模型参数设置较松弛,该模型的预测精度明显高于单一ANN模型[4]。考虑到极端学习机学习速度快、泛化性能好等优点,采用其作为弱学习机组建集成预测模型并且采用自适应动态阈值代替Ada-Boost.RT集成算法中的固定阈值。将该方法运用到航空发动机的性能参数预测,取得了比较满意的结果。
1 ELM算法
近年来,Huang等[5]针对单隐层前馈神经网络(SLFNs,single-hidden layer feedforward neural networks)常见算法中存在的问题提出了ELM算法。在ELM算法中,可以任意给定输入权值和隐层神经元的激励阈值,并计算得到输出权值,因此,ELM并不需要复杂冗长的迭代过程便可直接得到最优解。
设有N个样本(xi,ti),其中
其中:wi=[wi1,wi2,…,win]T表示连接隐层第i个神经元与输入层神经元的权向量;βi=[βi1,βi2,…,βim]T表示连接隐层的i个神经元与输出层神经元的权向量;oj= [oj1,oj2,…,ojm]T为SLFNs的输出向量;bi表示隐层第i个神经元的阈值。若此SLFNs能以0误差逼近上述N个样本,则可表示为,利用矩阵的形式表示为
其中
其最小范数解为
其中:H+为矩阵H的Moore-Penrose广义逆。综上可以看出,ELM算法只需一次矩阵计算便可使输出权值绝对值最小,不仅节省了运算时间而且获得了最小训练误差。
2 集成ELM模型的建立
为使ELM的预测精度提高,使用AdaBoost.RT集成算法对ELM进行集成。并提出一种自适应动态阈值的方法来克服原有算法的缺点,进一步提高了集成模型的精度。
2.1 AdaBoost.RT集成算法
AdaBoost算法是Boosting改进算法中最具代表性的一种,为了解决回归问题,Shrestha和Solomatine[4,6]提出了基于AdaBoost算法的AdaBoost.RT集成学习算法。其中,R代表回归(Regression),T代表阈值(Threshold)。此算法通过引入一个固定阈值φ而将回归问题转化为二分类问题,使之可以用AdaBoost集成算法框架进行模型建立。AdaBoost.RT算法的具体流程如下。
步骤1 对于一组N个时间序列样本{z1,z2,…,zN},选择合适的嵌入维数m对其进行相空间重构,生成n=N-m个用于模型训练的输入输出样本,即
选取合适的最大迭代次数T和阈值φ;确定一组弱学习{f1(x),f2(x),…,fp(x)},若每次迭代只训练一个弱学习机,则p=T。
步骤2 设置初次迭代次数t=1;样本的初始权值均为Dt(i)=1/n;误差率εt=0。
步骤3 当前迭代t≤T:
1)根据权值分布Dt对样本进行取样,用此样本集训练弱学习机,建立回归模:ft(x)→y,并计算每个样本的相对误差(ARE,absolute relative error),即
计算弱学习机ft(x)的误差率
3)更新样本权值Dt
其中:Zt为标准化因子。
4)设置t=t+1。
步骤4 输出结果
AdaBoost.RT的突出特点是引入一个固定的阈值φ用来判断预测值的正确与否。如果某个样本的ARE大于φ,则预测结果被认为是错误的,反之就是正确的。而误差率εt的计算是由正确和错误预测值的数量决定的,根据计算流程可知,阈值φ也将间接影响权值更新参数和下一次迭代的采样方式。所以,Ada-Boost.RT集成算法的预测性能将在很大程度上取决于阈值φ的选取。文献[7-8]的实验也表明预测结果对于φ的选取非常敏感。若φ取值太小,将会很难获得足够的正确预测样本;若φ取值太大,则很可能只产生很少一部分困难样本,而这些困难样本极有可能是混在样本中的奇异值,从而对训练样本产生过拟合。这样不仅影响集成学习机的预测结果,而且会使算法不稳定。
2.2 改进的AdaBoost.Rt算法
由于在AdaBoost.RT集成算法中,阈值φ的选取会对预测结果产生极大的波动,因此提出一种自适应动态阈值的方法,用来改善原有算法中受参数选择影响的局限。改进算法的设计思想是:计算每次迭代输出的均方根误差(这里用et表示),若当前迭代的et大于前一次迭代的et-1,当前阈值φ将会增大;反之则会减小。根据Solomatine[6]的研究可知,当阈值φ在0~0.4之间时,集成学习机是稳定的,当阈值φ到达0.4附近时,集成学习机由于过拟合和噪音等问题开始变得不稳定[9]。因此,在AdaBoost.RT集成算法开始时,选择0.2为初始阈值。自适应动态阈值的改进方法具体如下。
1)计算每一次迭代输出的均方根误差,即
2)当et<et-1时,阈值减小,相反,当et>et-1时,阈值增加。具体变化如下
其中:λ为RMSE的变化率,即
3 应用案例
航空发动机有许多性能指标,其中表征发动机健康状态最重要的性能指标是排气温度裕度(EGTM)[10-11]。随着飞行时间的增加,EGTM会逐渐衰减,达到或接近手册规定的红线值就必须对发动机进行维修。发动机的红线值取决于热部件的材料和热部件冷却性能,而实际EGTM则与发动机核心机尺寸和气动效率相关,随着在翼时间的增加,发动机核心部件的气动效率降低,从而导致整机性能的衰退。利用本文提出的模型对EGTM时间序列进行预测,可以监测发动机的健康状况。
本文采用国内某航空公司B737-800飞机装配的CFM56-7B发动机2年多的QAR监控数据,对其进行解码修正后的数据如图1所示。
图1 EGTM检测值序列Fig.1 EGTM detection value sequence
从图1可以看出发动机的衰退特征:①在发动机刚投入使用的 3 000个飞行小时里,发动机衰退较为明显,这是因为发动机各部件处于初始磨合期;②在之后的3 000~15 000个飞行小时里,各部件磨合结束,部分部件出现轻微磨损,发动机进入正常衰退期;③15 000飞行小时后,发动机有些部件已有较大磨损和老化,性能衰退较快,甚至超过初始磨合期。
由于数据量过于庞大,抽取一部分作为建模样本。考虑到EGTM的特点,以10个飞行循环为间隔对数据源取样,剔除粗大误差后得到一组排气温度裕度数据,记作采用EGTM序列前8个数据预测第9个数据,由此构建235个样本,取前200个样本作为训练样本,后35个样本作为测试样本。
为了比较,采用单个ELM模型、基于原始Ada-Boost.RT算法的集成ELM模型和基于自适应阈值AdaBoost.RT算法的集成ELM模型分别预测。为了方便起见,将上述模型分别记为SELM、OBoost和DBoost。其中对于SELM模型,经过试探确定节点结构为8-23-1。OBoost模型和DBoost模型迭代次数T经试验确定为10,阈值设为0.2,弱学习机ELM的参数设置与SLEM相同。
3种模型对EGTM的预测结果分别如图2~图4所示,预测误差如表1所示。
图2 SELM模型预测结果Fig.2 SLEM model prediction results
图3 OBoost模型预测结果Fig.3 OBoost model prediction results
图4 DBoost模型预测结果Fig.4 DBoost model prediction results
表1 不同模型的预测误差Tab.1 Prediction error of different models
从上述图表可以看出,在对EGTM时间序列的预测上,两种ELM集成模型的预测结果要优于单一ELM模型,说明集成算法具有良好的预测性能。对于两种集成模型OBoost和DBoost,除了最大相对误差稍微大点,DBoost模型的其余误差都要明显低于OBoost模型。综上所述,本文采用的动态阈值Ada-Boost.RT算法对于集成模型的预测结果有显著提高。进而也可以认为,本文提出的模型更适合发动机机性能参数的预测。
4 结语
提出一种以AdaBoost.Rt算法为集成框架的ELM模型,并以此模型对航空发动机性能参数进行预测。考虑到阈值选取对预测结果的影响,本文采用自适应动态阈值的方法来克服原始集成算法的局限性。另一方面,ELM比其他传统神经网络更加简单且学习速度更快,因此,以ELM作为弱学习机来构建集成模型。
在对航空发动机性能参数进行预测时,集成ELM模型的预测精度要比单一ELM模型的预测精度高,且本文采用的改进集成ELM模型相对于原始集成ELM模型具有更好的预测结果。同时,本文所提模型也可用于燃油流量、振动信号等发动机性能参数的预测。
[1]丁 刚,徐敏强,侯立国.基于过程神经网络的航空发动机排气温度预测[J].航空动力学报,2009,24(5):1035-1039.
[2]刘永建,朱剑英,曾 捷.改进BP神经网络在发动机性能趋势分析和故障诊断中的应用[J].南京理工大学学报,2010,34(1):24-29.
[3]SCHAPIRE R E.The strength of weak learnability[J].Machine Learning,1990,5(2):197-227.
[4]SOLOMATINE D P,SHRESTHA D L.AdaBoost.RT:A Boosting Algorithm for Regression Problems[C]//IEEE International Joint Conference on Neural Networks.IEEE,2004,2:1163-1168.
[5]HUANG G B,ZHU Q Y,SIEW C K.Extreme learning machine:Theory and applications[J].Neurocomputing,2006,70(1-3):489-501.
[6]SHRESTHA D L,SOLOMATINE D P.Experiments with AdaBoost.RT, an improved boosting scheme for regression[J].Neural Computation, 2006,18(7):1678-1710.
[7]LIU S,XU J,ZHAO J,et al.Efficiency enhancement of a process-based rainfall-runoff model using a new modified AdaBoost.RT technique[J].Applied Soft Computing,2014,23(5):521-529.
[8]查 翔,倪世宏,张 鹏.关于AdaBoost.RT集成算法时间序列预测研究[J].计算机仿真,2015,32(9):391-394.
[9]TIAN H X,MAO Z Z.An ensemble ELM based on modified AdaBoost.RT algorithm for predicting the temperature of molten steel in ladle rurnace[J].IEEE Transactions on Automation Science&Engineering, 2010,7(1):73-80.
[10]周茂军.考虑性能衰退的航空发动机总体性能裕度设计研究[J].航空动力学报,2008,23(10):1868-1874.
[11]吕永乐,郎荣玲,路 辉,等.航空发动机性能参数联合RBFPN和FAR预测[J].北京航空航天大学学报,2010,36(2):131-134.
(责任编辑:刘佩佩)
Aircraft engine performance parameter prediction based on ensemble ELM model
XU Jianxin,HOU Zhenhua
(College of Aeronautical Engineering,CAUC,Tianjin 300300,China)
In order to predict performance parameters of aircraft engine accurately,a dynamic ensemble extreme learning machine(ELM)model is proposed.Ada Boost.RT algorithm is used to integrate ELM to construct the ensemble model.Aiming at the limitation of static threshold in original AdaBoost.RT algorithm,a self-adaptive and dynamic adjusting method is used to improve the forecasting precision.A given method makes adjustments to the threshold by comparing RMSE of two neighboring iterations.Finally,compared with single ELM model and original ensemble ELM model,dynamic ensemble ELM model is used to predict EGTM.Results show that the improved model is better than other models for the performance parameters prediction of aircraft engine.
aircraft engine;performance parameters;prediction;AdaBoost.RT;extreme learning machine
V235.13
A
1674-5590(2017)02-0020-04
2016-10-21;
2016-12-22
徐建新(1967—),男,江苏苏州人,教授,博士,研究方向为复合材料结构力学.