基于多智能体遗传算法优化的航空电子设备状态组合预测

2016-07-01赵建忠欧阳中辉张磊赵建印海军航空工程学院兵器科学与技术系山东烟台6400海军航空工程学院科研部山东烟台6400

兵工学报 2016年4期

赵建忠，欧阳中辉，张磊，赵建印（.海军航空工程学院兵器科学与技术系，山东烟台6400；.海军航空工程学院科研部，山东烟台6400）

赵建忠1，欧阳中辉1，张磊2，赵建印1
（1.海军航空工程学院兵器科学与技术系，山东烟台264001；2.海军航空工程学院科研部，山东烟台264001）

摘要：针对传统单一预测方法预测航空电子设备状态的不足，提出了将隐马尔可夫模型（HMM）和最小二乘支持向量机（LS-SVM）相结合的组合预测方法。采用多智能体遗传算法（MAGA）对HMM参数进行训练优化，克服了Baum-Welch算法易陷入局部最优解的缺陷，并在HMM建模过程中引入状态条件概率，以降低不确定性因素造成的影响。采用MAGA估计LS-SVM模型参数，并在参数估计的过程中采用剪枝法实现LS-SVM的稀疏性，从而达到提高LS-SVM泛化性能的目的。在此基础上构建了航空电子设备状态组合预测模型。实例分析结果验证了组合预测模型在预测精度、计算速度和稳定性方面的优势。

关键词：飞行器仪表、设备；参数估计；隐马尔可夫模型；最小二乘支持向量机；多智能体遗传算法；状态预测

欧阳中辉（1966—），男，教授，硕士生导师。E-mail：ouyang1966@163. com

0 引言

状态预测技术是故障预测与健康管理的核心技术之一，它以设备当前的状态为起点，结合设备的结构特性、参数和历史状态，对设备未来任务段内可能出现的故障进行预测、分析和判断，给出状态可能的发展趋势及故障后果，以便在任务开始之前消除潜在故障。目前，状态预测方法主要分为基于模型和基于数据驱动两类［1 -2］。基于模型的方法建模难度大，尤其是对于复杂设备；而基于数据驱动的方法适应性强，比较灵活，但对不确定性因素的影响考虑不足。航空电子设备结构复杂，且易受到各种不确定性因素的影响，从而加大了对其状态进行预测的难度。

支持向量机（SVM）和隐马尔可夫模型（HMM）是当前国内外学术界研究的热点之一［3 -5］。但将HMM和SVM相结合进行研究的文献相对较少，主要集中在语音识别、图像目标和故障诊断上，研究结果凸显了该组合方法的优异性能［6 -7］。在这些研究中，HMM都被作为分类器使用，缺点是训练计算量大、运算时间长。HMM本身还具有解码功能，即给定观测序列能够估计出对应的最可能状态，而且作为解码器使用时，只需训练1个HMM即可。因此，本文将HMM作为解码器，并与最小二乘支持向量机（LS-SVM）相结合，利用LS-SVM预测设备状态的观测值，再使用HMM求解设备未来的状态，从而使故障预测直接与设备的状态相关，实现预测结果易于理解和分析的目的，为维修保障人员提供决策依据。

1 HMM的改进

1. 1 多智能体遗传算法优化HMM参数估计

HMM的求解通常采用Baum-Welch算法，但是这样得到的解往往只是一个局部最优解，不能保证是全局最优解［8 -9］。因此，本文采用多智能体遗传算法（MAGA）对其进行改进。MAGA是基于智能体对环境的感知和反作用的能力提出的一种新的优化方法，它的主要特点是种群规模小、收敛速度快、全局搜索能力强、算法的稳定性高［10 -11］。

对于航空电子设备来说，其性能的退化一般具有不可逆性，因而选取左-右型右转模型为其HMM模型，如图1所示。状态1为初始状态，状态5为故障状态，状态2、3、4分别为不同程度的退化状态。

图1 航空电子设备的HMM状态转移图Fig. 1 HMM state transition diagram of avionics

1）染色体编码。采用实数编码方式，如图2所示，每个染色体由π区、A区和B区3个部分组成，即HMM模型的3个参数。其中，π、A、B分别称之为初始状态概率矢量、状态转移概率矩阵、观测值概率矩阵［5 -8］。状态转移概率矩阵满足aij≠0，当且仅当j≥i，并且aNN= 1.所以，A区的基因为矩阵A中的非零元素且不包含aNN.同时，3个区内各段分别有

图2 参数估计的染色体编码Fig. 2 Chromosome coding of parameter estimation

以Li，j表示染色体，则Li，j为一实值向量，

2）遗传算子的操作实现方式。MAGA中的遗传算子主要有邻域竞争算子、邻域正交交叉算子、变异算子和智能体自学习算子，其中自学习算子又包含前面3种算子。为了保证（1）式始终成立，前3种遗传算子单独操作时，分别在各区内按照概率依次进行，不能跨区操作；在各区内操作时，可在段内或段间操作，操作完之后，对每个段要进行归一化处理。为了降低计算代价，自学习算子只作用在每一代中适应值最大的智能体上。

4）进化终止条件。由于不确定P（O（k）|λ）的具体数值，所以采用适应值阈值终止进化的方法不合适，本文采用最大进化代数为终止条件。

1. 2 HMM的不确定性改进

为了解决退化状态的不确定性问题，引入状态条件概率πt=｛π，π，…，π｝。在HMM中，已知模型参数λ和至t时刻的观测值序列o1，o2，…，ot，系统处于状态i的概率称为状态i的条件概率，记为π=P（qt= i | o1，o2，…，ot，λ），1≤i≤N.称πt= ｛π，π，…，π｝为系统在t时刻的状态条件概率矢量。当t =0时，规定π0=π，为初始状态概率矢量。

1. 3 改进的HMM优化流程

根据HMM的定义，一个离散型的HMM模型可记为λ=（πt，A，B），具体描述［12］为：

1）N：模型中状态的数目，记t时刻马尔可夫链所处的状态为qt∈｛1，2，…，N｝；

2）M：每个状态对应的可能观察数目，记t时刻观察到的观察值为ot；

3）πt：状态条件概率矢量，πt=｛π，π，…，π｝，π= P（qt= i| o1，o2，…，ot，λ），1≤i≤N，t≥0；t =0时，π= P（q1= i）；

4）A：状态转移概率矩阵，A =｛aij｝，aij=P（qt +1= j|qt= i），1≤i，j≤N；

5）B：观测值概率矩阵，B =（bjk）N×M，bjk= P（ot= υk|qt= j），1≤j≤N，1≤k≤M.

2 LS-SVM的改进

2. 1 MAGA优化LS-SVM参数估计

LS-SVM的核参数σ和惩罚参数C的优化估计实际上是一个复杂的上下限连续函数优化问题［13］，本文采用MAGA对其进行估计。

1）染色体编码。由于LS-SVM参数取值范围较大，如果采用二进制编码，一方面染色体长度太短则不能满足精度要求，另一方面染色体长度过长则会增加反复译码的计算复杂度。因此，本文采用实数编码方式。

2）遗传操作算子。邻域竞争算子按照在其邻域内能量最大的智能体方能存活的方式进行更迭。邻域交叉算子在进行交叉时不需要选择交叉位置，直接将智能体中对应核参数σ的部分互换即可，而且交叉操作只进行一次。变异算子需要做一些改进，根据变异算子作用在智能体的能量与所处进化代的智能体最大能量、种群平均能量的关系进行变异，最后从3个新智能体中选出能量最大的一个智能体代替原智能体。自学习算子同样作用于能量值最大的智能体上，需要解决的问题同样是种群初始化问题。

3）适应度函数。为了便于验证参数估计的优劣，采用交叉验证法的训练均方根误差（RMSE）作为MAGA的适应度函数。适应度函数的形式为

式中：N为训练样本数；yi为样本实际值；为样本预测值。

4）终止条件。为了保证算法的相对适当运算计算量，采用两个终止条件：最大进化代数和最小均方根相对误差。最大进化代数设为100，最小均方根误差设为0. 02，两个终止条件只要满足一个，算法即终止。

2. 2 LS-SVM的稀疏性改进

LS-SVM不具备标准SVM的稀疏性，使其算法复杂度低的优势受到影响。根据MAGA优化LSSVM的特点，本文采用剪枝法［14 -15］对LS-SVM进行稀疏性改进。剪枝是在MAGA优化估计LS-SVM参数的过程中进行的。为了保证一定的预测精度，剪枝需要有个度的控制。

1）剪枝条件。在第t（1≤t≤100）代中，每个智能体Li，j（1≤i，j≤Lsize）对应的参数为αt（i，j）= （α（i，j），α（i，j），…，α（i，j））T.设mk= 0，1≤k≤l，若|α（i，j）|≤αmin，i，j =1，2，…，Lsize，则记为mk= mk+1.如果mk≥（Lsize×Lsize），则剪除α（i，j）对应的训练样本。

2）数量控制条件。在第t（1≤t≤100）代中，设Wt=0.如果mk≥（Lsize×Lsize），1≤k≤l，则Wt= Wt+1；如果≤0. 1，则剪除所有满足|α（i，j）|≤αmin的支持向量参数对应的训练样本；如果＞0. 1，则将所有满足|α（i，j）|≤αmin的支持向量参数按|α（i，j）|值从小到大排序，从小到大依次剪除［0. 1×l］个支持向量参数对应的训练样本。其中，［0. 1×l］表示取整数。

3）精度控制条件。记截止到第t（1≤t＜100）代时的最优智能体为Bestt，第t +1代中的最优智能体为CBestt +1.如果Eng（CBestt +1）≤Eng（Bestt），即精度未见提高，则停止对训练样本的剪枝；当Eng（CBestt +n）＞Eng（Bestt）时（t +n＜100），恢复剪枝。

上述3个条件中，第一个条件的目的在于找到对LS-SVM回归贡献较小的训练样本；第二个条件控制每次剪除的样本数量不至于过多，但又能保证在MAGA优化LS-SVM参数的过程中较快地完成样本的稀疏化；第三个条件防止样本的过稀疏化导致LS-SVM预测精度的明显降低。

2. 3 改进的LS-SVM优化流程

根据LS-SVM参数的优化和对LS-SVM的稀疏化过程，改进的LS-SVM优化算法流程如下：

1）选取训练样本集和测试样本集，设定MAGA相关参数，初始化MAGA种群网格，设定剪枝阈值αmin；

2）根据每个智能体代表的参数训练LS-SVM，采用交叉验证法按照（5）式计算每个智能体的能量（适应度）；

3）对每个智能体执行邻域竞争算子；

4）按照交叉概率和变异概率，分别执行邻域交叉算子和变异算子，并计算其能量值，根据剪枝条件对训练样本进行剪枝；

5）从当代种群中找出能量值最大的智能体，对该智能体执行自学习算子；

6）判断是否满足终止条件。如果满足，保存最优参数；如果不满足，转到步骤3.

3 组合预测模型构建

对于具备P-F间隔期的航空电子设备或部件，先通过LS-SVM预测设备的性能数据（即未来可能的观测数据），再利用HMM根据预测数据估计设备的退化状态。组合预测模型流程如图4所示。

图4 组合预测模型流程图Fig. 4 Flow chart of combined prediction model

1）根据处理后的航空电子设备状态退化过程数据（观测数据），采用MAGA对HMM进行参数训练；

2）采用MAGA对LS-SVM进行回归参数估计；

3）用训练好的LS-SVM对航空电子设备性能参数进行非线性预测得到预测观测值；

4）将预测观测值及其之前的已有观测数据输入到HMM中，由Viterbi算法估计出设备的未来退化状态［16］。本文将航空电子设备状态划分为5个等级（分值为0～100分）：正常状态1（健康），100分；退化状态2（良好），80分；退化状态3（注意），60分；退化状态4（恶化），40分；故障状态5，0分。

4 实例分析

温控放大器是一种复杂的电子产品，是飞机发动机上一个非常重要的附件。温控放大器既控制飞机发动机关键部位温度，又对空气流量和燃油流量进行修正，由于安装位置和工作环境等原因使其成为易损部件。通过对大量的温控放大器故障案例以及检测数据分析显示，虽然有少量的突发性故障，但仍以渐变性故障为主，存在较明显的P-F间隔期，满足状态预测的条件，因而对其进行状态预测是非常必要而且可行的。

4. 1 数据处理

将20台某型温控放大器作为研究对象，选取反映其性能的T1、T3、T6温度信号电压和失速警告电压T8等4项参数为仿真数据对象，如表1所示，限于篇幅只列出部分数据。

为第k个检测时刻4项参数的绝对变化量之和。将（6）式得到的融合数据作为仿真计算数据。

表1 设备状态退化数据Tab. 1 The state degradation data of equipment

4. 2 参数估计

用于HMM和LS-SVM参数估计的MAGA参数设置如表2所示。按照温控放大器性能退化的不同程度，设定退化状态数为3，从而HMM的状态数N =5.设定每个状态对应的观测值数目M = 5. LS-SVM最小均方根误差设为0. 02，最小支持向量参数阈值αmin=0. 001.

表2 MAGA参数设置Tab. 2 Parameter setting of MAGA

运行5次后，通过MAGA优化得到HMM的参数值。其中，状态转移概率矩阵为

观测概率矩阵为

初始状态概率矢量为

MAGA估计LS-SVM参数同样运行5次，结果如表3所示。选取核参数σ= 0. 451 7，惩罚参数C =138. 627 4.从表3中的稀疏性（优选样本数与总样本数的比率）数据可以看出，由3种控制条件组成的稀疏化策略是稳定可行的，既能得到较优的数据样本，保持较稳定的稀疏性，又能确保LS-SVM在稀疏化后预测精度不会明显下降。

表3 LS-SVM参数估计结果Tab. 3 The estimated results of LS-SVM parameters

进一步验证MAGA的有效性，将其与Baum-Welch算法和蚁群算法（ACA）进行比较。3种算法的性能对比如表4、表5所示。3种算法中MAGA的寻优能力是最好的。其中，LS-SVM的性能好坏是通过平均绝对误差（MAE）、RMSE和平均相对误差（MRE）3个评价指标进行判断。从图5、图6中可以看出MAGA的快速收敛性。图5中算法进化100代以后即获得最优解，图6中算法最优解出现在95代且以RMSE结束。

表4 MAGA优化HMM参数估计结果对比Tab. 4 Comparison of estimated results of HMM parameters

表5 MAGA优化LS-SVM 3种算法参数估计性能对比Tab. 5 Contrast of parameter estimation capabilities of three algorithms

图5 MAGA优化HMM参数的适应值曲线Fig.5 Fitness curve of HMM parameters optimized by MAGA

图6 MAGA优化LS-SVM参数的适应值曲线Fig. 6 Fitness curve of LS-SVM parameters optimized by MAGA

4. 3 状态预测

对某台温控放大器按状态退化时序选取10个特征融合数据作为LS-SVM的测试数据，预测结果如图7所示，其中图7（a）、图7（b）、图7（c）分别为AGA、ACA和MAGA优化的LS-SVM预测曲线。从图7可以看出，MAGA优化的LS-SVM预测性能最优，但是随着预测步数的增加，精度都逐渐降低，只是降低幅度大小不同而已。3种算法优化LS-SVM的具体性能对比数据如表6所示。

表6 LS-SVM预测性能对比Tab. 6 Comparison of predition performances of LS-SVMs optimized by three algorithms

图7 LS-SVM预测结果Fig. 7 The predicted values of LS-SVM

将上述LS-SVM的预测数据输入HMM中计算得到设备的预测状态如表7所示。从表7可以看出，前两种模型由于预测精度相对偏低，造成第5次和第9次预测状态的误判，就有可能对维修决策造成一定的影响。

5 结论

本文采用MAGA对HMM和LS - SVM进行训练，大大提高了参数估计性能。通过引入条件状态条件概率，很大程度上消除了不确定性因素对设备状态信息获取的影响。将剪枝方法应用于LS-SVM参数估计过程，在保证模型精度要求的前提下，实现了减少模型复杂度和运算时间的目的。对于有退化过程数据的设备，该组合预测模型具有良好的应用前景。在状态预测的基础上，今后可进一步研究航空电子设备状态评估和剩余寿命预测方面的问题。

表7 预测状态对比Tab. 7 Comparison of predicted states

参考文献（References）

［1］彭宇，刘大同，彭喜元.故障预测与健康管理技术综述［J］.电子测量与仪器学报，2010，24（1）：1 -9. PENG Yu，LIU Da-tong，PENG Xi-yuan. A review：prognostics and health management［J］. Journal of Electronic Measurement and Instrument，2010，24（1）：1 -9.（in Chinese）

［2］ Sheppard J W，Kaufman M A，Wilmering T J. IEEE standards for prognostics and health management［C］∥Proceedings of IEEE AUTOTESTCON. Salt Lake City，Utah，US：IEEE，2008：97 -103.

［3］卓东风，原媛.小波包变换和隐马尔科夫模型（HMM）在液压系统故障预测中的应用［J］.山西大学学报：自然科学版，2013，36（3）：357 -362. ZHUO Dong-feng，YUAN Yuan. Application of hydraulic system fault prediction based in wavelet packet transform and hidden Markov model（HMM）［J］. Journal of Shanxi University：Natual Science Edition，2013，36（3）：357 -362.（in Chinese）

［4］王久崇，樊晓光，盛晟，等.改进的蜂群LS-SVM故障预测［J］.空军工程大学学报：自然科学版，2013，14（1）：16 -19. WANG Jiu-chong，FAN Xiao-guang，SHENG Sheng，et al. Improved artificial bee colony LS-SVM fault prediction［J］. Journal of Air Force Engineering University：Natual Science Edition，2013，14（1）：16 -19.（in Chinese）

［5］ Jiang H，Li X W，Liu C J. Large margin hidden Markov models for speech recognition［J］. IEEE Transactions on Audio，Speech and Language Processing，2006，9（5）：1584 -1594.

［6］谢松汕，许宝杰，吴国新，等.基于HMM/ SVM的风电设备故障趋势预测方法研究［J］.计算机测量与控制，2014，22（1）：39 -41. XIE Song-shan，XU Bao-jie，WU Guo-xin，et al. Wind power electricity generation facility fault trend prediction method studybased on HMM/ SVM［J］. Computer Measurement & Control，2014，22（1）：39 -41.（in Chinese）

［7］柳新民，邱静，刘冠军.基于HMM-SVM的故障诊断模型及应用［J］.仪器仪表学报，2006，27（1）：45 -53. LIU Xin-min，QIU Jing，LIU Guan-jun. Hybrid HMM and SVM approach for fault diagnosis［J］. Chinese Journal of Scientific Instrument，2006，27（1）：45 -53.（in Chinese）

［8］ He X，Li D. A new look at discriminative training for hidden Markov models［J］. Pattern Recognition Letters，2007，28（5）：1285 -1294.

［9］张星辉，康建设，高存明，等.基于MoG-HMM的齿轮箱状态识别与剩余使用寿命预测研究［J］.振动与冲击，2013，32（15）：20 - 31. ZHANG Xing-hui，KANG Jian-she，GAO Cun-ming，et al. Gearbox state identification and remaining useful life prediction based on MoG-HMM［J］. Journal of Vibration and Shock，2013，32（15）：20 - 31.（in Chinese）

［10］钟伟才，刘静，焦李成.多智能体遗传算法用于线性系统逼近［J］.自动化学报，2004，30（6）：933 -938. ZHONG Wei-cai，LIU Jing，JIAO Li-cheng. Optimal approximation of linear systems by multi-agent genetic algorithm［J］. Acta Automatica Sinica，2004，30（6）：933 -938.（in Chinese）

［11］谢燕丽，许青林，姜文超.一种基于交叉和变异算子改进的遗传算法研究［J］.计算机技术与发展，2014，24（4）：80 -83. XIE Yan-li，XU Qing-lin，JIANG Wen-chao. An improved genetic algorithm based on crossover and mutation operators［J］. Computer Technology and Development，2014，24（4）：80 -83.（in Chinese）

［12］邓乃扬，田英杰.支持向量机-理论、算法与拓展［M］.北京：科学出版社，2009. DENG Nai-yang，TIAN Ying-jie. Support vector machine-theory，algorithm and development［M］. Beijing：Science Press，2009. （in Chinese）

［13］ Cortes C，Vapnik V N. Support vector networks［J］. Machine Learning，1995，20（3）：273 -297.

［14］李丽敏，王仲生，姜洪开.基于多状态MOG-HMM和Viterbi的航空发动机突发故障预测［J］.振动、测试与诊断，2014，34（2）：310 -399. LI Li-min，WANG Zhong-sheng，JIANG Hong-kai. Aero-engine abrupt failure prognosis based on multi-states MOG-HMM and Viterbi algorithm［J］. Journal of Vibration and Shock & Diagnosis，2014，34（2）：310 -399.（in Chinese）

［15］ Jiao L C，Bo L F，Wang L. Fast sparse approximation for least squares support vector machine［J］. IEEE Transactions on Neural Networks，2007，18（3）：685 -697.

［16］ Rabiner L R，Huang B H. An introduction to hidden Markov models［J］. IEEE Signal Processing Magazine，1986，3（1）：4 -16.

Combined Prediction on Avionics State Optimized by MAGA

ZHAO Jian-zhong1，OUYANG Zhong-hui1，ZHANG Lei2，ZHAO Jian-yin1
（1. Department of Ordnance Science and Technology，Naval Aeronautical and Astronautical University，Yantai 264001，Shandong，China；2. Department of Scientific Research，Naval Aeronautical and Astronautical University，Yantai 264001，Shandong，China）

Abstract：A combined prediction method based on hidden Markov model（HMM）and least square support vector machine（LS-SVM）is presented for prediction of avionics states. Multi-agent genetic algorithm（MAGA）is used to estimate HMM parameters to overcome the problem of that Baum-Welch algorithm is easy to fall into local optimal solution. The conditional probability of states is introduced into the HMM modeling to reduce the effect of uncertainty factor. MAGA is used to estimate the parameters of LSSVM model，and the pruning algorithm is used for achieving the sparse approximation of LS-SVM in parameter estimation，thus achieving the objective of improving the generalization performance of LS-SVM. On this basis，a combined prediction model of avionics state is established. The analysis results show the combined prediction model has high prediction accuracy，calculating speed and stability.

Key words：instrument and equipment of aerocraft；parameter estimation；hidden Markov model；least square support vector machine；multi-agent genetic algorithm；state prediction

中图分类号：V241

文献标志码：A

文章编号：1000-1093（2016）04-0727-08

DOI：10. 3969/ j. issn. 1000-1093. 2016. 04. 022

收稿日期：2015-07-03

基金项目：总装备部基础科研项目（2014年）

作者简介：赵建忠（1978—），男，讲师。E-mail：zjznavy@163. com；