基于粒子群优化相关向量机的无线传感器故障检测
2010-04-11吴良海
吴良海
WU Liang-hai
(茂名学院 实验教学部,茂名 525000)
基于粒子群优化相关向量机的无线传感器故障检测
Wireless sensor fault detection based on relevance vector machine optimized by particle swarm optimization algorithm
吴良海
WU Liang-hai
(茂名学院 实验教学部,茂名 525000)
及时准确地对无线传感器节点进行故障检测对于确保整个无线传感器网络有着非常重要意义。为了克服支持向量机的缺点,本文提出了一种基于粒子群优化相关向量机(RVM)无线传感器故障检测方法。相关向量机是一种建立在支持向量机上的稀疏概率模型。与支持向量机相比,它不仅具有较高检测精度,还具有较好的实时性,粒子群优化算法用于确定相关向量机的核参数。最后结合试验将本文提出的方法同支持向量机算法、BP神经网络进行了比较,结果表明,在无线传感器故障检测中本文提出的相关向量机相比于支持向量机、BP神经网络有着更高的入侵精度。
传感器;相关向量机;故障检测;粒子群
0 引言
由于无线传感器网络通常运行在恶劣、危险的环境中,其中由于无线传感器节点长期暴露在外,难免会发生各种各样的故障,将直接造成测量错误,致使网络节点某些功能丧失乃致整个网络瘫痪。对此,为了保证无线传感器网络安全可靠的运行,及时准确地对无线传感器节点进行故障检测显得非常重要。
目前,故障检测理论和技术的不断发展,神经网络是一种常用的无线传感器故障检测方法,然而由于其存在收敛速度慢且容易陷入局部极小等问题限制了它的应用。支持向量机(Support Vector Machine, SVM)是一种基于统计学习理论的机器学习方法, 它能有效解决非线性、小样本问题,在故障检测系统中的应用越来越广泛[3-5]。尽管SVM在实际中取得广泛应用,但也存在不足之处,如SVM的惩罚参数C必须人为确定且难以选取优化的惩罚参数,此外SVM的核函数必须符合Mercer条件[6]。相关向量机(relevance vector machine, RVM)[7-10]是一种建立在支持向量机上的稀疏概率学习模型,与支持向量机相比,它需要更少的参数和核函数约束。
为此,本文提出了一种基于粒子群优化相关向量机(RVM)无线传感器故障检测方法。相关向量机的训练是在贝叶斯框架下进行的,它能产生的具有较高检测精度的决策函数,并提高了系统的实时性,粒子群优化算法[11,12]用于确定相关向量机的核参数。本文建立了基于RVM的无线传感器故障检测, 并采用采用150组无线传感器状态数据评估本文提出的故障检测技术的性能。
1 相关向量机
1.1 支持向量机理论
支持向量机是一种统计学习算法,它基于结构风险最小化准则,具有较好的泛化能力。它能利用非线性映射函数将原始输入数据映射到高维特征空间,然后利用线性分类器在该空间进行分类。在高维特征空间中构造最优分类超平面:
1.2 相关向量机理论
相关向量机是由Tipping提出的一种建立在支持向量机上的稀疏概率学习模型。它的训练是基于贝叶斯估计理论,能在概率意义下的进行合理划分,使得分类函数针对于训练集似然函数值最大。相关向量机克服了SVM的惩罚参数C的主观设置,以及SVM的核函数必须符合Mercer条件等问题。
假设噪声εi服从均值为零,方差为σ2的高斯分布,则
设di服从独立分布,则整个样本的似然函数为
为了防止模型中存在过多的相关向量,进而提高模型的泛化能力,RVM为每一个权值定义了高斯先验概率分布:
式中,a是决定权值先验分布的超参数,它决定了模型的稀疏特性。
对于非线性分类器,存在一个从向量x到高维空间H的非线性映射函数使得。RVM分类器可以写成:
2 RVM分类器参数确定
在利用RVM分类器进行分类以前,需要确定模型的参数,由于本文选择RBF高斯函数为本文的核函数,因此RBF高斯核的宽度为RVM需要确定的参数。这里采用遗传算法与5折交叉验证准则进行RVM参数确定。
1)粒子初始化。 由参数 组成一个粒子,并随机产生一组粒子的初始位置和速度。确定迭代次数、惯性权重、加速系数等参数。
2)适应度评估。采用5折交叉验证准则进行适应度评估。5折交叉验证中随机地将训练样本分成5等份。对于每一个参数设置,训练模型5次,在每次训练中,以4个子集进行训练,剩余的一个子集进行测试,记录每一次的分类结果。最后将5次的分类结果进行平均作为泛化性能的评估。
3) 将每个粒子的适应度值与其经历过的最好位置pbest作比较, 如果较好, 则将其作为当前的最好位置pbest。
4)将每个粒子的适应度值与全局所经历的最好位置gbest作比较,如果较好,则将gbest设置为最好粒子的当前位置。
5)根据公式(6)和(7)更新粒子的速度和位置。
式中,t为进化代数;rand为0到1之间的随机数; ω为惯性权值,用于平衡全局搜索和局部搜索;β为约束因子,用于控制速度的权重;c1,c2是学习因子。
6)检验迭代次数是否达到了给定的最大次数,如果符合,则停止迭代;否则转至2。
3 实验分析
本文采用4个PSO-RVM识别网络的这5种状态,包括正常、冲击、偏置、短路、漂移,这4个PSO-RVM以二叉树形式布置,以提交计算效率。经PSO-RVM 、PSO-SVM 和BPNN三种模型的故障检测结果比较,RVM检测精度为97.143,SVM检测精度为91.429,BPNN检测精度为78.571,可以看出在无线传感器故障检测中,PSO-RVM检测精度优于PSO-SVM,BPNN,具体非常好的应用前景。
4 结论
本文提出了一种基于粒子群优化相关向量机(RVM)无线传感器故障检测方法。一种建立在支持向量机上的稀疏概率学习模型,它的训练是在贝叶斯框架下进行的,它能产生的具有较高检测精度的决策函数,粒子群优化算法用于确定相关向量机的惩罚参数。本文建立了基于粒子群优化RVM的无线传感器故障检测模型,并采用150组无线传感器状态数据作为本文测试数据。从实验结果可以看出在无线传感器故障检测中,PSO-RVM检测精度优于PSO-SVM,BPNN。
[1] 邱天,刘吉臻.提高传感器故障检测能力的研究[J].动力工程,2008,28(1):80-83.
[2] 彭红星,陈祥光,徐巍,张玮.多变量过程传感器故障检测的SVM方法[J].北京理工大学学报,2008,28(8):727-730.
[3] 王强,陈欢欢,王珽. 一种基于多类支持向量机的故障诊断算法[J].电机与控制学报.2009,13(2):302-306.
[4] 赫英明,王汉杰,姜祝辉.支持向量机在云检测中的应用[J].解放军理工大学学报(自然科学版),2009,10(2):191-194.
[5] 许少华,何新贵,周继,王兵.一种过程支持向量机及其在动态模式分类中的应用[J].控制与决策,2009,24(2):309-311.
[6] Sankar Mahadevan, Sirish L.Shah. Fault detection and diag nosis in process data using one-class support vector machines[J].Journal of Process Control.2009,19(10):1627-1639.
[7] 张磊,刘建伟,徐翔,罗雄麟.基于相关向量机的神经活动分类及译码[J].计算机工程.2009,35(20):197-199.
[8] Subimal Ghosh,P.P.Mujumdar.Statistical downscaling of GCM simulations to streamflow using relevance vector machine[J].Advances in Water Resources,2008,31(1):132-146.
[9] Clodoaldo A.M. Lima,André L.V.Coelho,Sandro Chagas.Automatic EEG signal classification for epilepsy diagnosis with Relevance Vector Machines [J].Expert Systems with Applications,2009,36(6):10054-10059.
[10]John Flake,Todd K.Moon,Mac McKee,Jacob H.Gunther.Application of the relevance vector machine to canal flow prediction in the Sevier River Basin [J].Agricultural Water Management,2010,97(2):208-214.
[11]陈白帆,蔡自兴,袁成.基于粒子群优化的移动机器人SLAM方法[J].机器人,2009,31(6):513-517.
[12]S.Suresh,P.B.Sujit,A.K.Rao.Particle swarm optimization approach for multi-objective composite box-beam design[J]. Composite Structures,2007,81(4):598-605.
TH166
A
1009-0134(2010)11(下)-0031-02
10.3969/j.issn.1009-0134.2010.11(下).12
2010-09-13
吴良海(1978 -),男,广东高州人,讲师,硕士,研究方向为计算机应用技术。