基于模糊神经网络的电力调度自动化设备健康评估①

李 鹏,李 丹,李喜旺,高 宇

1(中国科学院大学,北京 100049)

2(中国科学院 沈阳计算技术研究所,沈阳 110168)

3(国家电网东北分部,沈阳 110180)

4(美国加州州立大学富勒顿分校,加利福尼亚州 92834)

随着信息化的不断发展,很多行业都从信息技术中受益.电力行业调度系统也从传统的人工监测、人工控制慢慢转变为融自动化监测与自动化控制为一体的自动化系统.电力调度自动化系统主要担负着对所属各电厂数据采集、存储以及电厂的启停调度.其安全性与稳定性直接影响着电力调度网的运行质量.传统的电力调度系统的安全性与稳定性监测主要依靠技术工程师对设备进行定期检修和事后维修[1,2].定期检修的时机完全依靠经验进行分析,而电力调度自动化系统功能与结构都比较复杂,存在诸多不确定因素,很难依靠主观经验确定合适的检修时机,较大的检修周期会增加系统出故障的可能性,较小的检修周期又会增加检修成本.当系统出现故障后再进行维修的事后维修策略则更加无法保证系统的安全稳定运行.因此在系统出现故障之前通过对设备各运行指标进行监测,然后建立设备状态评估模型进行有效的评估显得格外重要.

许丽佳等[3,4]将隐马尔可夫模型应用于电子设备的状态监测和健康评估,但是受隐马尔可夫模型假设的限制,导致模型评估结果的准确性不高.神经网络具有自学习、自适应以及强大的非线性化逼近能力,张璇[5]利用BP神经网络模型进行电力通信网络设备的状态评估,但是传统的BP神经网络为”黑盒模型”,可解释能力较弱.倪丽等[6]利用模糊综合评判理论进行电力变压器的状态评估,但是因为模糊评判理论没有学习能力,并且建立模糊关系矩阵比较困难,因此评估结果的准确率不高.文献[7]将模糊理论与支持向量机结合进行设备状态的评估,但是支持向量机学习算法对于所用模糊参数的调整能力较弱,无法充分发挥模糊理论的作用.

电力调度自动化设备状态受诸多评价指标的影响,同时各评价指标之间也存在着复杂的联系,针对此类非线性评估问题,神经网络模型强大的非线性拟合能力能够很好的予以解决,然而评价指标与设备状态之间的关系并不是确定的,而是模糊的,难以精确表达的,考虑到模糊模型在模糊表达知识上的优越性,本文将模糊理论与神经网络进行结合应用到设备状态评估当中,模型的非线性拟合能力以及模糊表达能力的都得到较大提升,提高了评估模型的准确率.

1 模糊神经网络基本原理及其适用性

1.1 模糊神经网络概述

模糊神经网络将模糊理论与神经网络进行结合[8,9],将模糊概念和模糊推理引入神经网络,一方面提高了神经网络的可解释性和灵活性,另一方面利用神经网络的学习算法设计和调整模糊系统的相关参数[10],实现了模糊系统的自适应功能.

1.2 模糊神经网络结构

如图1所示,传统模糊神经网络一般分为五层[11].第一层为输入层,节点个数为输入变量的个数;第二层为模糊化层,将输入变量进行模糊化;第三层为模糊规则层,节点个数为模糊规则数;第四层为反模糊化层,用于将模糊量进行去模糊化;第五层为输出层.

图1 传统模糊神经网络结构

本文在对设备进行状态评估时,将第四层直接作为输出,输出层共四个神经元节点,每个神经元节点代表设备的一种状态,神经元节点的数值代表设备对这种状态的隶属度.这样具有四个输出层节点的四层模糊神经网络如图2所示,详细介绍如下:

第一层为输入层,xi,i=1,2,,n,代表n个输入变量,本文中指影响设备运行状态的性能指标,如CPU温度、内存占用率、网络丢包率等,第一层的作用是直接将输入传递到第二层.

第二层为模糊化层: 用于计算输入变量对不同模糊集的隶属度.该层神经元的作用是将第一层的输入变量xi划分为mi个模糊度,因此共m个 神经元,m=m1+m2+ +mn.该层神经元与第一层神经元之间的连接权值都为1,隶属函数作为每个神经元的激活函数.考虑到高斯型隶属函数在处理非二值输入和空间映射方面具有较大优势[12],因此选择式(1)所示的高斯型隶属函数作为模型的隶属度函数:

图2 四层模糊神经网络结构

其中,µij表示第i个输入变量隶属与第j个模糊集的隶属度 函数;cij为隶属函数µij的中心值;σij为隶属函数µij的宽度值.

第三层为模糊规则层,也称为“与”层,该层神经元的个数表示模糊规则数.每个神经元与上一层的mi个神经元中的一个节点相连,因此共R=m1+m2+ +mn个神经元,每个连接的权值为1.每个神经元内部进行“与”操作,即“AND”操作,也就是求每个输入变量的隶属度的最小值,通过式(2)进行计算:

第四层为反模糊化层,也称为“或”层,该层神经元的个数表示模糊集合的个数,本文中表示设备可能的状态.该层神经元与上一层神经元之间为全连接,权值ωjk为需要调整的参数,神经元的输出值表示设备对这个状态的隶属度.

1.3 模糊神经网络学习算法

采用均方误差函数作为该模糊神经网络的损失函数:

由式(5)-(7)可以发现模型需要进行调整的参数有三种:cij,σij和ωjk,这三种参数可以通过如下方法进行迭代更新:

其中,η表示学习率,t表示迭代的次数.

1.4 模糊神经网络的适用性

针对电力自动化设备健康评估,设备不同状态下不一定会出现某些显而易见的现象,实际情况更多的是设备的某些参数偏高或者偏低,而在设备健康评估时,一般依靠经验来处理这些“偏高”或者“偏低”的模糊概念.为解决此类具有模糊性以及参数难以定量描述的问题,本文引入模糊理论进行处理.模糊神经网络能够将输入进行模糊化处理然后进行模糊推理,由于设备健康评估的影响因素如温度、占用率等具有很强的模糊性难以定量描述,采用模糊神经网络将输入通过隶属函数进行处理,从而可以进行定量描述,很好的适应了设备健康评估问题.

2 基于模糊神经网络的电力调度自动化设备健康评估模型

在复杂系统中,每个对象对于集合的隶属关系并不是明确的,而是相对模糊的[14].电力调度自动化系统就是一个相对复杂的系统,在这个系统中有数量庞大的IT设备,设备的评价指标有很多,如温度、网口状态、网络流量、内存使用率、硬盘使用率、CPU负荷率等[15],这些指标量更适合用模糊理论进行分析,用模糊集合描述评价指标,用数据指标的隶属度描述当前运行情况.神经网络具有较强的自学习功能,可根据历史数据学习结果来调整系统运行参数,针对个体设备提供更准确的、更具个性化的健康评价.本文采用的将模糊概念和神经网络结合的模糊神经网络模型可以极大提升电力调度自动化设备健康评估的效果.

将模糊神经网络模型应用到电力调度自动化设备健康评估的具体流程如图3所示,具体步骤如下:

(1)整理存储的设备6个月内的运行信息,包括:CPU温度、硬盘温度、板卡温度、网口状态、网络流量、网络延迟、内存使用率、硬盘使用率、CPU使用率、网络丢包率、设备运行时间11个指标.

(2)对设备的运行状态进行划分等级.根据专业人员的分析和历史经验的总结,将设备运行状态分为四个等级,如表1所示.

(3)通过计算设备各运行指标之间的皮尔逊相关系数,删除部分冗余特征.皮尔逊相关系数是衡量两个随机变量之间线性相关程度的指标,描述的是一种非确定性相关系数[16],计算公式如式(8)所示:

其中,Cov(X,Y)表示随机变量X与Y的协方差矩阵,µX,µY分别表示随机变量X与Y的期望,σX,σY分别表示随机变量X与Y的方差.相关系数r的取值范围为[-1,1],绝对值越大说明两个随机变量的相关程度越高,r大于0表示正相关,r小于0表示负相关,r等于0表示不相关.通过利用皮尔逊相关系数筛选最终用于训练模型的特征包括: CPU温度、硬盘温度、板卡温度、内存使用率、CPU使用率、网络丢包率、设备运行时间7个指标.

图3 电力调度自动化设备健康评估流程

表1 设备状态分级

(4)因为各指标的值域不同,因此需要对各指标进行归一化处理,归一化计算公式如式(9)所示:

其中,Xmax表 示属性X的最大值,Xmin表示属性X的最小值.各特征经过归一化处理后,数值范围都变换到[0,1]之间,这不仅可以消除量纲的差异还可以加速模型的收敛速度[17].

(5)初始化需要训练的模型参数,主要包括三类参数:cij,σij和ωjk.其中cij表 示隶属函数的中心值,σij为隶属函数的宽度值,ωjk为模糊规则层与反模糊层之间的连接权重.

(6)更新模型参数直到满足模型训练的结束条件.传统的模型终止条件有两种,一种是当模型的输出值与真实值的误差小于设置的阈值时终止模型训练,另一种是当迭代次数到达设置的次数时终止训练.本文在此基础上增加模型训练的早停技巧,即当模型在测试集上的误差增大时,提前停止训练模型,这样可以有效的避免模型的过拟合问题.

(7)保存模型.当模型训练完成之后需要将模型保存到文件中,以便之后的模型使用.采用python语言的pickle模块将模型序列化存储到本地文件中,当使用模型时,对序列化后的文件进行反序列化处理,即可恢复原始模型进行使用.

3 实验分析

为了体现本文所用方法在电力自动化机房设备健康评估方面的有效性,对传统神经网络的模型效果和本文所用模型效果进行了对比,通过实验结果显示,本文所采用模型的效果优于传统神经网络模型的效果.

3.1 实验数据

利用6个月内共计17 280个设备运行数据进行模型的搭建,将17 280个数据划分为训练集、验证集和测试集,如表2所示.每一条数据包含4个设备运行信息和3个设备硬件信息,如表3所示.

表2 数据集划分

3.2 实验结果

利用上述处理好的实验数据进行模型训练,模型的训练集均方根误差和测试集均方根误差如图4所示,纵坐标表示均方根误差RMSE,横坐标表示迭代次数,可以看出模型的训练误差随着迭代次数的增加整体趋势是不断减小的,但是测试误差先是不断减小然后又有上升趋势,其原因就是模型发生了过拟合,因此需要提前终止模型训练,根据结果分析,选取迭代75轮时的模型作为最终的模型.

表3 设备监测特征

图4 训练误差与测试误差

3.3 实验对比

传统的三层BP神经网络,激活函数为Sigmoid函数,此类BP神经网络模型无法有效处理模糊输入信息同时无法利用已有的专家知识.本文所采用的模糊神经网络模型将神经网络与模糊理论有机的结合起来,不仅可以处理模糊信息同时具有较强的学习能力与自适应能力,通过图5的结果对比可以看出本文所用的模糊神经网络模型效果要优于传统的三层BP神经网络模型,说明模糊神经网络更加适用于电力自动化机房设备的健康评估.

4 结论与展望

本文首先介绍了模糊理论与神经网络的相关概念,接着分析了将二者进行结合的模糊神经网络的原理,然后将模糊神经网络应用到电力调度自动化系统设备健康评估中.具体操作包括: 数据的收集、特征的选取以及模型的搭建,并且比较了本文所建立的四层模糊神经网络模型和传统三层BP神经网络模型的效果,实验结果表明,本文所建立的模型极大的提升了设备健康评估的效果,针对IT设备可以给出更加精确的评估,对于电力自动化机房的正常运行具有重要意义.虽然本文所建立的模型效果优于传统的三层BP神经网络模型,但是还有较大的提升空间,比如选取更加有效的反映设备状态的特征,选取更加合适的算法学习率和模型的初始参数,这些问题都可以进一步提升模型对设备状态的评估效果,这将是下一步需要进行完善的.

图5 传统神经网络与模糊神经网络结果对比