基于改进深度信念网络的电力变压器故障诊断研究

2018-09-26李辉张志攀

软件导刊 2018年7期

李辉张志攀

摘要：针对传统算法在变压器故障诊断领域存在参数难以选取、准确率低、易误判等缺点，提出一种基于改进深度信念网络（IDBN）的电力变压器故障诊断方法。在油中溶解气体分析（DGA）基础上，首先以IDBN无监督训练方式重构原始数据特征，然后以有监督方式学习特征与故障类型之间的映射关系，最后将测试数据应用于模型并进行实验。实验结果表明，该方法不仅具有较高精度，而且在准确率方面优于传统的人工神经网络和支持向量机方法。因此，将改进深度信念网络用于变压器故障诊断具有较高的应用价值。

关键词：改进深度信念网络；变压器故障；气体分析；准确率

DOI：10.11907/rjdk.173159

中图分类号：TP319

文献标识码：A文章编号：1672-7800（2018）007-0169-04

Abstract：Aimingattheshortcomingsoftraditionalalgorithmsincludingdifficultiestoselecttheparametersinthefieldoftransformerfaultdiagnosisaccuracyandlowfalsejudgment，weproposeanimprovedfaultdiagnosismethodofpowertransformerbasedonimproveddepthbeliefnetwork（IDBN）.Onthebasisofdissolvedgasanalysis（DGA）inoil，wereconstructtheoriginaldatacharacteristicsbyunsupervisedtrainingmethodofIDBN，andthenstudythemappingrelationshipbetweenfeaturesandfaulttypesinasupervisedmanner.Finally，thetestdataisappliedonthemodelandtheexperimentiscarriedout.Theresultsshowthattheproposedmethodnotonlyhashigherprecision，butalsooutperformsthetraditionalartificialneuralnetworkandsupportvectormachinesinaccuracy.Therefore，itisofpracticalvalueandpracticalsignificancetoimprovethedeepbeliefnetworkfortransformerfaultdiagnosis.

KeyWords：improveddeepbeliefnetwork；transformerfault；gasanalysis；accuracyrate

0引言

电力变压器在电能转换、分配、传输等方面起着决定性作用，一旦發生故障，其所在电网将发生大面积瘫痪。因此，对其故障的精准诊断显得格外重要。通过对故障类型及故障位置的精准识别，可为工程师维修提供指导，从而保证电力系统的安全稳定运行。

现有的电力变压器故障诊断方法主要分为两大类[1]：一是基于实践经验的诊断方法；二是基于机器学习算法的诊断方法。第一类方法通过总结实践经验诊断故障，代表方法包括罗杰斯特法、三比值法等；第二类方法通过机器学习中的分类方法对与故障相关的数据进行分类，实现故障类型的自动识别，代表方法包括人工神经网络（ArtificialNeuralNetwork，ANN）、支持向量机（SupportVectorMachine，SVM）、极限学习机（ExtremeLearningMachine，ELM）等。然而，现有方法依然存在一些缺点：第一类方法依赖于大量实践经验及系统性总结，第二类方法尽管不依赖于实践经验，但其中的每种分类方法都有一定局限性，如：ANN收敛不稳定，且容易震荡[2]；SVM难以处理大量样本，且在处理非线性分类问题时，核函数及参数难以选取[3]；ELM学习速度快、泛化性能强，但是不稳定[4]。上述3种分类算法均为浅层学习模型，在解决复杂非线性多分类问题时能力有限。

针对上述缺点，本文提出一种基于改进深度信念网络（Improved-DeepBeliefNetwork，IDBN）的电力变压器故障诊断方法，利用IDBN算法近似任意复杂非线性映射的能力，实现对数据分布的近似建模，从而达到对故障类型的准确识别。首先，以无监督方式，从数据中自动挖掘有效特征；其次，根据样本标签，采用有监督方式对网络进行微调，以获得最优的网络参数；最后，根据调优模型对故障类型进行识别。通过工程实例，验证了所提方法的有效性，并通过与经典分类算法的对比，证明了该方法的优越性。

1改进深度信念网络原理

2006年，随着Hinton[5-6]在深度信念网络（DeepBeliefNetwork，DBN）研究领域取得巨大成功，深度学习开始成为人们关注的热点，尤其是将深度学习应用于人工智能领域具有明显优势，如语音识别、图像识别[7]、自然语言处理等。深度学习的广泛应用取决于其独特的网络结构。

1.1限制玻尔兹曼机

限制玻尔兹曼机[8]（RestrictedBoltzmannMachine，RBM）是一种特殊的马尔科夫随机场（MarkovRandomField，MRF）。一个RBM是由一个随机的隐含层（一般是伯努利分布）和一个随机的可视层（一般是伯努利分布和高斯分布）构成的。RBM可用双向图表示，所有隐含层与可视层之间均存在连接，而隐含层层内和可视层层内之间不存在连接，即层内无连接，层间全连接。具体结构如图1所示，其是一个两层神经网络，连接权重将可视层与隐含层连接，可视层接收输入数据，根据式（1）计算隐藏层神经元的激活概率。

其中，h为隐含层神经元的值，v为可视层神经元的值，w为连接权重，b为偏置，f·为激活函数。本文选取relu函数作为激活函数。

1.2改进深度信念网络结构及原理

深度信念网络与传统神经网络在结构上并无太大差异，均是多层神经元在纵向的延伸，但由于传统神经网络随着深度增加导致梯度消失，因而无法进行深度学习。Hinton提出的深度信念网络，其本质是由多个RBM堆叠而成的神经网络模型。本文提出的改进深度信念网络（IDBN）算法是在深度信念网络基础上演变而来，其具体结构如图2所示。IDBN主要架构由3个RBM堆叠而成，在传统的深度信念网络上增加了一层BN（BatchNormalization）[9]。其工作原理是首先将经过批量标准化处理（BN）的数据作为网络输入；其次将经过权重处理后的数据在进行函数激励前，再进行批量标准化处理；然后将批量标准化处理的数据作为激励函数的输入，由此输出新的特征，以避免由于新产生的特征数据分布太广，导致施加于激励函数的数据无法再现原始数据特征，从而使训练出的模型性能降低；最后，在RBM的输出端连接softmax函数，实现对故障的分类。

2改进深度信念网络预训练与优化过程

2.1预训练过程

分别单独训练每一层RBM网络，以确保特征向量映射到不同特征空间时，均尽可能地保留特征信息。在本文中，RBMh1可看作RBMh2的可见层，这里用v1……vn表示，第一个RBM的输入层即整个模型的输入层。通过将对比梯度算法作用于所有样本，并训练出h1；由于h2的可见层是h1隐含层，训练起始于将数据导入v1可见层，通过前向传播传至h1层，然后作为h2隐含层训练的初始数据。重复以上过程，便可预训练出一个由多层RBM构成的多层感知机。

2.2优化过程

在IDBN最后一层设置BP网络，接收RBM输出的特征向量作为输入向量。作为有监督训练分类器，由于每层RBM层内的权值对该层特征向量达到最优，并不代表对整个IDBN的特征向量映射达到最优，所以反向传播网络还需将误差信息自顶向下传播至每层RBM，以微调整个IDBN网络。RBM训练过程可看作对一个深层BP网络权值参数的初始化过程，使DBN克服传统BP网络因随机初始化权值参数不当而陷入局部最优，并导致训练时间过长等问题。

2.3改进深度信念训练步骤

根据改进深度信念网络的预训练和优化过程，给出其具体训练步骤：

步骤4：重复步骤2～3，直至迭代终止。

步骤5：将当前RBM神经元值进行批量标准化处理后作为下一个RBM的输入，重复步骤2～5，直至所有RBM完成训练。

步骤6：根据样本标签，采用梯度下降微调所有权重和偏置。

步骤7：利用训练好的IDBN进行故障诊断。

3实验分析

3.1数据描述与预处理

根据油中溶解气体（DGA）分析法，本文选取C2H2/C2H4、CH4/H2、C2H4/C2H6的比值作为训练样本。为避免因数据差异过大导致某些重要数据特征丢失，首先对每种特征进行归一化处理。假设样本集X={x1，x2，…，xK}，其中xi∈R1×3为一个样本，采用式（4）作归一化处理。

其中，xNi为归一化后的样本，xmax∈R1×3为每个特征量最大值构成的向量，xmin∈R1×3为每个特征量最小值构成的向量。

3.2故障类型编码

依据电力变压器在运行过程中的状态，将故障分为低能量放电故障、高能量放电故障、高温过热故障、中温过热故障、低温过热故障、局部放电故障6种类型，加上正常运行状况，共有7种健康状态，每种状态下各200个样本[10-12]，详细编码如表1所示。

3.3参数选取

由于IDBN的性能与参数选取直接相关，然而配置合适的参数并非易事。为获得最优参数配置，本文采用网格化的搜索技术确定最优学习率alpha（α）及惯量参数m。其中，m从0.1～1每隔0.1取一个值，共取10个值，α=[1×10-2，5×10-3，1×10-3，5×10-4，1×10-4，5×10-5，1×10-5]，每种参数配置下的平均准确率如图3所示。

由图3可知，不同的参数配置对算法性能有较大的影响，根据实验结果，得出当学习率为1E-5、惯量参数为0.3时，DBN性能达到最优，平均测试准确率为86.18%。因此，本文选取α=1×10-5m=0.3。

3.4方法对比分析

为证明本文提出方法的优越性，基于相同的训练样本和测试样本，采用经典分类方法ANN和SVM进行实验。ANN采取3-9-7的网络结构，即隐藏层包含9个神经元，学习率为0.08，迭代次数为2000次。SVM选取径向基核函数，惩罚系数为2048，核函数参数为0.03。由于是多分类问题，采取1对多的分类策略。10次实验的平均结果如表2所示。

纵向对比3种方法可得，本文所提方法在相同训练集上的诊断准确率优于传统人工神经网络（ANN）和支持向量机（SVM）方法。横向对比不同规模比例的训练集可得，随着训练样本数增加，平均测试准确率也随之升高。

3.5详细分类结果

图4给出7种故障的详细分类结果，可以看出，第3种类型的故障识别率非常低，这是由于高能量放电和低能量放电故障类型相似，油中溶解气体分析数据具有近似分布，因此导致87%的高能量放电故障被误分为低能量放电故障。尽管误分率非常高，但基于相似的故障类型，依然能夠为维修操作提供指导。在其它6种故障上，本文提出方法均能获得高诊断准确率。

4结语

为获得更高的诊断准确率，本文提出一种基于改进深度信念网络（IDBN）的电力变压器故障诊断方法。通过实验分析，可得出以下结论：①基于相同数据集，本文提出方法的诊断准确率优于支持向量机和人工神经网络两个经典分类方法；②随着训练样本集增加，所提方法的性能也随之提高，因此在解决多分类的故障诊断问题时，需要采集足够数量的样本；③该方法是一种有效、可靠的电力变压器故障诊断方法。

参考文献：

[1]杨蕾.基于BP人工神经网络的变压器故障诊断[J].河南科技，2015，572（9）：136-138.

[2]王涛，王晓霞.基于改进PSO-BP算法的变压器故障诊断[J].中国电力，2009，42（5）：13-16.

[3]尹娟，王媚，张金江，等.一种自主核优化的二值粒子群优化多核学习支持向量机变压器故障诊断方法[J].电网技术，2012，36（7）：249-254.

[4]遇炳杰，朱永利.加权极限学习机在变压器故障诊断中的应用[J].计算机工程与设计，2013，34（12）：4340-4344.

[5]石鑫，朱永利.深度学习神经网络在电力变压器故障诊断中的应用[J].电力建设，2015，36（12）：116-122.

[6]ZHANGZP，ZHAOJS.Adeepbeliefnetworkbasedfaultdiagnosismodelforcomplexchemicalprocess[J].ComputersandChemicalEngineering，2017.

[7]李辉，石波.基于卷积神经网络的人脸识别算法[J].软件导刊，2017，16（3）：26-29.

[8][美]邓力，[美]俞栋.深度学习：方法与应用[M].谢磊，译.北京：机械工业出版社，2015.

[9]黄文坚，唐源.TensorFlow实战[M].北京：电子工业出版社，2017.

[10]王福忠，邵淑敏，董鹏飞.变压器油中气体组分含量在线监测与故障诊断[J].河南理工大学学报：自然科学版，2015，34（3）：379-383.

[11]陈志勇，李忠杰.油中溶解气体分析在变压器故障诊断中的应用[J].变压器，2011，48（2）：64-66.