基于并行回火受限玻尔兹曼机算法的电力IEC61850数据预测

尹根 徐曦

【摘 要】为提高现有电力系统中IEC61850数据模型构建的智能化，对电力系统IEC61850数据预测可以有效地提高效率，减少出错率。提出一种基于受限玻尔兹曼机算法的IEC61850数据预测模型，并结合并行回火的算法，通过采样和交换的方式，提高预测精度。仿真结果表明，该方法可以很好地反映不同厂家数据的概率分布。

【关键词】深度学习;受限玻尔兹曼机;并行回火;电力IEC61850;模型预测

中图分类号： TN915.853文献标识码： A文章编号： 2095-2457（2019）04-0095-002

DOI：10.19694/j.cnki.issn2095-2457.2019.04.036

Data Prediction of Power IEC61850 Based on Parallel Tempering Restricted Boltzmann Machine Algorithm

YIN Gen XU Xi

（1.School of Computer，Hunan University of Technology， Zhuzhou Hunan 412007 China;

2.Key Laboratory of Intelligent Information on Perception and Processing Techonology（Hunan Province）， Zhuzhou Hunan 412007， China）

【Abstract】To improve the intelligence of the IEC61850 data model in the existing power system， the prediction of the power system IEC61850 data can effectively improve efficiency and reduce the error rate. An IEC61850 data prediction model based on the restricted Boltzmann machine algorithm is proposed. Combined with the parallel tempering algorithm， the prediction accuracy is improved by sampling and exchange. The simulation results show that the method can reflect the probability distribution of data from different manufacturers.

【Key words】Deep learning; Restricted Boltzmann machine; Parallel tempering; Power IEC61850; Model prediction

0 引言

傳统的IEC61850在变电站的数据输入方式采用人工手动配置的方式，该方式效率低，速度慢，出错率高，同时给技术人员带来较高的技术门槛。随着人工智能在电力领域的广泛应用，自动化数据输入技术以神经网络为发展趋势，将神经网络模型应用到电力行业中，大大提高了电力领域的智能化，提高了效率，节省了成本，给电网带来了巨大的效益。

深度置信网络是Hinton等自2006年提出来的，深度学习经过十多年的发展，现在已经成为机器学习的一个热点。

本文在深度学习的基础上，通过分析不同厂家的IEC61850数据模型，采用受限玻尔兹曼机（RBM）学习算法，以不同厂家的IEC61850数据为输入，通过受限玻尔兹曼模型对数据进行学习，分析其误差，实现预测模型，最终可以根据预测结果达到自动构建厂家数据的目的，通过仿真验证该模型有效性，达到预测效果。

1 受限玻尔兹曼机

受限玻尔兹曼机是一个马尔科夫随机神经网络模型，无自反馈且对称连接。它具有两层结构，由可视层和隐藏层组成，层内无连接，层间全连接，即隐藏层与隐藏层节点之间，可视层与可视层节点之间，没有连接，隐藏层与可视层节点之间满足条件独立。可视层，包含m个输入单元vi，用来表示数据的输入，每个输入单元包含一个偏置量ai，隐藏层，包含n个隐藏层单元hj，受限玻尔兹曼机在隐藏层进行输入数据的特征提取。

受限玻尔兹曼机的数据模型[1]构建过程即在当可视层的输入为v时，通过条件概率计算隐藏层的输出向量h，再通过隐藏层的输出向量h以及条件概率计算得出可视层的向量v，再与原始可视层输入的向量v进行对比，不断进行修正，最终达到计算得出可视层的输出向量v与原始可视层输入的向量v不断接近，最后达到误差要求。

受限玻尔兹曼机是一种基于能量的模型，根据给定的可视变量v和隐藏变量h可定义能量函数的数学表达式为：

其中，θ={wij，ai，bj}，wij为可视层节点i与隐藏层的节点j之间的连接权重。ai为可视层单元i的偏置，bj为隐藏层单元j的偏置。根据能量函数可以得出v和h的联合概率分布函数，其数学表达式为：

其中，Zθ为配分函数，其数学表达式为：

根据能量函数计算隐藏层第j个节点取值为1时的输入概率，其数学表达式为：

根据能量函数计算可视层第i个节点取值为1时的输入概率，其数学表达式为：

2 并行回火蒙特卡罗算法

并行回火采样对受限玻尔兹曼机模型训练是一种极其有效率的方法。在训练过程中，每个温度都对应一条gibbs链，不同的温度采用不同的gibbs链使用并行回火方法进行采样。N个不同的温度ti满足1=t1

受限玻尔兹曼机模型的并行回火蒙特卡罗算法包括两个阶段[2]：

（1）Metropolis-Hastings采样阶段：根据已有的采样值计算当前温度的下一个采样点，基本采样计算公式数学表达式为：

其中，Metropolis-Hastings表示采样函数，N0，表示均值为0，方差为的正态分布函数。tk表示温度，xi+1表示第i+1个采样点，xi表示第i个采样点。

（2）交换阶段：采样完成以后计算温度集内两个相邻温度下的可视层节点以及隐藏层节点是否满足交换的条件，并行回火受限玻尔兹曼机模型的交换条件，数学表达式为：

其中，tr和tr-1表示两个相邻的温度，E（vr，hr）表示可视层变量vr和隐藏层变量hr配置的能量函数，E（vr-1，hr-1）表示可视层变量vr-1和隐藏层变量hr-1配置的能量函数。如果满足该条件，则把相邻温度链下采样点进行交换，否则不进行交换。经过很多次的循环采样和交换，最后将t1=1温度下的采样值用于受限玻尔兹曼机训练模型参数θ。通过并行回火蒙特卡罗算法[3]获取的采样值，可使得受限玻尔兹曼机训练获得较好的效果。并行回火蒙特卡罗算法与受限玻尔兹曼机结合的模型主要是将θ={w，a，b}的权值（w）乘以温度，而偏置权值a和b不发生变化。

3 实验结果与分析

本文实验平台采用的是MATLAB R2016b， 经过对受限玻尔兹曼机进行训练，分析其均方误差是否能达到目标误差值，选取的样本包含训练样本和测试样本两类，分别为不同厂家的训练样本500个，测试样本100个，将选取的训练样本输入到并行回火受限玻尔兹曼机模型，训练次数最大为6000次，目标误差值为10-6。为了验证本模型的准确性，经过631次训练之后，并行回火受限玻尔兹曼机模型的均方误差达到目标误差值。

为了检验本模型的效率，将选取的训练样本输入到受限玻尔兹曼机模型，训练次数最大为6000次，目標误差值为10-6，经过750次训练之后，受限玻尔兹曼机模型的均方误差接近目标误差值。

4 结论

本文充分利用了受限玻尔兹曼机结合并行回火算法的优势，通过受限玻尔兹曼机模型结合并行回火算法训练之后，大大提高了深度学习对数据预测的准确性和效率，打破了传统IEC61850人工配置的方式，实现智能化，同时弥补了传统受限玻尔兹曼机在数据预测方面的不足，是其训练速度更快，针对性更强，误差越小，模型识别率就越高，效率就越高。该方法为深度学习在电力IEC61850的应用奠定了基础。

【参考文献】

[1]Ugo Fiore，Francesco Palmieri，Aniello Castiglione， et al.Network anomaly detection with the restricted Boltzmann machine[J].Neurocomputing，2013，122（Dec.25）：13-23.

[2]E. Guerrero，D. Fernández-Reyes，A. Ya？ez， et al.Evaluation of high-quality image reconstruction techniques applied to high-resolution Z-contrast imaging[J].Ultramicroscopy，2017，182：283-291.

[3]Armstrong， Matthew J.，Beris， Antony N.，Wagner， Norman J..An adaptive parallel tempering method for the dynamic data-driven parameter estimation of nonlinear models[J].AIChE Journal，2017，63（6）：1937-1958.