基于层叠泛化策略的母线负荷预测模型

黄帅栋，卫志农，丁恰，沈茂亚，孙国强，孙永辉

（1.河海大学能源与电气学院，南京 210098；2.国电南瑞科技股份有限公司，南京 210061）

基于层叠泛化策略的母线负荷预测模型

黄帅栋1，卫志农1，丁恰2，沈茂亚2，孙国强1，孙永辉1

（1.河海大学能源与电气学院，南京 210098；2.国电南瑞科技股份有限公司，南京 210061）

基于层叠泛化策略SG（stacked generalization）提出一种新的母线负荷预测方法。该方法包含两级学习层，第1层针对原始母线负荷样本空间，对一组支持向量机SVM（support vector machine）进行交互验证式训练，训练完成后得到新的特征空间，该特征空间由这些支持向量机的输出和对应的真实值组成；第2层对输出进行线性组合，将新特征空间中的输出序列作为观测，对应的输出权值作为状态，使用卡尔曼滤波对权值进行递推估计。实例仿真证明，采用所提方法模型的泛化能力得到改善，从而提高母线负荷的预测精度。关键词：层叠泛化算法；支持向量机；卡尔曼滤波；母线负荷预测

母线负荷预测的准确性是电网安全预警及智能调度技术研究的重要内容，其预测精度直接影响到电网安全预计分析、电网输送能力计算、运行计划安排等。支持向量机、人工神经网络等学习算法具有较好的泛化性能和预测精度，已经在系统短期负荷预测中取得了良好的效果[1，2]。

母线负荷的预测方法主要有两类：一类是基于系统负荷分配的预测方法[3，4]，另一类是采用母线负荷的历史数据、负荷特性以及相应的影响因素直接进行母线负荷预测[5～7]。目前的研究主要集中于第2类预测方法，通过系统负荷预测方法的改进和各种优化组合来提高预测能力。文献[5]提出基于事例推理模糊神经网络对母线负荷进行预测，该神经网络使用混合（有监督/无监督）学习算法，具备良好的泛化能力。文献[6]提出基于粒子群算法PSO（particle swarms optimization）优化的误差反传人工神经网络BP（back propagation）母线负荷预测方法（PSO-BP），通过PSO优化BP网络的权值和阈值，提高母线负荷预测精度。文献[7]将最小二乘支持向量机应用于母线负荷预测，提出一种广义网格搜索算法对最小二乘支持向量机的参数进行优化，并使用马尔可夫链方法对预测结果进行修正，收到了较好的效果。

事实上，在采用智能算法进行母线负荷预测的过程中，神经网络预测方法存在学习不足或过拟合的固有缺陷，支持向量机对于平稳的数据有较强的泛化能力，但是对于非平稳数据，效果却不是很理想[8]，而母线数据在大多数情况下都是非平稳的。针对这种情况，综合利用各种方法所提供的信息，将比单个模型更系统、更全面。因此，可以考虑使用组合预测模型来提高母线负荷的预测能力。

层叠泛化方法[9]是一种组合预测的训练方法，与一般组合方法不同的是，它通过对一组学习算法的交叉训练来得到预测结果的相对完备性，达到一个总结预测经验的效果，从而提高模型的泛化性能。该策略包含两级学习层，第1级对学习算法进行交互验证式训练，获得多组预测值，第2级可以选取相对自由的方法给各个预测值赋权值，从而得到最终的结果。

本文使用支持向量机作为层叠泛化方法第1层的学习算法，通过预测值的完备性来增强预测模型的泛化能力。在第2层中使用卡尔曼滤波进行预测权值的递推估计。实例分析验证，此方法增强了模型的泛化能力，提高了预测精度。

1 支持向量机

支持向量机是一种基于结构风险最小化原理的机器学习技术，具有较好的泛化能力[10，11]。该运用于分类问题和回归问题，都取得了良好的效果[12]。对于回归预测问题，给定训练样本集（{xi，y）i}，其中xi为输入向量，yi为输出值，N为样本数量，采用的回归函数为

式中：ω为权值向量；b为偏差；φ（x）将x映射到高维特征空间。ω和b通过最小化风险泛函得到，即

式中：C为惩罚系数；Lε为不敏感损失函数。

式中，ε为不敏感损失系数。

由于特征空间的维数很高且目标函数不可微，为方便求解，引入核函数K（xi，xj），可以将问题转化为下面的对偶问题，并采用二次规划进行求解。

目前，常用的核函数有径向基函数、多项式核函数、B-样条核函数和傅里叶核函数等[13]。在负荷预测问题中，使用径向基核函数较为普遍，且参数选择简单，因此本文采用径向基函数为核函数，即

式中，σ为核宽度。

需要特别指出的是，采用径向基核函数的支持向量机用于回归问题时，训练中需要寻优的参数为径向基核宽度σ、惩罚系数C和不敏感损失系数ε。

2 卡尔曼滤波

设离散线性系统为

对于状态方程（8），xk为k时刻状态变量，Φk，k-1为从k-1时刻到k时刻的状态转移矩阵；Γk，k-1为从k-1时刻到k时刻的输入噪声转移矩阵，ωk-1为k-1时刻的输入噪声。

对于量测方程（9），zk为k时刻量测量，Hk为量测矩阵，vk为测量噪声。

其中动态噪声{ωk}和量测噪声{vk}是互不相关的零均值白噪声序列，即对所有的k和j，其基本统计性质为

3 层叠泛化方法

3.1 层叠泛化方法原理

层叠泛化是一种将多个学习算法组合训练的方法，它通常由两级学习网络构成，第1级由M个不同的映射，即

式中，f1m表示第1级中第m个映射。对所有映射进行交互验证式训练，对同一样本反复抽取训练集和测试集来得到一组由预测值组成的新样本空间，这些预测值包含了预测结果的多种情形，保留了各个学习算法预测空间的信息；第2级由一个映射f2构成，将由第1级得到的新样本空间作为映射f2的输入进行计算，得到最终的结果，其中f2的选择相对自由。

3.2 使用SVM建立第1层模型

使用支持向量机算法构建第1级映射，顾及训练时间，将数量确定为3个，即

选择不同的不敏感损失系数ε，支持向量机将有不同的预测效果。这里将ε直接设定，在训练过程中对各个算法的惩罚系数C和核宽度δ进行寻优，这样既避免对ε寻优造成的训练时间过长，同时又顾及到各个不敏感损失系数ε下支持向量机的预测能力。

采用支持向量机的层叠泛化方法的第1层网络建模过程如图1所示。

图1 层叠泛化方法第1层网络训练过程Fig.1Training process of level-1 of stacked generalization

引入训练样本

步骤4重复步骤2～步骤3，得到所有训练输入对应的新样本，组成新的样本空间为

步骤5使用全部训练样本对f1各个支持向量机再进行训练，得到用于预测的第1级学习网络L1。

3.3 使用卡尔曼滤波建立第2层网络

第2级映射f2的输入由第1级的预测值组成，可将问题等效为多个预测值的加权组合问题，即

其中权值矩阵Ai=[ai1，ai2，ai3]。

本文使用卡尔曼滤波算法对权值进行估计，将样本各日同一时刻看做一个时间序列，将权值序列作为状态量，预测序列作为观测量，对每组序列分别建立卡尔曼滤波的状态方程和量测方程，对权值进行递推估计。

每一组序列的状态方程和量测方程为

式中：t=1，2，…，96；Ak（t）为t时刻状态矩阵；由于是同一时刻，负荷变化幅度较小，因此可以令状态转移矩阵Φk，k-1（t）=I。

递推过程如下：

步骤1设定初始条件；

步骤2对以权值矩阵为状态变量的模型运用式（11）～式（15）进行递推，求出需要预测时刻的状态变量k（t），最后得到预测方程为

步骤3重复步骤2，对96组序列分别进行卡尔曼滤波计算递推权值。

4 实例仿真

为验证本文方法的预测效果，对一条220 kV母线进行96点预测，以2010年12月1日至12月10日的数据为训练样本，12月11日为测试样本。分别采用平均日准确率和相对误差进行评价。

式中：Ak为k时段的区域统计误差；M为区域内可考核的母线负荷总数；N为日预报总时段数；Ei，k为母线i负荷k时段的引用误差，其表达式为

对于第1级3个支持向量机中的不敏感损失系数采用枚举的方式，取值分别为ε11=0.01，ε12= 0.05，ε13=0.10。

卡尔曼滤波需要知道确切的输入噪声协方差Q和测量噪声协方差R，且噪声协方差的精确度与滤波效果的好坏息息相关。但在实际负荷预测中，根据已知信息很难准确获得先验的Q和R的值，本文不对其取值进行讨论，取为

使用本文方法建模，并将预测结果与组成层叠泛化策略的3个支持向量机的预测效果进行对比，结果如表1所示。

由表1可知，单个支持向量机模型的预测效果都不是很理想，其中最低的相对平均误差为8.57%，而使用层叠泛化策略，将误差降低了3.84%，最大相对误差和准确率在所有模型中也达到最优，最小相对误差虽然未能降低，但也维持在一个比较低的水平。通过对4个模型96个时刻相对误差进行对比发现，如图2所示，使用本文方法后共有67个点的预测效果得到了提高，占所有预测点的69.79%，其中提高的预测时刻主要集中在1～29、50～72和84～96点。

表14 个模型的预测效果Tab.1Comparison of forecasting error among four models

图24 种模型的相对误差比较Fig.2Comparison of relative error by four models

图3为分别使用3个支持向量机模型和层叠泛化策略进行预测后的实际值和预测值的对比，其中12月10日为训练集中的最后一天，12月11日为预测日。从图中可以看到，训练集12月10日3个支持向量机模型在1～29和50～96点时刻的预测值均高于真实值，11日负荷曲线的1～29和84～96点的负荷与10日相同时刻相比均呈现下降趋势，其他时刻负荷基本相似。单独使用支持向量机模型预测11日的负荷，与10日的预测效果相似，其预测值相比真实值仍然是偏大，特别是在1～29点和85～96点时刻，误差更加明显，而使用层叠泛化策略后，在3个支持向量机预测值的基础上再进行降低，在一定程度上跟踪了负荷的下降趋势。

图34 种模型的预测曲线Fig.3Forecasting curves of load by four models

由上述结果可以看出，使用基于层叠泛化策略的预测模型比单个学习算法预测模型的预测精度更高。为进一步验证本文所提方法的有效性，分别使用BP神经网络方法[15]和基于粒子群算法优化的BP神经网络方法[6]与本文方法进行比较。使用同样的训练样本和测试样本，对随机选取的10条220kV条母线负荷进行预测，比较结果如表2所示。

由表2可知，单独使用BP神经网络模型的预测效果一般，个别母线比如母线5和母线8的预测准确率较低，而采用PSO优化之后，预测效果得到了提高，特别是母线5和母线8。采用本文方法以后，预测效果得到进一步的改善，除母线7以外，其余母线的预测准确率均高于其余两种预测方法。

表2 BP、PSO-BP与SG模型的预测效果比较Tab.2Comparison of forecasting error among BP，PSOBP and SG models%

5 结语

本文将层叠泛化的训练策略引入到母线负荷预测中。在第1层中通过反复抽取训练集和测试集来对3组支持支持向量机进行建模，并进行预测，这些预测值包含了预测结果的多种情形，保留了各个支持向量机预测空间的信息；在第2层中针对新的预测值空间建立状态方程和观测方程，并使用卡尔曼滤波算法对权值进行估计。最后，实例仿真结果表明，本文方法提高了模型的泛化能力，提高了母线负荷的预测精度。

[1]卫志农，王丹，孙国强，等（Wei Zhinong，Wang Dan，Sun Guoqiang，et al）.基于级联神经网络的短期负荷概率预测新方法（A novel method of short time load probability forecasting based on cascaded neural network）[J].电工技术学报（Transactions of China Electrotechnical Society），2005，20（1）：95-98．

[2]李林川，夏道止，杨振平，等（Li Linchuan，Xia Daozhi，Yang Zhenping，et al）.应用人工神经网络进行短期负荷预测（Short-term load forecasting using artificial neural network）[J].电力系统及其自动化学报（Proceedings of the CSU-EPSA），1994，6（3）：33-41．

[3]汪峰，于尔铿，周京阳（Wang Feng，Yu Erkeng，Zhou Jingyang）.能量管理系统（EMS）第4讲电力系统负荷预报（Energy management system（EMS）part four：electric power load forecasting）[J].电力系统自动化（Automation of Electric Power Systems），1997，21（4）：66-69．

[4]韩力，韩学山，贠志皓，等（Han Li，Han Xueshan，Yun Zhihao，et al）.多节点超短期负荷预测方法（Method for ultra-short term multi-node load forecasting）[J].电力系统自动化（Automation of Electric Power Systems），2007，31（21）：30-34．[5]余贻鑫，吴建中（Yu Yixin，Wu Jianzhong）.基于事例推理模糊神经网络的中压配电网短期节点负荷预测（CBRFNN-based short-term nodal load forecasting for middle voltage distribution networks）[J].中国电机工程学报（Proceedings of the CSEE），2005，25（12）：18-23．

[6]彭信淞，贺辉，姚建刚，等（Peng Xinsong，He Hui，Yao Jiangang，et al）.用PSO优化BP神经网络的母线负荷预测方法（Method of bus-load forecasting using BP neural network optimized by PSO）[J].电力系统及其自动化学报（Proceedings of the CSU-EPSA），2010，22（5）：146-151．

[7]李光珍，刘文颖（Li Guangzhen，Liu Wenying）.基于LSSVM和马尔可夫链的母线负荷短期预测（Bus load short-term forecast based on LSSVM and Markov chain）[J].电力系统保护与控制（Power System Protection and Control），2010，38（11）：55-59，66．

[8]韩中合，朱霄珣（Han Zhonghe，Zhu Xiaoxun）.基于信息熵的支持向量回归机训练样本长度选择（Selection of training sample length in support vector regression based on information entropy）[J].中国电机工程学报（Proceedings of the CSEE），2010，30（20）：112-116．

[9]Wolpert D H.Stacked generalization[J].Neural Networks，1992，5（2）：241-259．

[10]Vapnik V N.The Nature of Statistical Learning Theory[M]. New York：Springer，1995．

[11]Vapnik V N.An overview of statistical learning theory[J]. IEEE Trans on Neural Network，1999，10（5）：988-999．

[12]Burges C J C.A tutorial on support vector machines for pattern recognition[J].Data Ming and Knowledge Discovery，1998，2（2）：121-167．

[13]邓乃扬，田英杰.数据挖掘中的新方法-支持向量机[M].北京：科学出版社，2004．

[14]邓自立.卡尔曼滤波与维纳滤波-现代时间序列分析方法[M].哈尔滨：哈尔滨工业大学出版社，2001．

[15]辛丽虹（Xin Lihong）.电力系统母线负荷预测研究（Research for Power System Bus Load Forecasting）[D].成都：四川大学电气信息学院（Chengdu：School of Electrical Engineering and Information of Sichuan University），2000．

Bus Load Forecasting Model Based on Stacked Generalization

HUANG Shuai-dong1，WEI Zhi-nong1，DING Qia2，SHEN Mao-ya2，SUN Guo-qiang1，SUN Yong-hui1
（1.College of Energy and Electrical，Hohai University，Nanjing 210098，China；
2.NARI Technology Development Co.Ltd.，Nanjing 210061，China）

A novel method for bus load forecasting was proposed based on stacked generalization.The proposed approach includes two learning level spaces.The first one is for the original bus load data space，after the cross-validation training and testing on a set of SVMs，a new space，composing of the output of the SVMs and the corresponding original data，is obtained and named as“level 1 space”.Then，in the“level 2 space”，the original output series and corresponding output weights are taken as the observations and states of Kalman filter，respectively.Finally，simulation results demonstrate that higher generalization accuracy can be obtained by using the proposed hybrid method，thus the forecasting accuracy can be improved greatly.

stacked generalization；support vector machine（SVM）；Kalman filter；bus load forecasting

TM714

A

1003-8930（2013）03-0008-05

黄帅栋（1988—），男，硕士研究生，研究方向为电力系统负

荷预测。Email：hsd_1436@163.com

卫志农（1962—），男，教授，博士生导师，研究方向为电力系统运行分析与控制、输配电系统自动化等。Email：wzn_nj@263.net

丁恰（1974—），男，硕士，工程师，研究方向为电力系统调度自动化及其应用软件。Email：dingq@narithech.cn

2012-03-30；

2012-06-21

国家自然科学基金项目（50877024，51107032，61104045）