基于改进最小二乘支持向量机的短期负荷预测

孙　薇, 刘默涵

(华北电力大学 经济与管理学院，河北 保定 071003)



基于改进最小二乘支持向量机的短期负荷预测

孙薇, 刘默涵

(华北电力大学 经济与管理学院，河北 保定 071003)

摘要：为了提高短期负荷预测的精度，提出基于量子差分进化算法(Quantum Differential Evolution，QDE)优化的最小二乘支持向量机(Least Squares-Support Vector Machine，LSSVM)模型。该算法克服了最小二乘支持向量机算法中依据经验选定参数的盲目性。实例验证结果表明，QDE-LSSVM的预测精度要远高于BP神经网络与单纯的最小二乘支持向量机，证明了利用量子差分进化选取最小二乘支持向量机的有效性。该算法更适用于当前中国短期负荷预测的需要。

关键词：短期负荷预测；参数优化；量子差分进化；最小二乘支持向量机

0引言

“十二五”规划期间，随着电力市场化改革的进一步深化与智能电网的大规模试点，精度较高的负荷预测对保障智能电网的安全稳定运行与电能资源的优化配置起到至关重要的作用。故不断改进负荷预测方法，提高预测的精度，对于制定经济优化的发电计划、降低旋转储备容量、进行电力市场需求分析等方面均有十分重要的意义。

目前，用于负荷预测的方法大体可以分为经典的数学统计方法和基于人工智能的方法，其中，大多数负荷预测理论都基于时间序列分析，包括自回归模型(VAR)[1]，自回归滑动平均模型(ARMA)[2]等，时间序列平滑预测法的模型识别与参数估计都是根据有限序列去推断原序列式的性质来完成，这种推断误差较大，不能满足短期负荷预测精度需要。随着世界各国电力市场的发展，负荷预测受到了更加广泛的重视，神经网络预测技术[3，4]，LSSVM[5，6]等自学能力较强的预测方法都在负荷预测中应用广泛。其中，人工神经网络(ANN)的应用最为广泛[7]， Beccali[8]利用无监督与有监督神经网络的组合方法成功预测了郊区24 h的电能需求。Bashir[9]在人工神经网络的训练阶段，引入粒子群(PSO)进行权重调整，以提高短期负荷预测的准确性。负荷预测是ANN在电力系统应用中最合适的领域，但在实施时也存在很多实际问题，神经网络模型输入的原始数据必须以精准为前提，而实际预测时，因统计存在差异，使得数据同实际值有一定差别，导致神经网络模型预测精度不理想。

与神经网络算法采用经验风险最小化原则不同，支持向量机(SVM)采用的是结构风险最小化原则，克服了神经网络中的不足，但由于SVM算法中的超平面参数选择问题，致使其求解规模过大。为此Suykens等人提出的最小二乘支持向量机，在其优化问题的目标函数中使用二范数，并利用等式约束条件代替SVM标准算法中的不等式约束条件，使得LSSVM方法的优化问题的求解变为通过Kuhn-Tucker条件得到的一组线性方程组的求解[10]，Yang Chenjun[11]将最小二乘支持向量机成功应用至风速预测中。 但是正则化参数与核参数的选择极大影响着LSSVM的性能，为此本文通过量子差分进化算法优化最小二乘支持向量机模型的正则化参数与核函数参数，实现参数的自动调整。实例验证结果表明，与BP神经网络和单纯的LSSVM算法相比，QDE-LSSVM的预测精度更高，更适用于当前中国短期负荷的需要。

1最小二乘支持向量机

(1)

式中：w为特征空间中的权系数向量；b∈R为常数。

根据结构风险最小化准则，求解上述回归问题的最小二乘支持向量机模型如下：

(2)

式中：γ>0为惩罚系数；ei为回归函数值与实际值的误差。用拉格朗日方法求解这个优化问题，将约束优化问题转化为无约束优化问题，在对偶空间可得到：

(3)

式中：λi≥0 为拉格朗日乘数。根据Karush-Kuhn-Tucker条件，可以得到如下等式：

(4)

对式(4)消去w和ei可得到如下线性方程：

(5)

式中：E=[1,…,1]T；y=[y1,…,yN]T；λ=[λ1,…，λN]T；I为N×N阶单位矩阵；R为N×N阶矩阵，且Rij=φ(xi)Tφ(xj)根据Mercer定理，定义高斯径向基函数：

(6)

求解得到λ和b，则相应的LSSVM最优线性回归函数为

(7)

从训练LSSVM存在的问题来看，能够发现正则参数γ与核函数σ对LSSVM模型的精度有重要影响。在本文的研究中，这些参数将通过QDE算法从训练阶段直接调用。

2量子差分进化算法

量子进化算法是受量子计算思想的启发而产生的一种新型的算法，在避免陷入局部最优值问题上有着卓越的成效。差分进化算法是一类基于种群的启发式全局搜索算法，目前已在神经网络学习，多目标优化等问题上得到广泛应用，但由于其算法限制，容易造成“早熟”或求解时间过长，导致最后难以达到全局最优。为此，本文将量子计算引入到差分进化算法中，提出量子差分进化算法，该方法将量子比特的概率幅表示应用于染色体的实属编码，用量子变异、量子交叉、量子选择操作实现染色体位置的更新，从而在防止算法早熟的同时使算法更快收敛。QDE算法步骤如下：

(1)种群初始化：在量子计算中，采用量子比特|0〉和|1〉表示微观粒子的两种基本状态，则任意时刻的量子位状态为

(8)

式中：α，β为量子位对应状态的概率幅，且|α|2+|β|2=1。因此，量子比特也可表示为[cos(θ),sin(θ)]T。

在QDE中，量子染色体采用实数编码，方式如下：

(9)

式中：θ=2πrand，rand∈[0,1]；i∈{1,2,…,N}；j∈{1,2,…,D}；D为问题的维数；N为种群规模。

根据N条量子染色体组成的初始种群Q；设Pm为变异概率，C为收缩因子。

(2)解空间变换与适应度计算

(10)

(3)量子自身位置旋转角的调整

对种群中的每一条染色体，按照如下公式计算量子自身位置旋转角

(11)

(12)

式中：θmin为Δθ区间的最小值0.001π；θmax为Δθ区间的最大值0.05π；fitgBest为搜索到的全局最优个体的适应度；fiti为当前个体的适应度；gen为种群的前迭代次数；maxgen为种群限定的最大迭代次数。

(4)量子变异操作

QDE算法中量子染色体状态的更新借鉴传统差分进化算法，随机从量子种群中选择一个量子染色体，并用其中的量子比特相位作为基向量与另外两个不同的量子染色体的量子比特相位作为差分向量。

(13)

(5)量子交叉操作

将量子变异个体与预先确定的父代个体按一定规则混合从而产生新的个体。

(14)

式中：j∈{1,2,…,D}；D为问题的维数；jrand为{1,2,…,D}中随机选择的一个整数；交叉概率Cr∈[0,1]。

(6)量子选择操作

采用一对一的贪婪算法选择算子，使适应度更优的个体进入下一代。

(15)

(16)

量子位更新后的新位子表达式为：

(17)

(7)计算结果比较

若算法达到迭代次数或满足收敛条件，记录最优结果，程序结束，否则返回步骤(2)。

3基于量子差分进化的最小二乘支持向量机的建模过程

在基于量子差分进化的最小二乘支持向量机建模中，最小二乘支持向量机的输出值y′为带有γ和σ的因变量，而正则参数γ与核函数σ由量子差分进化算法进行优化选取，优化的目标函数为输出值y′与实际值y的误差平方和。

优化目标函数定义为：

(18)

则基于QDE的LSSVM模型参数的组合寻优步骤如下：

(1)参数初始化

QDE算法的主要参数为种群规模N，染色体长度D，变异因子F，交叉因子C和最大世代数g，其中，g初始化为0。

(2)种群初始化

产生一个N·D规模均匀分布的随机数矩阵，按照以下方式：

Xi,j=rand·(high[j]-low[j])+low[j]

(19)

其中，i=1,2,…,N，j=1,2,…,D，high[j]与low[j]分别表示第j列的上界和下界。

(3) 量子编码

对初始种群进行量子编码。

(4) 变异操作

(5)交叉操作

交叉操作可以增加种群多样性，该操作按照公式(14)进行。

(6)选择操作

选择操作保证更优的后代生存到下一个世代，选择操作的原则是按照最优适应度进行，适应度的计算是按照公式(15)进行。综上，基于QDE改进的LSSVM算法流程图如图1所示。

图1　QDE-LSSVM的算法流程图

4算例分析

本文应用MATLAB软件编程实现了基于QDE改进LSSVM的短期负荷预测，并结合实例对预测结果进行分析。选取山西阳泉2013-5-01至2013-5-30的720个数据作为训练样本，2013-5-31的数据作为测试样本。该地区电网负荷受气象因素影响较大，季节气温差异明显，降水存在明显的季节性变化，本文负荷预测考虑的相关因素包括：日分类A={0,0.8,1}，0表示样本日为工作日(周一至周五)，0.8表示一般休息日(周六、周天)，1表示节假日(法定节假日与民间节日)；日温度(日最高温度，日最低温度)；日降水量。

为了准确评估预测模型，本文采用平均相对百分比误差μMAPE与最大相对误差μmax来衡量模型预测结果的可行性。前者可以衡量模型在每个数据点的平均预测能力，后者则能够较好地衡量全天负荷预测值与实际值的接近度，μMAPE与μmax的计算方法如公式(20)与公式(21)所示。

(20)

(21)

如前文所述，LSSVM的参数选择极大影响其预测的准确性。本文在Matlab2013环境下采用LSSVMlabv1_8工具包，应用tunelessvm语句计算出未经过QDE优化的LSSVM的参数为(r,σ2)=(0.464,172.5)。作为对比模型的BP神经网络，网络结构设置为2-5-1，即输入层有2个节点，隐含层有5个节点，输出层有1个节点。设定BP神经网络的迭代次数为1 000，学习率为0.5，目标为0.000 04，由Matlab2013自带工具包执行。 经过QDE优化后的LSSVM的参数为(r,σ2)=(0.372,152.4)。

表1与图2给出了QDE-LSSVM，LSSVM与BP神经网络的短期负荷预测结果，在电力市场环境下，短期负荷预测于实际值的误差应在[-3% +3%]，从表1可以看出QDE-LSSVM的预测误差范围为[0.16% 2.09%]，LSSVM的预测误差范围为[0.44% 2.69%]，BP神经网络的预测误差范围为[0.08% 5.37%]，BP神经网络的预测结果中，有5个点的预测值误差超过了规定的范围，且从图2中可以看出，BP神经网络的预测值波动性较大，不能满足短期负荷预测要求的稳定性原则。而经过改进的LSSVM模型最大预测误差降低了0.6%，能够满足实际电力系统负荷预测的要求，通过图2可以看出，QDE-LSSVM算法更加接近原始曲线。

表1　QDE-LSSVM与LSSVM，BPNN的预测结果比较

表2给出了3种预测方法的平均相对误差与最大相对误差，其中QDE-LSSVM的平均相对误差最低，为1.06%；BP神经网络的平均相对误差最高，为1.8%；而LSSVM的平均相对误差介于这两种方法之间，为1.61%。QDE-LSSVM的平均相对误差比BP神经网络低0.74%。这表明，与BP神经网络相比，QDE-LSSVM在小样本集合回归问题上具有显著优势。原因是LSSVM满足结构风险最小化原则，具有较强的推广能力，可以避免ANN法对训练样本数量和质量要求较高的不足。QDE-LSSVM的平均相对误差比LSSVM低0.55%，这表明QDE-LSSVM的预测效率要优于LSSVM。

图2　QDE-LSSVM，LSSVM与BPNN预测结果比较曲线图

QDE-LSSVMLSSVMBP神经网络μMAPE1.061.611.80μmax2.092.695.35

与其他优化算法不同，QDE算法采用量子编码方案，在进行短期负荷预测时，能增加对解空间的遍历能力，从而突破局部机制的陷阱。同时，个体未知的更新用量子旋转门实现，充分发挥了量子计算的优势，与传统的智能算法相比，具有较强的搜索能力与效率。因此，在算例中，与其他优化算法相比，基于QDE改进的LSSVM算法在精度上有明显优势。

5结论

(1)根据确定LSSVM参数存在的问题，引入QDE对参数进行优化。实验结果表明，提出的方法能够自动提取识别效率高且收敛速度较快的参数。

(2)提出了应用QDE-LSSVM法进行短期负荷预测。实验结果表明，与BP神经网络和LSSVM法相比，QDE-LSSVM算法能够实现较高的预测精度，验证了所构建模型的正确性和有效性。作为一种启发式混合算法，本文所提出的方法能够为智能电网制定科学合理的发电计划提供一定的依据。

参考文献：

[1]马立新,郑晓栋,尹晶晶. 主分量启发式约简算法的短期负荷预测[J]. 电力科学与工程,2015,31(1):27-30，43.

[2]张勇,白先红,张勇军,等. 基于AHP-GCA及多元线性回归模型的电压合格率预测[J]. 电力科学与工程,2014,30(5):1-5.

[3]张红,金月,郭彦春. 改进RBF神经网络在短期负荷预测中的应用[J]. 科技资讯,2014,29:89.

[4]张少迪. 基于PSO-BP神经网络的短期负荷预测算法[J]. 现代电子技术,2013,12:155-158，162.

[5]梁妮晓. 基于改进果蝇算法优化支持向量机的短期负荷预测[D].南宁：广西大学,2014.

[6]王新,孟玲玲. 基于EEMD-LSSVM的超短期负荷预测[J]. 电力系统保护与控制,2015,(1):61-66.

[7] 成天乐,周胜瑜,李斯,等. 基于极限学习机方法的短期负荷预测[J]. 电力科学与工程,2013,29(4):24-29.

[8]Beccali M, Cellura M, Lo Brano V, et al. Forecasting daily urban electric load profiles using artificial neural networks[J]. Energy Conversion and Management, 2004, 45(18): 2879-2900.

[9]Bashir Z A, El-Hawary M E. Applying wavelets to short-term load forecasting using PSO-based neural networks[J]. Power Systems, IEEE Transactions on, 2009,

24(1): 20-27.

[10]李顺昕,秦砺寒,胥永兰,等. 基于加权粒子群优化的LSSVM的钢铁企业电力负荷预测[J]. 华北电力大学学报(自然科学版),2014,41(6):104-108.

[11]Yang C J, Zhang A H, Lu H W, et al. Load forecasting by considering wind power based on sequential time classification LSSVM model[J]. Advanced Materials Research, 2013, 712: 2437-2440.

Short-term Load Forecasting Based on Improved Least Squares-support Vector Machine

Sun Wei，Liu Mohan(School of Economics and Management, North China Electric Power University, Baoding 071003, China)

Abstract：To improve the accuracy of short-term load forecasting, this paper proposes least squares-support vector machine (LSSVM) short-term load forecasting approach optimized by quantum differential evolution (QDE) method. This paper overcomes blindness of least squares support vector machine algorithm that based on the experience of the selected parameters. Examples of verification results show that compared with BP neural network and simple least squares support vector machine algorithm, QDE-LSSVM has higher prediction accuracy which proves the efficiency of quantum-bit encoding in choosing the least squares support vector machine parameters. The proposed model is more suitable for the current needs of China’s short-term load.

Keywords：short-term load forecasting; parameter optimization; quantum differential evolution; least squares-support vector machine

作者简介：孙薇(1962-)，女，教授，主要研究方向为电力市场、技术经济及管理等， E-mail：bdsunwei@126.com。

收稿日期：2015-07-10。

中图分类号:TM715

文献标识码:ADOI:10.3969/j.issn.1672-0792.2015.12.003