基于Fast ICA和改进LSSVM的短期风速预测
2014-08-02孙斌姚海涛李田刘袖刘博
孙斌,姚海涛,李田,刘袖,刘博
(1.东北电力大学能源与动力学院,吉林132012;2.空军装备研究院院务部,北京100085)
基于Fast ICA和改进LSSVM的短期风速预测
孙斌1,姚海涛1,李田2,刘袖1,刘博1
(1.东北电力大学能源与动力学院,吉林132012;2.空军装备研究院院务部,北京100085)
对风速的准确预测能有效减轻风电场对整个电网的不利影响,同时能提高风电场在电力市场中的竞争能力。首先提出一种基于快速独立分量分析算法和改进最小二乘支持向量机的风速预测模型,对运用fast ICA算法对风速时间序列进行多层分解,得到一系列的独立分量;然后运用改进最小二乘支持向量机模型对分解后的各独立分量风速进行预测;最后对各预测结果进行叠加作为最终的预测风速。算例结果表明,该预测模型能准确进行短期风速的预测。
风电场;风速预测;fast ICA算法;最小二乘支持向量机
随着风能利用的加速发展,越来越多的大型风电场将纳入电网的统调,风电在电网的比重越来越大,但是由于系统的最大负荷受限于风电场穿透功率极限,因此当负荷超过一定值,就会严重影响电网稳定的运行。而对风速的准确预测可以减少风电场的旋转设备和运行成本,提高风电穿透功率极限,帮助调度部门及时调整计划,从而减轻风能对电网的冲击[1,2]。
目前,国内外用于风速预测的方法主要有持续预测法[3]、卡尔曼滤波法[4,5]、时间序列分析法[6~8]和神经网络方法[9~13]。以上预测方法大多都针对原始风速序列,而且平均相对预测误差通常达到20%[14]。由于风速受温度、气压、地形等多种因素的影响,具有很强的随机性,同时包含着非常丰富的特征信息。通过对原始风速序列进行预处理,把不同特征的信息分解,将会降低建模难度,有望提高预测精度。近年来将小波分析[15,16]、经验模式分解[17]等方法用于风速预测已取得了很好的效果。
独立分量分析ICA(independent component analysis)是近年来发展起来的一种新的盲源分离方法BSS(blind source separation)。自Comon[18]提出ICA的理论框架以来,已有多种算法用于解决各类实际问题。Fast ICA算法将多道观察信号按照统计独立的原则通过优化算法分解为若干独立分量,使变换后的各分量之间的统计依赖性最小。同时,这些独立分量能够突出原始数据的局部特征,有利于发掘数据的潜在规律,使得盲源信号分离技术使用广泛化。
基于上述分析,本文首次将快速独立分量分析fast ICA(fast independent component analysis)[19]应用于风速的短期预测中。运用fast ICA算法对风速原始序列进行预处理,将之分解为若干个独立分量。利用最小二乘支持向量机LSSVM(least squares support vector machine)对各独立分量进行建模预测,然后对各独立分量的预测结果进行叠加,得到最终的预测结果。实验结果表明,基于该方法的风速预测系统具有较高的预测精度,为工程应用奠定了基础。
1 快速独立分量分析算法(Fast ICA)
Fast ICA是一种基于固定点(fixed-point)迭代理论来寻求非高斯性最大值的方法[20]。由中心极限定理可知,非高斯性可以作为随机信号相互依赖的度量。所以当非高斯性达到最大时,表明已完成对各独立分量的分离。非高斯程度的大小,可以通过负熵判据来看。
1.1ICA基本理论
ICA线性模型为
式中:y(x)为离散t时刻的多路观测值组成的矢量,y(x)=ωTω(x)+b;s(t)为源信号矢量,s(t)= [s1(t),s2(t),…,sN(t)]T;n(t)为噪声矢量,n(t)= [n1(t),n2(t),…,xM(t)]T;A为未知的M×N满秩混合矩阵。
ICA的目的就是要从观测矢量x(t)中恢复出源信号矢量s(t),即找到一个分离矩阵
式中:wi为M×1的权矢量,i=1,2,…,N,通过y(t)=W(t)x(t)产生源信号的估计y(t)=[y1(t),y2(t),…,yN(t)]T,其中各分量统计独立。
1.2 负熵判据
对于概率密度函数为p(y)的随机变量y,负熵定义为
为方便计算,一种较好的负熵近似为
其中,G(·)为非二次函数。
1.3Fast ICA算法实现
1.3.1 预处理
在运用ICA方法之前,适当地对原始观测信号进行一些预处理是非常必要的,这可以使ICA的工作量大大减小,从而有利于提高ICA算法的效率,也能使问题更符合前述约束条件。信号预处理包括中心化和白化处理。中心化(去均值)是为了使实际的盲源分离问题能够符合ICA数学模型,而白化则是对去均值后信号向量进行线性变换,使得新向量~x的各个分量互不相关,且具有单位方差,即E(~x~x)=1。
1.3.2 独立分量提取
对x进一步处理,即依据数据的高斯矩使边缘负熵最大化原则来寻找矩阵,以实现独立分量的分离。依据牛顿迭代定理[21],fast ICA算法的调整公式为
式中:w*为w的更新值,在每一次迭代后归一化;~Rnn为零均值高斯随机噪声的协方差阵。
2 改进最小二乘支持向量机的预测模型
2.1 最小二乘支持向量机原理
最小二乘支持向量机是支持向量机[22,23]的一种改进算法,是将SVM算法中的不等式约束转化为等式约束,采用最小二乘线性系统作为损失函数代替支持向量机所采用的二次规划方法。其模型的结构如图1所示,基本原理表述如下。
图1 支持向量机结构Fig.1Configuration of support vector machine
式中:φ(·)为非线性变换映射函数,将输入样本数据映射到高维特征空间;ω为权向量;b为偏置量。
最小二乘支持向量机的目标函数为
式中:ξj为误差变量;γ>0为惩罚系数。
引入拉格朗日函数进行求解,得
式中,αj为拉格朗日乘子。
根据库恩-塔克KKT(Karush-Kuhn-Tucker)条件,依次计算∂L/∂ω=0、∂L/∂b=0、∂L/∂ξ=0、∂L/∂αi=0,得到的线性方程组为
根据Mercer条件,核函数可写为
由式(10)和式(11)联立求出α和b后,得到LSSVM的非线性函数式为
式(12)中取不同的核函数生成不同的支持向量基,目前使用最多的核函数主要有多项式核函数、线性核函数、径向基核函数RBF(radical basis function)等。由于RBF核函数结构简单,泛化能力强,这样需要优化的参数最少,只有核参数σ和正规化参数γ。
2.2 改进最小二乘支持向量机算法
标准支持向量机由于其支持向量αi多数都等于零,使其具有稀疏特性。而LSSVM由于支持向量值αi=γξi一般不为零,不再具有稀疏性,使得计算效率和所需的存储空间都受到了影响。为了更好地利用LSSVM的优点,本文采用剪枝算法使其具有稀疏性。通过修剪最小二乘支持向量机得到的支持向量值,从而修剪掉相应的训练样本的方法来实现其稀疏性。其具体的算法[24]如下。
(1)设置训练样本数等于N;
(2)对于给定的N个训练样本,利用第2.1节的算法训练最小二乘支持向量机,利用全部的训练样本训练得到一组最优参数(γ,σ),根据这组参数解求出αi;
(3)按照其αi绝对值大小进行排序;
(4)根据αi的排列,将其中最小的M个αi所对应的M个样本删去(一般情况下,M取为全部训练样本数的5%);
(5)保留余下的N-M个样本点并设N=N-M;
(6)返回(2),对已减小训练样本集进行训练,直到用户要求的分类器泛化能力开始下降为止。
循环训练虽然会影响运行的速度,但是预测结果的准确性将大大提高。
3 预测模型的建立
通过fast ICA分离后得到若干独立分量,对这些独立分量进行相空间重构。
根据G-P算法:对于时间序列x(1),x(2),…,x(t),…,x(N),当嵌入维数为m和延迟时间为τ时,重构相空间为
延迟时间τ和嵌入维数m的选取具有重要意义。其确定方法有很多,本文运用自相关法和假近邻法分别求取风速时间序列的延迟时间和嵌入维数。然后用改进LSSVM对重构后的各个独立分量分别进行预测,再将预测的结果合成得到最终预测结果。其具体建模结构如图2所示。
图2 风速预测模型Fig.2Wind speed prediction model
4 算例及结果分析
本文以东北某风电场2010-12的实测风速时间序列作为实验样本,每小时作为一个采样点,选取其中连续500 h的风速数据作为实验数据,如图3所示。其中前350个风速数据作为训练样本,后150个风速数据作为训练样本用于检验预测结果的准确性。
图3 原始风速时间序列Fig.3Original wind speed time series
原始风速时间序列(500点)的fast ICA分解结果如图4所示。由图可见,风速时间序列经过fast ICA处理后得到4个分离信号,其中分离信号Ⅰ为低频成分,分离信号Ⅱ~Ⅳ分别为高频成分。对原始信号运用自相关法和假近邻法分别求取风速时间序列的延迟时间和嵌入维数,得到嵌入维数m为4,延迟时间τ为7,4个分离信号的嵌入维数和延迟时间如表1所示。相空间的重构以分离信号Ⅰ为例,运用式(13)对分离信号Ⅰ进行相空间重构,构造M=N-(m-1)τ=329个相点,其中:N、M为重构相空间向量数,N=350,M=329,然后对改进LSSVM的预测模型进行训练。
分别运用训练好的改进的LSSVM模型对4个分离信号进行预测,再将各预测结果叠加,得到最终的预测结果,如图5所示。同时本文运用经验模式分解EMD(empirical mode decomposition)对原始风速时间序列(500个点)进行分解,经EMD分解后的风速时间序列产生6个IMF即C1~C6和1个剩余分量r7,如图6所示。运用同样的方法进行建模预测,最终的结果如图7所示。
图4 Fast ICA算法分解结果Fig.4Results of Fast ICA algorithm decomposition
表1 各个分离信号下的嵌入维数和延迟时间Tab.1Embedding dimension and delay time under eachseparation signals
图5 Fast ICA和改进LSSVM模型的风速预测和预测误差Fig.5Wind speed prediction and forecast errors of fast ICA and improved LSSVM model
图6 EMD分解结果Fig.6Results of EMD decomposition
选择合理的误差指标,对评定预测效果的好坏有着重要的作用。本文对预测效果进行检验的公式为
图7 EMD和改进LSSVM模型的风速预测和预测误差Fig.7Wind speed prediction and forecast errors of EMD and improved LSSVM model
3种预测方法的均方根误差和平均绝对误差如表2所示。从表中可以看出,基于fast ICA和改进LSSVM模型的预测均方根误差为0.133 5 m/s,明显小于基于EMD和改进LSSVM模型以及基于fast ICA和LSSVM模型的预测方均根误差。由图6(b)、图7(b)以及表2可以看出,基于fast ICA和改进LSSVM预测的平均绝对误差为0.351 7 m/s,明显小于另外2种方法。因此基于fast ICA和改进LSSVM的预测精度与稳定性最好。
表2 3种方法预测结果对照Tab.2Comparison of forecasting results with three methods m/s
5 结论
为了保证风速序列的预测精度,本文提出了一种基于fast ICA和改进LSSVM的风电场风速预测新方法,并以某风电场实测小时风速为例对所建预测模型进行了验证。
(1)fast ICA从信号统计特性出发,从多维观测信号中提取相互独立的成分,从而简化了各个特征信息之间的干涉和耦合,能有针对性地建立更准确的预测模型。
(2)改进LSSVM模型具有更好的稀疏性,算例结果表明,改进后的LSSVM的预测精度有了明显的提高。
LSSVM核函数及其参数的选择对预测效果也有一定的影响,因此如何更加合理地选择核函数及其参数将是下一步研究的重点。
[1]袁铁江,晁勤,李义岩,等(Yuan Tiejiang,Chao Qin,Li Yiyan,et al).基于风电极限穿透功率的经济调度优化模型研究(Research on optimization model of economic dispatch based on wind power penetration limit)[J].电力系统保护与控制(Power System Protection and Control),2011,39(1):15-22.
[2]魏晓霞(Wei Xiaoxia).我国风电发展存在的问题和应对措施(Problems and the solution of wind power development in China)[J].电力技术经济(Electric Power Technologic Economics),2009,21(6):23-26.
[3]Alexiadis M C,Dokopoulos P S,Sahsamanoglou H S,et al. Short-term forecasting of wind speed and related electrical power[J].Solar Energy,1998,63(1):61-68.
[4]Bossanyi E A.Short-term wind prediction using Kalman filters[J].Wind Engineering,1985,9(1):1-8.
[5]潘迪夫,刘辉,李燕飞(Pan Difu,Liu Hui,Li Yanfei).基于时间序列分析和卡尔曼滤波算法的风电场风速预测优化模型(A wind speed forecasting optimization model for wind farms based on time series analysis and Kalman filter algorithm)[J].电网技术(Power System Technology),2008,32(7):82-86.
[6]杨秀媛,肖洋,陈树勇(Yang Xiuyuan,Xiao Yang,Chen Shuyong).风电场风速和发电功率预测研究(Wind speed and generated power forecasting in wind farm)[J].中国电机工程学报(Proceedings of the CSEE),2005,25(11):1-5.
[7]孙春顺,王耀南,李欣然(Sun Chunshun,Wang Yaonan,Li Xinran).小时风速的向量自回归模型及应用(A vector autoregression model of hourly wind speed and its applications in hourly wind speed forecasting)[J].中国电机工程学报(Proceedings of the CSEE),2008,28(14):112-117.
[8]潘迪夫,刘辉,李燕飞(Pan Difu,Liu Hui,Li Yanfei).风电场风速短期多步预测改进算法(Optimization algorithm of short-term multi-step wind speed forecast)[J].中国电机工程学报(Proceedings of the CSEE),2008,28(26):87-91.
[9]Kavasseri R G,Seetharaman K.Day-ahead wind speed forecasting using f-ARIMA models[J].Renewable Energy,2009,34(5):1388-1393.
[10]Monfared M,Rastegar H,Hossein M.A new strategy for wind speed forecasting using artificial intelligent methods[J].Renewable Energy,2009,34(3):845-848.
[11]Cadenas E,Rivera W.Wind speed forecasting in three different regions of Mexico,using a hybrid ARIMA-ANN model[J].Renewable Energy,2010,35(12):2732-2738.
[12]Salcedo-Sanz S,Ortiz-Garcia E G,Perez-Bellido A M,et al.Short term wind speed prediction based on evolutionary support vector regression algorithms[J].Expert Systems with Applications,2011,38(4):4052-4057.
[13]Li Gong,Shi Jing,Zhou Junyi.Bayesian adaptive combination of short-term wind speed forecasts from neural network models[J].Renewable Energy,2011,36(1):352-359. [14]Wu Hongxiao,Hou Zhijian,Liu Yong,et al.A short-term load forecasting approach based on immune clustering RBF neural network[J].Proceedings of the CSEE,2005,25(16):53-56.
[15]彭春华,刘刚,孙慧娟(Peng Chunhua,Liu Gang,Sun Huijuan).基于小波分解和微分进化支持向量机的风电场风速预测(Wind speed forecasting base on wavelet decomposition and differential evolution-support vector machine for wind farms)[J].电力自动化设备(Electric Power Automation Equipment),2012,32(1):9-13.
[16]王晓兰,王明伟(Wang Xiaolan,Wang Mingwei).基于小波分解和最小二乘支持向量机的短期风速预测(Shortterm wind speed forecasting based on wavelet decomposition and least square support vector machine)[J].电网技术(Power System Technology),2010,34(1):179-184.
[17]刘兴杰,米增强,杨奇逊,等(Liu Xingjie,Mi Zengqiang,Yang Qixun,et al).基于经验模式分解和时间序列分析的风电场风速预测(Wind speed forecasting based on EMD and time-series analysis)[J].太阳能学报(Acta Energiae Solaris Sinica),2010,31(8):1037-1041.
[18]Comon P.Independent component analysis,a new concept [J].Signal Processing,1994,36(3):287-314.
[19]Hyvarinen A.Fast and robust fixed-point algorithm for independent component analysis[J].IEEE Trans on Neural Networks,1999,10(3):626-634.
[20]Amari S,Cichocki A,Yang H H.A new learning algorithm for blind signal separation[C]//Conference on Advances in NeuralInformationProcessingSystems,Denver,USA:1995.
[21]史习智.盲信号处理—理论与实践[M].上海:上海交通大学出版社,2011.
[22]肖先勇,葛嘉,何德胜(Xiao Xianyong,Ge Jia,He Desheng).基于支持向量机的中长期电力负荷组合预测(Combination method of mid-long term load forecasting based on support vector machine)[J].电力系统及其自动化学报(Proceedings of the CSU-EPSA),2008,20(1):84-88.
[23]杨科,谭伦农(Yang Ke,Tan Lunnong).电力市场环境下中长期负荷预测的应用分析(Analysis of long-term load forecasting application in power market environment)[J].电力系统及其自动化学报(Proceedings of the CSU-EPSA),2011,23(3):54-57.
[24]李世平,周代刚,杨尚达,等(Li Shiping,Zhou Daigang,Yang Shangda,et al).基于改进LSSVM的动态测量误差实时预测方法(Dynamic measurement errors real time forecasting method based on improved least squares support vector machines)[J].中国测试(China Measurement &Test),2009,35(3):20-23.
Short-term Wind Speed Forecasting Based on Fast ICA Algorithm and Improved LSSVM Model
SUN Bin1,YAO Hai-tao1,LI Tian2,LIU Xiu1,LIU Bo1
(1.School of Energy Resources and Power Engineering,Northeast Dianli University,Jilin 132012,China;2.Yuanwubu,Air force Equipment Research Institute,Beijing 100085,China)
The accuracy forecasting of the wind speed can effectively reduce the adverse effect of the wind farm on the power grid,in the meanwhile,it can strengthen the competition ability of wind farm in electricity market.In this paper,a short-term wind speed forecasting method based on fast independent compenent analysis(ICA)algorithm and the improved least squares support vector machine(LSSVM)is proposed.The wind speed time series are decomposed in different scales by the fast ICA algorithm.The decomposed wind speed time series are predicted separately by the improved LSSVM model,and then the predicted results are accumulated to be the final prediction.The numerical results indicate that the proposed method can be utilized to forecast the wind speed accurately.
wind farm;wind speed forecasting;fast independent component analysis(ICA)algorithm;least squares support vector machine
TM614
A
1003-8930(2014)01-0022-06
孙斌(1972—),男,博士,教授,从事气液两相流动、非线性信号处理等方面的研究。Email:sunbin@mail.nedu.edu.cn
2012-09-13;
2012-12-20
中国电机工程学会电力青年科技创新项目(201002)
姚海涛(1988—),男,硕士研究生,从事风资源预测方面的研究。Email:yaohaitao2008@126.com
李田(1983—),男,本科,助理工程师,从事非信号处理方面的研究。Email:1457112474@qq.com