APP下载

Elman神经网络在水电站入库流量短期预测中的应用

2015-06-06李强唐锋陈卓胡晨贺

综合智慧能源 2015年7期
关键词:入库权值梯度

李强,唐锋,陈卓,胡晨贺

(雅砻江流域水电开发有限公司,成都 610000)

Elman神经网络在水电站入库流量短期预测中的应用

李强,唐锋,陈卓,胡晨贺

(雅砻江流域水电开发有限公司,成都 610000)

Elman神经网络具有适应时变特性的能力,对历史数据具有敏感性,具备自主学习的优势,能以任意精度逼近任意非线性映射。梯度下降法可使函数具有单调递减性、梯度收敛于0等特点。采用梯度下降法和Elman神经网络相结合的方法进行水电站入库流量短期预测,比传统的Back Propagation神经网络预测精度具有明显的优势。

Elman;神经网络;梯度下降法;预测;入库流量

0 引言

入库流量是汛期运行人员重点关注的数据之一,防洪度汛方案的编制、梯级水库调度图编制、洪水预测、电站水位控制及发电经济效益评价都需要参考入库流量[1]。入库流量受27类气象因子、11个海区等不确定因素影响[2],且在不同时期受到的影响程度不同,并具有非线性、动态性的特点。雅砻江流域气候属于川西高原气候,由于该流域跨越7个多纬度,加之二滩水电站上游地形复杂,谷岭高差悬殊,影响二滩水电站入库流量的因素多变而复杂。

1 Elman神经网络

Elman神经网络是在Back Propagation(BP)神经网络的基础上,在前馈式网络的隐含层中增加了1个承接层,每个隐单元通过反馈状态向量到所有隐单元[3-5]。BP神经网络拓扑结构如图1所示。

图1 BP神经网络拓扑结构

Elman的输入层、隐含层、输出层的连接类似于BP前馈式网络[6],而承接层用来记忆隐含层单元前一时刻的输出值,并返回给网络的输入,是1个1步延时算子,使系统具有适应时变特性的能力,能直接动态地反映系统动态过程的特性。Elman的优点在于承接层延时与存储了来自隐含层的输出,并作为隐含层的输入,形成一种闭环。这种网络结构对以往数据具有敏感性,加强了网络本身分析动态信息的能力。此外,Elman神经网络能够以任意精度逼近任意非线性映射。

Elman网络结构如图2所示,以图2为例,Elman神经网络的非线性状态空间表达式为

图2 Elman网络结构

隐含层的输入[7]

隐含层的输出

网络的输出

式中:y为m维输出结点向量;x为n维中间层结点单元向量;u为r维输入向量;xc为n维反馈状态量;w1为承接层到隐含层连接权值;w2为输入层到隐含层连接权值;w3为隐含层到输出层连接权值;g(x)为输出神经元的传递函数,是中间层输出的线性组合;f(x)为中间层神经元的传递函数。

2 梯度下降法

式中:E(w*)为最小学习指标函数;E(w)为学习指标函数。

采用梯度下降法能大大提高网络的训练速度,又能克服网络不能在全局中寻找极小点的缺点,网络学习的结果是用训练数据的实际值和预测值的差值来修改权值,使输出层的误差平方和最小。梯度下降学习法的Elman神经网络同样采用BP算法进行权值修正,学习指标函数采用误差平方和函数。

式中:yk为输入向量;ydk为目标输入向量。

任意给定初始权值w0,生成权值序列wk,则

式中:η为学习率,k取自然数。

E(w)分别对w1,w2,w3求偏倒数,可得权值修正值∇w1,∇w2,∇w3[6],优化原来训练过程中的权值,即

最终,梯度下降学习法的Elman神经网络误差函数的梯度收敛于0[7],权值序列收敛于固定点。

3 入库流量短期预测

一般来说,电站侧每日至少掌握3次入库流量数据,运用梯度下降法和Elman神经网络相结合的方法预测二滩水电站2014年4月1日至20日00:00,08:00及16:00的入库流量。

实际入库流量见表1,表中数据已经过归一化处理。利用前9 d的数据作为网络的训练样本,前3天的数据作为输入向量u(k-1),第4天的数据作为目标向量y(k),这样可以得到6组训练样本。第6,7,8天的数据作为测试输入样本,第9天的数据作为测试输出样本。为了检验梯度下降法的Elman神经网络的预测效果,运用梯度下降法的Elman神经网络和BP神经网络同时预测第9天的数据,并将预测结果对比分析。

表1 2014年4月二滩水电站入库流量

建立Elman神经网络和BP神经网络,试设不同隐藏层神经元个数分别为9,11,13,14,设置神经网络训练精度GOAL为0.005。初始化Elman神经网络,并采用动态自适应学习率的梯度下降算法训练Elman神经网络。预测值均方根误差见表2。

表2 Elman,BP神经网络预测值均方根误差

由表2可见,梯度下降法的Elman网络预测值均方根误差比BP网络预测值均方根误差小,说明梯度下降法的Elman网络预测效果比BP网络预测效果好。含有9个神经元的Elman网络和含有14个神经元的BP网络预测效果好。采用Elman神经网络、BP神经网络预测4月10日至20日的入库流量及其误差值,见表3。

表3 Elman神经网络、BP神经网络的预测值和预测误差(2014年4月)

由表3可知,Elman神经网络预测误差明显小于BP神经网格,Elman神经网络预测入库流量效果更优。由表1可知,从4月16日起,00:00及16:00入库流量较前几日变化较大。但由表3可知,Elman网络快速适应入库流量变化,预测误差值有明显减小的趋势;BP网络适应入库流量变化很慢,预测误差值偏差较大且减小趋势缓慢。

4 结束语

影响入库流量的因素多变且复杂,入库流量变化具有非线性、时变性、动态性,雅砻江流域的不断科学化开发以及其他变化条件,均对二滩水电站短期入库流量预报提出了更加严峻的挑战。Elman神经网络的输入包含了输入层和承接层的反馈,类似一个闭环调节,最终达到一个神经元状态不变的稳定态,可以以任意精度逼近任一非线性函数,具有通过学习历史数据建模的特点。从上面的试验结果也能看出,该方法可以指导二滩水电公司预测短期入库流量,为探索流域梯级电站入库流量短期预测提供一种新的思路。

[1]唐海华,陈森林,赵云发.三峡水库入库流量计算方法研究[J].中国农村水利水电,2008(4):26-28.

[2]葛朝霞,王会容,曹丽青,等.柘溪水库月入库流量预报方案的建立与对比分析[J].河海大学学报:自然科学版,2004,32(5):508-511.

[3]JEFFREY L Elman.Finding structure in time[J].Cognitive Science,1990(14):179-211.

[4]TSOIA C,BACK A D.Locally recurrent globally feedforward networks:a critical review of architectures[J].IEEE transactions on neural networks,1994,5(2):229-239.

[5]AHALT S C,LIU Xiaomei,WANG Deliang.On temporal generalization of simple recurrent networks[J].Neural networks,1996,9(7):1099-1118.

[6]任丽娜.基于Elman神经网络的中期电力负荷预测模型研究[D].兰州:兰州理工大学,2007.

[7]吴微,徐东坡,李正学.Elman网络梯度学习法的收敛性[J].应用数学和力学,2008(9):1117-1123.

[8]刘颖超,张纪元.梯度下降法[J].南京理工大学学报:自然科学版,1993(2):12-16,22.

[9]李太福,熊隽迪.基于梯度下降法的自适应模糊控制系统研究[J].系统仿真学报,2007,19(6):1265-1268,1273.

(本文责编:弋洋)

TK 730

A

1674-1951(2015)07-0001-03

李强(1987—),男,四川绵阳人,助理工程师,从事电厂运行及设备状态检修方面的工作(E-mail:314962840@qq. com)。

2014-12-24;

2015-06-05

猜你喜欢

入库权值梯度
带非线性梯度项的p-Laplacian抛物方程的临界指标
一种融合时间权值和用户行为序列的电影推荐模型
重磅!广东省“三旧”改造标图入库标准正式发布!
中国食品品牌库入库企业信息公示②
中国食品品牌库入库企业信息公示①
一个具梯度项的p-Laplace 方程弱解的存在性
强规划的最小期望权值求解算法∗
基于AMR的梯度磁传感器在磁异常检测中的研究
程序属性的检测与程序属性的分类
基于数字虚拟飞行的民机复飞爬升梯度评估