基于改进型BP神经网络马尔科夫模型的区域需水量预测

朱新国,张展羽,祝 卓

(河海大学水利水电学院,江苏 南京 210098;2.桐乡市水利局,浙江 桐乡 314500)

基于改进型BP神经网络马尔科夫模型的区域需水量预测

朱新国1,张展羽1,祝 卓2

(河海大学水利水电学院,江苏 南京 210098;2.桐乡市水利局,浙江 桐乡 314500)

为提高需水量预测的精确度,应用了一种BP神经网络与马尔科夫相结合的预测模型,介绍了它的基本原理及算法,并给出了该模型建立的具体过程,最后该模型被应用于需水量预测工作中,计算证明取得了较好的效果。

BP神经网络;马尔科夫模型;需水量预测

需水量预测在区域建设规划、水资源优化配置与调度管理中具有重要作用。由于用水系统的复杂性、需水量的季节性以及气候变化等,使得确定的需水量模拟和预测模型难以建立,因此国内外大多数的需水量预测方法都建立在对历史数据的统计分析计算的基础上。根据对数据处理方式的不同,预测方法可分为时间序列法、回归分析、灰色模型、神经网络、系统动力学方法、组合预测模型和分类预测模型等。预测方法多种多样,然而在众多的预测方法中寻找一种适合需水量预测的方法仍然比较困难。刘俊良等[1]将BP(back propagation)神经网络方法引入到城市需水量预测中;杨维等[2]采用BP人工神经网络对辽宁省营口市人均综合用水量进行预测,进而预测出城市需水量,取得了满意的效果;张雪飞等[3]设定不同的神经网络运行次数,根据预测结果进行误差分析,BP神经网络需水量预测中网络运行5000次时,具有高度的可信度和可行性。笔者提出了一种基于改进的BP神经网络与马尔可夫链的组合预测方法,首先采用BP神经网络,用少量的样本数据粗略拟合需水量曲线,在此基础上借助马尔可夫链缩小预测区间以提高预测精确度,从而为需水量预测提供一种新的思路。

1 BP神经网络与马尔可夫链组合预测模型的构建

1.1 改进的BP神经网络学习算法

BP算法是一种正向求解、反向传播误差并达到修改网络层次之间权值和阈值的网络模型。BP算法的步骤是:对一个输入样本,从输入层经隐层逐层正向计算,得到输出层的输出。若得到了期望的输出,学习算法结束;否则,转至反向传播。反向传播就是将误差信号按原连接通路反向计算,由梯度下降法调整各层神经元的权值和阈值,从而使网络输出逼近期望输出,通常使之达到误差均方值取最小为止。

BP算法成功地用于训练多层网络具有重大的意义。但在实际应用中,BP算法遇到了两个困难:一是收敛速度慢,训练时间长;另一个是训练易陷入局部极小。针对以上问题及现象,众多学者都对BP算法进行了改进。笔者在此基础上进行了深入的研究,结合已有的改进方法,采用下列方案对BP进行改进。

1.1.1 基于LM改进BP[4]

为了进一步减小振荡、加快收敛速度,笔者利用LM算法对网络权值和阈值进行修正。该算法由经典Newton算法发展而来,利用非线性最小二乘法来推演Hessian矩阵的近似形式,大大地减少了计算量。LM算法的基本方法是:

式中:w(k)为当前的权值和阈值矩阵;J(k)为当前网络的Jacobian矩阵;I为单位矩阵;e(k)为当前网络的误差项;μ(k)为自适应因子,当 μ(k)很小时,LM算法接近高斯-牛顿法,当 μ(k)很大时,则接近最速下降法。μ(k)的调整方法如下:若e(k+1)≥e(k),则 μ(k+1)=10μ(k);否则 μ(k+1)=μ(k)/10。

1.1.2 隐层节点数优化[5]

BP网络隐层节点数直接影响着网络的容量、泛化能力、学习速度和输出性能。虽然神经网络神经元的冗余说明它具有良好的容错性,但冗余太多,网络性能势必会受到一定的影响,以致降低预测精度。所以,有必要采用适当大的隐含层结点数。根据隐含层结点之间的相关性大小合并结点,分散度大小删除结点,确定一个最佳的网络结构。

设yip为隐含层结点i在学习第p个样本时的输出i为隐含层结点i在学习N个样本的平均输出,N为训练样本总数:

rij说明隐含层结点i和j之间的相似程度。rij过大,说明结点i和j非常相似,需要合并。

样本对隐含层结点的输出的分散度Si:

Si过小,说明隐含层结点i的输出值变化很小,它对网络训练没有起什么作用,可删除此结点。

1.2 马尔可夫预测模型的应用

马尔可夫链是一种特殊的随机过程,它的基本原理是:按照某系统的发展,时间可离散为n=0,1,2,3,…,对每个系统的状态可用随机变量表示,并且对应一定的概率,称为状态概率[6]。当系统由某一阶段状态转移到另一阶段状态时,在这个转移过程中,存在着转移的概率,称为转移概率。如果转移概率只与目前相邻两状态的变化有关,即下阶段的状态只与现在状态有关而与过去无关,那么这种离散状态按照离散时间的随机转移系统过程,称为马尔可夫过程。

马尔可夫链预测的理论基础是马尔可夫过程,对其运动变化的分析,主要是研究链内有限马尔可夫过程的状态及其相互关系,进而预测链的未来状况,据此作出决策。马尔可夫模型可表示为:

式中:x(n)为n时刻的状态概率向量;x(0)为初始时刻的状态概率向量;p为状态转移概率矩阵。上式具有根据p及x(0)预测第n步的意义。

对于BP神经网络,将前期神经网络预测值与实测值的相对差值 δ所处的不同上下阈值作为状态划分值域,由此来建立状态划分标准。取yk(i)为i时刻位于状态k的样本,设k状态样本数为Nkj;系统总样本数为N,则从状态k到状态j的转移概率Pkj为[7]:

根据预测时刻状态转移概率组成各步转移概率向量x(n)中最大列向量概率值,确定预测时刻状态概率,对神经网络预测值进行修正,完成计算。

2 BP神经网络马尔可夫预测模型的应用[7-10]

应用BP神经网络马尔可夫预测模型,对文献[11]中的资料进行实例计算,预测2006年、2007年、2010年以及2015年的区域需水量。

2.1 建模原理

神经网络马尔可夫预测的基本思想:首先建立BP神经网络预测模型,再对由BP神经网络预测得到的结果运用马尔可夫模型,分析其误差的波动幅度与波动发展趋势,获得误差的状态转移概率矩阵,并据此矩阵对BP神经网络预测结果进行修正,每个预测值被修正为一组由概率状态表示的预测区间值。

2.2 建模步骤

BP神经网络马尔可夫预测模型的具体步骤如下。

2.2.1 建立BP神经网络模型

利用MATLAB构造BP神经网络的初始结构:采用3层BP网络结构,输入层含n1个神经元(以前1年用水量为输入,n1=1),输出层含n3个神经元(n3=1),n2个隐含神经元。采用上述改进的BP学习算法训练网络,随机生成网络权值和域值初始值,允许误差设为0.001。网络按照上述1.1.1中的改进进行学习,直至达到规定的学习精度。当网络达到稳定后,开始进行网络结构优化:隐含层结点的合并和删除,最终得到优化的BP神经网络结构为1-10-1。对前15组训练样本的实际输出和理想输出的结果及其相对误差分析见表1。

表1 BP用水量拟合结果

从表1可见,1990年到2005年拟合值的平均误差约为5.821%,最大误差为19.038%。

2.2.2 根据预测对象的具体情况,划分状态区间

根据表1中BP拟合值相对误差,考虑到数据量不多的实际情况,将马尔可夫状态区域划分为如下3种状态:①[0,4%],②(4%,10%]和③(10%,20%]。根据上述分类,可获得1990～2003年需水量BP预测结果的马尔可夫状态转移情况,如表2所示。

表2 1990～2003年需水量预测结果的马尔可夫状态转移

2.2.3 计算转移概率矩阵

由表2可确定马尔可夫状态转移概率矩阵

2.2.4 预测

根据马尔可夫链预测模型,得到2004年、2005年、2010年以及2015年的需水量预测状态向量,如表3所示。综上所述,可得出需水量的最终预测结果,如表4所示。

表3 需水量预测状态向量

2004年、2005年 BP网络预测误差分别为3.022%和9.809%,马尔可夫修正后的预测误差分别为1.083%和7.000%。可见BP神经网络马尔可夫预测精度更高。而且,BP神经网络马尔可夫给出了预测值区间及其概率,能反映需水量变化所处的状态,比直接应用BP预测更具说服力,更易于接受。预测的2010年和2015年需水量分别为5465.4万m3/a和7077.2万m3/a。

表4 需水量实际值、BP拟合值与马尔可夫改进值对比

3 结 语

有限样本训练的 BP网络结构往往不完全稳定,由其完成的后续预测值一般是在一定范围内波动的。笔者采用了马尔可夫模型分析方法,有效地预见和修正了由于系统的随机性产生的预测不确定性误差,得到了更准确的预测结果,具有较强的科学性。该方法不仅预测精度高,而且简便实用,可操作性强。此外,笔者构建的改进型BP神经网络,经实例验证该方法可行。

[1]刘俊良,刘兴坡,张树军,等.BP神经网络在城市需水量预测中的应用[J].河北建筑工程学院学报,2001,19(2):1-3.

[2]杨维,王恩德,陈畅.应用BP神经网络预测城市需水量的探析[J].资源调查与环境,2003,24(3):217-221.

[3]张雪飞,郭秀锐,程水源,等.BP神经网络法预测唐山市需水量[J].安全与环境学报,2005,5(5):95-98.

[4]曹邦兴.L M算法在地下水动态预测中的应用研究[J].广西水利水电,2007(3):4-5.

[5]罗强,任庆利,罗莉.应用BP神经网络研究水滑石/聚合物纳米复合材料的制备工艺[J].稀有金属材料与工程,2007,36(2):283-285.

[6]刘克.实用马尔可夫决策过程[M].北京:清华大学出版社,2004.

[7]陈继光,祝令德.基于神经网络的马尔可夫预测模型[J].计算机工程与应用,2006,42(6):225-226.

[8]杨励雅,邵春福.基于BP神经网络与马尔可夫链的城市轨道交通周边房地产价格的组合预测方法[J].吉林大学学报:工学版,2008,38(3):514-519.

[9]王义民,于兴杰,畅建霞,等.基于 BP神经网络马尔科夫模型的径流量预测[J].武汉大学学报:工学版,2008,41(5):14-17.

[10]吕佳良,张振刚.基于灰色关联指标筛选的BP神经网络中长期电力负荷滚动预测马尔可夫残差修正模型研究[J].华东电力,2008,36(9):10-13.

[11]翟春年.开发区给水规划中需水量预测的研究[D].天津:天津大学,2007.

Prediction of water demand based on improved BP neural network and Markov model

ZHU Xin-guo1,ZHANG Zhan-yu1,ZHU Zhuo2
(1.College of Water Conservancy and Hydropower Engineering,Hohai University,Nanjing210098,China;2.Tongxiang Water Conservancy Bureau,Tongxiang314500,China)

In order to enhance the prediction accuracy of water demand forecasting,the BP neural network model was used in combination with the Markov model.The basic principle and algorithm were introduced in detail,and the model development process was also described.This model was applied to a water demand forecasting example and obtained good results.

BP network;Markov model;water demand forecasting

TV21

A

1004-6933(2010)02-0028-04

国家自然科学基金(50839002);水利部公益性专项科研项目(200701025)

朱新国(1982—),男,江苏泰州人,博士研究生,研究方向为农业水土工程。E-mail:11508@hhu.edu.cn

(收稿日期:2009-05-20 编辑:徐 娟)