基于最小二乘法的BP神经网络在极端温度预测模型中的应用

牛志娟,胡红萍

(中北大学 理学院,山西 太原 030051)

基于最小二乘法的BP神经网络在极端温度预测模型中的应用

牛志娟,胡红萍

(中北大学 理学院,山西 太原 030051)

摘要：指出了极端温度预测问题受到多种因素的共同影响,具有非线性和高度复杂性。为了提高非线性时间序列在预测模型中的准确性,提出了一种利用最小二乘法优化的BP神经网络预测方法。该方法通过采用最小二乘法对数据样本集进行拟合,用BP算法进行优化,构建了两者结合的预测模型。应用1989～2009年的密云市温度数据资料,分别建立了基于最小二乘优化的BP神经网络和单一BP神经网络模型,并对预测结果进行了分析对比。结果表明:最小二乘法优化的BP神经网络具有更好的泛化能力,对平均最低温度的预测更加稳定,预测精度高于单一的BP神经网络。该模型可以对气候变化中气候变化中的平均最低气温具有较好的预测能力。

关键词：BP神经网络;最小二乘法;极端温度;预测

收稿日期：2015-09-08

基金项目：国家自然科学基金项目(编号:61275120)资助

作者简介：牛志娟(1988—)，女，河南开封人,中北大学理学院硕士研究生。

通讯作者：胡红萍(1988—),女,山西灵石人,博士后,副教授,主要从事数学在工程中的应用研究。

中图分类号：O29

文献标识码：A

文章编号：：1674-9944(2015)11-0017-03

Abstract:The prediction of extreme temperature is affected by many factors,which has nonlinearity and high complexity.In order to improve the accuracy of nonlinear time series in the prediction model,the article proposes a BP neural network prediction method which is optimized by least squares method.This method builds a combination forecasting model by using the least square method for fitting sample data set and using BP algorithm for optimizing.Taking the temperature data of Miyun from 1989 to 2009 as data source,the article establishes the BP neural network model based on least squares optimization and the single BP neural network model respectively.Then the article analyzes and compares the forecasting results.The results show that the BP neural network model which is optimized by the least squares exhibits better generalization ability than single BP neural network model.The forecast of average minimum temperature is more stable by the BP neural network model which is optimized by the least squares and the prediction accuracy is higher than that by single BP neural network model.The developed model can be expected to predict the average minimum temperature in the climate change with high predictive ability.

1引言

气候变化对人类健康和农业经济起着重要作用[1],温度的变化是重要的影响因素之一,对温度准确性预测的研究具有重要的科学实际意义。极端温度是一段时间内某一地区达到的最低和最高温度，对人类健康有重要影响，影响极端温度的因素包括：降水量、平均气温、降水距百分率等。目前气候预测主要是运用基本的物理过程通过数学方程式表达构成数学模式进行预测研究[2],这些传统的线性模型对非线性的时间序列预测很难有较好的预测精度。近年来,人工神经网络广泛应用于气象预测领域中,并取得良好的预测效果[3]。在预测问题时采用单一的模型不能全面客观地预测出系统的运行情况。因此,需要选用其它预测模型来反映系统的运行。将神经网络和最小二乘法二者结合起来可以弥补最小二乘法的不足,充分利用了二者的优点对未来的平均最低温进行精确预测。同时,将神经网络预测与最小二乘法有效地结合起来,能很好地解决非线性系统问题。通过 实证分析,结果表明：最小二乘法的BP神经网络模型预测结果明显优于单一BP神经网络,既能更接近预测精度的要求又提高了训练速度,可以有效用于气候变化中气温的预测。

2最小二乘法原理

最小二乘法(又称最小平方法)是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法解决如何从一组测量值中寻求可信赖值得问题,使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。使得这条拟合曲线上的各点的值与测量值的差的平方和在所有拟合曲线中最小。

研究物理量和一个变量x1,x2,Lxi间的依赖关系式为:

y=f(x1,x2,Lxi;a0,a1,Lan)

(1)

最小二乘法又称曲线拟合,所谓“拟合”是求一条曲线使数据点离曲线上下方的不远处点。将实测值与计算值得离差的平方和最小为“优化判据”。

3BP神经网络的基本原理

人工神经网(Artificial Neural Network-ANN),是通过对人脑结构及其信息处理方式的算法数学模型,是基于模仿大脑神经网络功能而建立的一种信息处理系统。人工神经网络是由大量简单的神经元互相连接而成的非线性动态系统网络。在理论上能逼近任意非线性映射。目前BP神经网络是应用最广泛的网络模型之一[4]。它是一种反向传播算法训练的多层前馈网络该模型具有高度的非线性,能够进行复杂的逻辑操作和非线性关系实现的系统模型[5],与其它传统模型相比,能更好地应用于气象要素的分析和预测。

三层误差反向传播算法(Back Propagation,BP)模型是气象预测中最为常用的模型,是由一个输入层为N节点、隐含层有M个节点、输出层为P个节点组成的BP神经网络结构图,详见图1。

BP神经网络的隐含层节点数对BP神经网络预测精度有较大的影响:节点数太少,网络就不能很好地学习,需要增加训练次数,训练精度就受到影响;节点数太多,训练时间增加则网络就易拟合。最佳隐含层节点数选择选择范围如下公式[6]:

l

(2)

(3)

l=log2n

(4)

式中,n为输入层节点数;l为隐含层节点数;m为输出层节点数;a为0～10之间的常数。在实际问题中,隐含层节点数首先参考公式确定范围,然后再选用试凑法确定最佳节点数。一般来说,BP神经网络的分类误差会随着隐含层节点数的增加呈现先减少后增加的趋势。

BP人工神经网络使用优化中最简便的最小二乘法把输入和输出样本问题作为非线性优化问题来处理,用迭代算法求解网络权值,并通过调节隐节点的方法增加优化参数,从而使得更可能得到精确解。BP算法求解函数最优问题如下:

(5)

(6)

4基于最小二乘法的BP神经网络在月平均最低温度的预测方法

采用最小二乘法与BP神经网络相结合方法来预测月平均最低温度,需选取的数据样本集进行直线拟合,然后用BP算法进行优化,最后将得到的数据样本集进行作为BP神经网络模型的输入进行训练预测。最小二乘法的拟合过程是根据BP神经网络模型及最小二乘法理论得知,预测温度的时间序列x={xi/i=0,1,2,Lm},实际上是用已知{xk,xk-1,Lxk-n+1}来求xk+1。首先对原始输入数据进行归一化处理[7],将数据转化成[0,1]区间的值,归一化公式:

(7)

5模型的应用及预测结果分析

本文选取1989～2009年密云市月平均最低气温资料作为网络的学习训练样本,建立与最低气温相关的6个因子组成的前期平均气温时间序列,作为神经网路的输入,然后以2010年3～9月平均最低气温数据作为预测样本,分别利用单一的BP神经网络和基于最小二乘法的BP神经网络训练和预测,预测结果分别如图2和如图3所示。

图2、图3中的两条预测线分别代表数据的预测输出(虚线)及期望输出(实线)。可以看出,图2中第一个点和最后一个点的预测值和期望值偏差较为明显,而图3中的两条曲线走势基本趋于吻合。因此,基于最小二乘法的BP神经网络对温度的预测较于单一的BP网络的预测精度。

表1给出的2010年密云市月平均最低温度的最小二乘法的BP模型和单一的BP预测数据的对比。由表1可以看出,单一的BP神经网络模型9月份的预测值与实测值之间误差最大,基于最小二乘法的BP神经网络模型对相同数据进行预测的整体效果高于单一BP神经网络,BP神经网络的平均相对误差为5.1232%。然而最小二乘法的BP神经网络的平均相对误差为2.1559%。预测精度较优于单一BP神经网络。

表1　2010年密云市月平均最低温度的最小二乘法的BP模型和单一的BP预测数据的对比

6结语

文中利用BP神经网络基本原理与最小二乘法结合的方法构建网络模型,对极端温度进行预测,将非线性转化成线性优化方法,采用最小二乘法计算网络权值,避免了传统BP网络在训练过程中易陷入网络局部极小问题。实验结果表明,在预测月平均最低温度时,最小二乘法优化过的BP神经网络的预测精度比单一的BP网络精度高,同时该方法也降低了预测方法的复杂性。本文所用模型的拟合和预报精度均优于单一的BP神经网络的预测误差和精度,能更好地满足预测的实际需求。

参考文献：

[1] 智协飞,伍清,白永清,等.基于IPCC-AR4模式资料地面气温超级集合预测[J].气象科学,2010,30(5):708～714.

[2] 刘国光,茅宁.气温随机模型与我国气温期权定价研究[J].数理统计与管理,2008,27(6):959～967.

[3] S S Yang,X H Hua,R Jiang,at al,New optimal weight combination model for forecasting precipitation[J].Mathematical Problems in Engineering,2012:1～13.

[4] 贺艳辉,袁永明,张红燕,等.BP人工神经网络在罗非鱼价格预测中的应用[J].安徽农业科学,2010,38(35):20443～20445.

[5] 王芳,涂春丽,勾永尧.基于Elman神经网络的气温预测研究[J].安徽农业科学,2011,39(33):20859～20860.

[6] 王小川,史峰,郁磊,等.MATLAB神经网络43个案例分析[M].北京:北京航空航天大学出版社,2011:8～19.

[7] 丛爽.面向 MATLAB工具箱的神经网络理论与应用[M].合肥:中国科技大学出版社,1998:84～89.

[8] 季刚,姚艳,江双五.基于径向基神经网络的月降水量预测模型研究[J].计算机技术与发展,2013,23(12).

[9] 李倩,周彬倩,张建成,等.基于自适应差分进化和BP神经网络的光伏功率预测[J].陕西电力,2014,42(2):1672～7598.

[10] 纪广月.基于灰色关联分析的BP神经网络模型在中国碳排放预测中的应用[J].数学的实践与认识,2014,44(14):243～24.

Application of BP Neural Network in Extreme Temperature Prediction

Model Based on Least Square Method

Niu Zhijuan,Hu Hongping

(SchoolofScience,NorthUniversityofChina,Taiyuan030051,China)

Key words:BP neural network;least square method;extreme temperature;prediction