APP下载

全国私人车辆拥有量的BP神经网络模型预测与分析
——基于附加动量与自适应学习速率相结合的BP方法

2015-06-06王俊林

西安财经大学学报 2015年6期
关键词:动量速率神经网络

陈 正,丁 姝,王俊林

(1.西安财经学院统计学院,陕西西安 710100;2.天津财经大学数学经济研究中心,天津 300222)

全国私人车辆拥有量的BP神经网络模型预测与分析
——基于附加动量与自适应学习速率相结合的BP方法

陈 正1,丁 姝1,王俊林2

(1.西安财经学院统计学院,陕西西安 710100;2.天津财经大学数学经济研究中心,天津 300222)

私人车辆拥有量的变化趋势与社会经济发展密切相关,研究与预测私人车辆拥有量变动对了解社会经济发展具有重要的意义。文章以1985—2013年全国私人车辆拥有量的发展情况为研究对象,利用附加动量法与自适应学习速率相结合的BP神经网络模型对全国私人车辆拥有量进行研究与预测,结果表明利用该模型对私人车辆拥有量进行预测的精度较高、效果好。

私人车辆拥有量;BP神经网络;附加动量法;自适应学习速率法;预测模型

近几年来众多学者从不角度对机动车拥有量进行研究,取得一系列成果。梁洁、郑海平建立传统的人工神经网络模型预测广西汽车拥有量[1];张晓春、张志哲采用多元线性回归预测城市机动车拥有量[2];陈勇、孔峰建立时间序列的BP神经网络模型预测私人汽车拥有量[3];Zhi-gao Liao等人运用微分动力学模型对进口私家车数量进行分析研究[4]。大多研究中对私人车辆拥有量的分析,采用传统的神经网络模型或单方面改进的神经网络。曾希君等人[5]利用改进的BP神经网络对某地区私家车保有量进行研究,采取横向研究的方法,无法估计未来私家车的保有量。王卓等人在关于铁路客运量的研究中运用改进的BP神经网络对客运量进行研究[6]。在以上研究的基础上,本文运用附加动量与自适应相结合的BP神经网络模型对全国私人车辆拥有量进行时间序列分析研究,并对未来三年全国私人车辆拥有量进行预测。

一、BP神经网络的改进

(一)附加动量法

附加动量因子算法是指在反向传播过程中,每一个权值变化的基础上加上一项与前一次权值成正比的变化值,最后再根据反向传播原理产生新的变化权值[7]。主要运用一种带有附加动量因子α(0<α<1) 的权值调节。其公式为:

其中k为训练次数。训练过程中对附件动量法BP采用了如下的判断条件:

(二)自适应学习速率

自适应学习速率是指在训练过程中自动调节学习速率[8]。其调节公式如下。

初始学习速率为η(0),其值可以任意选取。SSE(k)为第k次的误差平方和。

学习速率η又称为步长,在传统的BP算法中是一个常数。但在实际计算中,很难给出一个至始至终都很适合的最优学习速率。自适应调整学习速率η算法,可以使其该大则大,该小则小。其调节准则为[10]:如果权值的修正值降低了误差函数,则说明所选取的学习速率值较小,则可以对其增加一个量;反之减小。

(三)激发函数的改进

激励函数也称激发函数。本文采用Sigmoid规模函数[10-11]:

作为激发函数。该函数的特点为:对应幅值区间(0,1),函数呈非线性递增光滑变化,输出曲线两端平坦,中间部分变化剧烈,该函数是连续全局可微的。BP神经元均采用Sigmoid变换函数,变换后可防止因净输入的绝对值过大而使神经元输出饱和,使权值的调整进入误差曲面的平坦区。

(四)隐含层的改进

隐含层神经元数目的选择是一个十分复杂的问题,不存在一个理想的解析式来表示它,往往需要根据设计者的经验和多次试验来确定。隐含层节点数目过多会导致学习时间过长、误差不是最佳容错性误差以及无法识别以前没有识别出的样本,所以选择一个最佳的隐含层节点数是关键。以下两个公式可用于选择最佳隐含层节点数[12]。

(2)N=2n+1,n为输入神经元数。

本文综合以上两种确定方式,提出一种隐含层节点数循环遍历的思想。首先分别计算出最大值Nmax,最小值Nmin,则最佳节点数在区间 [Nmin,Nmax]中。设计一个隐含层节点数可变的BP神经网络,保持神经网络中其他参数不变,使隐含层节点数从最小值Nmin,依次增加到最大值Nmax,通过网络性能函数,网络误差确定最佳隐含层节点数。

二、实证分析

(一)数据收集与整理

本文收集1985—2013年全国私人车辆拥有量,所有数据均是从全国统计年鉴中查得。表1为全国私人车辆拥有量的相关统计数据。

因选取的激发函数为Sigmoid,由于此函数具有中间高两端低的特性,所以在饱和区学习收敛速率较慢,甚至有时会出现麻痹现象。本文将输入和输出变量进行规格化处理。针对全国私人车辆拥有量的分析与预测的特点,采用如下非线性规格函数:

对原始数据进行处理,能在一定程度上提高拟合精度。对于最大值最小值的归一化结果,考虑到网络能够获得较好的收敛性,取最大值的归一化值为0.999 9,最小值的归一化值为0.000 1。归一化处理后的数据如表1所示。

表1 全国私人车辆拥有量的相关数据

私人汽车拥有量是一个时间序列数据为x1,x2,x3,…,xk,…,xk+m,…,xn。本文以x1,x2,x3,…,xk,xk+m,…,xk+2m为训练样本数据,以xk+1...xk+m,xk+2m+1...xn为测试样本数据。由于私人车辆拥有量每年的数据,越接近现在对未来影响越大。为了能够使建立的模型多次重复使用,并且可以达到充分利用已知信息的能力,本文采用将新的数据不断加入到模型中,去掉一些旧的数据,从而达到既能充分利用数据体现未来发展趋势,又能维持模型的稳定性的滚动预测方式。本文选取连续三年的数据来预测第四年的数据。例如用1985—1987预测1988年的数据。本文选取测试数是以1995年、1996年、2005年、2006年、2009年、2010年,2012六年为预测的样本数据。

(二)改进后的BP神经网络的建立

对于任何在闭区间内的一个连续函数都可以用单隐含层的BP神经网络逼近,因而任何一个三层BP神经网络就可以完成任意的a维向量到b维向量的映射。故本文选取单层的BP神经网络进行网络训练、预测。

根据本文提出的一种隐含层节点数循环遍历的思想。本文运用连续三年的数据预测第四年的值,输入层节点数为n=3,输出层节点数为m=1,则隐含层节点数最大值Nmax=12,最小值为Nmin=3。则设计一个隐含层节点数可变的BP神经网络,通过输出结果的均方误差范数的对比确定最佳隐含层节点数目,输出结果如表2所示。

表2 调节隐含层节点数的训练数值

表2表明,经过训练后,隐含层节点数为6的附加动量法与自适应学习速率相结合的BP神经网络模型对函数的逼近与预测效果最好,均方误差范数值为0.093 1,以mse函数评价的网络性能值为0.001 2,两者均达到循环调节中最小的值,训练的时间为0.447 6,因此选取隐含层节点数为6,建立拓扑结构为3×6×1的附加动量法与自适应相结合的BP神经网络模型。

(三)自适应学习速率的BP神经网络隐含层节点数的选取

对BP神经网络只进行自适应改进后,通过仿真实验,综合考虑网络的收敛速度和输出精度,取其为n1=7,得到网络的拓扑结构为3×7×1。对自适应学习速率的BP算法隐含层节点数的选择,在调试中得到如表3所示的训练数值。

表3 自适应改进的BP算法的隐含层节点调节的训练数值

表3表明,在经过训练后,选取隐含层节点数为7的自适应学习速率的BP神经网络模型,均方误差范数值为0.113 1,网络性能值为0.001 8。自适应学习速率的BP算法与附加动量和自适应结合的BP算法相比,可知进行自适应学习速率的BP算法训练的均方误差范数为0.113 1,比附加动量与自适应相结合的BP算法得到的均方误差范数大,显然附加动量与自适应结合的BP算法要优于自适应学习速率的BP算法。

(四)附加动量法的BP神经网络隐含层节点数的选择

对BP算法只附加动量,进行调试,可选取隐含层节点数为5,网络性能评价值0.007,误差范数0.220 8,训练时间为9.818 7,得到网络的拓扑结构为3×5×1,各个数值均比附加动量与自适应相结合的BP算法值大,预测效果不好,并且训练时间较长。

由以上分析,进一步可知附加动量与自适应相结合的BP算法具有找到最优解的优点。

(五)结果分析与预测

利用归一化处理后的数据用附加动量法与自适应学习速率相结合的BP神经网络,建立3×6×1的网络拓扑结构,进行训练仿真。选取19组样本作为网络的输入向量和目标向量,通过训练后,网络的目标误差达到0.000 1,满足实验要求,达到训练目的。网络训练结束后,运用已经建立的网络结构,对另外7组(1995年、1996年、2005年、2006年、2009年、2010年、2012年)测试数据进行测试拟合,归一化处理后的真实值与预测值的拟合度达到0.999 93。

同样在其他参数不变的条件下,分别用只适应学习速率法的BP神经网络建立3×7×1的网络拓扑结构和附加动量法的BP神经网络建立3×5×1的网络拓扑结构进行训练仿真。网络训练中各个层之间的权重如表4所示。对运用已经建立起的BP神经网络,对测试数据进行测试拟合,预测值与实际值如表5所示。

表4 三种BP神经网络的各层权重值

表5 三种不同BP 神经网络的预测值

本文选取两种性能指标,即预测均方误差RMSE和预测精度PA来定量地评价以上三种BP神经网络模型的预测效果[13]。预测均方误差是计算预测值与观察值平均偏离程度,是反映预测效果的重要指标,其值越小预测效果越好。预测精度PA是反映均值偏离程度,取值在[-1,1]之间,其值越接近1预测效果越好。

由表6可知,附加动量与自适应学习速率相结合的BP神经网络均方误差RMSE值最小,与真实值偏离程度越小,预测结果较好;预测精度PA值最大,接近1,预测结果最好。自适应学习速率法的BP神经网络与附加动量的BP神经网络的RMSE都较大,PA较小,预测结果不理想。所以附加动量与自适应相结合的BP神经网络在全国私人车辆拥有量方面有较高的预测精度,预测效果较好。

表6 三种BP 神经网络的性能评价指标值

对私人汽车拥有量的真实数值与运用附加动量法与自适应学习速率法相结合的BP神经网络预测值,计算其绝对误差、绝对误差率。绝对误差率=|(预测值-实际值)|/实际值×100%,得出结果均小于0.2,具有较高的预测精度。同样可知,附加动量法与自适应学习速率法相结合的BP神经网络对全国私人车辆拥有量预测效果较好。

本文按照已经训练好的附加动量法与自适应学习速率相结合的BP网络,运用归一化后的数据,仍然采用连续三年滚动预测的方式进行预测。首先运用2011—2013年的数据预测2014年的数据。运用2012—2013年的数据以及预测出的2014年的数据预测2015年的数据。以此类推,本文预测了2014—2016连续三年的私人车辆拥有量分别为:10 546.85、10 615.70、11 010.04万辆,数据结果如表7所示。

表7 全国私人车辆拥有量的预测值

三、结 论

全国私人车辆拥有量的规律较为复杂,传统的线性回归分析不容易准确地反映这种复杂的关系,而采用动量法与自适应学习速率相结合的BP神经网络模型,它可以根据实验数据,通过训练自动建立一个对应关系。因而从根本上克服了回归分析中事先给定某个数学表达式,进而可能会由此引起某些信息的丢失的缺点。从计算结果可以看出,附加动量法与自适应学习速率相结合的BP神经网络模型可以找到最佳预测值,即在提高学习效率的同时又可以增加算法的可靠性。运用附加动量与自适应学习率法结合的BP神经网络构建全国私人车辆拥有量的预测模型,达到了较为准确的预测效果。

[1] 梁洁,郑海平.广西汽车拥有量预测的人工神经网络模型[J].广西交通科技,2000,25(4):52-54.

[2] 张晓春,张志哲.城市机动车拥有量预测方法的讨论[J].交通科技与经济,2005(4):51-54.

[3] 陈勇,孔峰.BP神经网络预测全国私人汽车拥有量[J].计算技术与自动化,2003,22(3):67-70.

[4] ZHI-GAO LIAO,XIAO-QIN ZHU,GUI-YUN XIANG.The differential dynamical model of the number of the private car ownership in China[J].Management Science and Engineering Management,2011,6(2):141-144.

[5] 曾希君,于博,李向群,等.基于改进BP神经网络私家车保有量的预测研究[J].计算机工程与设计,2010,31(3):605-608.

[6] 王卓,王艳辉,贾利民,等.改进的BP神经网络在铁路客运量时间序列预测中的应用[J].中国铁道科学,2005,26(2):127-131.

[7] 马锐.人工神经网络原理[M].北京:机械工业出版社,2010:56-57.

[8] 张雨浓,杨逸文,李巍.神经网络权值直接确定法[M].广州:中山大学出版社,2010:52-53.

[9] 吴云芳,李珍照.改进的BP神经网络模型在大坝安全监测预报中的应用[J].武汉大学水利水电设计,2002,18(2):21-23.

[10]朱大奇,史慧.人工神经网络原理及应用[M].北京:科学出版社,2006:39-41.

[11]郇红艳,郇洪江.改进BP神经网络在经济预测中的应用[J].统计与信息论坛,2008,23(1):58-62.

[12]张德丰.MATLAB神经网络应用设计[M].北京:机械工业出版,2009:146-152.

[13]黄腾飞,李帮义,熊季霞.递归预测器神经网络在中国金融市场的实证研究[J].统计与信息论坛,2013,28(1):14-21.

Prediction and Analysis of Private Car Ownership in China Based on the BP Neural Network:Based on Additional Momentum and Adaptive Learning Rate of BP Method

CHEN Zheng1,DING Shu1,WANG Jun-lin2
(1.School of Statistics,Xi’an University of Finance and Economics,Xi’an 710100,China;2.Research Center for Mathematics and Economics,Tianjin University of Finance and Economics,Tianjin 300222,China)

The change trend of private car ownership is closely related to the social and economic development,so accurately predict the private car ownership has very important significance.In this paper,from 1985to 2013,the national development of private car ownership situation as the research object,using the combination of additional momentum method and adaptive learning rate of BP neural network model predict and analyze the private car ownership.The prediction results show that the additional momentum and adaptive learning rate combined with BP neural network model to predict the national private car ownership,has high precision and good prediction effect.

private car ownership;BP neural network;additional momentum method;adaptive learning rate;prediction model

F224∶TP183

A

1672-2817(2015)06-0098-05

(责任编辑:王晓红)

2014-11-25

陈正(1965-),男,陕西西安人,西安财经学院统计学院教授,博士,硕士生导师,研究方向为产业经济学、统计分析方法;丁姝(1987-),女,河南鹤壁人,西安财经学院统计学院硕士研究生,研究方向为数量经济学;王俊林(1988-),男,河南信阳人,天津财经大学数学经济研究中心硕士研究生,研究方向为金融衍生品定价。

猜你喜欢

动量速率神经网络
应用动量守恒定律解题之秘诀
原子物理与动量、能量的结合
“化学反应的速率与限度”知识与能力提升
动量相关知识的理解和应用
神经网络抑制无线通信干扰探究
基于神经网络的中小学生情感分析
速度和速率有什么不同
网络扫描发包速率学习算法
基于神经网络的拉矫机控制模型建立
基于支持向量机回归和RBF神经网络的PID整定