基于改进BP神经网络的黑龙江农机总动力预测

马海志，王福林，王慧鹏，何志连

(东北农业大学 工程学院，哈尔滨　150030)



基于改进BP神经网络的黑龙江农机总动力预测

马海志，王福林，王慧鹏，何志连

(东北农业大学 工程学院，哈尔滨150030)

摘要：BP神经网络在人工神经网络中起着至关重要的作用，通过分析标准BP神经网络的基本算法，指出标准BP算法的一些不足，并针对这些不足提出了以一种以相对误差作为误差传递信号的新的改进方法。经试验证明：该方法大大提高了BP神经网络预测结果的精度，同时这种新的改进思想也可以结合其他改进方法一起应用，以更大程度上地提高BP神经网络的运算速度和预测精度。

关键词：农机总动力；预测；BP算法；相对误差

0引言

作为一门新兴的信息处理科学，人工神经网络是以人类大脑的工作模式为基础而日益发展起来的一门新型学科，近年来得到越来越多的专家和学者的重视。BP神经网络因其可塑性强、结构简单等特性，在各领域中得到了广泛的应用。但标准BP神经网络又存在几个较为明显的缺陷，具体如下：训练过程中易出现振荡和波动现象、收敛速度过慢、易陷入局部极小和自身网络结构难以确定等。针对上述缺陷，学者们提出了很多改进算法，而本文提出一种以相对误差作为误差信号的改进算法，对BP神经网络算法进行改进[1]。

1标准BP算法

BP神经网络模型是由输入层、隐含层和输出层组成，其中隐含层可以是1层或多层。其学习过程如下：输入信号从输入层通过各隐含层，向输出层传递，在输出端产生输出信号。传递过程中各层神经元状态只影响下层神经元的状态，并且信号在传递过程中网络权值保持不变。

若输出层得不到期望的输出，则输出端的误差信号开始从输出层逐层向前传递，在误差反向传播过程中，误差反馈调节网络的权值，不断修正网络的权值，使得实际输出与期望输出更为接近[2]。

输出层中有

(1)

隐含层中有

(2)

(3)

其中，每个神经元的激励函数是可微的Sigmoid函数，则

(4)

且有

(5)

输出层各神经元的误差能量总和为

(6)

式(1)～式(6)构成了标准BP神经网络的基本数学模型[3]。

图1　3层BP网络结构图

2标准BP算法的缺点

BP神经网络以其可塑性强、结构简单等优点得到广泛应用，但标准BP算法也因其自身原因存在一些不可避免的缺点：

1)收敛速度慢。在BP算法中，学习率η的选取至关重要，η值越大则网络收敛速度就越快，但是过大的η值会引起网络不稳定；η值小可以避免网络不稳定，但收敛速度则会变慢。因此，固定的学习率严重制约了BP神经网络的收敛速度。

2)易陷入局部极小值。在BP网络的误差计算中，由于多层网络误差计算较为复杂，容易出现存在多个局部极小值的可能，因此当标准BP算法收敛时，无法判断是否已求到最优解。

3)隐含层层数及神经元数的选取没有相应理论指导。目前，隐含层层数及神经元数的选取大多依靠以往经验选取，缺乏相应理论依据，因此网络可能存在极大的亢余性，使得网络运算速度增加。

4)对于数值数量关系差距较大的数据预测效果较差[4-7]。在BP网络的误差计算中，当实验数据数量关系相对较大时，往往会导致预测结果误差偏大。

此外，BP网络还存在学习率、初始权值等选取的大小影响网络运算快慢等问题，所以在学习率、初始权值的选取上需要经过反复测试，在此过程中也需要很长的时间。

本文正是针对第1点和第4点的不足，应用数据的相对误差作为误差信号来对标准BP算法进行改进，以提高对于数值数量关系差距较大的数据进行预测时的运算速度和精度。

3BP算法的改进

应用标准BP算法预测数值的过程中，在数据中存在数量关系差距较大的情况下，往往会使得误差偏大。这是由于BP算法通常采用绝对误差作为误差传递信号，而当数据间数量关系差距较大时，其绝对误差往往会因不考虑与实际值间关系而在无形中将系统整体误差值放大，从而导致最终预测结果精确度不高、运算速度较慢。因此，采用相对误差作为网络误差的传递信号，则可以很好地避免此类不足所带来的影响。为此，提出一种以相对误差作为误差传递信号的改进方法是很有实际意义的。下面将应用相对误差作为误差传递函数的过程进行如下推导。

(7)

(8)

(9)

设局部梯度为

(10)

(11)

(12)

因此，修正量为

(13)

隐层上任意节点下一次迭代时与输出层上任一节点之间的权值为

(14)

隐层与隐层间的权值修正量为

(15)

设局部梯度为

(16)

(17)

又因为

(18)

所以有

(19)

又因为

(20)

所以有

(21)

那么，下次迭代时隐层上任意节点与另一隐层上任意节点间的权值为

(22)

输入层与隐层间权值修正量的推导方法与隐层与隐层间权值修正量的推导方法相同。权值修正量为

(23)

(24)

那么，下次迭代时输入层上任一节点与隐层上任一节点间的权值为

(25)

4应用实例

以预测黑龙江省农机总动力为例，根据黑龙江省统计年鉴，黑龙江省1980-2009年农机总动力如表1所示[7]。

表1　1980-2009年黑龙江省农机总动力　　　 　MW

下面以标准BP算法和上文所述的应用相对误差作为误差传递函数的改进BP算法，分别对该数据进行拟合，并预测2011-2013年的黑龙江省农机总动力。训练采用的BP神经网络结构均为3-4-1，同时应用两种算法训练500 000次，其预测精度情况如表2所示。考虑到初始权值选取对预测结果的影响，表2中的结果为训练10次得到的平均值。由表2可知：标准BP算法经过500 000次训练后得到的平均相对误差为2.829%；而改进后的BP算法经同样训练次数后得到的平均相对误差为1.824%，其预测精度明显提高。

表2　预测精度情况

5结论

以相对误差作为误差传递信号，可以明显提高相同运算次数下预测值的精度。本文创新点在于提出了一种新的改进思想，并且这种改进思想可结合其他改进算法应用，

在更大程度上提高预测的精度和运算速度，为BP神经网络的广泛应用打下坚实的基础。

参考文献：

[1]王吉权.BP神经网络的理论及其在农业机械化中的应用研究[D].沈阳：沈阳农业大学，2011.

[2]高隽.人工神经网络原理及仿真实例[M].北京：机械工业出版社,2007.

[3]王燕妮，樊养余.改进BP神经网络的自适应预测算法[J].计算机工程与应用，2010,46(17)：23-26.

[4]陈思.一种BP神经网络学习率的改进方法[J].长春师范学院学报:自然科学版，2010,29(4)：25-27.

[5]罗四维，肖晔，丁嘉种.学习率自动调整的BP算法[J].北方交通大学学报，1993,17(2)：173-177.

[6]邓娟，杨家明.一种改进的BP算法神经网络[J].东华大学学报:自然科学版，2005,31(3)：123-126.

[7]王吉权.基于BP神经网络的农机总动力预测[J].农业机械学报，2011,42(12)：121-126.

Abstract ID:1003-188X(2016)02-0022-EA

Prediction of Total Power in Agriculture Machinery of Heilongjiang Based on An Improving Method of BP Neural Network

Ma Haizhi, Wang Fulin, Wang Huipeng, He Zhilian

(College of Engineering, Northeast Agricultural University, Harbin 150030, China )

Abstract：BP neural network plays a vital role in artificial neural networks. In this paper, through the analysis of the basic algorithm of standard BP neural network, and points out some shortcomings of the standard BP algorithm, to solve these problems we use a relative error as a new improved method of error transfer signal .The test proved that this method greatly improves the accuracy of BP neural network prediction, and this new and improved idea can also be applied together with other improved methods to predict the computing speed and accuracy to a greater extent to improve BP neural network.

Key words：total power of agriculture machinery; forecast; BP Neural Network; relative error

文章编号：1003-188X(2016)02-0022-04

中图分类号：S23-01

文献标识码：A

作者简介：马海志(1989-),男，黑龙江七台河人，硕士研究生，(E-mail)413015934@qq.com。通讯作者：王福林(1960-)，男，黑龙江安达人，教授，博士生导师，(E-mail)fulinwang1462@126.com。

基金项目：国家社会科学基金项目(13BJY098)

收稿日期：2015-01-11