基于LM-BP神经网络的农机总动力预测

张 力，王福林，刘宇燕，孙 婷

(东北农业大学 工程学院，哈尔滨 150030)



基于LM-BP神经网络的农机总动力预测

张 力，王福林，刘宇燕，孙 婷

(东北农业大学 工程学院，哈尔滨 150030)

利用黑龙江省1983-2013年农机总动力数据，运用标准BP神经网络和LM-BP神经网络对黑龙江省未来5年的农机总动力进行预测。预测结果表明：在达到相同的误差目标值(即计算期望精度)，LM-BP神经网络与标准PB相比，具有更快的收敛速度。如果需进一步减小误差目标值(即提高计算期望精度)时，标准BP神经网络在16h内都无法满足给定的精度要求；而LM-BP神经网络在20s内即可满足给定的精度要求。此时，LM-BP神经网络的收敛速度优势非常明显，而拟合的精度也进一步提高，表明LM-BP神经网络具有较高的预测精度。准确的预测黑龙江省农机总动力，可为黑龙江省农业机械化发展规划的制定和近阶段农业机械化的发展水平提供参考依据。

农机总动力；预测；LM-BP神经网络

0 引言

人工神经网络是一门高度综合的交叉学科，其研究和发展涉及到神经生理科学、数理科学、信息科学和计算机科学等众多学科领域。BP神经网络是人工神经网络的重要分支，其理论体系完善、算法流程清晰、数据识别功能强大，故得到了广泛的应用，在解决非线性系统问题时，优势突出。

随着对BP神经网络研究的逐步深入，也暴露出其误差收敛速度过慢的问题，其原因有以下几点：一是BP神经网络中存在固定的学习率，而训练过程对学习率十分明显，学习率过小，会导致性能指数收敛速度变小，训练时间变长；当学习率过大时，性能指数可能会在某个误差等级上波动。二是BP算法本质是基于梯度的最速下降，利用权值的一阶导数信息来指导下一步的权值调整方向，以求达到最终误差最小来保证算法的收敛性；但误差减小的速度最快并不能保证收敛速度是最快。三是多层BP神经网络的传输函数一般是Sigmoid函数。该函数能把无穷大的输入变量，压缩到一个取值范围有限的输出变量当中。当给Sigmoid函数一个很大输入时，会使其斜率趋近于零。这时，尽管性能指数还远不能满足预定的精度，但是此时的梯度幅度也会变得非常小，即权值和阈值的修正量也会变得非常小，这也会导致训练的时间变得非常长。

农业机械化的发展有利于减少农村劳动力需求，提高农业生产率，而农机总动力是衡量农业机械化水平的主要指标[1-4]，也是制定农业发展规划的有力依据。因此，能够精确预测农机总动力的发展趋势，可以为区域农机发展规划和宏观调控工作提供参考。农业机械总动力是指用于农、林、副、渔的机械总动力之和，具体包括拖拉机及配套农具、农业排灌动力机械、联合收割机、机动脱粒机及渔用机动船等机械动力之和[5]。

理论上已经证明，具有一个隐含层的三层神经网络(见图1)可以逼近任意非线性函数。所以，本文利用黑龙江省1983-2013年农机总动力数据，运用LM-BP神经网络对黑龙江省农机总动力进行拟合和预测[6]。

1 LM-BP神经网络

1)构造性能指数为

(1)

其中，h=(q-1)s2+k这里构造向量v，vT=[e1,1e1,2...es2,1...ej,q...es2,1]使得F(x)=vTv。v的维数是。其中，N=s2×Q。

(2)

图1 三层BP神经网络结构图

(3)

由链式法则，结合矩阵乘法得

(4)

4)计算雅可比矩阵。雅可比矩阵的维数为。其中，N=s2×Q，n=s2(s1+1)+s1(s0+1)。可以把雅可比矩阵划分为4个部分：W1、b1、W2、b2，现在分别对每一个部分进行计算。

(1)W2区。Jw2的维数为。针对W2区有

(5)

(6)

(2)b2区。Jb2的维数为，针对b2区有

(7)

(8)

(3)W1区。Jw1的维数为，针对W1区有

(9)

(10)

(4)b1区。Jb1的维数为，针对b1区有

(11)

(12)

5)计算各权值、阈值的变化量为

xk+1=xk-[JT(xk)J(xk)+

μkI]-1JT(xk)v(xk)

(13)

6)重复上述过程。如果新计算的性能指数F(x)小于以前，那么

μk+1=μk/θ

(14)

转到2)，即重新计算雅可比矩阵。

如果新计算的性能指数F(x)不小于以前，那么

μk+1=μk×θ

(15)

转到5)，其中，μk的初始值设为一个较小的正数，θ为一个大于1的常数[7]。

2 计算实例

下面分别运用标准BP神经网络和LM-BP神经网络预测黑龙江省农机总动力的发展变化，表1数据是1983-2013年黑龙江省农机总动力，来自国家统计局官方网站。

表1 1983年-2013年黑龙江省农机总动力

首先对表1中的数据进行归一化处理[8]，其表达式为

(16)

式中 xi—输入赝本数据；

xmin—输入样本中的最小值；

xmax—输入样本中的最大值；

对神经网络采用标准BP训练算法训练。BP神经网络的结构为标准的三层结构。网络的输入层节点个数为4，隐含层的神经元个数为6，输出层神经元个数为1。当训练次数为290 638次时，耗时9 351.6s，均方误差(mse)为0.02%，其预测结果如表2和图2所示。

最后，对神经网络采用LM_BP训练算法训练。同样，BP神经网络的结构为标准的三层结构，网络的输入层节点个数为4，隐含层的神经元个数为6，输出层神经元个数为1。当训练次数为3次时，耗时1.168 8s,均方误差(mse)为0.001 66%。

由此可以看出：LM_BP训练算法相比于标准BP训练算法在运算速度上存在巨大的优势，在相同的均方误差等级下(0.02%)，标准BP训练算法所用的时间是LM_BP训练算法的8 000倍以上。并且，如果把均方误差(mse)目标设置为0.001%，标准BP训练算法在经过771 978次训练，耗时60 825s，均方误差(mse)仅达到0.001 46%；而LM_BP训练算法只用了219次训练，耗时4.189 4s，均方误差(mse)就已达到0.000 906%。即当均方误差(mse)目标越小时，越能体现LM_BP训练算法的优势。

表2 预测精度情况

续表2

图2 两种算法训练的神经网络的预测情况

3 结论

利用黑龙江省1983-2013年农机总动力数据，运用标准BP神经网络和LM-BP神经网络对黑龙江省未来5年的农机总动力进行预测。预测结果表明：当均方误差相同且均方误差不是很小时，与标准PB相比，LM-BP神经网络具有更快的收敛速度。当均方误差相同并进一步减小均方误差值时，标准BP神经网络需要很长时间才能达到给定的精度要求，而LM-BP神经网络在短时间内即可满足给定的精度要求。如果进一步减小均方误差值，标准BP神经网络理论上虽然可达到给定的精度要求，但耗时较长；而LM-BP神经网络仍能够快速收敛，此时LM-BP神经网络收敛的速度优势非常明显，拟合的精度进也一步提高，表明LM-BP神经网络具有较高的预测精度。

[1] 宋珲，董欣，王兵.基于BP神经网络的农机总动力预测模型研究[J].东北农业大学学报，2009，40(4)：116-120.

[2] 刘玉静，李成华，杨升明．辽宁省农机总动力组合预测与分析[J]．农机化研究，2007(5)：31-33．

[3] 鞠金艳，王金武，王金峰．基于BP神经网络的农机总动力组合预测方法[J]．农业机械学报，2010，41(6)：87-92．

[4] 张淑娟，赵飞．基于Shapley值的农机总动力组合预测方法[J]．农业机械学报，2008，39(5)：60-64．

[5] 刘天舒.网络的改进研究及应用[D].哈尔滨：东北农业大学，2011.

[6] 王吉权，王福林，邱立春.基于BP神经网络的农机总动力预测[J].农业机械学报，2011，42(12):121-126.

[7] Hagan T，Demuth H，Beale M. Neural Network Design. Boston[M].MA: Publishing，1996.

[8] 王吉权.BP神经网络的理论及其在农业机械化中的应用研究[D].沈阳：沈阳农业大学，2011.

Prediction of Total Power in Agriculture Machinery Based on LM-BP Neural Network

Zhang Li, Wang Fulin, Liu Yuyan, Sun Ting

(College of Engineering, Northeast Agricultural University, Harbin 150030, China)

Taking advantage of the total power of agriculture machinery data in Heilongjiang Province from 1983 to 2013, using BP neural network and LM-BP network to predict the total power of agriculture machinery in Heilongjiang Province over the next 5 years. The result of prediction show that in the same error target values (expected accuracy of compute), compared with BP neural network, LM-BP neural network has faster convergence speed. To reduce the error of target (improve the expected accuracy of compute), the BP neural network cannot satisfy the requirement of the given accuracy within 16 hours, while the LM-BP neural network can satisfy the requirement of accuracy in 20 seconds. At this point, the convergence speed of LM-BP neural network is obvious, and the fitting precision is also improved, which show that the LM-BP neural network has higher prediction accuracy. Accurate prediction of the total power of agriculture machinery in Heilongjiang Province, which can make the development plan for the agricultural mechanization in Heilongjiang Province and provide

for the level of agricultural mechanization development.

total power of agriculture machinery; prediction; LM-BP neural network

2015-11-23

国家自然科学基金项目(31071331);黑龙江省教育厅科学技术研究项目(12511049)

张 力(1992-),男，成都人，硕士研究生，(E-mail) 535320706@qq.com。

王福林(1960-)，男，黑龙江安达人，教授，博士生导师，(E-mail)fulinwang1462@126.com。

S23-01

A

1003-188X(2017)01-0010-05