BP神经网络的应用

张 敬 玲

(无锡商业职业技术学院 现代教育中心，江苏 无锡 214153)



BP神经网络的应用

张 敬 玲

(无锡商业职业技术学院 现代教育中心，江苏 无锡 214153)

回顾了人工神经网络的发展史，分析了BP神经网络的结构，对BP神经网络在函数逼近、模式识别、分类应用、数据压缩等方面的应用进行了综述.

BP神经网络；应用；结构；综述

人工神经网络技术的诞生为处理众多不确定、不完整的数据提供了一个崭新的途径，尤其是BP神经网络，它在函数逼近、模式识别、分类应用、数据压缩等方面得到了广泛的应用.本文主要介绍BP神经网络的应用情况.

1 人工神经网络的发展史

人工神经网络是根据人类神经的活动而建立的模仿人类大脑神经活动的数学模型.神经网络的研究经历了30多年，回看它的发展历史，可以划分为三个阶段.第一阶段：启蒙阶段.1890年美国心理学家W·James著的《心理学原理》，首次提出了人脑结构与功能的联系.数学家Pitts和生理学家Mcculloch给出了首个神经元的数学模型，即M-P模型，并深入研究了基于神经元模型的若干个基本元件互相连接的潜在功能.Hebb于1949年在《行为构成》中首次提出了改变神经元连接强度的Hebb规则.1958年感知器(Perceptron)的概念首先由计算机学家Rosenblant引入，并构造出了人类第一个人工神经网络.第二阶段：低潮阶段.Minsky在《Preceptron》一书中指出，线性感知器的功能是有限的，它无法解决线性不可分的两类样本的分类问题.这就给众多的学者泼了一盆冷水，并导致美国及前苏联的一些科研机构纷纷停止对此类项目的资助,以至于这个领域的众多学者被迫转向其他课题的研究.这一阶段长达10年.第三阶段：发展阶段.1982年Hopfield在美国国家科学院的刊物上提出了著名的Hopfield模型，引入了“能量函数”的概念，论述了在一定条件下网络可以达到稳定的状态.这引起了工程界的莫大兴趣.1986年美国David E.Rumelhart和James L.Mccelland发表了《并行分布式处理》一文，文中对认知的微观研究进行了论证，对具有非线性的、连续转移函数的多层前馈网络的误差反向传播算法(即BP算法)进行了详细的分析,解决了长期以来无权值调整有效算法的难题.BP算法至今一直在广泛运用.[1-4]

2 BP神经网络的结构

组成人工神经网络的基本单元是神经元，它本身十分简单.按照计算或者表示，它不具有强大的功能，但庞大的神经网络是由大量的神经元组成的，有高超的信息处理能力，神经网络的超强功能与其大规模并行连接、非线性处理及互连结构的可塑性密切相关，因此，要遵循一定的规则才能将神经元互连成网络.连接方式的不同决定了神经网络可分为两大类，即相互连接型网络和无反馈的前向网络.BP网络是一种典型单向传播的多层前向网络.BP算法又称误差反向传播算法，在神经网络的研究中具有悠久的历史，其核心是梯度下降法，即由信号的正向传播与误差的反向传播两个过程组成.正向传播时，样本数据从输入层输入，经隐层处理后，传向输出层.若输出层的实际输出值与期望值有出入，则转向误差的反向传播阶段.误差反传是将输出误差通过隐层向输入层方向逐层反传，并将误差分派给各层中的每个单元，所有单元获得误差信号后，会将此误差信号作为修正各单元权值的依据.其构造包括输入层、隐层及输出层，隐层可以为一层到多层.每层上的神经元称作节点或单元.同层节点无任何耦合.每一层节点的输出只影响下一层节点的输入[1].BP神经网络结构如图1所示.

图1 BP神经网络结构

3 BP神经网络的应用

3.1 函数逼近的应用

非线性是BP的特点之一.这源于BP神经网络在理论上可以以任意精度逼近任何非线性映射.如文献[5]设计了一个三层BP网络以完成非线性函数逼近的任务，网络结构为：输入和输出层各一个，隐层七个.训练次数为1000，学习速率为0.01，训练误差为0.0001，试验结果表明，BP神经网络能对非线性函数进行很好的逼近.文献[6]利用BP神经网络进行了曲线拟合，由于设置了20个节点，选取了合适的网络结构，网络经过100步的训练得到了各节点之间的权值和阈值，得出了满足不同精度要求的用户的拟合曲线.文献[7]利用串联BP神经网络多函数拟合，在研究神经网络对非线性函数拟合的过程中发现，一个网络同时只能对一个函数进行拟合，为了实现多个非线性函数的拟合，将多个BP神经网络串联组成一个BP神经网络，并在训练样本中加入噪声信号，经过342次训练后拟合，误差为0.000 978.串联BP神经网络能很好地对两个待拟合函数进行拟合.BP网络的拓扑结构可以直接影响网络对函数的逼近能力和效果，利用神经网络进行非线性拟合具有拟合速度快、精度高的特点.

3.2 模式识别的应用

BP神经网络的信息处理原理建立在模式联想的基础上，通过自组织或学习训练的网络具有强有力的模式识别能力，与传统的模式识别系统相比，它表现出明显的优越性.文献[8]利用BP神经网络基于熵类误差准则函数进行模式识别时，提出要避免“过学习”现象，在模式识别训练中，从关注总体误差效应改为重视个体误差效应，因此，提出误差逼近度ER的取值为0.1，它在众多的模式识别应用中，能够快速鉴别出相应的模式.文献[9]采用动态、系统地调整学习率η、动量因子α、斜率λ等参数的方法对BP神经网络进行了研究，改进了BP网络的收敛速度，降低了异常值误差带来的影响，同时令网络陷入局部极小的可能性大大降低，从而提高了BP网络模式的识别能力.将这一成果应用在汽车工业生产线上的零件识别中，取得了非常满意的结果.BP神经网络在模式识别中容易受到噪声的影响，因此，在应用中还有待于进一步改进.

3.3 分类应用

BP神经网络作为非线性的数学模型，经过一定的训练之后，能够辨识隐藏在数据背后的一些复杂规律.文献[10]利用神经网络分别以典型金矿、铜矿做矿床规模和类型分类，结果表明，BP 神经网络收敛速度快，具有较高的学习效率，能够很好地对数据进行分类.文献[11]利用BP神经网络基于LM算法的特点在遥感影像的分类中进行了应用，仅用79次训练就达到了设定的收敛精度，分类过程仅持续了32 s，分类精度明显提高，这进一步验证了BP是一个很好的分类器.用BP神经网络模型对数据进行分类仍存在许多亟待解决的问题，如神经网络最佳结构的确定、参数选择等.

3.4 数据压缩应用

近年来，数据压缩方法获得了很大的发展，已出现了多种压缩方法，这在传输过程中可以提高传输效率.文献[12]利用人工神经网络对图像数据进行了压缩研究，网络训练时间明显下降；将BP神经网络用于空间流体实验图像压缩中，取得了较高的压缩比及较好的重建图像质量，而且训练好的网络鲁棒性也较高.文献[13]利用BP神经网络，采用改进的最速梯度下降法设计网络，网络结构输入层神经元为64个，隐含层神经元数目可变，输出层神经元为64个，网络训练次数为200次，目标误差为0.1，动量因子α为0.4，学习速率η为0.02，仿真结果表明，其所设计的网络图像压缩效果良好，并具有较好的泛化能力，与传统的图像压缩技术对图像进行无损或有损的编码压缩技术相比，BP神经网络技术的非线性、容错性、自组织性和自适应性在数据压缩技术中得到广泛应用，并大大简化了数据压缩的复杂性.

4 结语

BP神经网络以其独特的性质为函数逼近、模式识别、分类应用、数据压缩研究提供了全新的途径，目前，BP神经网络已被运用到许多方面，如模式识别、预测、自动控制等，相信在以后的研究和发展中，BP 神经网络的应用会更加广泛，研究者也会取得更多的成就.

[1] 韩力群.人工神经网络教程 [M].北京：北京邮电大学出版社,2006：59-79.

[2] 程冰.模糊神经网络研究 [D].广州：广东工业大学，2005.

[3] 王立新.模糊系统与模糊控制教程 [M].北京：清华大学出版社，2003：231-236.

[4] 张永忠.一种新的模糊系统建模方法研究与应用 [J].冶金自动化，2004，28(21)：9-12.

[5] 吴正茂，罗健.利用BP神经网络实现函数逼近 [J].长江工程职业技术学院学报，2005(6)：50-52.

[6] 盛仲飙，同晓荣.BP神经网络在曲线拟合中的应用 [J].科学技术与工程，2001(10):6998-7000

[7] 陈旭伟，傅刚，陈环.基于串联BP神经网络多函数拟合的研究设计 [J].现代电子技术，2013(11)：14-16.

[8] 王宗炎，洪振华.BP网学习算法的改进及其在模式识别中的应用 [J].南京航空航天大学学报，1994(11)：216-223.

[9] 姜立芳，刘泊，施莲辉.一种改进的BP算法及其在模式识别中的应用 [J].哈尔滨理工大学学报，2003(8)：91-92.

[10] 阴江宁，肖克炎，李楠，等.BP神经网络在化探数据分类中的应用 [J].地质通报，2010(10)：1564-1571.

[11] 都业军，周肃，斯琴其其格，等.人工神经网络在遥感影像分类中的应用与对比研究 [J].测绘科学，2010(4)：120-121.

[12] 郑建华.BP神经网络在空间流体实验数据压缩中的应用 [J].中国图像图形学报,2001(6)：219-222.

[13] 张习民,卓东风.BP神经网络在图像压缩中的应用研究 [J].河南教育学院学报:自然科学版,2010(6)：28-32.

责任编辑：金 欣

Application of BP neural network

ZHANG Jing-ling

(Department of Computer Engineering,Wuxi Institute of Commerce, Wuxi, Jiangsu 214153, China)

This paper reviews the development of artificial neural networks, and analyzes the structure of BP neural network, BP neural network function approximation, pattern recognition, application of classification, and data compression.

BP neural networks; application; structure; review

2014-11-04

张敬玲(1968-)，女，河北石家庄人，无锡商业职业技术学院副教授,硕士，研究方向：计算机应用及人工智能技术.

1009-4873(2015)04-0034-03

TP183

A