基于群智能算法优化BP神经网络的应用研究综述

杨洋 陈家俊

摘要：BP神经网络广泛应用于众多实际问题解决中，但是有一些缺点：容易陷入局部最小值，学习速度慢，计算精度低等。采用群智能算法优化的BP神经网络，可行性和实用性更强。本文对群智能算法中的遗传算法、蜂群算法、蚁群算法和萤火虫算法优化的BP神经网络应用进行分析和综述，对群智能算法优化BP神经网络的未来发展有着重要的参考价值。

关键词：群体智能;BP神经网络;遗传算法;蜂群算法;蚁群算法;萤火虫算法

中图分类号：TP311     文献标识码：A

文章编号：1009-3044（2020）35-0007-04

开放科学（资源服务）标识码（OSID）：

Review on Application of Intelligent Algorithm to Optimize BP Neural Network

YANG Yang， CHEN Jia-jun

（School of Electronics and Information Engineering West Anhui University， Luan 237012， China）

Abstract： BP neural network is widely used in many practical problems， but it has some  disadvantages： easy to fall into local minimum value， slow learning speed， low calculation accuracy. BP neural network optimized by swarm intelligence algorithm is more feasible and practical. This paper analyzes and summarizes the application of BP neural network optimized by genetic algorithm， bee colony algorithm， ant colony algorithm and firefly algorithm， which has important reference value for the future development of swarm intelligence algorithm optimization BP neural network.

Key words： swarm intelligence; neural network; genetic algorithm; bee colony algorithm; ant colony algorithm; firefly algorithm

人工神經网络（Artificial Neural Networks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（Connection Model），它是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的[1] 。

1986 年，Rumelhant 和McClelland 提出了多层前馈网络的误差反向传播（ Error Back Propagation） 神经网络学习算法[2]。

BP神经网络的基本原理是，利用已有结果的数据对网络进行训练，之后用训练好的网络模型对未知数据样本进行输出预测[3]。BP神经网络因具有良好的非线性映射能力、自学习和自适应能力，成为目前应用最多的神经网络之一[4]。

群体智能源于对以蚂蚁、蜜蜂等为代表的社会性昆虫的群体行为的研究，最早被用在细胞机器人系统的描述中。它的控制是分布式的，不存在中心控制，群体具有自组织性[5] 。

1989 年 Gerardo Beni 和 Jing Wang在文章《Swarm Intelligence》中第一次提出了“群体智能”这个概念[6]。

SI的优点在于[7]：（1）灵活性：整个种群能够快速适应变化的环境;（2）鲁棒性：即使少数个体无法工作，整个种群依然能够正常运转;（3）自组织性：整个种群只需要相对较少的监督或自上而下的控制。

目前群智能研究主要包括智能蚁群算法、萤火虫算法、遗传算法、混合蛙跳算法、鸟群搜索和蜂群算法等。其中，遗传算法， 蜂群算法， 蚁群算法， 萤火虫算法在求解实际问题时应用较为广泛。 本文对这四种算法优化BP神经网络的应用方法进行研究和分析，并对各种方法存在的问题进行总结，列举了各种方法的应用场景，对群智能算法优化BP神经网络的应用研究有一定的参考价值。

1 遗传算法优化BP神经网络

1.1 遗传算法

遗传算法（genetic algorithm，GA）受生物进化论启发，是一种通过模拟自然界中适者生存、优胜劣汰的进化过程得到待解决问题的最优解的方法[8]。

遗传算法对参数的编码从多点进行操作，可以有效防止搜索过程陷于局部最优解。BP 网络沿着误差减小的最大梯度方向调整网络权值，容易陷入局部最小值。采用遗传算法优化 BP 网络的初始权值，可以有效改善此问题[9]。

1.2 应用现状及分析

张华伟等[10]提出了适用于拼焊板盒形件拉深成形压边力预测的 BP 神经网络模型，采用遗传算法优化神经网络，采用实数编码对个体进行编码，选择轮盘赌法，并使用精英保留策略。实验表明，预测误差由原本的 15.68%降至现在的5.08%，幅度明显，满足了实际生产中的压边力预测要求。

刘宇等[11]提出了基于遗传算法优化神经网络的多源信息融合定位方法，对组合和推算定位结果向真实定位结果训练融合，实验表明，预测均方误差降低了约 75%，融合定位较单一定位方式，精度平均提升约47%。所提的优化方法具有更优的定位性能。

王倚文等[12]建立了附加摄动改正参数训练的GA-BPNN轨道误差模型（BDS），采用BDS星历数据作为试验对象，结果表明，进行卫星轨道解算补偿时能提高25%-75%不等，轨道误差得到了有效减小，对于减少BDS系统级误差有重要参考价值。

李明星等[13]提出了以径向基函数神经网络构建实验设计样本的近似模型，然后用多目标遗传算法进行数值优化获得防护组件最优方案。实验证明，优化方案满足设计要求，可以显著提升防雷板的防护能力。

2 人工蜂群算法优化BP神经网络

2.1 人工蜂群算法受蜜蜂觅食行为启发

2005 年Karaboga 等人提出了人工蜂群（Artificial Bee Colony）算法[18-19]。通过模拟蜂群的采蜜活动，用来解决高维和多目标优化问题，快速得到局部最优解。2007年～2008 年D Karaboga 提出系统的蜂群算法，并采用蜂群算法训练人工神经网络，取得良好的应用效果[20-21]。

Badem [22]提出一种基于混合人工蜂群的训练策略（HABCbTS），包括一个或多个级联到softmax分类层的自动编码器层，来调整深度神经网络（DNN）结构的参数。HABCbTS具有更好的分类性能，其训练的DNN分类器适应性强，也可用于卷积神经网络等类似神经网络[23]。可应用在模式识别、语音处理、医学等方面。

2.2 应用现状及分析

徐健等[24]提出一种基于交叉运算和全局搜索因子的人工蜂群优化BP神经网络分类方法——CGABC-BP（Cross GlobalArtificial Bee Colony and Back Propagation）。用这种方法对脑电信号进行分类，分类正确率得到了提高，使脑电信号更加精准地控制外部设备，对康复医疗等领域的发展有着重要的价值。

杨粟涵等[25]提出了再制造物流网络模型，采用蜂群算法進行编码仿真，使网络设施的位置和数量得到正确的结果，实验表明，该模型效果很好，可行性好，并且在求解此类复杂问题时人工蜂群算法的各优越性能得到了充分发挥。

罗海艳[26]提出了采用三层 BP 神经网络算法，搭建移动用户行为分析预测模型，通过黑盒测试方法，预测成功率达 80% 以上。采用初始总群数为 1000 ，进行了收敛性测试。 试验表明：该模型有效地提高了移动用户行为分析的效率和准确性，对用户上网需求的准确定位以及企业竞争力的大力提升具有一定的应用价值。

文祝青等[27]提出了一种基于ABC-BP神经网络的指纹识别算法，不断地训练指纹的特征点坐标的数值，获得最优的数据，实验表明，该算法获取了完整的有效的指纹识别结果，对指纹系统的精确识别具有很大的价值。

3 蚁群算法优化BP神经网络

3.1 蚁群算法

蚁群算法（Ant Colony Optimization，ACO）是一种基于种群寻优的启发式搜索算法，能够优化BP神经网络的权值和阈值，通过正反馈和分布式协作来实现全局最优，避免陷入局部最优[32]。

3.2 应用现状及分析

王岩雪[33]提出了一种蚁群优化 BP神经网络的政务云网络安全态势预测模型，改进算法的信息素更新规则，并将优化的权值和阈值用于 BP 神经网络训练和预测。实验表明，该模型在网络安全态势预测中，显著地提高了其收敛速度和预测精度。

王勃等[34]提出一种BP神经网络的RPROP混合算法，合并处理所有海量信息中具有相同关系的数据，去除相同项，迭代次数改善明显，实验表明，该算法大力提高了网络分类正确率和运行的效率，具有一定的实用价值。

曾植等[35]提出组合蚁群算法（Combined ACO，CACO） 优化BP神经网络，限制信息素轨迹量值域范围，把精英策略的蚂蚁系统与MAX-MIN蚂蚁系统互相结合，验证表明，改进的算法提高了变压器潜伏性故障诊断的准确性和可靠性，对变压器故障诊断有重大的意义。

唐锡雷[36]提出了蚁群优化神经网络的船舶排水量估计方法，在估算模型中输入定点水域密度系数，估算出船舶排水量。实验表明，该方法能精确有效地提高船舶排水量的估算水平。

4 萤火虫算法优化BP神经网络

4.1 萤火虫算法

目前共有两种萤火虫算法，一种（Glowworm Swarm Optimization，GSO）在2005 年由Krishnanand[41]提出，GSO算法是模拟现实中萤火虫觅食行为而提出的一种新型元启发式搜索算法。另一种（Firefly Algorithm，FA）在2009 年由Yang[42-43] 提出。采用萤火虫算法来优化BP神经网络，通过萤火虫算法得到更好的网络初始权值和阈值[44]。

4.2 应用现状及分析

王慧等[45]提出了一种基于萤火虫优化的BP神经网络温度补偿模型，使得神经网络的泛化性和搜索率大幅度提高。结果表明：萤火虫优化的BP神经网络综合特性表现良好，压力传感器温度补偿算法可行。郭震等[46]提出一种萤火虫算法（FA）优化BP神经网络的温度漂移补偿方法，选取7个温度点，建立陀螺仪温度漂移模型，结果表明，该模型使陀螺仪温度漂移得到了缓解，较传统BP神经网络，补偿效果得到了较大的提高。毛君等[47]提出了一种基于改进萤火虫算法优化神经网络故障诊断方法。首先对刮板输送机减速器故障特征参数进行特征提取，其次应用特征数据样本进行基于神经网络的故障诊断模型训练，利用改进萤火虫算法对神经网络权值、阈值进行优化，加快目标的优化求解，得到最优的网络模型。研究表明将改进萤火虫算法与 BP（back propagation）神经网络结合可以有效地解决神经网络收敛速度慢，易陷入局部最优等问题，可以对刮板输送机减速器的故障进行准确诊断。张明等[48]提出了一种应用于障碍物模式识别中的改进进化机制的萤火虫算法（IEMFA），采用位置移动策略，实验表明，由IEMFA优化的BP神经网络模型的障碍物识别效果更好。

5 总结

本文对群智能算法中的遗传算法、蜂群算法、蚁群算法和萤火虫算法优化的BP神经网络应用的相关研究进行了综述。改进模型广泛应用于交通出行、医学识别、天气预测、金融评估、海洋水质分析等各领域，分别在数据的精确程度、计算速度和稳定性上得到了明显提升。但因为各应用场景的特殊性，仍存在不足，如数据量采集不够充分、影响因素考虑不足、计算量太大、样本选取难度大等。在今后的研究中，有更多的问题需要继续的完善和探索。

参考文献：

[1] 何明.大学计算机基础[M].南京：东南大学出版社，2015.

[2] Rumelhart D E，Hinton G E，Williams R J.Learning representations by back-propagating errors[J]Nature，1986，323（3）： 533 -536.

[3] WANG J C，YU Y，YANG K，et al.Brain tumcr segmentation of MRI based on BP neural network[J].Journal of Biomedical Engineering Research，2016，35（4）：290-293.

[4] BADI H，HAMZA A，HASAN S.New method for optimization of static hand gesture recognition[C]//2017Intelligent Systems Conference（IntelliSys）.IEEE，2017：542-544.

[5] Bonabeau， Eric; Dorigo， Marco; Theraulaz， Guy （1999）. Swarm Intelligence： From Natural to Artificial Systems. ISBN 0-19-513159-2.

[6] Hinchey M G，Sterritt R，Rouff C.Swarms and swarm intellgence[J].Computer，2007，40（4）：111-113

[7] Bonabeau EMeyer C.Swarm intelligence：A whole new way to think about business[J].Harvard Business Review，2001，79（5）：106-114

[8] SUN Y，XUE B，ZHANG M，et al.Automatically Designing CNN Architectures Using Genetic Algcrithm for Image Classification[J].arXiv：1808.03818，2018.

[9] 邱华鑫，段海滨，范彦铭.基于鸽群行为机制的多无人机自主编队[J].控制理论与应用，2015，32（10）：1298-1304.

[10] 張华伟，郑晓涛.基于遗传算法优化神经网络的拼焊板压边力预测[J].东北大学学报（自然科学版），2020，41（2）：241-245.

[11] 刘宇，惠鸿飞，路永乐，等.基于遗传算法优化神经网络的多源信息融合室内定位方法[J].中国惯性技术学报，2020，28（1）：67-73.

[12] 王倚文，许承东，彭雅奇，等.基于GA-BP神经网络的BDS轨道误差模型研究[J].计算机仿真，2020，37（2）：82-86.

[13] 李明星，王显会，周云波，等.基于神经网络的车辆抗冲击防护组件优化[J].爆炸与冲击，2020，40（2）：107-115.

[14] 刘晓彤，王伟，李泽禹，等.基于改进BP神经网络的尿液中红白细胞识别算法[J].计算机科学，2020，47（2）：102-105.

[15] 李帆，闫献国，陈峙，等.基于遗传算法优化BP神经网络的YG8硬质合金耐磨性预测模型[J].金属热处理，2019，44（12）：244-248.

[16] 朱苗苗，潘伟杰，刘翔，等.基于BP神经网络代理模型的交互式遗传算法[J].计算机工程与应用，2020，56（2）：146-151.

[17] 张天虎，鲍艳松，钱芝颖. 基于 BP 神经网络与遗传算法反演大气温湿廓线[J]. 热带气象学报，2020，36（1）：97-107.

[18] Karaboga D.An idea based on honey bee swarm for numerical optimization，Technical Report- TR06[R].Kayseri，Turkey：Erciyes University，2005.

[19] Karaboga D，Basturk B.A powerful and efficient algorithm for numerical function optimization：Artificial bee colony algorithm[J].Journal of Global Optimization，2007，39（3）：459-471.

[20] Karaboga D， Basturk Akay B，Ozturk C. Artificial Bee Colony （ABC） Optimization Algorithm for Training Feed-Forward Neural Networks [C]. In： LNCS： Modeling Decisions for Artificial Intelligence， Springer-Verlag， Berlin Heidelberg， 2007 （4617）：318-319.

[21] Karaboga D，Basturk B. Artificial Bee Colony Algorithm on Training Artificial Neural Networks[C]. In： 2007 IEEE 15th Signal Processing and Communications Applications， 2007：1-4.

[22] Badem H，Basturk A，Caliskan A，et al.A new efficient training strategy for deep neural networks by hybrid-ization of artificial bee colony and limited-memory BFGS optimization algorithms[J].Neurocomputing，2017，266：506-526.

[23] 林诗洁，董晨，陈明志，等.新型群智能优化算法综述[J].计算机工程与应用， 2018，54（12）：1-9.

[24] 徐健，陈倩倩，刘秀平.基于交叉运算的人工蜂群优化 BP 神经网络的脑电信号分类[J].激光与光电子学进展，2020，57（21）：212001.

[25] 杨粟涵，张平华，于蕾.人工蜂群算法在再制造物流网络优化中的应用 [J].河南科技， 2019，694（32）：11-14.

[26] 罗海艳，杨勇，王珏，等.基于人工蜂群改进的 BP 神经网络移动用户行为分析及预测方法 [J]. 沈阳农业大学学报，2015，46（6）： 757-761.

[27] 文祝青，吴志攀.一种基于ABC-BP神经网络的指纹识别算法研究[J].电脑知识与技术，2017，13（32）：195-198.

[28] 黄恩潭，谷远利，基于改进人工蜂群算法优化小波神经网络的短时交通流预测[J].山东科学， 2018，3l（2）：79-87.

[29] 李晓静.基于改进蜂群算法的神经网络及其应用[J].琼州学院学报，2015，22（2）：29-34.

[30] 杨辉.人工蜂群-BP网络算法在云计算入侵检测中的应用[J].信息技术与信息化， 2020（4）：150-154.

[31] 杨咪，徐盼盼，钱会，等.基于人工蜂群算法的BP双隐含层神经网络水质模型[J].环境监测管理与技术，2018，30（1）：21-26.

[32] 乔东平，裴杰，肖艳秋，等.蚁群算法及其应用综述[J].软件导刊，2017，16（12）：217-221.

[33]王岩雪，孙大跃.基于蚁群算法优化BP神经网络的政务云网络态势预测研究[J].现代电子技术.（http：//kns.cnki.net/kcms/detail/61.1224.TN.20200416.2107.002.html）.

[34] 王勃，徐静.基于蚁群优化算法的BP神经网络的RPROP混合算法仿真的研究[J].计算机测量与控制，2018，26（7）：195-202.

[35] 曾植，张寒，杨廷方，等.基于组合蚁群算法优化神经网络诊断变压器潜伏性故障[J].电气应用，2019（6）：43-49.

[36] 唐锡雷.蚁群优化神经网络的船舶排水量估计[J].舰船科学技术，2018，40（3A）：10-12.

[37] 秦浩森，丁咚，王祥东，等.蚁群算法優化BP神经网络声学底质分类方法[J].中国海洋大学学报，2019，49（II）：60-68.

[38] 王震，陆金桂.改进的ACO-BP神经网络在锂离子电池SOC估算中的应用[J].轻工学报，2019，34（4）：81-86.

[39] 余修武，刘琴，李向阳，等.基于改进蚁群的 BP 神经网络 WSN 数据融合算法[J].北京邮电大学学报，2018，41（4）：91-96.

[40] 肖仁鑫，李沛森，李晓宇，等.基于蚁群神经网络算法的电池健康状态估计[J].电源技术，2017，41 （6）：916-919.

[41] Krishnanand K N，Ghose D.Glowworm swarm optimization for simultaneous capture of multiple local optima of multimodal functions[J].Swarm Intelligence，2009，3（2）：87-124.

[42] Yang X S.Nature-inspired metaheuristic algorithms[M].[S.l.]：Luniver Press，2008.

[43] Yang X S.Firefly algorithms for multimodal optimization[J].Mathematics，2009，5792：169-178.

[44] 王改革，郭立红，段红，等.基于萤火虫算法优化BP神经网络的目标威胁估计[J].吉林大学学报（工学版）.2013，43（4）：1064-1069 .

[45] 王慧，符鹏，宋宇宁.基于萤火虫优化BP神经网络方法的传感器温度补偿策略[J].机械强度，2020，42（1）：109-114：109-104 . （下转第14页）

（上接第10页）

[46] 郭震，刘颖，于福华.FA优化BP神经网络的MEMS陀螺仪温度漂移补偿[J].微纳电子技术.2019，56（10）：817-827.

[47] 毛君，郭浩，陈洪月.基于改进萤火虫算法神经网络的刮板输送机减速器故障诊断[J].机械强度，2019，41（3）：544-550.

[48] 张明，张树群，雷兆宜.改进的萤火虫算法在神经网络中的应用[J].计算机工程与应用，2017，53（5）：159-163.

[49] 吴华伟，张远进，叶从进.基于萤火虫神经网络的动力电池SOC估算[J].储能科学与技术，2019，8（3）：575-579.

[50] 刘园园，贺兴时.基于自适应萤火虫算法的BP神经网络股价预测[J].渭南师范学院学报，2019，34（2）：87-96.

[51] 彭新建，翁小雄.基于萤火虫算法优化BP神经网络的公交行程时间预测[J].广西师范大学学报（自然科学版），2017，35（1）：28-36.

[52] 李敬明，倪志伟，朱旭辉，等.基于改进二进制萤火虫的 BP 神经网络并行集成学习算法[J].模式识别与人工智能， 2017，30（2）：171-182.

【通联编辑：梁书】