一种基于哈里斯鹰算法改进的BP神经网络

◆吴丁杰 温立书

一种基于哈里斯鹰算法改进的BP神经网络

◆吴丁杰1温立书2 通讯作者

（1.沈阳航空航天大学航空发动机学院 辽宁 110135；2.沈阳航空航天大学理学院 辽宁 110135）

由于传统BP神经网络的训练过程对初始权值及阈值的依赖程度较大，且较优的初始权值及阈值又无法精确获取，采用哈里斯鹰算法对BP神经网络的权值、阈值进行优化。将BP神经网络训练过程中的误差作为适应度函数，并利用鸢尾花数据构建BP神经网络的训练集及测试集。测试结果表明，哈里斯鹰算法能够有效地优化权值及阈值并降低训练误差。BP神经网络的测试集分类准确率为86%，而经过哈里斯鹰算法优化后，BP神经网络的测试集分类准确率达到了96%。

哈里斯鹰算法；BP神经网络；优化；分类

1 引言

由于传统BP神经网络的网络训练精度对初始权值、阈值的依赖程度较大，而较优的初始权值和阈值又无法准确获得，因而导致BP神经网络训练误差大、过拟合等问题[1]。针对上述问题，许多学者采用了相关的寻优算法对BP神经网络进行优化，并取得了一定的效果[2-5]。哈里斯鹰算法（Harris Hawks Optimization，HHO）是由Heidari等人[6]在2019年提出的一种优化算法，具有全局搜索范围广，收敛速度快等优点，现已应用到多个工程领域[7-9]。基于上述分析，可以结合哈里斯鹰算法在寻优方面的优越性对BP神经网络的初始权值、阈值进行优化，进而提高其网络的分类识别正确率。

2 哈里斯鹰算法（HHO）

在HHO中，哈里斯鹰行为包括追踪、围攻和攻击在内的几个阶段高效地协作捕食。

1.1 探索阶段

在此阶段，哈里斯鹰处于等待状态，通过眼睛跟踪与探测猎物，以两种策略进行狩猎：

1.2 探索至开发的转换

1.3 开发阶段

针对实际捕猎过程现象，利用四个策略进行开发阶段的位置更新，以更好地模拟狩猎行为。

1.3 .1软包围

1.3 .2硬包围

1.3 .3渐进式快速俯冲软包围

1.3 .4渐进式快速俯冲硬包围

3 BP神经网络

BP神经网络是一种多层的前馈神经网络，一般较为广泛使用的为三层，包括输入层、隐含层、输出层，神经网络的拓扑结构主要取决于输入维度、隐含层数和神经元个数、输出维数。其网络拓扑结构如图1所示。

图1 BP神经网络拓扑结构

4 HHO-BP神经网络算法流程

由于BP神经网络的训练过程受到初始权值、阈值的影响，故利用HHO算法对其权值和阈值进行优化，HHO-BP神经网络算法流程如图2所示。

图2 HHO-BP神经网络算法流程

5 基于HHO-BP神经网络的分类应用

5.1 参数设置

本实验中，依据鸢尾花数据库进行分类识别性能测试，其中训练集为100组，测试集为50组。其网络训练参数如表1所示。

表1 BP神经网络训练参数设置

收敛精度学习速率迭代次数隐含层传递函数输出层传递函数训练函数 0.010.01100logsigpurelintraingdx

5.2 实验结果

以训练集的训练误差作为适应度函数，得到20次迭代的适应度值，如图3所示。

图3 HHO迭代曲线

由图3可以看出，经过20次迭代后，适应度值有着很大的减小。可见，HHO优化了BP训练过程中的初始权值及阈值参数，从而降低了训练过程的误差，也说明了HHO能有效地解决BP神经网络训练过程较优权值、阈值难以获得的问题。

将50个鸢尾花测试集样本分别用于HHO-BP和BP的测试，其分类准确率如表2所示。

表2 BP与SSA-BP神经网络分类正确率

BP神经网络HHO-BP神经网络 训练集分类准确率86.00%96.00% 测试集分类准确率86.00%100.00%

由表2可知：HHO-BP神经网络的训练集正确率达到了100%，克服了训练过程中的过拟合现象，且训练集正确率相较于BP提高了10%。

6 结语

（1）利用HHO算法的优化性能，通过HHO对BP神经网络的权值、阈值进行优化，运行结果表明，适应度值即训练集误差随迭代次数而降低，优化了BP神经网络的训练过程。

（2）测试结果表明，HHO-BP神经网络的测试集分类准确率明显优于BP神经网络，相较于BP神经网络提高了10%。

[1]林宗缪，唐浩. 基于GA-BP神经网络的产品质量安全风险预警研究[J].计算机与数字工程，2021，49（07）：1415-1419.

[2]祁翔，张心光. 基于遗传算法优化BP神经网络的预测建模[J].智能计算机与应用，2021，11（05）：160-162+169.

[3]王涛，任少君，司风琪，等. 基于GWO-BP神经网络算法的WFGD系统在线优化[J].发电设备.2021（02）：122-130.

[4]王刚刚，廖庆，徐玉蕊，等. 改进型粒子群优化算法的BP神经网络全息图压缩[J].吉林大学学报（信息科学版），2016，34（01）：147-152.

[5] 魏新尧，佘世刚，容伟，等. 基于布谷鸟算法优化BP神经网络的锂电池健康状态预测[J].计算机测量与控制，2021，29（04）：65-69+75.

[6]Ali AsgharHeidari et al. Harris hawks optimization： Algorithm and applications[J]. Future Generation Computer Systems，2019（97）：849-872.

[7]郭雨鑫，刘升，高文欣，等. 多策略改进哈里斯鹰优化算法[J].微电子学与计算机，2021，38（07）：18-24.

[8]王归新，田中天. 基于分层混合灰狼-哈里斯鹰算法的水火电调度优化[J].电工材料，2021（03）：58-62.

[9]贾鹤鸣，康立飞，孙康健，等. 哈里斯鹰算法优化脉冲耦合神经网络的图像自动分割[J]. 应用科技，2019，46（04）：16-20+25.