基于万有引力搜索算法极限学习机的谐振频率建模

2022-07-11刘艺凡田雨波

江苏科技大学学报(自然科学版) 2022年2期

刘艺凡，田雨波

(江苏科技大学电子信息学院，镇江 212100)

伊朗科曼大学Esmat Rashedi教授等人在2009年提出了万有引力搜索算法(Gravitation search algorithm, GSA)[1]，它是根据牛顿万有引力定律提出的优化搜索技术，属于群体智能优化算法.研究表明[2]，在许多实际问题的应用中，GSA与其它群体智能优化算法相比，寻优能力更为突出，但在进化后期同样会有落入局部最优的缺点.文献[3]提出在速度更新公式中参考粒子群算法的更新方式，局部搜索效果得到提升，既保证了种群多样性又加强了搜索能力，可用于优化最小二乘支持向量机(least squares support vector machine,LSSVM)参数；文献[4]在速度更新公式中引入了随时间线性减小的惯性权重，并在位置更新造成越界后再次随机初始化粒子，增强了粒子的全局搜索能力和局部优化能力；文献[5]提出每次迭代逐渐减小粒子的数量直到迭代后期只剩质量最大的粒子对剩余粒子造成引力，加快了收敛速度和避免过早收敛；文献[6]受两层结构GSA的启发，构建了由种群层、迭代最佳层、个人最佳层和全局最佳层组成的四层结构的多层GSA，在不同的搜索阶段动态地实现四层之间的层次交互，以极大地提高种群的探索和开发能力；文献[7]提出将GSA应用于双耳音频均衡的稳定IIR滤波器设计；文献[8]提出将GSA应用于平面天线阵列的设计，并与利用粒子群优化算法优化此实际问题产生的结果进行对比，通过仿真体现出GSA算法的高效率；文献[9]提出将GSA应用于优化微带天线的尺寸参数，通过对比粒子群优化算法和蝙蝠优化算法，可以发现利用GSA优化可以得到更好的优化结果；文献[10]提出将GSA应用于线性偶极天线阵列参数的优化设计，以此来确定性能参数，优化后的方向图表明应用GSA算法优化可以获得更高的方向性和更窄的波瓣.

极限学习机(extreme learning machine, ELM)是2004年由南洋理工大学黄广斌教授提出的单隐层前馈神经网络[11]，由于其学习速度快、训练精度高和计算复杂度低的特征，大规模应用在各种工程问题和学术研究上.文献[12]进一步提出增量式极限学习机(Incremental-ELM，简称I-ELM)，采取逐渐添加隐含层节点达到不断提升训练精度的目的；文献[13]将I-ELM中融入凸优化的思想，提出了CI-ELM，加快训练I-ELM的速度；文献[14]提出了EI-ELM，通过多次试验取最优结果，解决了I-ELM随机生成权值的造成的影响，训练精度得到提升；文献[15]使用ELM进行逼近和补偿控制系统中存在的不确定量，以消除混联输送机构模型中不确定量的影响；文献[16]使用多隐层输出矩阵的ELM对微波滤波器的参数模型进行建模，通过对比BP网络和SVM，可以发现ELM泛化性好并且有更高的精确度；文献[17]提出了用张量输入的ELM来处理信道插值任务，在误差相同的情况下运行速度更快；文献[18]提出了一种基于机器学习算法、ELM和基于极点剩余的传递函数的微波元件电磁特性参数化建模模型.

文中引入粒子更新策略，在GSA每次迭代时按照适应度值重新排列所有粒子，更新性能较差的部分，在一定程度上解决进化后期可能会落入局部极值的问题，以此获得更好的搜索能力.同时，在ELM中引入改进的GSA优化输入权值和隐层偏置，避免这些参数随机生成导致算法的不稳定.最后基于改进GSA的ELM对微带天线的谐振频率进行了建模，并与已有结论进行了对比，验证了所提方法的有效性.

1 万有引力搜索算法及其改进

1.1 万有引力搜索算法

假设在D维搜索空间中有N个粒子，第i个粒子的位置为:

(1)

(1) 惯性质量计算

每个粒子的惯性质量是由粒子所在位置所求得的适应度有关，在时刻t，粒子Xi的质量用Mi(t)表示为:

(2)

(3)

式中：fiti(t)为粒子Xi的适应度值；best(t)为时刻t所有粒子中的最优解；worst(t)为时刻t中所有粒子中的最差解，其计算方式为：

(4)

(5)

(2) 引力计算

在时刻t，物体j在第k维上受到物体i的引力为：

(6)

式中：ε为一个极小数；Maj(t)和Mpi(t)分别为作用粒子j和被作用粒子i的惯性质量.引力系数G(t)为：

G(t)G0×e-αt/T

(7)

式中：原始引力系数G0表示在t0时G取值，G0=100；衰减系数α=20；T为迭代次数的峰值.Rij(t)表示粒子Xi和粒子Xj的间距，计算方式为:

Rij(t)‖Xi(t),Xj(t)‖2

(8)

因此在t时刻，第k维上作用于Xi的合外力等于其它所有物体对其引力之和，计算公式为:

(9)

(3) 位置更新

根据牛顿第二定律，有：

(10)

每次迭代遵循的更新公式为：

(11)

(12)

1.2 改进的万有引力搜索算法

虽然GSA在处理大多数优化问题时都能求得十分出色的最优解，然而在面对复杂多峰问题求解时可能会陷入局部最优.针对经典GSA搜索能力不强的问题，文中引入粒子更新策略，即在每次迭代时按适应度值的大小重新排列所有粒子，将性能最差的30%部分利用混沌理论进行更新，取更新前后最好的30%粒子，和剩余的70%粒子组成新的粒子种群.由于该算法对性能较差粒子根据混沌理论进行更新，充分利用了混沌系统的随机性、遍历性、规律性，在小范围内进行局部搜索，比一般的随机搜索方法取得更好的效果，更容易细致搜索，并保证了种群多样性，消除了落入局部最优的可能性，加快了算法的收敛.改进的GSA流程如图1.

图1 改进的万有引力搜索算法流程

2 改进的万有引力搜索算法用于极限学习机优化

2.1 极限学习机算法

ELM作为一种单隐层前馈神经网络，输入权值与隐层偏置随机产生，然后输出权值根据计算求得，核心理念是简化非线性优化带来的困难，如确定输入权值、隐层偏置的最优取值和分析计算求得输出权值的最优取值.由于可以随机产生前两组参数，所以只需要关注输出权值的确定.

ELM由输入层、隐含层与输出层组成.假设激活函数为h，隐含层有L个节点，训练样本数据集(xj,tj)∈Rn×Rq包含N组数据，有:

(13)

式中：θi为第i个隐含层节点的输出权值向量.与一般的δ学习法则不同，输入权值w与隐层偏置b随机产生，然后根据分析计算求得输出权值B.通过这些计算，训练误差能够取得最小值，也能够获得更优的泛化能力.根据ELM原理，式(13)可以改写为：

HB=T

(14)

ELM训练过程为：

步骤1:确定激活函数类型和隐含层节点数L，随机产生输入权值wi与隐层偏置bi，1

步骤2:计算隐含层的输出矩阵H;

步骤3:计算输出权值矩阵B=H+T.

2.2 改进的万有引力搜索算法用于极限学习机优化

由于ELM输入权值和隐层偏置随机产生，一些隐含层节点的输入权值和偏置可能会过小，导致算法稳定性比较差，不能保证每次训练都能达到良好的训练精度.因此，基于改进的GSA来优化ELM的输入权值和隐层偏置，即把输入权值和隐层偏置作为待优化粒子，ELM函数的训练误差作为适应度值，称为GSA-ELM算法.利用改进的GSA算法优化获取输入权值和隐层偏置的最优解后，根据计算就能获得相应的输出权值，以此完成对ELM的训练.在仿真实例中，粒子数设置为50，每个粒子的维度为ELM输入权值和隐层偏置的总个数，进行500次迭代.

3 GSA-ELM算法用于矩形微带天线谐振频率建模

文中使用GSA-ELM算法对矩形微带天线(microstrip antenna, MSA)的谐振频率进行建模，矩形微带天线的结构如图2.

图2 矩形微带天线

训练数据和测试数据源于文献[19-20]的实验结果，如表1，共有33组数据，其中26组作为训练数据，其他7组带有标记(*)的作为测试数据.输入样本集合为矩形微带天线的尺寸参数，包括贴片的宽度W、长度L以及介质材料的相关参数包括厚度h、相对介电常数εr，记作(W,L,h,εr)，输出为对应实测谐振频率fME.ELM通过学习训练样本数据集可以拟合出矩形MSA尺寸参数和对应实测谐振频率之间的关系.

表1 矩形微带天线谐振频率

表2列出了使用ELM算法和GSA-ELM算法计算得到的矩形MSA谐振频率.其中，两种算法的隐层节点数都为12，激活函数都取sigmod函数，并且ELM算法取运行50次的最好结果.为便于比较，该表中也给出文献[21]提出的神经元模型及文献[22]提出的改进的神经元模型得到的预测数据，表中fEDBD、fDBD、fBP和fPTS分别为通过EDBD(extended delta-bar-delta)、DBD(delta-bar-delta)和BP算法的神经元模型及采用PTS(parallel tabu search)算法的改进的神经元模型的预测结果.表2也列出了各个模型预测值与实测值之间的绝对误差之和.根据表2可以得出结论，ELM算法和GSA-ELM算法的预测结果比神经元模型方法更接近于实验结果，并且GSA-ELM算法的误差比ELM算法还要小，实测值和预测结果之间的一致性证明了该方法的有效性.