粒子群与遗传算法优化支持向量机的应用

满春涛　刘博　曹永成

摘 要：为了提高参数优化精度，研究将粒子群算法与支持向量机相结合，建立基于粒子群算法的支持向量机复杂过程系统稳态模型。在此基础上，为解决粒子群算法容易出现早熟收敛、搜索精度不高、在迭代的后期效率低、容易陷入局部极优点等问题，提出了引入遗传算法的改进粒子群算法。通过利用改进后的粒子群算法对支持向量机参数进行优化，并应用到青霉素发酵这一复杂工业系统。仿真结果表明，改进算法提高了工业产量，实现了对系统结果的优化。

关键词：粒子群优化算法;遗传算法;支持向量机;青霉素发酵

DOI：10.15938/j.jhust.2019.03.014

中圖分类号： TP183

文献标志码： A

文章编号： 1007-2683（2019）03-0087-06

Abstract：In order to improve the precision of the parameter optimization， the research integrates the Particle Swarm Optimization Algorithm  with Support Vector Machine， and matches the experimental data， and then establishes a steadystate model of complex process system， which is based on Particle Swarm Optimization Algorithm and Support Vector Machine. On the basis of this model， an improved Particle Swarm Optimization Algorithm introduced to Genetic Algorithm is proposed， in order to overcome the defects of Particle Swarm Optimization Algorithm about premature convergencesearching accuracy is not high， the iterative efficiency is low in the late stage， trapping into the local optimization and so on.By making use of the improved Particle Swarm Optimization algorithm to optimize the parameters of Support Vector Machine， it is applied to the complex industrial system of penicillin fermentation. The simulation result shows that the optimized algorithm improves the industrial outputs， and optimizes the system results.

Keywords：particle swarms optimization algorithm; genetic algorithm; support vector machine; penicillin fermentation

0 引 言

随着现代社会科学技术的不断进步和工业生产方法的持续创新，复杂工业系统的稳态优化问题很难再用单一的方法加以解决，因而新的智能建模与优化的复合方法势在必行。现代化大工业过程控制结构可看作三层，即控制层、优化层和调度层[1]。本文的研究正是处于优化层段，通过建立智能优化方法，使系统在最佳工况运行，提高生产的经济效益。

在优化方面，遗传算法（genetic algorithm，GA）和粒子群优化算法（particle swarm optimization algorithm，PSO）都在群智能和生物进化计算的范畴内，具有很强的互补性[2]。遗传算法拥有极强的探索精度和求变功能，在解空间全局寻优上具有优势，但在局部搜索能力上相对不足[3]。而作为一种带有随机性质的全局寻优算法，粒子群算法的优势在于对优化对象的函数并不要求可解析性[4]，因而遇到难解的非线性问题且有不可微等繁复情况时多采用该方法。如果将两者结合，将产生新的基于遗传的粒子群优化算法，即一种将遗传算子融入粒子群的，带有惯性权重的非线性减小机制的改进优化算法，它会极大程度上避免较大震荡现象的出现，同时加快迭代速度，提高全局优化能力[5]。

在控制方面，支持向量[6]（Support Vector Machine，SVM）不但能任意逼近非线性，而且能够在小样本数据下建立非常好的非线性映射模型，克服了一些传统智能算法容易陷入局部极小值的缺陷，在预测控制方面具有非常高的稳定性和鲁棒性[7]。

在工业应用中，本文拟在充分研究复杂系统特性的基础上，以青霉素发酵工业过程为例[8-9]，将粒子群算法、遗传算法、支持向量机有机结合，建立起复杂过程系统的稳态模型，进一步增强解决复杂工业系统的优化问题的能力。

1 支持向量机

SVM算法是基于VC维理论和结构风险最小的原理[10]。其本质是建立一个最优超平面，在保证最小经验风险的前提下，准确分开两类数据样本并且使其间隔最大，即分类间隔最大。

2）对个体解码，将解码后的参数代入到训练测试样本中，计算出个体的适应度函数值，并分别保留每个个体最新状态的二进制编码。从t=2开始，若当前最新个体的适应度函数值小于前一次保留的值，那么就用新个体替换上一代个体，否则不替换。这样的更新就保证了每个个体的历史最优解都能保留下来，同时也保留下来了个体每代的最优解，为4）提供条件。

3）随机选取种群中一定数目的个体，选取适应度最好的个体做为父体并以此为条件，完成所有个体的选择。

4）应用均匀交叉，变异前先对个体进行解码，变异完成后再重新对个体编码。

5）判断是否满足终止条件，若达到最大迭代次数Tmax或者所得参数停止变化，则终止迭代并获得最优参数与优化的模型，否则得到新的粒子种群后返回到2）。

粒子群算法与遗传算法结合对SVM进行参数优化的具体流程如图2所示。

4 优化算法的工业应用

如今，复杂工业系统的控制目标正向多元化发展，变量数目也日益增多并存在着各种约束条件。本文的研究，是一个非线性、时变性、滞后性和不确定性都较为严重的工业生产过程，各种环境条件都能影响到青霉素的合成。因此，为了提高资源利用能力与生产能力，工业上对其控制过程进行优化成为十分重要的方法。

影响青霉素最终产量的因素主要有以下几点：温度、酸碱度（PH值）、压力、基质浓度、溶解氧浓度等。优化青霉素发酵过程的控制方法，其基本思想是：设定主控制量为基质补料的速率，以温度、溶解氧浓度和PH值为辅助控制量，利用粒子群与遗传算法优化 SVM后的模型对青霉素发酵过程进行改进，使得发酵终止时产量最优。青霉素发酵过程优化控制框图如图3所示。

整个优化控制的过程具体流程如下：

1）从多批次青霉素发酵数据中选出模型的多组样本集进行训练，再对基于GAPSO与SVM的青霉素发酵建模。

2）利用上述优化控制思想，根据具体的环境情况，在kT时刻由GAPSO算法确定一组控制过程中的补料速率、溶解氧、温度、酸碱度等参数值。经过补料流加发酵过程，均匀交叉变异得到的生物参数测量值会被随时记录分析，并需要不断改变惩罚系数C、不敏感函数ε、RBF核函数宽度系数σ等控制参数。然后，通过对支持向量机的状态评估与预估值的比较，对产品进行下一步处理。重复此过程到（k+1）T时刻，得到一组新的参数值并把它作为（k+1）T到（k+2）T时刻的控制参数值。

3）以此规律循环直到各参数值不再发生变化，则发酵结束，最终使产出青霉素浓度最优。

本文共用到10组数据，前7组用作训练样本，其余3组用作测试样本，模型参数经过训练调整，最终达到最优。其中，利用式（4）作为RBF核函数。取粒子种群规模为30，c1=c2=2，r1、r2是均匀分布在[0，1]区间上的随机数，本文取0.5，最大迭代次数为400。惩罚系数C在区间为[1，1000]内取值，核参数σ取值区间为[0，5]。记录不同参数值，得到数据表如表1所示。

通过GAPSO算法对支持向量机模型参数的调整，最终得到数据表如表2所示。

用该参数集训练所得青霉素发酵过程菌体浓度值与PSO优化SVM的模型所得菌体浓度值，如图5所示。

从图5可以看出，在GAPSO优化SVM的模型下，发酵的最终产物浓度从原来的4.637g/L提高至5.041g/L，青霉素发酵过程得到了优化，最终达到了提高产量的目的。

5 结 论

本文在青霉素发酵的支持向量机模型的基础上，采用粒子群与遗传算法相结合的方式对工业过程变量进行优化调整，并与基本粒子群算法优化SVM模型的仿真结果进行对比。最终研究表明，本文提出的基于粒子群與遗传算法优化向量机参数的方法寻优效果更好，资源利用率更高，最终产物的产量得到进一步提升，其应用前景十分广阔，具有重要的理论价值和实际应用意义。

参 考 文 献：

[1] TOM F.Moving Beyond Steady State Optimization.Hydrocarbon Processing，Jun 2002，81（6）：15.

[2] 张鑫源，胡晓敏，林盈. 遗传算法和粒子群优化算法的性能对比分析[J]. 计算机科学与探索，2014，8（1） ： 91.

[3] 韦琦，杨明.改进神经网络算法的智能电网短期负荷预测[J].哈尔滨理工大学学报，2017，（04）：65.

[4] DEAN T， ALLEN J， ALOIMONOS Y. Artificial Intelligence： Theory and Practice. Pearson Education North Asia and Publishing House of Electronics Industry， 2003： 17.

[5] 曹春红，张永坚，李文辉. 杂交粒子群算法在工程几何约束求解中的应用. 仪器仪表学报，2004，8（8）： 397.

[6] 陈君，彭小奇，宋彦坡，等.特征空间最小数据分布最大间隔支持向量机[J].电机与控制学报， 2013（3）： 105.

[7] 赵娟平，陈健，姜长洪青霉素发酵过程建模研究[J]，计算机仿真，2008， 55（9）： 25.

[8] 李国正，王猛，曾华正. 支持向量机导论[M]. 北京： 电子工业出版社，2004.

[9] 潘丰，李海波，吕光帅. 发酵过程的建模与优化方法研究.计算机与应用化学2006，23（11）： 1112.

[10]盖晁旭，梁隆恺，何勇军.数据不充分情况下的说话人识别[J].哈尔滨理工大学学报，2017（3）： 13.

[11]ZHANG X G. Introduciton to Statistical Learning Theory and Support Vector Machine. Acta Automatic Since， 2000， 26（l）： 32.

[12]周建萍，郑应平，王志萍. 最小二乘支持向量机分类问题的算法实现[J]. 上海电力学院学报， 2008，24（4）： 381.

[13]杨冬云，李数函. 支持向量机核函数的构造方法研究与分析[J]. 高师理科学刊，2010，30（2）： 23.

[14]KENNEDY J， EBERHART R. Particle Swarm Optimization. In： Proc IEEE Int Conf on Neural Networks，1995： 1942.

[15]马志伟，满春涛，李巍.基于STDM与粒子群优化的音频水印算法[J].哈尔滨理工大学学报，2016（5）： 73.

[16]熊伟丽，徐保国. 粒子群算法在支持向量机参数选择优化中的应用研究[C]∥中国控制与决策学术年会论文集，沈阳：东北大学出版社，2007： 447.

[17]WANG Xibin， ZHANG Xiaoping， WANG Hanhu. Parameter Optimization of Support Vector Machine and Application Based on Particle Swarm Optimization Mode Search.  Journal of Computer Applications， 2011.

[18]马超，邓超，熊尧，等.一种基于混合遗传和粒子群的智能优化算法[J]. 计算机研究与发展， 2013（11）.

[19]王广泽.改进粒子群算法在供应链库存控制中的应用[J].哈尔滨理工大学学报，2016（5）： 90.

[20]朱霄珣，徐搏超，焦宏超，等.遗传算法对SVR风速预测模型的多参数优化[J].电机与控制学报，2017，21（2）：70.

（编辑：关 毅）