APP下载

基于反向细菌优化支持向量机的躯体化障碍预测模型

2018-06-01蔡振闹吕信恩陈慧灵

吉林大学学报(工学版) 2018年3期
关键词:躯体步长适应度

蔡振闹,吕信恩,陈慧灵

(1.西北工业大学 计算机学院,西安710072;2.温州大学 心理健康教育中心,浙江温州325035;3.温州大学 数理与电子信息工程学院,浙江 温州325035)

0 引 言

20世纪中叶以来,世界各国都在进行刑罚制度的革新,探索更人性、更科学、更有效的刑罚方式来改善罪犯的心理与行为。社区矫正制度就是在这样的革新背景下产生的一种全新的刑罚方式。据统计,当前,中国社区矫正对象约有70万人。为了了解社区矫正对象的心理与行为特征,评估社区矫正对象的心理健康水平,一般采用症状自评量表(SCL-90)进行心理测量。在这些量表中,体现躯体化(Somatization)障碍的因素有12项因素。躯体化因子主要反映主观的躯体不适感,包括心血管、胃肠道、呼吸等系统的主述不适,以及头疼、背痛、肌肉酸痛和焦虑的其他躯体表现。据调研发现,目前人工智能技术在该方面的应用还鲜有报道,刘怡桐[1]以中医人格特征为研究的切入点,研究大学生心理健康的现状和影响因素。将神经网络运用于心理学研究人格特征与心理健康之间的关联性, 实验结果证实了大学生人格特征与心理健康存在显著的相关关系。时松和等[2]运用关联规则模型和神经网络模型研究南水北调中老年移民群体的心理干预效果及其心理健康、社会心理应激、社会支持的关系,分析结果显示, 中老年移民的社会支持、心理社会应激以及心理健康有较强的关联性。

本文首次将提出的改进支持向量机方法应用于躯体化障碍的严重程度预测。为了提高区分社区矫正人员躯体化障碍的严重程度的评估准确率,本文提出了一种基于反向细菌优化算法的支持向量机方法(Improved bacterial foraging optimization based support vector machine,IBFO-SVM)。作为一种主要的机器学习模式,支持向量机(SVM)[3,4]基于VC维理论和结构风险最小化原理的基础上发展而来,由于其独特的优势,SVM已经广泛地应用于一些分类任务[5-8]。尤其是在计算机辅助医疗诊断上,SVM已经表现良好的诊断效果[7-13]。然而,SVM的性能主要受其模型中的参数所影响,研究表明可通过建立适当的模型参数设置[14]大大提高其分类的准确性。因此,关键参数应在其应用于实际问题之前设定为合适的值,例如惩罚因子和核函数的核宽。传统方法上,这些参数通过网格搜索方法[15]和梯度下降方法[16-18]来处理。然而,这些方法容易陷入局部最优解。近来,一些基于生物启发的元启发式搜索算法(如遗传算法(GA)[19]和粒子群优化算法(PSO)[20]),相比上述传统的方法更容易找到全局最优解。

细菌优化算法(BFO)是Passino[21]于2002年基于大肠杆菌在人体肠道内吞噬食物的行为提出的一种新型仿生类算法,它模仿了细菌觅食的趋向、聚群、复制和驱散等四种智能行为。该算法因具有群体智能算法并行搜索、易跳出局部极小值等优点,成为生物启发式计算研究领域的又一热点,并在很多领域获得了广泛应用。然而在优化的过程中,细菌优化算法极其容易陷入局部最优,很难找到全局最优解。针对这个问题,本文将反向学习机制引入细菌优化算法,提出一种改进的反向细菌优化算法(IBFO),以改善种群多样性,同时提高该算法的收敛速度。反向学习的原理是为每个初始候选解生成相对应的反向解, 并从候选解和相对应的反向解中选择适应度较优的解作为初始种群中的成员,将有助于提高优化过程中的收敛速率。通过反向学习策略,我们将在初始细菌种群中获取反向细菌种群,增加了种群的多样性和使初始种群的个体尽可能均匀分布,并有助于提高优化过程的收敛速度。然后将IBFO算法用于解决SVM的参数优化问题,获得最优的模型(IBFO-SVM)。进而将该模型用于预测社区矫正人员的躯体化严重程度。实验中,将IBFO-SVM与基于原始细菌优化的SVM模型(BFO-SVM)、基于遗传算法的SVM模型(GA-SVM)以及基于粒子群优化算法的SVM模型(PSO-SVM)在心理评测数据上通过10折交叉验证方法进行了比较。实验结果表明,提出的IBFO-SVM预测模型在分类准确率、马修斯相关系数(MCC)、灵敏度和特异性方面比其他方法具有更好的性能。

1 预测模型的建立

核心模型流程图如图1所示。

输入数据收集完成后,对其进行10折交叉划分,进而在训练数据集上采用基于反向学习的细菌优化算法对SVM的最优惩罚参数C和核宽γ进行动态指定,一旦完成训练,最优参数将被送入SVM模型中执行预测任务。

图1 基于反向细菌优化的支持向量机预测模型Fig.1 SVM prediction model based on oppositional BFO strategy

在IBFO-SVM预测模型中,IBFO优化SVM参数的步骤如下:

步骤1 参数初始化,包括:搜索空间维度为p、细菌种群规模大小为S、趋化循环次数为Nc、趋向性操作中在某一方向上的最大游泳次数为Ns、复制循环次数为Nre、驱散次数为Ned、驱散概率为Ped、趋向步长为c、初始化细菌种群的位置为P、C的搜索空间[Cmin,Cmax]和γ的搜索空间[γmin,γmax]。

(1)

式中:ub为初始解的上限;lb为初始解的下限;rand(S,1)′为S*1矩阵的逆矩阵。

步骤2 根据反向学习策略,计算细菌初始种群对应的反向解,并从初始种群和对应的反向解中选择适应度较优的S个解作为初始种群。

步骤3 驱散循环loop:l=l+1

步骤4 复制循环loop:k=k+1

步骤5 趋化循环loop:j=j+1

(a)i=1,2,…S,细菌i进化趋化移动。

(b)计算适应度J(i,j,k,l),该适应度基于细菌i当前位置的C和γ值,计算支持向量机的准确度ACC,并将该值作为细菌i的适应度J(i,j,k,l)的值,其中,ACC为基于K折交叉验证获取的平均准确度,根据公式(2)计算,其中acck表示每折计算的准确度。

(2)

(c)让Jlast=J(i,j,k,l)保存当前的适应度,为了与以后迭代过程中得到的适应度进行比较;pbest保存当前细菌i的位置,pbest是一个维度为1*2的向量,分别对应着C和γ值,以内部K折交叉验证策略计算支持向量机的准确度ACC。

(d)翻转:按照式(3)进行翻转,并计算新位置上的适应度函数值。

P(i,j+1,k,l)=P(i,j,k,l)+c(i)*ψ(i,j)

(3)

ψ(i,j)=Δ(i)/(ΔT(i)*Δ(i))1/2

(4)

(e)计算新位置上的适应度函数值J(i,j+1,k,l)。

(f)游动:如果细菌在新位置上的适应度函数值有所改善,则计算趋向步长,该细菌进行游动,直到达到预定的最大趋向步数为止。

(g)如果i≠S,细菌(i+1)进化趋化移动。

步骤6 如果j

步骤7 复制:根据这次复制循环得到的适应度函数值的总和,对所有的细菌进行排序,拥有最高的Jhealth值的Sr个细菌死亡,留下的Sr个最好值的细菌分裂开来,结果放置在死亡细菌原先的父母的位置。

步骤8 如果k

步骤9 驱散:以概率Ped进行循环i=1,2,…,S,驱散每一个细菌,保持持续不变的细菌种群数量。如果l

2 实验设计

2.1 数据描述

本研究所获得的数据均来自温州市司法局下辖的司法所,共抽取了419位社区矫正对象作为研究对象。这些研究对象主要是罪行轻微、主观恶性不大的服刑人员,包括被判处管制的、被宣告缓刑的、被暂予监外执行的、被裁定假释的人员等。本研究采用了症状自评量表(SCL-90),主要研究矫正对象在最近一周内的躯体化症状、抑郁、敌对、精神病性等10个方面的心理症状情况。其中,躯体化症状主要反映主观的身体不适感, 共有12个特征属性。每个特征的取值范围为{1,2,3,4,5}, 分别表示没有、很轻、中度、偏重、严重等5种不同的症状。表1是12个特征属性的具体描述。

表1 特征属性描述Table 1 Description of the data set

2.2 实验设置

为了验证所提出的IBFO-SVM算法,将该算法与其他3种机器学习模型BFO-SVM,GA-SVM和PSO-SVM进行了详细对比。对于SVM,采用LIBSVM工具包;细菌优化算法、粒子群优化算法和遗传算法等算法采用MATLAB语言编程实现。实验环境采用MATLAB 2014b, 计算机配置如下:Windows 7操作系统,AMD Athlon 64 X2双核处理器(2.6 GHz)和 8 GB内存。

10折交叉验证用于划分数据样本,保证分类结果的无偏差性。文中涉及方法的具体参数设置如下: IBFO,BFO,PSO和GA迭代次数和种群个数都统一分别被设置成50和8。参数搜索范围设置如下:C= {2-10, 2-8, …, 210} 并且γ= {2-10, 2-8, …, 210}。BFO中趋向步长设为5,游动步长设为4,复制次数为5,驱散次数为2,驱散概率设为0.25。PSO中的最大速度vmax设置为每维的60%,惯性权重设为1.4,两个认知因子设为2。对于GA,利用轮盘赌选择法选择父代染色体,使用单点交叉法产生后代染色体,采用均匀变异法改变染色体的属性值,交叉概率设为0.8,变异概率为0.04。

2.3 性能评估

为了评价提出的IBFO-SVM模型,本文主要考察4个指标:分类准确率(ACC)、灵敏度 (Sensitivity)、特异性(Specificity) 和马修斯相关系数(MCC)。性能指标计算公式如下:

(5)

(6)

(7)

MCC=

×100%

(8)

式中:TP为真阳性的数量,即严重躯体化障碍个体被正确分类的个数;FN为误报的数量,即严重躯体化障碍个体被分类成轻度躯体化障碍的个数;TN为真阴性的数量,即轻度躯体化障碍被正确分类的个数;FP为假阳性的数量,即轻度躯体化障碍被分类成严重躯体化障碍的次数。

3 实验结果与分析

之前的研究表明细菌优化算法中的趋向步长对细菌的搜索能力起到重要作用。因此本文首先对趋向步长对IBFO-SVM的性能影响进行了分析和研究。表2中显示了在不同趋向步长取值下IBFO-SVM在心理矫正数据上获得了分类结果。表中显示的数据主要是均值和方差构成。从表中可以看出,IBFO-SVM模型在趋向步长取值0.1时取得了最好的结果,分别获得了95.47%的分类正确率,马修斯相关系数为0.8999,96.77%的灵敏性和92.86%的特异性。另外,在取值为0.1时,模型的方差也是最小,这表明了在趋向步长取值为0.1时,模型获得性能最稳定。因此,在后续实验中,本文将取趋向步长为0.1作为实验参数。

实验中,本文评估了IBFO-SVM模型的有效性,如表3所示,IBFO-SVM取得了平均95.47%的分类正确率,马修斯相关系数为0.8999,96.77%的灵敏性和92.86%的特异性。此外,还可以观察到SVM的两个参数可由IBFO算法动态获得,这主要归因于这两个参数可以由反向细菌优化算法根据训练数据的分布情况自适应地决定。

为了验证所提出方法的有效性,将提出的方法与其他3种高效的机器学习模型包括BFO-SVM、GA-SVM和PSO-SVM进行对比研究。4种方法的对比曲线图如图2所示。从图中可以发现IBFO-SVM模型在4个评价指标上都优于原始BFO-SVM模型,而且方差也比原始BFO-SVM模型小,说明IBFO-SVM模型与原始BFO-SVM模型相比不但性能更好而且更加稳定。在ACC评价指标上,IBFO-SVM模型获得的结果最好。其次是BFO-SVM和PSO-SVM模型,GA-SVM模型获得的结果最差。在Sensitivity评价指标上,IBFO-SVM模型依然获得了最好的结果,其次是BFO-SVM和PSO-SVM模型,GA-SVM模型获得的结果最差。在Specificity评价指标上,PSO-SVM模型获得的结果最好,而且方差也是最小的,其次是IBFO-SVM和GA-SVM模型,原始BFO-SVM模型获得的结果最差。在MCC评价指标上,IBFO-SVM模型获得的结果最好,而且方差也是最小的,其次是BFO-SVM和GA-SVM模型,原始PSO-SVM模型获得的结果最差。

表2 不同趋向步长取值下IBFO-SVM的分类结果Table 2 Classification results of IBFO-SVM with different chemotaxis step size

表3 IBFO-SVM在4个指标上的分类性能Table 3 Classification performance of IBFO-SVM in terms of ACC, MCC, Sensitivity and Specificity

图2 IBFO-SVM, BFO-SVM, PSO-SVM和GA-SVM在ACC, MCC,Sensitivity和Specificity方面的分类性能比较Fig.2 Classification performance obtained by IBFO-SVM, BFO-SVM, PSO-SVM and GA-SVM in terms of ACC, MCC, Sensitivity, and Specificity

为了描述所提出的IBFO算法的收敛性,本文在实验中也记录了各种模型获得的准确率随着种群迭代发生的变化趋势,见图3。从图3中可以发现IBFO-SVM模型在训练的过程中可以快速地收敛到最佳精度,说明IBFO算法具有较强的全局搜索能力,可以避免算法过早地陷入局部最优。其中主要的原因在于反向学习策略起到了调节种群多样性的作用,进而加快整个种群收敛到最优解。原始BFO-SVM模型在训练的过程中过早收敛导致无法获得更高的精度。GA算法的搜索能力最弱,导致GA-SVM模型获得最差的精度。

图3 IBFO-SVM,BFO-SVM,PSO-SVM和GA-SVM获得的适应度跟迭代次数之间的关系Fig.3 Relationship between the iteration and fitness of IBFO-SVM, BFO-SVM, PSO-SVM and GA-SVM

4 结束语

本文提出了一种基于反向细菌优化算法的支持向量机模型对社区矫正人员的心理状况进行辅助诊断。本文的主要创新点在于提出基于反向学习的细菌优化算法,基于该方法SVM可以获得更优的参数,进而获得更高的预测性能。实验结果表明,在心理评测数据集上,本文提出的IBFO-SVM模型与其他三种先进的SVM模型相比,在分类准确率、马修斯相关系数、灵敏度和特异性方面均具有更好的性能。因此,本文提出的智能预警模型可以提前为社区矫正人员发生躯体化障碍的严重程度发出预警,进而为防止该类人员发生躯体化障碍提供辅助作用。

参考文献:

[1] 刘怡桐. 大学生五态人格和心理健康的相关性研究[D].北京:北京中医药大学,2011.

Liu Yi-tong. Correlation study between five-pattern personality and mental health of college Students[D]. Beijing University of Chinese Medicine, 2011.

[2] 时松和,冯邵珍,张智民,等.南水北调中老年移民心理干预效果分析[J].现代预防医学,2016,43(6):1051-1056.

Shi Song-he,Feng Shao-zhen,Zhang Zhi-min, et al. Analysis of the effect of psychological intervention among middle-aged and elderly immigrants in South-to-North Water Transfer Project[J]. Modern Preventive Medicine, 2016, 43(6):1051-1056.

[3] Boser B E, Guyon I M, Vapnik V N. A training algorithm for optimal margin classifiers[C]∥Proceedings of the fifth annual workshop on Computational learning theory,ACM, 1992: 144-152.

[4] Vapnik V N. The nature of statistical learning theory[M]. New York: Springer, 2000: 138-167.

[5] Aslahi-Shahri B M, et al. A hybrid method consisting of GA and SVM for intrusion detection system[J]. Neural Computing and Applications,2016,27(6): 1669-1676.

[6] Chen P, Yuan L, He Y, et al. An improved SVM classifier based on double chains quantum genetic algorithm and its application in analogue circuit diagnosis[J]. Neurocomputing, 2016, 211:202-211.

[7] Shahdoosti H R, Hazavei S M. Combined ripplet and total variation image denoising methods using twin support vector machines[J].Multimedia Tools & Applications, 2017 (12) :1-19.

[8] Chen H L, Yang B, Liu J, et al. A support vector machine classifier with rough set-based feature selection for breast cancer diagnosis[J]. Expert Systems with Applications, 2011, 38(7): 9014-9022.

[9] Übeyli E D.Comparison of different classification algorithms in clinical decision-making[J]. Expert Systems, 2010, 24(1):17-31

[10] Chen H L, Yang B, Wang G, et al. A three-stage expert system based on support vector machines for thyroid disease diagnosis[J]. Journal of Medical Systems, 2012, 36(3):1953-1963.

[11] Chen H L, Bo Y, Gang W, et al. Support vector machine based diagnostic system for breast cancer using swarm intelligence[J]. Journal of Medical Systems, 2012, 36(4):2505-2519.

[12] Li M, Chen W, Zhang T. Automatic epilepsy detection using wavelet-based nonlinear analysis and optimized SVM[J]. Biocybernetics & Biomedical Engineering, 2016, 36(4): 708-718.

[13] Ye F. Evolving the SVM model based on a hybrid method using swarm optimization techniques in combination with a genetic algorithm for medical diagnosis[J]. Multimedia Tools & Applications, 2016:1-30.

[14] Keerthi S, Lin C.Asymptotic behaviors of support vector machines with Gaussian kernel[J]. Neural Computation, 2003,15(7):1667-1689.

[15] Chang C C, Lin C J. LIBSVM: a library for support vector machines[M].ACM, 2011.

[16] Gold C, Sollich P.Model selection for support vector machine classification[J]. Neurocomputing, 2003,55(1/2): 221-249.

[17] Keerthi S.Efficient tuning of SVM hyperparameters using radius/margin bound and iterative algorithms[J]. IEEE Transactions on Neural Networks, 2002,13(5):1225-1229.

[18] Chapelle O.Choosing multiple parameters for support vector machines[J].Machine Learning, 2002,46(1): 131-159.

[19] Huang C L,Wang C J.A GA-based feature selection and parameters optimizationfor support vector machines[J]. Expert Systems with Applications, 2006: 31(2): 231-240.

[20] Chen H L, Yang B, Wang S J, et al. Towards an optimal support vector machine classifier using a parallel particle swarm optimization strategy[J]. Applied Mathematics & Computation, 2014, 239(8):180-197.

[21] Passino K M.Biomimicry of bacterial foraging for distributed optimization and control[J]. IEEE Control Systems Magazine, 2002,22(3): 52-67.

猜你喜欢

躯体步长适应度
中心差商公式变步长算法的计算终止条件
改进的自适应复制、交叉和突变遗传算法
基于Armijo搜索步长的BFGS与DFP拟牛顿法的比较研究
基于随机森林回归的智能手机用步长估计模型
现在干什么?
一种基于改进适应度的多机器人协作策略
搬家
基于空调导风板成型工艺的Kriging模型适应度研究
“人的躯体那能由狗的洞子爬出!”——叶挺将军囚禁岁月
基于动态步长的无人机三维实时航迹规划