基于粒子群优化的最小二乘支持向量机图像分割研究
2017-04-26刘卫华刘小贤
刘卫华+++刘小贤
摘 要:图像分割时,传统分类方法直接在图像上操作,会出现的数据高维特性表现差,分类效果差等问题,提出将最小二乘支持向量机(Least Squares Support Vector Machines,LS-SVM)应用于图像分割,并利用粒子群算法对其参数进行优化。通过对经典的二分类与多分类问题的测试及彩色实物图像分割实验,结果表明,LS-SVM能综合使用图像多种特征,能够准确实现对图像感兴趣区域的分割,且分割速度比一般的支持向量机提高很多。
关键词:最小二乘支持向量机;彩色图像;图像分割;参数优化
引言
支持向量机(Support Vector Machine, SVM)作为一种新的分类方法[1]已经应用于图像分割和圖像分类。本文以彩色图像分割为例, 对比研究了几种支持向量机在图像分割时的精确度和训练时间。
1 最小二乘支持向量机
最小二乘支持向量机(Least Squares Support Vector Machines,LS-SVM)[3]是标准支持向量机的一种变形,利用等式约束代替不等式约束,将求解二次规划问题转化为求解一个线性方程组[4],大大的简化了问题的复杂性,使得训练速度得以提高。
1.1 最小二乘支持向量机分类
LS-SVM算法的数学表达式如下:设有如下训练样本集D={(xi,yi)},i=1,...,N,xi∈Rn,yi∈R,输入数据用xi表示,输出类别标识用yi表示。LS-SVM在原空间中的分类问题可以表述为解式1和式2:
因此,式1的分类问题通过解式5的线性方程获得,而不是解决二次规划问题。核函数可以采用多项式核函数、径向基核函数等。求解上述情况,于是可以得到决策函数如式7所示:
1.2 稀疏最小二乘支持向量机
最小二乘支持向量机虽然在一定程度上提高了训练速度,但同时却丧失了解的稀疏性,比利时学者suyken 给出了一种剪枝思想用来解决这个问题:这种方法的主要思想是在LS-SVM训练后,根据|?琢i|的大小对样本点进行降序排列,去除掉|?琢i|值较小的样本点,用其余的样本点重新训练,从而达到提升算法稀疏性的目的,此方法获得了更快的训练速度与测试速度[2]。
2 验证实例及结果分析
我们的实验运行在DELL个人计算机上,使用英特尔Core i3 M 330@2.13GHz处理器,2GB内存,Windows7的操作系统,在MATLAB R2007b环境下实现。
SVM进行图像分割[5]是对图像中的每一个象素点都进行分类来实现的。首先选择代表不同类别的象素点,提取特征,生成训练集[6];然后选取合适的参数求得支持向量;再逐一提取每个象素点的特征, 产生样本待分类样本集,利用式(7)将每个象素点归到不同的类[7],完成对图像的分割。
本实验选用的是一张彩色图像——番茄叶片,通过研究叶片的病变来观察番茄的生长情况,所以我们感兴趣的是图中的番茄叶片,用SVM对图片进行分割,提取出叶片为后续的研究做基础。本实验选取RBF-kernel核函数对番茄叶片图进行实验,并利用粒子群算法对其超参数进行优化。实验数据结果如表1所示,由表中数据可看出经过pso算法优化后的SPARSELSSVM分割精确度最高,时间最短,速度最快。从下图中可以很清楚的看到实验的可视化效果。
3 结束语
本文利用最小二乘支持向量机对图像分割进行了测试与分析,通过结果对比可以看出,在所有方法中,选用RBF-kernel的SPARSELSSVM分类结果较好,且速度最快。同时用实验证明了选择不同方法进行SVM参数优化后,得到的分类结果也大有不同。使用SVM默认参数得到的分类准确率较低,而PSO算法能够为SVM找到更加合适的核参数,使得图像分割的精确度有了显著提高。
参考文献
[1]张学工.关于统计学习理论与支持向量机[J].自动化学报,2000,26(1):32-42.
[2]刘卫华.最小二乘支持向量机在分类中的应用研究[D].兰州:兰州交通大学,2013:9-43.
[3]朱家元,陈开陶,张恒喜.最小二乘支持向量机算法研究[J].计算机科学,2003,30(7):157-159.
[4]Xue Zhidong, Li Lijun, Li Zhongyi, et al. Segmentation of the Cryosection Images of Virtual Human Dataset Using SVM and Watersheds. International Journal of Advances in Systems Science and Applications,2006,6(1):67-74.
[5]Pabitra Mitra, B. Uma Shankar, Sankar K.Pal. Segmentation of Multispectral Remote Sensing Images Using Active Support Vector Machines. Pattern Recongnition Letters, 2004, 25:1067- 1074.
[6]REYNA RA, CATTEONM. Segmenting Images with Support Vector Machines[A]. IEEE International Conference on Image Processing[C].2000,820-823.
[7]崔清亮.多核学习方法在分类问题中的应用研究[D].兰州:兰州交通大学,2014:32-39.