二元树复小波在图像特征提取和分类中的设计与应用

李 政

(山东艺术学院现代技术教育部,山东济南 250014)

二元树复小波在图像特征提取和分类中的设计与应用

李 政

(山东艺术学院现代技术教育部,山东济南 250014)

通过二元树复小波变换对图像进行 4尺度分解,提取每一尺度下代表 6个方向的高频带子图小波系数模的均值和标准方差组成 48维的特征向量,利用支持向量机的一对一多分类算法对Brodatz图像库中的 112幅图像进行了纹理特征提取和分类实验,结果表明二元树复小波变换提取的图像特征能有效提高图像的分类精度.

二元树复小波变换;小波系数;支持向量机;特征提取

纹理是反映图像像素灰度集或颜色的某种规律性变化的基本视觉特征之一,可以对图像空间信息进行一定程度的定量描述,在基于内容的图像检索[1]、人脸识别[2]、图像理解等领域得到了深入研究和广泛应用[3],期间涌现了许多有效的纹理特征提取算法,这些算法可大致分为统计法、模型法、结构法和频谱法.频谱法中的小波变换和分析是提取图像纹理特征的有效方法之一,Manjunath等[4]提出了利用 Gabor小波变换的纹理特征提取方法,基于Brodatz纹理库的实验结果表明优于金字塔结构小波变换和树结构小波变换;Kingsbury[5]提出的二元树复小波变换 (Dual-Tree ComplexWavelets Transfor m,DT-CWT)具有近似平移不变性、良好的方向选择性、完备重构和计算复杂度低等优点,逐渐成为图像特征提取和分析的研究热点之一;尚赵伟等[6]对DT-CWT进行了理论分析及纹理检索和相似计算实验,结果表明 DT-CWT在纹理特征提取方面的性能优于单小波;Chen等[7]结合支持向量机(SupportVectorMachine,SVM)和 DT-CWT应用于掌纹识别和手写体数字识别并得到了较高的识别率;文献 [8]基于多类 SVM和 DT-CWT利用 Brodatz纹理库进行的实验表明分类正确率明显优于其它算法,但 Brodatz纹理库包含 112幅图像,而文献[8]中只是选择了其中 30幅图像进行分类实验,其实验结果的有效性和普遍性值得进一步验证,这不能说明对全部 112幅图像的的分类实验结果如何,为了进一步验证其方法的有效性和适用性,本文将采用同文献[8]类似的方法,但本文对 SVM进行了参数优化调整,并对 DT-CWT提取的特征向量进行了规范化处理,在此基础上利用 SVM的一对一多分类算法对 Brodatz纹理库的 112幅图像进行分类实验和深入分析.

1 二元树复小波变换

DT-CWT是基于实数小波变换实现复数小波变换,通过 2个并行的实数滤波器组得到实部和虚部系数[5],即基于对偶树的 DT-CWT中由 2棵平行的小波树组成,每棵树对应的滤波器是传统小波变换的双正交滤波器,其中一棵小波树是奇数长的高通滤波器,其采样序列的中点偶对称;另一棵小波树是偶数长的高通滤波器,其采样序列的中点奇对称,它们交替奇偶滤波得到的输出分别对应的是复小波变换的实部和虚部.相对于传统的实离散小波变换,DT-CWT具有近似平移不变性、良好的方向选择性、有限的数据冗余、完备重构及低计算复杂度等优点,DT-CWT可以区分频率空间的不同部分,兼具了平移不变性和方向选择性.DT-CWT在每一个尺度分解下生成 6个复系数高频带子图,它们分别代表 ±15°、±45°和 ±75°方向的脉冲响应,图 1为DT-CWT滤波器的脉冲响应图示,从中可看出DT-CWT具有很好的空间频率局部特性,适合用来提取图像各个方向上的空间局部特性.

2 算法实现

本文的纹理图像分类算法主要有图像特征提取和分类器设计 2个步骤,图像特征提取算法通过Matlab编程实现 DT-CWT的特征提取,支持向量机分类器采用台湾大学林智仁等开发的支持多类分类的支持向量机软件BSVM 2.06[9-10].

2.1 基于 DT-CWT的特征提取

本文利用 Brodatz图像数据库中的 112幅自然纹理图像作为实验数据,缩小的图像如图2所示.每幅原始图像为 640×640像素的 256级灰度图像,按5×5将每幅图像不重叠分割为 25块 128×128像素大小的图像块,原则上认为从同一幅图像分割的结果图像具有相似的纹理特征,所以,认为来自于同一幅图像分割后所得小块图像属于同一类别,这样生成的实验数据集包含了 112个纹理类别共有2 800幅 128×128像素大小的图像块.

利用Matlab 7.0实现了 DT-CWT纹理特征提取算法,利用 DT-CWT对每幅 128×128像素的图像块进行 4尺度小波分解,然后对变换后每一尺度的高频带子图分别计算 6个方向小波系数模的均值μi,j和标准方差σi,j,i=1,2,3,4,j=1,2,3,4,5,6,由此生成 48维的纹理特征向量来表示 1幅纹理图像.均值和标准方差的计算公式分别为:

图3为 1幅图像进行 4尺度 DT-CWT分解后小波系数的图像,每一层有 6个方向的子图.

2.2 SVM分类器

BSVM 2.06采用了 one-vs-one的多类分类算法,如何针对特定问题选择最适合的核函数目前还没有一个通用的准则,也是一个亟待解决的难题.本文实验首先对线性核函数、多项式核函数、径向基核函数和 Sigmoid核函数进行了分类精度测试,测试结果发现径向基核函数的平均分类准确度在 80%以上;线性核函数在 70%左右;1～5阶多项式核函数在 20%左右,而 Sigmoid核函数效果最差,平均准确度在 10%左右,从本文实验中可以得出结论,不同核函数及其参数选择对支持向量机的分类精度有较大的影响.所以,实验采用径向基核函数对纹理图像进行分类并统计分类准确率.

首先对径向基核函数惩罚参数 C和控制核函数宽度的σ进行了不同组合分类精度测试,测试结果如图4、5所示,图4是惩罚参数 C=1 000,C=100,σ=0.1,0.2,…,1时的平均分类准确率;图5是惩罚参数C=1 000,C=100,σ=0.01,0.02,…,0.1时的平均分类准确率.从图4、5的结果可以看出当惩罚参数 C=1 000,σ=0.3和 0.7时的平均分类准确率较高,分别达到 89.9099%和 89.9459%,本章实验最终的分类结果通过采用径向基核函数 (RBF)及其参数设置 C=1 000,σ=0.7得到,在此参数配置下,对训练样本数与分类准确率的关系进行了测试,测试结果如图6所示.

3 实验结果与分析

在利用 BSVM 2.06进行分类实验时,每类纹理图像随机选取了 8个训练样本,测试样本数为 25,这样训练样本有 896幅纹理图像,测试样本由 2 800幅纹理图像组成.首先利用训练样本集来训练支持向量机,然后利用训练好的支持向量机分类器对测试样本集进行分类实验,并对每类图像的分类准确率和全部图像的平均准确率进行了统计分析,并与文献[4]中给出的每类图像利用 Gabor小波、金字塔结构小波 (PWT)、树结构小波 (T WT)变换提取的纹理特征的分类准确率进行了比较,分类准确率结果如表1所示.

表1 Brodatz中 112幅纹理图像的平均分类准确率图像

(续表1)

图像名称分类准确率 /%Gabor PWT T WT DT-CWT D71 42.92 45.83 68.75 100.00 D72 47.50 48.75 75.83 84.00 D73 66.67 51.67 57.92 52.00 D74 78.75 85.00 85.00 100.00 D75 95.42 86.67 93.75 100.00 D76 99.17 96.25 95.83 100.00 D77 100.00 100.00 100.00 100.00 D78 97.50 93.33 85.42 100.00 D79 100.00 100.00 100.00 92.00 D80 100.00 85.83 85.83 100.00 D81 100.00 90.83 95.83 100.00 D82 100.00 100.00 100.00 100.00 D83 100.00 98.75 99.58 100.00 D84 100.00 100.00 100.00 100.00 D85 99.58 96.67 100.00 100.00 D86 91.67 60.83 71.67 96.00 D87 99.58 92.08 82.92 100.00 D88 41.67 48.75 51.67 60.00 D89 21.25 22.08 26.25 72.00 D90 34.58 19.58 31.67 76.00 D91 25.42 12.92 16.25 80.00 D92 87.50 92.50 92.08 100.00 D93 72.92 38.75 30.00 100.00 D94 100.00 91.67 92.08 100.00 D95 87.50 65.00 92.50 100.00 D96 98.33 77.50 94.17 96.00 D97 37.08 29.17 39.58 88.00 D98 52.50 52.08 65.00 64.00 D99 67.28 62.14 63.62 68.00 D100 87.08 71.67 53.33 80.00 D101 58.75 65.00 63.75 84.00 D102 53.33 51.25 51.25 48.00 D103 56.67 72.50 73.75 100.00 D104 54.58 59.17 66.67 80.00 D105 63.33 50.00 44.58 84.00 D106 44.17 55.83 54.58 100.00 D107 52.50 59.58 60.83 100.00 D108 37.50 28.75 29.58 92.00 D109 78.75 73.75 76.67 96.00 D110 87.92 78.75 75.42 80.00 D111 90.83 90.42 62.92 96.00 D112 61.67 50.42 58.33 56.00 Avg. 73.12 67.41 67.96 89.82

从表1的分类结果可以看出,支持向量机基于DT-CWT提取的特征向量进行分类的平均准确率要高于其它方法约 10%～20%,说明 DT-CWT的高频子带包含了图像丰富的边缘、方向和细节信息,而低频子带只含有图像的近似信息.但是,DTCWT对一些方向性不明显、内容杂乱且内容极其相似的图像分类精度也非常低,特别是对纹理图像D43、D69和 D102的分类正确率要明显低于其它分类方法,主要原因在于图像 D43的左右 2部分内容相差太大,左侧完全没有方向及边缘信息,而右侧的方向性非常明显;图像 D69没有明显的主导性方向,内容复杂且局部内容的方向及边缘相差很大;图像D102的方向过于单一,上述原因导致对其提取的纹理特征包含的关于边缘及方向的可辨别性信息严重不足,只是在图像的局部细节部分存在微小区别,由此导致了其分类准确率明显低于其它方法.但是,图像 D43虽然只有 44%的分类准确率,但是相对于其它方法,却是提高幅度较大的一类图像,说明D43的内容虽然左右极度不对称,但 DT-CWT还是较为准确地提取了其右边的方向性信息,从而有效地提高了它的分类准确率.图像 D69和 D43的分类准确率低于 50%,主要原因在于其内容的复杂性和方向的不确定性;在利用 DT-CWT提取低频分量特征进行分类实验时,图像 D69和 D43的分类准确率反而有所提高,主要是图像中的局部近似信息提供了更好的辨别性信息.

本文实验中训练样本集是随机选择生成,在实验过程中发现通过有针对性地选择不同的训练样本可以一定程度地提高上述分类准确率较低的图像的区分能力,但某些情况下会对另外一些图像的分类准确率产生影响,所以,选择那些样本来组成训练样本集是一个平衡与折中的问题.通过对基于不同性质纹理特征的分类结果进行比较和分析,可知图像低频特征因为只描述了图像局部近似内容,提供了较少的纹理强区分性信息,对分类的贡献不大;而小波分解后每层的高频特征包含了纹理图像丰富的边缘、方向和细节信息,因而有效地提高了分类准确率.

在本文的分类实验中,每类纹理图像只随机选择了 8个训练样本来训练支持向量机,由图6中的曲线可以发现随着训练样本数量的增加,支持向量机的分类精度有明显上升的趋势,当使用 10个以上的训练样本时,平均分类精度可达到 93.65%左右.由此可见,支持向量机学习器具有非常强的学习和推广能力,即使在训练样本很少的情况下,也能得到相对较好的分类效果.从 Brodatz纹理库中 112幅纹理图像的平均分类准确率来看,基于 DT-CWT提取的纹理特征的平均分类准确率比其它几种方法中最好的Gabor小波变换也要高出 15%左右,而且每类纹理图像的分类准确率没有出现很大波动,充分说明了结合支持向量机方法和 DT-CWT方法在对纹理图像进行分类时具有的相对稳定性和技术互补性的特点.

4 结语

本文提取了 Brodatz纹理库中 112幅图像的纹理特征,采用支持向量机作为分类器进行了分类与检索实验,通过与基于其它特征分类结果的比较证明,利用二元树复小波变换提取的纹理特征更准确全面地描述了纹理图像内容,从而提高了图像的分类准确率,其具有近似的平移不变性、良好的方向选择性和有限的数据冗余性等优点得到了充分体现和验证.下一步的工作将针对支持向量机核函数及其参数的最优选择问题进行深入研究,从理论和方法不同的角度进行定性分析和定量化研究,以发现其中的规律来指导支持向量机分类模型的建立和应用.

[1]MUMTAZ A,ASIF S,G ILAN IM,et al.Enhanceing performance of image retrievel systems using dual tree complex wavelet transform and support vector machines[J].Journal of Computing and Infor mation Technology,2008,16(1):57-68.

[2]黄中美,张小洪,杨舟.基于二元树复小波特征表示的人脸识别方法[J].计算机应用,2007,27(5):1 135-1 137.

[3]HARAL I CK R,SHANMUGAM K,D INSTE INI.Texture features for image classification[J].IEEE Trans Systems Man Cybernet,1973,3(6):610-621.

[4]MANJUNATH B S,MA W Y.Texture features for browsing and retrieval of image data[J].IEEE Transactions on Pattern Analysis andMachine Intelligence,1996,18(8):837-842.

[5]K INGSBURYN G.The dual-tree complex wavelet transform:a new efficient tool for image restoration and enhancement[C]//Proceedings oftheEUSIPCO’98,Rhodes,1998,319-322.

[6]尚赵伟,张明新,赵平,等.基于不同复小波变换方法的纹理检索和相似计算[J].计算机研究与发展,2005,42(10):1 746-1 751.

[7]CHEN G Y,XIE W F.Pattern recognition with SVM and dual-tree complex wavelets[J]. Image and Vision Computing,2007,25(6):960-966.

[8]解洪胜,张虹,徐秀.基于复小波和支持向量机的纹理分类法 [J].计算机应用研究,2008,25(5):1 573-1 575,1 578

[9]CHANG C C,L IN C J.L IBSVM:A library for support vectormachines[EB/OL].(2010-01-01)http://www.csie.ntu.edu.tw/～cjlin/libsvm,2001.

[10]K IM K I,JUNG K,PARK S H,et al.Support vcctor machines for texture classification[J].IEEE Tronsactions on Pattern Analysis and Machine Intelligence,2002,24(11):1 542-1 550.

(责任编辑庄红林)

Design and Application of Image Feature Extraction and Classification by Using Dual-Tree ComplexWavelet Transform

LIZheng
(Modern Technology Education Depar tment,Shandong College of Arts,Jinan 250014,China)

The dual-tree complexwavelet transfor m was used to decompose imageswith four scales,and the 48-dimensional feature vectorwas generated by computingmean and standard deviation from wavelet coefficients of six-direction high-frequency subbands of each scale,using one-vs-one algorithm of the support vectormachine,the texture feature extraction and classification exper imentswere done by using 112 images of Brodatz image database.The results show that the image features of the dual-tree complexwavelet transform can effectively improve the image classification accuracy.

dual-tree complexwavelets transform;wavelet coefficients;support vectormachine;feature extraction

TP 391.41

A

1672-8513(2011)01-0053-05

10.3969/j.issn.1672-8513.2011.01.013

2010-03-09.

山东省研究生教育创新计划重点项目(SDYZ06001).

李政 (1970-),男,硕士,工程师.主要研究方向:数据库应用、图像检索.