基于DWT,2DPCA和KPCA的人脸识别

甘俊英,李高尚

摘 要:利用离散小波变换对人脸图像进行压缩,提取人脸的低频分量,有效去除人脸图像高频分量的影响;再利用二维主元分析对小波变换后的人脸低频分量实行提取特征;然后使用核主元分析再次提取特征;最后用最小距离分类器完成人脸识别。基于ORL人脸数据库的实验结果表明,该算法能提高人脸识别率,有效减少计算量和降低计算复杂度。

关键词:小波变换;2DPCA算法;KPCA算法;人脸识别

中图分类号:TP391.41文献标识码:B

文章编号:1004-373X(2009)20-051-03

Face Recognition Based on DWT,2DPCA and KPCA

GAN Junying,LI Gaoshang

(School of Information,Wuyi University,Jiangmen,529020,China)

Abstract:In this paper,human face image is compressed and low-frequency component is extracted by way of Discrete Wavelet Transform (DWT).In this way,the influence of high-frequency component of human face image is discarded effectively.Then the features of low-frequency component are extracted by way of two dimensional principal component analysis (2DPCA).In the mean time,Kernel Principal Component Analysis (KPCA) is applied in feature extraction.Finally face recognition is performed by the Nearest Neighbor classifier.Experimental results on Olivetti Research Laboratory(ORL)face database show that face recognition rate is increased,amount of computation and the complexity are reduced.

Keywords:wavelet transform;2DPCA algorithm;KPCA algorithm;face recognition

0 引 言

近年来,人脸识别技术得到了很大发展,许多优秀的方法和算法相继被提出[1,2]。小波变换(Wavelet Transform,WT)是一种基于多层次函数分解的数学工具[3-5]。人脸图像经过小波变换后,可分解成近似分量与细节分量。近似分量代表信号的低频分量,细节分量代表信号的高频分量。近似分量保留图像的基本信息,噪声分量或变化比较快的分量,其主要能量一般集中在细节分量中。Nastar等研究了人脸外观变化与频谱变化之间的关系,指出人脸的光照、旋转扭曲和面部表情只影响图像中的高频分量,人脸图像的低频分量仍然保持稳定。因此,采用小波变换后仅保留近似分量,可有效克服光照、姿态和表情变化对人脸识别率的影响。

2004年Jian Yang等人提出二维主元分析(Two-dimensional Principal Component Analysis,2DPCA),并将该算法应用于人脸识别[6]。2DPCA算法是以人脸样本的二维灰度图像矩阵计算样本的总体离散度的,所以它有效降低了待识别图像的维数。Jian Yang等的实验结果表明,2DPCA算法的识别率和计算时间均优于主元分析(Principal Component Analysis,PCA)算法。

核主元分析(Kernel Principal Component Analysis,KPCA)能有效捕捉数据的非线性特征,因此在模式识别、回归分析等领域均受到广泛重视。KPCA是基于输入数据的高阶统计,描述了多个像素间的相关性,所以该方法在图像特征提取上能取得较好的效果。Moghaddam比较了几种子空间方法,认为KPCA优于PCA方法,因为它考虑了图像的非线性特性[7,8]。

基于以上分析,为了使提取的特征对光照、姿态、表情变化的人脸图像有较好的鲁棒性,在此提出一种基于小波变换、2DPCA和KPCA相结合的人脸识别方法。基于ORL(Olivetti Research Laboratory)人脸数据库的实验结果表明,该算法能提高人脸识别率、减少计算量和降低计算复杂度。

1 人脸识别模型

人脸识别模型如图1所示。首先,运用小波变换获得人脸图像的低频分量,然后经过2DPCA,将提取的特征通过KPCA,解决人脸非线性特征的可分性问题;最后采用最近邻分类器来完成识别。下面对该模型进行详细探讨。

图1 人脸识别算法模型

1.1 小波变换

小波变换是将基本小波的函数做位移后,在不同尺度下与待分析的信号f(x)做内积。在图像处理中常用的是二值尺度的二维离散小波变换(Discrete Wavelet Transform,DWT)。尺寸为M×N的函数f(x,y),其二维离散小波变换可表示为:

Wφ (j0 ,m,n) = 1MN∑M-1x = 0 ∑N-1y = 0f(x,y)φj0 ,m,n (x,y)

Wiψ (j,m,n) = 1MN∑M-1x = 0 ∑N-1y = 0f(x,y)φj,m,n (x,y)

i = { H,V,D} (1)

式中:Wφ(j0,m,n)代表图像的低频子图像;Wiψ (j,m,n);i={H,V,D}分别代表图像水平、垂直和对角方向的高频子图像;每个子图像的大小为原始子图像的1/4。通常,令j0=0,选择N=M=2J;j=0,1,2,…,J-1;m,n=0,1,2,…,2j-1,如图2所示。

图2 小波变换示意图

1.2 2DPCA算法

2DPCA算法采用二维图像数据矩阵直接构建一个协方差矩阵,求出此协方差矩阵的特征值和特征向量,并用较大几个特征值对应的特征向量构建投影坐标系,然后将每个图像矩阵投影到这个坐标系上,得到该图像的特征矩阵。

设Ai为n×m维样本图像,其中,i=1,2,…,M;M为样本图像数,则样本图像的总体协方差矩阵为:

G=1M∑Mi=1(Ai-)Τ(Ai-)(2)

式中:G是一个n×n维的正定矩阵;为样本图像的均值图像;=1M∑Mi=1Ai。求G的d(d

1.3 KPCA算法

基于核的主成分分析方法实际上是将核方法应用到主成分分析中,实现输入空间Rn到特征空间F的映射,即输入空间的样本点xi变换为特征空间的样本点Φ(xi),其中,i=1,2,…,M,KPCA的具体算法步骤如下:

(1) 设M个训练样本x1,x2,…,xM,其中,xi是k维列向量,经过非线性变换,分别对应于高维特征空间的Φ(x1),Φ(x2),…,Φ(xM)。

(2) 求协方差矩阵。设Q=[Φ(x1),Φ(x2),…,Φ(xM)],R=QTQ,Ri,j=QTiQj = k(xi,xj)。

(3) 对R中心化,即:

=R-1M•R-R•1M+1M•R•1M(3)

式中:1M=[1]M×M/M,[1]M×M是单位矩阵。

(4) 求的特征值λ1,λ2,…,λk,及其对应的特征向量γ1,γ2,…,γk。

(5) 由特征值和特征向量得:

αj=(1/λj)γj(4)

式中,j=1,2,…,k。

(6)样本xi在特征空间F的映射是:

i={∑Mj=1α1j[Φ(xj)•Φ(xi)],∑Mj=1α2j[Φ(xj)•Φ(xi)],

…,∑Mj=1αkj[Φ(xj)•Φ(xi)]}T(5)

式中:i=1,2,…,M。

2 应用于人脸识别

2.1 ORL人脸数据库

ORL(Olivetti Research Laboratory)人脸数据库由40人,每人10幅图像组成。其中,有些图像拍摄于不同时期;人的脸部表情和脸部细节具有不同程度的变化,比如笑或不笑,眼睛或睁或闭,戴或不戴眼镜;人脸姿态也有相当程度的变化,深度旋转和平面旋转可达20°;人脸的尺度变化多达10%。这些图像的分辨率为112×92,灰度级为256,如图3所示。

图3 ORL人脸数据库上的部分人脸图像

2.2 实验结果及分析

在ORL人脸数据库上选取每人的前5幅作为训练样本,后5幅作为测试样本。人脸图像经一次小波变换后提取的低频图像分辨率为63×53,如图4所示。

图4 一次小波变换后ORL人脸库上的部分人脸图像

DWT-2DPCA-KPCA算法的实验参数包括训练样本数、2DPCA投影维数、KPCA投影维数、以及KPCA核函数。本实验选用多项式核函数K(x,xi)=[(x,xi)+1]2。实验结果均在Pentium 4 1.5 GHz,128 MB计算机上运行获得。

在DWT-2DPCA-KPCA算法实验中,先选取KPCA的投影维数为40、训练测试样本数分别为5,2DPCA维数变化时的实验结果如表1所示。这里,训练时间定义为一个训练样本的人脸识别程序运行时间;识别时间定义为一个测试样本的人脸识别程序运行时间;识别率定义为测试样本中正确识别的样本数与测试样本数之比。从表1可知,训练和测试时间大致随2DPCA维数的增加而增加;当2DPCA的投影维数为2时,识别率最高为95.5%。

表1 DWT-2DPCA-KPCA算法识别率(一)

2DPCA维数训练时间 /s识别时间 /s识别率 /%

10.165 3 0.161 5 88.00

20.177 9 0.181 8 95.50

30.177 4 0.174 9 94.50

40.181 9 0.175 9 94.00

50.189 5 0.201 7 93.50

60.233 1 0.217 1 93.00

70.254 6 0.242 3 93.00

80.218 5 0.217 4 92.00

90.245 5 0.251 1 91.50

当2DPCA的投影维数为2,训练测试样本数仍分别为5,以及KPCA维数变化时,实验结果如表2所示。此时,训练和测试时间大致随KPCA维数的增加而增加;当KPCA的投影维数为50时,识别率达到最佳识别效果95.5%。

表3是综合考虑了DWT-KPCA,DWT-KPCA,2DPCA,DWT-2DPCA和DWT-2DPCA-KPCA算法的实验结果。其中,2DPCA投影维数为2,KPCA投影维数为50,训练测试样本数分别为5。在测试时间方面,DWT-2DPCA-KPCA算法比2DPCA算法和DWT-2DPCA算法所用时间长,但比KPCA 算法和DWT-KPCA算法时间短;在识别率方面, KPCA算法、DWT-PCA算法、2DPCA算法和DWT-2DPCA算法分别为86%,92.5%,93%,93.5%;DWT-2DPCA-KPCA算法为95.5%,比前面四种算法识别率均有所提高。

表2 DWT-2DPCA-KPCA算法识别率(二)

KPCA维数训练时间 /s识别时间 /s识别率 /%

300.153 1 0.153 494.50

400.177 9 0.181 895.00

500.223 2 0.218 795.50

600.260 7 0.262 395.50

700.291 8 0.281 695.50

800.320 9 0.323 895.50

900.324 5 0.318 995.50

表3 ORL人脸数据库上各算法比较

算法训练时间 /s识别时间 /s识别率 /%

KPCA1.124 91.106 7 92.00

DWT-KPCA0.402 1 0.372 2 92.50

2DPCA0.094 0 0.093 8 93.00

DWT-2DPCA0.045 9 0.044 3 93.50

DWT-2DPCA-KPCA0.223 2 0.218 7 95.50

图5表示各算法在不同训练样本数时的识别率。当样本数在总样本数的中间区间(4,5,6)时,DWT-2DPCA-KPCA算法比DWT-2DPCA算法、2DPCA算法、DWT-KPCA算法和KPCA算法的识别率高。

图5 五种算法在不同训练样本数下的识别率

综上所述,在训练时间、测试时间和识别率方面,DWT-2DPCA-KPCA算法优于其他几种算法。

3 结 语

综合了离散小波变换、二维主元分析和核主元分析的优点,提出了一种利用三者相结合的特征提取方法,然后利用最小距离进行分类识别。基于ORL的人脸数据库的实验结果表明,该方法在识别率上高于KPCA,DWT-KPCA,2DPCA以及DWT-2DPCA算法;测试速度大于KPCA和DWT-KPCA。这里只对多项式核函数参数的选取进行了简单分析和讨论,在某一应用中如何选择核函数与相应的核函数参数有待进一步研究。

参考文献

[1]Samala,Iyengar P.Automatic Recognition and Analysis of Human Faces and Facial Expressions:A Survey[J].Pattern Recognition,1992,25(1):65-77.

[2]Zhao W,Chellappa R,Phillips P J,et al.Face Recognition:A Literature Survey[J].ACM Computing Surveys,2000,35(4):399-458.

[3]Nastar C,Ayache N.Frequency- based Non-rigid Motion Analysis[J].IEEE Trans.on PAMI,1996,18(11):1067-1 079.

[4]龙飞,庄连生,庄镇泉.基于小波变换和Fisher判别分析的人脸识别方法[J].模式识别与人工智能,2005,18(2):223-227.

[5]甘俊英,李春芝.基于小波变换的二维独立元在人脸识别中应用[J].系统仿真学报,2007,19(3):612-615.

[6]Jian Yang,David Zhang.Two-dimensional PCA:A New Approach to Appearance-based Face Representation and Recognition[J].IEEE Trans.on pattern Analysis and Machine Intelligence,2004,26(1):131-137.

[7]Moghaddam B.Principal Manifolds and Probabilistic Ubspaces for Visual Recognition[J].IEEE Trans.on Pattern Analysis and Machine Intelligence,2002,24(6):780-788.

[8]Roman Rosipal,Mark Girolami.Kernel PCA for Feature Extraction and De-noising in Non-linear Regression[J].Neural Computing & Applications,2001,10(3):231-243.