基于子空间类标传播和正则判别分析的单标记图像人脸识别

殷 飞 焦李成 杨淑媛



基于子空间类标传播和正则判别分析的单标记图像人脸识别

殷 飞*焦李成 杨淑媛

(西安电子科技大学智能感知与图像理解教育部重点实验室 西安 710071)

针对单标记图像人脸识别问题，该文提出一种基于子空间类标传播和正则判别分析的半监督维数约简方法。首先，基于子空间假设设计了一种类标传播方法，将类标信息传播到无类标样本上。然后，在传播得到的带类标数据集上使用正则判别分析对数据进行维数约简。最后，在低维空间使用最近邻方法对测试人脸完成识别。在3个公共人脸数据库CMU PIE, Extended Yale B和AR上的实验，验证了该方法的可行性和有效性。

人脸识别；子空间假设；类标传播；正则判别分析；半监督维数约简

1 引言

单训练图像人脸识别是人脸识别中一个具有挑战性的问题。在很多实际场景下，如法律实施、驾驶照验证、护照验证，通常只有每个人的单个带类标样本，在这种情况下，传统人脸识别方法，如主分量分析(PCA)[1]和线性判别分析(LDA)[2]，要么性能大大下降，要么无法使用。在每类只有一个样本的情况下，由于类内散度矩阵退化为零矩阵，LDA无法使用。为修正该问题，Zhao等人[3]提出了修正LDA，该方法用一个单位矩阵来代替类内散度矩阵，以使LDA可在单标记样本情况下正常工作，但其性能仍不尽如人意。为解决单训练图像人脸识别问题，人们提出了一些Ad hoc方法，Tan等人[4]在最近的一个综述中讨论了这些方法。

为解决上述问题，本文提出了一种新的基于子空间类标传播和正则判别分析的半监督维数约简方法。首先，基于子空间假设设计了一种类标传播方法，将类标信息传播到无类标样本上。然后，在传播得到的带类标数据集上使用正则判别分析对数据进行维数约简。最后，在低维空间使用最近邻方法对测试人脸完成识别。在3个公共人脸数据库 CMU PIE, Extended Yale B和AR上的实验验证了所提方法的可行性和有效性。

2 正则判别分析和稀疏保持判别分析

LDA虽然处理分类问题简洁有效，但遭受小样本问题的困扰。在解决小样本问题的诸多方法中，正则判别分析(RDA)[11,12]是一种简单有效的方法，其目标函数定义为

3 子空间类标传播

为了完成类标传播，首先按式(11)选出最可靠的待标记无类标样本并对其标记：

表1 子空间类标传播算法(SLP)

4 基于子空间类标传播和正则判别分析的半监督维数约简

该问题可以通过如式(14)的广义特征值问题来求解：

基于子空间类标传播和正则判别分析的半监督维数约简方法被总结在表2中。

表2基于子空间类标传播和正则判别分析的半监督维数约简(SLPRDA)

输入：训练样本集　，其中是带类标样本集，是无类标样本集，正则参数。输出：投影矩阵。步骤1 执行算法1以获得所有训练样本　的类标。步骤2 根据式(2)和式(3)分别计算和。步骤3 求解式(14)中的广义特征值问题，得到所求投影矩阵。步骤4 停止。

5 相关方法比较

PCA是一种无监督维数约简方法，LDA和RDA都是有监督维数约简方法。在单标记图像人脸识别的场景下，这3种方法的关系可以用定理1描述。

定理1 在单标记样本情况下，PCA, LDA和RDA退化为同一方法。

综上，在单标记样本情况下，PCA, LDA和RDA退化为同一方法。 证毕

6 实验

实验选择3个公共人脸数据库CMU PIE, Extended Yale B和AR来验证本文所提算法SLPRDA的性能，并和经典方法PCA, LDA, RDA, SDA, SPDA进行对比分析。本文的实验环境为：Pentium4双核3.2 GHz CPU, 3 GB内存，实现算法的软件是Matlab7.0.1。

对于PIE和Yale B，先从每类中随机选30个图像形成训练集，剩余图像用作测试集。从训练集中每类随机选1个图像进行标记形成带类标样本集，其余图像不标记形成无类标样本集。对于AR，先从每类中随机选10个图像形成训练集，剩余图像用作测试集。从训练集中每类随机选1个图像进行标记形成带类标样本集，其余图像不标记形成无类标样本集。在实验中，对30次随机训练/测试划分的实验结果进行平均，记录平均分类精度和标准差。

图1 3个人脸数据库的人脸图像样本

表3各方法具体参数设置

方法邻域大小k边权值 SDA0.010.12Cosine SPDA0.010.1自动自动 SLPRDA0.01无无无

不同方法在不同数据库上的识别结果如表4所示。由于在单标记样本情况下PCA, LDA和RDA等价，所以它们的实验结果相同。表中的Baseline方法表示不做维数约简，直接在原始高维空间上使用最近邻分类器。由于所提子空间类标传播算法SLP本身是一种半监督分类方法，所以表4也列出了单独使用SLP的实验结果。SPDA和SLPRDA学习嵌入函数所需时间如表5所示。根据表4和表5中的实验结果，可以得到如下结论：

方法BaselinePCA /LDA/RDASDASPDASLPSLPRDA PIE25.601.6525.601.6559.463.1271.243.3668.554.6588.813.81 Yale B12.901.1912.901.1927.003.9635.793.5234.462.8541.303.59 AR26.981.9626.981.9629.382.8761.962.9343.823.1563.903.35

方法PIEYale BAR SPDA729.6208.81577.0 SLPRDA463.4 80.7 153.2

(1)半监督维数约简方法得到的识别结果比只使用带类标样本的维数约简方法好。这说明对识别问题，无类标样本可以起到重要作用。

(2)SPDA和所提的SLPRDA在所有测试数据库上的识别结果一致好于其它比较方法。这说明子空间假设对人脸识别是一个有效的假设。

(3)所提方法SLPRDA在所有测试数据库上的识别性能都一致的好于其它方法。这进一步验证了所提出的类标传播方法的有效性。

(4)所提方法SLPRDA的识别性能明显好于单独使用SLP或单独使用RDA的方法，这表明SLP和RDA只有作为整体形成半监督维数约简方法SLPRDA时才能更好的用于单标记图像人脸识别。

(5)在所有实验中SLPRDA都比SPDA更高效。SLPRDA在3个测试数据库上比SPDA快1.57~ 10.30倍。

由以上实验可以看出，本文所提方法SLPRDA有如下优势：(1)与SDA相比，所提方法SLPRDA不需要选择邻域大小参数和边权值参数。(2)与SPDA相比，SLPRDA的计算复杂度远远低于SPDA的计算复杂度。(3)实验表明，相比于其它方法，所提方法SLPRDA能获得更好的识别性能。

图2 SLPRDA和EBGM的识别结果比较

7 结束语

本文提出了一种基于子空间类标传播和正则判别分析的半监督维数约简方法SLPRDA，并将其应用于单标记图像人脸识别问题。通过子空间类标传播，所提方法能较好地利用无类标样本，在公共人脸数据库CMU PIE, Extended Yale B和AR上的实验验证了所提方法的可行性和有效性。本文所提出的子空间类标传播方法(SLP)是一个通用的方法，还可以和除判别分析外的其它有监督特征提取准则(如最大边界准则MMC)相结合，得到新的半监督维数约简方法。

图3 模型参数在3个测试数据库上对所提方法SLPRDA性能的影响

[1] Turk M A and Pentland A P. Eigenfaces for recognition[J]., 1991, 3(1): 71-86.

[2] Belhumeur P N, Hespanha J, and Kriegman D. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection [J]., 1997, 19(7): 711-720.

[3] Zhao W, Chellappa R, and Phillips P J. Subspace linear discriminant analysis for face recognition[R]. Technical Report CAR-TR-914, Center for Automation Research, University of Maryland, 1999.

[4] Tan X, Chen S, Zhou Z H,.. Face recognition from a single image per person: a survey[J]., 2006, 39(9): 1725-1745.

[5] Cai D, He X, and Han J. Semi-supervised discriminant analysis[C]. Proceedings of IEEE International Conference on Computer Vision, Rio de Janeiro, 2007: 1-7.

[6] He X and Niyogi P. Locality preserving projections[C]. Proceedings of the Advances in Neural Information Processing Systems, Vancouver, 2003: 585-591.

[7] Chen J H, Ye J P, and Li Q. Integrating global and local structures: a least squares framework for dimensionality reduction[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Minneapolis, 2007: 1-8.

[8] Song Y Q, Nie F P, Zhang C S,.. A unified framework for semi-supervised dimensionality reduction[J]., 2008, 41(9): 2789-2799.

[9] Li H F, Jiang T, and Zhang K S. Efficient and robust feature extraction by maximum margin criterion[J]., 2006, 17(1): 157-165.

[10] Qiao L, Chen S, and Tan X. Sparsity preserving discriminant analysis for single training image face recognition[J]. Pattern Recognition Letters, 2010, 31(5): 422-429.

[11] Friedman J H. Regularized discriminant analysis[J]., 1989, 84(405): 165-175.

[12] Ji S and Ye J. Generalized linear discriminant analysis: a unified framework and efficient model selection[J]., 2008, 19(10): 1768-1782.

[13] Cheng H, Liu Z, Yang L,.. Sparse representation and learning in visual recognition: theory and applications[J]., 2013, 93(6): 1408-1425.

[14] Wright J, Ma Y, Mairal J,.. Sparse representation for computer vision and pattern recognition[J]., 2010, 98(6): 1031-1044.

[15] 宋相法, 焦李成. 基于稀疏表示及光谱信息的高光谱遥感图像分类[J]. 电子与信息学报, 2012, 34(2): 268-272.

Song Xiang-fa and Jiao Li-cheng. Classification of hyperspectral remote sensing image based on sparse representation and spectral information[J].&, 2012, 34(2): 268-272.

[16] 殷飞, 焦李成. 基于旋转扩展和稀疏表示的鲁棒遥感图像目标识别[J]. 模式识别与人工智能, 2012, 25(1): 89-95.

Yin Fei and Jiao Li-cheng. Robust remote sensing image target recognition based on extending training set by rotation and sparse representation[J]., 2012, 25(1): 89-95.

[17] Baraniuk R. Compressive sensing[J]., 2007, 24(4): 118-121.

[18] Wright J, Yang A, Sastry S,.. Robust face recognition via sparse representation[J]., 2009, 31(2): 210-227.

[19] Naseem I, Togneri R, and Bennamoun M. Linear regression for face recognition[J]., 2010, 32(11): 2106-2112.

[20] GrossR. PIE database[OL]. http://vasc.ri.cmu.edu/idb/ html/face/, 2013.4.

[21] Lee K. The extended Yale face database B[OL]. http://vision. ucsd.edu/~leekc/ExtYaleDatabase/ExtYaleB.html, 2013.4.

[22] Martinez A M. AR face database[OL]. http://www2.ece.ohio- state.edu/~aleix/ARdatabase.html, 2013.4.

[23] Martinez A M and Kak A C. PCA versus LDA[J]., 2001, 23(2): 228-233.

[24] Wiskott L, Fellous J-M, Kruger N,.. Face recognition by elastic bunch graph matching[J]., 1997, 19(7): 775-779.

殷 飞： 男，1984年生，博士生，研究方向为模式识别、图像处理、机器学习.

焦李成： 男，1959年生，博士生导师，教授，研究方向为自然计算、信号和图像处理、智能信息处理.

杨淑媛： 女，1978年生，博士生导师，教授，研究方向为智能信号与图像处理、机器学习等.

① 实验使用CSU人脸识别评价系统的EBGM代码：http://www. cs.colostate.edu/evalfacerec/index10.php

Subspace Label Propagation and Regularized Discriminant Analysis Based Single Labeled Image Person Face Recognition

Yin Fei Jiao Li-cheng Yang Shu-yuan

(,,’710071,)

To tackle the problem of single labeled image person face recognition, a subspace label propagation and regularized discriminant analysis based semi-supervised dimensionality reduction method is proposed in this paper. First, a label propagation method based on subspace assumption is designed to propagate the label information from labeled data to unlabeled data. Then, based on the propagated labeled dataset, regularized discriminant analysis is used to conduct dimensionality reduction. Finally, the recognition of testing face is completed in low dimensional space using nearest neighbor classifier. The extensive experiments on three publicly available face databases CMU PIE, Extended Yale B, and AR validate the feasibility and effectiveness of the proposed method.

Face recognition; Subspace assumption; Label propagation; Regularized discriminant analysis; Semi- supervised dimensionality reduction

TP391.41

A

1009-5896(2014)03-0610-07

10.3724/SP.J.1146.2013.00554

2013-04-24收到，2013-11-06改回

国家自然科学基金(61173090, 61072106, 60971112, 61072108)，高等学校学科创新引智计划(B07048)以及教育部长江学者和创新团队发展计划(IRT1170)资助课题

殷飞 yinfei701@163.com