一种改进的LDA和PCA特征空间融合的人脸识别方法

何俊 芦明

摘要：为了改善传统的人脸识别Fisherface方法的识别率和稳定性，采用LDA + PCA组合的两步人脸识别过程来消除小样本问题;通过融合LDA和PCA特征空间，使类内离散度最小而类间离散度最大，来解决统计相关问题。通过约束空间维数和采样维数来提高识别率和稳定性。最后，在ORL人脸库上进行实验，结果表明该方法是有效的，识别率较高，而且识别结果比较稳定，满足实际应用的要求。

关键词：人脸识别;LDA特征;PCA特征;特征空间融合

中图分类号： TP319        文献标识码：A

文章编号：1009-3044（2020）35-0184-02

开放科学（资源服务）标识码（OSID）：

An Improved Face Recognition Method Based on LDA and PCA

HE Jun， LU Ming

（School of Computer Science and Software Engineering， University of Science and Technology Liaoning， Anshan 114051，China）

Abstract： In order to improve the recognition rate and stability of Fisherface method in traditional face recognition， a two-step face recognition process combining LDA and PCA is used to eliminate the small sample problem， and the statistical related problems are solved by fusing LDA and PCA feature space to minimize the within-class scatter and maximize the between-class scatter. The recognition rate and stability are improved by constraining the spatial dimension and sampling dimension. Finally， experiments on ORL face database show that the method is effective， the recognition rate is high， and the recognition results are stable， which meets the requirements of practical application.

Key words： face recognition; LDA feature; PCA feature; feature space fusion

自从美国 “9.11”事件后，人的身份认证问题不仅涉及银行存款、电子商务、金融安全等方面，而且已经提升到了国家安全的高度。人的身份认证通常是通过生物特征识别方法来完成，而在所有的方法中，人脸识别是特征录入比较方便的身份认证方法之一。

人脸识别的关键性技术问题在于特征提取和特征识别。由于人脸特征对噪声、光照以及表情等都十分敏感，加之传统人脸识别算法的识别率、鲁棒性和计算复杂度等方面都还远远达不到实际使用的要求[1]。因此，如何寻求一种准确率高、鲁棒性强、计算复杂度低的人脸识别算法成为目前亟待解决的问题。

1 国内外相关研究工作

在最近30年，人脸识别发展迅速。人脸识别算法有：基于几何特征的人脸识别方法[2];基于特征脸的人脸识别算法[3];基于模板匹配的人脸识别算法[4];基于人工神经网络的识别算法[5];等灰度线法[6];基于特征融合的人脸识别算法[7];隐马尔可夫模型方法[8]等许多种。上述各人脸识别算法的识别率都还远远不能达到实际使用的要求。

为了提高识别率，Turk等[9]首次引入了主成分分析（PCA）的子空間思想，与特征脸法相结合，后来获得了较大的成功。子空间分析分为线性和非线性空间变换两种，由于线性子空间方法的数学理论基础坚实，用到了许多矩阵理论中相关的知识，近些年，线性子空间方法发展出线性鉴别分析（Fisherface）[10]，独立成分分析[11]和非负矩阵分解[12]等诸多研究分支。

2 传统的Fisherface方法

Fisherface人脸识别方法是基于线性鉴别分析（Linear Discriminant Analysis， LDA ）思想而演变过来的。LDA方法的目的是尽可能提取出较多的最具有鉴别能力的低维特征。具体过程：设有L个模式类别，X = （x1， x2， ...， xn）是N个n维的训练样本，样本类间离散度矩阵Sb满足下式：

[wTμi-wTμ02=wTSbw]                 （ 1 ）

其中?i是xi类的均值，?0是所有样本类的均值，w是y=wTx的变换矩阵。

样本类内离散度矩阵Sw满足下式：

[Sw2=i=1LwTxi-μi xi-μiTw]                   （ 2 ）

其中?i是xi类的均值，w是y=wTx的变换矩阵。分析得出Fisher准则函数的最优变换如下：

[Jw =wTSbwwTSww]                             （ 3 ）

由上述分析可见，对应于矩阵较大的特征值的特征向量，该矩阵最多只有L-1个非零特征值，L是类别数目。

在人脸识别的实际应用中，由于传统的LDA方法训练样本的个数通常低于实际人脸图像的像素数，因此出现了所谓的小样本问题。同时存在另外一个严重的问题：各个样本之间的统计相关性的问题。这就需要探寻Fisher准则函数达到最优的那个线性变换wopt。为了提高人脸识别的准确率，增强其鲁棒性，降低计算复杂度，本文对传统的人脸识别算法进行详细的分析，总结出其在特征提取和识别中存在的准确性差，识别率低，效率低等诸多方面缺点，这些缺点基本归结为两方面问题：一方面是训练集的小样本事件，另一方面是样本的统计相关性。针对上述两方面问题，本文提出了相应的解决方案。

（1）解决小样本问题，采用了LDA + PCA 组合的两步人脸识别过程，相当于对原始的样本数据进行两次投影变换。首先，对人脸图像进行分块;然后采用LDA方法将人脸图像特征降维到一个适当的空间，在降维的人脸特征子空间中利用行和列方向最优鉴别矢量集进一步降维，最后进行特征识别。

（2）解决统计相关性问题，主要采用将LDA特征子空间与PCA特征子空间融合，使类内离散度最小而类间离散度最大，即PCA分块所用的特征向量是相互正交的。为了提高识别率、增强其鲁棒性以及减少算法的复杂性，这里对空间维数和采样维数给予一定的约束，改进了其中的维数选择算法。

3 对Fisherface方法的改进

3.1 改进后的Fisherface方法的算法流程

设训练样本集的个数为P，有L个类;Gb 和Gw 分别代表图像类间离散度矩阵和图像类内离散度矩阵，均为n×n维的非负定矩阵。改进后的人脸识别算法，其流程如下：

（1） 把训练集中的人脸图像表示为一个向量，设为A=[A1，A2，...，Ad]，训练样本集的平均向量表示为A，进而求得训练向量与平均向量的差值Ai –A。

（2） 计算出图像的类间离散度矩阵Gb：

[Gb=i=1LPi Ai -AiTAi -Ai]                 （ 4 ）

（3） 计算图像的类内离散度矩阵Gw：

[Gw=i=1LPi ·1Mij=1Mi A（i）j-A（i）T A（i）j-A（i） ]           （ 5 ）

其中，Pi （i =1，2，…， L） 是第i类的先验概率，Mi为第i类所属空间矩阵。

（4） 由[G-1w · Gb · G-1w · GbT]中的前d个最大特征值所对应的特征向量构建LDA判别空间矩阵MLDA 。

（5） 由Gb?Gw中的前d个最大特征值所对应的特征向量构成PCA判别空间矩阵MPCA 。

（6） 融合LDA与PCA的特征判别空间矩阵，得到最佳判别空间Mopt：

Mopt = [MTLDA · MTPCA]                      （ 6 ）

为了提高识别率、增强其鲁棒性以及减少算法的复杂性，需要合理地选择n和d的值。考虑到在PCA变换中最多有n-1个非零特征值，有必要对最佳描述空间的维数n进行约束，n值过大会导致Gw发生畸变，因此最佳特征判别空间的维数n必须小于Gw的秩，即满足如下条件：n <= min（P–L， rank（Gw））。d值的选择本文主要采用以下方法来加以改进：

（1）在特征空间中，基于投影特征矩阵 Y=[SM1，SM2，...，SMn]重新构建类间离散度矩阵Gb和类内离散度矩阵Gw 。

（2） 选择矩阵[G-1w · Gb]的前d个最大特征值所对应的d个单位正交的特征向量 m1， m2， ... ， md，构建变换矩阵[M'LDA]= [m1， m2， ... ， md ]。

（3） 选择矩阵Gb?Gw的前d个最大特征值所对应的d个单位正交的特征向量 w1， w2， ...， wd，构建变换矩阵[M'PCA]= [w1， w2， ... ， wd]。

（4） 由（2）和（3）得到融合空间矩阵：

[M'opt]=[ M'LDAT·  M'PCAT]                 （ 7 ）

（5）通过变换Z=Y·[M'opt]，将特征矩阵Y投影到n×d维子空间。

通过上述步骤限定了d的取值，从而使得算法的复杂度有所降低。

4 实验结果与分析

本文实验样本取自原ORL（Olivetti Research Laboratory）人脸数据库，ORL人臉库由40个人脸，每个人脸由10幅112×92图像组成，图像背景为黑色，其中有些图像是拍摄于不同时期的，人的脸部表情和脸部细节有着不同程度的变化，其中包含了一定的光照变化、表情变化、面部细节变化及一定范围内的深度旋转，人脸的尺度也有多达10%的变化。图1展示了ORL人脸库中的人脸图像示例。

采用最近邻分类器进行分类，各种特征提取方法都是直接利用ORL人脸库中的不经过任何预处理的原始图像矩阵。通过与已有的传统人脸识别方法PCA方法，Eigenface方法和Fisherface方法识别的有效性和稳定性的对比，来考察本方法的性能。

图2表示在选取相同数目的训练样本条件下，PCA方法，Eigenface方法和Fisherface方法和本方法四种鉴别方法识别率的比较。这里每类分别选取 5、7...15个训练样本。从图2可以看出，本方法识别率比较准确，而且性能整体上相对稳定。

5 结论

本文对传统的Fisherface人脸识别算法进行详细的分析，总结出造成目前人脸识别率低，效率差等方面缺点的原因：一方面是训练集的小样本事件，另一方面是样本的统计相关性。针对小样本问题，采用了LDA+ PCA 组合的两步人脸识别过程，相当于对原始的样本数据进行两次投影变换。针对统计相关性问题，主要采用将LDA特征子空间与PCA特征子空间融合，使类内离散度最小而类间离散度最大，即PCA分块所用的特征向量是相互正交的。为了提高识别率、增强其鲁棒性以及减少算法的复杂性，这里对空间维数和采样维数给予一定的约束，改进了其中的维数选择算法。最后，在ORL人脸库上进行实验，实验结果表明所提出的方法是有效的，识别能力较强，且具有较好的稳定性。

参考文献：

[1] 李金屏，韩延彬，杨清波，等.人脸识别新技术研究进展[J].计算机科学，2004，31（z2）：293-295.

[2] Govindaraju V.Locating human faces in photographs[J].International Journal of Computer Vision，1996，19（2）：129-146.

[3] 宇雪垠，曹拓荒，陈本盛.基于特征脸的人脸识别及实现[J].河北工业科技，2009，26（5）：428-430，433.

[4] 梁路宏艾海舟何克忠.基于多模板匹配的单人脸检测[J].中国图象图形学报，1999，4（10）：3-5.

[5] 黎奎，宋宇，邓建奇，等.基于特征脸和BP神经网络的人脸识别[J].计算机应用研究，2005，22（6）：236-237，248.

[6] 孙小琪，高文曦，镇丽华.基于SVD的人脸对称性的两步人脸识别算法[J].计算机系统应用，2016，25（2）：130-134.

[7] 李同宇，李卫军，覃鸿.基于特征融合的人脸图像性别识别[J].智能系统学报，2013，8（6）：505-511.

[8] Rabiner L R.A tutorial on hidden Markov models and selected applications in speech recognition[J].Proceedings of the IEEE，1989，77（2）：257-286.

[9] Turk M，Pentland A.Eigenfaces for recognition[J].Journal of Cognitive Neuroscience，1991，3（1）：71-86.

[10] Belhumeur P N，Hespanha J P，Kriegman D J.Eigenfaces vs.Fisherfaces：recognition using class specific linear projection[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，1997，19（7）：711-720.

[11] Bartlett M S.Independent component representations for face recognition[M]//Face Image Analysis by Unsupervised Learning.Boston，MA：Springer US，2001：39-67.

[12] Lee D D， Seung H S. Algorithms for non2negative matrix factorization[C]. // In ： Proceedings of Neural Information Processing Systems， USA ： Denver， 2000：556-562.

【通聯编辑：唐一东】