基于大间距准则的混合核Fisher判别分析*

马 家 军

(商洛学院 数学与计算机应用学院，陕西 商洛 726000)



基于大间距准则的混合核Fisher判别分析*

马 家 军

(商洛学院 数学与计算机应用学院，陕西 商洛 726000)

摘要：针对KFDA算法中存在的问题，提出了基于大间距准则的混合核Fisher人脸特征提取算法；首先，将原始数据通过非线性映射投影到高维数据空间；然后，引入大间距准则和混合核函数使得同类样本在投影后离得更近，不同类样本在投影后离得更远；在PIE和AR人脸库中的仿真实验验证了算法的有效性和稳定性。

关键词：大间距准则；混合核函数；Fisher判别分析

在人脸识别问题中，如何对高维的人脸数据进行压缩是待解决的重要问题。从降维的目标函数来分析，降维方法一般分为两大类：线性降维与非线性降维。线性降维的本质是把高维数据投影到线性子空间。经典的线性降维方法有主成分分析(PCA)[1]、独立成分分析(ICA)[2]、线性判别分析(LDA)[3]等。非线性降维方法有：等距映射(ISOMAP)[4]、局部线性嵌入(LLE)[5]、拉普拉斯特征映射(LE)[6]等。

近年来，基于核函数得学习方法受到人们的重视。核函数学习法在映射空间中定义样本的内积，并在模式空间中将样本映射到高维甚至无穷维空间，从而在高维空间中对原空间中线性不可分的数据样本进行线性分类操作。MIKA等提出了核Fisher判别分析[7]，由于核Fisher判别分析考虑了非线性信息，使得识别效果比Fisher判别分析更好。但当样本数据维数较高时，计算样本的散度矩阵代价较高，并且单一使用核函数使得提取出的数据有一定的缺陷和不足。针对此问题，提出基于大间距准则的混合核Fisher人脸识别方法。

1混合核函数

常用的核函数有多项式核函数和高斯核函数，多项式核函数的数学表达式如下：

(1)

多项式核函数得表达式为

(2)

其中，d和δ是核函数参数。多项式核函数呈现全局性质。高斯核函数呈现出局部性，即仅在测试点的临近处对数据点有影响，两者有各自的优缺点。从核函数理论出发研究得，混合核函数较单核函数可以更好的解释决策函数，并且在分类识别效果上优于单核函数。结合式(1)(2)得到混合核函数：

其中，a为平衡因子，a∈(0,1)；Kmix为混合核函数。混合核函数同时具有全局核函数和局部核函数得性质，拥有较强的学习和泛化能力[8]。

2混合核Fisher判别分析

2.1核Fiser判别分析(KFDA)

(3)

(4)

核Fisher(KFDA)判别分析的准则函数如下：

(5)

2.2特征提取

由核Fisher算法的理论推导可知，核Fisher算法针对核矩阵进行运算，因此核矩阵的维数直接决定了核Fisher的运算速度。当样本数较多时，计算散度矩阵会耗费大量的时间。针对式(5)的“病态性”，提出一种基于大间距准则[9]的混合核Fisher判别分析(MFDA-MMC)，相应的目标函数如下：

(6)

(7)

其中，φ=(φ(x1),φ(x2),…φ(xn))，α=(α1,α2,…,αn)T。

结合式(3)(4)(6)和(7)得：

目标函数最终化为

(8)

3实验与分析

选用CMU的PIE和AR人脸库进行仿真实验，并且将算法分别与KPCA和KFDA算法进行实验对比。通过实验结果的对比来验证算法的有效性。

3.1PIE实验

PIE人脸库共包含68人的41 368张人脸图像，13种不同的姿势、43种不同光照条件、4种不同的表情,试验选择变换光照的前向图像(C27)，因此每人共有43张人脸图像。图1是取自于PIE人脸库的第1个人的样本。

图1　PIE人脸库中第1人的样本图像Fig.1　One man example picture in PIE face database

在PIE人脸库试验中，随机从每类选取20幅作为训练样本，剩余的作为测试样本。图2为选取特征值个数与正确识别率的关系。

3.2AR实验

AR人脸库中包含126人的图像，每人26幅，共计3 276幅。实验从中选取无遮挡的图像，子集共有100人的1 400幅图像。实验前手动将其按人眼对齐方式裁剪为66×48的图像。图3为AR人脸库中第1人的样本图像。

在实验中，从每个人的图像中随机选择10幅图像作为训练样本，剩余的作为测试样本。图4为AR人脸库中3种算法的最高识别率与特征值数目的变化关系。

图2　PIE人脸库中3种算法的识别率与特征值数目的关系Fig.2　Relation between recognition rate and eigenvalueof three algorithms in PIE face database

图3　AR人脸库中第1个人的图像Fig.3　The first man picture in AR face database

图4　AR人脸库中3种算法的识别率与特征值数目的关系Fig.4　The first man picture in AR face database

最后，为了验证算法的有效性，对PIE和AR实验的30次训练/测试划分的实验结果进行平均，并记录平均识别率和标准差。表1为3种算法在相应人脸库中的平均识别率和标准差。

表1　各种方法在测试数据库上的实验结果

4结束语

提出了一种基于大间距准则的混合核Fisher判别分析算法，将原始数据投影到高维空间，引入大间距准则，结合高斯核函数和多项式核函数对数据进行投影。从而更好地挖掘数据的非线性结构，最终在PIE和AR人脸库中进行仿真实验，验证了算法的有效性和稳定性。算法中涉及参数的选取，因此寻找一种参数自适应选取算法是将要进一步完成的工作。

参考文献(References)：

[1] KIM K I,JUNG K,HANG J K.Face Recognition Using Kernel Principal Component Analysis[J].IEEE Signal Processing Letters,2002,9(2):40-42

[2] YANG J,ZHANG D,YANG J Y.Is ICA Significantly Better than PCA for Face Recognition[J].Computer Vision,2005(1):198-203

[3] KURITA T,TAGUCHI T.A Kernel-Based Fisher Discri-minant Analysis for Face Detection[J].Ieice Transactions on Information & Systems,2005,88(3):628-635

[4] FENG H L.Face Recognition Based on Gabor Wavelet and S-ISOMAP[J].Computer Science,2008,31:571-578

[5] RUI M A,WANG J,SONG Y.Multi-manifold Learning Using Locally Linear Embedding (LLE) Nonlinear Dim-ensionality Reduction[J].Qinghua Daxue Xuebao/journal of Tsinghua University,2008,48(4):582-585

[6] 侯臣平,吴翊,易东云.新的流形学习方法统一框架及改进的拉普拉斯特征映射方法[J].计算机研究与发展,2009(4):676-682

HOU C P,WU Y,YI D Y.A Novel Unified Manifold Learning Framework and an Improved Laplacian Eigenmap[J].Journal of Computer Research & Development,2009,46(4):676-682

[7] 李映,焦李成.基于核Fisher判别分析的目标识别[J].西安电子科技大学学报,2003(2):179-182

YING L I,JIAO L C.Target Recognition Based on Kerenel Fisher Discriminant[J].Journal of Xidian University,2003(2):179-182

[8] 汪洪桥,孙富春,蔡艳宁,等.多核学习方法[J].自动化学报,2010,36(8):1037-1050

WANG H Q,SUN F C,CAI Y N,et al.On Multiple Kernel Learning Methods[J].Acta Automatica Sinica,2010,36(8):1037-1050

[9] LI H F，ZHANG K S.Efficiem and Robust Feature Extraction by Max Margin Criterion[J].IEEE Transactions on Neural Network，2006,17(1)：157-165

[10] JOHN S T，NNELLO C.Kerenl methods for pattern anlaysis[M].Beijing:China Machine Press，2005

责任编辑：田静

Mixed Kernel Fisher Discriminant Analysis Based on Maximum Margin Criterion

MA Jia-jun

(College of Mathematics and Computer Application,Shangluo University, Shaanxi Shangluo 726000, China)

Abstract：Mixed kernel fisher face feature extraction algorithm based on Maximum Margin Criterion is proposed, aiming at the existing problem of KFDA algorithm. First of all, the original data is projected to high-dimensional data space by nonlinear mapping. Then , the introduction of Maximum Margin Criterion and Mixed Kernel function makes the similar samples closer after projection, not similar samples farther after projection. In PIE and AR face database, the simulation results verify the effectiveness and stability of the algorithm in this paper.

Key words：maximum margin criterion; mixed kernel function; Fisher discriminant analysis

中图分类号：0175

文献标志码：A

文章编号：1672-058X(2016)03-0043-04

作者简介：马家军(1989-)，男，硕士，助教，从事模式识别和图像处理研究.

*基金项目：商洛学院科研基金项目(14SKY008).

收稿日期：2015-10-10；修回日期：2015-11-27.

doi:10.16055/j.issn.1672-058X.2016.0003.009