基于间隔损失和L1范数调节的特征选择方法研究

潘巍 马培军 李东

0引言

特征选择在机器学习和模式识别领域扮演着重要的角色，可以有效降低数据存储空间和分类学习的计算时间。最近十几年，特征选择已经在图像识别Ⅲ，汉字识别，基因分类等方面得到了广泛的应用。通常来说，可以将特征选择方法按照其构造的模式分为两类：Filter模式和wrap—per模式。在wmpper模式中，特征选择的方法主要是在特征选择空间中对所有可能的特征子集进行评估的一种方法，这种方法是比较费时的。Filter模式是根据一定的评估甬数作为搜索策略，并使这个函数最大化或最小化从而选取特征子集；例如基于距离的特征评估算法，互信息方法等方法都属于后者。