基于负相关神经网络集成的货币识别算法研究

伍 鹏，谢 凯，陈传波，贺建飚

(1.长江大学 电子信息学院，湖北 荆州434023;2.华中科技大学 计算机科学与技术学院，湖北 武汉430074;3.中南大学 信息科学与工程学院，湖南 长沙410083)

1 货币识别系统简介

随着经济的快速发展，人们生活节奏的加快，对自助设备的需求量快速增长，自助设备的应用领域从最初的金融行业扩展到现在的交通、邮电、娱乐、商业、医疗、餐饮业等各个领域。各类自助设备应运而生，单单银行的自助设备就包括自动取款机(ATM)、自动存款机、自动存取款机、自助缴费机等，另外还有如自动售票机、自助挂号缴费机、自动充值机等，这些设备无一例外需要用到货币识别系统这一核心模块。

货币识别系统是一种接收货币信息并做出货币分类决策的一种智能装置，它通过某种途径如光、电、磁传感器采集货币(通常指纸币)上的特征数据［1］，经特征提取［2-3］货币隐性主要特征，利用各种识别算法对货币的币种、面额、真伪进行识别和分类，并以适当形式作分类决策报告［4］。一个货币识别系统的结构遵循模式识别系统的基本构成包括信息采集、数据预处理、特征提取和选择、分类器设计与决策，如图1所示［4-5］。

图1 模式识别系统的基本组成

分类器设计是指用一定数量的样本(训练集)确定某个判别规则，使得按这种判别规则对待识别对象进行分类所造成的误识率最小或引起的损失最小。货币识别处理系统必须做到精确、快速和稳定。本文采用基于负相关的神经网络集成进行分类器设计，并通过实验仿真与单一神经网络比较，验证了所提方法的可行性和深入研究价值。

2 人工神经网络算法

神经网络由于其学习和适应、自组织、函数逼近和大规模并行处理等能力，因而具有智能系统的潜力。神经网络用于货币识别也已经有多个成功的先例，神经网络一般都用于分类器设计与决策(也可称之为分类实现)。用一定数量的样本(训练集)输入网络进行学习，使得神经网络能根据目标或训练样本自动调整网络权值以达到分类器效果，此即为分类器设计。然后就可用所设计的分类器按设计阶段所得的分类规则对待识别的样本进行分类决策。分类器设计，分类器的优劣直接影响识别的速度和精度，它是模式识别过程中很重要的一步。

神经网络模型非常之多，下面列出两种应用最广泛的模型:

1)学习矢量量化(LVQ)网络。它具有自适应学习能力，有存储信息的特征;LVQ网络结构简单、能用比较小的计算代价来处理大量数据的输入［6-7］。

2)反向传播(BP)网络。它是一种多层映射网络，它通过反向传递修正误差。BP网络是目前应用最广的网络之一，这是由于它在选取合适的参数时能收敛到较好的均方差。它的不足在于训练时间较长，且容易陷入局部极小。

3 基于负相关学习的神经网络集成算法

负相关学习是通过一个惩罚项加强集成网络中个体网络之间的差异度，文献［8］对负相关学习进行了研究。下面对该算法作简单说明。

假定有N个样本的训练集S

式中:x是输入向量，与输入向量x同组的d是对应的期望输出。考虑将上述训练集的输入与输出之间的关系用一个集成神经网络来近似表示，这个集成神经网络可以这样来构造

集成的输出F(n)取各子网络输出Fi(n)的平均，其表示如式(2)，其中M表示集成网络中子网个数，n代表训练样本个数。在负相关学习算法中各子网的误差函数Ei用下式表示

式中:Ei(n)指的是在第n个输入模式下第i个子网络的误差函数值。式(3)中的第一项是子网i的经验风险函数，第二项的pi(n)是由式(4)式给出的相关惩罚函数

在第n个输入模式下，第i个子神经网络的误差函数Ei(n)对各自的输出Fi(n)的偏导数计算、变形如下

从式(5)可看出，负相关算法实质上是对标准BP算法的简单扩展［9］。事实上，在BP算法的基础上，唯一需要修改的就是在误差反向传播时，为第i个网络额外计算形如λ(Fi(n)-F(n))的项。在训练过程中，通过误差函数中的惩罚项，整个集成神经网络相互影响，每个子网络不仅最小化了本网络输出与预期输出的差异，还使得集成整体的输出与预期输出更接近。

算法完整流程:

1)M赋值为所需子网个数。

2)然后获得训练集:S={(x(1)，d(1));(x(2)，d(2));…;(x(n)，d(n))}。

3)对S中每个训练样本n=1至N执行以下步骤:

(2)对每个子网络i=1至M，用下式完成子网络i的每个权值的更新

重复执行3)，直到达到希望的迭代次数。

4 实验与分析

4.1 实验数据的选择

人民币有很多防伪特征，许多学者在货币研究中需要的原始数据是通过其防伪特征表现出来的某些特性来确定的。一旦选取好某些特征组合，就可以通过多种方式多种途径采集样本数据以供机器计算得到最终分类结果。在本文实验中，使用紫外光照射下的第五版人民币图像作为原始数据，图2是经灰度化处理后的紫外光下的纸币图片，分别为1元、5元、10元、20元、50元和100元。

图2 紫外线下的人民币图像

4.2 分类器实验及结果

为了提高分类器的准确率，在选择训练样本时考虑了每种面额的纸币有不同程度的噪声的情况，选择6种面额纸币在不同噪声下的样本共300个作为训练样本，样本特征数为300，分别用LVQ神经网络、BP神经网络和集成神经网络进行分类器实验。下面将对各分类器的实验结果进行分析和比较。

4.2.1 LVQ分类器

LVQ分类器的结构是这样确定的:LVQ分类器的输入节点与样本特征数是一样的，在这里是300，输出层节点则与样本总体类别数一致，人民币有6种面额，故输出层有6个节点，根据经验隐含层节点一般是输出节点的3～5倍，本文取5倍也即30个隐含层节点数，图3是这次训练的迭代-误差曲线图。

图3 LVQ训练迭代-误差曲线

用另外的120个样本作为网络测试数据，测试它对未知样本的分类决策情况，表1为LVQ网络仿真实验结果。

表1 LVQ分类器识别结果

由实验结果可知，LVQ网络速度很快，但是可靠性不是很理想，这对货币识别领域来说是个很大的缺陷。

4.2.2 BP分类器

本文选用的BP网络结构为三层，根据式n1=，在此，a取值为10，隐含层节点数为20，传递函数选S型正切函数，用前面介绍的动量BP算法来训练网络，得到对应的训练误差曲线图，如图4所示。

图4 BP分类器训练曲线

以下是BP网络分类器的仿真结果，如表2所示。

表2 BP分类器识别结果

从图4和表2可以看出，BP分类器可靠性很高(误识率低)，可靠性高是货币识别研究的追求，但BP网络的收敛速度太慢，又制约了它的普遍应用。

4.2.3 负相关集成网络分类

本次实验中集成神经网络子网个数为3，各子网的隐含层神经元数相同，并且没有对网络隐含层神经元数目作特别的优化，各个体网络结构同上一节，用负相关学习算法对网络进行训练，图5是训练曲线图，对比图4可发现集成神经网络的可靠性很高。

图5 负相关学习的迭代-误差曲线

表3给出了基于负相关集成网络分类器对120个测试样本的识别情况。

表3 负相关神经网络集成的识别仿真情况

将负相关集成网络的分类识别率与LVQ分类器、BP分类器的识别率综合对比，如图6所示，可看出集成神经网络的识别率比单个网络的识别率平均高4%。

图6 综合识别率对比图

5 结论

集成神经网络通过组合多个子网络的结果，可以显著提高神经网络的稳定性和泛化能力，负相关学习可以减弱各子网间的相关性，获得尽量大的泛化水平。通过对LVQ分类器、BP分类器和基于负相关学习的集成神经网络分类器的性能对比，发现基于负相关学习的集成神经网络分类器的货币识别率比单个网络的识别率平均要高4%。

［1］HASSANPOUR H，FARAHABADI P M.Using hidden Markov models for paper currency recognition［J］.Expert Systems with Applications，2009，36(6):10105-10111.

［2］HASSANPOUR H，FARAHABADI P M.Using hidden Markov models for paper currency recognition［J］.Expert Systems with Applications，2009(36):10105-10111.

［3］HASSANPOUR H，YASERI A，ARDESHIRI G.Feature extraction for paper currency recognition［C］//Proc.2007 9th International Symposium on Signal Processing and its Applications(ISSPA 2007).［S.l.］:IEEE Press，2007:1-4.

［4］GARCíA-LAMONT F，CERVANTES J，LóPEZ A.Recognition of Mexican banknotes via their color and texture features［J］.Expert Systems with Applications，2012，39(10):9651-9600.

［5］THEODORIDIS S，KOUTROUMBAS K.Pattern recognition［M］.4th ed.Beijing:China Machine Press，2009.

［6］PERES R T，PEDREIRA C E.A new local–global approach for classification［J］.Neural Networks，2010，23(7):887-891.

［7］BLACHNIK M，DUCH W.LVQ algorithm with instance weighting for generation of prototype-based rules［J］.Neural Networks，2011，24(8):824-830.

［8］TANG K，LIN M，MINKU F L，et al.Selective negative correlation learning approach to incremental learning［J］.Neurocomputing，2009，72(13-15):2796-2805.

［9］DEBNATH K K，AHMED S U，SHAHJAHAN M.A paper currency recognition system using negatively correlated neural network ensemble［J］.Journal of Multimedia，2010，5(6):560-567.