APP下载

支持向量机与BP网络在火灾图像探测上的比较

2011-08-18何世钊杨宣访陈晓娟

智能系统学报 2011年4期
关键词:训练样本火焰向量

何世钊,杨宣访,陈晓娟

(海军工程大学电气与信息工程学院,湖北武汉 430033)

支持向量机与BP网络在火灾图像探测上的比较

何世钊,杨宣访,陈晓娟

(海军工程大学电气与信息工程学院,湖北武汉 430033)

针对BP神经网络和支持向量机在火灾探测上存在的理论差别,分别构建了基于此2种方法的火灾图像探测方法.2种方法均依据火焰颜色分布规律实现了目标区域的分离,并将目标区域的形状特征及变化值作为判据.通过对火灾实验样本的训练及识别,2种方法的探测表现得到了比较与分析.实验结果表明基于支持向量机的火灾探测方法具有快速收敛特性及所需较少训练样本的优点.同时,BP神经网络对测试集较少的错判反映出其良好的非线性映射能力,适合求解内部机制复杂的问题.

火灾探测;形状特征;支持向量机;BP神经网络

图像型火灾探测是一种通过分析火灾视频图像,依据图像所含纹理特征、颜色特征、火焰形状等信息给出判断结果的火灾探测方法.该方法因视频设备不易受探测空间的气流、温度、水滴、灰尘、静电以及其他干扰因素影响,可以有效实现复杂环境下的火灾探测[1].BP神经网络是一种将误差逆向传播训练的多层前馈网络,由于不同层次的神经元依权值相互联通,使得这种网络具有很强的非线性映射能力.基于BP神经网络的火灾图像探测方法克服了传统火灾探测方法判据单一、智能化程度低的缺点,实现了较高的判断准确率[2].但是算法也存在学习速度慢及可能因陷入局部极值导致训练失败等不足.支持向量机收敛速度快且基于结构风险最小化原则,然而算法的边缘惩罚参数C、非敏感参数ε以及核参数互相耦合影响,难以确定[3].针对这些特点,构造了2种不同的火灾图像探测方法,经火灾实验比较了它们的火灾探测性能.

1 火灾视频图像处理

火灾图像探测首先需要对摄取的火灾图像进行数字处理,这包括图像的目标区域分离以及火灾特征信息的提取.火灾是一种失去人为控制的燃烧过程,也是动态发展的过程.不同帧的火灾图像所蕴涵的特征信息也会不同,其中火焰形状最能反映这些变化.根据这一特性,采用了火焰形状特征及形状的变化值作为火灾判据.火焰形状特征的提取可以用简单算法来实现,计算量也很小,这十分有利于提高火灾图像处理程序的运行速度.

1.1 基于RGB颜色分布规律的目标区域分割

RGB颜色模型是由反映颜色亮度级的R、G、B 3值相互叠加混色的一种常用的色彩模型.其中R(red)代表红基色,G(green)代表绿基色,B(blue)代表蓝基色.火灾发生早期,火焰的颜色一般显红黄色,随着温度的逐渐上升,火焰的颜色越来越浅,甚至呈白色.这种特点表现为R≥G,G≥B及R>RT的颜色分布[4].RT为红基色的一个阈值.图像处理程序对图像上每个像素进行分析时,满足火焰颜色分布的点设成白点,不满足的点设为黑点,实现二值化.经多次实验得出,当RT取160时,火焰分离效果最好.图1为二值化后的一幅火灾图像,光亮区域为目标区域.光亮区域可能是由火灾生成的,也可能是由干扰源生成的,需要进一步排除干扰,判别火灾.

图1 二值化火灾图像Fig.1 Binary fire image

1.2 火焰的形状特征

火灾图像的纹理特征、形状特征及颜色特征常用作判据识别火灾.然而,纹理特征及颜色特征的提取需要对原始图像上所有像素点进行数字处理,计算量较大.火焰的形状特征则是在图像经过二值化后,仅仅需要通过目标区域内或边缘的像素的简单几何求解可得,计算量小.火焰的形状特征大体包括火焰的面积、周长、圆形度、重心.火焰面积等效于目标区域内所有像素个数,火焰周长则等效于目标区域边缘所有像素个数,而圆形度与位移分别由式(1)、(2)求解,体现火灾动态特性的火焰形状特征变化值则是由当前帧的形状特征与前一帧求差取绝对值而得.

圆形度e是反映区域形状复杂程度的一个特征量.计算公式为

式中:S为区域面积,L为区域周长.

位移d是前一帧重心与当前帧重心的距离,反映火焰位置的变动量.若当前帧重心为(x0,y0),前一帧重心(x1,y1),则当前帧位移:

2 BP神经网络算法

BP神经网络[5]是一种单向传播的多层前向反馈式神经网络.它具有很好的非线性映射能力,可以实现M维欧氏空间到N维欧氏空间的任意映射.BP网络的学习过程包括2个阶段:工作信号正向传播与误差信号反向传播.前一阶段是从第1层输入学习样本,通过已知的网络结构和前一次迭代的阈值和权值,向后计算各神经元的输出.后一阶段则是向前计算权值和阈值对总误差的影响,据此调整网络权值(wij,Tli)和阈值(θ),使误差(E)沿梯度下降.文中的BP网络有3层节点,分别为火灾判据的输入层节点xj、隐层节点yi和给出判别结果的输出层节点Ql.

在当前输入层节点与隐层节点间的网络权值为wij,隐层节点与输出层节点间的网络权值为Tli,若给出一火灾样本(xj,tl),tl代表图像的类型,火灾图像为1,干扰图像为0,则BP模型的计算公式为

式中:neti= ∑jwijxj- θi,yi是隐层节点输出.

式中:Ol为输出层节点输出.

式中:E为输出层节点的误差.

3 支持向量机

支持向量机[6]是在传统统计学基础上发展起来的一种具有坚实基础的机器学习方法,是目前针对小样本统计估计和预测学习的最佳理论.可以有效解决如人脸识别等模式识别问题[7].

支持向量机通过训练样本学习,在特征空间中构造出最优超平面f(x)=sgn(wx-b).该超平面与不同类样本之间的距离2/‖w‖最大,如图2所示,从而使支持向量机获得最大泛化能力.

图2 支持向量机分类超平面Fig.2 Hyperplane classifier of the SVM

线性不可分情况下需引入惩罚因子C,距离最大化问题就转化为如下的二次规划问题:

式(6)满足yi(wTxi-b)+εi-1≥0 且 ξi≥0.xi∈Rn为输入到支持向量机的训练向量,yi∈{-1,1}为训练样本xi所属类别.通过引入拉格朗日算子,消去w、b、C、ξ 等变量,得出

式(7)满足式(8)条件:

4 火灾实验

本文选用普通CCD摄像头,并通过视频采集卡及其附带的SDK软件开发包连续采集帧图像.火灾探测程序的图像处理部分由VC++编写完成,主要完成火灾图像的目标分割及之后对火焰形状特征的提取.BP神经网络由Matlab编写实现,SVM算法则由VC++代码实现.2种方法分别对图像处理程序给出的数据进行分析,判别火灾.

实验收集了包括纸张火、棉絮火、木材火、汽油火、酒精火和柴油火以及蜡烛、台灯、日光灯干扰图像共1 046幅.图像处理程序提取了每幅图像的特征值及特征值的变化值.这包括了火焰的面积、周长、圆形度、面积差、周长差、圆形度差、重心以及位移.

通过反复实验对比,选用火焰的面积、周长、面积差、周长差、圆形度差、位移作为火灾判据,可以取得较好的训练效果.从而省去了冗余的判据如圆形度、重心,使得程序运算量减少,提高了反应速度.确定判据后,取各幅图像的如上6个特征及图像所属类别构成一个样本,如表1所示.对于图像所属的类型,用1来表示火灾图像样本,用-1或0表示来表示干扰源图像样本(BP网络的干扰源样本用0表示,SVM的干扰源样本则用-1表示).表1为火灾实验中的部分样本.

表1 部分火灾实验数据Table 1 Part of fire experiment data

4.1 SVM的训练与测试

从获取的实验样本中,选取156个样本作为SVM的训练集.利用样本的面积、周长、面积差、周长差、圆形度差、位移及样本所属类型训练SVM.SVM的学习过程依赖于核函数,但是一个具体问题选择何种核函数最优至今未有明确的原则与理论指导.经过实验反复挑选,最终选择高斯径向核函数(RBF),惩罚因子C为0.05,误差为0.001,σ=1.然后利用 SMO训练算法[8-9]求解使式(7)取最大值时的各参数值.RBF核函数如式(9)所示.

在多次训练过程中,发现训练样本的选择和排序要求很严格.样本需要包含各类型火源和干扰源,并且不同类型的样本的训练顺序要相互交错.否则,训练误差相当大,从而导致训练失败.

依据以上要求对SVM进行训练后,再将火灾实验的全部样本共1 046个送入算法中进行识别.经统计,有60个样本发生错判,全部属于干扰样本误判为火灾样本,BP网络与SVM的判别结果对比如表2 所示.

表2 BP网络与SVM的判别结果对比Table 2 Performance comparisons between the BP network and SVM

4.2 BP神经网络的训练与测试

由于本文选用了火灾图像的6个判据,因而采用如图3所示结构的BP神经网络.输入层有6个节点,分别代表火灾图像的面积(S)、周长(L)、火焰圆形度(e)、面积差(△S)、周长差(△L)、位移(d)的输入;输出层则有1个节点,输出判别结果,中间层参考n1=+a原则采用8个隐层节点,n为输入层节点数,m为输出层节点数,a为[1,10]之间的常数.针对普通训练函数训练速度很慢的不足,采用减少内存的LM算法[10]训练函数.

图3 BP神经网络模型Fig.3 Model of the BP network

图4 BP神经网络训练曲线Fig.4 Training curve of the BP network

实验时,表1所示的样本不能直接输入到BP网络中进行训练与测试,需要进行归一化.归一化公式为

式中:k'为k的归一化取值,kmax和kmin分别为样本中的最大值和最小值.

从实验样本中选取480个对BP神经网络进行训练,图4为1~260步的训练误差曲线.横轴为训练步数,纵轴为训练误差,误差曲线下方水平线为目标误差线.经过80 s后,BP网络完成训练.再将全部实验样本1 046个输入算法中,共发生19起误判,13起漏判.

4.3 实验结果与比较

表2为2种方法的训练与测试结果.从表中可以看出,SVM的训练样本数量较少且所用训练时间非常短,训练几乎在瞬间完成.然而BP神经网络在480个样本的训练下,需要耗时80 s才能完成训练,而且训练样本中有20个发生了判断错误.从训练的效果看,SVM在样本个数的要求及训练速度上有很大的优势,但是SVM的训练样本需要进行严格的挑选和排序.经实验发现,火灾样本与非火灾样本相互交错的训练顺序,可以使SVM获得较好训练效果.BP神经网络虽然也需要调整2种样本顺序,但是远不如SVM严格.BP神经网络的480个训练样本中发生20起判据错误,而SVM却全部判据正确.经分析,BP发生多起错判的可能原因在于训练样本多,其中存在的矛盾样本造成一些误判.

依据上表格,经过训练的2种方法再对测试集中1 046个样本判断时,BP网络的判别准确率达到96.94%,而SVM只有94.26%的判别准确率.但是BP网络却发生13起漏判,高漏判率会引起重大损失,应当极力避免.综上所述:SVM优点在于训练速度快,易收敛,但是训练样本选择与排序比较复杂,虽然BP神经网络训练耗时多,但是对测试集的判断效果较好,判断准确率比SVM略高.

5 结束语

由以上实验结果及分析可知,BP神经网络与SVM虽然原理各不相同,但是当与图像处理技术相结合,并利用火焰形状特征及其变化特性作为判据,都可以较好地探测明火火灾.同时,从实验结果也得出了2种方法在火灾图像探测的性能差别.比如SVM训练时收敛快,所需训练样本少,但是训练前训练样本的选择和排序要求非常严格.相对地,BP神经网络算法收敛慢,所需训练样本多,训练样本的选择和排序要求却不如SVM严格.这种差别体现了SVM理论上快速收敛特性,符合预期.然而,基于结构误差最小化原则的SVM原理上具有更佳的判断准确性,但是实际的判别准确率却不如BP网络,此处需继续研究.总之,以上差别包含了2种方法的各自优缺点,为以后火灾探测的智能方法选择提供一个依据.

[1]王振华,王慧琴,王燕妮,等.基于视频图像的火灾探测方法[J].世界科技研究与发展,2008,30(2):161-164.

WANG Zhenhua,WANG Huiqin,WANG Yanni,et al.Fire detection in video[J].World Sci-Tech R&D,2008,30(2):161-164.

[2]徐小军,郑健,郭尚芬.火灾图像探测的神经网络方法研究[J].计算机工程与设计,2008,29(13):3416-3418.

XU Xiaojun,ZHEN Jian,GUO Shangfen.Study on neural network method of fire image detection[J].Computer Engineering and Design,2008,29(13):3416-3418.

[3]朱世增,党选举.基于相关向量机的非线性动态系统辨识[J].计算机仿真,2008,25(6):103-107.

ZHU Shizeng,DANG Xuanju.Nonlinear dynamic system identification based on relevance vector machine[J].Computer Simulation,2008,25(6):103-107.

[4]CHEN T H,WU P H,CHIOU Y C.An early fire-detection method based on image processing[C]//International Conference on Image Processing.[S.l.],2004:1707-1710.

[5]刘叔军,盖晓华,樊京,等.Matlab 7.0控制系统应用与实例[M].北京:机械工业出版社,2005:9.

[6]VAPNIKK V N.The nature of statistical learning theory[M].New York:Springer Verlag,1995:101-105.

[7]孙正兴,徐文晖.基于局部SVM分类器的表情识别方法[J].智能系统学报,2008,3(5):455-466.

SUN Zhengxing,XU Wenhui.Facial expression recognition based on local SVM classifiers[J].CAAI Transactions on Intelligent Systems,2008,3(5):455-466.

[8]JOHN C P.Training of support vector machines using sequential minimal optimization[C]//Advances in Kernel Method-Support Vector Learning.Cambridge:MIT Press,1999:101-105.

[9]KEETHI S S,SHEVADE S K,BHATTACHARYYA C,et al.Improvements to Platt's SMO algorithm for SVM classifier design[J].Neural Computation,2001,13(3):637-649.

[10]黄豪彩,黄宜坚,杨冠鲁.基于LM算法的神经网络系统辨识[J].组合机床与自动化加工技术,2003,1(2):6-11.

HUANG Haocai,HUANG Yijian,YANG Guanlu.Neural network system identification based on Levenberg-Marquardt algorithm[J].Modular Machine Tool& Automatic Manufacturing Technique,2003,1(2):6-11.

何世钊,男,1986年生,硕士研究生,主要研究方向为检测技术与自动化装置.

杨宣访,男,1968年生,副教授,硕士生导师.主要研究方向为自动测试、电路故障诊断、电力系统诊断.先后主持、参与军队、海军等多项重点科研和工程项目.获得军队科技进步一等奖1项,二等奖2项,三等奖4项.发表学术论文20余篇,参与编写教材1部.

陈晓娟,女,1981年生,博士研究生,主要研究方向为数字信号处理.

Comparisons between a support vector machine and BP neural network for video image fire detection

HE Shizhao,YANG Xuanfang,CHEN Xiaojuan
(College of Electrical and Information Engineering,Naval University of Engineering,Wuhan 430033,China)

According to the theoretical differences between a back propagation(BP)network and support vector machine(SVM)in relation to fire detection,two kinds of video image fire detection methods based on a BP network and SVM,respectively,were constructed.Judging from color distribution of the flames,the objective regions were separated in both methods,and their shape features along with the changes in shape features were extracted as criteria.The performance of each method was compared and analyzed after conducting many experiments.The experimental results show that the SVM had a high convergence rate and needed fewer training samples.At the same time,fewer misjudgments of testing samples confirmed that the BP network was more suitable for solving complex internal mechanism problems due to its good mapping capability.

fire detection;shape features;SVM;BP neural network

TP18

A

1673-4785(2011)04-0339-05

10.3969/j.issn.1673-4785.2011.04.010

2010-06-19.

国家自然科学基金资助项目(50721063).

何世钊.E-mail:heshizhao_chn@126.com.

猜你喜欢

训练样本火焰向量
向量的分解
最亮的火焰
聚焦“向量与三角”创新题
缤纷的火焰
人工智能
漂在水上的火焰
吹不灭的火焰
基于小波神经网络的网络流量预测研究
宽带光谱成像系统最优训练样本选择方法研究
向量垂直在解析几何中的应用