基于脉冲神经网络的聚类算法研究

2016-09-13张振敏

重庆理工大学学报(自然科学) 2016年8期

关键词：纹理灰度神经元

张振敏

(福建农林大学金山学院，福州　350002)

基于脉冲神经网络的聚类算法研究

张振敏

(福建农林大学金山学院，福州350002)

结合脉冲神经元网络的生物机制与改进的灰度共生矩阵算法，尝试模拟大脑提取关键信息的能力，并且使用这些提取到的信息实现纹理图像的分割。实验结果表明：这种利用灰度共生矩阵算法训练的脉冲神经元网络可以有效地提取图像的共生特征，并且可获得较好的纹理图像分割效果。

灰度共生矩阵；脉冲神经元网络；特征提取；纹理聚类

clustering

纹理是区分一幅图像中的物体或区域的重要指标[1]。纹理是指诸如粗糙、光滑或凹凸不平等触觉信息[2]。纹理分析在纹理分类领域有着重要的地位，它被定义为利用数学进程提取纹理图像中特征信息的算法，基于这种方法可以获得很多空间结构信息。最近，很多纹理分析领域的重要研究成果相继出现[3-5]。

因为图像的随机性和在准周期性及方向性方面的差异导致纹理分析是一个非常复杂的过程[6-7]。在很多情况下，统计学方法被用于纹理分析。这些方法提供了一幅图像灰度的空间分布统计信息。GLCM算法在1970年由Haralick提出，是对一幅图像中像素亮度值(灰度值)的不同组合频次的表格统计[8]。这种方法逐渐成为了一种经典的统计学方法，同时也成为图像纹理分析的支撑性算法[1]。

近年来，神经元网络快速发展并且实现了在多方面的应用。首先，在生物机制方面，大量科研人员通过研究推进了相关理论，例如：Kuebler等[9]提出了混沌神经元网络激励信号的差异性；Xue等[10]研究了激励型突触和抑制型突触的关系；Sadtler等[11]研究了一个现有的神经元网络约束模型是否可以表示神经元子集的行为以及这种行为的生物原理是什么。另外，在实际应用方面，关于神经元网络也有着广泛的研究，例如：Kosik[12]将神经元网络应用于阿兹海默症的相关研究中；Beck等[13]将神经元网络应用于生物监控；Nazemi等[14]利用神经元网络方法解决了支持向量机的分类问题。

Hodgkin-Huxley脉冲神经元模型由Hodgkin和Huxley在1952年提出，可以很好地仿真生物神经元的行为[15]。但是由于该模型计算量庞大，如果应用在大型网络模型中会进一步增加计算的复杂度，所以通常研究人员针对脉冲神经元网络(spiking neuron network，SNN)中的单个神经元使用简化的基于电导率的累积放电模型。首先，这个简化后的模型结构非常接近于Hodgkin-Huxley模型结构；其次，在运算中计算量会大幅度下降。众所周知，在人类视觉系统中，从初级视觉皮层中的细胞到视网膜和外侧膝状体核中的简单细胞都有着不同的感受野。在视网膜中，信号传输的起始点是两极细胞，最终信号会传输至神经节细胞[16-17]。

本文提出了一种利用改进的GLCM算法训练的脉冲神经元网络SNN-GLCM。由于待测试的纹理图像尺寸较大，以及GLCM应用于神经元网络时对窗口大小有限制，最终GLCM矩阵中个别单元由于过量累加而使得其值过大，同时这些单元相应的神经网络中的神经元激发率也会过高。在这种情况下，传统的GLCM算法必须被改进以适应该网络训练，同时避免以上问题出现。本文提出了一种新的机制来减少神经元网络中神经元的激发率，同时使得训练之后的激发率与灵长类大脑中的神经元激发率非常类似。这种方法也使得SNN模型在应用过程中适当忽略一些次要信息，使后续的特征提取和纹理分析着重于关键信息，另外计算效率也得到了大幅度提高。本文提出的网络将被用于图像纹理的分割。

1　灰度共生矩阵

灰度共生矩阵GLCMP定义为一个大小为M×N的图像I在给定偏置(Δx，Δy)时的灰度共生值的分布状态统计结果。当计算灰度图像的GLCM矩阵时，首先应该定义窗口宽度、图像的灰度级、偏置以及方向。一般窗口宽度可以设置为3×3，5×5或7×7，也可以根据实际的图片大小进行设置。如果图像的灰度级为L，那么该图像的GLCM矩阵的维度将会是L×L。同样，灰度级也可以根据实际情况和计算需求进行重新量化或调整。通常更大的窗口需要配备更大的偏置值。另外，方向性有4种不同的选择方式：0°，45°，90°和135°。从数学的角度上来说，图像I的GLCMP定义为：

(1)

其中：1≤i≤L； 1≤j≤L。

GLCM的窗口宽度、偏置和方向示意图如图1所示。

图1　GLCM的窗口宽度、偏置和方向示意图

在某些情况下，纹理计算时需要将GLCM的形式转化为归一化对称矩阵，可参考文献[4,6,18]。常用的GLCMP纹理测量参数定义如下：

角二阶距(ASM)

(2)

能量(ENG)

(3)

对比度(CON)

(4)

差异性(DIS)

(5)

同质性(HOM)

(6)

最大概率(MAX)

MAX=maxPi,j

(7)

熵(ENT)(假设0*ln(0)=0)

(8)

均值(Mean)

(9)

方差(Variance)

(10)

2　构建基于GLCM算法的脉冲神经元模型

本文基于GLCM算法，并结合视觉系统的生物机制，构建了一个脉冲神经元网络，如图2所示。构建该网络的目标是最终通过网络获得关于图像信号的纹理特征信息，基于这些信息最终实现图像分类。

图2　关键特征提取神经网络SNN-GLCM

在图2的脉冲神经元网络模型中共有3个神经元阵列，这些阵列会由突触电流引发脉冲信号。输入神经元层的突触电流来自神经元的光接收器，每一个光接收器都将图像的像素亮度或灰度信息转化为突触电流[19-20]。该阵列的维度是M×N。阵列中的每一个神经元都被认为是一个光接收器，表述为IN(m,n)，m=1，…，M；n=1，…，N。假设fm,n(t)函数表示图像像素的灰度值，光接收器将这些灰度值转化输出的突触电流用Im,n(t) 表示，则该累积放电模型的Im,n(t)可用式(12)表示。

(12)

其中：α是转化常数；τ是时间常数，表示突触电流的衰减速率。神经元膜电压vm,n(t)可用以下方程表示：

(13)

其中：gl是膜电导；El是反转电势；c表示膜电容；I0是背景噪声。

如果膜电压超过了门限值vth，那么神经元就发出一个脉冲，令Sm,n(t)表示这个神经元所产生的脉冲训练：

(14)

该网络模型的底层由横向神经元阵列和纵向神经元阵列组成。如果图像的灰度级为L，那么横向和纵向神经元阵列中的神经元可以分别表示为HOUT(p,q)和VOUT(p,q)，其中：p=1,…,L；q=1,…,L。这2个神经元阵列通过激励型突触进行脉冲训练。假设突触强度为WHOUT(p,q)和WVOUT(p,q)，根据对称性GLCM算法，突触强度分布可以表示为：

其中：1≤p≤L； 1≤q≤L； 1≤m≤M； 1≤n≤N。

突触电流IHOUT(p,q)(t)和IVOUT(p,q)(t)可以表示为：

(18)

(19)

神经元膜电压可以表示为：

(20)

(21)

在2个输出层中，神经元的脉冲训练用SOUT(t)表示：

(22)

最终将获得2个神经元阵列HOUT和VOUT，它们的激发率可用以下函数表示：

(23)

通过打印rOUT(m,n)(t)可以获得激发率谱图，它们对应于对称横向GLCM矩阵和纵向GLCM矩阵。

3　基于SNN-GLCM网络提取图像特征并分类

在实验中，首先基于GLCM算法对Lena图像进行测试。在图像处理领域，Lena图像作为基准图像被广泛使用。由于原始图像的灰度级过高，所以首先将图像量化为16级灰度图以避免GLCM矩阵维度过大。图3(a)是原始图像，图3(b)是16级量化图像。

图3　Lena原始图像和16级量化图像

针对上述16级量化图像，设置窗口宽度为5×5，像素偏置为1，并使用归一化对称横向GLCM 算法提取到图像的部分纹理信息。图4(a)～(f)是最终提取到的GLCM最大二阶矩、熵、对比度、平均值、方差和相关性图像。

图4　GLCM纹理特征

在使用窗口GLCM算法时会产生边缘问题。由于窗口内所有元素必须全部位于灰度图像内，致使每一个窗口的中心像素无法位于图像的4个边带。如果窗口的维度是n×n，则沿着图像的边缘有(n-1)/2像素带宽未被处理。针对这种情况，常见的处理方法是在这些区域内填入最相邻的纹理特征值。

本文中将利用Matlab软件对所构建的脉冲神经元网络SNN-GLCM进行仿真测试。在实验中根据Euler方法，步长设置为0.1 ms。根据生物神经元特性将参数设置如下：vth=-60 mV，El=-70 mV，gl=1.0 μs/mm2，c=8 nF/mm2，τ=16 ms，T=400 ms，α=0.02，β=4.3，I0=7 μA。

在该实验中，首先从标准纹理库Brodatz album 中选取了一些待测试的纹理图像[21]。每个测试样本的大小为256×256。之后将这些样本依次输入SNN-GLCM网络。网络通过运算输出每个样本的横向和纵向GLCM矩阵，并计算出各个样本的二阶矩、对比度、熵、平均值、方差和相关系数。这些计算结果将被看作每个测试图像的特征值。基于这些特征值和k-means算法，最终实现了纹理分割。实验结果如图5所示。

从结果可以看出：本文中所提出的基于SNN-GLCM网络的图像分割算法可以很好地实现图像分割，同时可以精确定位图像边界。

图5　基于SNN-GLCM网络针对5幅图像的

4　结束语

本文提出了一个结合生物机制和GLCM算法的脉冲神经元网络来提取视觉图像的特征信息。基于获得的特征信息，最终很好地实现了纹理图像的分割。

[1]HARALICK R M,SHANMUGAM K,DINSTEIN I H.Textural features for image classification[J].IEEE Trans Syst Man Cybern,1973,3(6):610-621.

[2]TAMURA H,MORI S,YAMAWAKI T.Textural features corresponding to visual perception[J].IEEE Trans Syst Man Cybern,1978,8(6):460-473.

[3]BERGOUNIOUX M.Second-order variational models for image texture analysis[J].Advances in Imaging and Electron Physics,2014,181:35-124.

[4]BENCO M,HUDEC R,KAMENCAY P,et al.An advanced approach to extraction of colour texture features based on GLCM[J].International Journal of Advanced Robotic Systems,2014,11(1):129-163.

[5]MIRZAPOUR F,GHASSEMIAN H.Using GLCM and Gabor filters for classification of PAN images[C]// 21st Iranian Conference on Electrical Engineering.Iran:Electrical Engineering,2013:1-6.

[6]ZHANG J,LI G L,HE S W.Texture-based image retrieval by edge detection matching GLCM[J].IEEE Computer Soc,2008,22:782-786.

[7]王卫星,杨记明.一种基于图像处理的岩石裂隙粗糙度几何信息算法[J].重庆邮电大学学报(自然科学版),2010,22(4):454-457.

[8]BENCO M,HUDEC R.Novel method for color textures features extraction based on GLCM[J].Radioengineering,2007,16(4):64-67.

[9]KUEBLER E S,BONNEMA E,CORRISTON J,et al.Stimulus discrimination in networks of spiking neurons[C]//2013 International Joint Conference on Neural Networks.Dallas:Ablex Pub.Corp.,2013:1-8.

[10]XUE M S,ATALLAH B V,SCANZIANI M.Equalizing excitation-inhibition ratios across visual cortical neurons[J].Nature,2014,511(7511):596-600.

[11]SADTLER P T,QUICK K M,GOLUB M D,et al.Neural constraints on learning[J].Nature,2014,512(7515):423-426.

[12]KOSIK K S.Study neuron networks to tackle Alzheimer’s[J].Nature,2013,503(7474):31-32.

[13]BECK M W,WILSON B N,VONDRACEK B,et al.Application of neural networks to quantify the utility of indices of biotic integrity for biological monitoring[J].Ecological Indicators,2014,45(5):195-208.

[14]NAZEMI A,DEHGAN M.A neural network method for solving support vector classification problems[J].Neurocomputing,2015,152:369-376.

[15]HODGKIN A L,HUXLEY A F.The dual effect of membrane potential on sodium conductance in the giant axon of Loligo[J].The Journal of physiology,1952,116(4):497-506.

[16]MASLAND R H.The fundamental plan of the retina[J].Nature Neuroscience,2001,4(9):877-886.

[17]SCHULTZ S K.Principles of neural science[J].American Journal of Psychiatry,2001,158(4):662.

[18]SAROJA G A S,SULOCHANA C H.Texture analysis of non-uniform images using GLCM[C]//2013 IEEE Conference on Information and Communication Technologies.Gulin:Information and Communication Technologies,2013:1319-1322.

[19]ZHANG Z M,WU Q X,ZHUO Z Q,et al.Fast wavelet transform based on spiking neural network for visual images[J].Communications in Computer and Information Science,2013,375:7-12.

[20]ZHANG Z M,WU Q X,ZHUO Z Q,et al.Wavelet transform and texture recognition based on spiking neural network for visual images[J].Neurocomputing,2015,151(3):985-995.

[21]BRODATZ P.Texture:A Photographic Album for Artists & Designers[M].New York:Dover Publications,1966.

(责任编辑杨文青)

Clustering Algorithm Based on Spiking Neural Network

ZHANG Zhen-min

(Jinshan College of Fujian Agriculture and Forestry University, Fuzhou 350002, China)

Based on gray level co-occurrence matrix algorithm of biological mechanisms and improvement of the neural network of the pulse, we tried to simulate the brain’s ability to extract key information and used these to extract information of texture image segmentation. The experimental results show that the use of pulse the graylevel co-occurrence matrix algorithm for training neural networks can effectively extract the image of the symbiotic characteristics of texture image segmentation and gain good results.

grey-level co-occurrence matrix; spiking neuron network; feature extraction; texture

2016-01-15

福建省中青年教师教育科研项目(JB13286)

张振敏(1982—),女,湖南长沙人,博士,讲师,主要从事神经网络和模式识别方面的研究，E-mail:min1011@126.com。

format：ZHANG Zhen-min.Clustering Algorithm Based on Spiking Neural Network[J].Journal of Chongqing University of Technology(Natural Science)，2016(8):99-104.

10.3969/j.issn.1674-8425(z).2016.08.016

TP183

1674-8425(2016)08-0099-06

引用格式：张振敏.基于脉冲神经网络的聚类算法研究[J].重庆理工大学学报(自然科学)，2016(8):99-104.