基于GoogLeNet的色织物花型分类

张宏伟，张凌婕，李鹏飞，宋执环

(1.西安工程大学，陕西 西安 710048；2.浙江大学工业控制技术国家重点实验室，浙江 杭州 310027)

基于GoogLeNet的色织物花型分类

张宏伟1,2，张凌婕1，*，李鹏飞1，宋执环2

(1.西安工程大学，陕西 西安 710048；2.浙江大学工业控制技术国家重点实验室，浙江 杭州 310027)

针对色织物花型人工视觉分类效率低的问题，提出了一种基于深度卷积神经网络(CNN)的色织物花型图像识别分类方法。构建了18种类别的色织物花型图像样本数据库，建立了基于GoogLeNet的色织物花型分类深度卷积神经网络，并通过实验分析选择最优的训练迭代期与学习率。结果表明利用深度神经网络分类识别色织物花型是可行、有效的。

深度卷积网络；色织物；花型分类

随着色织生产过程图像采集和存储技术的发展，色织物花型图像的分类和管理越来越受到纺织企业的重视。传统的色织物花型分类主要依赖于人工目测，由技术工人视觉检测并做不同的标记；但是这种方法受到人的心理、生理、熟练程度和疲劳程度等因素的影响，效率较低，难以适应纺织工业转型升级的需求。对此，一些聚类算法被相应提出运用于分类中，如人工神经网络、模糊C-means算法、灰度共生矩阵法和多分辨率及灰度共生矩阵法等[1-2]。目前灰度共生矩阵算法在坯布分类中应用较多，但它局限于只能提取单一尺度下的特征，在识别花型复杂的色织物时效果较差。近几年深度学习技术被广泛用于大规模互联网图像的分类，效果较好，对具有复杂图像特性的色织物花型自动分类具有良好的借鉴意义。

因此，本文针对色织物花型人工视觉分类效率低的问题，提出了一种基于深度神经网络的色织物花型分类模型[3]。利用广东溢达纺织有限公司提供的18种花型色织物裁片样本，首先建立规模为3 549幅的色织物花型图像样本库，然后构建基于GoogLeNet的色织物花型分类卷积神经网络模型，最后给出模型评价准则，并通过实验对比确定模型的训练迭代期和学习率。

1 色织物花型样本和深度学习系统

1.1 色织物花型样本库的构建

色织物图像样本库由广东溢达纺织提供的18种色织物裁片采集得到，图像规模为3 549幅，其中75%用于训练，15%用于校验，10%用于测试。为便于建模，每幅色织物花型图像的分辨率设置为256×256×3。如图1所示，这18种色织物花型极为复杂，难以用传统人工构造图像特征的方法进行区分，更难以使用浅层学习模型的方法进行分类。

图1 部分色织物花型样本图

1.2 色织物花型深度学习系统搭建

色织物花型分类深度卷积网络模型的训练涉及参数较多，计算量较大，常规的CPU计算平台难以胜任。为了提高深度学习模型的建模效率，采用了容天DevtopSCW4750，硬件配置上它采用一个CPUInteli7-i7-5930，四个NVIDIAGeForceTitanX12G，八个8G内存。软件架构上操作系统为Ubuntu14.04，深度神经网络参数配置平台为Digits。

2 基于GoogLeNet卷积神经网络模型

2.1 卷积神经网络模型

如图2所示，从传统的图像分类视角看，首先要对原始图像进行预处理，然后人为设计图像特征并进行特征提取。对于花型复杂的色织物来说，只能依据经验选择和设计图像特征，人为因素对特征的有效性影响很大。针对不同的样本库需要重新设计图像特征，导致传统特征模型的通用性不强，使用性能差[4]。

图2 传统色织物分类模型

如图3所示，针对传统神经网络存在的问题，在图像分类问题背景下提出了CNN卷积神经网络模型[5-6]。

图3 卷积生成网络(CNN)色织物分类模型

卷积神经网络由若干卷积层，池化层，全连接层构成。首先在输入层输入图片，接着第一个卷基层对这幅图像进行了卷积操作，得到三个特征映射。卷基层包含了3个核，也就是三套参数。例如有一个5×5大小的图像，使用一个3×3的卷积核进行卷积，得到一个3×3的特征映射。卷积的公式为：

(1)

(2)

(3)式中，w1是卷积前图像的宽度；w2是卷积后特征映射的宽度；f是卷积核的宽度p的补零数量。图像大小、步幅和卷积后的特征映射大小是有关系的，卷积过后池化层对特征映射做了下采样。CNN中最常用的池化方法是最大池化，如图4所示为最大池化的过程。

采样结束后得到了3个更小的特征映射，接着是第二卷积层，它有5个卷积核。每个卷积核把前面下采样之后的3个特征映射进行卷积，接着就是池化下采样。图3中所示的网络最后两层是全连接层，第一个全连接层的每个神经元和上一层的5个特征映射中的每个神经元相连，第二个全连接层的每个神经元则和第一个全连接层的每个神经元相连，这样得到了整个网络的输出。目前很多文献对CNN模型进行了改进[7-8]，最常使用的CNN网络结构分为Zeiler与Inception，其中典型的Zeiler类网络是AlexNet[9]，典型的Inception类网络是GoogLeNet[10]。

图4 最大池化

2.2GoogLeNet的卷积神经网络

在网络更宽更深的背景下，为了防止过拟合和计算量的增加，以及增加网络深度和宽度的同时减少参数，GoogLeNet在2014年ILSVRC比赛中被提出。它将Top5的错误率降低到6.67%，是一个22层的深度网络；一般的卷积层只是一味地增加卷积层的深度，而GoogLeNet在单层的卷积层上使用不同尺度的卷积核。GoogLeNet架构的核心是Inception模块，深度达到27层，Inception架构中存在着滤波器，滤波器组的输出合并在一起构成了下一层的输入。具体来说先使用1×1卷积量子来进行降维，再进行3×3，5×5的卷积操作，这样尺寸不同的卷积核就可以提取不同尺寸的信息，这种Inception模型既能大大提升卷积提取特征的能力，又不会使计算量提升很多，而GoogLeNet就是由这种模型逐步构建出来的。模型的特点是采用了模块化的结构、使用平均池化代替全连接层及增加了两个辅助softmax用于前向传导梯度，避免梯度消失。最为关键的是GoogLeNet来自Google团队并由其维护，其卷积网络的结构易于工程化实现，适合于色织物裁片花型的分类研究和后期的实用化推广。

3 实验结果与讨论

为了验证GoogLeNet深度卷积网络模型对色织物花型分类的有效性，首先对如图1所示的3 549幅色织花型裁片进行图像采集，并逐个进行人工标记，建立色织物花型分类深度学习样本集(每类花型图像样本规模大约200幅，每类随机挑选出75%用于训练，15%用于校验，10%用于测试)；然后建立基于GoogLeNet的色织物花型分类模型；最后通过实验对比，选择最优的训练迭代期参数与学习率参数。为了评价不同超参数条件下深度学习模型的优劣，选择分类准确率和建模时间作为评价基准。分类准确率由准确分类的待测色织物花型样本数目和待测色织物花型样本总数之比得出：

(4)

式中，n准和n总分别为正确分类的待测织物花型图像数和待分类织物花型图像总数。建模时间由1.2节所述的GPU学习工作站和Digits参数配置平台计算得到。本实验的目的是通过设置合适的训练迭代期和基础学习率，在较高的分类准确率和较低的建模时间中找到最佳的平衡点。

首先，建立基于GoogLeNet网络的织物花型分类模型，并通过实验对比不同训练迭代期下的分类准确率，选择合适的训练迭代期参数。模型基础学习率固定为0.01的步长，改变训练迭代期的次数，并且在每经过33.33%的迭代期时学习率逐步设定为0.001和0.000 1的步长，分别测试该模型在训练迭代期为30，50，70时的准确率和建模时间。然后模型迭代次数固定为50，分别设定模型的基础学习率为1，0.1，0.05，0.01，0.001的步长，分析对比该模型的分类准确率。

不同训练迭代期下色织物花型的识别准确率和建模时间如表1所示。GoogLeNet的分类准确率很高，并且随着训练迭代期逐渐增大稳定在100%左右。因为GoogLeNet是一个22层的深度网络，用更多的卷积、更深的层次和规模更大的训练集会得到较好的效果；所以在对本实验2 662幅色织物花型图像的建模中，分类准确率较高。GoogLeNet的建模时间随着迭代次数的增加逐渐增加。综合考量识别准确率和建模时间，训练迭代期选择为50次时，分类准确率和建模时间可以实现较好的折中，满足工程化的需求。

表1 不同训练迭代期下GoogLeNet

另外，在训练样本集规模为2 662幅色织物花型图像的条件下，GoogLeNet最快可以在4min以内训练完成，且分类准确率可以达到99%以上，证明了基于GoogLeNet的卷积神经网络模型对于色织物花型分类的建模实时性和准确性较好。

表1固定训练迭代期为50，分别设定基础学习率为1，0.1，0.05，0.01和0.001的步长，对应的GoogLeNet模型分类准确率和建模时间分别如表2所示。随着基础学习率的降低，准确率逐步上升；但是建模时间在0.01的步长时取得最小值。所以综合考量分类准确率和建模时间，基础学习率选为0.01的步长时，既能取得较高的分类准确率，又具有较好的建模实时性。

表2 不同学习率下GoogLeNet的分类准确率和建模时间

4 结论

为解决色织物花型人工视觉分类效率低和人工难以构造色织物花型分类特征的问题，首先构建了一个规模为3 549幅的色织物花型图像数据库，然后通过改变GoogLeNet的训练迭代次数和基础学习率参数，研究色织物花型分类模型的准确率和建模时间变化，选择出合适的训练迭代次数和基础学习率。其实验结果表明，基于GoogLeNet的色织物深度学习模型对于色织物花型分类问题是一种有效可行的解决方案，并且选择合适的训练迭代期和基础学习率对色织物分类准确性和建模时间有重要影响。

[1] 朱 昊.图像处理技术在织物花型结构识别中的应用[J].丝绸，2008，(1)：42-44.

[2] 任建峰，郭 雷，李 刚.多类支持向量机的自然图像分类[J].西北工业大学学报，2005，23(3)：295-298.

[3] 余 凯，贾 磊，陈雨强.深度学习的昨天、今天和明天[J].计算机研究与发展，2013，50(9)：1 799-1 804.

[4] 赵仲秋，季海峰，高 隽.基于稀疏编码多尺度空间潜在语义分析的图像分类[J].计算机学报，2014，377(6)：1 251-1 260.

[5] 谌 璐，贺兴时.改进的支持向量机算法在人脸识别上的应用[J].纺织高校基础科学学报，2015，(1)：108-115.

[6] 常 亮，邓小明，周明全，等.图像理解中的卷积神经网络[J].自动化学报，2016，42(9):1 300-1 312.

[7]ZEILERMD，FERGUSR.Visualizingandunderstandingconvolutionalnetworks[J].ComputerVision-ECCV, 2014，8 689:818-833.

[8] 常 亮，邓小明，周明全.图像理解中的卷积神经网络[J].自动化学报，2016，42(9)：1 300-1 312.

[9]KRIZHEVSKYA，SUTSKEVERI，HINTONGE.Imagenetclassificationwithdeepconvolutionalneuralnetworks[J].AdvancesinNeuralInformationProcessingSystems，2012，25(2)：1 097-1 105.

[10]SZEGEDYC，LIUW，JIAY，etal.Goingdeeperwithconvolutions[C].IEEEConferenceonComputerVisionandPatternRecognition，2015：1-9.

Pattern Classification of Yarn-Dyed Fabrics Based on GoogLeNet

ZHANG Hong-wei1, 2, ZHANG Ling-jie1,*, LI Peng-fei1, SONG Zhi-huan2

(1.Xi′an Polytechnic University, Xi′an 710048, China; 2.State Key Laboratory of Industrial Control Technology, Zhejiang University, Hangzhou 310027, China)

Aiming at the low efficiency problem of manual classification for the pattern of yarn-dyed fabric, pattern recognition and classification method for yarn-dyed fabrics based on deep convolution neural network (CNN) was proposed. 18 kinds of sample database of yarn-dyed fabric patterns were established. Deep convolution neural network of yarn-dyed fabric pattern classification models were developed based on GoogLeNet. Optimal training epoch periods and learning rates were selected through experimental analysis based on the model evaluation criterion. Results showed that it was feasible and effective to classify yarn-dyed fabric patterns by deep convolution neural networks.

deep convolution network; yarn-dyed fabric; pattern classification

2017-06-12；

2017-06-19

陕西省自然科学基金(2014JQ2-5029)；西安工程大学博士科研启动基金(BS1411)

张宏伟(1983-)，男，讲师，安徽淮北人，主要研究方向：机器学习、软测量，E-mail：zhanghongwei@zju.edu.cn。

*通信作者：张凌婕，E-mail：379530773@qq.cm。

TS

A

1673-0356(2017)07-0033-03