APP下载

卷积神经网络在煤岩图像识别中的应用研究

2019-07-13吕红杰

科技创新导报 2019年9期
关键词:特征提取神经网络

吕红杰

摘 要:为解决煤矿井下煤岩图像识别问题,本文研究了煤岩图像识别现状以及卷积神经网络在煤岩图像识别中的应用方式、存在问题和解决办法。通过对AlexNet网络进行迁移学习,将学习好的神经网络用于煤岩识别,并研究了不同网络对煤岩图像识别率、训练速度的影响。实验结果表明,本文方法能够取得较好的煤岩图像识别结果,为之后应用卷积神经网络解决煤岩图像识别问题提供了重要的参考价值。

关键词:煤岩识别 神经网络 特征提取 AlexNet

中图分类号:TP391.41;TP183 文献标识码:A 文章编号:1674-098X(2019)03(c)-0137-03

Abstract: In order to solve the problem of coal and rock image recognition in coal mine, this paper studies the current status of coal and rock image recognition, and the application methods, existing problems and solutions of convolutional neural network in coal and rock image recognition. Through the migration learning of the AlexNet network, a well-learned neural network is used for coal rock identification. The effects of different networks on the recognition rate and training speed of coal and rock images are studied. The experimental results show that the proposed method can obtain better image recognition results of coal and rock, and provides an important reference value for solving the problem of coal and rock image recognition by using convolutional neural network.

Key Words: Coal and rock recognition; Neural network; Feature extraction; AlexNet

煤炭是我国的主体能源。为促进煤炭行业向信息化、智能化的方向转变,实现煤炭资源的智能开采尤其重要。其中,煤岩自动识别是实现煤矿井下无人化开采的关键性技术之一。有效提高煤岩识别率对保证煤炭的高产出率和综采工作面的安全生产具有重要意义。

在煤岩识别的众多方法中,通过图像进行识别具有不受电磁干扰,稳定性强、适用范围广等优势。本文以此为依据,针对煤岩图像识别问题进行了深入研究。总结了目前煤岩图像识别发展现状,并在此基础上,研究了具有强大图像表征能力的卷积神经网络(Convolutional Neural Network,CNN)在煤岩图像识别方向的应用问题,以AlexNet[1]网络模型为基础,使用迁移学习方法,将小数据集的煤岩图像用于对AlexNet网络的参数微调,训练模型,达到提高煤岩图像识别率的目的,与手工提取图像特征方式相比,本文方法无需进行复杂的图像预处理过程,网络能够进行端到端学习,针对不同质量图像,基于卷积神经网络的识别方式鲁棒性更强,研究价值更大。

1 煤岩图像识别

目前,已有的煤岩图像识别方法主要有變换域法[2]、字典学习[3]、池化[4]等机器学习方式。这些方法中,通过手动提取图像纹理、灰度等特征,进行组合,并尝试各种图像特征与分类器之间的组合关系寻求最优解,耗费精力的同时并不能保证所提取的特征一定是最佳的。而利用卷积神经网络的方法,能够自动学习煤岩图像特征、构建分类器,通过迭代训练达到网络最佳识别效果。作为图像识别领域中的强大算法,目前却鲜有研究者将卷积神经网络应用到煤岩图像识别任务中,本文作为探讨,分析了卷积神经网络在煤岩图像识别中的方法应用,并进行了实验验证。

2 卷积神经网络

卷积神经网络是一种典型的神经网络,因其具有卷积结构而得名。卷积神经网络一般包含卷积层、池化层、全连接层以及输入输出层。网络层数越多,包含的参数越多,特征提取能力越强。卷积神经网络采用了稀疏连接及权值共享模式,减少网络参数,降低网络复杂度,加快训练速度。2012年的Image大赛中,AlexNet卷积神经网络以绝对的优势夺得了图像识别竞赛冠军,也因此掀起了卷积神经网络研究的热潮。如图1所示,是AlexNet网络模型图。其中包括五个卷积层和三个全连接层。AlexNet网络在每个卷积层中使用ReLU函数进行激活,改善了深度神经网络中的梯度弥散问题;网络中加入三个最大池化层;全连接层中使用Dropout方式随机忽略部分神经元,避免过拟合;同时训练过程使用GPU加速训练。

原始AlexNet网络模型在超过一百万张图像的ImageNet数据库上进行训练,能够对1000个常见物品、动物等进行分类,训练好的AlexNet网络具备强大的特征表示能力。在训练好的Alexnet网络上进行迁移学习[5],即通过在网络中输入新的样本数据,对网络参数进行微调,凭借AlexNet网络的强大自学习能力,达到对新的图像样本进行准确分类的效果,能够解决样本量不足、训练时间过长、易出现过拟合等问题。

3 实验及结果分析

本文采用在ImageNet数据库上训练好的AlexNet网络进行迁移学习,以达到煤岩图像的精确识别目的。

数据集:实验样本选取不同光照、不同角度、不同环境中的砂岩、页岩、烟煤和无烟煤图像各120幅,共480幅。为了防止因样本数量过少造成的网络训练过拟合问题,本文通过数据增广,将每幅煤岩图像均经过切割、旋转、平移、加噪等处理,得到新的样本图像,以增加实验样本数量。最终得到用于实验的煤岩图像数据集的数量为2400幅,每一类图像各600幅,图像大小统一设置为227×227×3,格式为.jpg。

随机选取70%煤样本图像和70%岩样本图像作为训练数据集,其余的图像作为测试数据集,即训练集样本容量为1680,测试集样本容量为720。

实验环境:MATLAB2018b,win10系统,在配置为Intel Core i5-2450 2.50 GHz CPU,8GB RAM的PC机下运行,实验中仅使用CPU进行运算。

为使用AlexNet网络进行煤岩图像识别,实验过程首先将网络模型的最后一层替换为维度为4的分类层,改变该层学习率为10,以便更快训练;由于数据集较小,无需多次训练,因而设置网络Maxepochs值为10;同时降低卷积层中学习速率至1e-4。

图2是在训练好的AlexNet网络上进行迁移学习训练过程识别率图。可以看出,当迭代次数达到350次以上时,煤岩图像识别率进入平稳状态,停止训练后,在测试数据集上的最终识别率为98.92%,效果良好。

图3是AlexNet网络训练过程损失图。损失值表明了卷积神经网络的优化过程,损失值越小,表明网络优化性能越好。当网络迭代次数达到350次以上时,损失值降到最低,表明此时网络已经训练到最优状态。

考虑到本文所使用的煤岩图像数据集相对较小,而使用大型的AlexNet网络可能会造成训练时间过长而识别效果提升不明显,特别是AlexNet网络的最后三个全连接层,训练参数数量高达50M以上,耗费大量训练时间。因而本文通过去掉AlexNet网络最后两个全连接层,只保留一层全连接层和最后的分类层,称为改进的AlexNet网络,表示为I-AlexNet,进行了实验,结果如表1。

图4是I-AlexNet网络训练过程识别率图。当迭代次数达到300次以上时,网络进入平稳状态,停止训练后,在测试数据集上的最终识别率为98.39%,比微调过的AlexNet网络略低。

图5是I-AlexNet网络训练过程损失图。当迭代次数达到300次以上时,损失值降到最低,表明网络已经训练到最优状态,相比于具有三个全连接层的AlexNet网络,所需迭代次数更少,效率更高。

同时,本文比较了两种网络在其他条件设置相同时,所需训练时间的差异,如表1所示。可以看出,两种网络在识别率上差异不大,但去掉了两个全连接层的I-AlexNet网络模型,在训练时间上比AlexNet网络模型减少了近1/3的时间,计算效率显著提高。

通过实验分析卷积神经网络在煤岩图像识别任务中的应用效果,以及两种不同网络模型在识别精度、训练时间上的不同,可以发现,尽管在深度学习领域中,卷积神经网络模型通常适用于具有大型数据库的图像分类,但合理运用训练好的网络模型,通过迁移学习,仍然可以得到良好的煤岩图像识别效果。同时,更深层的网络通常需要耗费更多的训练时间,对计算能力的要求更高,要综合考虑对识别率、训练时间和硬件条件的实际需求,合理构建卷积神经网络模型。

4 结语

本文采取的应用卷积神经网络进行煤岩图像识别的方法,能够有效提取图像深层特征,避免了手工提取特征的复杂方式,提高了识别率。通过迁移学习的方式,解决了因煤岩图像数据集过小,导致的卷积神经网络容易出现过拟合的问题。同时比较了AlexNet和I-AlexNet兩种网络模型在识别率和训练时间上的差异,发现在识别率差异不大的情况下,更浅层的神经网络能够有效减少训练时间,节约计算资源。总之,本文提出的基于卷积神经网络的煤岩图像识别方法鲁棒性和泛化能力更强,识别精度更高,取得了理想的识别效果。

参考文献

[1] Krizhevsky A, Sutskever I, Hinton G E. ImageNet classification with deep convolutional neural networks [C]. International Conference on Neural Information Processing Systems. Curran Associates Inc, 2012:1097-1105

[2] 张婷. 基于变换域与高斯混合模型聚类的煤岩识别方法[J].煤炭技术,2018,37(11):320-323.

[3] 孙继平,陈浜. 基于CLBP和支持向量诱导字典学习的煤岩识别方法[J].煤炭学报,2017,42(12):3338-3348.

[4] 伍云霞,田一民. 基于最大池化稀疏编码的煤岩识别方法 [J].工程科学学报,2017,39(7):981-987.

[5] Maxime Oquab, Leon Bottou, Ivan Laptev and Josef Sivic. Learning and Transferring Mid-Level Image Representations using Convolutional Neural Networks[C]. 2014 IEEE Conference on Computer Vision and Pattern Recognition(CVPR), 2014:1717-1724.

猜你喜欢

特征提取神经网络
神经网络抑制无线通信干扰探究
基于Gazebo仿真环境的ORB特征提取与比对的研究
基于Daubechies(dbN)的飞行器音频特征提取
一种基于LBP 特征提取和稀疏表示的肝病识别算法
基于DSP的直线特征提取算法
基于神经网络的拉矫机控制模型建立
复数神经网络在基于WiFi的室内LBS应用
基于支持向量机回归和RBF神经网络的PID整定
基于MED和循环域解调的多故障特征提取
基于神经网络分数阶控制的逆变电源