面向残差网络与Adam优化算法的医学图像卷积超分辨率重建
2020-01-05赵小红衡春妮杜淑娟
赵小红 衡春妮 杜淑娟
摘要:文章分析一种医学图像卷积超分辨率重建方式,其中运用到残差网络和卷积神经网络,能够直接在地分辨率图像上提取特征,于是简化了操作程序,将会提高图片处理效率,然后还使用Adam优化算法进行优化。将文章所研究的算法和其他算法进行实验研究,研究结果表明,本文所研究的算法具有更好精确度和效率,能够提高收敛速度,更有利于提高医学图像的检查结果。
关键词:残差网络;Adam优化算法;卷积神经网络;超分辨率
中图分类号:TP391.41;TP183
文献标识码:A
文章编号:1001-5922(2020)12-0078-04
在医学领域中存在很多图像需要进行处理,超分辨率重建技术属于一个热点问题,主要作用就是对将低分辨率图像进行重建,然后得到高分辨图像[1-2]。使用该技术的最大优势在于不需要对硬件设备进行改善,就能实现提高图像质量的作用[3-4]。由于超分辨率重建技术在很多领域中能够发挥重要作用,于是近几年来,对其进行了不断深入研究,Dong等人首先提出了基于超分辨率卷积神经网络(SRCNN)的方法,相比于传统的方式具有较好的重建效果[5]。于是在此基础上,提出了更多不同的重建方法,比如基于反卷积的快速图像超分辨率重建(FSRCNN)、高效子像素卷积神经网络(ESPCN)和深度卷积神经网络模型(VDSR)等[6-7]。在此基础之上,文章提出了基于深层残差网络的加速图像超分辨率重建方法( DRSR)。
1 DRSR算法网络结构图
本文所研究的重建算法应用了较深的卷积网络,于是在提取特征过程是,可以直接在低分辨率图像上经常操作。另外,深度的增加,也增加了精确度。DRSR算法网络结构图如图1所示,该算法的主要特点在于使用了2种相结合的模式,一个是多权重的递归学习,另一个是多路径模式的局部残差学习。卷积后图像会存在信息丢失的风险,于是文章使用了零填充方式能够保证信息不丢失[8]。另外,DRSR算法不适用池化层,因为与超分辨率算法目的相违背。
1.1 深层神经网络结构
由于本算法是直接对原始图像进行特征提取,于是需要应用比较小的卷积核提取相同信息,由于引进卷积层,图像特征提取将会变多。文章将会对基于卷积神经网络的视觉识别算法进行借鉴,该算法由牛津大学VCC小组提出,该模型中卷积层为3x3,通道数量c设置为1,滤波器的数量为32,Conv(32,3,1)表示卷积层,公式如下所示:
P(x)的作用就是将低分辨率图像特征插入到高分辨率图像中,在放人过程中需要依据特定位置,然后周期性的让人。对图像进行重新排列时需要使用到子像素卷积层,然后还需要将插值函数放人到卷积层中,从而达到自动学习的目的。图像变换大小时是在最后一层上进行实现。由于卷积运算直接在原始图像上进行,于是可以提高算法的效率。
1.2 残差网络模型
虽然增加网络深度能够提取更多的特征,但是也會造成一定的问题,即网络难以收敛。于是使用2种学习方式相互结合的模式,如图2所示。
1.3参数优化
深层卷积神经网络在训练过程中,会对网络进行进行优化,从而使得参数是最优结果。文章将会使用Adam优化算法对参数进行优化,原本使用的优化方法为随机梯度下降法,改为Adarn优化算法的作用是经过偏置校正之后,会让参数变得更加的平稳,另外,损失函数还是使用的均方误差。梯度的一阶矩阵mt和二阶矩阵nt用以下公式进行表示:
2 实验结果和分析
为了验证算法是否具有较好的性能,对其进行实验研究。实验首先得到相关参数的最优设置,再对研究该参数下算法的性能。
2.1 层数设置
将放大倍数设置为3,然后对层数为6、10和12的网络模型进行训练和测试,然后进行迭代106次。得到图3所示的变化曲线,从图中可以看出,曲线变化最终会趋于平稳状态,从而可以反映网络已经完全收敛;并且处于12层的网络具有更低的损失函数,即将网络层设置为12层将会更利于图像处理效果。
2.2 激活函数比较
由于激活函数会影响模型的速度和性能,于是在选择过程中需要选择最为合适的激活函数。经过对集中函数进行对比分析,发现tanh函数具有比较复杂的计算方式,但是能够提高收敛速度,好能够解决梯度容易消失的问题。ReLU也是一种比较复杂的函数,但是在应用过程中可能会造成神经元坏死。图4对为这2种函数的对比分析,从结果中可以看出tanh函数具有更好的性能,而且收敛速度更快,所以文章选择tanh作为激活函数。
2.3 速度比较
残差网络结构直接在原图上进行操作,不仅提高的工作效率,而且还降低了计算复杂度。在set 5测试集情况下,图5为不同算法处理医学图像的时间,从图中可以看出,即使文章所设计的算法增加了深度,但是其速度相比于其他几个算法具有明显的提升作用,且当深度为12时的网络模型,其运行时间更快,所以最终选择深度为12的网络模型。
2.4 优化方法的比较
文章使用了Adam优化算法,为了验证其应用效果,将其和其他2种算法进行比较,即加速梯度下降法(NAG)和随机梯度下降法(SGD)。图6即为3个算法的比较,从图中可以看出,Adam优化算法具有更加明显的效果,所以文章选择Adam优化算法能够提高医学图像处理效果。
2.5 滤波器数量比较
滤波器数量也会对超分辨率性能造成影响,于是文章对3种不同的滤波器数量进行实验研究,图7即为检验结果,虽然滤波器增强其数量能够提升其性能,但是优惠增加模型的计算量和复杂度,从而降低运行效率,于是设置滤波器数目不能过大也不能过小,通过综合考虑之后,将其设置为32能够达到更好的效果。
2.6 实验结果
为了研究本文所分析的算法的優势,于是将其与其他算法进行比较,在测试时将倍数放大为2、3和4倍。最后得到每种算法的PSNR值和SSIM值,分别如表l和表2所示,从表中可以看出,相比于双3次插值算法,本文所研究的算法明显提高了PSNR值和SSIM值,相对于其他算法,本文所研究的算法其PSNR值和SSIM值也有一定程度的提高,所以本文所研究的算法在处于医学图像上具有更高的效率和精确度。
3 结语
文章分析了深层残差卷积神经网络模型,能够直接在原始医学图像中进行特征提取,并且使用了Ad-am优化算。通过实验结果表明,与其他算法相比,文章所分析的算法具有更好的精确度和效率,于是在医学图像的分析处理中具有更好的效果,更有利于医生做出合理的诊断结果。
参考文献
[1]黄浩锋,肖南峰,基于组稀疏表示的医学图像超分辨率重建[J].计算机科学,2015,42(SI):151-153+189.
[2]陈敏强,深度卷积神经网络超分重建技术驱动的卫星遥感影像融合研究[D].南昌:东华理工大学,2019.
[3]苏衡,周杰,张志浩.超分辨率图像重建方法综述[J].自动化学报,2013,39(08):1202-1213.
[4]龙祥.基于深度学习的图像超分辨率重建技术研究[D].江门:五邑大学,2019.
[5] Dong Chao, Loy Chen Change, He Kaiming, et al.lm-age Super- Resolution Using Deep Convolutional Net-works [J].IEEE Transactions on Pattern Analysis&Ma-chine Intelligence, 2016, 38(2):295-307.
[6] Shi Wenzhe, Caballero Jose, Huszar Ferenc, et al.Re-al-Time Single Image and Video Supe-Resolution Us-ing an Efficient Sub-Pixel Convolutional Neural Network[J].IEEE Conference on Computer Vision and PatternRecognition.2016:1874-1883.
[7] Dong Chao , Loy Chen Change, Tang Xiaoou.Acceler-ating the Super- Resolution Convolutional Neural Net-work[J].European Conference on Computer Vision , 2016 :391-407.
[8]孙超,吕俊伟,李健伟,等,基于去卷积的快速图像超分辨率方法[J].光学学报,2017,037(012):142-152.