基于ResNeXt网络的滚动轴承剩余使用寿命预测

王 哲，刘学平，李玙乾，李 旭

（清华大学 深圳国际研究生院，深圳 518055)

0 引言

寿命预测是指利用现有的实验数据,建立对未来数据变化的预测模型。目前比较常用的寿命预测方法有曲线拟合法、时间序列方法、神经网络方法、支持向量机方法。其中神经网络方法适用于精度要求比较高的非线性领域,由于机械设备的振动信号具有不稳定性和非线性,所以神经网络方法在机械设备的寿命预测方面应用比较广泛。Hinton等人在2006年提出了深度学习的概念以后,深度学习就越来越广泛地应用于机器学习领域[1]。深度学习模型可以高效率、深层次挖掘大量原始数据的内部规律,实现数据维度的减少,所以深度学习的发展为轴承的寿命预测提供了新的研究方向[2]。

刘小勇等人基于深度学习网络,构件了设备退化指标的模型,并根据退化曲线对剩余寿命进行研究,以轴承振动监测数据为研究对象,提出了轴承剩余寿命预测的算法[3]。张娜等通过对原始深度信念网络参数和结构的改进,将其应用于滚动轴承的剩余生命预测中,并通过实验验证了该算法的有效性与先进性[4]。蒋会明等人基于隐马尔可夫模型,对滚动轴承的性能退化以及寿命预测的算法进行了一定的改进,可以针对滚动轴承在实际使用过程中的条件快速消除无用的数据,同时通过试验数据验证了改进后的算法相比于之前的算法显著提高了对轴承寿命预测的有效性[5]。吴超勇等人提出了在大数据环境下对滚动轴承的剩余生命预测的模型,运用大数据技术对滚动轴承的各种数据进行特征提取,然后根据经验贝叶斯对轴承的剩余生命进行估计,最后通过轴承加速寿命实验对提出的算法进行了验证[6]。董绍军等人基于粒子群算法改进的支持向量机模型,对采集到的滚动轴承全生命周期的振动数据进行特征提取,利用多个模型对相应的滚动轴承的特征数据进行预测,最后计算各模型的误差权重来准确预测滚动轴承的剩余使用寿命[7]。

本文基于更有效的深度学习方法,选取综合性能较强的ResNeXt作为网络骨干,设计卷积神经网络模型实现对滚动轴承剩余使用寿命的预测,达到更准确的精度。

1 预测模型基本原理

1.1 卷积神经网络

卷积神经网络相比传统的寿命预测方法,减少了人工特征提取的操作,它的核心在于自主学习,可以通过堆叠大量的卷积层,每个卷积层将提取信号不同层次的特征,抽取到丰富的语义特征,当训练数据较少时,仍然具有很好的泛化能力,可以准确挖掘当前轴承的退化信息,从而对轴承的剩余使用寿命进行预测。传统的卷积神经网络包括卷积层、池化层和全连接层。卷积层执行卷积计算,主要对输入数据进行特征提取；池化层通常位于卷积层之间,其作用是逐渐降低数据体的空间尺寸,减少网络中参数的数量,减少计算资源的同时也能有效控制过拟合；全连接层的每个神经元与前一层所有神经元全部连接,一般作为最后的输出层。

1.2 ResNeXt骨干网络

本文用于轴承寿命预测的卷积神经网络模型设计选取用于特征提取的骨干网络（backbone）,设计网络的末端用于执行相应的任务,在网络末端用卷积层直接输出预测值,选取综合性能较强的骨干网络来抽取特征,目前常用的骨干网络有ResNet、ResNeXt、Hourglass等,Hourglass网络多用于人体姿态估计,网络结构复杂且参数量大。ResNeXt在ResNet的基础上进行改进得到,借鉴了Inception模型中分离、转换、合并的思想,在有限的参数量下显著提升了特征提取能力,在大型公开数据集ImageNet性能超越ResNet。因此选用ResNeXt作为网络的骨干。ResNeXt与ResNet相似,采用堆叠基础构建块的方式搭建网络模型,同时引入了基数,即构建块内部的分支数量,基数与网络的深度、宽度均可以作为网络模型复杂度的量化指标,增大基数比加深、加宽网络更有效。目前在深度学习中ResNeXt已经成为一种主流的骨干网络。

2 寿命预测的网络模型结构

2.1 实验平台设计

本文的寿命预测主要是在Ubuntu16.04系统下配置深度学习开发环境,硬件配置为CPUi7-9700K16G,GPU RTX20808G,NVIDIA驱动440.33,CUDA10.2,使用python3.7来搭建网络模型,深度学习框架选用Pytorch1.3.1。

2.2 网络模型设计

本文的网络模型结构如图1所示（网络中所用到的批标准化以及激活函数未在图中表示）。Conv1d1表示卷积核为1的一维卷积层,Conv1d3表示卷积核为3的一维卷积层,Conv1d3_g是卷积核为3的一维分组卷积层,group设置为8,Avg_pool1是池化长度为2的池化层,Avg_pool2是池化长度为5的池化层,linear1、linear2表示全连接层。Stem为卷积核为7的卷积,用于将特征序列降采样4倍。Avg_pool1用于缩小特征序列的长度,减少网络的参数量,在Stage3后接一个卷积核为3的卷积层,再利用池化层将特征序列长度变成1,最后利用两个全连接层输出预测结果。

图1 寿命预测网络模型

其中Stage1～Stage3如图2所示,由一个Bottleneck_s与两个Bottleneck_i构成,主要用于提取特征。

图2 Stage网络结构

以Stem层为例,输入4×1280的特征序列,其中4表示通道数,1280表示序列长度,如表1所示。

表1 各层输入输出信息

3 实验验证

3.1 数据集介绍

为了设计轴承寿命预测的算法,需要在公开数据集上进行测试和验证。本文采用IEEEPHM2012挑战赛的公开数据集,该数据集采集到的轴承振动信号分为水平和竖直两个方向,使用加速度传感器对振动信号进行采集,采样的频率为25.6kHz,每次采样的数据为2560×2个。数据集包括两部分,分别是训练集和测试集,如图3所示。

图3 数据集详细信息

3.2 模型训练

在深度学习中对数据进行标准化有利于加速网络模型的收敛,所以在本文中对轴承振动信号的处理时,为了缩短网络训练时间,首先对数据进行标准化操作,即对每一条数据（包含水平、垂直方向各2560个数据点）,计算数据点的均值,将所有数据点减去均值后除以绝对值最大的数据点。经过标准化处理后仍为时序数据,为了便于后续网络特征的提取,考虑将数据从时域转换到频域,由于快速傅里叶变换可以使计算机在运行时计算离散傅里叶变换的乘法次数减少,当采样较大时效果显著,所以采用快速傅里叶变换对数据进行预处理。

该算法预测的目标是轴承的剩余使用寿命,考虑使用均方误差作为损失函数,其计算公式如下：

式(1)中,n表示数据量大小,yi表示轴承实验中真正的剩余寿命,，表表示网络模型预测出的剩余寿命。计算出损失后,再通过反向传播算法更新网络模型的权重。

由于该数据集训练集较小,因此对训练集不进行分割,直接利用训练集进行训练。加载训练集得到7534条数据,经过标准化操作与快速傅里叶变换后,送入已经设计好的卷积神经网络模型中进行训练,一共迭代120个周期,初始学习率设置为0.01,批数设置为128,权重衰减设置为0.009,优化器选用Adam算法。训练过程的损失如图4所示。

图4 模型训练

3.3 算法验证及分析

训练完成达到收敛后,在测试集上加载模型进行评估,测试集共包含13959条数据,同样对数据进行标准化操作,进行快速傅里叶变换后送入网络模型中进行预测,在测试时使用数据集的评估标准E来评估算法性能,E的计算公式如下：

式(2)中RUL表示当前轴承的实际剩余使用寿命,，为利用本章算法预测出的剩余使用寿命。

本文设计的算法误差E为17.1%,文献 中的误差为32.5%,文献 中的误差为53.2%,可以看出本文所设计的算法较之前文献中的预测算法准确度有了显著提高,利用该算法可以根据轴承的振动信号获得轴承的退化信息,保证机械装备的精度。

4 结语

为了对滚动轴承剩余寿命进行预测,本文设计了基于卷积神经网络的剩余寿命预测算法,采用最新的ResNeXt骨干网络,首先对数据进行标准化,然后利用快速傅里叶变换将采样数据从时域转换到频域,最后送入到卷积神经网络中预测出结果。并在IEEE PHM 2012挑战赛公开数据集上进行了算法验证,算法的误差为17.1%,结果表明本文设计的算法可以较为准确地预测出轴承的剩余使用寿命,对保证机械装备的加工精度有重要的意义。