基于一维卷积神经网络的模拟电路故障诊断*

高 伟，李福胜，张铁竹

(郑州铁路职业技术学院机车车辆学院,河南 郑州 451460)

模拟电路作为工业电子设备的重要组成部分,广泛应用于工业控制、信号分析等领域[1-3]。模拟电路的失效会导致系统性能退化、失效等,造成财产损失和人员伤亡。因此,研究模拟电路故障诊断方法对于工业电子设备安全可靠运行具有重要意义[4-5]。

由于复杂模拟电路很难精确建模,因此基于数据驱动的方法得到了广泛应用。数据驱动方法一般包括特征提取和故障模式分类2 部分。特征提取主要是利用现代信号处理技术来提取故障特征,故障模式分类通常采用人工神经网络ANN(Artificial Neural Network)、支持向量机SVM(Support Vector Machine)等浅层机器学习方法来识别不同故障模式。Yuan L F 等[6]选择输出信号的熵和峰度作为故障特征,提出一种基于ANN 的模拟电路故障诊断方法。Song D 等[7]将输出信号经过分数阶傅里叶变换后提取多种统计特征,采用核主成分分析KPCA(Principle Component Analysis)进行特征降维后输入SVM 进行模型训练,利用训练好的SVM 模型进行故障模式分类。Arabi A 等[8]提出一种基于多分类自适应神经模糊推理系统ANFIS(Adaptive Neuro-Fuzzy Inference System)的故障诊断方法,提取信号多种时频域特征进行模型训练。然而,这些方法依赖于信号处理技术和专家经验,难以处理故障根源与信号特征之间的复杂非线性关系。

近年来,CNN、深度信念网络DBN(Deep Belief Network)等深度学习算法已经广泛应用在故障诊断领域,能够直接提取深层故障特征,同时提高故障诊断准确率[9]。Zhang G Q 等[10]提出了一种基于深度信念网络的故障诊断方法,采用DBN 模型对输出信号进行自动特征提取。此外,相比于2D CNN 网络主要处理图像数据,1D CNN 由于能够高效处理一维时间序列数据,已经广泛应用于心电监护、轴承故障诊断、结构健康检测等领域[11],并取得了不错的效果。然而,传统的1D CNN 一般采用多层全连接网络作为分类器,因其参数过多容易造成模型过拟合,造成模型训练失败,对于未知样本的故障诊断准确率较低。因此,提出一种基于1D CNN 的模拟电路故障诊断方法,直接从原始输出信号中提取深层故障特征。同时,采用全局平均池化层代替多层全连接网络,从而减少模型参数,提高训练效率,避免模型过拟合。

1 一维卷积自编码器

采用的网络结构如图1 所示,1D CNN 主要由3个1D 卷积层、2 个最大池化层、1 个全局平均池化层和1 个Softmax 分类器组成。卷积层将输入的局部区域与多个滤波器核进行卷积操作,然后送入神经元产生输出特征。每个过滤器采用相同的卷积核来提取输入局部区域的特征,这通常称为权重共享。卷积操作可以定义为:

图1 1D CNN 模型结构

在卷积操作后,采用激活函数来得到输入信号的非线性表示。近年来,修正线性单元ReLU(Rectified Linear Unit)通常用作CNN 的激活函数来加速模型收敛。ReLU 函数可以表示为:

在卷积层后一般接池化层来实现降采样操作,从而减少特征空间和网络参数。通常池化层采用最大池化,其可以表示为:

传统的CNN 模型一般采用多个全连接层来实现故障分类,但是全连接层会增加CNN 模型的参数,容易造成模型过拟合。全局平均池化层由于其具有不增加模型参数、能够加速模型训练等优点,目前已经用于GoogleNet,MobileNet,ShuffleNet 等CNN模型中,并取得了很好的效果[12]。因此,采用全局平均池化层取代全连接层,将最后一层卷积输出的所有n个通道进行全局池化操作,从而得到长度为n的向量,输入Softmax 分类器。Softmax 分类器可以表示为:

式中:zj表示第j个输出神经元,m表示输出神经元总数。

2 1D CNN 故障诊断流程

所提出的模拟电路故障诊断方法采用1D CNN直接从电路输出电压信号中提取具有良好可分性的故障特征,采用全局池化层代替全连接层来减少模型参数,后接Softmax 分类器实现故障模式分类,能够避免模型过拟合,提高模型分类准确率,提高模型训练效率,主要流程包括以下几个步骤:

(1)针对被测电路,通过灵敏度分析确定故障模式,定义元件参数和容差；

(2)选取合适的激励源,通过时域暂态分析和蒙特卡洛分析法得到不同故障模式下的原始时间序列信号,每次蒙特卡洛分析得到一个原始输出信号,每个原始输出信号看作一个样本；

(3)对数据进行归一化处理,数值限定在[0,1]范围内,并将每个故障模式的数据平均随机地划分为训练数据集和测试数据集；

(4)设置1D CNN 的网络层数和类型、卷积核的大小和滑动窗口宽度、池化层窗口大小、学习率等参数,利用训练数据集训练1D CNN 模型；

(5)将测试数据集输入训练好的模型,进行故障数据分类,验证模型的诊断性能,选用诊断准确率作为评价指标。

3 实验验证与结果分析

以四运放双二阶高通滤波器电路为实验电路,采用Candence16.6 软件进行电路仿真实验来获取故障模式数据,算法编程由Python3.6 实现,采用Keras 架构搭建1D CNN 模型。所有程序运行于处理器为Intel core i7-7500U、内存为8G 的计算机上。

3.1 实验设置

实验电路如图2 所示,激励源选择峰值为5 V,持续时间为10 μs 的单脉冲信号,电阻和电容的容差均设置为5%。

图2 四运放双二阶高通滤波器电路

图3 为不同故障模式下被测电路输出电压,选取0～280 μs 内的被测电路输出电压直接作为模型输入。通过蒙特卡洛分析,每个模式得到500 个脉冲响应数据,每个模式随机选取50%的脉冲响应数据作为训练数据,其余50%作为测试数据。

图3 不同故障模式下被测电路输出电压

对被测电路进行灵敏度分析,选取C1、C2、R1、R2、R3、R4作为被测元件,故障码、故障类别、标称值和故障值如表1 所示,共得到12 个故障模式和1 个正常工作模式,其中↑和↓分别表示故障值高于和低于标称值。

表1 实验电路故障代码及模式

3.2 实验结果分析

为了获得更好的训练模型,采用自适应矩估计Adam(Adaptive moment estimation)优化器,其非常适合解决数据或参数较大的问题,具有较高的计算效率和较低的内存需求。作为模型训练的重要参数,学习率的选取直接影响到训练效果。不同学习率下的模型训练结果如图4 所示,当学习率为0.005 时,训练过程能够最快收敛,得到的模型性能最好。

图4 不同学习率对比

为了直观展示1D CNN 模型的特征提取过程,选择t 分布随机近邻嵌入t-SNE(t-Distributed Stochastic Neighbor Embedding)进行特征降维,将测试数据集的输入层数据和卷积层输出特征降至2 维空间。

如图5 所示为原始测量数据和卷积神经网络不同层输出特征的二维分布。由图5(a)所示,F2 和F10 故障模式、F3 和F11 故障模式之间分布几乎完全重叠,F0、F4 和F12 故障模型之间有明显的重叠分布,无法准确地进行故障模式分类。采用1D CNN 模型进行特征提取后,图5(b)～(d)分别为第1～第3 卷积层输出特征的二维分布。由图5(c)可得,经过2 次卷积操作,F2 和F10 故障模式分布已无明显重叠,易于进行故障模式分类。由图5(d)可见,经过第3 次卷积操作后,除了F0、F2 和F6 故障模式有轻微重叠分布外,其他故障模式均无重叠,边界清晰可分,聚集性较好,便于后续分类器故障模式分类。实验结果表明,提出的方法能够有效地从原始时间序列数据中提取深度故障特征。

图5 特征可视化

图6 为1D CNN 测试集故障分类结果的混淆矩阵,F0、F2 和F6 故障模式的分类结果较差,这与图5(d)中不同故障类型特征的2 维分布情况对应。F0、F2 和F6 故障模式的分类准确率均大于0.96,其余故障模式分类准确率均为1,每个故障模式的分类准确率相差不超过0.04。实验结果说明,所提出的故障诊断方法有较高的故障诊断准确率,且对不同故障模式的诊断性能稳定。

图6 诊断结果混淆矩阵

3.3 对比实验

对四运放双二阶高通滤波器电路进行故障诊断对比实验,对比实验均以电路中C1,C2,R1,R2,R3,R4 为被测元件,故障值均为偏离元件标称值±50%。实验结果如表2 所示,所提出的基于1D CNN 的故障诊断方法的诊断准确率明显高于NN、SVM 等传统浅层网络,说明该方法能够更有效地提取深层故障特征,更容易实现准确故障模式分类。与基于DBN 的深度学习故障诊断方法相比,该方法在不对输出信号进行人工处理以及更大测试集下诊断准确率提升了0.08%,表现出了更好的性能。

表2 故障诊断方法结果对比

同时,所提出的1D CNN 模型由于直接将原始信号作为模型输入,未进行人工特征提取,因此其模型训练时间为61.75 s,大于Yuan L F 等[6]和Song D等[7]中浅层模型的训练时间。但是,本文方法的测试时间为0.266 5 s,能够满足应用要求。

4 结论

提出了一种基于1D CNN 的模拟电路故障诊断方法,能够直接高效地提取原始输出信号的深度故障特征,无需专家经验和信号处理技术。采用全局平均池化层取代传统CNN 模型的全连接层,减少了模型参数,避免了模型过拟合,提高了模型训练效率和诊断准确率。实验结果表明,相比于传统方法,所提出的故障诊断方法能够有效提取故障特征,提高了故障诊断准确率,适用于模拟电路故障诊断领域。