一种使用深度学习网络进行模拟电路故障特征自动提取的方案*
2020-12-18王月海王瀚晨
王月海 王瀚晨
(北方工业大学信息学院,100144,北京)
现代电子电路一般由数字电路和模拟电路组成. 虽然模拟电路只占混合电路的20%,但80%的故障都发生在模拟电路中,模拟电路故障诊断对电子系统的稳定性和可靠性至关重要.
基于深度学习的故障诊断本质是模式识别问题,其研究内容主要包括特征提取和分类器设计. 模拟电路的故障诊断研究起源于1960年代,从经典的故障字典法到BP神经网络,从单一的算法到多种算法组合优化,分类器设计的相关算法越来越成熟. 相比之下,特征提取的相关研究进展则较为缓慢. 实际上,诊断效果与输入的特征数据有直接的关系. 目前,对于原始信号的特征提取方法主要依靠经验丰富的领域工程师来选择恰当的特征组合,或采用各类统计特征或抽象数据特征,如谭阳红等通过对原始信号进行小波多尺度分解,并对特征能量进行正交化、归一化处理后得到特征信息、但小波函数的选择和小波分解的层数等参数却只能凭经验或实验对比进行确认[1],Yuan Lifen等应用峭度和熵提取故障特征,但在分类诊断时易收敛于局部最小值[2],Shen Hong 等提出基于高阶统计量的方法[3],但其缺点是遗漏了低阶信号中的特征. 为解决特征选择和特征提取的难题,减少特征选择和特征提取中领域专家的介入,降低特征选取的门槛,直接将测量所得到的响应信号作为输入,由提取算法自动提取故障特征是一个很有前景的想法. 但直接输入故障数据所带来的庞大计算量会使得分类器性能急剧下降,同时诊断结果也差强人意. 深度学习技术的出现为这一想法的实现提供了支持,以牺牲可接受范围内的效率作为代价,本文提出一种基于卷积神经网络(Convolution Neural Network,简称CNN)的故障特征直接提取方法.
支持向量机(Support Vector Machine,简称SVM)针对非线性问题而设计,泛化能力强,适用于故障诊断的场景. 孔梦君、万国发等使用不同组合优化后的SVM分类器均取得了较高的故障诊断率.[4-5]所以我们选择SVM用于测试特征提取性能的故障诊断算法.
本文提出一种基于CNN+SVM的模拟电路故障诊断方法,使用输出点电压波形作为原始数据,应用CNN完成特征提取后输入SVM构建分类器,最终完成对目标电路的故障分类.
1 基于CNN的特征提取
卷积神经网络CNN由纽约大学的Yann LeCun于1998年提出,其质是一个采用了局部连接和共享权值的多层感知机. CNN是一种深度的监督学习下的机器学习模型,善于挖掘二维图像中的局部特征. 与基于小波分析的特征提取方法相比,CNN可以使用物理量(如电压、电流)随时间变化的二维矢量图作为输入,在不经过变换和分解的情况下完成局部特征的提取.
1.1 卷积神经网络原理
1.1.1局部连接
卷积神经网络使用局部感知结构的构思理念,每一个卷积层节点只与前一层的部分节点相连接,即每一个节点只用来学习局部特征.
如图1所示,第N层的每个节点只与第N-1层的3个节点连接,权值参数由15个减少到9个,参数量减少了40%. 这样做的好处是加快了学习速率,降低过拟合的可能.
1.1.2权值共享
在卷积神经网络中,卷积核通过与输入数据的不同区域做卷积运算的方法检测特征,相同的卷积核检测相同的特征,所以相同的卷积核对应的权值参数也是相同的.
如图1所示,第N-1层到第N层的权值仅仅需要3个权值,在局部连接的基础上参数数量又减少了66.7%. 这样做不仅进一步提高了学习的速率,而且在提取特征的过程中不需要考虑局部特征的位置.
1.2 故障特征提取
本文使用模拟电路的输出电压波形图作为卷积神经网络的输入,波形图与手写字体都可以看做是较为简单的二值图像,如果将不同的故障模式看成是分类的标签,电路故障诊断和图像识别本质相同. 诞生于1994年,针对手写字体识别设计的LeNet- 5是最早最成熟的的卷积神经网络之一,因此我们在LeNet- 5的基础上进行改进以设计电路故障自动提取器.
本文网络模型改动如下:1)C1层卷积核大小缩小为5×5,个数增加到8个,C1层降采样后得到的S2层个数也增加到8个;C3层卷积核大小缩小为3×3,个数不变,改动原因是相比手写字体,模拟电路输出的电压波形图采样间隔较短,输入数据量较大,因此缩小卷积核的大小,以达到减少参数,加快训练速率的目的. 同时为了尽可能的保证网络精度,增加了卷积核的数量. 2)S4层的最大池化大小改为3×3,省略掉S2层. 原因是通过C1、C2层所得到的特征图像已经很小了,S2和S4层的本质是进行降采样,对于已经很小的特征无需进行多次池化. 3)每一层的激活函数都由tanh改为RELU,原因是tanh在饱和区域变化较为平缓,在使用梯度下降法训练最优解时,容易出现梯度消失的问题,而RELU的梯度通常是常数,可以解决训练过程中的梯度消失问题.
2 实验
2.1 数据采集
应用二级四运放高通滤波器仿真电路进行故障诊断实验,电路如图2所示.
容差允许范围:电阻5%、电容10%,激励信号为5 V,脉宽10 μs,周期20 μs的理想激励信号.[6]该电路故障模式共有12种,故障值与标称值参照文献[7]设置,如表1所示. 单点采样频率为5万赫兹,1 ms内共采集501个点,使用Pspice对正常模式及每种故障模式进行50次高斯分布的蒙特卡洛分析,每种模式采集50组数据. 其中35组数据作为训练集,剩余15组作为测试集.
表1 各元件标准值及故障值
2.2 卷积神经网络训练过程
2.3 支持向量机算法参数设置
Libsvm模型选择C- SVC,核函数选择RBF核,初始惩罚系数设置为3.
3 实验结果及分析
为对比不同特征提取算法,本文使用Haar小波分析+SVM应用于四运放高通滤波器电路,卷积神经网络与Haar小波针对相同的采样数据分别从时域和频域信号提取特征. 每种诊断方法分别对13种故障模式的测试集进行诊断,诊断结果如表2所示.
表2 2种故障诊断方法诊断结果比较
从诊断结果中的测试准确率可以发现,在使用相同分类器算法时,使用卷积神经网络提取的特征经过分类测试后的准确率有所提升,说明使用卷积神经网络对模拟电路提取故障特征的方法是可行的. 相比Haar小波分析提取特征的方法,小幅度提升了准确率的同时,省略了繁琐的特征工程 . 另外本文实验中所使用的训练样例相对较少,在应对大规模模拟电路上百种故障时,使用小波分析这样复杂的特征提取方法,需要极其丰富的专家经验和巨大的时间成本. 相比之下,在应对大规模数据问题时,卷积神经网络不需要增加投入的成本,只需要适当增加各层神经元数量,就能够增加抽取的特征,提高识别大规模数据的能力.
从诊断结果中支持向量机训练过程的迭代次数可以发现,虽然卷积神经网络的训练过程牺牲了一些效率,但训练后的特征在输入分类器诊断的过程中效率是haar小波特征提取方法的两倍左右. 而且在实际的工程问题中,卷积神经网络的训练过程应是在实际故障发生前,因此训练过程牺牲的效率是可以忽略不计的. 当实际故障发生时,测试人员只需将针对某一类故障电路训练好的网络模型调出即可完成测试,实际是提升了测试的效率.
4 结语
本文将卷积神经网络应用到模拟电路故障特征提取中,使得故障诊断系统可以使用模拟电路的电压响应信号作为原始输入数据,取代了传统特征工程中复杂的故障特征提取过程,降低了测试门槛,减少了人工成本. 同时结合支持向量机,对四运放高通滤波器完成了模拟诊断试验,实验结果表明,相比小波分析,基于卷积神经网络的特征提取方法虽然增加了一定程度的训练时间,但减少了分类器诊断的时间,且分类准确率获得了一些提升,具备较好的实际应用价值.