基于残差网络的航天器测控系统诊断

2023-04-03慕晓冬曾昭菊刘伟强李思凡

兵器装备工程学报 2023年3期

魏轩，慕晓冬，曾昭菊，刘伟强，李思凡

(1.火箭军工程大学作战保障学院，西安 710025； 2.西安卫星测控中心，西安 710025)

1 引言

我国航天器承担着保证国防安全、发展国民经济、探索太空和造福人类的重大责任，是国之重器。然而，航天器所处的空间环境多变，各部件性能随着在轨运行年限的增加而不断下降，导致航天器发生故障的因素增多，及时对航天器进行故障诊断[1]，了解各系统的健康状况[2]，对航天器安全、稳定运行具有实际意义。

近年来，故障诊断技术受到广泛关注，诊断方法日新月异，出现了基于模型[3]、基于信号处理[4]以及基于数据驱动[5]的故障诊断方法。目前，基于模型和信号处理的故障诊断方法使用广泛，高正明等[6]对故障特征提取方法进行总结，在设备状态监测与故障诊断过程中，通过对监测数据进行特征提取实现重要设备健康监测，并结合实际工业应用进行对比分析。但这些方法大多是根据故障发生时的表象进行诊断，航天器各系统复杂且数据量庞大，这些方法对航天器地面测试数据和各阶段的历史数据挖掘不够深入，存在数据利用率不足、准确率不高的问题；基于数据驱动[7]的方法通过大量历史数据来建立系统故障模型，通过利用航天器的研制数据、地面测试数据和在轨运行期间的遥测数据来实现故障诊断[8]，克服了上述方法数据利用不足的缺陷。随着航天器各分系统复杂程度的增加，产生的数据量呈指数增长，基于数据驱动的故障诊断方法对于航天器系统非常适用。

基于机器学习和深度学习的方法是数据驱动故障诊断方法的重要组成部分，其中支持向量机(support vector machine，SVM)[9]作为一种机器学习的主流方法被广泛应用。张驰[10]在滚动轴承故障诊断中，以原始振动信号为对象，提出一种基于卷积神经网络(convolutional neural network，CNN)和支持向量机的诊断模型，直接将信号输入CNN进行特征提取，并将网络最后一层的结果输入SVM完成故障分类。赵立红等[11]提出了基于局部均值分解的样本熵和支持向量机方法融合的故障诊断模型，对信号进行局部均值分解后输入到SVM中进行故障分类。然而，传统的机器学习方法需要获取的广泛的专家知识[12]，对时间和人力的消耗极大[13]。

与传统机器学习的方法不同，基于深度学习的故障诊断方法通过加深网络结构来学习数据的深层特征，在自动提取特征的同时实现较高的故障诊断准确性。针对故障诊断中标注样本少的情况，Wen等[14]将故障信号转换为RGB图像后，结合迁移学习提出了一种基于残差网络(residual network，ResNet)的故障诊断模型，利用少量电机轴承数据达到了高精度诊断。Zhang等[15]设计了基于通道注意力残差网络的风电齿轮箱故障诊断方法，将原始信号进行小波包变换后，利用该网络进行特征提取，实现了振动信号的高识别精度。Zhang等[16]为建立特征变换与输入信号之间的关系，提出了一种带双曲函数的斜率和阈值自适应激活函数，将其应用到残差网络后实现轴承故障诊断。Wang等[17]提出了结合迁移学习的残差网络故障诊断方法，利用ResNet-50提取轴承信号的低级特征，结合特征学习器进行多尺度分析，实现了轴承数据集的高精度诊断。但是，航天器所处空间环境复杂，地面接收的遥测信号时常伴随大量噪声，直接利用原始遥测信号会导致诊断准确率不高的问题。

近年来深度学习应用广泛，卷积神经网络在故障诊断领域也得到极大地使用，输入二维图像后可通过端到端的架构直接输出诊断准确率。文献[18]中将轴承故障信号进行最大值、最小值归一化处理，然后再转换为二维灰度图像后实现故障诊断。文献[19]中利用数据归一化、灰度值化、信号截取和矩阵变换等操作将轴承原始时域信号转化为二维灰度图像，并将此图像作为卷积神经网络的输入，由此实现了故障信号的诊断。

针对上述问题，提出了一种基于主成分分析(principal component analysis，PCA)和残差网络(PCA-ResNet)的航天器测控系统的故障诊断方法。首先将航天器测控系统故障数据集中的遥测信号进行PCA处理，实现遥测信号的降噪，后将信号数据转换为灰度图像，最后通过残差网络对图像进行特征提取，利用Softmax分类器进行故障分类，以实现航天器测控系统的故障诊断。

2 传统故障诊断方法

2.1 主成分分析法

目前基于CNN的故障诊断方法开始大量使用灰度图像作为输入端，将一维故障数据进行归一化后直接堆叠成二维矩阵，这种方法的优势是可以保留原始信号的特征，但由于太空电磁环境复杂，地面接收到的航天器遥测信号时常伴随大量噪声，直接利用原始遥测信息会导致故障诊断的准确率不高。为解决上述问题，从带有强噪声的航天器遥测信号中提取故障特征，可使用主成分分析方法对航天器遥测信号进行降噪处理。

PCA是一种线性降维方法，通过线性投影将原始高维数据映射到低维空间，最小化信息量损失，实现较少的数据维度获取最大的信息量，并一定程度上保留原始数据的特性，它具有良好的去噪性能，目前在故障诊断领域[20]已有应用。在PCA方法中通过选取适当降噪比例，将原始遥测信号降维后再映射回高维数据，可实现原始信号的降噪处理。

设航天器故障数据集X=[x1,x2,…,xn]共有n个样本，每个样本有k个特征，每个特征对应各自的特征值。

1) 首先对每组数据求平均值和标准差，并进行标准化。

(1)

(2)

2) 求n个样本的标准化矩阵M和协方差矩阵C。

3) 求协方差矩阵C的特征值(λ1,λ2,…,λk)和特征向量ai=(ai1,ai2,…,aik)，i=1,2,…,k，将特征值λi按照从大到小的顺序排序，选择最大的前p个，并将其相对应的p个特征向量拿出来，会得到一组{(λ1,a1),(λ2,a2),…, (λp,ap)}。

4) 确定前P个主成分

计算前P个主成分的贡献率：

(3)

贡献率越大，样本特征中包含的原始信息越多。一般当累计贡献率θ(p)≥85%时，认为该样本特征保留了原始数据的信息。

5) 将原始数据投影到选取的特征向量上，得到降维后的p维特征。对于每一个样本xi，原来的特征是(xi1,xi2,…,xik)T，投影后的新特征是(yi1,yi2,…,yip)T，计算公式如下：

(4)

2.2 信号-图像转换

为从带有强噪声的航天器遥测信号中提取故障特征，首先将航天器遥测信号进行PCA降噪，再将一维数据归一化后直接堆叠成二维矩阵并转换为灰度图像，以实现故障诊断。将一维遥测信号处理为二维图像，既可保留原始信号的特征，又利于残差网络的结构特征自动进行特征提取。航天器测控系统遥测信号值并不集中，各部件标志位数值范围不同，其遥测信号的最大值、最小值不稳定，直接使用最大值、最小值方法对原始遥测信号进行处理，会导致归一化效果不好，影响故障诊断的效率。而本文中，航天器测控系统的遥测信号经过PCA处理后已标准化，可有效避免直接进行数据归一化导致的问题。

为转换为二维灰度图像，首先将处理后的数据取整后转化为灰度值，方法为：

(5)

其次，将灰度化后的遥测信号进行分段，共截取a段，每段包含b个数据点，所有遥测值堆叠后获得一个a×b的二维矩阵，此时，航天器测控系统遥测信号就转变为一张长为a,宽为b,包含a×b个像素点的灰度图，实现了将遥测信号转换为二维灰度图像。

转换流程为：

1) 对航天器测控系统遥测信号进行PCA降噪处理；

2) 处理后的遥测数据进行取整并转化为灰度值；

3) 根据图片大小进行遥测数据截取和矩阵变换；

4) 获得航天器测控系统遥测数据灰度图。

2.3 残差网络

残差网络[21]是一个经典的深度卷积神经网络，旨在解决因网络层数加深所引起的网络退化问题，主要由残差块构成。残差块的输入为，输出为，残差映射为，其基本思想是对输入进行卷积、最大池化和Relu激活函数操作后，得到输出为，再将进行卷积和激活函数操作，并与最开始的输入相连接，得到输出。残差块可实现网络的恒等映射，在增加层数的同时保留原输入的特征，以减缓特征丢失的方式来避免网络退化，图1为残差块结构框图。

图1 残差块结构框图

ResNet网络因残差块的特殊结构在自动提取特征时可有效避免梯度问题，常用的残差模型有ResNet-18、ResNet-50和ResNet-101。考虑到实验中的样本数量，文中使用ResNet-18作为基础网络。

3 基于PCA-ResNet故障诊断方法

3.1 特征提取

残差网络的特征提取过程如图2所示。首先将航天器遥测信号灰度图像作为残差网络输入(输入尺寸为的图像，1、64、64分别表示图像的通道数、高度和宽度)，经过步长为、填充为的的卷积操作和步长为、填充为的的最大池化处理；再将特征图输入到通道数为的残差块中，后经过个填充为的的卷积操作，此时特征图的尺寸为，由于输出通道数都是64，残差块用实线连接;该特征图作为输入，一方面通过升维并下采样至大小为，另一方面经过2个步长分别为2和1、通道数为的卷积操作，将卷积操作后的特征图与升维后的特征图相加，此时图片尺寸为。其中实线连接的上下层网络特征图维度没有发生变化，可以直接相加，虚线连接的上下层网络特征图维度增加了1倍，使得输入与输出不能直接叠加，需要增加输入x的维度后再进行相加。

图2 残差网络特征提取过程

3.2 诊断流程

航天器测控系统故障诊断流程分为4个步骤：数据预处理[22]、遥测信号-图像转换、诊断模型训练、故障诊断。如图3所示。

1) 数据预处理。首先将航天器测控系统故障数据集遥测信号与采集到的航天器遥测信号进行PCA降噪处理。

2) 遥测信号-图像转换。将2种数据集的遥测信号利用信号-图像转换方法，生成所需的故障集图像和测试集图像。

3) 诊断模型训练。故障集图像作为模型训练集，输入到残差网络后得到的特征向量，经过全连接层后由Softmax分类器直接输出损失值和准确率。

4) 故障诊断。将测试集图像输入该模型，判断所属故障类型，并计算诊断准确率。

图3 故障诊断流程框图

4 实例分析

4.1 航天器遥测信号处理结果

实验中使用的航天器测控系统故障数据集和测试集均来自某航天器的历史数据和地面测试数据，数据由某卫星测控中心提供，该数据集中故障1包含32 320组数据，故障2包含16 640组数据，故障3包含18 240组数据，故障4包含23 360组数据，每组数据包含64个数据量。首先将所有样本数据经过PCA降噪处理，然后进行信号图像转换，由于每组数据均是64维，为方便图像处理，将转换后的图片大小设置为64×64，并随机抽取其中的80%作为训练集样本、20%作为测试集样本。转换后的结果如表1所示。

原始遥测信号经过PCA处理后去除了大量噪声，保证了残差网络的训练效果，图4为信号降噪后转换的灰度图像。

表1 信号-图像转换结果Table 1 Signal-image conversion results

图4 航天器遥测信号灰度图

4.2 实验参数设置

本实验在Pytorch 0.4.1 (Python 3.6)的深度学习下框架进行，计算机配置为Intel Xeon E5-2630 v4 20处理器，64G内存，NVIDIA GeForce GTX 1080Ti显卡，模型训练过程选用Adam优化器来优化网络，配置学习率为α=10-3，衰减系数β1=0.9，β2=0.999，小值常数ε=10-8，Batchsize设置为64，epoch设置为800。验证过程与训练一致，epoch设置为100。

4.3 模型的训练与验证

将降噪处理后一维航天器遥测信号当作大量数字，利用统计原理对遥测信号进行挖掘后提取有效特征，并根据主元的累计贡献率保留包含重要特征信息的主元。由表2可知，前6个主元的贡献率累计达到95.774%，即前6个主元包含了航天器测控系统遥测信号特征的绝大部分信息。

为研究PCA方法中选取不同降噪比是否对故障分类的准确率有影响，考虑文中所选用的故障数据集来源于航天器历史数据和地面测试数据，主成分的累计贡献率大于85%，可保证整个主元模型的精确度。文中将PCA降噪比选取在0.85和1之间。其中，降噪比选取“0.88”表示保留原航天器遥测信号中88%的主要特征，即前3个主元，选取“1”表示不对数据进行降噪处理，保留原航天器遥测信号中所有特征。在每个降噪比下将试验重复10次，结果如图5所示。

表2 航天器遥测信号主成分累计贡献率Table 2 Cumulative contribution rate of principal components of spacecraft telemetry signal

图5 不同降噪比下的诊断准确率对比图

将本次实验结果进行统计可以得出:不同降噪比下的测试集平均诊断准确率均在90%以上，其中降噪比为0.88时诊断准确率的平均值最低为90.64%，当降噪比为1时有最高诊断准确率96.363%，但其平均值为94.706 2%。降噪比为0.95时测试的平均值为95.326%，在几个结果中均值最大，鲁棒性较好，由表3可知对航天器故障数据集使用适当比例的降噪比能在一定程度上提高诊断结果准确率。

表3 不同降噪比下的诊断准确率统计表Table 3 Statistics of diagnostic accuracy under different noise reduction ratios

图6为降噪比为0.95时，一次训练中测试集的诊断准确率随迭代步数的变化情况。由图可以得出:随着迭代步数的增加，诊断的准确率越来越高，迭代70次后，模型收敛并趋于稳定，最终测试集的诊断准确率为95.341 5%。

图6 降噪比为0.95的准确率

为观察PCA-ResNet模型在4类故障中的表现，在测试集上进行一次随机测试并绘制混淆矩阵。其中，横轴代表测试集真实标签，纵轴代表测试集的预测标签，主对角线为PCA-ResNet模型预测的正确样本数。由图7可以看出PCA-ResNet模型对航天器测控系统各类故障识别具有较高的准确度。

图7 测试结果混淆矩阵

4.4 对比研究

为验证提出的模型有较好地诊断效果，针对同一数据集，分别利用SVM、LeNet-5、ResNet18与所提模型进行比较，其中传统方法SVM可直接对一维原始遥测信号进行诊断，而其余3种模型均使用转换后的图像作为输入。为使对比实验更加可靠，对每种诊断模型都重复操作10次，epoch取值为100，最后诊断的准确率取10次平均值。各诊断模型的准确率如表4所示。