基于深度置信网络的多模态过程故障评估方法及应用

张 凯 杨朋澄 彭开香 陈志文

现代复杂工业过程的大规模连续生产给制造业带来高效益的同时也增大了事故风险.由于工业过程中的控制回路、过程变量相互耦合,一个部位的异常变化可能会随着传播不断演变,微小的故障也可能引起更严重的故障[1].因此,准确判断系统的故障程度并按照故障程度的不同调整生产决策和控制策略,能够提高生产的高效性和产品质量的稳定性.目前,工业过程故障等级评估方法已在有色金属[2]、化工[3]、电力[4]、高铁[5]、船舶[6]等行业成功应用,并取得良好效果.

随着工业自动化与数据存储技术的快速发展,基于数据驱动的故障等级评估方法被提出和广泛应用[7-9],如多元统计分析、机器学习、深度学习等.常用的多元统计分析方法包括主元分析 (Principal component analysis,PCA)[10]、偏最小二乘 (Partial least squares,PLS)[11]及其拓展方法等,这些特征提取方法通过将高维数据投影到低维空间来提取关键信息,并用于进一步的故障评估研究.随着人工智能的发展,支持向量机 (Support vector machine,SVM)[12]、判别分析 (Fisher discriminant analysis,FDA)[13]等典型机器学习方法被广泛应用,这类方法通过建立过程数据与评估指标之间的映射关系来实现故障评估.其中,SVM 通过高维空间映射寻找最优分类超平面,而FDA 通过降维投影建立判别函数.然而,这些方法大多局限于浅层学习,可能无法很好地处理非线性耦合数据,在故障评估中常与其他特征选择和提取方法相结合.近年来,深度学习因其能够自动提取大规模非线性数据的深层特征而被广泛研究与应用,如卷积神经网络(Convolutional neural network,CNN)[14]、堆叠自动编码器 (Stacked auto-encoder,SAE)[15]和深度置信网络 (Deep belief network,DBN)[16]等.其中,DBN 通过数据的概率分布来提取高层表示,与其他网络相比,DBN 兼具生成模型和判别模型双重属性,具有模型结构简单、训练难度小、易于拓展等优点.目前,DBN 已在图像处理、语音识别、医学诊断等任务中得到了广泛的关注和研究[17].

上述特征提取方法侧重于建立单模态的故障评估模型.然而,实际过程中往往存在多种工作模态,操作条件的变化、产品规格的多样性等使工业过程运行工况复杂多变,传统的单模态故障等级评估方法难以有效地提取和分析潜在的多模态数据特征,需要构建适用于多模态过程的特征提取模型和评估指标.一类常见的方法是将PCA、PLS 等基于多元统计的方法扩展至多模态.例如,文献[18] 利用多空间PCA 获取不同模态的独立特征,根据投影位置来评估在线过程运行状态,并综合经济指标来划分性能等级.文献[19] 采用最小体积椭圆自适应地对各模态特征方差的子空间进行建模,并根据子空间之间的距离设计评估退化指标.文献[20] 将经济指标信息融入到慢特征分析中,协同感知复杂工业过程的静-动态特性变化,实现了对运行状态的综合评价.为了提高对具有非线性、动态性多模态过程的处理能力,一些基于概率的评估框架被提出,如贝叶斯网络 (Bayesian network,BN)[21]、高斯混合模型 (Gaussian mixture model,GMM)[22]等.尽管上述方法在一定程度上解决了非线性问题,但每个模态中仍存在线性假设,影响了评估的准确性.当面对复杂的非线性和高维变量时,深度学习表现出更好的潜力,基于深度学习的评估模型受到越来越多的研究.文献[23] 提出了基于条件生成对抗网络的多模态图像质量评估方法,以平均意见分数建立评估指标,通过双通道自编码器 (Autoencoder,AE) 提取两个模态不同深度的特征,并在注意力机制的监督下进行分层融合特征.文献[24] 针对多模态过程建立多个AE 模型,并将数据压缩到一个共同的更小的潜在空间后进行跨模态重构,充分利用了故障信息.文献[25]提出一种基于DBN 的主动迁移学习方法,通过DBN 挖掘输入特征与暂态评估结果之间的非线性映射关系,并结合主动迁移方法提高了在线应用的快速性和鲁棒性.

现有的多模态过程故障等级评估方法针对不同的运行模态分别建立评估模型,仅考虑在所有模态的故障等级数据均已知条件下如何通过优化学习网络来提高评估的准确率,未考虑在某些运行模态各种故障等级信息未知下如何改进和优化算法.并且大部分方法只关注各模态数据的独有特征,缺少对各模态间共性特征的建模与分析.实际上,尽管模态在进行切换,但并不是所有变量的相关性都随模态切换发生改变,一些多模态过程具有明显的共同信息.例如,在带钢热连轧过程生产不同规格板带时,上游机架轧制力和辊缝变量遵循相似的轨迹,而弯辊力变量往往表现出不同的特性.因此,分别提取多模态过程的共性特征和各运行模态的个性特征[26],并根据故障对共性特征和个性特征的影响构建评估模型,可通过共性特征实现对部分模态缺失信息的补充,提高多模态过程故障评估的准确性.本文的故障等级评估方法示意图如图1 所示.

图1 融合共性-个性特征的故障评估方法示意图Fig.1 Schematic diagram of fault evaluation method integrating common and specific features

针对多模态过程的故障等级评估问题,本文以DBN 为特征提取基础模型并进行深层次拓展,提出了一种基于共性-个性深度置信网络 (Common and specific deep belief network,CS-DBN) 的故障等级评估方法.首先,针对多模态过程数据,构建一种CS-DBN 模型来提取模态间的共性特征和个性特征;其次,提出融合共性-个性特征的故障等级评估方法,考虑到两种特征对每个等级指标的重要性不同,给共性-个性特征分配不同的权重因子;最后,将所提方法应用到带钢热连轧过程中,利用实际过程数据验证所提方法的有效性.

1 问题提出与基本思路

本节以热连轧过程故障等级评估为例,介绍问题的提出与基本思路.图2 展示了3 种规格带钢生产过程中第2 机架轧制力的采样数据,若把3 种规格带钢生产过程视为3 种运行模态,可以看出,3 种模态的轧制力数据具有共性,即开始轧制阶段呈现上升趋势.另外,它们还有各自的独有特征,如模态3 轧制力增长到一定程度就趋于稳定,而另外两个模态轧制力分别呈现持续增长和持续下降的特征.传统故障等级评估方法大多根据故障的大小判断故障等级,忽视了故障对变量变化趋势等深层次特征的影响,因此容易出现误评估情况.以轧制力故障为例,该种故障在热连轧过程中属于较为严重的故障,3 种模态的轧制力故障下的轧制力数据如图3 所示.若已知模态1 和模态3 的轧制力故障数据,利用训练好的评估模型评估模态2 的故障等级,如图3 所示,由于模态1 和模态3 所训练的评估模型并不能完全覆盖到模态2 故障数据的全部信息,因此传统方法容易将该故障错评为一般故障或者正常.若利用模态2 的故障数据提取共性特征,如图3所示,该故障对共性特征的影响较大,利用模态1和模态3 共性特征训练好的评估模型可将此故障正确地评估为严重故障.弯辊力故障也是热连轧过程经常发生的故障,当弯辊力发生异常后,会间接影响轧制力的动态设定,该故障对带钢产品的厚度影响较小,常被当做轻微的故障.图4 给出了3 种模态弯辊力故障下的数据曲线,如果利用模态1 和模态2 的故障数据训练评估模型并评估模态3 的故障等级,由于模态3 的故障数据范围已经超越了模态1 和模态2 的故障数据范围,传统的评估方法易将该故障误评为严重故障.而如果利用模态3 故障数据提取的共性特征来评估,如图4 所示,由于共性特征并没有受到较大影响,因此可被正确评估为轻微故障.因此,可以看出,若不考虑各模态间的共性特征和个性特征,很容易导致错误的评估结果.

图2 热连轧过程单变量共性-个性特征分解示意图Fig.2 Schematic diagram of single variable common and specific feature decomposition in hot rolling process

图3 轧制力故障共性特征等级评估示意图Fig.3 Schematic diagram for evaluating the common feature grades of rolling force faults

图4 弯辊力故障共性特征等级评估示意图Fig.4 Schematic diagram for evaluating the common feature grades of bending force faults

基于以上思路,剩余部分的具体工作包括: 第一,构建共性-个性深度置信网络模型,实现式 (1)和式 (2) 所描述的映射关系;第二,提出融合共性-个性特征进行故障等级评估的方法.

2 共性-个性深度置信网络

本节提出了CS-DBN 模型来提取各模态数据中隐含的共性特征和个性特征,同时结合已有方法总结了CS-DBN 的特点.

2.1 特征提取网络结构

多模态共性-个性特征提取框架如图5 所示.网络由三部分组成,分别是预训练网络、特征变换网络和重构网络.预训练网络建立并行DBN,以标准化后的模态数据Xm作为各子网络输入,提取各模态数据的深层特征Zm.特征变换网络将每种模态的特征分别分解为共性特征和个性特征,以预训练网络的输出Zm作为输入,结合MK-MMD(Multi-kernel maximum mean discrepancy)[27],将每个模态特征数据映射为具有最小分布距离的共性特征和具有最大分布距离的个性特征.同时,为了增强模型的鲁棒性,首先,将获得的各模态共性特征和个性特征通过多层感知机 (Multilayer,perceptron,MLP)[25]层映射至共同的ζ维度;然后,将第m个模态学习得到的共性-个性特征与其他模态的共性特征进行加性融合,以从其他模态学习到的共性特征来增强该模态共性信息的表示,进而作为重构网络的输入.重构网络利用权重矩阵的转置重构输入数据得到通常采用反向传播 (Back propagation,BP) 算法,使用重构数据与原始数据的误差平方和进行反向调参,以无监督的方式对整个网络进行参数的全局优化.

图5 DBN 与CS-DBN 网络结构示意图Fig.5 Schematic diagram of DBN and CS-DBN network structure

2.2 DBN 预训练

图5 展示了通过DBN 逐层预训练提取每个模态运行数据特征的过程.DBN 由多个受限玻尔兹曼机 (Restricted Boltzman machine,RBM) 堆叠而成,RBM 由可见层和隐藏层组成,将前一个RBM 的隐藏层输出作为下一个RBM 可见层的输入,自下而上初始化DBN 的参数.在训练过程中,单个RBM 采用对比散度 (Contrastive divergence,CD)[28]算法进行一步吉布斯采样,参数更新公式为

式中,vi和ai分别表示第i个可见单元的状态和偏置,hj和bj分别表示第j个隐藏单元的状态和偏置,为显层和隐层通过条件概率采样生成的重构数据;w ij为第i个可见单元及第j个隐藏单元间的连接权重;ε为学习率.此外,为了提高训练的速度,避免过拟合,本文将w ij,ai和bj的更新规则分别改进为

式中,α为加速学习过程的动量,t表示迭代的次数,ξ为权重衰减项.通过这种方式逐个训练RBM.在提出的模型中,第一层的可见单元是实值,使用高斯受限玻尔兹曼机来训练网络的第一层[29],然后使用伯努利受限玻尔兹曼机进行深层RBM 的训练.

DBN 预训练可称为编码过程,第m个模态的数据Xm=[xm,1,xm,2,···,xm,Nm]T经过DBN 预训练后,最高层RBM 的输出为深度特征Zm.再将深度特征数据反向逐层解码,增加与DBN 对应的后向微调步骤,可以得到微调后的重构数据每个模态无监督的DBN重构训练损失函数为

2.3 特征转换层

在提取的多模态深度特征基础上,进一步设计特征转换层.预训练后,将各模态深层特征Zm分别通过映射至nc维共性特征空间和ns维个性特征空间,并将共性-个性特征视为来自两个分布的样本,采用MK-MMD 计算分布距离来分离两种特征.

MMD 通过核映射方法将两个分布的关键统计特征嵌入到高维再生希尔伯特空间 (Reproducing kernel Hilbert space,RKHS) 中,然后计算核均值嵌入之间的距离,但MMD 在很大程度上依赖于核函数的选择.为了解决核函数对最终映射性能的影响,本文采用MK-MMD 算法,该算法在原始MMD 特征核的基础上,利用多个高斯核的线性组合来增强距离度量性能,从而能够更准确地将输入空间的值映射到RKHS 中得到最优值.

在训练阶段,为了降低计算复杂度,本文采用Gretton 等[27]提出的MK-MMD 的无偏估计.MKMMD 的计算可以转换为

其中,Lre,m的定义为式 (9).α re,αc,αs分别为重构部分以及共性-个性特征部分的参数,用以平衡各项,使网络损失函数最小化.

2.4 方法特点及对比分析

在构建的CS-DBN 网络中,共性特征的维度nc需要在模型训练的时候确定.根据式 (14) 可以看出,当nc从1 开始逐渐增大时,各模态共性特征间的MK-MMD 距离不会有较大增加.由于整体的重构误差Lre,m逐渐减小,因此Lm会呈现下降趋势.当nc取值增大时,共性特征间的距离会逐渐变大,导致Lre,m的下降变得不明显.综上,在训练过程中可以将nc从1 逐渐增大到n c,max,并记录损失函数值Lre,m,当损失函数值不再明显减小时,记录此时的nc.

CS-DBN 通过概率生成和非线性映射建立原始数据与特征间的关系,更适合于复杂非线性工业过程.与文献[30] 和文献[31] 中方法相比,在特征提取的原理方面,CS-DBN 在满足共性特征距离最小、个性特征距离最大的前提下,通过最小化重构误差来获取特征,充分地结合了传统方法的特点.在训练过程中,CS-DBN 不要求各模态的数据等长,这也极大地扩展了方法的通用性.从投影空间的角度获取的共性特征和个性特征相互正交,这有利于构建互补的故障检测指标,而CS-DBN 和基于张量分解方法不能满足特征的正交性,各种方法的特点及比较总结如表1 所示.接下来,将介绍如何结合CS-DBN 的特点构建故障等级评估方法.

表1 各类共性-个性特征提取方法特点总结Table 1 Summary of characteristics of various common and specific feature extraction methods

3 融合共性-个性特征的故障等级评估

本节在CS-DBN 的基础上,提出了融合共性-个性特征进行故障等级评估的方法.

3.1 故障等级划分

如第1 节所描述,模态间的共性特征关联了多个操作模态的状态,影响共性特征的故障会引起系统结构性故障,表现为影响多个模态的关键质量指标,属于严重故障.影响模态个性特征的故障,可以通过系统的闭环调节及时补偿,不会对关键指标产生影响.并且,由于特征变量间的耦合作用,影响各模态个性特征的故障可能会由于未及时检修或故障较大等原因,演变为影响多模态共性特征的故障.因此,可以根据故障对共性特征和个性特征的影响构建评估方法.本文结合国家标准GB/T709-2006将故障划分为3 个等级: “轻微故障”、“一般故障”、“严重故障”.具体来说,当有故障发生时,将主要影响个性特征且不影响质量指标的故障划分为“轻微故障”;将同时影响共性特征和个性特征且对质量指标的影响较小的故障划分为“一般故障”;将对共性特征影响较大且对质量指标影响较大的故障划分为“严重故障”.

3.2 故障等级评估模型

式中,θ c=[θc,1,θc,2,···,θc,G]T为权重矩阵.类似地,个性特征属于每一类的概率也可以按照式 (16) 计算得到.

共性特征和个性特征共同决定了故障等级且对每个等级的故障贡献值不同,因此不能仅将两种特征通过拼接或加和来进行等级评估训练.为了获得更好的性能,在训练阶段根据两种特征的重要性进行加权,得到属于每个等级的概率h′(xm,i),最终xm,i属于每个等级的概率h′(xm,i) 计算为

最终的评估结果 G rade(xm,i) 确定为h′(xm,i)中概率最大值对应的等级.式(17)中,λ(0≤λ≤1) 为特征的加权系数,λ越大表示共性特征分量在等级评估过程中所占比重越大.当λ=0 时,表示只有个性特征分量,个性特征反映了各个模态内的信息,因此,当用于训练模型的各模态故障信息不足时,可能会影响评估精度.当λ逐渐增大至1 时,表示在确定故障等级时只有共性特征分量起作用.

3.3 基于CS-DBN 的故障等级评估方法总结

以热连轧过程为例,本文所提出的方法可总结如图6 所示.选取该过程几个典型规格的带钢轧制过程作为M个工作模态,并将这些模态的运行数据导出作为CS-DBN 的网络训练数据.同时,可以利用各模态已知的故障等级数据生成共性-个性特征正常/故障特征集,用来训练评估模型.当在线得到待评估模态数据后,可利用训练的模型参数进行在线故障等级评估.详细的方法总结可描述如下:

图6 基于CS-DBN 的故障等级评估流程图Fig.6 Flow chart of fault grade evaluation based on CS-DBN

1) 离线建模:

a) CS-DBN 模型的构建:

i) 获取M个模态正常工况下的数据并进行ZScore 标准化处理;

b) 等级评估模型的构建:

iii) 训练加权LR 的各等级参数θc和θs,根据式 (17) 确定故障等级.

2) 在线应用:

4 带钢热连轧过程应用验证

本节将所提方法用到热连轧精轧过程中,通过实际精轧过程数据验证本文方法的评估效果.

4.1 过程描述及数据描述

4.1.1 过程描述

带钢热连轧主要由加热炉、粗轧机、飞剪、精轧机组、层流冷却和卷取机等相互耦合的工序构成,热连轧过程布局如图7 所示.其中,精轧机组是控制成品质量和保障系统安全的关键环节,精轧机组由F1至F7共7 台机架串联组成,每个机架由一对工作辊、一对支撑辊以及相应的液压压下装置等部分构成.四辊轧机的下支撑辊的下部设有轧制力检测传感器.工作辊之间的辊缝控制由高精度的液压伺服控制系统完成,通过设定辊缝值来保证带钢的出口厚度.出口厚度是关键性能指标之一,厚度精度取决于精轧机压下系统和厚度控制系统 (Automatic gauge control,AGC) 的设备形式,现代化AGC 能综合采用多种形式的厚度自动控制系统,以适应不同钢种、规格和工艺参数变化的要求.

图7 热连轧机组及精轧机组布局图Fig.7 Schematic diagram of hot continuous rolling unit and finishing rolling unit

4.1.2 数据描述

本文采用某钢铁厂带钢热连轧现场采集的过程数据来验证所提方法的有效性.数据描述如表2 所示.选择Q235B 碳素结构钢4 种规格带钢的生产过程作为4 种模态,4 种规格带钢的出口厚度分别为2.30 mm、2.70 mm、3.00 mm 和3.95 mm.评估数据为该过程的关键过程变量,包括7 个机架的辊缝、轧制力和弯辊力 (第1 机架无弯辊力控制) 共20 个过程变量.

表2 热连轧过程多模态数据描述Table 2 Multimode data description of hot continuous rolling process

不同模态的故障等级数据可通过如图8 所示的热连轧过程故障注入系统获得.该系统集成了热连轧过程压下、温降、弯辊、活套等各类机理模型,通过读取实际的多规格生产过程、工艺设定及轧机的状态数据,并利用增量叠加形式将各类故障注入到正常的过程数据,从而获得各种等级的故障数据.实验表明,该系统可较好地模拟实际生产过程的故障产生、传播及对产品质量的影响.在该系统中可读取表2 所描述的4 种规格的正常过程数据,并通过选择故障类型、故障大小及故障发生位置等信息实现故障注入.

图8 热连轧故障注入系统Fig.8 Fault injection system for hot continuous rolling

本文选取了热连轧过程常见的3 类典型故障进行方法验证.3 类故障按照第3.1 节的划分标准可分别归类为“轻微故障”、“一般故障”和“严重故障”.故障类型1 为F5弯辊力传感器故障,由于系统的闭环控制,该故障可以通过增大F6和F7的弯辊力来补偿,因此只影响各模态的个性特征,不会对出口厚度造成影响.故障类型2 为F4辊缝故障,该故障将影响F4和F5的轧制力和辊缝,但由于AGC 系统的补偿控制,可以通过压下设备做相应调节来消除厚度偏差.故障类型3 为F2与F3间冷却水阀执行器故障,该故障会导致F3轧钢入口温度升高,由于前馈控制器的影响,F3及之后机架的轧制力和辊缝都会受到影响,最终影响钢品出口厚度,在这种情况下,任何带钢类型的生产过程都将受到影响,因此系统的共性特征和个性特征都将受到影响.综合考虑故障影响的变量以及钢品出口厚度差,本文将每个模态的数据划分4 个等级,故障划分结果如表3 所示.

表3 热连轧过程故障等级划分及标签添加Table 3 Fault grade division and label addition in the hot continuous rolling process

4.2 故障信息已知下的等级评估

4.2.1 模型训练

如第3.3 节所描述,整个模型训练分为两步: 1)CS-DBN 特征提取模型;2) 故障等级评估模型.选择第4.1.2 节中描述的4 个模态的正常工况数据训练CS-DBN 模型,每个模态数据包含20 个变量3 000个样本,组成训练集Xm∈R3000×20,m=1,2,3,4.

CS-DBN 的训练过程首先对每个模态建立DBN 子模型.采用试错法进行超参数选择,逐层设置隐含层节点数并依次叠加RBM 层数,根据损失曲线收敛的速度和大小初步确定DBN 的结构参数、损失函数L的各约束项以及迭代步数 (epoch).中间特征转换层共性-个性特征维度nc和ns是影响评估结果的关键参数,维度较低可能不能充分提取信息,维度较高则会产生冗余信息.在确定维度值时,首先固定nc为1,ns由1 逐渐增大,观察收敛曲线,可确定获得最小收敛值时ns维度为7;再固定ns值,逐渐增加共性特征维度,不同nc值的重构误差收敛值如图9 所示.为了简化模型结构,最终选择最佳共性特征维度为5.综合以上调试结果,DBN 结构最终包含2 个隐含层,预训练部分最佳DBN 网络结构为20-35-14,中间特征转换层权重设置为m=1,2,3,4.批次数Nb设置为80,学习率ε为0.0001,迭代步数设置为600 次,随机失活率dr 设置为0.5,具体模型参数设置如表4 所示.

表4 CS-DBN 模型参数Table 4 CS-DBN model parameters

图9 共性特征维度 n c 与重构误差Fig.9 Common feature dimension nc and reconstruction error

为验证本文所提方法的收敛效果,图10 给出了CS-DBN 训练过程中的迭代曲线.其中,图10(a)为CS-DBN 损失函数L在训练过程中的迭代曲线.可以看到,在迭代次数达到400 步时,训练过程迭代曲线已经明显收敛.图10(b)、图10(c)为不同模态的共性特征间和个性特征间MK-MMD 值的迭代曲线.可以看出,随着训练次数的增加,不同模态的共性特征间MK-MMD 值呈现出不断减小的趋势至收敛,反之个性特征间MK-MMD 值随迭代次数逐渐增大.这反映出MK-MMD 方法可以区分不同模态数据分布间的相似性和差异性.

图10 CS-DBN 训练过程迭代曲线Fig.10 Iterative curve of CS-DBN training process

基于CS-DBN 模型,可获得各模态正常工况数据和不同等级故障数据的共性特征以及个性特征共性-个性特征与等级标签匹配后用于训练等级评估模型部分.等级评估模型训练集由每种模态正常数据以及不同等级故障数据各2 000 组组成.测试集为第4 个模态的数据,包括1 000 组正常数据和3 000 组各等级故障数据.

4.2.2 等级评估结果

为了验证所提方法的应用效果,本文将基于CS-DBN 的等级评估结果与SVM、FDA 两类典型机器学习方法以及DBN、SAE 结合Softmax 深度学习方法的等级评估结果对比,以说明本文所提方法的优越性.4 种对比方法对模态数据进行整体建模,利用4 个模态的正常数据和已有的各模态等级故障数据训练评估模型.其中,SAE 的隐层神经元数设置为40-25-4,DBN 结合Softmax 的网络结构设置为35-14-4,SVM 的核函数设置为径向基核函数.为了清晰地展示评估精度,本文引入准确率(Accuracy)、精确率(Precision)、MacroF1 作为评估指标[15,25].

当训练过程4 个模态全部故障信息已知时,等级评估结果如表5 所示.对比可知,在4 个模态各等级故障信息已知的情况下,5 种方法评估结果都有较高的准确率、精确率和MacroF1.其中,融合共性-个性的故障等级评估方法的各项指标均达到98% 以上,高于其他4 种方法.因此,融合多模态共性-个性特征的评估方法可以更加有效准确地判断故障等级.

表5 各模态全部故障信息已知下的评估结果 (%)Table 5 Evaluation results for cases that all fault information in different modes is known (%)

4.3 故障信息部分已知的等级评估

为了进一步验证本文方法在多模态故障数据不充分下的应用效果,本节考虑训练过程中多模态部分故障信息不全的情况,设计包含不同故障信息的案例,并通过新模态数据进行评估结果验证.

4.3.1 故障信息不完全情况下的评估结果

在CS-DBN 模型训练完成后,选择4 个模态的正常数据以及前3 个模态的部分故障数据作为评估模型的训练集.同时将第4 个模态的各等级数据共4 000 组作为测试集,即在训练过程中测试集的各等级故障数据均未参与故障等级评估模型的训练.

表6 以准确率指标为例展示了各模态不同故障组合案例下的评估结果.案例A 考虑了每个训练模态中包含最多两种等级故障数据下的评估准确率,其中A-1 到A-8 是各模态间不同的组合情况.可以看出,当故障信息较少时,CS-DBN 方法整体故障等级评估准确率在60.00% 以上,均高于其他4 种方法,同时,在多数情况下,SVM 和FDA 方法评估失败(Accuracy ≤ 50.00%).案例B 设置为每个模态均有两种等级的故障数据,故障信息较案例A 增多.从评估结果可以看出,与案例A 相比,在B-1至B-8 不同故障数据组合情况下所有方法的评估准确率均有所提升,CS-DBN 在某些故障组合下准确率可达到85.50%,平均准确率为71.92%,远高于DBN 的61.47% 和SAE 的58.25%.在案例C中,某些模态的故障等级数据从两种增加至三种,更多的故障数据参与训练提升了评估效果.其中CSDBN 方法在所有故障组合下准确率均高于70.00%,平均准确率为73.12%,高于DBN 的70.47% 和SAE 的64.85%.同时,FDA 和SVM 方法也均超过50.00%.案例D 设置为训练过程中至少有两个模态有三种等级的故障数据.评估结果显示,CSDBN 方法的平均准确率为80.79%,同时在4 个故障组合中,准确率均高于80.00%,最高为88.25%.与之相比,FDA 和SVM 平均值仍为50.00% 左右,DBN 和SAE 方法也无较大提升.

表6 各模态部分故障信息已知下的评估准确率结果 (%)Table 6 Evaluation accuracy results for cases that part of fault information in different modes is known (%)

总结表6 可知,随着更多的故障等级数据参与训练,5 种方法的评估准确性都有所增加.CS-DBN方法因其可以提取多模态过程的共性信息,能够更好地学习到多模态过程同一等级故障数据间的共性特征,与传统方法相比,评估准确率提升近10%.本文所提模型可以更准确地评估未知故障信息下的模态所发生的故障.

4.3.2 待评估模态故障信息未知下的评估结果

当前3 个模态的全部故障信息已知时,选择4 个模态的正常数据以及前3 个模态的各等级故障数据训练评估模型,使用第4 个模态的各等级数据(均1 000 组) 进行测试.图11(a)～图11(e)分别展示所提方法和对比方法的等级评估结果.如图11(b)和图11(c)所示,DBN 和SAE 在“严重故障”和“一般故障”等级中有较多的误评估样本.由图11(d)和图11(e)可以看出,当待评估模态故障信息未知时,SVM 和FDA 的评估精度较低,其中FDA 未能区分“严重故障”和“一般故障”,造成了精确率和Macro-F1 值失效.CS-DBN 方法的评估准确率达到了92.40%,精确率达到了92.64%,MacroF1 达到了92.37%,仅在“正常数据”和“轻微故障”里有少量评估失误,评估准确率较第4.3.1 节中案例D 的结果提升了11.61%.可以看出,当用于训练的故障信息增多时,本文所提方法能够充分利用不同模态的共性-个性特征,进一步提高模型的性能.

图11 前3 个模态全部故障信息已知时的评估结果Fig.11 Evaluation results with full knowledge of faults in the first three modes

4.3.3 权重因子 λ 对评估结果的影响分析

图12 展示了在不同故障信息的实验中权重系数取值与评估准确率的关系.图12 中,实验1 至实验10 为评估模型训练中故障信息逐渐增多的代表性案例.例如,实验1 中故障信息为模态1 至模态3 分别含有一种故障等级数据;实验5 中故障信息包括模态1 的“轻微故障”、模态2 的“一般故障”与“严重故障”、模态3 的“轻微故障”与“一般故障”;实验10 包含4 个模态的全部故障信息数据.当λ=0时,即只有个性特征部分参与等级评估的情况,每种实验的评估准确率都较低.如图12 所示,当λ逐渐增加,评估准确率开始提高,其中,在实验4、实验5、实验6、实验8 中,随着λ超过0.25,评估准确率逐渐提升.在实验2 和实验3 中,当λ达到0.55 时,评估准确率逐渐提升.λ增加到一定程度后,评估准确率会有所下降,例如,在实验6 至实验9 中,当共性权重因子增加至0.9 时,评估准确率出现下降情况.在实验10 中,当共性权重因子增加至0.75 时,评估准确率开始下降.综上所述,为了使等级评估结果在不同故障信息已知的情况下都相对最优,λ的合理范围选择为0.55 至0.75,本文中λ=0.6.

图12 共性特征权重因子分析Fig.12 Weighting factor analysis of common features

应用结果验证可知,CS-DBN 方法可以通过深度挖掘热连轧多规格带钢生产过程数据间的共性特征和个性特征,构建更适合于多模态过程的故障等级评估模型.该方法在故障等级数据不充分的情况下,利用不同模态数据的共性故障特征同样能取得较好的等级评估结果.

4.3.4 模型鲁棒性分析

本文的鲁棒性可从两个方面进行分析.首先,与线性共性-个性特征提取方法相比,当数据出现缺失或离群值时,传统方法通过构建投影空间或基向量来提取特征,容易导致投影空间获取偏差,进而无法获取准确的共性-个性特征,而CS-DBN 采用了神经网络的方法,通过非线性激活函数和训练过程的dropout 技术,可以使训练数据中离群值的影响较小,提高了方法在低质量工业数据建模中的鲁棒性.其次,CS-DBN 可以通过增加训练过程的模态数量来更新所提取的共性特征和个性特征,因此当测试数据为未参与训练的数据时,模型也能有良好的共性-个性特征提取结果.以本文验证过程为例,一个时间段内采集的10 个批次的热连轧过程数据为数据集,其中每个批次有各自的轧制过程设定.实验过程选择其中的部分模态为训练集,另一部分作为测试集,通过增加或减少参与训练的模态数据提取模态的共性特征和个性特征.验证结果表明,当参与训练模态的数为4 时,提取的共性-个性特征已经能较好地覆盖这10 个模态的信息,有较好的故障等级评估结果.但是由于本文所提模型仍具有一定局限性,当过多模态数据参与模型训练时,网络复杂度会提高,特征提取的结果也会有所影响,因此,本文的实验验证选择4 个模态进行训练.

5 结论

本文针对多模态过程的故障等级评估问题,提出一种基于CS-DBN 的故障等级评估方法.首先,在传统DBN 基础上,结合MK-MMD 分布度量构建了CS-DBN 模型,以解决多模态过程中共性-个性特征提取问题.同时,融合多模态共性特征和个性特征构建了基于加权逻辑回归的故障等级评估模型.本文将所提出的方法应用到热连轧多规格带钢的生产过程中,并利用热连轧过程故障注入系统生成多规格带钢多种故障等级数据进行方法验证.验证结果表明,与传统评估方法相比,所提方法在故障等级信息缺失下能够提高评估准确性;当多模态故障等级信息充足时,评估准确率可达98.75%.

未来将针对其他深度学习算法进行改进和优化,提升多模态过程故障等级评估的精度,并对复合故障下的多标签评估与分类方法开展研究.