基于分步时空JITL-MKPLS的间歇过程故障监测

高学金, 孟令军, 王 豪, 高慧慧

基于分步时空JITL-MKPLS的间歇过程故障监测

高学金1,2,3,4, 孟令军1,2,3,4, 王 豪1,2,3,4, 高慧慧1,2,3,4

(1. 北京工业大学 信息学部, 北京 100124; 2. 数字社区教育部工程研究中心, 北京 100124;3. 城市轨道交通北京实验室, 北京 100124; 4. 计算智能与智能系统北京市重点实验室, 北京 100124)

针对多阶段时变的间歇过程难以用全局模型准确描述生产过程的动态变化及传统局部建模每个工作点都需要重新筛选样本建模导致计算量较大的问题，提出一种分步时空即时学习的局部建模策略。采用仿射传播(AP)聚类的方式对历史数据样本集中的数据进行初步分类，在当前输入样本数据到达后，确定当前样本数据所属的类别，在此类别所限定的子数据样本集中使用时间和空间相结合的即时学习策略确定出局部相似样本，建立多向核偏最小二乘监测模型。将该算法在青霉素发酵仿真数据和大肠杆菌发酵过程生产数据上进行验证，结果表明，所提方法不仅减少了不必要的计算量，还能够更加精准即时地进行故障监测。

时空即时学习；分步；多向核偏最小二乘；局部建模；故障监测

1 前 言

间歇过程作为现代工业过程中极其重要的一种生产方式，已经被广泛应用于医药、食品、生物化工、半导体等多品种、高附加值产品的生产中[1]。但是在实际过程中，由于设备老化和外在环境突变等一系列问题，故障时有发生。因此，对间歇过程进行故障监测对于保证生产过程的安全以及提高产品质量变得至关重要[2]。

多路主成分分析(MPCA)和多路偏最小二乘(MPLS)通过将三维历史数据首先展开为二维矩阵再使用主成分分析(PCA)或偏最小二乘(PLS)方法对得到的二维矩阵进行分析，在间歇过程的故障监测领域得到广泛的应用[3-5]。然而，由于工业过程变量绝大多数是非线性的，而PLS假设监测数据是线性的，因此不能很好地满足于工业实践。为了解决这个问题，Rosipal等[6]将核技巧与PLS结合提出了一种核PLS(KPLS)算法，该算法可以有效解决监测数据的非线性问题[7-8]。但是传统的基于KPLS的监测方法是对整个过程建立全局模型，而对于多阶段时变的间歇过程[9]，建立单一的全局模型通常难以精确描述动态过程的变化特性。因此，将整个运行过程划分为多个阶段区域，再在每个区域内建立局部模型显得尤为重要。过程在不断变化，模型需要不断地更新来适应过程的变化，从而才能更准确地分析新样本。为了建立局部模型，即时学习(just-in-time-learning，JITL)策略近期被提出并被广泛应用于过程建模和监控[10-11]。已有学者在局部建模方面做出了贡献，Liu等[12]提出即时递推核学习(just-in-time kernel learning)方法，通过构造累积相似度因子，选择相似的样本集建立核学习辨识模型，但是，根据数据样本间的空间欧氏距离和角度信息来选择学习集，而忽略了数据的时间特性；Chen等[13]提出一种应用遗忘因子以降低在线JITL选择数据量的方法，Hu等[14-16]采用一系列滑动窗以及自适应相似性度量改进传统JITL，尽管这些方法可以减小模型的计算负担，但是，这些方法有可能使部分历史数据丢失，而且遗忘因子或者窗口宽度的调整也存在问题。

在基于即时学习[17-18]的建模方法中，最为关键的是用以建立局部模型的学习集的选取。传统的即时学习算法一般根据数据样本间的空间欧氏距离和角度信息选择学习集，而不考虑数据的时间特性，因此当有异常数据出现时，就可能出现模型偏移的问题，同时，在进行局部建模时，对每个工作点都重新进行局部建模，建模计算量较大，耗时较长，模型输出的即时性也会受到影响。针对以上2个问题，本文提出一种分步的时空即时学习算法：首先，采用仿射传播(affinity propagation, AP)聚类[19]用于分析经过展开及标准化的历史数据，计算出相对能够代表普通历史数据的聚类中心。在线监测阶段，计算采集到的当前时刻的数据与聚类中心的关系，并对历史数据进行初步筛选；之后用融入时间特性[20]的时空JITL方法从这些初步筛选的数据中进一步进行精选以取得更精确的历史数据；最后，采用(multiway kernel partial least square, MKPLS)算法与选择的这些数据建立局部模型，并对当前的过程进行实时监测。

2 多向核偏最小二乘法

PLS作为一种分析输入变量空间和输出变量空间的相互关系多元回归算法[21-22]，能够很好地将线性数据间的潜在特征提取出来，但是当这些数据是非线性时，由于PLS的固有线性，很难显示出优越性。为了解决非线性问题，核方法被引入到PLS算法中，它通过构造一个投影将原始空间中的数据投影到高维空间降低数据整体的非线性。

输出数据的预测值为

此外，在建立KPLS模型之前，通常还需要对核矩阵进行中心化处理。

3 分步时空JITL局部样本筛选

3.1 分步历史数据样本筛选策略

分布历史数据样本选择策略的思想是保持模型精确度与一般算法处在相同水平的前提下，降低计算量需求，保留对全部历史数据进行筛选的可能性。在传统JITL方法应用的阶段，需要对历史数据中每一个样本进行相似度的计算，然而这样的计算在一个具有个数据样本的历史数据中需要进行次。所提出的方法可以分为3步，即离线准备阶段、初步在线筛选阶段、在线精选阶段。首先，离线准备阶段需要利用AP聚类方法取得历史样本的聚类中心，以供在线阶段使用；第2步，对新采集到的当前样本向量同初步筛选阶段得到的聚类中心计算新的隶属关系。最后，一个相关子数据集被选择出来，并进行在线精选之后这一组更小规模的数据会被用于局部的KPLS建模过程当中。这种方法寻找共同的基准点，从传统的大量的互为相对基准点计算转变为对有限个独立基准点进行的计算，从与全部历史样本进行对比到只与几个样本进行对比，因而在一定程度上可以减小算法的计算时间。

AP聚类是基于数据点间的“信息传递”的一种聚类算法，最大的优势是不需要在运行算法之前人为指定聚类的个数，而经典的K-means方法、模糊C均值(fuzzy c-means，FCM)方法都需要依据经验事先人为指定聚类个数，带有明显的人为因素，因而聚类的结果并不能保证真实有效，也无法反映实际生产过程的阶段特性。AP聚类算法将全部样本点看作网络的节点，自动地找寻具有代表性的聚类中心，使得所有样本点到最近的类代表点的相似度之和最大[23]。

AP算法定义了吸引度信息矩阵和归属度信息矩阵:()表示从到的消息，描述的是样本对象适合作为样本对象的聚类中心的程度；相反地，()表示从到的消息，描述的是样本对象选择样本对象作为其据聚类中心的适合程度。AP算法进行交替2个信息传递的步骤，以更新2个矩阵。

首先，吸引信息r1()按照式(4)迭代。

在进行迭代时，如果迭代次数超过设定的最大值或者当聚类中心在若干次迭代中不发生改变时停止计算并确定类中心及各类的样本点。

3.2 时空JITL局部模型

JITL是一种局部建模思想，主要目的是从历史数据库中选取与当前数据对应的最相似的历史采样，而全局建模利用的是历史数据库中的全部数据。因而利用JITL策略选择相似样本建模，最大的优势是可以提高模型的精度。传统的即时学习策略在从包含历史信息的数据库中选择相似样本，并构造学习集时采用的是基于欧氏距离和角度信息的相似度计算方法，相似度大小可以直接反映出和的靠近程度，选择建模数据时按照相似度由大到小依次选取若干数据，如式(7)所示：

传统的即时学习算法一般根据数据样本间的空间距离进行学习集的选择，而不考虑数据的时间特性。在间歇生产过程中，设备特性、生产状况等会随时间发生变化，导致测量的数据在时间维度上显示出差异，因此在选取学习集的时候有必要考虑数据的时间特性。因此本文借鉴牛大鹏等[20]的方法将数据的时间特性加入即时学习算法的相似度计算公式中，用于局部模型的建立。

融入时间特性的即时学习需要确定时间权重，首先假定所选择的学习集的时间权向量为

为了充分反映样本中权重包含的信息程度，定义一个时间权向量的熵w，如式(10)所示。熵是度量信息大小的一个指标。熵值越大，则数据所含信息量越小。时间权向量的熵反映了对样本的集结过程中权重包含信息的程度。

为了反映样本中不同时段数据的权重差异，定义一个时间度，取值在0到1之间，如式(11)所示。即=0.1时，表明越注重距离当前工作点较近的数据；当=0.5时，说明同样重视所有时期数据；当=0.9时，表明越注重远期的数据。

本文中时间度根据赋值规则选取，的确定既要充分考虑主观的专家经验知识，也要兼顾时间样本点本身所包含的客观信息，所以的确定可转化为式(12)所示的非线性规划问题。

综上，基于时间和空间相结合的JITL学习集选取规则为

式中：为可以调节的参数。若输入样本x波动较小时可以选取较大的值；反之，则可以选取较小的值。

4 基于分步时空JITL-MKPLS的间歇过程故障监测

间歇过程的数据一般呈三维矩阵，本文针对间歇过程的数据特性选取一种基于分步时空JITL-MKPLS 算法进行故障监测。在利用本文所提的分布时空JITL算法从历史样本选择出与在线样本相似的样本后，采用MKPLS算法对筛选出的样本进行建模，采用Hotelling的T2统计量和SPE统计量作为监测指标，判断在线样本点是否发生故障。T2统计量和SPE统计量定义如下：

本文提出的基于分步时空JITL-MKPLS的间歇过程如图1所示，具体建模步骤如下：

图1 分步时空JITL-MKPLS监测流程图

1) 历史批次数据采集，包括测量变量数据和相应的已经测量得到的质量变量数据；

2) 将数据沿变量方向展开并进行标准化，记录方差与均值；

3) 对已得到的展开数据运用AP聚类算法，得到对应的聚类中心，聚类个数；

4) 在线监控一新批次数据，设当前新采样序号为，利用相同的展开方式对该数据进行标准化处理，方差及均值则采用历史数据中的方差与均值；

5)选择与最相似的类作为初步建模数据fir；

6) 应用时空JITL策略计算对应初步历史数据fir的相似度，精选出符合要求的第二步建模数据sec，其对应采样点的质量数据记为sec；

7) 对所选的相似样本进行核计算，得到核矩阵；

8) 将和作为KPLS运算的输入，得到相应的得分矩阵和，计算监测模型的监测限；

10) 对核向量进行中心化和归一化：

式中：1为值均为1/的1´维矩阵，1为值均为1/的´维矩阵，为平均中心核矩阵。

11) 对于新样本，计算得分向量：

式中：为对应的得分矩阵，为对应的得分矩阵。

12) 计算在线样本的T2和SPE统计量，判断在线样本的统计量是否超限。

5 实验验证

5.1 青霉素发酵仿真实验

青霉素发酵过程是一个典型的动态、非线性、多相间歇过程。本文采用伊利诺伊理工学院开发的用于青霉素发酵的仿真平台进行实验，它可以对不同操作条件下青霉素生产过程的微生物浓度、CO2浓度、pH值、青霉素浓度、氧浓度以及产生的热量等进行仿真。实验中每批的整个持续时间为400 h，采样间隔选择为1 h。为了检验该算法对故障监测的有效性，本文选择10个过程变量1、2、2345678910和2个质量变量1、2构建统计模型，变量名称如表1所示，设计了30批正常数据样本用于建模，一批额外正常数据和两批故障批次用于测试。其中选择30批正常数据的三维数据矩阵为30×10×400和30×2×400。为了更接近实际生产状况，训练数据与测试数据均加入了1% 的噪声。该案例的计算机配置为64位Windows并带有8GB RAM和Intel(R) Core(TM) i5-3470 CPU，实验过程全程实时记录算法消耗的时间。

表1 青霉素发酵过程主要变量

为了验证本文所提方法的有效性，本文选取正常样本、突变的阶跃故障和缓变的斜坡故障分别进行监测。通风速率和搅拌功率的变化会影响溶解氧浓度、温度等，最终会影响菌体浓度和青霉素的产物浓度，因此本实验选择了这2个变量进行故障设置，故障类型、幅值和持续时间如表2所示。

表2 青霉素发酵过程故障类型

为了验证算法的有效性，本文与传统JITL-MKPLS进行对比，在本文所设置的实验中，初步样本筛选比率设置为10%，之后第2步精选过程中样本容量设置为10个采样点。AP聚类算法最终给出的聚类个数为3，分别为：(1-42)、(43-137)、(138-400)。如图2所示为对正常批次生产过程的监测效果，其中虚线为99%控制限。从图2中可以看出，加入即时学习思想的MKPLS算法要比传统的MKPLS算法监测效果好，因为发酵过程数据具有一定的阶段性和时变性，而即时学习是一种局部建模思想，因此可以弥补传统MKPLS建立全局模型的劣势。再对比图2(a)和(c)，传统的JITL-MKPLS算法监测指标在整体上都接近控制限，在初始时刻及发酵后期都出现了误报，而本文所提的方法并没有出现误报现象。对比可以看出本文算法有更好的监控性能。因为在发酵过程中，生产状况会随着生产过程的进行而改变，采取融入时间特性的选取规格从数据库中选取数据集，可以使学习集的选取更加合理，从而提高建模的准确性。

图2 青霉素发酵过程正常批次监测结果图

如图3所示为模型在200时刻引入6% 的通风速率阶跃故障的监测结果图。如图4所示为模型在100时刻引入2%的搅拌功率斜坡故障的监测结果图，从图中可以看出，采用同时考虑空间和时间的JITL策略所建立的模型比传统的MKPLS和传统的JITL-MKPLS更加精准，能够更准确地进行故障监测。尤其在生产开始阶段，各项指标都不稳定时，本文所提出的方法误报率都为0，在出现故障后，监测到故障的时间也比传统方法更短。同时，由于采用了分步样本筛选方法，所建立的模型在保证精度的前提下，计算时间也大大地缩短，详细指标如表3所示。

图3 青霉素发酵过程通风速率阶跃故障监测结果

5.2 大肠杆菌发酵现场实验

大肠杆菌发酵过程的在线监测实验数据是在工厂的真实生产环境中产生的，真实生产过程存在着人为操作等诸多不确定因素，对于算法研究更具有现实意义。

表3 青霉素发酵过程故障监测指标

本次实验选用的大肠杆菌发酵数据来源于北京某生物制药厂。发酵时间为6~7 h。由于实际数据批次之间的差异，每批数据选取有72个采样点。本实验选择了7个过程变量与一个质量变量OD值构建统计模型，变量名称如表4所示。

表4 大肠杆菌发酵过程主要变量

为了验证本文所提方法的有效性，本文选取10批正常数据建立历史样本库，并分别用1批正常数据和2批故障数据进行测试，故障类型、幅度和持续时间如表5所示。其中选择10批正常数据的三维数据矩阵为10×7×72和10×1×72。

表5 大肠杆菌发酵过程故障类型

为了验证算法的有效性，本文与传统MKPLS和JITL-MKPLS进行对比，在本文所设置的实验中，初步样本筛选比率设置为10%，之后第2步精选过程中样本容量设置为5个采样点。AP聚类算法最终给出的聚类个数为3，分别为：(1-10)、(11-34)、(35-72)。如图5所示为对正常批次生产过程的监测效果，其中虚线为99% 控制限，从图5(b)中可以看出，2种方法的T2对正常样本都没有误报，但传统方法的SPE有7个时刻出现误报，本文方法只在前期一个时刻发生了误报。这是因为本文在相似样本选择时同时考虑了样本的时间和空间特性使得所建模型更加准确。

图5 大肠杆菌发酵过程正常批次监测结果

阶跃故障为突发故障，一般幅值也比较大，如图6所示为模型在第21时刻引入的通风速率阶跃故障的监测结果图，如图7所示为模型在第21时刻引入的搅拌功率斜坡故障的监测结果图，从图中可以看出，采用同时考虑空间和时间的JITL策略所建立的模型更加精准，能够更准确地进行故障监测。本文所提出的方法误报率都为0，在出现故障后，监测到故障的时间也比传统方法更短。同时，由于采用了分步样本筛选方法，所建立的模型在保证精度的前提下，算法运行时间也大大地缩短。详细指标如表6所示。

表6 大肠杆菌发酵过程故障监测指标

6 结 语

本文针对传统JITL-MKPLS遇到的在线计算压力大问题，提出了分步样本筛选策略，首先通过AP聚类的方法对数据样本集中的数据进行粗分类，在当前输入样本数据到达后，先确定当前样本数据所属的类别，再在此类别所限定的子数据样本集中使用JITL策略确定出局部模型，减少不必要的计算量，节约监测时间。同时将时间特性融入JITL方法中，提高了所建模型的准确性和实时性，最后通过和不引入JITL策略、传统的JITL策略进行比较，本文提出的方法不仅能够表征时变系统当前状态，节约监测时间，而且有较低的误报率和漏报率。

[1] LV F, WEN C, BAO Z,.Fault diagnosis based on deep learning: American Control Conference [C]. Boston: American Automatic Control Council (AACC), 2016: 6851-6856.

[2] 王晶, 刘莉, 曹柳林, 等. 基于核Fisher包络分析的间歇过程故障诊断 [J]. 化工学报, 2014, 65(4): 1317-1326.

WANG J, LIU L, CAO L L,. Fault diagnosis based on kernel Fisher envelope surface for batch processes [J]. CIESC Journal, 2014, 65(4): 1317-1326.

[3] LINDGREN F, GELADI P, WOLD S. The kernel algorithm for PLS [J]. Journal of Chemometrics, 1993, 7(1): 45-59.

[4] ZHAO C H, WANG F L, LU N Y,. Stage-based soft-transition multiple PCA modeling and on-line monitoring strategy for batch processes [J]. Journal of Process Control, 2007, 17(9): 728-741.

[5] 常鹏, 王普, 高学金, 等. 基于多向核熵成分分析的微生物发酵过程多阶段划分及故障监测[J]. 高校化学工程学报, 2015, 29(3): 650-656.

CHANG P, WANG P, GAO X J,. Multi-stage separation and fault monitoring of microbial fermentation processes based on multi-way kernel entropy component analysis [J]. Journal of Chemical Engineering of Chinese Universities, 2015, 29(3): 650-656.

[6] ROSIPAL R, TREJO L J. Kernel partial least squares regression in reproducing kernel Hilbert space [J]. The Journal of Machine Learning Research, 2002, 2: 97-123.

[7] 齐咏生, 王普, 高学金, 等. 基于多阶段动态PCA的发酵过程故障监测[J]. 北京工业大学学报, 2012, 38(10): 1474-1481.

QI Y S, WANG P, GAO X J,. Fault detection for fermentation process based on multiphase dynamic PCA [J]. Journal of Beijing University of Technology, 2012, 38(10): 1474-1481.

[8] YU J. Multiway gaussian mixture model based adaptive kernel partial least squares regression method for soft sensor estimation and reliable quality prediction of nonlinear multiphase batch processes [J]. Industrial & Engineering Chemistry Research. 2012, 51(40): 13227-13237.

[9] 王建林, 马琳钰, 邱科鹏, 等. 基于SVDD的多时段间歇过程故障检测 [J]. 仪器仪表学报, 2017, 38(11): 2752-2761.

WANG J L, MA L Y, QIU K P,. Multi-phase batch processes fault detection based on support vector data description [J]. Journal of Instrumentation, 2017, 38(11): 2752-2761.

[10] XIE L, ZENG J S, GAO C H. Novel just-in-time learning-based soft sensor utilizing non-Gaussian information [J]. IEEE Transactions on Control Systems Technology, 2013, 22(1): 360-368.

[11] GE Z Q, SONG Z H. A comparative study of just-in-time-learning based methods for online soft sensor modeling [J]. Chemometrics and Intelligent Laboratory Systems, 2010, 104(2): 306-317.

[12] LIU Y, GAO Z L, LI P,. Just-in-time kernel learning with adaptive parameter selection for soft sensor modeling of batch processes [J]. Industrial & Engineering Chemistry Research, 2012, 51(11): 4313–4327.

[13] CHEN M L, KHARE S, HUANG B. A unified recursive just-in-time approach with industrial near infrared spectroscopy application [J]. Chemometrics & Intelligent Laboratory Systems, 2014, 135(14): 133-140.

[14] HU Y, MA H H, SHI H B. Enhanced batch process monitoring using just-in-time-learning based kernel partial least squares [J]. Chemometrics and Intelligent Laboratory Systems, 2013, 123: 15-27.

[15] KIM S, OKAJIMA R, KANO M,. Development of soft-sensor using locally weighted PLS with adaptive similarity measure [J]. Chemometrics and Intelligent Laboratory Systems, 2013, 124(Complete): 43-49.

[16] YUAN X F, GE Z Q, SONG Z H. Locally weighted kernel principal component regression model for soft sensing of nonlinear time-variant processes [J]. Industrial & Engineering Chemistry Research, 2014, 53(35): 13736-13749.

[17] USHIDA S, KIMURA H. Just-in-time approach to nonlinear identification and control [J]. Journal of SICE, 2005, 44 (2): 102-106.

[18] CHENG C, CHIU M S. Nonlinear process monitoring using JITL-PCA [J]. Chemometrics and Intelligent Laboratory Systems, 2005, 76(1): 1-13.

[19] FREY B J, DUECK D. Clustering by passing messages between data points [J]. Science, 2007, 315(5814): 972-976.

[20] 牛大鹏, 刘元清. 基于改进即时学习算法的湿法冶金浸出过程建模 [J]. 化工学报, 2017, 68(7): 2873-2879.

NIU D P, LIU Y Q. Modeling hydrometallurgical leaching process based on improved just-in-time learning algorithm [J]. CIESC Journal, 2017, 68(7): 2873-2879.

[21] 王锡昌, 王普, 高学金, 等. 一种新的基于MKPLS的间歇过程质量预测方法 [J]. 仪器仪表学报, 2015, 36(5): 1155-1162.

WANG X C, WANG P, GAO X J,. New quality prediction method of batch processes based on MKPLS [J]. Journal of Instrumentation, 2015, 36(5): 1155-1162.

[22] 贾润达, 毛志忠,王福利. 基于KPLS模型的间歇过程产品质量控制 [J]. 化工学报, 2013, 64(4): 1332-1339.

JIA R D, MAO Z Z, WANG F L. KPLS model based product quality control for batch processes [J]. Ciesc Journal, 2013, 64(4): 1332-1339.

[23] 葛祥振, 熊伟丽, 徐保国. 一种改进自适应AP聚类的多模型软测量方法[J]. 控制工程, 2017(10): 104-110.

GE X Z, XIONG W L, XU B G. A Multi-model Soft Sensor Method Based on Improved Adaptive AP Clustering Algorithm [J]. Control Engineering, 2017(10): 104-110.

Fault monitoring of batch processes based on substep time-space JITL-MKPLS

GAO Xue-jin1,2,3,4, MENG Ling-jun1,2,3,4, WANG Hao1,2,3,4, GAO Hui-hui1,2,3,4

(1. Faculty of Information Technology, Beijing University of Technology, Beijing 100124, China;2. Engineering Research Center of Digital Community, Ministry of Education, Beijing 100124, China;3. Beijing Laboratory for Urban Mass Transit, Beijing 100124, China;4. Beijing Laboratory of Computational Intelligence and Intelligent System, Beijing 100124, China)

It is difficult to accurately describe the dynamic characteristics of multi-stage time-varying batch processes with global models, while every working point of traditional local models needs to re-select samples that results in high requirement of computation. A local modeling strategy based on substep time-space just-in-time learning (JITL) was proposed. The data in the sample set of historical data were preliminarily classified by an affinity propagation (AP) clustering method. When the current input sample data arrived, the category of these data was determined. The JITL strategy combining time and space was used to determine local similar samples in the subsample of the category. A multi kernel partial least squares (MKPLS) monitoring model was established using local similar samples. The effectiveness of the proposed method was validated via simulation of penicillin fermentation andproduction of interleukin-2. The results demonstrate that the proposed method reduces unnecessary calculation and can detect faults more accurately and instantaneously.

time-space just-in-time learning; substep; multi kernel partial least squares; local modeling; fault monitoring

TH165.3

A

10.3969/j.issn.1003-9015.2021.01.015

1003-9015(2021)01-0127-13

2019-04-20；

2019-11-01。

国家自然科学基金(61803005，61640312，61763037)；北京市自然科学基金(4192011，4172007)；山东省重点研发计划(2018CXGC0608)；北京市教育委员会资助。

高学金(1973-)，男，河北唐山人，北京工业大学教授，博士。

高学金，E-mail：gaoxuejin@bjut.edu.cn