基于超图嵌入的行车故障多元关系知识表示方法

2024-03-13鲍劲松李心雨

计算机集成制造系统 2024年2期

张飞,周彬,鲍劲松,李心雨

(东华大学机械工程学院,上海 201620)

0 引言

行车为工厂内货物启运过程中的核心设备,高效检测和解决行车故障关系着工厂的运行效率和工厂员工的安全[1]。行车故障数据主要以故障单的形式表示,而故障单无标准或规范,其文本内容也具有相互关联的特征[2-3],随着工业智能化的发展,工厂内部存储了大量的行车故障单。在进行行车故障诊断分析时,依靠人工从海量故障调查单中搜寻已有或类似的历史故障费时费力,效率低下,难以适应当下智能化、高效化的工业场景。因此,对故障单中的故障信息进行高效整合和利用,将极大提升故障解决效率,对提高工厂运维智能化水平意义重大。

维修人员在检查和解决故障时,依靠单一的原因或措施通常无法解决故障,必须同时分析多种故障原因或者采用多种故障措施。例如,某行车的夹钳升降平台电机悬垂电缆发生断裂,原因是更换电缆时未预留扭劲,以及员工误操作导致悬垂电缆出框下垂。对应的故障解决方法,一方面对悬垂电缆释放扭劲,另一方面对工厂员工进行培训,双管齐下才能防止下次故障。在该过程中,如何对故障信息之间“多现象—多原因—多方法”的多元耦合关系进行建模,既是提升行车故障知识表征完整性的关键,也是保证故障知识在未来故障诊断场景中准确应用的关键。对此,本文主要解决行车故障单中复杂的多元关系知识表示问题,以保证故障知识建模质量和使用效率。

在知识关联和建模方面,当前主要的建模方法有自顶向下基于本体的建模[4-6]和自底向上基于知识图谱的建模[7-10]。其中,基于本体的建模[4-6]通过参考已有数据模型或专家介入,对实体信息进行抽象形成知识术语,具有层次性、稳定性和重用性特点,可以对各个部分之间的关系和规则进行集成。然而,本体侧重于概念层关联的描述,弱化了对实例的描述。而知识图谱[7-9]是一种结构化的语义网络[11],基于知识图谱的建模通过将实例信息组织成三元组的形式,对“实体—关系—实体”和“实体—属性—值”进行直观描述。然而,常规的知识图谱多处理二元关系,不适用于多元耦合关系。知识超图[12-13]作为常规知识图谱的延伸,其每条超边能够连接多个数据节点,使得超图可以处理多元耦合数据。针对行车故障数据,本文拟将两类方法结合,基于本体建模方法对概念层进行描述,以提高建模的准确性和效率,同时采用基于超图的建模方法表示行车故障数据中的多元耦合关系。

虽然行车故障知识超图可以直观描述数据,但是该种结构蕴含大量高维结构信息,若直接用超图模型进行问答和预测,则会导致计算开销过大,从而降低效率。而图嵌入表示可以将该高维数据结构信息降维嵌入成低维信息,在保留图本身结构信息的同时,有效降低在图数据结构上训练机器学习算法的成本[14]。因此,在构建行车故障知识超图后,需要进一步对嵌入表示进行学习。嵌入方法大体分为基于翻译模型的方法、基于语义匹配的方法和基于神经网络的方法。基于翻译模型的方法将实体和关系进行联合,根据“实体—关系—实体”之间的关联,通过训练模型获取节点的嵌入表示并应用于下游任务[9,15-16]。典型的模型如TransE及其改进系列[17-19]等,然而TransE模型在处理实体和关系时,仅关注单一三元组的关系,并未考虑多元复杂的耦合关系,难以解决实体间存在的复杂耦合关系;虽然后续的一些改进模型通过对实体和关系进行矩阵转化,将实体投影到特定关系的向量空间,来解决TransE模型对单一关系的缺陷,但是这些改进仍然针对的是单一的三元组问题,不能处理多元耦合关系。基于语义匹配的方法通过引入关系变换矩阵,对头实体进行表示变换,使其与尾实体相近,典型的模型有RESCAL[20],DistMult[21],ComplEx[22]等。与基于翻译模型的方法不同,RESCAL模型将关系表示为矩阵,实体表示为向量,通过定义得分函数获取三元组之间的关联关系,然而RESCAL模型参数量大,计算成本极大。为减少RESCAL模型的参数量,DistMult模型将关系矩阵设置为对角矩阵。ComplEx在DistMult的基础上,将实值空间拓展到复空间,并通过设计得分函数使模型可以对非对称关系进行建模。然而,基于语义匹配的方法仍然关注二元关系,对多元耦合关系处理较少。基于神经网络的方法关注节点的邻居信息,通过对邻居信息进行聚合获得节点的表示[23],如图卷积神经网络(Graph Convolutional Network,GCN)[24]、图注意力网络(Graph Attention Network,GAT)[25]、超图神经网络(Hypergraph Neural Network,HGNN)[12]等模型。虽然GCN模型通过融合节点的邻域信息将关联信息进行融合,但是无法处理邻域信息中的耦合信息,而GAT通过给节点的邻域信息设置权重,在一定的程度上缓解了GCN的困境,却在融合过程中也融合了无关的节点信息。HGNN从高阶复杂实体关系出发,适用于超图的嵌入,可以表征节点之间的多元耦合关系,但其忽略了节点之间的语义信息,无法充分利用行车超图各节点所包含的文本数据之间的关联关系。

综上所述,现有方法在对多元耦合关系进行表征建模和嵌入表示过程中,一方面对多元耦合关系的拓扑结构特征考虑较少,关系描述的完整性不足;另一方面,多元关系之间的语义特征处理较弱,节点及关系的嵌入学习准确性不佳。因此,本文拟采用知识超图处理此类复杂多元关系以保证数据的完整性,并设计一种基于超图嵌入的行车故障多元关系知识表示方法。首先,通过分析表格单元格和行车故障数据,抽取行车故障单中现象、原因、方法等故障信息,以及信息之间的关系,依此构建行车故障本体模型,基于抽取好的行车故障知识和本体模型建立行车故障知识超图;然后,分别利用基于变换器的双向编码器表示技术BERT(bidirectional encoder representation from transformers)模型[26]和超图卷积网络处理语义关联与拓扑结构关联,获得故障知识的嵌入向量表示,以支持行车相似故障的检索;最后,以上海某钢铁公司收集的行车故障调查单为实例,对其进行知识超图建模、知识嵌入和相似历史故障检索,验证了所提方法的可行性。

1 总体框架

本文所提基于超图嵌入的行车故障多元关系知识表示方法框架如图1所示,分为行车故障知识超图构建(A)、基于超图的嵌入表示模型(B)和相似故障检索(C)3部分。

在行车故障知识超图构建过程中,首先通过分析表格单元格和表格中的文本,抽取蕴含在其中的文本结构及语义信息,初步组织为JSON数据形式的知识。然后,根据行车故障单所含数据的语义关联特性构建行车故障本体模型,并以该本体为模式层(schema)建立行车故障知识超图。在基于超图的嵌入表示过程中,一方面利用BERT模型对行车故障知识文本进行向量表示,另一方面通过训练超图卷积网络学习超图结构信息,获得最终的嵌入表示用于查询行车相似故障。

2 行车故障知识超图的构建

本章首先对行车故障单结构和文本特征进行分析,构建行车故障本体模型,进而以该本体模型为超图的模式层建立行车故障知识超图。

2.1 行车故障单特性分析

行车故障单中蕴含了现象、原因、方法等故障信息,具有以下主要结构与文本特点:

(1)基本信息由运行单位、车间、故障名称、作业线等组成,其中作业线包括主要作业线、重要作业线和辅助作业线。

(2)现象信息由故障发生的时间、设备、人员等组成。

(3)原因信息由造成故障的关联设备、损坏经过、检修人员组成。

(4)原因属性信息是对原因类别的描述。

(5)方法信息由解决故障的设备、人员、物料等组成。

(6)人员信息和日期信息包括从故障发生到解决过程中进行决策的总负责人信息。

(7)键值关系描述了属性单元以及属性值单元之间的关系,其中属性单元是对故障信息在本体层的描述,属性值单元是对具体故障信息的描述。

(8)层次关系描述了故障信息本体(或故障信息实例)之间的关系,例如故障原因和故障措施之间的“原因—方法”关系。

(9)依存关系描述了故障信息本体与本体本身属性之间的关系。因此,在对故障进行单知识抽取时,既要考虑单元格信息,也要分析故障实例信息。

如图2所示的故障单中,应构建“2050板坯库2#行车大车被动轮异音”的故障现象与“轴承保持架损坏”和“轴承劣化”两则故障原因的共同关系,同时保证“2050板坯库2#行车大车被动轮异音—轴承保持架损坏—更换保持架”和“2050板坯库2#行车大车被动轮异音—轴承劣化—更换车轮及定期维修检查”两者对应。因此,对故障构建如图3所示的多元关系。图3a描述了故障现象、故障原因、故障方法在本体上的对应关系,对应在实例上时,体现为“单现象—单原因—单方法”;图3b描述了在实例层上,故障现象由各个原因联合作用导致,缺少任意一个原因都不会引起该故障。

对此,基于各个单元格间的依存关系、键值对关系以及故障实例中“多现象—多原因—多方法”之间的多元关系,定义故障数据的结构关系和语义关系。其中,结构关系包括Has,Contain,语义关系包括“现象—原因”关系、“现象—结果”关系、“原因—结果”关系和“多现象—多原因—多方法”关系,其中“多现象—多原因—多方法”关系主要为图3所示的关系,具体如表1所示。

表1 结构与语义关系

续表1

2.2 行车故障本体模型

基于故障单结构和文本特征的分析,本节建立行车故障本体模型。本体建模是在概念层次上对特定领域中的信息进行规范的一种方法,该方法基于领域信息的概念、层次结构以及各概念之间的关系,对该领域信息进行规整[27-29]。对行车故障而言,本体构建的关键在于故障单中现象、原因、环境、物料等概念类别的定义,以及这些概念的属性和概念之间的关系描述。

首先,提取行车故障调查单中各个单元格的数据,对这些数据进行拆解、划分和整理,确定行车故障所包含的概念层次类;其次,基于对各个类的分析确定各类之间的层次结构关系,以及各个类具有的属性;同时,通过对故障实例进行分析,确定现象、原因和方法之间的多元耦合关系。至此,构建出行车故障本体模型,如图4所示。图中以“人—机—料—法—环—时”为主线,该本体定义了14个概念类别、18类二元关联(即图谱普通边),以及“现象—原因—方法”的三元关联(即图谱超边),并展示了图2所示的故障单中各概念类别下实例数据的组织和关联。

2.3 行车故障知识超图的构建

以行车故障本体作为超图的模式层构建行车故障知识超图。为利用行车故障单内的数据填充超图数据层,首先抽取故障单中的故障现象、故障原因、故障方法、物料等内容,组织成JSON数据,每一张故障单对应一条JSON数据。然后,基于表1中的定义构建故障信息之间的关联关系。具体的抽取操作,本文沿用课题组前期研发的基于图神经网络的工艺表格处理方法[3]、语义关联方法[8-9]等,此处不再赘述。考虑到故障单之间存在关联,如故障实体一致、故障措施相同等,引入实体对齐、实体消融等对不同故障单中的故障信息进行处理。最后,邀请领域专家检查所构建的行车故障知识超图的质量,如图5所示。

3 行车故障知识超图嵌入模型与故障相似性度量方法

3.1 基于超图的嵌入表示模型

虽然行车故障知识超图可以直观描述各项故障数据及其关联,但是如果直接用超图模型进行检索、问答等,则因数据关联性复杂,其高维矩阵表示会导致计算开销过大、效率降低。图嵌入表示可以将该高维数据结构信息降维嵌入成低维信息,在保留图本身结构信息的同时大幅提升计算效率,因此通常为知识图谱应用中必需的环节。对此,本文提出一种面向行车故障知识超图的嵌入模型,其框架如图6所示,包括行车故障知识的语义特征向量表示和超图卷积两方面。

(1)行车故障知识的语义特征向量表示

本文用BERT模型对行车故障知识进行语义特征向量表示,原因有两方面:①由于BERT模型善于处理长句子对间的关联关系,适用于行车数据中偏长的描述性文本;②BERT模型鲁棒性强,可以很好地应对文本中的噪音(如错别字等),并能有效解决不同点检人员在故障记录时用语随意的问题。

由于BERT模型为预训练模型,可以结合自定义的数据集进行微调。对此,本文结合超图中给定的关系,构建了用于训练语义特征向量的正负例数据集。具体而言,针对超图中的普通边,取出边所连接的两个节点的文本内容作为句1和句2,然后按照BERT编码方式将两句话顺序连接。对于超边,遍历其连接的n个节点,每次取其中两个节点的文本内容相连。若所选两节点之间具有无向的、并列性关系(如同为需执行的解决方案),则额外扩增一条两节点位置互换的数据记录。将以上数据作为BERT模型输入的正例样本,并将正例样本中随机节点随机替换为图谱中的其他节点,以构建负例样本。BERT以正负例样本执行文本分类任务,并在训练中降低分类错误的损失。训练结束后得到行车故障知识超图各节点的语义特征向量,该向量将用于超图结构的嵌入表示学习。

(2)考虑行车故障超图结构的嵌入表示

基于语义特征向量表示,本文用超图卷积网络进一步处理行车故障超图的拓扑结构信息。具体的符号定义与表示学习流程如下:

1)超图定义行车故障知识超图G=(V,E,W),其中:V={ν1,ν2,…,ν|V|}为行车故障涉及的人、机、料、法、环、故障原因、故障措施等元素节点集合,|V|为行车故障超图所含顶点的个数;E={e1,e2,…,e|E|}为节点之间关系(超边和普通边)的集合,|E|为超图所含边的数目;W为边的权重矩阵。任意一条超边e均对应一个元组T=e(υ1,υ2,…,υ|e|),T∈τ,|e|为超边e所含顶点的个数,τ为行车故障知识超图所有元组组成的集合。

2)关联矩阵对于超图G,其关联矩阵H具有|V|×|E|维度,H中的任意一个元素可以表示为

(1)

3)节点的度矩阵节点v的度表示所有连接该节点的超边和其对应权重的乘积之和,即

(2)

对超图中的所有节点进行相同的计算,并将其组合成矩阵,得到关于超图的节点的度矩阵,用DV表示。

4)边的度矩阵边e度表示该条边内所有节点个数的和,即

(3)

对超图中的所有边进行相同的计算,并将其组合成矩阵,得到关于超图的边的度矩阵,用De表示。

5)超图卷积计算引入拉普拉斯算子对节点进行表示学习,具体公式为

(4)

基于所构建的行车故障知识超图、故障知识的语义特征向量,对故障知识进行超图嵌入,获得最终的嵌入表示。首先,将特征向量输入超图卷积第1层;在获得经过第1次卷积的特征表示后,为了避免卷积过程出现过拟合、梯度消失等问题,用RELU层和DROPOUT层进行处理;最后,将处理过的特征输入超图卷积最后一层,得到最终的嵌入表示。该模型的损失函数如式(5)所示。具体框架计算过程见算法1伪代码。

(5)

算法1基于超图的行车故障多元关系知识表示模型。

输入:行车故障数据(JSON数据形式)。

输出:最终的行车故障数据特征嵌入X。

/*构建行车故障数据超图本体模型*/

1 由JSON数据格式和构建好的关系创建行车故障数据超图本体

2 根据行车故障本体模型构建行车故障知识超图G

/*行车故障数据特征初始化向量*/

3 JSON数据输入Bert模型得到数据的初始化特征向量X

4 随机初始化模型参数θ

/* 遍历节点信息,聚合邻居信息 */

5 for v∈V do

/* 遍历节点信息,将节点信息聚合到边上 */

6 e←X

/* 遍历边的信息,将边信息聚合到节点上 */

7X←e

8 end

9 Return行车故障数据最终的嵌入表示

3.2 相似行车故障的检索

对于一则新发生的行车故障,基于前述的知识抽取和超图嵌入表示方法获得嵌入向量相似度,基于图的结构信息获得知识拓扑结构相似度,对以上两种相似度加权求和后得到综合相似度并进行排序,获得排分最高的历史故障现象。将历史故障现象对应的解决方案文本和原始故障调查单一并推送,作为本次故障的解决方案。

(1)嵌入向量相似度

对新发生的故障构建知识子图后,通过超图嵌入表示模型得到新发生故障现象的知识嵌入与历史故障现象的知识嵌入,对其进行相似度计算,计算公式为

(6)

式中:V新发生故障现象为对新发生故障现象的嵌入表示;V历史故障现象为历史故障现象的嵌入表示。

(2)知识拓扑结构相似度

对于图结构数据,除了考虑知识嵌入向量的相似度,还应分析图的拓扑结构。首先,根据故障现象节点的多跳邻域设置β权重,鉴于三跳以上邻域与中心节点的关联比较微弱,不予考虑;然后,对每一跳邻域内信息,根据对故障现象节点的重要程度设置α,同时计算每一跳邻域内元素与历史故障现象对应节点的相似度,并设置阈值δ,计算公式为

(7)

式中:β和α基于层次分析法(Analytic Hierarchy Process,AHP)[3]求得;P(V1,V2)为新生故障与历史故障中对应节点的相似度;N(P(V1,V2))取值为0或1,若P(V1,V2)>δ,则N(P(V1,V2))=1,否则N(P(V1,V2))=0;Count(U(v历史故障))为历史故障现象对应的节点总数。

(3)综合相似度

知识嵌入向量描述了新故障现象与历史故障现象在知识层次的相似度,知识拓扑结构相似描述了以故障现象为中心的邻域知识内容之间的结构关系。得到以上两种相似度后,对其进行加权求和,获得综合相似度

sim=λsimc+(1-λ)simT。

(8)

式中0<λ<1,表示知识拓扑结构相似的重要程度。

4 案例分析

4.1 实验数据集说明

以上海某钢铁公司453张行车故障调查单作为原始数据构造数据集。首先对故障单的结构和语义进行分析,确定单元格之间的关系,如原因信息单元格和原因属性单元格之间的属性类别关系;然后对单元格中的文本信息进行知识抽取,通过对文本内容进行实体识别和关系抽取,确定与故障关联的设备信息、人员信息、状态信息;最后将单元格本身的信息和单元格内容文本信息进行结合。采用本课题组前期研发的基于图神经网络的工艺表格处理方法[3]、语义关联方法[8-9]对每一张故障单进行知识抽取,并构建成JSON格式数据。图2故障单抽取的结果如表2所示。

表2 从某故障单中提取的故障数据

4.2 知识超图的构建

根据表1中定义的关系,对抽取出的知识进行关系构建。在处理完单张故障单的数据后,对不同故障单中的故障知识进行实体对齐、实体消融处理,最终建立行车故障超图。图7所示为通过HyperNetX进行的行车故障超图部分的可视化展示。与传统的知识图谱构建方法相比,超图考虑故障现象、故障原因和故障方法之间的耦合关系,在处理过程中直接对其进行建模,保证了信息的完整性。因此,超图构建方法能更好地展示现象、原因和方法三者之间的整体性,以及这三者在从故障发生到解决整个故障过程中的核心地位。对处理后的故障信息(节点和边)进行统计,如表3所示。

表3 行车故障知识超图的统计信息

续表3

4.3 超图嵌入及故障检索

4.3.1 超图嵌入

(1)语义关联

基于前文对BERT模型数据集制作方法的介绍,构建如表4所示的数据集,训练BERT自然语言模型,得到行车故障知识特征向量。模型参数取值如表5所示。

表4 BERT模型训练样本示例

表5 BERT模型参数列表

(2)拓扑结构关联

训练得到行车故障知识的语义表示后,将其输入超图嵌入表示模型,模型的参数列表如表6所示,图8所示为部分行车故障知识超图嵌入表示结果。

表6 超图嵌入表示模型参数列表

4.3.2 相似故障检索

(1)新生故障知识子图的构建

对于一则新发生的行车故障信息“8日18:45接到行车班长电话报3-2行车运行抖动。19:00,点检蒋晓星到达现场,现场排查发现3-2行车大车被动轮故障,同时呼叫检修抢修,21:30检修到达现场。由于CDCM机组步进梁还有转库卷需要吊运,现场等待吊运结束以后开始检修”,抽取故障信息中的人员信息、机器设备信息、故障现象信息等,基于信息之间的连接关系构建知识子图,如图9所示。

(2)综合相似度计算

首先,基于AHP[3]分别求得邻域权值和“人—机—料—法—环”各元素对应的权值;然后,基于式(6)和式(7)计算出新生故障与历史故障的知识嵌入相似度和拓扑结构相似度;随后,基于式(8)求得新生故障与历史故障的综合相似度,其中知识拓扑结构相似度的重要程度λ一般为0.5,即知识嵌入和拓扑结构同等重要。最终获得如表7所示的3项最相似历史故障现象,其中故障①表示2050板坯库2#行车大车被动轮异音,故障②表示2#行车大车从动轮故障,故障③表示3-2大车车轮故障。

表7 综合相似度计算结果示例

4.4 实验结果

4.4.1 知识嵌入方法对比

为了排除无关因素的影响,在训练GAT,GCN模型时,采用相同的BERT模型处理数据;另外,GAT,GCN模型的主要超参数设置与本文模型参数相同。从图10可见,各个模型在100个epoch后基本达到稳定,而本文所提嵌入表示方法的loss值更小、收敛性更好。同时,对本文模型的精确度进行分析,在epoch达到100之后,精确度局部波动降低并趋于稳定,在测试集上的精确度最优为0.823 96。

为了验证本文基于超图嵌入的故障知识表示方法在进行知识嵌入表示的有效性,与图神经网络GCN[24],GAT[25]模型进行对比,得到图11所示的三维可视化展示结果,选取故障现象、故障原因和故障方法作为主要展示内容,从图中可见本文嵌入表示方法虽然在故障原因的类别上比较分散,但是从整体层面可以对三者进行明显区分。而经过GAN,GAT模型方法得到的嵌入表示结果分布杂乱,无法将三者进行有效区分。因此,相比其他模型,本文模型可以获取更好的嵌入表示。

4.4.2 与常规知识图谱的对比

常规知识图谱在处理多元关系问题时,通过将多元关系拆解为二元关系对问题进行求解。然而,多元关系被强制拆解为二元关系导致紧密的多元关系不再成立,在排查故障、分析原因和实施方法过程中需要借助其他技术,大大降低了解决故障的效率。而知识超图对多元关系直接建模,从根本上保证了信息的完整性。从对知识的表示上看,超图构建的知识完整性更好。

为验证知识超图的可行性与检索效果,需存储超图数据,然后基于历史故障现象进行检索。同时,在构建常规知识图谱做对比时,将超边强制拆分成各节点完全联通的普通边。

分别用知识超图和常规知识图谱进行查询操作,对比分析查询时间和查询结果。表8所示为查询时间对比,为消除偶然因素的影响,选取10个不同的案例来计算查询时间。可见,用知识超图查询所需的时间小于常规知识图谱。图12所示为查询结果对比,可见与常规知识图谱相比,知识超图可以更加细致地展示原因和方法,例如对历史故障现象“2050板坯库2#行车大车被动轮异音”,基于知识超图的检索输出两条超边,每条超边对应的“原因—方法—现象”会被同时输出,表明它们之间存在多元耦合关系,在进行故障分析时需要同时考虑,而常规知识图谱查询结果只展示原因和方法,无法表示“故障现象—故障原因—故障方法”之间的多元耦合关联。