基于BERT-DSA-CNN和知识库的电网调控在线告警识别
2022-03-02黄晓旭黄玉辉
晏 鹏，黄晓旭，黄玉辉，晏 瑾，汪 适，罗 磊
基于BERT-DSA-CNN和知识库的电网调控在线告警识别
晏 鹏1，黄晓旭1，黄玉辉2，晏 瑾1，汪 适1，罗 磊1
(1.贵州电网有限责任公司铜仁供电局，贵州 铜仁 554300；2.上海交通大学电子信息与电气工程学院，上海 200240)
电网调控告警识别是实现智能电网调度的重要环节。为提高电网调控告警识别的准确率，针对电网数据量庞大、有效信息提取困难、传统知识库知识迁移能力较差等问题，提出一种基于BERT-DSA-CNN和知识库的电网调控在线告警识别方法。首先在自然语言处理-深度学习的文本数据挖掘架构基础上，经过分词、去停用词等步骤，利用BERT模型获取电网调控告警信息词向量。然后将词向量输入CNN深度学习模型进行训练，并根据电网告警信息的特点引入DSA机制对CNN模型进行改进。最后提出了融合深度学习模型和传统知识库的电网调控在线告警识别方案。通过大量的算例结果分析得出，该方法相比Word2vec、传统CNN、传统知识库、离线学习等方法，具有更高的准确性和有效性，对不同的故障类型均具有较好的识别能力，为工程应用提供了一种思路。
告警识别；BERT；深度学习；卷积神经网络；DSA；知识库
0 引言
随着智能电网的快速发展，大量的新能源发电、变电站、智能电表、传感器、电动汽车等接入电网，电力系统的数据规模快速增长[1-7]。这为电网调控带来了严峻的挑战，特别是出现异常和故障时，大量SCADA(Supervisory Control And DataAcquisition)系统的报警信息涌入调度控制中心，调控人员很难快速筛选出关键信息以供决策[8-9]。另一方面，海量的文本蕴含着丰富的数据信息，如果能有效地挖掘电力大数据，提取重要信息，就能够实现电网调控告警信息高效识别，进一步提升智能电网的管理水平[10]。
电网调控告警识别技术是提高调控智能化水平、解决大数据信息挖掘的有效手段之一，已受到国内外学者的普遍重视。目前其主要的研究方向有：(1) 在调度端告警信息的基础上，基于专家系统或人工智能算法建立电网的智能故障诊断模型，通过分析多个保护装置的告警信息和上下游电气量，推断故障位置及类型[11-15]。如文献[11]利用Petri网图论工具对电网系统建模，引入补充弧元组和动态自适应策略，适配专家系统的模糊知识更新，并利用BP神经网络算法训练模型参数。文献[12]利用故障与保护动作、保护动作和继电器跳闸等的时序信息，建立了基于时序贝叶斯知识库的电网故障诊断模型，以此判断故障元件和正确动作/误动/拒动的保护装置与断路器。(2) 采用人工智能或深度学习算法进行告警文本信息的深入挖掘，提取重要信息，实现在线告警识别[16-20]。如文献[16]采用语义分析技术解析电网遥信信息，在人工预设模板的基础上，通过字符串分段匹配语义分析模块，实现单条遥信告警信息的解析，在此基础上进一步建立遥信信息间的关联关系，将关联结果提供给诊断程序使用。但是，随着告警文本数量和种类的增多，单纯依靠人工预设模板将面临规则难以提炼和维护的难题，模型也不具备自学习功能。文献[17]采用Word2vec和深度学习算法解决电网监控告警事件的智能识别问题，并提出了融合知识库和深度学习模型的电网监控智能告警的思路和框架。Word2vec是谷歌公司在2013年提出的一种无监督的自然语言处理(Natural Language Processing, NLP)模型，具有生成词向量速度快、通用性强的优点。该文通过Word2vec模型将告警信息向量化，在其基础上建立卷积神经网络告警事件识别模型，通过仿真验证了模型的有效性。
计算机技术的发展日新月异，2018年底谷歌公司又提出了一种新的NLP模型——基于Transformer的双向解码器表示(Bidirectional Encoder Rep-resentation from Transformers, BERT)模型[21]。该模型作为Word2vec的替代者，在一词多义和上下文联系两个方面取得重大突破，并在Machine Trans-lation的最高水平测试的11个方向中均创出了最佳成绩。本文将BERT模型引入到电网调控智能告警系统中，实现电网调控告警信息的向量化，然后将向量化的信息输入卷积神经网络(Convolutional Neural Network, CNN)深度学习模型进行训练，并根据电网告警信息的特点引入双重自注意力机制(Double Self Attention, DSA)对CNN模型进行改进。算例验证了模型的准确性和有效性。提出了融合BERT-DSA-CNN模型和传统知识库的电网调控在线告警识别方案，为工程应用提供了一种思路。
1 自然语言处理-深度学习的文本数据挖掘架构
文本数据挖掘是一种从文本数据流中提取和挖掘有效信息的计算机处理技术，广泛应用于搜索引擎检索、智能电子商务等领域中。电网调控在线告警识别是从海量调控告警数据中提取故障相关信息，诊断故障事件的类型，符合文本数据挖掘的定义。因此本文将文本数据挖掘技术应用于电网调控在线告警识别中，其基本架构如下所述。
1) 文本属于自然语言，需要使用自然语言处理技术将文本信息转换为数字信息，通常需要经过分词、去除停用词、建立向量三个步骤。
分词：基于标准语料库的样本统计，将句信息分解为词信息。例如“xx变2号主变3号电容器保护动作”可分词为“xx变 2号主变 3号电容器保护动作”。
去除停用词：去除出现频率较高、对文本分析无帮助的词语，以增加模型的泛化能力，例如“中”、“和”、“或”、“.”等字词和符号。
建立向量：将非结构的文本信息转变为结构化的向量信息，为深度学习模型提供输入变量。
2) 构建深度学习模型，设置超参数和目标函数训练模型，在测试集中检验模型效果。
2 基于BERT模型的电网调控告警信息向量化
BERT是一种用于对自然语言进行编码的模型，它提供了一种动态的预训练技术方案，堪称自然语言处理领域的重要里程碑，在多个下游任务上的表现相比Word2vec、Glove等静态技术有很大的进步。其主要优点有：
1) 采用MLM(masked LM)预训练方法，该方法随机屏蔽(masking)部分词，然后只预测那些被屏蔽的词，引入噪声机制增强了模型的鲁棒性。
2)借鉴ULMFiT(Universal Language Model Fine-tuning)的训练策略，一共分为3个阶段，一是语言模型的预训练，二是语言模型的调整，三是分类任务的调整，模型易于训练。
3) 模型迁移能力强，能有效处理一词多义问题，带给下游任务的提升更多。
BERT的源码和模型均已在Github网站上开源，本文使用其开源代码建模。
图1 BERT模型
3 DSA-CNN深度学习模型
卷积神经网络CNN是一种擅长提取局部特征的深度学习模型，相比传统神经网络具有训练参数少、抑制模型过拟合等优点，适用于挖掘具有上下文联系的相邻调控告警信息之间的关联性特征，从而识别告警事件的类别。
传统CNN模型包含输入层、卷积层、池化层、全连接层四层结构。在文本数据挖掘问题中，输入层为输入词向量矩阵，卷积层提取不同层面的特征，池化层在保留主要特征的同时减少参数和计算量，防止模型过拟合，全连接层起到“分类器”的作用，输出分类结果。在输入层向卷积层过渡的过程中，所有输入词向量被视为同等重要，其权重相同，并未考虑到关键告警信息对告警事件判别的重要程度，例如带有“动作”“开关”“断路器”等的告警信息比一般告警信息更重要。因此本文引入双重自注意力机制DSA[22]，在输入层和池化层对重要词向量赋予更高的权重，以提升CNN的语义捕捉能力，提高模型正确率。注意力机制在计算机领域被广泛应用于深度学习中，其本质是一系列键值对(
图2 DSA-CNN模型
式中，为输入中第个词的维词向量。输入层的作用是将向量化的文本数据传入DSA-CNN模型，并和注意力层连接。
第2层(注意力层)：注意力层为每一个告警词向量引入自注意力评分机制，生成变换上下文向量，并与原词向量拼接后输入卷积层。词向量对应的变换上下文向量可表示为
最后将变换上下文向量和原词向量串联拼接，作为新的输入传送至卷积层。
式中：为激活函数；b为偏置项。
第4层(池化层)：池化层的作用是特征降维，压缩数据和参数，抑制过拟合现象。本文在池化层引入了第2层自注意力机制，对卷积层输入矩阵分配注意力权重系数，经过变换、拼接后再进行池化操作。池化方法选用最大池化法，形成全连接层输入向量。
第5层(全连接层)：全连接层起到分类器的作用，输入向量经全连接层后使用Softmax分类，其结果可表示为
式中：为事件的类别概率；0为全连接层输入向量的权重；0为偏置项。
4 基于BERT-DSA-CNN的电网调控在线告警识别
本文提出了一种基于BERT-DSA-CNN的电网调控在线告警识别模型，如图3所示，其主要步骤如下：
1) 建立电力词典。收集资料形成专业电力词库，并导入调控告警信息中的线路名称，形成电力词典。
2) 告警信息分词。利用分词工具进行分词操作。
3) 告警信息去停用词。去除出现频率较高、对文本分析无帮助的词语，增加模型的泛化能力。
4) BERT生成告警信息词向量。采用BERT方法生成涵盖告警信息特征的高位词向量，作为深度学习模型的输入。
5) DSA-CNN深度学习模型训练。模型以告警信息词向量为输入，以从历史告警和调度日志中提取出的故障信息事件样本类别为输出，搭建DSA-CNN模型，选取算法训练优化模型参数。
6) 电网调控在线告警识别测试。在测试集中对DSA-CNN的识别效果进行测试。
7) 模型评价。采用多项分类评估指标对模型的识别效果进行评价，验证模型的准确性。
图3 BERT-DSA-CNN流程图
5 算例分析
5.1 算例描述
为确保与实际电力调度的运行情况相符，本文选取某市电力调控中心2019年全年约800万条历史监控告警信息作为算例的数据来源，按照图3的流程对模型进行训练和识别。其中，从历史告警和调度日志中提取出4类事故跳闸事件，其故障分类统计如表1所示。
表1 故障分类统计
为验证本文模型的有效性，本文选取未引入双重自注意力机制的BERT-CNN模型、HMM-VSM-SVM模型、Word2vec-CNN模型、Word2vec-DSA-CNN模型作为对照组，对比各模型的识别效果。模型评价采用准确率、精确率、召回率和1值四项指标，取值范围均为[0,1]，值越大代表模型识别效果越好。指标计算公式如下。
式中：为每类事件的数量；、、、服从表2的混淆矩阵。
表2 分类混淆矩阵
5.2 算例结果对比
各模型的识别准确率结果如表3所示。由表3可以得出以下结论：
1) 本文BERT-DSA-CNN模型在各类故障识别场景下，准确率均优于BERT-CNN模型，且Word2vec-DSA-CNN模型在各类故障识别场景下，准确率均优于Word2vec-CNN，这说明引入DSA机制可以提升CNN的识别精度。
2) 本文BERT-DSA-CNN模型在各类故障识别场景下，准确率均优于Word2vec-DSA-CNN模型，且BERT-CNN模型在各类故障识别场景下，准确率均优于Word2vec-CNN，验证了BERT模型相比Word2vec具有更高的词向量精度。
3) 本文BERT-DSA-CNN模型在各类故障识别场景下，准确率优于其他四类对比模型，验证了模型在准确率指标上的有效性和优越性。
表3 各模型准确率对比
同理，对比各模型的精确率、召回率和1值，其结果分别如表4、表5、表6所示。
表4 各模型精确率对比
表5 各模型召回率对比
表6 各模型F1值对比
观察表4、表5、表6可知，除了直流换流站故障场景下各模型均未发生误判，精确率均为100%以外，其他场景下本文BERT-DSA-CNN模型均优于其他四种对比模型，验证了本文模型在精确率、召回率和1值三类指标上的有效性和优越性。同时，BERT-DSA-CNN模型的三类指标大多优于BERT-CNN模型，Word2vec-DSA-CNN模型大多优于Word2vec-CNN模型，进一步说明了引入DSA机制可以提升CNN的识别精度。此外，BERT-DSA- CNN模型大多优于Word2vec-DSA-CNN模型，BERT-CNN模型大多优于Word2vec-CNN模型，进一步说明了BERT模型相比Word2vec具有更高的词向量精度，这一现象与BERT模型在Machine Translation的最高水平测试的11个方向中均创出了最佳成绩的事实是吻合的。
6 融合深度学习和传统知识库的电网调控在线告警识别方案
6.1 组合电网调控在线告警识别方案
传统知识库具有业务数据丰富、系统知识完备的优点，但缺乏自学习能力，知识迁移能力较差。深度学习方法具有较好的学习能力和鲁棒性，但模型训练时间较长，并且在不重新训练的情况下无法修正学习结果。两者的优缺点在一定程度上可以互补，因此本文提出一种融合深度学习和传统知识库的电网调控在线告警识别方案，旨在通过这种组合方法进一步提升告警识别的正确率。方案流程图如图4所示。
图4 融合深度学习和传统知识库的电网调控在线告警识别方案流程图
融合本文BERT-DSA-CNN模型和传统知识库的电网调控在线告警识别方案步骤如下：
1) 利用历史监控告警信息作为训练数据，训练本文BERT-DSA-CNN模型，在训练过程中仍采用传统知识库模型进行在线监控告警。
2) 本文模型训练完毕后，采用双告警识别联合判别机制，首先由传统知识库判别是否发生故障，无论判别结果如何，均由BERT-DSA-CNN模型进行二次判别。若两者判别结果一致，则推送告警结果或不告警；若判别结果不一致，直接由调度员进行人工干预判断，并将结果更新至知识库和BERT- DSA-CNN模型的故障信息事件样本集中。
3) 系统运行一定时间后，积累了较多的故障信息事件样本集，此时由程序实现定期在线重新训练BERT-DSA-CNN模型，达到修正学习结果的目的。
按照这种方案，随着在线告警识别系统的运行时间不断增加，模型的有效样本数量也会增加，模型在自学习机制下其准确率将不断地得到提升。
6.2 算例结果对比
为验证该组合告警识别方案，以某市电力调控中心2020年全年约1 000万条历史监控告警信息作为算例的数据来源，分别采取如下四种模型进行电网调控告警识别：
1) 本文提出的单BERT-DSA-CNN深度学习模型，记为模型A。
2) 单传统知识库模型，记为模型B。
3) 融合BERT-DSA-CNN和传统知识库的组合模型，但不引入在线学习机制，记为模型C。
4) 融合BERT-DSA-CNN和传统知识库的组合模型，且引入在线学习机制，记为模型D。
各模型针对故障告警的识别结果如表7所示。
表7 各模型F1值对比
由表7可以得出以下结论：
1) 模型A的准确率、精确率、召回率、1值优于模型B，说明本文提出的深度学习模型比传统知识库的告警识别准确性和有效性更高。
2) 模型C的准确率、精确率、召回率、1值优于模型A和模型B，说明本文提出的融合深度学习模型和传统知识库的组合告警识别方法可以有效提升单一识别方法的准确性和有效性。
3) 模型D的准确率、精确率、召回率、1值优于模型C，说明引入在线学习机制，定期在线重新训练BERT-DSA-CNN模型，可以有效修正学习结果，提升识别精度。本文提出的融合深度学习和传统知识库的电网调控在线告警识别方案具有较好的准确性和有效性。
7 结论
本文提出了一种基于BERT-DSA-CNN和知识库的电网调控在线告警识别方法，旨在结合传统知识库业务数据丰富、系统知识完备的优点和深度学习模型较好的学习能力和鲁棒性的优点，为解决电网调控告警识别问题提供一种新的思路。首先借鉴计算机科学领域的文本数据挖掘流程，利用BERT模型实现电网调控告警信息向量化；然后将向量信息作为CNN深度学习模型的输入，并且引入DSA机制对CNN模型进行改进。仿真结果表明，本文所提BERT-DSA-CNN方法具有更优的准确性和有效性，具有良好的应用价值。
本文最后提出了一种融合BERT-DSA-CNN模型和传统知识库的电网调控在线告警识别方案。该方案可以实现定期在线重新训练，修正学习结果，从而使系统的准确率不断地得到提升。关于该方案如何在工程实践中落地，以及解决实践中遇到的具体问题，将是后续研究的方向。
[1] 白浩, 袁智勇, 梁朔, 等.基于大数据处理的配网运行效率关联性分析[J].电力系统保护与控制, 2020, 48(6): 61-67.
BAI Hao, YUAN Zhiyong, LIANG Shuo, et al.Correlation analysis of distribution network operation efficiency based on big data processing[J].Power System Protection and Control, 2020, 48(6): 61-67.
[2] 方静, 彭小圣, 刘泰蔚, 等.电力设备状态监测大数据发展综述[J].电力系统保护与控制, 2020, 48(23): 176-186.
FANG Jing, PENG Xiaosheng, LIU Taiwei, et al.Development trend and application prospects of big data-based condition monitoring of power apparatus[J].Power System Protection and Control, 2020, 48(23): 176-186.
[3] 吕梦平, 段斌, 蒋海辉, 等.基于知识图谱技术的风电数据管理与应用研究[J].电力系统保护与控制, 2021, 49(6): 167-173.
LÜ Mengping, DUAN Bin, JIANG Haihui, et al.Research on management and application of wind power data based on knowledge graph technology[J].Power System Protection and Control, 2021, 49(6): 167-173.
[4] 华志刚, 范佳卿, 郭荣, 等.人工智能技术在火电行业的应用探讨[J].中国电力, 2021, 54(7): 198-207.
HUA Zhigang, FAN Jiaqing, GUO Rong, et al.Discussionon application of artificial intelligence technology in thermal power industry[J].Electric Power, 2021, 54(7): 198-207.
[5] 孙立明, 杨博.蓄电池/超导混合储能系统非线性鲁棒分数阶控制[J].电力系统保护与控制, 2020, 48(22): 76-83.
SUN Liming, YANG Bo.Nonlinear robust fractional-order control of battery/SMES hybrid energy storage systems[J].Power System Protection and Control, 2020, 48(22): 76-83.
[6] BAKEER A, HOSSAM S, SALAMA, et al.Integration of PV system with SMES based on model predictive control for utility grid reliability improvement.[J].Protection and Control of Modern Power Systems, 2021, 6(2): 191-213.
[7] 杨家然, 王兴成, 蒋程, 等.计及风力发电风险的电力系统多目标动态优化调度[J].电力系统保护与控制, 2016, 44(7): 25-31.
YANG Jiaran, WANG Xingcheng, JIANG Cheng, et al.Multi-objective dynamic optimal scheduling of power system considering wind power risk[J].Power System Protection and Control, 2016, 44(7): 25-31.
[8] 林佳, 刘涌, 陈冰斌, 等.基于随机机会约束规划的冷热电联供微电网能量优化调度[J].电测与仪表, 2019, 56(19): 85-90.
LIN Jia, LIU Yong, CHEN Bingbin, et al.Micro-grid energy optimization dispatch of combined cold and heat power supply based on stochastic chance-constrained programming[J].Electrical Measurement & Instrumentation, 2019, 56(19): 85-90.
[9] 张心洁, 王建.基于语义分析的D5000遥信信息生成与校核方法[J].中国电力, 2019, 52(5): 134-141.
ZHANG Xinjie, WANG Jian.A method for generating and checking D5000 alarm information based on semantic analysis[J].Electric Power, 2019, 52(5): 134-141.
[10] 叶康, 冷喜武, 肖飞, 等.基于大数据标签技术的电网监控智能分析方法[J].电测与仪表, 2019, 56(4): 75-79.
YE Kang, LENG Xiwu, XIAO Fei, et al.Intelligent analysis method of power grid monitoring based on big data label technology[J].Electrical Measurement & Instrumentation, 2019, 56(4): 75-79.
[11] 谢敏, 吴亚雄, 闫圆圆, 等.基于改进动态自适应模糊Petri网与BP算法的电网故障诊断[J].中国电机工程学报, 2015, 35(12): 3008-3017.
XIE Min, WU Yaxiong, YAN Yuanyuan, et al.Power system fault diagnosis based on improved dynamic adaptive fuzzy Petri nets and back propagation algorithm[J].Proceedings of the CSEE, 2015, 35(12): 3008-3017.
[12] 孙明蔚, 童晓阳, 刘新宇, 等.运用时序贝叶斯知识库的电网故障诊断方法[J].电网技术, 2014, 38(3): 715-722.
SUN Mingwei, TONG Xiaoyang, LIU Xinyu, et al.A power system fault diagnosis method using temporal Bayesian knowledge bases[J].Power System Technology, 2014, 38(3): 715-722.
[13] 胡珏, 韦钢, 谢素娟, 等.基于人工鱼群算法的主动配电网故障定位[J].智慧电力, 2020, 48(6): 112-118, 124.
HU Jue, WEI Gang, XIE Sujuan, et al.Active distribution network fault location method based on artificial fish swarm algorithm[J].Smart Power, 2020, 48(6): 112-118, 124.
[14] 戴彦, 王刘旺, 李媛, 等.新一代人工智能在智能电网中的应用研究综述[J].电力建设, 2018, 39(10): 1-11.
DAI Yan, WANG Liuwang, LI Yuan, et al.A brief survey on applications of new generation artificial intelligence in smart grids[J].Electric Power Construction, 2018, 39(10): 1-11.
[15] 甘锡淞, 李云, 傅成华, 等.基于信息融合和CS-SVM的变压器绕组变形故障诊断方法研究[J].电力系统保护与控制, 2018, 46(1): 156-161.
GAN Xisong, LI Yun, FU Chenghua, et al.Information fusion and CS-SVM based research on diagnosis method for transformer winding deformation fault[J].Power System Protection and Control, 2018, 46(1): 156-161.
[16] 张旭, 魏娟, 赵冬梅, 等.一种用于电网故障诊断的遥信信息解析方法[J].中国电机工程学报, 2014, 34(22): 3824-3833.
ZHANG Xu, WEI Juan, ZHAO Dongmei, et al.An analytic alarm information method for power grid fault diagnosis[J].Proceedings of the CSEE, 2014, 34(22): 3824-3833.
[17] 刘振华, 苏立伟, 苏华权.自然语言处理技术下电网敏感客户画像多特征提取方法[J].电网与清洁能源, 2021, 37(6): 60-67.
LIU Zhenhua, SU Liwei, SU Huaquan.Multi feature extraction method of power grid sensitive customer portrait based on natural language processing technology[J].Power System and Clean Energy, 2021, 37(6): 60-67.
[18] 鲁华永, 袁越, 郭泓佐, 等.基于正则表达式的变电站集中监控信息解析方法[J].电力系统自动化, 2017, 41(5): 78-83.
LU Huayong, YUAN Yue, GUO Hongzuo, et al.Feature selection strategy for electricity consumption behavior analysis in smart grid[J].Automation of Electric Power Systems, 2017, 41(5): 78-83.
[19] 闪鑫, 戴则梅, 张哲, 等.智能电网调度控制系统综合智能告警研究及应用[J].电力系统自动化, 2015, 39(1): 65-72.
SHAN Xin, DAI Zemei, ZHANG Zhe, et al.Research on and application of integrated smart alarm based on smart grid dispatching and control systems[J].Automation of Electric Power Systems, 2015, 39(1): 65-72.
[20] 陈文实, 刘心惠, 鲁明羽.面向多标签文本分类的深度主题特征提取[J].模式识别与人工智能, 2019, 32(9): 785-792.
CHEN Wenshi, LIU Xinhui, LU Mingyu.Feature extraction of deep topic model for multi- label text classification[J].Pattern Recognition and Artificial Intelligence, 2019, 32(9): 785-792.
[21] DEVLIN J, CHANG M, LEE K, et al.BERT: pre-training of deep bidirectional transformers for language understanding[C] // Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics.Stroudsburg, PA: Association for Computational Linguistics, 2019: 4171-4186.
[22] 熊宽.基于深度学习和注意力机制的文本分类方法研究[D].南昌: 江西师范大学, 2020.
XIONG Kuan.Research on text classification method based on deep learning and attention mechanism[D].Nanchang: Jiangxi Normal University, 2020.
[23] 郑伟, 姚远, 代邦武, 等.基于数据挖掘的燃煤机组厂级负荷经济调度[J].热力发电, 2021, 50(7): 78-83.
ZHENG Wei, YAO Yuan, DAI Bangwu, et al.Economic load dispatch of coal-fired power plant based on data mining technology[J].Thermal Power Generation, 2021, 50(7): 78-83.
[24] 杨秀, 曹泽棋, 张美霞, 等.基于Attention-LSTM的商业建筑负荷分解研究[J].智慧电力, 2020, 48(9): 89-95.
YANG Xiu, CAO Zeqi, ZHANG Meixia, et al.Energy disaggregation of commercial buildings based on attention-LSTM[J].Smart Power, 2020, 48(9): 89-95.
[25] 章昊, 田宏强, 王磊, 等.基于Seq2Seq技术的电力系统暂态稳定评估方法[J].电网与清洁能源, 2021, 37(4): 23-31.
ZHANG Hao, TIAN Hongqiang, WANG Lei, et al.A power system transient stability assessment method based on Seq2Seq technology[J].Power System and Clean Energy, 2021, 37(4): 23-31.
[26] 庄家懿, 杨国华, 郑豪丰, 等.基于多模型融合的 CNN-LSTM-XGBoost 短期电力负荷预测方法[J].中国电力, 2021, 54(5): 46-55.
ZHUANG Jiayi, YANG Guohua, ZHENG Haofeng, et al.Short-term load forecasting method based on multi-model fusion using CNN-LSTM-XGBoost framework[J].Electric Power, 2021, 54(5): 46-55.
Online alarm recognition of power grid dispatching based on BERT-DSA-CNN and a knowledge base
YAN Peng1, HUANG Xiaoxu1, HUANG Yuhui2,YAN Jin1, WANG Shi1, LUO Lei1
(1.Tongren Power Supply Bureau, Guizhou Power Grid Co., Ltd., Tongren 554300, China; 2.School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University, Shanghai 200240, China)
Power grid control alarm recognition is an important aspect of realizing smart grid dispatching.In order to improve the accuracy of power grid control alarm recognition, in view of the huge amount of grid data, the difficulty of extracting effective information, and the poor ability of traditional knowledge base knowledge migration, a power grid control online alarm recognition method based on BERT-DSA-CNN and knowledge base is proposed.First, using natural language processing-deep learning text data mining architecture, after the steps of word segmentation and removal of stop words, the BERT model is used to obtain the word vector of the power grid control warning information.Then the word vector is input into the CNN deep learning model for training, and the DSA mechanism is introduced according to the characteristics of the power grid warning information.Finally, an online warning recognition scheme for power grid regulation is proposed, one which combines the deep learning model and the traditional knowledge base.Through the analysis of a large number of calculation examples, it is concluded that this method has higher accuracy and effectiveness than Word2vec, traditional CNN, traditional knowledge base, offline learning and other methods, and has better recognition ability for different types of faults, providing a basis for engineering application.This work is supported by the National Key Research and Development Program of China (No.2018YFB2100103).
alarm recognition; BERT; deep learning; convolutional neural network; DSA; knowledge base
10.19783/j.cnki.pspc.210705
2021-06-15；
2021-08-26
晏 鹏(1993—)，男，本科，工程师，从事电网自动化运行和继电保护管理方面的工作。E-mail: 1655494259@ qq.com
国家重点研发计划项目资助(2018YFB2100103)；贵州电网公司科技项目资助(060500KK52190006)
(编辑 张爱琴)
