基于多通道卷积双向长短时记忆网络的输电线故障分类

沈银，席燕辉，陈子璇

基于多通道卷积双向长短时记忆网络的输电线故障分类

沈银，席燕辉，陈子璇

(长沙理工大学电气与信息工程学院，湖南 长沙 410004)

针对单通道故障分类器不能全面表达三相故障特征信息引起分类精度不高的问题，提出了一种基于多通道卷积双向长短时记忆神经网络(MCCNN-BiLSTM)的输电线故障分类方法。该方法可同时输入故障三相信号，并能有效提取故障信号的空间和时间特征，实现了三相故障信号特征的全面提取，有效地提高了神经网络的分类的精度。基于735 kV三相串联补偿输电线模型大量故障数据分析，对三相故障电压信号不采用任何特征提取算法，仅截取故障周期的三相电压幅值数据作为基本故障特征信号输入。仿真实验结果表明：该网络能快速准确地分类识别11种故障，并且不易受故障时刻、过度电阻等因素的影响，具有良好的鲁棒性和适应性。

输电线；多通道卷积神经网络；双向长短时记忆神经网络；故障分类

0 引言

电力系统的重要组成部分(高压架空输电线路)运行数百公里为用户供电。线路长期裸露在户外，导致十分容易出故障，例如树枝击中线路或绝缘子损坏等。远距离输电使得人工检查线路是否损坏更加困难，而这些损坏情况会导致输电线路故障，如未及时修复最终会导致停电或起火。因此能够快速检测线路故障的方案尤其重要，可以预防停电或起火，降低维护成本，避免不必要的经济损失和社会影响[1-5]。

各种机器学习和信号处理方法应用于高压架空输电线路上故障检测上能够快速准确地识别各类故障。输电线故障分类一般利用信号处理方法，从输电线路信号中提取故障特征，并通过机器学习方法进行分类。常见信号特征提取方法包括小波变换[6]、克拉克变换[7]和S变换[8]等。机器学习分类算法包括模糊逻辑推理[9-10]、支持向量机[11-14]和神经网络[15]等。

随着电力系统复杂性的增大，故障分类也需要进行大数据处理。而随着人工智能技术的发展，在该领域中深度学习方法具有很大优势。开发智能故障检测与分类系统是新的趋势。基于人工神经网络的模型包括前馈函数[16]、概率函数[17]和径向函数[18]对架空线路故障进行分类。但因其分类性能取决于故障特征提取的方式，从而减少了分类器的泛化能力。

近年来，深度学习方法已经成为时间序列处理的最新技术。特别是卷积神经网络(CNN)和长短时记忆神经网络(LSTM)的组合在处理时间序列分类问题上[19–21]是无须进行特征提取的预处理方法。因为它们能够直接处理原始数据，减少人为因素影响分类器的智能性。为了有效利用三相故障输入信号里的故障信息，改善原始故障信号单通道输入不能全面表达三相故障特征，提出了多通道卷积双向长短时记忆神经网络(MCCNN-BiLSTM)，可同时输入原始故障三相信号，并同时提取故障信号的空间特征和时间特征，实现了三相故障特征的全面提取，从而提高了输电线路故障分类检测的鲁棒性和准确性。

1 MCCNN-BiLSTM

1.1 CNN

文献[22]提出卷积神经网络CNN，其设计灵感来自于模拟人类视觉神经进行物体识别的原理，CNN主要用于图像的识别与分类。CNN在特征提取方面不同于传统的机器学习算法，其通过许多堆叠的层全局来提取特征。

通常，CNN结构是由卷积层、池化层组成的。其中卷积层是CNN主要组成部分，卷积是一种作用于两组信号的数学运算，该运算的公式为

对于CNN，两组信号是输入数据和卷积滤波器，也称为内核。通过在整个输入上滑动内核来执行卷积运算，这会生成一个特征图。在实践中，利用不同的滤波器执行多次卷积以产生不同的特征图。最后将这些特征图进行整合，以制定卷积层的最终输出。

卷积运算后使用激活函数将非线性引入模型。使用了不同的激活函数，例如线性函数、S形函数和tanh函数，但是在CNN中通常使用整流线性单元(ReLU)，因为它可以更快地训练模型，并确保近乎全局的权重优化。ReLU激活功能定义为

卷积层接下来就是池化层。该层对每个特征输入图进行下采样以减小其尺寸，从而减少过拟合和训练时间。最大池化广泛应用于池化层，其在池窗口中选择最大值进行下采样。

1.2 BiLSTM

LSTM是一种特殊的循环神经网络(RNN)旨在避免RNN的短期记忆问题。LSTM能够记住和传播从网络的初始阶段到最终阶段的重要信息，LSTM需要一定的结构来实现这一能力。则设计出了“细胞状态”(cell state)结构，导致存储的历史信息不易改变，因此具有较好的记忆力、支持LSTM较好地记忆序列的信息。细胞状态的实现形式，就是我们常说的“门单元”，细胞状态中的信息被几个门单元删除或修改。LSTM模型由三个门组成，即遗忘门、输入门和输出门，如图1所示。

图1 LSTM单元的结构

1) 门计算

2) 记忆细胞计算

3) 隐藏状态计算

BiLSTM来解决分类任务，从最后一个标记开始从后向前运行LSTM，而不是只在前向模式下从第一个标记开始运行LSTM。BiLSTM添加了反向传递信息的隐藏层，以更灵活地处理此类信息，图2是其网络的结构。

图2 BiLSTM的结构

1) 前向和反向隐藏状态更新

2) 输出的计算

BiLSTM的一个关键特性是使用来自序列两端的信息来估计输出。也就是说使用来自未来和过去观测的信息来预测当前的观测。在训练期间，利用了过去和未来的数据来估计现在，提高模型的分类精度。

1.3 SoftMax

SoftMax层本质上是一个完全连接的人工神经网络。简而言之，在神经网络中隐藏层将提取低级特征，例如边缘、线条、耳朵，眼睛和腿，并且完全连接的层将基于这些低级特征执行分类任务。在此最终分类层中使用的激活函数通常是一个SoftMax函数，该函数为每个类别分配总计为1的概率值。SoftMax函数定义为

1.4 MCCNN-BiLSTM

CNN和LSTM的集成来解决分类任务，CNN具有从输入数据中提取空间特征的能力，而LSTM在时序信号的情况下提取时间特征的表现更好。两者的组合已在不同的应用领域中进行了研究，例如图像或视频中的文本，情感分析和自然语言处理。使用MCCNN-BiLSTM网络来解决输电线故障多分类问题，其前端网络为MCCNN，后端网络为BiLSTM，如图3所示。

图3 MCCNN-BiLSTM模型结构

因同时输入三相信号，需将前端网络提取的三相空间故障特征合并，传递给BiLSTM，保证后端网络的正常运行。最后的SoftMax层是将网络提取的故障特征进行概率的分配，实现输电线故障的分类。

2 实验仿真

2.1 Simulink输电线数据与预处理

Simulink搭建一个长为300 km的735 kV三相串联补偿输电线模型，其简化模型如图4所示。

其模型频率为60 Hz，采样频率为20 kHz。在此模型上，根据不同故障时刻、过度电阻等参数组合情况下采集到11类故障的A、B、C三相电压数据(每种类型600组)，神经网络需要给每种故障类型贴标签如表1所示。其中单相接地故障、双相短接故障、双相接地故障、三相故障、无故障分别如图5所示。

图4 三相输电线简化模型

表1 故障类型标签

输电线发生故障时其电压的幅值出现了显著的变化，如图5所示，为了提高方法的正确率，将截取故障发生时刻的采样区间的电压作为分类器的输入，如图6所示。

2.2 数据训练与测试

实验环境为Windows10、32 GB内存、2张NVIDIA GeForce RTX™ 2080 Ti显卡及编程环境为Matlab的个人计算机。深度学习框架选择Matlab的Deep Learning Toolbox工具箱。

获取故障类型数据600组，随机取其中500组训练，其过程的可视化如图7所示。

将剩下的100组去测试，其结果用混淆矩阵表达，如图8所示。

图6 故障数据截取

图7 500组数据进行训练

图8 100组测试结果

2.3 网络分类性能评估

混淆矩阵用于评估分类器的性能，其中有4个重要的术语：真正类(True Positive, TP)，真负类(True Negative, TN)，假正类(False Positive, FP)，假负类(False Negative, FN)，如表2所示。

表2 混淆矩阵

分类指标通常仅仅为准确率(Accuracy, ACC)，其公式为

测试结果的为97.3%，但不能完全评估其方法性能的优劣，还需使用其他的评价指标进一步来评估模型，如表3所示。

表3 性能评估

精准率(Precision, PR)又称为查准率，召回率(Recall, RE)又称查全率，F1-Score(F1)是精准率和召回率的调和平均数。精准率-召回率曲线(Precision- Recall Curve, P-R Curve)是描述精准率和召回率变化的曲线，与坐标轴围成的面积越大，则分类器性能越好，如图9所示。

图9 P-R曲线

接收者操作特征曲线(Receiver Operating Characteristic Curve, ROC Curve)，该曲线对应的纵坐标是灵敏度(Sensitivity, SE)，横坐标是1-特异度(Specificity, SP)。ROC曲线下的面积(Area Under Curve, AUC)越大，代表分类器性能越好，如图10所示。

图10 ROC曲线

其中，灵敏度为真正类率(True Positive Rate, TPR)等同于Recall，特异度为真负类率(True Negative Rate, TNR)，1-特异度等同为假正类率(False Positive Rate, FPR)。

上述评价指标公式为

2.4 算法对比

模糊神经网络(FNN)结合了神经网络系统和模糊系统的优点，它在处理非线性和模糊性方面具有很大的优势[23]。支持向量机(SVM)用于解决数据分类问题，属于一种监督学习算法[24]。XGBoost是一个开源计算机学习项目，并有效实施了GBDT算法，MLR算法实现了一种学习特征之间的非线性关系并且直接存在于原始空间、LSTM神经网络，对时序信号处理有明显的优势[25]。提出的方法与六个分类器(FNN、SVM、XGBoost、MLR、LSTM和DWT-LSTM)进行比较，结果如表4所示。可以看出，该方法的F1指标比其他分类器更好。

表4 不同算法之间的比较

3 结论

1) 使用多通道输入能够全面提取三相时序信号的故障特征，提高输电线故障分类精度。

2) 集成了CNN与LSTM网络的MCCNN- BiLSTM方法能同时提取故障的空间与时间特征，提升输电线故障分类精度。

3) 基于MCCNN-BiLSTM网络的故障分类方法具有良好的鲁棒性和适应性，为实现输电线故障的智能分类提供新方案。

[1] 李军徽, 冯喜超, 严干贵, 等. 高风电渗透率下的电力系统调频研究综述[J]. 电力系统保护与控制, 2018, 46(2): 163-170.

LI Junhui, FENG Xichao, YAN Gangui, et al. Overview of power system frequency modulation research under high wind power penetration rate[J]. Power System Protection and Control, 2018, 46(2): 163-170.

[2] 李欣悦, 李凤婷, 尹纯亚, 等. 直流双极闭锁故障下送端系统暂态过电压计算方法[J]. 电力系统保护与控制, 2021, 49(1): 1-8.

LI Xinyue, LI Fengting, YIN Chunya, et al. Calculation method of transmitting-end system transient overvoltage under DC bipolar blocking fault[J]. Power System Protection and Control, 2021, 49(1): 1-8.

[3] 张伟晨, 熊永新, 李程昊, 等. 基于改进VDCOL的多馈入直流系统连续换相失败抑制及协调恢复[J]. 电力系统保护与控制, 2020, 48(13): 63-72.

ZHANG Weichen, XIONG Yongxin, LI Chenghao, et al. Continuous commutation failure suppression and coordinated recovery of multi-infeed DC system based on improved VDCOL[J]. Power System Protection and Control, 2020, 48(13): 63-72 .

[4] 陈磊, 何慧雯, 王磊, 等. 基于限流器与断路器协调的混合直流输电系统故障隔离方法[J]. 电力系统保护与控制, 2020, 48(19): 119-127.

CHEN Lei, HE Huiwen, WANG Lei, et al. Hybrid DC transmission system fault isolation method based on coordination of current limiter and circuit breaker[J]. Power System Protection and Control, 2020, 48(19): 119-127.

[5] 孙立明, 杨博. 蓄电池/超导混合储能系统非线性鲁棒分数阶控制[J]. 电力系统保护与控制, 2020, 48(22): 76-83.

SUN Liming, YANG Bo. Nonlinear robust fractional-order control of battery/superconducting hybrid energy storage system[J]. Power System Protection and Control, 2020, 48(22): 76-83.

[6] BHOWMIK P, PURKAIT P, BHATTACHARYA K. A novel wavelet transform aided neural network based transmission line fault analysis method[J]. International Journal of Electric Power Energy Systems, 2009, 31(5): 213-219.

[7] DONG X, KONG W, CUI T. Fault classification and faulted-phase election based on the initial current traveling wave[J]. IEEE Transactions on Power Delivery, 2008, 24(2): 552-559.

[8] KRISHNANAND K, DASH P. A new real-time fast discrete s-transform for cross-differential protection of shunt-compensated power systems[J]. IEEE Transactions on Power Delivery, 2012, 28(1): 402-410.

[9] MALIK H, SHARMA R. Transmission line fault classification using modified fuzzy q learning[J]. IET Generation, Transmission, and Distribution, 2017, 11(16): 4041-4050.

[10] YADAV A, SWETAPADMA A. Enhancing the performance of transmission line directional relaying, fault classification and fault location schemes using fuzzy inference system[J]. IET Generation, Transmission, and Distribution, 2015, 9(6): 580-591.

[11] DASH P, SAMANTARAY S, PANDA G. Fault classification and section identification of an advanced series-compensated transmission line using support vector machine[J]. IEEE Transmission on Power Delivery, 2006, 22(1): 67-73.

[12] PARIKH U B, DAS B, MAHESHWARI R. Fault classification technique for series compensated transmission line using support vector machine[J]. International Journal of Electric Power Energy Systems, 2010, 32(6): 629-636.

[13] ELKALASHY N, TARHUNI N, LEHTONEN M. Simplified probabilistic selectivity technique for earth fault detection in unearthed MV networks[J]. IET Generation, Transmission and Distribution, 2009, 3(2): 145-153.

[14] RAY P, MISHRA D P. Support vector machine based fault classification and location of a long transmission line[J]. International Journal of Engineering Science and Technology, 2016, 19(3): 1368-1380.

[15] DASH P, PRADHAN A, PANDA G. Application of minimal radial basis function neural network to distance protection[J]. IEEE Transactions on Power Delivery, 2001, 16(1): 68-74.

[16] UPENDAR J, GUPTA C P, SINGH G K. Discrete wavelet transform and genetic algorithm based fault classification of transmission systems[C] // 15th National Power Systems Conference, December 2008, Bombay, India: 323-328.

[17] ROY N, BHATTACHARYA K. Detection, classification, and estimation of fault location on an overhead transmission line using s-transform and neural network[J]. Electric Power Component Systems, 2015, 43(4): 461-472.

[18] MAHANTY R, GUPTA P D. Application of RBF neural network to fault classification and location in transmission lines[J]. IEE Proceedings of the Generation, Transmission and Distribution, 2004, 151(2): 201-212.

[19] ORDÓÑEZ F, ROGGEN D. Deep convolutional and LSTM recurrent neural networks for multimodal wearable activity recognition[J]. Sensors, 2016, 16(1).

[20] QIAN Y, BI M, TAN T, et al. Very deep convolutional neural networks for noise robust speech recognition[J]. IEEE/ACM Transactions on Audio Speech Language Processing, 2016, 24(12): 2263-2276.

[21] TSIRONI E, BARROS P, WEBER C, et al. An analysis of convolutional long short-term memory recurrent neural networks for gesture recognition[J]. Neurocomputing, 2017, 268: 76-86.

[22] LECUN Y, BENGIO Y, HINTON G. Deep learning[J]. Nature, 2015, 521: 436-444.

[23] ZUO J, CHEN J, TAN Y, et al. A multi-agent collaborativework planning strategy based on AFSA-PSO algorithm[C] // Proceedings of International Conference Robots Intelligent Systems (ICRIS), June 2019, Haikou, China: 254-257.

[24] QU N, ZUO J, CHEN J, et al. Series arc fault detection of indoor power distribution system based on LVQ-NN and PSO-SVM[J]. IEEE Access, 2019, 7:184020-184028.

[25] QU N, LI Z, ZUO J, et al. Fault detection on insulated overhead conductors based on DWT-LSTM and partial discharge[J]. IEEE Access, 2020, 8: 87060-87070.

Transmission line fault classification based on MCCNN-BiLSTM

SHEN Yin, XI Yanhui, CHEN Zixuan

(School of Electrical and Information Engineering, Changsha University of Science and Technology, Changsha 410004, China)

There is a problem that a single-channel fault classifier cannot fully express three-phase fault characteristic information and the classification accuracy is not high. Thus a transmission line fault classification method based on a multi-channel convolutional bidirectional long and short-term memory neural network (MCCNN-BiLSTM) is proposed. This method can input more than one fault three-phase signal at the same time, and can effectively extract the spatial and temporal characteristics of the fault signals, realize the comprehensive extraction of the three-phase fault signal features, and effectively improve the classification accuracy of the neural network. Based on a large amount of fault data analysis of the 735 kV three-phase series compensation transmission line model, no feature extraction algorithm is used for the three-phase fault voltage signal, and only the three-phase voltage amplitude data of the fault period is intercepted as the basic fault characteristic signal input. Simulations show that the network can quickly and accurately classify and identify 11 types of faults, and is not easily affected by factors such as the time of the fault nor excessive resistance. It has good robustness and adaptability.

This work is supported by the National Natural Science Foundation of China (No. 51507015).

transmission line; multi-channel convolutional neural network; bidirectional long and short-term memory neural network; fault classification

10.19783/j.cnki.pspc.210560

国家自然科学基金项目资助(51507015)；湖南省研究生创新项目资助(3040202-012001803)

2021-05-12；

2021-08-25

沈 银(1997—)，男，硕士研究生，研究方向为电力系统故障检测与分类；E-mail: 1214235356@qq.com

席燕辉(1979—)，女，通信作者，博士，副教授，研究方向为电力系统分析；E-mail: xiyanhui@126.com

陈子璇(1997—)，男，硕士研究生，研究方向为电能质量分类。E-mail: 448686623@qq.com

(编辑 姜新丽)