基于CNN-BiLSTM-Attention的超短期电力负荷预测

任建吉，位慧慧，邹卓霖，侯庭庭，原永亮，沈记全，王小敏

基于CNN-BiLSTM-Attention的超短期电力负荷预测

任建吉1，位慧慧1，邹卓霖2，侯庭庭1，原永亮3，沈记全1，王小敏1

(1.河南理工大学计算机科学与技术学院，河南 焦作 454000；2.许继电气直流输电分公司，河南 许昌 461000；3.河南理工大学机械与动力工程学院，河南 焦作 454000)

超短期电力负荷预测对电力系统的快速响应和实时调度至关重要，准确预测负荷能保障电力系统的安全并提高用电效率。为获得准确可靠的负荷预测结果，针对电网负荷数据非线性和时序性等特征，提出了一种基于CNN-BiLSTM-Attention(AC-BiLSTM)的新型超短期电力负荷预测方法。该方法首先将卷积神经网络(CNN)和双向长短期记忆(BiLSTM)网络相结合充分提取负荷数据本身的时空特征。然后引入注意力(Attention)机制自动为BiLSTM隐藏层状态分配相应的权重，以区分不同时间负荷序列的重要性，能够有效减少历史信息的丢失并突出关键历史时间点的信息。最后通过全连接层输出最终负荷预测结果。以某地区真实负荷数据为例进行了实验分析。通过两种实验场景对比，验证了该方法具有较高的预测精度，可以为电力系统规划和稳定运行提供可靠的依据。

负荷预测；卷积神经网络；双向长短期记忆网络；注意力机制；电力系统

0 引言

电力系统作为未来的能源枢纽，将对我国实现碳达峰碳中和目标起到关键作用[1]。在双碳背景下，精确地预测电力负荷能够有效帮助供电企业制定及时、经济的发电计划，优化电力调度规划，同时保证电力系统的安全，符合绿色发展的要求，而预测误差较大将会导致不必要的能源浪费[2]。因此，提高电力负荷预测准确度、优化现代电力产业结构及促进能源生产消费转型，并在电力建设中扎实做好碳达峰碳中和各项工作，对落实2030年前碳排放碳达峰行动方案具有积极的现实意义。

目前，诸多国内外学者进行了大量研究以提高超短期电力负荷预测精度[3-5]。超短期电力负荷预测方法有时间序列分析、机器学习和深度学习三种。常用的时间序列分析法有指数平滑方法[6]、自回归移动平均方法(ARIMA)[7-8]等，这类模型主要采用线性方法，原理简单并且考虑了数据的时序性，对波动性较小的数据预测效果好[9-10]。近年来，机器学习模型广泛应用于电力负荷预测领域并在波动性较大的数据上表现出较好的预测性能。传统的机器学习算法包括随机森林[11]、XGBoost[12-13]、支持向量机等，这些模型可以学习负荷与各类影响因素之间的非线性关系，该类方法在负荷预测建模过程中过分依赖相似日样本选取，使模型构建与更新不够灵活[14]，导致负荷预测精度难以满足电力系统的要求。

长短期记忆(Long Short-Term Memory, LSTM)网络因其具备特殊的记忆能力和门结构，能够同时兼顾负荷数据的时序性及非线性，在电力负荷预测领域得到了广泛应用。文献[15]将LSTM神经网络用于电力负荷预测领域，通过实验表明，与前馈神经网络相比，LSTM模型具有较高的预测能力和适用性；文献[16]提出了一种基于CNN和LSTM的混合神经网络模型，证明了该模型比ARIMA模型、随机森林模型以及单一结构的LSTM模型具有更高的预测精度。随着深度学习的发展，双向长短期记忆网络BiLSTM作为传统单向LSTM网络的延伸被提出，因其能够学习双向时序特征，进一步提高了模型预测的准确性。文献[17]证明了BiLSTM模型在时间序列分析中的预测能力优于单向LSTM模型，可以用于电力负荷预测。文献[18]提出了一种基于CNN-BiLSTM的组合模型进行电力负荷预测，与单一结构的LSTM模型和CNN-LSTM组合模型相比，所提CNN-BiLSTM模型具有优越性。

近年来，注意力机制作为一种高效的资源分配机制，已经逐步成为语音识别、图像识别和机器翻译等领域的研究热点，一些学者尝试将注意力机制用于电力负荷预测以提高负荷预测精度。文献[19]提出了一种基于注意力机制的LSTM模型，利用住宅、大型工业、商业和农业四种不同类型的真实负荷数据进行实验，验证了该模型的有效性；文献[20]提出一种基于注意力机制的CNN-LSTM-BiLSTM用于综合能源系统的负荷预测，该方法中CNN与注意力机制结合提取模型的有效局部特征，LSTM与BiLSTM提取负荷数据的时间特征，与传统方法相比，所提模型可以更好地预测综合能源系统中的电力负荷。

基于CNN-BiLSTM和Attention机制的优势，本文针对电力负荷数据的非线性和时序性的特点，提出一种基于CNN-BiLSTM-Attention(AC-BiLSTM)的新型超短期电力负荷预测方法。其中，卷积神经网络CNN可以有效提取电力负荷数据的非线性局部特征；BiLSTM层用于提取序列数据的双向时序特征；将BiLSTM隐藏层产生的特征作为Attention机制的输入，利用注意力机制对BiLSTM层提取的时间信息通过加权的方式进行重要程度的区分以减小冗杂信息对负荷预测结果的影响。最后，以真实负荷数据为例进行两种不同场景的预测实验，与现有的几种预测方法进行对比，从两种不同角度验证了本文所提出的AC-BiLSTM模型具有更好的超短期电力负荷预测性能。

1 模型结构

1.1 卷积神经网络CNN

CNN是深度学习领域应用最广泛的算法之一，因其具有高效的特征提取能力，在电力系统研究领域已有应用[21]。CNN主要由卷积层和池化层构成[22]，其中卷积层利用卷积核进行电力负荷数据的有效非线性局部特征提取，池化层用于压缩提取的特征并生成更重要的特征信息，提高泛化能力。CNN基本结构如图1所示。

图1 CNN结构图

1.2 LSTM神经网络

Hochreiter等[23]最早提出了一种新颖的递归网络体系结构LSTM神经网络。LSTM通过引入遗忘门、输入门和输出门三种门的逻辑控制单元保持和更新细胞状态，加强了长期记忆能力，可以很好地解决RNN梯度消失与梯度爆炸的问题。LSTM通过学习时序数据的长时间相关性，使网络可以更好、更快地收敛，有助于提高超短期电力负荷预测精度。LSTM结构单元如图2所示。

图2 LSTM单元结构

式(5)、式(6)所示。

1.3 BiLSTM神经网络

图3BiLSTM神经网络结构

前向LSTM、后向LSTM的隐藏层更新状态以及BiLSTM最终输出过程如式(7)—式(9)所示。

1.4 注意力机制Attention

Attention起源于对人脑注意力特征的模拟，该方法首先应用于图像处理领域[25]。在深度学习领域，Attention机制根据不同的特征分配权重的大小，对关键的内容分配更大的权重，对其他内容分配较小的权重，通过差异化的权重分配可提高信息处理的效率。Attention单元结构如图4所示。

图4 Attention单元结构

注意力状态转换过程[26]如式(10)—式(13)所示。

1.5 AC-BiLSTM预测模型结构

本文提出一种基于AC-BiLSTM模型的超短期电力负荷预测方法，具体实现流程如图5所示。首先，将采集到的负荷数据进行预处理并划分训练集和测试集。其次，构建AC-BiLSTM模型，本文采用一层一维卷积层和池化层组成的CNN框架自动提取负荷数据的内部特征，卷积层进行电力负荷数据的有效非线性局部特征提取，池化层选取最大池化方法压缩提取的特征并生成更关键的特征信息。BiLSTM隐藏层建模学习CNN所提取的局部特征的内部动态变化规律，从局部特征中迭代提取更复杂的全局特征。将BiLSTM隐藏层产生的特征作为Attention机制的输入，利用注意力机制自动对BiLSTM隐藏层所提取到的时间信息通过加权的方式进行重要程度的区分，可以更有效地利用负荷数据自身的时间序列属性，挖掘深层次的时间相关性。注意力机制能够有效减少历史信息的丢失并突出关键历史时间点的信息以削弱冗杂信息对负荷预测结果的影响。然后将Attention层的输出作为全连接层的输入，通过全连接层输出最终负荷预测结果。此外，本文引入随机失活(Dropout)技术来防止过拟合现象，即在每一个BiLSTM隐藏层后面附加一个Dropout层[27]，在防止过拟合现象的同时，还可以提升模型的泛化性并且减少模型的训练时间。在网络参数优化部分本文采用Adam(Adaptive Moment Estimation)优化算法更新各层的网络参数，损失函数采用均方误差(Mean Squared Error, MSE)。最后，保存训练好的AC-BiLSTM模型，并使用测试集验证模型的有效性，通过分析负荷预测结果以确定不足之处，并不断优化预测模型。

图5 AC-BiLSTM流程图

2 数据处理

2.1 数据描述

表1 日期和时间相关的特征

2.2 数据归一化

归一化处理具有提升损失函数收敛速度、防止梯度爆炸且提高计算精度的作用。在实际的负荷预测过程中，模型的输入通常包含多种不同量纲的数据，为消除不同量纲对预测结果的影响及提高模型的精度和效率，需要对数据进行归一化处理。本文采用min-max标准化将数据归一化到[0, 1]，计算过程如式(14)所示。

2.3 模型评估

本文采用平均绝对百分误差(MAPE)、均方根误差(RMSE)和平均误差(ME)三个评价指标来评价电力负荷预测方法的性能[31-32]。电力负荷预测中MAPE、RMSE及ME的值越小，代表负荷预测越准确，计算公式如式(16)—式(18)所示。

3 算例分析

本文从两个不同角度验证模型的各项性能：(1) 采用人工搜索超参数的方法选取两组不同参数组合，分别建立AC-BiLSTM模型与单一结构的CNN、BiLSTM模型，并在测试集上进行预测对比分析；(2) 采用随机搜索算法寻找预测模型最优超参数，基于几种对比算法分别建立模型，并在测试集上进行预测对比分析。从两个不同角度充分证明了本文所提出的方法在超短期电力负荷预测方面的优势。为保证实验的可靠性和有效性，对所有验证方法提供相同的实验条件。

3.1 人工搜索模型参数预测结果分析

在保证对比实验公平性的前提下，为验证所提出模型的学习性能，本文将CNN、BiLSTM模型的参数与AC-BiLSTM参数选取保持一致，并采用人工搜索方法选取了2组不同的超参数组合进行测试。根据算例1和算例2的2组不同的超参数组合分别训练一个CNN、BiLSTM和AC-BiLSTM模型，连续运行30次，分别预测出一周(2015年1月2日至1月8日)的负荷以及一天(2015年1月9日)的负荷，取30次实验结果的平均值，得到最终负荷预测结果，并分别计算出各方法的MAPE、RMSE和ME。

3.1.1算例1负荷预测与结果分析

图6(a)为算例1中各模型预测一周的负荷对比折线图。从图中可以看出，所提出的AC-BiLSTM模型拟合曲线与实际负荷预测曲线波动最为相近。当实际负荷发生较大变化时(即负荷预测的不确定性增强)，单一结构的CNN和BiLSTM模型的预测误差较大，而AC-BiLSTM模型仍然能够较好地拟合实际负荷的变化趋势，尤其是在曲线谷峰处差异最明显。

图6(b)为算例1中的模型对2015年1月9日当天的负荷预测结果。其中，CNN模型预测曲线与实际负荷曲线大体吻合。从图中可以看出，BiLSTM模型预测曲线峰谷值与实际负荷曲线存在较大偏差且具有不稳定性，相对于其他模型预测效果最差。从图6(b)可以看出，12：00—14：00所有模型预测误差均较大，这是由于该时间段为休息时间，受到人员流动性较大等因素的影响，但是与其他模型相比，此时所提出的AC-BiLSTM模型预测结果与实际负荷最为贴近。

在算例1中，基于AC-BiLSTM的模型与设置相同超参数的CNN、BiLSTM模型的预测误差如表2所示。

表2 算例1对比模型预测误差

由表2可以看出：在预测连续一周的负荷结果中，AC-BiLSTM模型的MAPE指标为4.39%，相较于CNN模型和BiLSTM模型分别降低了1.38%、3.15%；AC-BiLSTM模型的RMSE为324.57 MW，相较于CNN模型和BiLSTM模型分别降低了145.94 MW、174.41 MW；且AC-BiLSTM模型的ME均低于单一结构的CNN、BiLSTM模型。

预测一天的负荷结果显示，AC-BiLSTM模型的MAPE指标分别降低了4.64%、5.07%；RMSE分别降低了358.12 MW、299.63 MW；ME均低于CNN、BiLSTM模型，验证了所提方法的预测准确度相较于单一结构预测模型得到很大提升。

3.1.2算例2负荷预测与结果分析

算例2中改变各层超参数设置，进行与算例1相同的实验，对测试集进行连续一周和一天负荷的预测，其负荷拟合曲线分别如图7(a)和图7(b)所示，从图中可以看出本文所提出的AC-BiLSTM模型拟合效果最优，基本拟合实际负荷的变化趋势，进一步验证了AC-BiLSTM模型提高了超短期电力负荷预测的精度。

算例2中改变各模型超参数设置，进行与算例1相同的实验并计算各评估指标，实验结果如表3所示。

表3 算例2对比模型预测误差

由表3可以看出：无论是连续一周负荷预测还是单独一天预测，本文所提出的AC-BiLSTM模型各项评估指标均优于CNN和BiLSTM模型。

通过算例1和算例2实验结果综合分析，本文所提出的AC-BiLSTM模型在MAPE、RMSE和ME上都有显著减少，表明AC-BiLSTM模型的预测性能优于CNN和BiLSTM模型的预测性能，验证了所提出的模型在电力系统超短期负荷预测能力的有效性。

3.2 随机搜索优化不同模型预测结果分析

3.2.1模型参数设置

人工搜索和网格搜索是超参数优化中应用最广泛的方法，人工搜索超参数的方法效率较低，需要耗费大量的时间和精力，网格搜索通过尝试搜索范围内的所有超参数组合寻找一组最优的超参数，这种方法虽然简单有效，但需消耗大量的计算资源且非常耗时。而随机搜索对不同重要性的参数选择不同的搜索范围，对超参数优化比网格搜索和人工搜索更有效[33]。本文采用随机搜索的方法进行超参数优化，实验采用的超参数选取情况如表4所示。

表4 AC-BiLSTM超参数选择情况

3.2.2负荷预测与结果分析

为进一步验证所提出的AC-BiLSTM模型在超短期电力负荷预测精度方面的优越性，本文选取了几种常用的负荷预测算法进行对比分析。图8(a)和图8(b)分别为随机森林、XGBoost、CNN、BiLSTM和AC-BiLSTM模型预测连续一周负荷及预测一天负荷的结果。

从图8(a)和图8(b)可以看出，机器学习算法随机森林和XGBoost不能准确反映负荷数据的波动规律，整体预测效果表现最差，虽然CNN、BiLSTM算法在随机搜索选择最优超参数后预测准确度较算例1和算例2人工搜索超参数有所提高，但预测结果相比本文提出的AC-BiLSTM模型较差。AC-BiLSTM模型能有效预测电力负荷变化趋势，尤其是在负荷变化较大的峰谷值时也能准确把握负荷变化规律。从图8(a)和图8(b)中可以看出，与机器学习算法随机森林和XGBoost以及CNN、BiLSTM算法相比，本文提出的AC-BiLSTM模型的预测准确度最高，能够为电力系统规划和稳定运行提供可靠的依据。

将该模型与随机森林、XGBoost、CNN和BiLSTM四种模型在随机搜索选择最优超参数组合的情况下进行电力负荷预测并分别计算模型的评估指标，不同模型的预测结果如表5所示。

表5 不同算法预测结果对比

由表5可以看出：本文所提出的AC-BiLSTM预测模型进行连续一周和单独一天负荷预测的MAPE、RMSE和ME三个评价指标均优于随机森林、XGBoost、CNN、BiLSTM模型。在随机搜索算法寻找最优超参数组合下，CNN和BiLSTM模型的预测精度较算例1和算例2人工搜索模型超参数的预测精度均有所提升，但AC-BiLSTM模型的提升效果最优。AC-BiLSTM模型预测一周负荷的RMSE仅为90.88 MW，比随机森林、XGBoost、CNN、BiLSTM分别降低了760.23 MW、757.78 MW、258.46 MW、99.05 MW；AC-BiLSTM模型预测一天负荷的RMSE仅为91.38 MW，比其他模型分别降低了772.27 MW、770.78 MW、266.36 MW、76.64 MW，进一步验证了本文所提出的AC-BiLSTM模型的有效性和优越性。

4 结论

面向碳达峰和碳中和的目标，构建安全绿色的电力系统刻不容缓，本文提出了AC-BiLSTM模型进行超短期电力负荷预测，通过实验验证分析得出以下结论：

(1) 利用时间滑动窗口将多维数据构造成连续特征图作为输入，充分发挥CNN能够有效提取空间特征的优势，结合BiLSTM网络对序列数据的双向时序特征提取的能力，以及Attention机制能够选择性关注隐层状态，从而充分挖掘负荷数据自身的时间序列属性，获取深层次的时间相关性。注意力机制也能够有效减少历史信息的丢失并突出关键历史时间点的信息以减小冗杂信息影响负荷预测结果。

(2) 采用人工搜索超参数的方法建立预测模型，通过两组不同参数组合下AC-BiLSTM模型与单一结构的CNN、BiLSTM模型进行对比分析，AC-BiLSTM模型的RMSE、ME及MAPE的指标值均为最小，表明所提出的AC-BiLSTM模型的预测准确度最高。

(3) 采用随机搜索算法寻找各模型最优超参数建立预测模型，与机器学习算法随机森林、XGBoost以及CNN、BiLSTM算法相比，所提出的AC-BiLSTM模型的超短期负荷预测效果最佳。

未来研究将会考虑节假日效应、电价以及降雨量等因素更复杂环境中的超短期电力负荷预测问题，并充分利用大数据优势深入挖掘负荷变化规律，进一步提高超短期电力负荷预测精度。

[1] 寸馨, 钱仲文, 孙艺新, 等.基于“效益-精度”对冲的两级电力市场负荷预测技术[J].中国电力, 2020, 53(10): 172-179.

CUN Xin, QIAN Zhongwen, SUN Yixin, et al.“Cost-accuracy” hedging based load forecasting technique on two-stage electricity market[J].Electric Power, 2020, 53(10): 172-179.

[2] 朱清智, 董泽, 马宁.基于即时学习算法的短期负荷预测方法[J].电力系统保护与控制, 2020, 48(7): 92-98.

ZHU Qingzhi, DONG Ze, MA Ning.Forecasting of short-term power based on just-in-time learning[J].Power System Protection and Control, 2020, 48(7): 92-98.

[3] JIANG H, WU A, WANG B, et al.Industrial ultra-short- term load forecasting with data completion[J].IEEE Access, 2020, 8: 158928-158940.

[4] WANG Z, LI H, TANG Z, et al.User-level ultra-short- term load forecasting model based on optimal feature selection and Bahdanau attention mechanism[J].Journal of Circuits, Systems and Computers, 2021, 30(15).

[5] 杨正瓴, 田勇, 张广涛, 等.相似日短期负荷预测的非线性理论基础与改进[J].电网技术, 2006, 30(6): 63-66.

YANG Zhengling, TIAN Yong, ZHANG Guangtao, et al.Nonlinear theoretical foundation and improvement of similar days method for short term load forecasting[J].Power System Technology, 2006, 30(6): 63-66.

[6] SMYL S.A hybrid method of exponential smoothing and recurrent neural networks for time series forecasting[J].International Journal of Forecasting, 2020, 36(1): 75-85.

[7] 刘亚辉, 韩明轩, 郭俊岑, 等.基于密度聚类与ARIMA模型短期电力负荷预测[J].北京信息科技大学学报(自然科学版), 2019, 34(5): 84-87.

LIU Yahui, HAN Mingxuan, GUO Juncen, et al.Short-term electric load forecasting based on DBSCAN-ARIMA method[J].Journal of Beijing Information Science & Technology University (Natural Science Edition), 2019, 34(5): 84-87.

[8] Kim Y, Son H G, Kim S.Short term electricity load forecasting for institutional buildings[J].Energy Reports, 2019, 5: 1270-1280.

[9] 陈振宇, 刘金波, 李晨, 等.基于LSTM与XGBoost组合模型的超短期电力负荷预测[J].电网技术, 2018, 44(2): 614-620.

CHEN Zhenyu, LIU Jinbo, LI Chen, et al.Ultra short-term power load forecasting based on combined LSTM-XGBoost model[J].Power System Technology, 2018, 44(2): 614-620.

[10] 于昕妍.微电网超短期负荷预测研究[D].无锡: 江南大学, 2018.

YU Xinyan.Research on ultra-short-term load prediction of micro-grid[D].Wuxi: Jiangnan University, 2018.

[11] 李焱, 贾雅君, 李磊, 等.基于随机森林算法的短期电力负荷预测[J].电力系统保护与控制, 2020, 48(21): 117-124.

LI Yan, JIA Yajun, LI Lei, et al.Short term power load forecasting based on a stochastic forest algorithm[J].Power System Protection and Control, 2020, 48(21): 117-124.

[12] 姜建, 刘海琼, 李衡, 等.基于XGBoost的配电网线路峰值负荷预测方法[J].电力系统保护与控制, 2021, 49(16): 119-127.

JIANG Jian, LIU Haiqiong, LI Heng, et al.Peak load forecasting method of distribution network lines based on XGBoost[J].Power System Protection and Control, 2021, 49(16): 119-127.

[13] 孙超, 吕奇, 朱思曈, 等.基于双层XGBoost算法考虑多特征影响的超短期电力负荷预测[J].高电压技术, 2021, 47(8): 2885-2898.

SUN Chao, LÜ Qi, ZHU Sitong, et al.Ultra-short-term power load forecasting based on two-layer XGBoost algorithm considering the influence of multiple features[J].High Voltage Engineering, 2021, 47(8): 2885-2898.

[14] 张诤杰.基于门循环单元神经网络的微电网日前电力负荷预测[D].徐州: 中国矿业大学, 2020.

ZHANG Zhengjie.Day-ahead load forecasting of microgrid based on GRU network[D].Xuzhou: China University of Mining and Technology, 2020.

[15] Ciechulski T, Osowski S.High precision LSTM model for short-time load forecasting in power systems[J].Energies, 2021, 14(11).

[16] 陆继翔, 张琪培, 杨志宏, 等.基于CNN-LSTM混合神经网络模型的短期负荷预测方法[J].电力系统自动化, 2019, 43(8): 131-137.

LU Jixiang, ZHANG Qipei, YANG Zhihong, et al.Short-term load forecasting method based on CNN-LSTM hybrid neural network model[J].Automation of Electric Power Systems, 2019, 43(8): 131-137.

[17] Siami-Namini S, Tavakoli N, Namin A.A comparative analysis of forecasting financial time series using ARIMA, LSTM, and BILSTM[EB/OL].[2021-07-23].https://arxiv.org/pdf/1911.09512.pdf.

[18] 王裕鑫.基于CNN-BiLSTM算法的电力负荷预测方法研究[D].西安: 西安理工大学, 2021.

WANG Yuxin.Research on the power load forecasting method based on CNN-BiLSTM[D].Xi’an: Xi’an University of Technology, 2021.

[19] Lin Z, Cheng L, Huang G.Electricity consumption prediction based on LSTM with attention mechanism[J].IEEJ Transactions on Electrical and Electronic Engineering, 2020, 15(4): 556-562.

[20] WU K, WU J, FENG L, et al.An attention based CNN-LSTM-BiLSTM model for short-term electric load forecasting in integrated energy system[J].International Transactions on Electrical Energy Systems, 2021, 31(1).

[21] 庄家懿, 杨国华, 郑豪丰, 等.基于多模型融合的CNN-LSTM-XGBoost短期电力负荷预测方法[J].中国电力, 2021, 54(5): 46-55.

ZHUANG Jiayi, YANG Guohua, ZHENG Haofeng, et al.Short-term load forecasting method based on multi-model fusion using CNN-LSTM-XGBoost framework[J].Electric Power, 2021, 54(5): 46-55.

[22] LECUN Y, BOTTOU L, BENGIO Y, et al.Gradient-based learning applied to document recognition[J].Proceedings of the IEEE, 1998, 86(11): 2278-2324.

[23] Hochreiter S, Schmidhuber J.LSTM can solve hard long time lag problems[J].Advances in Neural Information Processing Systems, 1997, 9: 473-479.

[24] 彭华, 王文超, 朱永利, 等.基于LSTM神经网络的风电场集电线路单相接地智能测距[J].电力系统保护与控制, 2021, 49(16): 60-66.

PENG Hua, WANG Wenchao, ZHU Yongli, et al.An intelligent single-phase grounding fault location for a wind farm collection line based on an LSTM neural network[J].Power System Protection and Control, 2021, 49(16): 60-66.

[25] Mnih V, Heess N, Graves A, et al.Recurrent models of visual attention[C] // Proceedings of the 27th International Conference on Neural Information Processing Systems, December 1-3, 2014, Montreal, Canada: 2204-2212.

[26] 谢谦, 董立红, 厍向阳.基于Attention-GRU的短期电价预测[J].电力系统保护与控制, 2020, 48(23): 154-160.

XIE Qian, DONG Lihong, SHE Xiangyang.Short-term electricity price forecasting based on Attention-GRU[J].Power System Protection and Control, 2020, 48(23): 154-160.

[27] SRIVASTAVA N, HINTON G, KRIZHEVSKY A, et al.Dropout: a simple way to prevent neural networks from overfitting[J].The Journal of Machine Learning Research, 2014, 15(1): 1929-1958.

[28] Gergo B, Gabor N G B, Sandor K.Gefcom 2014-probabilistic electricity price forecasting[C] // 7th KES International Conference on Intelligent Decision Technologies (KES-IDT), June 17-19, 2015, Switzerland: 67-76.

[29] 赵倩, 黄景涛.基于EMD-SA-SVR的超短期风电功率预测研究[J].电力系统保护与控制, 2020, 48(4): 89-96.

ZHAO Qian, HUANG Jingtao.On ultra-short-term wind power prediction based on EMD-SA-SVR[J].Power System Protection and Control, 2020, 48(4): 89-96.

[30] 崔佳豪, 毕利.基于混合神经网络的光伏电量预测模型的研究[J].电力系统保护与控制, 2021, 49(13): 142-149.

CUI Jiahao, BI Li.Research on photovoltaic power forecasting model based on hybrid neural network[J].Power System Protection and Control, 2021, 49(13): 142-149.

[31] 范海虹.基于萤火虫算法的短期电力负荷预测方法[J].中国电力, 2021, 54(3): 141-148.

FAN Haihong.Short-term power load forecasting method based on glowworm swarm optimization algorithm[J].Electric Power, 2021, 54(3): 141-148.

[32] Bergstra J, Bengio Y.Random search for hyper-parameter optimization[J].Journal of Machine Learning Research, 2012, 13(2): 281-305.

Ultra-short-term power load forecasting based on CNN-BiLSTM-Attention

REN Jianji1, WEI Huihui1, ZOU Zhuolin2, HOU Tingting1, YUAN Yongliang3, SHEN Jiquan1, WANG Xiaomin1

(1.College of Computer Science and Technology, Henan Polytechnic University, Jiaozuo 454000, China; 2.HVDC Transmission Branch of XJ Group Co., Ltd., Xuchang 461000, China;3.School of Mechanical and Power Engineering, Henan Polytechnic University, Jiaozuo 454000, China)

Ultra-short-term power load forecasting is crucial for rapid response and real-time dispatch in a power system.Accurate load forecasting ensures the safety of the power system and improves electricity efficiency.To obtain accurate and reliable load forecasting results, a new ultra-short-term power load forecasting method based on CNN-BiLSTM-Attention (AC-BiLSTM) is proposed for the characteristics of nonlinear and time-series nature of grid load data.First, a convolutional neural network (CNN) and bidirectional long and short-term memory (BiLSTM) networks are used to extract the spatio-temporal features of the load data.The attention mechanism automatically assigns corresponding weights to BiLSTM to distinguish the importance of different time load sequences.These can effectively reduce the loss of historical information and highlight the information of key historical time points.Finally, the final load prediction results are output through the fully connected layer.Taking the real load data of a certain area as an example, the comparison between two experimental scenarios proves that the proposed method has high prediction accuracy and can provide a reliable basis for power system planning and stable operation.

load forecasting; CNN; BiLSTM; attention mechanism; power system

10.19783/j.cnki.pspc.211187

2021-08-31；

2021-11-26

任建吉(1982—)，男，博士，副教授，研究方向为分布式计算、大数据分析；E-mail: renjianji@hpu.edu.cn

原永亮(1989—)，男，通信作者，博士，讲师，研究方向为多学科协同优化、群智能优化算法。E-mail: yuanyongliang@hpu.edu.cn

This work is supported by the Science and Technology Planning Project of Henan Province (No.212102210226).

河南省科技攻关项目资助(212102210226)；河南理工大学博士基金项目资助(B2021-31)；河南省高等学校重点科研项目资助(22A520029)

(编辑 张爱琴)