APP下载

基于二维卷积特征提取的双向LSTM短期电力负荷预测

2021-12-13沈俊豪沈艳霞

电子元器件与信息技术 2021年8期
关键词:双向特征提取卷积

沈俊豪,沈艳霞

(江南大学物联网技术应用教育部工程研究中心,江苏 无锡 214122)

0 引言

准确的负荷预测能够供电企业的电力调度、电力设施建设等提供重要依据,同时也是确保电力系统安全稳定运行的重要手段之一[1-2]。

然而电力负荷受多个因素的影响,如时间、气温等,具有高维非线性的特点,许多预测模型难以贴切地描述负荷变化,严重影响了预测精度[3-4]。

文中考虑短期电力负荷预测,将CNN模型自动提取隐式特征能力以及LSTM解决时间序列长时间依赖问题的能力相结合,提出采用基于二维CNN特征提取的双向LSTM预测模型,即Conv2D-LSTM预测模型。区别于Conv1D-LSTM模型,文中对时间序列重新排列,变换其数据流通方向,保证其充分提取其高维特征。把CNN提取到的深层特征重新变换为时间序列,再对新的时间序列应用双向LSTM进行预测,提高负荷预测的精度。

1 Conv2D-LSTM负荷预测模型

Conv2D-LSTM模型的流程图如图1所示,图1(a)为输入的历史时间序列,包含实际功率和实际的气象特征,图1(e)为待预测日的气象预报特征。将图1(a)中输入的长时间序列以一天的采样点数为周期转换为二维的图片,采取二维卷积提取序列的周期性特征。接着,将提取到的特征重新转换为长时间序列并与图1(e)中的序列在序列的最后一个维度上进行拼接,输入至双向LSTM中,实现最终的负荷预测。图中,n为输入历史序列的天数,T为一天的采样点数。

图1 Conv2D-LSTM模型流程图

1.1 卷积层

CNN网络能够有效提取图片的特征[5],二维输入的卷积运算可表示为。

式中,Vl+1为第l层输出的特征图,i和j 为像素坐标,w为第l层的权重矩阵,b为第l层的偏移量,Ll为第l层输出的特征图尺寸,p为填充层数,s0为卷积步长,f为卷积核大小,Kf为通道数。

可见,CNN网络应用在电力负荷序列转换的图片中时,可以提取上一个周期和下一个周期的周期性特征,也可以提取上一个时间点和下一个时间点的时序特征,加强了模型的特征提取能力。

1.2 长短期记忆神经网络

循环神经网络都具有一连串重复循环单元[6],这种循环单元有如图2所示结构。

图2 LSTM网络结构

其迭代计算公式可表示为。

公式(3~8)为LSTM网络的结构公式,[ht-1,Xt]为上一时刻的输出ht-1和当前时刻的输入Xt两个向量的连接,符号•号为向量的点乘,符号*号为向量按位相乘。ft、it、ot分别为遗忘门、输入门、输出门,Wf、Wi、Wc、Wo为对应门的权重,bf、bi、bc、bo为相应向量的偏置量,为当前输入的单元状态,Ct为当前时刻的单元状态,Ct-1为上一时刻的单元状态,ht为当前时刻的输出,σ为sigmoid函数。

如图1(g)中从左至右箭头所示,LSTM的输出ht只与之前的输入有关而与之后输入无关,为此,将LSTM的递归反向,如图1(g)中从右向左的箭头,通过双向循环神经网络的叠加,可以使ht与所有时刻的输入有关,从而提高预测的精度。最后将LSTM的输出连接到全连接层,输出预测值。

2 仿真实验

2.1 模型运行环境及参数设置

文中使用2006年1月1日至2010年12月31日澳大利亚电价与电力负荷数据集,以半小时为采样周期,每天采样48组数据,共87648条数据。将2006年1月1日至2009年12月31日的数据作为训练集,将2010年1月1日至2010年12月31日的数据作为测试集,每次通过过去7天的历史数据预测未来一天的48个时间点数据。

训练的损失函数为均方根误差,优化器为Adam,学习率设置为0.001,随机失活20%。设置LSTM的神经元个数为64个,激活函数为tanh,全连接层的神经元个数为48个,激活函数为relu。

为了评估预测模型的准确度,使用平均绝对百分比误差(MAPE)和均方根误差(RMSE),计算公式如下。

其中,Ytrue为真实值,Ypred为预测值,n为预测样本数量。

2.2 实验结果

借鉴VGGNet模型的思想,选择多个小卷积核能够达到一个大卷积核同样的感受野,在固定模型其他结构不变的情况下,使用3×3的小卷积核,对不同卷积层数对模型精度的影响进行测试[7],结果如表1所示。

表1 不同卷积层数对模型精度的影响

可见,使用二层卷积层时,特征提取能力不足,四层和五层卷积层时,误差变大,反应出模型过度学习。综上,三层卷积层的效果最佳。

经过实验确定模型参数后,对LSTM模型、GRU模型、Conv1D-LSTM模型以及文中的Conv2D-LSTM模型进行训练和仿真验证。对每个模型训练,取得各个模型中表现最佳的模型,对2010年全年进行连续日负荷预测,

由于季节变化和节假日等日类型均会对负荷预测产生较大的影响,文中对各模型随不同日类型的日负荷进行对比,其结果如表2所示。

表2 各模型随不同日类型的预测结果对比

在全年误差上,Conv2D-LSTM模型相比LSTM模型、GRU模型和Conv1D-LSTM模型,MAPE分别降低0.7、0.77和0.27个百分点,RMSE分别降低121.64MW、118.1MW和36.37MW,预测精度更高。

在随日类型变化方面,4种模型在休息日的误差均有增大,而Conv1D-LSTM模型和Conv2D-LSTM混合模型表现较为平稳且MAPE较低,表现出CNN结构较强的适应能力。

整体而言,Conv2D-LSTM混合模型在全年负荷预测的MAPE均保持在较低的水平,体现文中所提模型具有较好的鲁棒性和准确性。

3 结语

分析了CNN及LSTM模型的原理,提出了二维CNN和双向LSTM的组合电力负荷预测模型,算例分析表明文中所提模型通过二维CNN和双向LSTM融合,提高了模型对季节变化、节假日类型等不同日类型负荷预测的准确性。相比于LSTM模型、GRU模型和Conv1D-LSTM模型,该方法更具实际应用价值。

猜你喜欢

双向特征提取卷积
双向度的成长与自我实现
降低寄递成本需双向发力
用“双向宫排除法”解四宫数独
基于3D-Winograd的快速卷积算法设计及FPGA实现
基于Gazebo仿真环境的ORB特征提取与比对的研究
从滤波器理解卷积
基于Daubechies(dbN)的飞行器音频特征提取
基于傅里叶域卷积表示的目标跟踪算法
Bagging RCSP脑电特征提取算法
一种软开关的交错并联Buck/Boost双向DC/DC变换器