基于ISSA-BiGRU-Attention的短期电力负荷预测研究
2023-01-11沈梦燕韦文山
沈梦燕,韦文山,荣 新
(广西民族大学电子信息学院,南宁 530006)
0 引言
精确的短期电力负荷预测为保证电力系统的平稳工作和电力负荷管理工作提供了保障。目前,针对短期电力负荷预测,已有的前馈神经网络(BP)[1]较物理统计方法和单一机器学习模型在预测结果的准确度上有所提高,但是对输入数据进行提取时易丢失时序信息。循环神经网络(RNN)[2]较BP而言能够更好地把控输入信息的时序性,但对于输入的长序列信息的处理仍然效果不佳。长短期记忆网络(LSTM)[3]通过引入门控机制改善RNN的上述问题,但其在处理高维长数据时[4],存在训练效率较低的问题。
此外,单一的循环神经网络预测模型效果易受到模型中参数的影响,而通过经验选择的参数会造成模拟训练效率的不平衡,从而大大降低了预测准确度。通过引入智能优化算法选取神经网络模型中的最优参数进行改进,虽然较单一模型的预测精度有所提高,但由于其存在的搜索算法的缺陷问题无法得到解决,所求最优解的精度往往会受到影响。
综上所述,文中在现有电力负荷预测模型的基础上提出如下改进方案:
(1)在BiGRU神经网络中引入注意力机制,加强重要输入特征的影响;
(2)对麻雀算法的发现者和跟随者位置更新方式进行优化,同时引入精英反向学习策略提升算法的搜索能力;
(3)利用改进后的麻雀算法获取的超参数对BiGRU进行建模优化,提高模型预测精度。
1 改进麻雀算法
1.1 改进的正余弦算法
标准麻雀搜索算法(SSA)中麻雀个体在迭代过程中逐渐聚集,搜索空间逐渐减小,存在陷入局部极值的可能性。针对此问题,文中在SSA发现者位置更新方式中引入正弦余弦算法(SCA),SCA依赖正余弦函数的振荡特性寻找最优解,最终于最优解或其附近位置处收敛。在SCA中,引入非线性余弦调整因子和柯西变异算子如式(1),较原SCA算法搜索因子呈线性递减趋势而言,进一步平衡了整个搜索过程的全局寻优和局部探索能力。
式(1)中,a=2,前期算法运行时,r1'> 1,赋予搜索因子较大的权重值,且递减速度较慢,使算法的全局搜索性能得到提高;后期算法寻优过程中,r1'< 1,则增强了算法的局部开发能力,r1'的非线性递减变化过程,加快了算法的寻优速度。
考虑在麻雀算法整个种群搜索过程中,种群个体位置更新依赖于当前个体位置,所以引入式(2)非线性反正弦调整因子w调节种群搜索过程中个体对当前位置的依赖程度,前期算法运行时,w缓慢递增,较小的权重降低了对当前个体位置的依赖程度,提高了算法的全局搜索能力;在后期寻优过程中,w则快速增加,较大的权重增强了对当前个体位置的依赖程度,有利于局部寻优,加快收敛速度。
图1 调整因子动态变化曲线
改进后的发现者位置更新公式如下:
1.2 Levy飞行与T分布扰动
标准的SSA算法中的加入者在向最优区域位置移动时,易发生群体在极短时间内快速聚集的情形,尽管可以获得快速收敛的效应,但由于群体的复杂性骤降,使得算法陷入局部最优的机率大增。所以,为了更好地改善算法的搜索寻优性能,文中采用动态的选择策略调整更新加入者位置,即Levy飞行策略和T分布算子扰动策略在一定概率下交互进行,动态更新加入者位置。Levy飞行策略中[5],通过产生随机步长,可以提高算法的全局搜索能力,从而增加算法的多样性。T分布的变异策略中,通过使用T分布变异算子对加入者的位置加以扰动,从而提高了局部搜索性能,降低了算法陷入局部最优解的概率。改进后的发现者位置更新公式如下:
式(4)中,i≥n/2。至于采用什么选择策略进行目标位置更新,则根据其选择概率P确定,其计算公式如下:
1.3精英反向学习策略
为了提高麻雀算法的寻优速度,并避免算法的“早熟”情形,在每次的种群迭代过程中引入精英反向学习机制。反向学习(Oppositionbased Learning, OBL)方法使用了双向评价标准,在每一次迭代时除了评估当次的最优候选解,同时还要将该候选解在反方向的解加以评价,进而在当前解与反向解之间择优评估最佳的解,作为下一代候选解[6]。研究人员证实,反向解法比当前解接近全局最优预测解的几率多了百分之五十。因此使用反向学习可以极大增加算法寻找到全局最优预测解的几率[7]。
在麻雀种群位置更新后,选取适应度值排名前10%的麻雀个体,同时获取其动态边界,利用反向学习策略求解反向解,对比更新前后麻雀,如果更优则替代之前的麻雀。
2 短期电力负荷预测模型
本文模型中改进的麻雀算法主要优化BiGRU-Attention中的学习率、迭代次数、隐藏神经元的个数L1、L2四个参数,以预测值和真实值的均方差为适应度函数,在适应度值最小的情况下得到最优参数,并使用最优参数对电力负荷进行短期预测。文中提出的模型结构如图2所示。
图2 ISSA-BiGRU-Attention预测流程图
3 仿真结果分析
采用电工杯数据集2012年1月1日至2012年12月31日共12个月的电力负荷数据对模型进行实验。其中包括天气因素和一天96个时刻的电力负荷值,训练集为前11个月,最后1个月作为测试集。以第T-1天和第T天的平均温度、最高温度、最低温度、相对湿度和降雨量等气候特征以及第T-1天的96个电力负荷值作为输入,对第T天的96个时刻的电力负荷值进行预测。
文中通过min-max归一化方法对负荷数据进行处理,为了评估模型预测的精度,选取均方根误差RMSE、平均绝对百分误差MAPE、平均绝对误差MAE、决定系数R2作为评价标准。为了验证文中提出的预测模型在电力负荷预测精度方面的优势,采用BP、RNN、LSTM、SSA-BiGRU-Attention等四种模型作为对比。
各模型的预测结果误差指标如表1所示,从表1可以看出,文中提出的ISSA-BiGRUAttention模型的预测精度更高,R2达到了97.61%,MAPE较其他四种方法分别降低了5.81%、5.63%、1.74%、0.78%;RMSE分别降低了509.4、420.39、175.37、58.94;MAE分别降低了363.31、331.75、105.44、44.2。
表1 各预测模型误差指标对比
图3为2012年12月2日的真实值和不同模型预测值的曲线对比图,由图3可知,相较于其他模型,本文所提模型能够更加平稳地预测负荷数据的变化,在负荷数据剧烈波动的时刻也保证了曲线的平滑度。
图3 12月2日几种模型预测结果对比
4 结语
本文提出了一种改进麻雀算法优化的双向门控循环单元模型。该方法通过改进的麻雀算法优化BiGRU网络的参数,并在模型中引入注意力机制,加强输入特征提取的高效性。将ISSA-BiGRU-Attention模型应用于短期电力负荷预测,算例分析结果也进一步表明了该模型相较于SSA-BiGRU模型和未引入注意力机制的相关模型在预测精度和稳定性上有所提升。