基于正交小波和长短期记忆神经网络的用电负荷预测方法

张林，赖向平，仲书勇，李柯沂

（1. 国网重庆市电力公司，重庆市渝中区 400010；2. 重庆智网科技有限公司信息通信分公司，重庆市渝北区 401120；3. 国网重庆市电力公司信息通信分公司，重庆市渝中区 400010）

0 引言

电力工业是国家能源领域的重大基础行业，作为电力系统管理现代化的重要组成部分，电力负荷预测或家庭用电预测已经引起了业界越来越多的关注[1]。高精度的电力负荷预测可以缓解供需矛盾，对电网计算机在线控制，发电容量调度的合理性，既定的运行要求满足与否以及发电成本的大小都起着重要的作用。随着先进计量基础架构系统（AMI）的引入，不仅可以对系统用电量进行预测，而且可以对家庭用户用电量进行预测。2020年，美国安装了约6000万个智能电表，覆盖47%的美国居民住户。这些仪表记录的数据具有很高的时空分辨率，可以用来更好地预测用电负荷[2]。

在电网运营和规划中， 准确预测预期负荷是重要的需求，用电负荷预测的准确性对经济效益和社会效益的提高有着重大效力。由于用户行为影响用电功率，用户用电量行为可能比整体用电量的行为变化更大，因此电力负荷预测成为一个更具有挑战性的研究课题[3]。

电力负荷预测的核心是预测的技术方法，即预测的数学模型。这方面已进行了大量研究，常见的预测方法主要有经典统计回归、支持向量机、深度神经网络、相关智能机器学习等[4-5]。文献[6]提出了自动回归移动平均模型 ARIMA预测；文献[7]采用随机森林(RF)方法对电力负荷进行预测；文献[8]提出了一种考虑日电量特征相关因素的SVR短期电力预测模型，该模型中，基于实时气象因素和休息日用电数据，利用SVR方法进行全局最优解，获得了较高的预测结果。近年来基于神经网络等智能算法的方法也是预测电力负荷的重要手段[9-11]。相对于较传统的机器学习方法，深度神经网络算法模型有着强大的学习能力，提升了大量数据的计算能力[12]；文献[13]融合了猫群算法CSO和BP神经网络用于电力负荷预测，综合考虑负荷数据、气象信息等因素，降低了BP神经网络模型的预测误差，提升了预测精度，长期短期记忆（LSTM）是另外一种常用的神经网络模型，它能够处理多个输入变量的问题；文献[14]提出了一种基于长短期记忆的短期电力负荷综合预测方法，该方法利用LSTM神经网络提取用电负荷数据特征，并通过全连接网络进行多层特征匹配，以实现用电负荷预测；文献[15]使用了LSTM模型预测单个家庭用电，以每小时和每天为预测范围，得到了较好的预测准确性；文献[16]利用堆栈长短期记忆（SLSTM）方法应用于风电预测，精度得到了显著提升；文献[17]将双向长短期记忆（Bi-LSTM）方法应用于商业和住宅电力负荷智能分析，能够有效提高负荷时序数据预测精度。电力负荷数据是具有一定周期性的时序数据，具有工业负载的短期模式或季节性的长期模式。但实际的电力负荷数据是不稳定的，因此小波变换就广泛应用于预测分析中；文献[18]利用了小波对负荷数据进行分解，采用改进粒子群算法优化神经网络参数，改善了负荷数据的波动性，从而构建了负荷预测模型。

鉴于以上研究，为了更精准地预测电力负荷，本文选择得到广泛研究和应用的小波分析法和长短期记忆神经网络算法，提出了基于正交小波长短期记忆神经网络（OWT-LSTM）的用电负荷预测模型，并使用实际用电负荷数据验证了模型的精确性。

1 LSTM神经网络结构

LSTM是一种特殊类型的递归神经网络（RNN），是为了解决传统的RNN在长时序数据处理中存在的梯度消失问题而设计出来的。通过引入自循环的构思，以生成长时间持续流动的梯度路径，有效地利用历史信息，LSTM 网络比简单的循环网络更易于学习长时序数据中的依赖关系[6]。

LSTM的单元结构如图1所示，LSTM单元可以长时间以自循环编码数据进行存储，这些数据由记忆单元(Cell)及3个门组成：输入门(input gate)、遗忘门（forget gate）、输出门(output gate)。记忆单元(Cell)是计算节点的核心，用于记录当前时间状态；输入门和输出门用于控制信息的输入和输出；遗忘门用于控制单元中对历史状态信息的保留程度，并引入sigmoid激活函数，使得遗忘门的输出值在[0，1]之间。当遗忘门输出0时，表示前一状态的所有信息被丢弃；当输出1时，指示先前状态的信息全部保留。

LSTM单元可使用以下等式定义，其中ct表示在t时刻的记忆单元状态：

输入方式定义：

记忆单元更新为：

式中：σ是Sigmoid激活函数；°表示哈达玛乘积(Hadamard product)；xt和ht分别表示当前计算节点的输入和输出；Wxi、Whi、···、Wxc、Whc是线性变换的权重矩阵；bi、bf、bo、bc是 偏差向量；it、ft、ot分别表示输入门、遗忘门、输出门的结果；gt是单元更新状态；xt表示输入负荷时序数据。利用LSTM及变种模型进行电力负荷预测，需要根据电力负荷序列的隐含层数和分块步骤数来确定应用LSTM单元的个数。

2 基于OWT-LSTM神经网络的用电负荷预测方法

本文主要目的是构建能够有效处理用电负荷数据的正变小波变换长短期记忆神经网络（OWTLSTM）模型，实现对用户用电负荷的精准预测。其核心思想是对用户用电负荷数据进行正变小波变换，将原始用电序列分解到多个尺度上，得到若干子序列，对不同序列分别建立神经网络模型并进行预测，通过序列重构得到完整的预测结果，该方法不但可提高预测精度，而且可以提升建模效率。基于OWT-LSTM 模型的用户用电负荷预测流程如图2所示。

2.1 原始负荷数据预处理

2.1.1 数据变换处理

由于智能电表故障、系统维护、存储不定时、数据集本身连续时间段为空等各种原因，实际用电数据通常存在数据缺失，通过对原始数据缺失问题的分析，采用均数插补法补全缺失值：

式中：xn(n=1,2,···,N)代表每小时用电负荷值；xpn表示每分钟用电负荷缺失信息特征，初始值为空集。公式（4）计算后得到的数据将替换原缺失的负荷数据。

2.1.2 数据归一化

相对其他方法智能电表采集的用电数据，本文测试数据为用户用电负荷级别，数据维度较低。为便于对模型进行训练和预测，对用电数据采用max-min 归一化，将负荷值映射到［0，1］区间，从而实现对训练模型的快速收敛 。数据归一化表示式：

式中：x′为归一化后用电负荷值；xmax、xmin表示用电负荷数据的最大值和最小值。

通过 OWT-LSTM及其变种模型预测得到的用电量数据，需进一步进行反归一化处理，才能得到实际预测结果，反归一化公式：

2.2 正交小波变换分析

小波变换指时域和频域分析的一种方法，其在时域和频域上同时具有良好的局部化特性，通过伸缩和平移方法将电力信号转化为不同尺度，根据信号的时间、频率、分辨率高低自动调节采样的大小，能够有效的分析和处理微弱或突变信号信息[17]。

本文主要针对用户用电负荷数据进行正变小波变换，将用电负荷序列分解到多尺度上，得到若干子序列。

正交小波变换的定义，设函数 ψ (t)∈L2(R)，傅里叶变换 ψ¯(w)， 满足 ψ ¯(w)可容许条件：

若将 ψ(t)二 进伸缩与平移，得到函数ψj,k(t)（其中j,k为 任意整数Z）：

构成L2(R)的 标准正交基, 则称 ψ(t)为正交小波母函数（即正变小波）； ψi,k(t)为正交小波基函数。

在小波变换中，原始电力负荷数据分解为一个近似分量和多个细节分量。近似分量包含低频信息（使信号具有标识性的最重要部分），细节分量包含高频信息（局部、细节信息）。选择正交小波作为母小波，图3显示小波分解过程，信号S分解为近似分量CA1和细节分量CD1；CA1进一步分解为另一近似分量CA2和细节分量CD2，以满足更高的分辨率；依此类推，直至合适的层数。电力负荷数据的主要波动、不同层级的峰值、随机波动的细节均以近似的形式给出。

2.3 基于OWT-LSTM的用电负荷预测模型

电力负荷预测中，部分电力信号的特征表现为随机性和瞬时性，本文采用OWT-LSTM 电力负荷预测模型解决这些问题，具体步骤：

1）通过正交小波函数将电力负荷序列进行不同尺度分解，得到小波分量CD1，CD2、···、CDn、CA序列，这样就把原始电力负荷序列中不同频率的信号用不同尺度的子序列代替，从而使电力负荷序列的周期性更加明显。本文采用Haar函数作为小波变换分析的正变小波基函数：

经过二进伸缩平移获得函数：

2）利用LSTM神经网络分别对不同分量的各个序列进行建模预测。LSTM神经网络中设置input_dim与输入负荷数据属性数相同，设置时间步长为1，隐含层中LSTM层为3，隐藏节点数为100，同时增加dropout函数来减少过拟合对预测模型的影响，其值0.2。为提升模型检测性能设定平均绝对误差损失函数对模型参数进行调整和评估。

3）对各序列预测结果采用正交小波重构算法进行重构，输出电力负荷预测结果，使负荷预测的精度能够有效提升。

3 实验分析与结果

3.1 数据集介绍

本文采集某市2010-12-01到2014-11-30国网用电负荷数据作为数据集，以1min为采样频率测量居民电量消耗情况，共收集2,075,259个样本数据。数据集由日期、时间、有功功率、电压、电流、厨房、热水器、空调、洗衣器9个属性组成。为了更精确预测用电负荷，本文对3个不同时间粒度的样本数据集进行建模，进行用电负荷预测（时间单位采用hour、 day、month）。

数据集包含缺失项和不完整数据，本文利用第2.1节描述的数据预处理方法解决了此问题。为精确获得测试模型的结果，数据集日期和时间以hour、day、month进行聚合，把2,075,259个数据样本以34588hour，1442day、47month进行粒度调整，保持数据的整体结构，从hour、day、month三个不同时间层次测试模型的精度，可以减少计算时间，有助于快速获得预测结果。在模型中，前80%用于训练集，后20%用于测试集。实验环境以Python3.6.5为运行平台，使用Anaconda 3.6为编程环境。

3.2 评价指标

本文采用了平均绝对误差（mean absolute error, MAE）、均方误差(mean square error, MSE)、均方根误差（root mean Squared error, RMSE）、平均绝对百分比误差（mean absolute percentage error, MAPE）4个度量作为模型的评价指标[9]，测量预测值与真实值之间的偏差。预测值与真实值之间偏差越小，预测效果越好。假设有p个测试值，yi为 第i个 真实值，为第i个预测值，评价指标公式：

3.3 实验结果分析

3.3.1 OWT-LSTM模型的对比试验结果

为了验证OWT-LSTM在用电负荷预测模型的预测性能，将本文所提模型与SVR[8]、CSOBP[13]、LSTM[15]、SLSTM[16]、Bi-LSTM[17]5个 模型进行对比实验。文中模型分别按每小时、每天、每月的用电量和其他属性，预测用户用电量，设置时间步长为1。该模型即对用户用电规划支出有一定的帮助，在供电方面更有助于特定用户用电需求的确定，具体实验结果见表1。

为了验证所提方法的预测性能，利用用户用电负荷数据集对该模型和5个模型进行了比较实验。表1、表2、表3描述了不同模型在不同时间粒度hour、day、month对MAE、MSE、RMSE、MAPE4个预测指标的误差结果对比。

表1 不同模型每小时（hour）负荷预测误差结果对比Table 1 Comparison of per hour load forecasting error results by different models

表1、表2、表3数据表明，在以hour、day、month为粒度的分析中，OWT-LSTM预测模型在4项预测指标中明显优于其他模型。对比SVR/CSO-BP模型，该模型day为单位的MAE、MSE、RMSE、MAPE值 降 低 了0.05～0.08、0.02～0.04、0.014～0.08、1.5～8.7，该值均低于LSTM和SLSTM的预测误差。OWT-LSTM 将原有的用电负荷数据分解到不同的子序列中，有效提取了用电负荷时频信息，更显著地刻画了用电负荷数据的周期性，并通过LSTM 神经网络自编码得到较精确的预测结果。仅通过LSTM 、SLSTM 、BiLSTM 进行学习，不能精准发现负荷用电数据的时序噪声，从而导致这2个模型的预测性能相对于OWT-LSTM模型较低。OWT-LSTM 模型较其他模型可以更精确地预测家庭用电负荷。

表2 不同模型每天（day）负荷预测误差结果对比Table 2 Comparison of daily load forecasting error results by different models

图4、图5、图6显示了不同模型以hour、day、month为单位的负荷预测结果与真实值对比。在图4、图5中，本文分别测试了在100 h、60 d、12 m范围的不同模型负荷预测值。显然，与负荷的真实值相比较，本文提出的模型在不同时间粒度上都能很好地预测负荷数据变化的趋势。

从整体上看，图4、图5、图6显示本文所提的模型预测效果比其他4个模型表现得更好，尤其在用电负荷急剧上升和下降的情况下，本文提出的模型比其他模型预测结果更接近真实值，具有更好的适应性。由此表明，LSTM及其变种方法能够结合用电负荷信息间的数据关联性，通过训练找到负荷信息变化的内在规律和趋势，能够准确预测方法。对比单一LSTM及其变种模型，OWT-LSTM用电负荷预测模型的精度最高，这是由于正交小波能够对用电负荷信息进行分解，消除了负荷序列中的噪声，使得负荷值更加真实，从而有效提高了负荷预测性能。

3.3.2 正交小波(OWT)在LSTM及其变种模型中的有效性

为了进一步证明正交小波变换分析方法在用户用电负荷预测中的有效性，本文利用正交小波分别与LSTM及其变种模型在不同时间粒度下的预测结果。图7—图10中显示了3种单一模型，即无小波的LSTM及其变种模型（LSTM、SLSTM、Bi-LSTM），与融合正交小波的模型（OWTLSTM、OWT-SLSTM、OWT-BiLSTM）在MAE、MSE、RMSE、MAPE4个指标值上的对比结果。

通过图7—图10可以明显看出，本文所提OWT-LSTM及其变种模型得到的预测结果在每一项标准误差指标上均小于未采用正交小波变换的单一模型（LSTM/SLSTM/Bi-LSTM）。由此再一次验证了OWT有助于准确地预测用电负荷序列的运行趋势，且在不同时间粒度（hour、day、month）下，本文所提的正交小波与LSTM融合的方法也优于单一LSTM预测方法。

综上所述，融合正交小波变换和LSTM模型能够有效地去除用电负荷信息中的噪声影响，同时利用用电负荷数据的时序信息，提取用电负荷数据间的耦合关系，从而进一步提高预测精度。从图7—图10的预测结果可以看出，OWT-LSTM及其变种模型具有更好的预测性能，预测准确率达到90%以上。

4 结论

文中提出了一种基于正交小波和长短期记忆神经网络（OWT-LSTM）模型来预测用户用电负荷数据的方法。通过正交小波变换分析方法将负荷数据分解到不同尺度的序列，以此解决负荷数据的不稳定性，并对各序列采用LSTM及其变种神经网络进行建模及重构预测用电负荷数据。

实验结果表明，该方法的预测性能显著优于其他模型，具有较好的精确度和周期性。同时，融合正交小波变换的LSTM模型优于单一LSTM模型及其变种。在下一步研究计划中，将进一步完善神经网络模型和参数，提高用户用电负荷预测的性能。