基于BiLSTM-MhSa-ResNet 的储能电站SOC 预测

廖圣瑄，李 林，丁 伟，唐起超，唐志军，杨继盛

（1.龙源（北京）风电工程设计咨询有限公司，北京 100034；2.电子科技大学，四川 成都 610000；3.龙源（青海）新能源开发有限公司，青海格尔木 816099）

准确获取储能电站的荷电状态（State of Charge，SOC）可以有效防止过充和过放现象，从而提高系统安全性和稳定性。SOC 无法直接测量，主要由安时积分法[1]、开路电压法[2]和神经网络[3]等方法测算。

得益于机器学习的快速发展，国内外学者提出了融合深度神经网络[4]、长短期记忆模型[5]、最小二乘支持向量器[6]、双向长短期记忆模型[7]等方法进行电池SOC 预测。但当前SOC 预测主要聚焦于电池层面，该文提出双向长短期记忆多头残差网络对储能电站SOC 进行预测，预测精度较高。

1 组合模型设计

1.1 多头自注意力机制

注意力机制[8]主要用来判断各参数对储能电站SOC 输出结果影响的权重。该文在传统注意力机制的基础上增加了多头参数[9]，相当于将传统模型的单层结构拆分了多层，从而有效解决了原有模型将注意力过度集中在自身位置的问题。同时，多头注意力机制模型还可以赋予注意力层不同输出子空间的编码表示信息，从而提高模型优化能力。该文应用多头自注意力机制[10]（Multi-headed Self-attention，MhSa）改进模型时，需要先将数据集分成查询向量矩阵Q、键向量矩阵K和值向量矩阵V，在构造模型时通过放缩点积注意力机制调整网络结构，计算公式为：

式中，Q∈Rl×d,K∈Rl×d,V∈Rl×d,d为矩阵维度，l为输入集组数。训练时，MhSa 将原始输入序列分为多组各自进行计算，然后将计算结果进行线性组合，从而得到输出值，计算过程为：

式中，W0为输出权重矩阵，为映射权重矩阵，h为模型所选取的自注意力模块数，即头数。该文在测试后，选用h=2 建立模型。多头自注意力机制结构如图1 所示。

图1 多头自注意力机制结构

1.2 残差神经网络

残差神经网络[11]（Residual Network，ResNet）是卷积神经网络的一种，与传统神经网络的线性连接方式不同，残差神经网络的残差块之间通过跳跃连接传递信息[12]。在采用了跳跃连接的传递方式之后，相比于传统模型只能训练几十次的情况，残差神经网络的训练次数提高到千次以上，使得神经网络的训练深度可以大幅增加[13]。虽然实验时发现模型训练所需要的时间有所增加，但模型预测的准确性整体上有所提高。残差块的定义方式如图2 所示。

图2 残差块定义

图2 中的x表示输入值，F(x)为残差函数,输出函数计算公式为：

式中，ωt为输入值对应的权重。该文选用ReLu激活函数，同时增加了BN（Batch Normalization）算法将神经元输出数据归一化处理，从而改善了网络梯度，加快训练速度。

1.3 双向长短期记忆神经网络

LSTM 是循环神经网络的一种[14]，其训练梯度比传统模型更好，在长时间序列中预测效果更优。LSTM 的计算原理是通过遗忘门将相关性差的信息删除，通过记忆门保留有用的信息，然后单向传递建立模型。双向长短期记忆神经网络(Bi-directional Long Short-Term Memory，BiLSTM)由一个前向传递的LSTM 和一个后向传递的LSTM 拼接而成[15]，信息存在前向传递和后向传递两个过程。由于存在两个不同的序列，BiLSTM 可以更好地获得双向传递信息[16]，对于时间序列预测可以起到更好的效果。BiLSTM更新公式如下：

式中，LSTM+为前向传递的模型，LSTM-为后向传递的模型，W+和W-为其对应的权重，b为偏置。BiLSTM 结构如图3所示。

图3 BiLSTM结构

1.4 双向长短期记忆多头残差神经网络

该文在建立模型时，综合了多头自注意力机制、ResNet 和BiLSTM 的优势，建立了双向长短期记忆多头残差神经网络（BiLSTM-MhSa-ResNet），组合模型的结构如图4 所示。

图4 BiLSTM-MhSa-ResNet结构

如图4 所示，该文建立的组合模型主要分成了五层，第一层为数据输入层，将储能电站的原始数据进行分析处理，该文将堆电压U、堆电流I和堆平均温度T作为输入集参数，同时进行了特征提取。第二层为BiLSTM 神经网络层，用于学习电压等参数与SOC 之间的关联。第三层为MhSa 层，该文选择头数为2，用于获取充放电数据权重并加权BiLSTM 的输出结果。第四层为ResNet 层，相当于最后的多层感知机，可以避免梯度消失等现象的发生。第五层为SOC 输出层，输出SOC 预测结果。

该文在模型训练的过程中，损失函数设置为均方误差，使用Adam 优化器对BiLSTM 的权值和偏置进行优化。在多次调参实验后，该文设置隐含层节点个数为16，窗口长度为10，学习率为0.000 5，训练期数设置为为2 500，批大小设置为1 500。该文实验的预测流程如图5 所示。

图5 电池SOC预测流程

2 工程概况

2.1 电堆数据及评价指标

选取青海某光伏电站所配套的储能电站作为研究对象，该项目包括一个2.5 MW 的变流升压单元和一个5.16 MW·h 的储能单元，储能单元集成在40 尺标准集装箱内，由16 簇电池并联组成，储能电站所采用的电芯为磷酸铁锂电池。该文选取了2022 年3月1 日至2022 年3 月23 日储能电站电池堆调峰实验调用情况下的运行参数作为数据集。由于储能电站容量较大，满充满放所需要的时间较长，实验时选用分钟级数据进行处理，共采集了33 120 组连续运行的实验数据。该文选用的储能电池堆SOH 为99%，受调用情况及最大使用次数影响，堆SOC 运行范围在9%～100%之间，充放电周期为2 小时，运行时属于动态充放电，部分电堆运行参数如表1 所示。

表1 部分电堆运行参数

该文选择了平均绝对误差（Mean Absolute Error，MAE）、均方根误差（Root Mean Square Error，RMSE）和决定系数R2对各模型的预测结果进行对比分析。根据统计学原理，MAE 和RMSE 越小，R2越接近于1，模型对电堆SOC 预测的准确性就越高，拟合效果就越好。MAE、RMSE 和R2的计算公式如下：

2.2 数据预处理

根据实验原始数据可以看出，电压电流输入值变化区间较大，而温度的变化幅度较小，两者变化程度不在一个数量级，直接带入模型中会导致误差偏大。为此，该文采用线性函数归一化的方法对电堆数据进行预处理，处理后的参数在[0,1]之间。数据归一化公式为：

式中，X′为归一化后的参数，X为原始数据，XMax为原始数据中最大值，XMin为原始数据中最小值。实验时发现，电堆SOC在0.09～1之间，可以直接使用原始值。

该文将储能电站运行状态划分成充电状态和放电状态，对两种状态分别建立神经网络模型进行预测。在划分数据集时，该文将70%的数据作为训练集，20%的数据作为验证集，10%的数据作为测试集建模实验。考虑到可能存在的过拟合现象，将另一时间段的充放电电压、电流和温度输入到已训练好的模型中，得到电堆SOC 预测值。

3 结果分析

该文建立了LSTM、BiLSTM、BiLSTM-ResNet 和BiLSTM-MhSa-Resnet 模型进行对照实验，将某次储能电站电堆连续充电数据作为样本进行预测，将真实值与LSTM、BiLSTM、BiLSTM-ResNet 和BiLSTMMhSa-Resnet 预测结果进行对比，对比结果如图6 所示。计算了LSTM、BiLSTM、BiLSTM-ResNet和BiLSTMMhSa-Resnet 预测结果与真实值的相对误差，对比情况如图7 所示。

图6 充电状态预测结果对比

图7 预测结果相对误差

由图6 可以看出，使用LSTM、BiLSTM、BiLSTMResNet 和BiLSTM-MhSa-Resnet 模型分别进行预测时，预测SOC 整体上与实际运行时的SOC 相差不大。随着模型逐渐优化，BiLSTM-MhSa-ResNet 模型拟合效果最好，与充电状态下电堆SOC 真实值最为接近。由图7 可以看出，在SOC 较小时，预测模型存在相对误差偏大的情况，这是由于SOC 真实值过小导致的，但可以看出绝对误差偏差不大。在SOC 逐渐变大的过程中，各模型预测的相对误差曲线逐渐平稳，趋近于0。从对比图可以看出，使用LSTM 进行预测时，预测结果与真实值相差最大，优化模型后预测结果逐渐变好，采用BiLSTM-MhSa-ResNet 进行预测时，预测SOC 相比于其他模型更接近真实值，训练效果更好。将各个模型训练的MAE、RMSE 和R2进行对比，对比结果如表2 所示。

表2 各模型评价结果对比

由表2 可以看出，采用双向LSTM 比LSTM 预测效果好，均方根误差从3.32%下降到2.31%。增加了ResNet 网络后，预测误差进一步缩小，均方根误差下降到1.59%。在引入多头注意力机制后，均方根误差下降到1.31%。经过对比发现，该文使用的BiLSTMMhSa-ResNet 模型在电堆SOC 预测时性能要优于传统神经网络模型，提高了预测的准确性。除充电状态外，该文还对电堆放电状态下的SOC 进行建型，BiLSTM-MhSa-ResNet 模型预测结果的MAE 为1.89%，RMSE 为2.25%，R2为0.993 7，预测误差较小。选择某次变工况放电运行情况进行预测，预测结果与真实值对比如图8 所示。

图8 放电状态预测结果对比

由图8可以看出，该文建立的BiLSTM-MhSa-Res Net模型在用于放电状态下的电堆SOC预测时同样具有较好的拟合效果，在SOC较小时，准确性保持较高。

4 结束语

该文以某储能电站为例，提出了一种基于BiLSTM-MhSa-ResNet 的电堆SOC 预测方法，通过充放电情况下的实验，得到以下结论：

1）分别采用LSTM 模型、BiLSTM 模型、BiLSTMResNet 模型和BiLSTM-MhSa-ResNet 模型进行训练和预测，实验结果证明，采用该文提出的BiLSTMMhSa-ResNet 对充电SOC 进行预测时，预测误差最小，MAE 和RMSE 分别降低到1.02%和1.31%，组合模型提高了预测的精度。

2）使用BiLSTM-MhSa-ResNet 模型对放电状态SOC 进行预测时，MAE 和RMSE 分别为1.89%和2.55%，预测精度较高。

3）与传统神经网络相比，该文提出的BiLSTMMhSa-ResNet 模型通过ResNet 有效解决了梯度异常问题，通过MhSa 提高了特征值的获取能力，通过双向传递机制有效捕获了长期依赖关系，从而提高了模型的预测精度。

使用BiLSTM-MhSa-ResNet模型对实际工程的电堆SOC预测性能较好，下一步考虑对实际项目发电-储能联合控制的SOC预测和储能电站调度策略进行研究。