基于鲸鱼算法优化长短时记忆神经网络的锂电池剩余寿命预测

2022-11-16郝可青吕志刚邸若海朱鸿杰

科学技术与工程 2022年29期

郝可青, 吕志刚, 邸若海, 朱鸿杰

(1.西安工业大学兵器科学与技术学院，西安 710021； 2. 西安工业大学电子信息工程学院，西安 710021； 3. 西安工业大学机电工程学院，西安 710021)

锂离子电池相比较于其他电池有绿色环保、高效率、高循环寿命以及高能量密度等优势，因此广泛应用于水力、火力、风力和太阳能电站等储能电源系统以及军事装备、航天航空等多个领域[1-2]。然而，以锂电池为代表的电化学电池充放电均是在电极上发生化学反应，在锂电池的循环使用过程中，会因为电极材料的变化导致电池内部产生微短路和电池化学材料性能的降低，从而导致重大事故的发生[3]。因此对锂电池的剩余使用寿命(remaining useful life，RUL)进行提前预测是非常有必要的[4]，可以避免因电池性能的下降而导致系统运行的故障，减少灾难性事故的发生。同时预测锂电池的RUL可以在一定程度上控制电池性能的动态变化，对于延长电池使用寿命、降低设备的维护成本以及对电池系统的管理都具有极高的参考价值[5]。

目前针对锂电池剩余使用寿命的研究，已经成为锂离子电池系统中故障预测和健康管理 (prognostics and health management，PHM)的研究热点，现有的锂离子电池RUL的预测方法主要包括基于模型的方法和基于数据驱动的方法[6]。基于模型的方法侧重于建立影响电池寿命退化过程的物理模型，来识别可观察量和各指标之间的对应关系[7]。文献[8]提出将多种退化状态的模型组合得到锂电池的容量衰退模型，从而进行锂电池的RUL预测，但该方法很容易受到外界条件的影响，很难获得准确的机理模型[9]。与基于模型的方法相比较，基于数据驱动的方法是从电池状态监测数据中直接挖掘电池老化信息和规律，能够增强预测精度和网络泛化能力[10]。因此数据驱动方法依旧是预测剩余使用寿命的主流方法，文献[11]提出基于粒子群 (particle swarm optimization, PSO) 算法优化传统反向传播(back propagation，BP)神经网络权值阈值的电池健康状态预测方法，由于锂电池数据具有时序性，而该神经网络不具备处理时序数据的优势。文献[12]提出将传统循环神经网络(recurrent neural network，RNN)应用于锂电池的RUL预测，得到了较好的预测结果，但该网络存在梯度消失和梯度爆炸的问题，导致其无法学习到距离当前时刻较远的信息。文献[13]提出RNN的变体LSTM神经网络，使用该模型进行时序数据的RUL预测，实验数据采用的是不同型号的锂电池在不同温度下、不同电流速度条件下对模型进行验证。文献[14]提出基于PSO算法改进的LSTM网络模型进行短期电力负荷预测，利用PSO优化LSTM 的超参数且提高了模型预测精度，但引入的PSO算法参数较多，存在收敛性较差以及容易陷入局部最优解等问题。文献[15]提出基于双向长短时记忆(bi-directional long short-term memory, Bi-LSTM)网络在电池不同内部状态下进行RUL预测。文献[16]提出应用一种基于经验模式分解(empirical mode decomposition, EMD)、灰色关联分析(grey relation analysis, GRA)和深度RNN的混合数据科学模型，用于锂离子电池RUL预测。

综上所述，LSTM具有良好的预测性能，但上述方法的局限之处在于LSTM的网络模型参数需要靠人为经验随机设置，而选取不同参数训练会直接影响网络模型结构和预测精度。故现提出一种利用鲸鱼优化算法(whale optimization algorithm, WOA)对LSTM网络的超参数进行寻优的方法，使得建立的锂电池剩余使用寿命模型具有更好的预测效果和稳定性。最后，选取NASA公开数据集将WOA-LSTM与标准LSTM算法、Elman算法、PSO-LSTM算法进行对比，验证所提模型的有效性。

1 相关原理

1.1 LSTM模型

LSTM解决了传统RNN在训练过程中出现梯度爆炸或者梯度消失的问题，这是由于RNN随着训练时间的增加和网络层数的增多而导致的[17]。LSTM在结构上不仅新增加了一个隐藏细胞状态，而且还通过设计各种“门”结构来增加或者减少信息到细胞状态，可以针对性的控制通过“门”的输入数据[18-19]，这种数据传递方式就使得自循环的权重不再是固定的，并且能够具有较长时间的记忆功能。因此，LSTM在处理时间序列的预测和分类问题中具有较强的优势[20]。如图1所示，LSTM通过更新内部状态来储存较长时间的信息。

A为相同的同构单元格；σ为sigmoid激活函数

图1中，sigmoid激活函数输出范围是(0,1)，0代表完全丢弃，1代表完全通过；tanh函数的输出范围是(-1,1)，将数值限定在一个范围之内。LSTM单元组成结构主要包括输入门、遗忘门、输出门和单元状态[21]。

遗忘门(forget gate)的作用决定多少历史信息被细胞状态丢弃。

ft=σ(Wf[ht-1,xt]+bf)

(1)

式(1)中：Wf为遗忘门的权重矩阵；ht-1为上一时刻的输出状态；xt为当前时刻的输入状态；bf为遗忘门的偏置值；ft为遗忘门的输出。

输入门(input gate)的作用是决定将会有哪些新的信息会被传输给细胞状态。

it=σ(Wi[ht-1,xt]+bi)

(2)

(3)

输出门(output gate)的作用是控制细胞状态有多少信息影响输出值。

ot=σ(Wo[ht-1,xt]+bo)

(4)

ht=ot*tanh(Ct)

(5)

式中：Wo为输出门的权重矩阵；bo为输出门的偏置值；ot为输出门的输出值；Ct为当前时刻的细胞状态；ht为t时刻细胞的输出；符号*表示向量对应位置的数相乘，结果仍为向量。更新细胞状态的过程为

(6)

式(6)中：ft为遗忘门的输出；it为输入门的输出；Ct-1为上一时刻的细胞状态。

1.2 鲸鱼优化算法

鲸鱼优化算法是2016年由澳大利亚格里菲斯大学的Mirjalili等研究学者提出的一种新的群体智能优化算法，是一种模拟座头鲸捕食行为而来的元启发式优化算法，并且引入气泡网狩猎策略[22]。在WOA算法中，座头鲸能够准确地识别猎物位置并且将猎物包围，每只座头鲸的位置都可以代表一个可行解，该算法主要包含包围猎物(encircling prey)、泡泡网攻击(bubble-net attacking)和搜索猎物(search for prey)3个阶段[23]。

1.2.1 包围猎物

当p<0.5且|A|<1时，执行包围猎物的行为，p为[0,1]范围内产生的随机数，A为系数向量。设置鲸鱼种群规模为N，每个鲸鱼的位置代表一个可行解X。座头鲸能够识别猎物的位置并且将其包围，是由于搜索空间中的最优解的位置不是先验已知的，因此WOA算法假定当前的种群最优鲸鱼个体位置是目标猎物或距离目标猎物最近的位置。在定义了最优搜索位置之后，其他鲸鱼个体将尝试向当前种群最优位置靠近，更新位置公式表示为

D=|CX*-X(t)|

(7)

X(t+1)=X*(t)-AD

(8)

式中：D为当前鲸鱼个体与最优位置之间的距离；t为当前迭代次数；X(t)为当下鲸鱼个体所处的位置向量；X*为当前最优解位置向量。

其中系数向量A、C计算公式为

A=2ar-a

(9)

C=2r

(10)

1.2.2 泡泡网攻击

当p≥0.5，执行泡泡网攻击狩猎行为。在鲸鱼狩猎时，它会以螺旋运动游向猎物，该行为用数学公式为

X(t+1)=Deblcos(2πl)+X*(t)

(11)

式(11)中：D=|X*-X(t)|代表当前最优鲸鱼个体位置和猎物之间的距离；b为一个常数，用来定义螺线的形状；l为(-1,1)区间内的一个随机数。鲸鱼采用螺旋方式，游向猎物的同时还需要收缩包围圈，故在同步行为模型中，假定有1-Pi的概率通过螺旋模型来更新鲸鱼的位置和有Pi的概率选择收缩包围机制，算法的数学模型表达式为

(12)

式(12)中：p为[0,1]的随机数，通常选择p=0.5。在鲸鱼进行捕猎行为时，越接近于猎物，a的值就会越小，A随之也会减小。在算法迭代过程中，由于a的取值是从2线性递减到0的向量，因此A的取值范围是[a, -a]的随机值，当A的取值范围在[-1,1]内时，则表示鲸鱼的当前位置在原个体和最优个体之间的任意位置，这表明更新位置后的鲸鱼个体正在向最优个体靠近。算法设定当|A|<1时，鲸鱼向猎物发起攻击。

1.2.3 搜索猎物

当p<0.5且|A|>1时，执行随机搜寻猎物。首先随机选择一个鲸鱼位置，根据选择好的位置来更新其他鲸鱼的位置，迫使鲸鱼偏离猎物，借此便能找到一个更合适的猎物行为，这样不仅可以加强算法的探索能力，而且也能使得WOA算法进行全局搜索。其数学模型表达式为

D=|CXrand-X|

(13)

X(t+1)=Xrand-AD

(14)

式中：Xrand为从当前种群中选择个体的随机位置向量；X(t+1)为当前鲸鱼个体在第(t+1)代的位置。

2 WOA-LSTM算法

LSTM模型的参数取值会对模型的拟合能力产生极大的影响，Greff等[24]对LSTM相关参数的设置进行了研究，实验结果表明隐含层节点数和学习速率是该网络设置的关键超参数，并且超参数的选取一般都与数据的特性有关，太大或太小都未必会取得很好的预测结果。为寻找锂电池RUL预测模型的最优超参数，采用WOA对LSTM的3个超参数进行优化，分别为LSTM隐含层节点数L1、L2和学习率Ir。将这3个关键超参数作为寻优的特征，利用WOA算法对LSTM模型进行调整优化，使网络结构模型与锂离子电池数据特征更为匹配。LSTM的隐藏层中，每一层的输出将会作为下一层的输入，最后通过dense全连接层输出数据。

WOA-LSTM模型算法步骤如下。

步骤1数据预处理。首先对锂离子电池的实验数据进行数据预处理，数据处理的规范化是建模的基础。使用mapminmax函数将数据映射到[-1,1]。其次，将标准化的实验数据划分为训练集和测试集，并对实验数据进行归一化处理。

步骤2初始化WOA算法参数。设置种群数量N，初始化参数(即a、r、b、l、p)，并根据WOA随机生成位置X。

步骤3确定LSTM网络模型中寻优的超参数以及寻优范围，将网络模型中两个隐含层节点数和学习率作为寻优的对象。

步骤4根据式(7)和式(8)计算个体适应度，保存最优个体以及最优位置，根据式(9)和式(10)更新A和C。

步骤5产生一个随机数p，当p≥0.5时，根据式(11)更新位置；当p<0.5且|A|>1时，根据式(14)更新位置。

步骤6判断是否达到终止迭代条件，若满足终止迭代条件，则可以得到优化目标的最优值；否则返回步骤2继续进行运算，直到满足终止条件。

步骤7将寻优得到的最优超参数重新赋值给LSTM模型，并通过锂电池数据进行训练和预测。

通过WOA优化算法对LSTM神经网络的超参数进行寻优，目的是使测试集的均方误差最小，WOA-LSTM的预测框图如图2所示。

图2 WOA-LSTM模型预测流程图

3 仿真分析

3.1 实验环境及参数设置

为了验证WOA-LSTM网络的性能，使用MATLAB2020a实现模型的构建和训练。操作系统为Windows 10，内存16 GB。WOA-LSTM模型结构包括输入层、两层LSTM层和输出层，损失函数使用均方误差，LSTM网络的隐藏层参数采用自适应矩估计(adaptive moment estimation，Adam)方法进行梯度迭代[25]。

设置最大的训练轮数为250，将LSTM模型的隐含层节点L1、L2，学习率Ir这3个超参数通过鲸鱼算法进行优化，为了防止搜索的空间范围过大，影响WOA对超参数寻优的效率，故将其初始范围分别设定为 [1,100]、[1,100]和[0.001,0.01]，然后进行迭代优化，寻找最优超参数。同时设置鲸鱼算法的种群数为50，最大迭代次数为30，由于需要优化3个参数，故个体维度设置为3。

3.2 数据处理

3.2.1 数据归一化

采用美国国家航天航空局(National Aeronautics and Space Administration, NASA)研究中心公开的数据集进行算法的验证以及模型的比较，所研究的电池数据集为可重复充放电的18650锂离子电池，对该电池进行了反复充放电的老化试验，循环充放电会导致锂电池的性能发生退化，造成实际容量的衰减[26]每个完整的充放电周期包含充电、放电和阻抗测量这3个工作过程，数据包含了锂离子电池充放电过程中的电流、电压、电阻和容量等表征参数[27]。

NASA数据集中电池容量的退化曲线如图3所示，以B05和B06号锂离子电池为例，这两种电池的总充放电循环次数达到168次，电池的截止电压分别为2.7 V和2.5 V。可以看出，随着循环充放电次数的增加锂电池的容量呈衰减状态，当容量达到1.4 A·h以下则表示锂电池的使用寿命结束。

图3 NASA锂电池容量衰减图

为了提升预测模型的精度和训练速度，保证模型的损失值在学习过程中能够收敛，因此对电池容量数据进行线性归一化处理，公式为

(15)

式(15)中：C为原始电池容量；Cnorm为归一化后的电池容量。

3.2.2 特征提取

影响锂电池寿命的因素有很多，根据锂离子电池的每个完整充放电周期，从中提取了可测量参数中能代表锂离子电池退化的关键参数，从电流、电压、温度来估计电池衰减状态。将电池容量C作为锂离子电池性能退化的直接健康因子，以表1所示的指标为间接影响因子，构建LSTM神经网络。

表1 锂电池性能退化的间接影响因子

由图4可直观地看出电池充电过程中电压的变化情况，锂离子电池的充电过程可以大概分为3个阶段，第一阶段电压迅速升为3.8 V，第二阶段从3.8 V稳定到4.2 V，第三阶段电压稳定在4.2 V，并继续保持充电状态。在第二阶段中，锂电池的充电电压上升较为稳定，因此健康因子通常会从这一阶段的数据中选取。

图4 充电电压曲线

充电过程中电流变化如图5所示，可直观看出，电流随着充电时间的增长而减小。在锂电池的每个放电周期中，电池电压会先非线性地降低，当电压达到放电截止电压后停止放电，如图6所示，放电电压会随着时间的增长而呈现递减状态。为了更加简便地进行在线电池容量估计，将充放电过程中的平均温度作为两个间接健康因子，如图7(a)和图7(b)所示。

图5 充电电流曲线

图6 放电电压曲线

图7 温度充放电曲线

3.3 结果分析

3.3.1 模型评价指标

为全面分析预测模型的有效性以及准确性，选取以下3个指标来评估模型的性能。

平均绝对误差(mean absolute error，MAE)也即绝对误差，适用于预测值和实际观测值相差较为明显的情况，由于平均绝对误差可以避免误差相互抵消的问题，能够准确地反映预测值与真实值误差。

(16)

均方根误差(root mean square error，RMSE) 是均方误差的算术平方根，是预测值与真实值偏差的平方和与观测次数n比值的平方根。

(17)

平均绝对百分比误差(mean absolute percentage error，MAPE)是表示将每个点的误差进行了归一化，一定程度上降低了个别离群点对绝对误差的影响。当MAPE越小代表模型越好。

(18)

3.3.2 实验结果分析

采用NASA公开数据集中的B05、B06号电池失效数据进行实验仿真，将表1中健康因子的数据作为模型的输入变量，锂离子电池的剩余容量作为模型的输出变量，从而构建出所提取的健康因子与电池实际容量之间的拟合模型[28]。锂电池的循环充放电周期为168，故将锂电池总数据集中的50%作为训练数据输入神经网络模型，剩余的50%作为测试集验证模型。在B05电池实验中WOA-LSTM模型的最优超参数设置为：第1层隐藏层单元个数为12，第二层隐藏层单元个数为16，学习率为0.003 9；B06电池实验中得到的最优超参数设置为：第1层隐藏层单元个数为10，第二层隐藏层单元个数为20，学习率为0.005 8。将这些寻优后得到的最优超参数重新赋值给LSTM神经网络，再次构建网络预测模型。

PSO是比较常用的参数优化算法，但选取的WOA相比较于PSO的主要优势在于，WOA采用随机或最佳搜索代理来模拟捕猎行为，并且搜索轨迹在理论上是可视的及可控制的，算法操作以及实现过程较为简单，需要调整的参数少以及跳出局部最优的能力强。Elman是一种具有局部记忆功能和局部反馈连接的前向神经网络，是较为常用的回归预测模型。故使用标准LSTM算法、Elman算法、PSO-LSTM算法、WOA-LSTM算法，分别对构建的预测模型进行实验仿真，将预测结果的误差进行对比。图8所示为WOA优化算法的适应度曲线，设置最大迭代次数为30，以MSE作为评价指标，可直观看出，B05号电池在第12次迭代达到平稳；B06号电池在第4次迭代时达到平稳状态。

图8 WOA适应度曲线

如图9所示为4种算法对B05和B06电池的容量预测结果曲线，由图9(a)和图9(b)可看出WOA优化后的LSTM网络模型预测结果明显更接近于实际电池容量值，由此可得WOA-LSTM算法的预测性能明显好于PSO-LSTM算法、Elman算法以及标准LSTM算法。这也表明，使用鲸鱼优化算法对LSTM的超参数寻优后，能够大幅度提升模型的预测精度。

图9 误差对比图

表2为各项指标的具体预测误差值，误差越接近于0代表预测精度越高，模型更好。其中，B05号电池的MAE指标降低最为明显，相较于LSTM降低了7.68%，相比较于Elman降低了3.24%，相比较于PSO-LSTM降低了4.02%；RMSE指标降低较为明显，相比较于LSTM降低了7.39%，相比较于Elman降低了3.04%，相比较于PSO-LSTM降低了3.83%；MAPE指标相比也有降低，相比较于LSTM降低了5.57%，相比较于Elman降低了3.68%，相比较于PSO-LSTM降低了2.95%。

同样，从表2中可得到B06号电池的MAE指标降低最为明显，相比较于LSTM降低了10.16%，相比较于Elman降低了4.44%，相比较于PSO-LSTM降低了3.88%；RMSE指标降低较为明显，相比较于LSTM降低了9.49%，相比较于Elman降低了3.49%，相比较于PSO-LSTM降低了3.08%；MAPE指标相比也有降低，相比较于LSTM降低了7.78%，相比较于Elman降低了4.24%，相比较于PSO-LSTM降低了3.85%。