APP下载

基于生成对抗网络的锂电池寿命预测

2024-09-13李迪

电脑知识与技术 2024年22期

摘要:锂电池广泛应用于多个领域,但其性能随时间退化,最终导致失效。为了解决GAN网络在时间序列预测中的模式崩塌问题,本文提出了一种基于WGAN的锂电池剩余使用寿命预测方法,该模型以GRU作为生成器和以CNN作为判别器,并在原有的损失函数基础上引入L2范数以提高模型的收敛性,最后通过对抗训练提高预测精度。使用CALCE锂电池数据集验证,WGAN模型在MAE、RMSE和R2评价指标上均优于其他模型,显示出高预测精度和良好泛化性。不同训练集占比下WGAN模型仍保持高预测性能,证明其广泛的适用性。

关键词:锂电池;生成对抗网络;WGAN;门控循环单元网络;卷积神经网络

中图分类号:TM912 文献标识码:A

文章编号:1009-3044(2024)22-0019-06

开放科学(资源服务)标识码(OSID)

0 引言

锂电池的性能随时间推移,其性能会退化,导致最终失效。在电池剩余使用寿命(Remaining Useful Life,RUL)预测研究中通常将电池容量电池健康状态的直观指标,通常当其降至70%~80%时,认为电池寿命结束[1]。

目前的锂电池剩余寿命预测方法主要分为基于模型的RUL预测方法和基于数据驱动的RUL预测方法[2],基于模型的方法依赖复杂电池模型,易受噪声干扰,适应性差,且需理解电池内部的物理化学反应[3]。数据驱动方法则通过分析电池容量、电流、电压等数据,提取健康特征,预测RUL,且不受电池内部模型限制[4]。李练兵等[5]提出基于差分电压和Elman网络的方法,分析差分电压和充放电曲线,提取电池容量退化特征,构建以电池容量为输出的网络,提升锂电池RUL预测精度。Chen等[6]提出基于Transformer的锂电RUL预测法,用自动去噪编码器(Denoising Auto Encoder,DAE)处理电池容量再生,后用Transformer预测RUL,表现优于传统算法。吴琼等[7]提出用遗传算法优化BP网络估算锂电剩余容量,主成分分析降维健康因子,优化权值,预测RUL。黄凯等[8]提出CEEMDAN-LSTM预测法,先分解降噪容量序列,再相关性分析选残差,用LSTM建模预测锂电RUL,精度高。

基于以上分析,提出一种基于生成对抗网络的锂电池RUL预测方法。该方法构建了生成器为GRU,判别器为CNN的Wasserstein生成对抗网络(Wasserstein GAN,WGAN)锂电池剩余使用寿命预测模型。

1 相关理论

1.1 门控循环单元网络

门控循环单元网络(Gated Recurrent Unit Network, GRU)是2014年Cho和Chung提出的RNN门控变体[9],比LSTM简单,参数少,计算高效,时序任务表现好。其结构如图1所示。

重置门Rt和更新门Zt的计算公式如下:

[ [Rt=σ(WrxXt+WrhHt-1+br)] (1) [Zt=σ(WzxXt+WzhHt-1+bz)] (2) ]

其中σ(·)为Sigmoid激活函数,Wrx,Wzx和Wrh,Wzh为各门控结构对应输入值Xt和隐藏状态Ht-1的权重参数,br,bz为各门控结构的偏置参数。

候选隐藏状态[Ht]用于计算隐藏状态Ht,具体计算公式如下:

[ [Ht=tanh(WhxXt+Whh(Rt⊙Ht-1)+bh)] (3) ]

式中:tanh(·)为双曲正切5pOWM7hGOWgFR2uBixkjyDoUNFnxopVLKeWOg5na0sE=激活函数,Whx和Whh为候选隐藏状态的权重参数,bh候选隐藏状态的偏置参数,[⊙]表示哈达玛积(按元素乘法)。重置门Rt决定了[Ht]的更新是否受前一时刻隐藏状态Ht-1的影响。

最后,由更新门Zt和候选隐藏状态[Ht]计算隐藏状态Ht供输出层使用,具体计算公式如下:

[ [Ht=Zt⊙Ht-1+(1-Zt)⊙Ht] (4) ]

其中,更新门Zt负责调节保留自前一时刻隐藏状态Ht-1的历史信息量,以及从候选隐藏状态[Ht]接收新信息的比例,进而融合这些信息以生成当前时刻的隐藏状态Ht。

1.2 生成对抗网络

生成对抗网络(Generative Adversarial Network,GAN)[10]由生成器和判别器组成,用于图像生成,学习真实数据分布,判别数据真假。GAN广泛应用于图像、视频、时间序列预测等领域。

在生成对抗网络的训练过程中,生成器与判别器通过相互竞争达到一种平衡,类似于博弈论中的“纳什均衡”,判别器难以区分生成器产出的数据与真实数据。GAN是一个灵活的生成模型框架,允许内部结构的多样性,可以选择CNN、RNN、LSTM等不同的网络结构来适应不同的应用需求。GAN模型结构如图2所示。

模型理想状态:生成器掌握数据分布,生成逼真数据;判别器在无法辨识数据真伪时,其输出概率为50%。GAN的目标函数如下所示:

[minGmaxDY(D,G)=Ex~Pdata(x)[log(D(x))]+Ex~PG(z)[log(1-D(G(z)))]] (7)

式中,x为输入数据,D(x)表示判别器判断该输入数据为真的概率,G(z)表示生成器根据随机噪声z生成的虚假数据。Pdata(x)表示真实数据的分布,PG(z)是生成器学习到的虚假数据的分布。E则是计算其期望。公式(7)分两部分,先k次优化判别器D,再优化1次生成器G,交替训练。

1.3 Wasserstein生成对抗网络

Wasserstein生成对抗网络(Wasserstein GAN,WGAN) [11]是对经典GAN模型的一个改进。其增强了模型的稳定性,解决了GAN模式崩塌的问题。WGAN与经典GAN模型相比,做出了以下4处优化:

(1)判别器输出层去除sigmoid,将任务从二分类转为回归;

(2)损失计算中去除对数,增大损失值以助训练;

(3) 训练判别器时参数截断,限制参数范围以缓解梯度消失;

(4)弃用动量优化,推荐RMSProp或SGD,以提升模型收敛速度。

WGAN中参数截断应对判别器梯度的Lipschitz限制,确保不超过阈值K。为克服截断带来的问题,引入梯度惩罚机制,以替代固定阈值,既满足限制也保持了判别器性能。此时判别器的损失函数如式(8)所示:

[LossD=-Ex~Pr[D(x)]+Ex~Pg[D(x)]+λEx~px∇xD(x)p-12] (8)

其中,Pr代表真实数据的概率分布,而Pg代表生成器所模拟的数据分布。两者之间的差异构成了分布区域[px],E用来表示这个区域的期望值。通过在xr和xg之间进行插值[x],引入了介于0到1之间的随机变量ε,计算公式如下:

[x=εxr+(1-ε)xg,xr~Pr,xg~Pg,ε~Uniform[0,1]] (9)

2 WGAN模型结构

2.1 生成器结构

本文采用GRU作为生成器的核心网络结构,利用其稳定性优势,并通过全连接层来产生所需的数据输出。针对锂电池剩余使用寿命预测,本文采用改进的WGAN损失函数,由对抗损失和预测损失两部分组成。对抗损失基于WGAN原始损失,促使生成器的数据分布与原始数据一致;预测损失衡量生成数据与真实数据的误差。在优化问题中,L2范数常作为正则化项,以防止模型过拟合,因此本文使用L2范数作为预测误差的度量,有助于生成器更准确地捕捉时间序列的特征和结构,提升生成器生成数据的质量。生成器的损失函数如公式(10)所示。

[ [lossG=-D(y)+λy-y2] (10) ]

在上式中,λ为权重,控制对抗损失和预测损失比例,优化训练。[y]为生成器预测值,y为真实数据,[D(y)]是判别器结果。最小化lossG同时最大化判别器对[y]的判别,减小预测误差,实现收敛。

2.2 判别器结构

本文的WGAN判别器融合了一维卷积神经网络和全连接层,发挥了CNN在处理分类任务时的长处。判别器由三层一维卷积层、最大池化层和两层全连接层构成。为增强训练效能,卷积层中使用了带泄露的线性整流单元(Leaky ReLU)激活函数,而输出层则沿用了WGAN模型的线性激活函数。该线性激活函数产生的分数,量化了生成数据与真实数据的相似性。损失函数则基于Wasserstein距离,用于指导判别器的训练,公式如(11)所示。

[ [lossD=-D(y)+D(y)] (11) ]

上式中,y表示实际的锂电池容量数据,而[y]表示生成器生成的虚假容量数据。

训练过程的目标是最小化公式(11)定义的损失函数lossD,这涉及在提升判别器对真实数据D(y)的判别能力的同时,降低其对生成数据[D(y)]的判别效果。

3 实验结果与分析

3.1 数据集介绍

模型的输入数据来自马里兰大学先进生命周期工程研究中心(CALCE) 的锂电池数据集中的CS2_35、CS2_36、CS2_37三个电池的充放电实验数据[12]。如图3所示为锂电池的容量衰退曲线。

3.2 模型训练

本文将从马里兰大学锂电池数据集中所提取的4个特征作为输入,通过WGAN模型进行预测锂电池容量数据。该模型的结构图如图4所示(注:图中的Bs为批量大小)。从图中可以看出,本文所提出的WGAN模型的生成器有三个GRU层,分别有1 024,512,256个神经元;两个Dense层,分别有128和64个神经元。判别器有三个1D卷积层,分别有32,64,128个神经元;一个Flatten层。

WGAN的训练过程遵循生成器和判别器交替更新的迭代方法,具体步骤如下:

1) 模型输入阶段:将训练数据送入模型。

2) 判别器D更新:固定生成器G的参数,将由G生成的预测数据与实际数据混合后送入判别器D。随后,利用Adam优化算法对D的权重进行调整。

3) 生成器G更新:保持判别器D参数不变,将训练数据输入G得到预测数据,随后将这些数据与真实数据一起输入D,以此来评估G生成的数据。

4) 迭代优化:重复步骤1至3,G和D的网络参数持续优化,损失函数值逐渐减小,预测结果逐步逼近真实值。

3.3 模型评价指标

模型的预测结果,采用平均绝对误差(Mean Absolute Error,MAE) 、均方根误差(Root Mean Square Error,RMSE) 和决定系数(R2 score,R2) 这三个指标进行评估。其计算公式见式(12)~(14):

[ [RMSE=1nt=1nxt-xt2] (12) [MAE=1nt=1nxt-xt] (13) [R2=1-[t=1nxt-xt2][t=1nxt-xt2]] (14) ]

3.4 实验结果与分析

为了验证本文选择GRU作为生成器比LSTM作为生成器的优越性,以CS2_35电池为例分析LSTM和GRU的预测能力。

在LSTM模型中,使用了一层LSTM,模型的优化器是Adam算法,学习率为0.001。批处理大小是64,然后在训练集上迭代了50次。如图5所示为LSTM在CS2_35上的预测结果图。

在构建GRU模型时,使用了两层GRU,它的优化器为Adam算法,学习率为0.000 1,批量大小为32,然后在训练集上迭代了50次。如图6所示为GRU在CS2_35上的预测结果图。

从图5和图6可以看出LSTM与GRU的预测结果没有明显的差距,LSTM的MAE为0.054 2,而GRU的MAE为0.057 3,两者之间的差距很小。然而LSTM模型的训练时间为8.561 5 s,GRU模型的训练时间为6.812 s。这说明两者在预测精度方面没有明显的区别,但是在训练时间上有不小的差距,为了减少时间开销,本文的WGAN模型的生成器选择了GRU。

构建GAN和WGAN模型的结构时,模型的生成器是GRU,判别器是CNN,优化器是学习率为0.000 16的Adam算法。批处理的大小是128,在训练集上迭代了300次。如图7和图8所示,分别为GAN和WGAN在CS2_35上的预测结果图。

从图7和图8可以看出,WGAN和GAN都具有不错的预测精度,但WGAN的预测效果更好一些。如图9所示,上方蓝线为判别器的损失曲线,下方橙色线为生成器的损失曲线。在500次迭代后,可以明显地看出,GAN的判别器的损失曲线一直高于生成器的损失曲线,在100次迭代后趋于稳定,而WGAN的判别器的损失曲线随着迭代次数的增加,逐渐减小,直到趋近于0。与GAN模型相比,WGAN的判别器的学习能力更强,预测效果也更好。

在训练集和测试集各占数据集的50%情况下,四种模型在CS2_35、CS2_36、CS2_37三个电池上的RUL预测结果的评价指标如表1所示。

通过表1可观察到WGAN模型在对CS2_35、CS2_36和CS2_37电池的RUL进行预测时,其表现优于其他三种模型。WGAN模型的MAE和RMSE都显著低于GRU、LSTM和传统GAN模型,表明WGAN模型在预测锂电池的RUL时,能够提供更为精确的估计,误差更小,拟合度更高。R2值越高,表明模型的预测值与实际值之间的相关性越强,预测的可信度和准确性越高。WGAN模型的R2值在所有模型中是最高的,这意味着其预测结果与实际值更为贴近。

通过图10可以观察到WGAN模型的预测曲线紧密贴合实际的电池容量退化曲线,显示出其在捕捉电池容量波动趋势方面的高准确度。随着电池循环次数的增加,WGAN模型依然能够维持较高的预测精度,而GRU、LSTM和传统GAN模型的预测曲线则逐渐偏离实际曲线,显示出它们的拟合效果随着时间的推移而下降。

进行锂电池RUL预测时,WGAN模型在不同规模的训练集上的表现是评估其泛化能力和鲁棒性的关键。通过将数据集分别划分为40%、50%和60%作为训练集,能够深入理解WGAN模型在不同训练数据条件下的预测能力。不同训练集下的预测结果如图11所示。

由图11可知,随着训练集规模的增加,WGAN模型的预测精度逐渐提高。在40%训练集中,WGAN模型能够捕捉到电池容量的大致退化趋势。当训练集为50%时,WGAN模型的预测曲线与实际曲线的吻合度提高,具有更好的拟合效果。当训练集为60%时,WGAN模型的预测精度更高,预测曲线几乎与实际曲线重合,这表明WGAN模型在较大训练集的支持下能够实现高度精确的RUL预测。

从表2中可以看出,随着训练集的增加,MAE和RMSE逐渐减小,而R2值逐渐增大,这与图11的观察结果一致。较小的训练集可能导致模型欠拟合,而较大的训练集则有助于模型更好地学习数据中的模式,从而提高预测的准确性和可靠性。

因此,WGAN模型在不同训练集规模下的RUL预测测试结果表明,该模型具有良好的泛化能力和适应性。

4 结论

为了对锂电池RUL准确预测,本文提出了基于生成对抗网络的锂电池剩余使用寿命预测模型。该模型首先使用作为生成器的GRU进行预测,再使用作为判别器的CNN进行判别,根据判别器的反馈,更新生成器的训练参数,以生成质量更高的数据来训练判别器的识别能力;这种对抗训练的过程不断迭代,使得模型持续优化,最终得到锂电池RUL的预测结果。实验结果表明WGAN具有更低的预测误差,WGAN模型在不同数据集上的RUL预测都有较好的准确性,证明该模型的锂电池RUL预测精度更高,泛化性更强。

参考文献:

[1] 梁海峰,袁芃,高亚静.基于CNN-Bi-LSTM网络的锂离子电池剩余使用寿命预测[J].电力自动化设备,2021,41(10):213-219.

[2] 李超然,肖飞,樊亚翔,等.基于卷积神经网络的锂离子电池SOH估算[J].电工技术学报,2020,35(19):4106-4119.

[3] 郑雪莹,邓晓刚,曹玉苹.基于能量加权高斯过程回归的锂离子电池健康状态预测[J].电子测量与仪器学报,2020,34(6):63-69.

[4] 裴洪,胡昌华,司小胜,等.基于机器学习的设备剩余寿命预测方法综述[J].机械工程学报,2019,55(8):1-13.

[5] 李练兵,李思佳,李洁,等.基于差分电压和Elman神经网络的锂离子电池RUL预测方法[J].储能科学与技术,2021,10(6):2373-2384.

[6] CHEN D Q,HONG W C,ZHOU X Z.Transformer network for remaining useful life prediction of lithium-ion batteries[J].IEEE Access,1975,10:19621-19628.

[7] 吴琼,徐锐良,杨晴霞,等.基于PCA和GA-BP神经网络的锂电池容量估算方法[J].电子测量技术,2022,45(6):66-71.

[8] 黄凯,丁恒,郭永芳,等.基于数据预处理和长短期记忆神经网络的锂离子电池寿命预测[J].电工技术学报,2022,37(15):3753-3766.

[9] 邱锡鹏.神经网络与深度学习[J].中文信息学报, 2020(7):1.

[10] LINTING M,VAN DER KOOIJ A.Nonlinear principal components analysis with CATPCA:a tutorial[J].Journal of Personality Assessment,2012,94(1):12-25.

[11] ARJOVSKY M, CHINTALA S, BOTTOU L. Wasserstein generative adversarial networks[C]//International conference on machine learning. PMLR, 2017: 214-223.

[12] 史永胜,施梦琢,丁恩松,等.基于CEEMDAN-LSTM组合的锂离子电池寿命预测方法[J].工程科学学报,2021,43(7):985-994.

【通联编辑:李雅琪】