基于改进ELM的锂离子电池RUL预测

唐 婷,袁慧梅

(首都师范大学信息工程学院,北京 100048)

锂离子电池在使用一段时间后会出现老化,影响使用性能,因此,需要准确预测剩余使用寿命(RUL)。RUL的预测方法可以分为3类:模型法、数据驱动法和混合方法[1]。

数据驱动中的神经网络在RUL估计方面具有很大的潜力。神经网络虽然非线性映射能力好,但参数众多、结构复杂,在网络训练过程中会耗费大量时间,占用很多内存,因此,研究者期望寻找一种既能节省成本,又能准确预测RUL的方法。极限学习机(ELM)是一种特殊的单隐含层前馈神经网络,结构简单,无需反向传播技术更新参数值,学习速度快,泛化能力强。姜媛媛等[2]提取等压降放电时间作为电池间接寿命特征参数,用ELM构建参数与电池容量的关系模型,间接预测RUL。该算法操作简单,只需构建训练集和测试集,就能很好地预测电池的容量,但参数为随机产生,预测结果不稳定,鲁棒性较差。吴婧睿[3]引入萤火虫算法,优化ELM随机生成的输入权值和隐藏层偏置值,减小了预测误差。该算法虽然提升了鲁棒性,但对优秀个体的依赖程度很高,要求感知范围内有优秀个体提供信息,否则将停止搜索,降低了收敛速度,甚至可能找不到最优个体。R.Razavi-Far等[4]用ELM进行一步和多步提前预测,作为预测模块,使用多种预测策略,利用恒流实验的容量数据估计RUL。该算法虽然在RUL的短期和长期范围预测较精确,但参数随机产生,仍存在不稳定性。Y.Y.Ma等[5]开发广义学习的ELM,并不断地扩展输入层、增加输入层的节点,提高了网络捕获数据中有效特征信息的能力。该算法虽然预测精度较高,但输入层的不断扩展使得网络结构越来越复杂,计算量增大。

传统的ELM预测锂离子电池的RUL时,会出现结果发散及精度不高等问题,减弱了算法的鲁棒性和泛化能力。对ELM的改进,目前有按一定规则增加或减少隐藏层节点数量、优化参数算法及引入核函数等方法。G.B.Huang等[6]结合ELM算法和核函数,用核函数映射代替ELM中的随机特征映射,形成了核极限学习机(KELM);N.Y.Liang等[7]提出在线顺序极限学习机(OS-ELM),通过新数据的引入,不断更新网络参数,实现在线训练;杨新星等[8]通过不同的优化算法,对ELM中的参数进行寻优,提升预测精度。以上研究均采用全连接或核函数,改进ELM算法输入层与隐藏层之间的映射关系,而局部连接的ELM结构并未得到广泛的关注。这些改进都增加了计算量,很多参数需要初始化,若选择不当,会对预测结果造成影响。此外,A.M.Saxe等[9]提出的具有随机权重的单层卷积平方池体系结构及G.B.Huang等[10]提出的基于局部感受野的ELM,都说明构造一个特定的网络结构能大幅提高系统性能,效果好于一些深度学习算法,并可提高训练速度。M.Lin等[11]提出用全局平均池化的方法代替全连接层,即把最后一个多层感知器卷积层所得到的每一张特征图进行全局平均池化。每张特征图都可得到一个输出,能节省参数,降低网络的复杂度,避免过拟合。

综上所述,本文作者引入卷积神经网络和全局平均池化,对ELM进行两种改进,并对算法的效果进行验证。

1 改进的ELM

ELM的改进算法很少关注局部连接的ELM结构,因此,本文作者提出两种改进算法。改进算法A把ELM输入层与隐含层之间的全连接关系改为卷积运算操作,即引入一个常规大小的卷积核,视为原隐含层权重的变形,与输入层的数据进行卷积,提取特征矩阵,经平均池化后,得到隐含层输出矩阵H,后续获取输出权重矩阵β的方式与标准ELM一致。由于改进算法A中的卷积核和偏置的取值都是随机产生的,运行结果有不确定性。

为提高算法的鲁棒性,受全局平均池化思想的启发,改进算法B直接把ELM输入层与隐含层之间的全连接关系改为池化,即输入层的数据直接经池化操作得到隐含层输出矩阵H,而输出权重矩阵β的获取也与标准ELM一样。值得注意的是,由于输入层的数据只是一个矩阵,即相当于一个特征图,需要采用传统的平均池化方法对矩阵进行降维,而非直接进行全局平均池化。

1.1 改进算法A

①数据预处理。从循环周期开始,以每连续10个循环周期的数据作为一组输入,下一个循环周期的数据用作输出,分别对两组电池数据进行构建,之后选定预测起始点T,可得到训练集的输入矩阵Ptrain、输出矩阵Ttrain和测试集的输入矩阵Ptest、输出矩阵Ttest。

②初始化参数。初始化卷积核W、偏置B。

③对Ptrain进行卷积操作,得到训练集的特征矩阵TH。

式(1)中:BM为B的复制扩展矩阵;*表示卷积运算。

④计算训练集的非线性特征输出矩阵NH与隐藏层输出矩阵H。

式(2)中:g(x)为激活函数;mean_pooling代表平均池化。

⑤计算输出权重矩阵β。

式(4)中:H+是H的广义逆矩阵。

⑧得到最终的预测结果Y。

1.2 改进算法B

①数据预处理。与改进算法A的步骤①一致。

②计算训练集的H。H由Ptrain进行平均池化得到。

③计算输出权重矩阵β。计算公式见式(4)。

⑤得到最终的预测结果Y。计算公式见式(7)。

2 实验及分析

2.1 数据集

实验所用电池退化数据有两组(见图1)。第一组来自马里兰大学高级生命周期工程研究中心(CALCE)提供的锂离子电池寿命数据[12];第二组采用美国国家航空航天局(NASA)艾姆斯预测卓越中心提供的锂离子电池数据[13]。通常认为,锂离子电池的放电容量下降到额定容量的60%～80%时,视为使用寿命终止(EOL)。将第一组电池额定容量的80%设置为EOL,第二组电池额定容量的71%设置为EOL,得到第一、二组电池的失效阈值分别为0.72 Ah、1.42Ah。

图1 锂离子电池的容量退化数据Fig.1 Capacity degradation data of Li-ion battery

2.2 参数设置

传统的ELM的隐藏层节点数与训练集样本个数相等,输入层与隐藏层之间的权重w和隐含层神经元的偏置b随机均匀产生,激活函数采用正弦函数。改进算法A中,卷积部分设置为:卷积核大小为3×3,随机均匀初始化卷积核和偏置的值,步长为1,方式为全零填充,激活函数同样采用正弦函数。池化部分设置为:池化核大小为2×1,步长为1,方式为平均池化。改进算法B中池化部分的设置与算法A相同。采用2×1大小的池化核,以便计算得到后面的输出权重矩阵β。由改进算法A的步骤⑤或改进算法B的步骤③可知:当划分好训练集与测试集,以及选定预测起始点之后,训练数据的输出矩阵Ttrain大小已被固定。为获取β的值,需要经过池化操作,得到隐藏层输出矩阵H匹配Ttrain的大小。

2.3 实验结果

为客观评价所提出算法的RUL预测性能,常用的评价指标有:均方根误差(RMSE)、平均绝对百分比误差(MAPE)、绝对误差(AE)和相对误差(RE)等。RMSE和MAPE反映预测容量值与真实容量值之间的偏差;AE和RE进一步反映RUL预测值(Rpre)偏离RUL真实值(Rtru)的程度。

2.3.1 与ELM变形算法的对比

为了验证两种改进ELM算法的良好预测性能,在相同的样本数据下,与传统的 ELM[2]、KELM[6]、OS-ELM[7]和粒子群优化极限学习机(PSO-ELM)[8]进行对比,具体各项评价指标见表1、2,预测结果如图2所示。

表1 CALCE组电池的预测结果比较Table 1 Comparison of prediction results for batteries of Center for Advanced Life Cycle Engineering(CALCE)

表2 NASA组电池的预测结果比较Table 2 Comparison of prediction results for batteries of National Aeronautics and Space Administration(NASA)

图2 部分电池预测结果Fig.2 Prediction results of partial batteries

从实验结果可知,传统的4种算法对锂离子电池数据的预测效果不理想,有的甚至达不到失效阈值点;而两种改进的算法均比其他算法更加靠近真实值,表明两种改进的算法对锂离子电池的RUL预测是可行的。从各项评价指标值可见,当样本为A3时,改进算法A预测容量的RMSE略微大于KELM,但所预测的RUL却比KELM更接近于真实值,准确性更高。改进算法A改善了发散效果,在一定程度上降低了预测误差;改进算法B去除了改进算法A预测结果的不确定性,提升了鲁棒性,使结果更为可靠。

2.3.2 与神经网络对比

为进一步验证算法的泛化能力,以A12和B5电池为例,用目前较经典的神经网络,即循环神经网络(RNN)[14]、长短期记忆网络(LSTM)[15]、门控循环单元(GRU)[16]和时间卷积网络(TCN)[17]进行比较,结果列于表3。

表3 A12和B5电池的预测结果比较Table 3 Comparison of prediction results for batteries of A12 and B5

从表3可知,与RNN、LSTM、GRU和TCN等经典的神经网络相比,两种改进的算法的预测准确度较高,且训练、测试网络所用时间较短,说明两种改进的算法在预测精度和时间成本上都具有较大的优势。

2.3.3 不同预测起始点对比

选取不同的预测起始点,用两种改进的算法进行仿真实验,预测结果如表4所示。

表4 不同预测起始点下的部分预测结果比较Table 4 Comparison of part of prediction results under different prediction starting points

从表4可知,随着预测起始点的增加,两种改进的算法的RMSE和MAPE值减小,且各自预测的RUL值也越接近真实值。当预测起始点为T=100时,对于B7电池,改进算法A、改进算法B的RMSE分别为0.023 2、0.009 0。

3 结论

本文作者重点关注输入层与隐藏层之间的“局部”连接方式。改进算法A首先引进卷积、池化,改变了原有的全连接关系,神经网络能够学习局部相关性。该算法在减少参数冗余的同时,降低了计算量,可改善传统ELM算法的大幅度发散效果,预测结果更为准确,误差更小;但仍存在不确定性,预测结果并不理想。有鉴于此,改进算法B舍弃了卷积的操作,直接对输入层数据进行池化,免去了参数的初始化以及激活函数类型的选取,算法的预测结果更稳定,鲁棒性更强。

仿真结果表明:以B7电池为例,在不同的预测起始点下,改进算法A和改进算法B的均方根误差在0.035以内,相比于其他ELM变形算法,具有较高的预测精度。而以B5电池为例,相比较于几个典型的神经网络,当T=90时,改进算法A和改进算法B的均方根误差在0.030以内,且运行时间都不超过1 s。两种改进算法在锂离子电池的RUL预测中有很好的应用价值。