基于GWO-LSTM的柴油机NOx排放预测

陆必伟，李捷辉

摘要： 柴油机NOx是机动车主要的有害排放物质，精确测量NOx排放有利于SCR尿素喷射的控制从而减少排放，而现有的氮氧传感器和通过标定获得的排放MAP均难以实现瞬态条件下NOx的实时测量。使用主成分分析法（PCA）对全球统一瞬态试验循环（WHTC）的柴油机工况参数进行降维处理，基于长短期记忆神经网络（LSTM）搭建柴油机NOx实时预测模型，并利用灰狼优化算法（GWO）对LSTM模型进行参数优化。结果显示：GWO-LSTM预测模型在未训练的数据集上的平均相对误差（MAPE）为3.23%，证明该模型能够精准实现柴油机NOx排放的实时预测，并具有良好的泛化能力和可靠性，为以软件替代硬件实现柴油排放控制提供了参考。

关键词： 柴油机；氮氧化物；预测模型；长短期记忆神经网络；灰狼优化算法

DOI： 10.3969/j.issn.1001-2222.2024.03.013

中图分类号： TK421.5文献标志码： B文章编号： 1001-２２２２（２０24）０3-００80-０8

柴油车是NOx排放的主要来源。根据2022年中国移动源环境管理年报，2021年全年中国机动车NOx排量达582.1万t，其中柴油车NOx排量超过排放总量的88.3%［1］。对柴油机NOx排放的精准测量是选择性催化还原技术（SCR）的首要任务［2-3］。现如今NOx传感器有着价格高昂、低温响应慢、瞬态精度差等缺点［4］，且对还原剂NH3交叉敏感性也会导致测量不精确［5］。而NOx排放MAP标定需要消耗大量的人力和时间等试验成本，且稳态工况下标定的MAP难以满足瞬态排放的准确查找。因此需要一种更可靠的NOx测量方式。

为此，许多国内外学者利用机器学习实现柴油机NOx排放的预测［6-8］。喻洋等［9］提出基于完全自适应噪声集合经验模态分解-支持向量回归（CEEMDAN-SVR）的预测模型，在拟合发动机工况、车辆行驶等参数和NOx排放之间的关系取得了不错的效果。J. Q. Li等［10］基于双重降噪处理并利用深度学习实现了良好的瞬态预测效果。

随着人工智能的发展，人工神经网络（ANN）在柴油机NOx排放预测领域得到了广泛的应用［11-13］。Sáez等［14］使用遗传算法优化ANN模型，并对柴油机瞬态NOx排放进行了预测，决定系数（R2）的最佳结果为0.82。Seunghyup等［15］使用贝叶斯优化超参数的深度神经网络（DNN）模型预测NOx，其世界统一轻型汽车测试程序（WLTP）的平均绝对误差（MAE）为16×10-6～27×10-6。Wang Yuhua等［16］构建了改进粒子群-径向基（PSO-RBF）模型，能够在小数据量情况下寻到最优解，结果MAPE为3.26%。

考虑到输入数量对模型的影响，有些学者对柴油机工况参数进行了相关性分析以提高模型运算效率。G. Y. Wang等［17］利用互信息（MI）值进行相关性分析，并利用BP神经网络预测NOx排放，结果显示MAPE低于5%。戴金池等［18］采用灰色关联分析确定了5个输入，使用神经网络进行试验数据和仿真数据互相补充和校正，测试集的均方根误差（RMSE）为55.33×10-6，泛化能力较强。但是很多基于相关性分析的预测模型只选取部分柴油机工况数据，无法保留原始数据的更多特征。

为了解决数据失真、长期依赖、梯度爆炸、梯度消失等问题，本研究提出一种基于LSTM的柴油机NOx预测模型，利用GWO对LSTM的参数组合进行优化，该模型可以解决时间序列预测问题；使用PCA算法对复杂的柴油机工况参数进行降维处理，同时保留原始输入数据的特征。

1研究方法

1.1长短期记忆神经网络原理

LSTM是ANN一种特殊的类型，可以学习长期依赖信息，LSTM在时间序列预测领域得到了广泛的应用并取得成功［19］。而柴油机NOx的产生是包括时间在内多种因素耦合的结果，其每一时刻的NOx排放受到之前时刻各参数不同程度的影响，构成了时间序列预测的问题，为使用LSTM作为预测模型创造了前提条件。图1所示为LSTM神经元示意图。

LSTM每个神经元拥有遗忘门、输入门和输出门，该独特的结构可以选择性地遗忘和保留信息到神经元状态，其具体原理如下。

1） 遗忘门

遗忘门用于选择性地保留过去的细胞状态。将输入和之前状态的信息传递到 sigmoid 激活函数中，得到区间为（0，1）的值。其计算公式如式（1）所示。

ft=σ（ft）=σ（Wf·ht－1，xt+bf）。（1）

式中：Wf和bf分别为遗忘门的权重矩阵和偏置项；ht－1和xt分别为上一时刻输出值和当前时刻的输入向量；σ（·）为sigmoid激活函数。

2） 输入门

输入门用于更新细胞状态。首先将前一时刻的信息和新的输入信息同时经sigmoid函数和tanh函数处理，再将二者结果相乘，sigmoid的结果将选择性地保留tanh的值。其计算公式如式（2）和式（3）所示。

it=σ（it）=σ（Wi·ht－1，xt+bi），（2）

Ct=tanh（WC·ht－1，xt+bC）。（3）

式中：Wi和bi分别为输入门的权重矩阵和偏置项；WC和bC分别为计算细胞状态的权重和偏置项；tanh为双曲正切激活函数；Ct为当前记忆。

接着将经过遗忘门的结果和输入门的结果相加得到新的细胞状态，如式（4）所示。

ct=ft·ct－1+it·Ct。（4）

3） 输出门

输出门决定哪一部分的细胞状态进行输出。先将输入和前一时刻状态经过sigmoid函数处理，再将新的细胞状态由tanh函数处理，最后将二者结果相乘进行输出。其计算公式见式（5）和式（6）。

ot=σ（ot）=σ（Wo·ht－1，xt+bo），（5）

ht=ot·tanh（ct）。（6）

式中：Wo，bo分别为输出门的权重矩阵和偏置项。

1.2灰狼优化算法原理

由于每一个LSTM的细胞内都有4个全连接层，如果LSTM算法没有合理的设置隐藏层数、每层神经元个数、学习率、批处理大小等参数，模型的训练会非常耗时且无法满足理想的精确性，所以LSTM算法非常依赖参数的优化。灰狼优化算法（GWO）作为一个全局优化搜索的智能算法，有着收敛速度快、参数少、简单易实现等优点，并且有着自适应调整的因子和信息反馈机制［20］，可以为LSTM提供良好的优化。图2所示为GWO优化算法原理图，其具体步骤如下。

1） 种群初始化

随机对种群赋值，并计算各个灰狼个体的适应度，选取种群最优的3个个体记作α，β，δ，并依此支配种群其他个体。

2） 包围猎物

在整个优化过程中，种群根据如下公式进行位置更新，实现对猎物的包围。

D=C1·Xp（t）-X（t），（7）

X（t+1）=Xp（t）-A·D，（8）

A=2·a·r1－a，（9）

C=2·r2。（10）

式中：X（t）为灰狼个体的位置；Xp为猎物的位置；A和C为协同系数向量；D是灰狼与猎物之间的距离；a为收敛因子，由2线性递减至0；t为当前迭代次数；r1，r2为0至1之间的随机数。

3） 追捕猎物

在头狼α，β，δ的领导下，种群中其他个体向猎物靠近，灰狼个体与猎物之间的距离更新见式（11）。

Di=Cj·Xit－Xt。（11）

灰狼个体向头狼的方向靠近，如式（12）所示。

Xj（t+1）=Xi－Aj×Di。（12）

式中：i指代α，β，δ；j指代1，2，3。

种群个体在α，β，δ3匹头狼的引导策略下位置更新如式（13）所示。

X（t+1）=X1（t）+X2（t）+X3（t）3。（13）

当达到最大迭代次数或灰狼种群一直在某一范围内迭代次数超过限值时，则停止迭代，得到LSTM最优参数组合。

2预测模型搭建

2.1数据采集

建立柴油机NOx瞬态预测模型，需要真实的柴油机运行数据及NOx排放数据用于模型的训练。根据泽尔多维奇理论，柴油机NOx产生的主要原因是高温、高压、富氧［21］。选取与柴油机NOx产生有关的参数，搭建试验台架用于采集数据。试验设备来自于云内动力，具体柴油机参数见表1。

试验仪器设备包括电力测功机、柴油机各状态参数测试仪、AVL-AMAi60排放测试系统等，图3所示为试验装置示意。

需要采集的参数除了NOx真实排放外共有16个，包括转速、扭矩、喷油量、轨压、进气流量、进气压力、进气温度、进气歧管温度、O2浓度、EGR下游空气质量流量、EGR下游温度、EGR阀开度、排气温度、冷却水温度、大气压力和大气温度。训练数据中除了必要的柴油机参数外，还选择了EGR相关参数，原因是利用ANN模型对NOx浓度进行相对变量重要性分析时，其中EGR阀开度是主要因素，对NOx浓度值的影响最为显著［22］。测试循环选择WHTC，采样间隔为10 ms，循环测试总时间为1 833 s，共计185 204个工况采样点。图4所示为WHTC试验循环下采集的NOx排放值。

2.2数据处理

2.2.1归一化处理

首先，由于采集的柴油机各项参数单位不统一且数值差距大，不进行归一化处理会使各个参数对模型的影响不平衡；其次，预测模型激活函数的自变量在0附近的区间内拥有良好的非线性，可以使模型获得较好的初始化，从而提高模型精度；再次，由于模型的学习率很大程度上取决于输入的范围，通过归一化处理能简化学习率的更新过程。综合以上原因，在建模前将每个柴油机工况参数的数据映射在［-1，1］的区间内，归一化计算方法如式（14）所示。

zi=2×（yi-ymin）ymax-ymin-1。（14）

式中：yi为归一化前的原始数值；zi为归一化后的数值。

2.2.2降维处理

由于试验采集的参数较多，且各个温度、压力、气体流量等数据之间的相关性较强［23］，直接进行建模会造成过拟合、计算效率低下等后果，直接删除部分数据则会损失原有的数据特征，导致最终预测模型训练不够准确，所以需要对数据进行降维处理。PCA作为一种数据降维算法，可以降低数据维度，消除冗余，防止过拟合［24-25］。相比于其他数据处理方法，PCA可以在尽可能地保留原始数据特征的前提下减少数据的维度，从而简化计算，且PCA可拓展性更高，支持处理更多参数的数据。因此，将PCA用于台架试验数据处理以获得模型的输入，以有效减少建模时间，提高效率，保证数据真实性，其计算过程如下。

1） 计算协方差矩阵

计算归一化后的柴油机工况参数协方差矩阵cov（X），其形式为cij…ciq

cqj…cqq，cij是各个参数之间的协方差，计算方法如式（15）所示。

cov（Xi，Xj）=

∑pi=1Xi－μXiXj－μXjp－1（i，j=1，2，…n）。（15）

式中：μXi=E（Xi）；μXj=E（Xj）；p为样本个数；q为参数个数。

2） 计算特征向量并排序

根据特征方程的计算公式｜λI-R｜=0，用Jacobi迭代法求出协方差矩阵cov（X）的特征值λi（i=1，2，…q），按大小顺序排列。

3） 计算贡献率及累计贡献率

主成分贡献率ci与累计贡献率c如式（16）和式（17）所示。

ci=λi∑qk=1λk（i=1，2，…q），（16）

c=∑ik=1λk∑qk=1λk（i=1，2，…q）。（17）

图5示出归一化后的柴油机工况参数各个主成分分量的贡献率及累计贡献率。选择累计贡献率达89%的前3个特征值所对应的主成分作为输入数据。

4） 计算主成分载荷

主成分载荷计算公式如式（18）所示。

zij=λieij（i，j=1，2，…q）。（18）

式中：λ为特征值；e为特征向量。

进一步计算各主成分的载荷，得到主成分载荷矩阵Zt=z11…z1m

zn1…znm。

最终将台架试验16维数据降维到3维数据Zt，其中n为样本数185 204，m为3，并可以将输入数据可视化为三维空间中的离散点，虽然降维之后的数据没有具体的物理含义，但便于更直观地观察和分析柴油机工况数据特征，前1 200个数据的处理结果如图6所示。由于前期大部分数据处于柴油机起动阶段，数据聚集在图像左侧，当负荷逐渐增加后，输入数据也呈现规律性变化，与相应工况的实际情况吻合。

2.3预测模型优化

以经过归一化和降维处理的柴油机工况数据为输入，NOx真实排放为输出，搭建NOx排放预测模型。将LSTM的隐藏层数、每层神经元个数、学习率、批处理大小的不同参数组合作为GWO算法优化目标。首先对LSTM参数组合进行随机初始化，并将结果赋值给模型进行训练，以预测值和NOx真实排放值的均方根误差作为适应度函数，接着GWO对参数组合进行迭代更新，最终得到LSTM最优参数组合。LSTM模型的参数优化过程如图7所示，LSTM参数优化区间和GWO算法设定的参数如表2所示。

图8示出GWO算法对LSTM隐藏层数、每层神经元个数、学习率、批处理大小不同参数组合优化过程的收敛曲线。可以清晰地看到，随着迭代次数的增加，适应度值不断减小，在第18次迭代后，收敛曲线逐渐平滑，在第38次迭代后适应度值趋于稳定，最低均方根误差为20.242 6，其对应的LSTM的隐藏层数、每层神经元个数、学习率、批处理大小分别为3，41，0.035，128。

3结果分析

搭建完成基于GWO-LSTM的NOx排放预测模型后，在测试集和验证集上验证模型的精准度。为了直观得到模型的精准度和泛化能力，进行了回归分析，其回归结果如图9所示。在各个数据集上预测值均匀分布在真实值两侧，且距离真实值越近，分布点越密集，比较符合实际误差。其中训练集、测试集和验证集上的R2分别为0.985，0.977和0.979，总数据集R2为0.983，可见模型在未经过测试的数据集上依然拥有较好的拟合程度，证明该预测模型拥有良好的泛化能力。

为了横向验证GWO-LSTM模型的预测能力，将其与静态NOx排放MAP、反向传播神经网络（BPNN）预测模型、支持向量机（SVM）预测模型进行对比，并同样使用GWO对BP和SVM进行优化。NOx排放MAP是在标准试验环境（101 kPa，25 ℃）下进行稳态标定试验获取的，每个工况点的传感器数据均被连续采集30 s，并取平均值。BP神经网络的拓扑结构和LSTM类似，选择相似的优化范围，其最终隐藏层数、每层神经元个数、学习率的GWO优化结果分别为3，46，0.054。SVM采用径向基核函数，惩罚参数c和核函数参数g的GWO优化结果分别为3.51和62.6。

4种预测方法在测试集上的预测结果如图10所示。对于GWO-LSTM，当工况变化幅度较小时，模型预测值与真实值基本一致;当工况变化较明显时，会出现较小的预测误差;当个别工况变化剧烈，NOx排放达到局部峰值时，会产生个别较大误差；最终决定系数R2为0.986。静态MAP预测NOx排放结果的R2为0.831，虽然预测结果相对接近真实排放值，但由于静态MAP的局限性，如机械延迟和电气延迟的影响，在大多数工况下仍会产生较大的误差。GWO-BP模型和GWO-SVM模型的R2分别为0.925和0.894，其预测值与实测值均比较接近，但无论何种工况，预测误差均大于GWO-LSTM模型，且BPNN的R2略高于SVM，可见神经网络在NOx排放预测上更有优势。可见GWO-LSTM在未经过训练的数据集上能保持较高的精度，证明该模型具有良好的可靠性。

对4种预测模型以10-6为单位进行残差区间统计。由图11可以看出，GWO-LSTM预测模型的残差主要集中在［-100，100］区间，共有63 631个工况点，占总工况点的98.2%。其中区间［-25，25］残差最大，占90.5%，残差分布较为理想。而NOx排放MAP有更多的残差分布在较广的区间，［-100，100］区间占91.7%，［-25，25］区间占比69.6%，均明显低于GWO-LSTM模型。GWO-BP的残差也主要集中在［-100，100］区间，占总工况数的97.1%，在［-25，25］区间的残差占比为76.8%，而GWO-SVM分别有93.6%与67.3%的残差分布在［-100，100］与［-25，25］的区间内。

此外，4种方法的残差分别有0.3%，1.6%，0.9%，1.1%的工况点超出了［-400，400］的区间，与实际值偏差较大。分析其原因如下：WHTC属于瞬态工况，其变化幅度比稳态工况更大、更频繁，因此预测模型预测的瞬时NOx值与突变工况点的实测值存在较大误差；其次，台架试验本身的测量存在一定的误差，在突变条件下，NOx的测量值会更加不准确。GWO-LSTM预测模型相比于其他预测方法，其出现大误差的概率较低，证明其拥有更好的精度。

其他精度指标如表3所示，可见GWO-LSTM有着更好的预测精度。

4结束语

使用LSTM 搭建柴油机的NOx排放预测模型，利用GWO对LSTM不同的参数组合进行优化。采集WHTC循环1 833 s共计185 204个工况采样点的柴油机台架数据，通过PCA对影响柴油机NOx产生的16维参数降维处理至3维，简化了输入的同时尽可能地保留了输入参数的原始特征，并且使得输入参数得以在三维空间内表示。将GWO-LSTM预测模型和排放MAP、GWO-BPNN模型、GWO-SVM模型进行对比，结果显示在未经过训练的测试集上前者取得更好的预测效果，测试集上的MAE、MAPE、RMSE分别为18.75×10-6，3.23%，20.29×10-6，90.5%的数据在残差区间［-25，25］以内（以10-6计），说明模型可以在瞬态工况中拥有精准的预测效果和良好的泛化能力，为以软件替代硬件实现柴油机排放控制提供了参考。

参考文献：

［1］2022年中国移动源环境管理年报（摘录一）［J］.环境保护，2022，50（23）：64-72.

［2］Wardana M K A，Oh K，Lee Y J，et al.Effects of Urea injection timing on predicting NOx conversion in scr systems［J］.International Journal of Automotive Technology，2020，21：137-145.

［3］Wardana M K A，Hyun J，Lim O.A study of urea injection timing to predict the NOx conversion in SCR systems［J］.Energy Procedia，2019，158：1942-1948.

［4］Iqbal M Y，Wang T，Li G，et al.Development and Validation of a Vibration-Based Virtual Sensor for Real-Time Monitoring NOx Emissions of a Diesel Engine［J］.Machines，2022，10（7）：594.

［5］王天田，颜伏伍，胡杰，等.利用NOx传感器的NH3交叉敏感实现SCR系统闭环控制［J］.内燃机学报， 2015，33（2）：178-185.

［6］Niu X，Yang C，Wang H，et al.Investigation of ANN and SVM based on limited samples for performance and emissions prediction of a CRDI-assisted marine diesel engine［J］.Applied Thermal Engineering，2017，111：1353-1364.

［7］Wei N，Zhang Q，Zhang Y，et al.Super-learner model realizes the transient prediction of CO2 and NOx of diesel trucks： Model development， evaluation and interpretation［J］.Environment International，2022，158：106977.

［8］Park J J，Lee S，Shin S，et al.Development of a Light and Accurate NOx Prediction Model for Diesel Engines Using Machine Learning and Xai Methods［J］.International Journal of Automotive Technology，2023，24（2）：559-571.

［9］喻洋，王艳艳，李加强，等.基于CEEMDAN-SVR模型的柴油车氮氧化物瞬态排放预测［J］.车用发动机，2021（2）：43-48.

［10］Li J Q，Yu Y，Wang Y，et al.Prediction of Transient NOx Emission from Diesel Vehicles Based on Deep-Learning Differentiation Model with Double Noise Reduction［J］.Atmosphere，2021，12（12）：1702.

［11］Dharmalingam B，Annamalai S，Areeya S，et al.Bayesian Regularization Neural Network-Based Machine Learning Approach on Optimization of CRDI-Split Injection with Waste Cooking Oil Biodiesel to Improve Diesel Engine Performance［J］.Energies，2023，16（6）：2805.

［12］Fang X H，Zhong F，Papaioannou N，et al.Artificial neural network （ANN） assisted prediction of transient NOx emissions from a high-speed direct injection （HSDI） diesel engine［J］.International Journal of Engine Research，2022，23（7）：1201-1212.

［13］Choudhary A K，Chelladurai H，Panchal H.Optimization and prediction of engine block vibration using micro-electro-mechanical systems capacitive accelerometer， fueled with diesel-bioethanol（water-hyacinth） blends by response surface methodology and artificial neural network［J］.Proceedings of the Institution of Mechanical Engineers，Part C：Journal of Mechanical Engineering Science，2022，236（9）：4631-4647.

［14］Domínguez-Sáez A，Rattá G A，Barrios C C.Prediction of exhaust emission in transient conditions of a diesel engine fueled with animal fat using Artificial Neural Network and Symbolic Regression［J］.Energy，2018，149：675-683.

［15］Shin S，Lee Y，Kim M，et al.Deep neural network model with Bayesian hyperparameter optimization for prediction of NOx at transient conditions in a diesel engine［J］.Engineering Applications of Artificial Intelligence，2020，94：103761.

［16］Wang Y，Wang G，Yao G，et al.Investigation of RBFNN Based on Improved PSO Optimization Algorithm for Performance and Emissions Prediction of a High-Pressure Common-Rail Diesel Engine［J］.Advanced Theory and Simulations，2023，6：2200656.

［17］Wang G Y，Awad O I，Liu S Y，et al.NOx emissions prediction based on mutual information and back propagation neural network using correlation quantitative analysis［J］.Energy，2020，198：117286.

［18］戴金池，庞海龙，俞妍，等.基于LSTM神经网络的柴油机NOx排放预测［J］.内燃机学报，2020，38（5）：457-463.

［19］Hu F，Zhu Y，Liu J，et al.An efficient Long Short-Term Memory model based on Laplacian Eigenmap in artificial neural networks［J］.Applied Soft Computing，2020，91：106218.

［20］Mirjalili S，Mirjalili S M，Lewis A.Grey wolf optimizer［J］.Advances in engineering software，2014，69：46-61.

［21］Scappin F，Stefansson S H，Haglind F，et al.Validation of a zero-dimensional model for prediction of NOx and engine performance for electronically controlled marine two-stroke diesel engines［J］.Applied Thermal Engineering，2012，37：344-352.

［22］Lee J，Kwon S，Kim H，et al.Machine Learning Applied to the NOx Prediction of Diesel Vehicle under Real Driving Cycle［J］.Applied Sciences，2021，11（9）：3758.

［23］Lundberg B，Sjblom J，Johansson ，et al.Model-based experimental screening for DOC parameter estimation［J］.Computers & Chemical Engineering，2015，74：144-157.

［24］Zou H，Hastie T，Tibshirani R.Sparse principal component analysis［J］.Journal of computational and graphical statistics，2006，15（2）：265-286.

［25］Mohammad A，Rezaei R，Hayduk C，et al.Physical-oriented and machine learning-based emission modeling in a diesel compression ignition engine：Dimensionality reduction and regression［J］.International Journal of Engine Research，2023，24（3）：904-918.

NOx Emission Prediction of Diesel Engine Based on GWO-LSTM

LU Biwei，LI Jiehui

（School of Automotive and Transportation Engineering，Jiangsu University，Zhenjiang212013，China）

Abstract： NOx emission of Diesel engine is the main harmful emission substance of motor vehicles; accurate measurement of NOx emission is conducive to the control of urea injection to reduce emissions. However， the existing NOx sensors and emission MAP obtained by calibration are both difficult to achieve real-time measurement of NOx under transient conditions. Principal component analysis （PCA） was used to reduce the dimension of diesel engine operating parameters for world harmonized transient cycle （WHTC）. A real-time diesel NOx prediction model was built based on long and short-term memory （LSTM） neural network， and the parameters of LSTM were optimized by grey wolf optimization （GWO） algorithm. The results show that the mean absolute percentage error （MAPE） of GMO-LSTM prediction model on the untrained data set is 3.23%， which proves that the model can accurately achieve real-time prediction of NOx emissions of diesel engines. In addition， the model has good generalization ability and reliability， which provides a reference for the realization of diesel emission control with software instead of hardware.

Key  words： diesel engine；nitrogen oxide；prediction model；long and short-term memory neural network；grey wolf optimization algorithm

［编辑： 潘丽丽］