改进BP神经网络预测Ni/Al2O3催化CH4-CO2重整反应

付柯，谢良才，闫雨瑗，李波，贺改，徐龙，马晓迅



改进BP神经网络预测Ni/Al2O3催化CH4-CO2重整反应

付柯，谢良才，闫雨瑗，李波，贺改，徐龙，马晓迅

（陕北能源先进化工利用技术教育部工程研究中心，陕西省洁净煤转化工程技术研究中心，西安市能源高效清洁化工利用工程实验室，西北大学化工学院，陕西西安 710069）

CH4-CO2重整制合成气的反应可以实现CO2的减排和C1资源的高效利用。这一反应受反应温度、原料气比例、催化剂种类等诸多因素影响，如果考察每种因素影响，势必大大增加实验的工作量。人工神经网络以其超强容错性、并行处理、可学习和自适应等优点，在非线性预测方面具有明显的优势。本文基于Ni/Al2O3催化CH4-CO2重整反应过程，采用改进的BP神经网络建立了关于CH4转化率、CO2转化率和H2/CO比的预测模型，结果表明，采用改进BP神经网络在此研究中具有更快的收敛速度和更好的网络稳定性，其收敛次数仅为BP神经网络的58.86%；改进BP神经网络模型的敏感度分析表明，输入因素对反应结果影响的顺序为：反应温度>Ni负载量>平均孔径≈比表面积≈孔体积。

CH4-CO2催化重整；BP神经网络；模拟；优化；预测

CH4-CO2重整反应不但消耗两种温室气体（CO2和CH4），而且在实现了CO2资源化的同时产生了合成众多化工产品的基础原料——合成 气[1-5]。影响该反应的因素有很多，包括反应温度、CH4和CO2气体进料比、催化剂类型、载体、助剂等[6-10]。如果对诸多因素都进行实验，将会大大增加实验工作量。为此，基于数据分析的数学建模方法已经成为一个新的发展方向。人工神经网络（artificial neural network，ANN）是人脑生物神经网络的简化模型，借鉴了人脑的结构和信息处理的特点[11]。在信息处理方面多用于高度复杂、非线性、并行处理等场合，功能强大。目前，应用相对较多的神经网络有BP神经网络[12]、GRNN神经网络、RBF网络[13]等。神经网络的应用领域非常广泛，涵盖面广。BP神经网络采用的是反向传播算法（back propagation，BP算法）。其结构属于多层前馈神经网络，通常包含3层：输入层、隐含层和输出层。每层可以分布数量不等的神经元（节点），并采用权值与其相邻层的神经元相互连接，同层节点不连接[14]。图1是典型的三层BP神经网络的结构简图。

图1中，X是输入变量；、、分别是输入层节点、隐含层节点和输出层节点；1是输入层和隐含层之间的连接权值；2是隐含层和输出层之间的连接权值；y和y分别对应隐含层输出和输出层输出。

目前，BP神经网络也应用于催化领域。苏鑫 等[15]采用改进BP神经网络预测了煤炭催化裂化过程，结果表明：改进后的BP神经网络能够准确地预测焦炭产率，其相对误差仅为2.94%，并且解决了预测结果不稳定等问题。李晨等[16]采用BP神经网络预测了钴催化剂催化F-T合成反应，预测模型以反应温度、反应压力、空速、原料气H2/CO为影响反应的输入参数，以CO转化率、C1和C5+产率为输出参数。结果表明：反应温度对CO转化率和产物烃中甲烷的含量影响很大，低温有利于重质烃的生成，高温可以提高CO转化率和甲烷含量；高压可以增加CO的转化率和C5+的选择性；空速增大有利于C1的生成；H2/CO越小，则C5+的选择性高，经实验验证，预测的结果与实验结果的误差小于8%。黄玮等[17]采用BP神经网络建立了反应催化剂用量、助剂用量、空气流量、反应温度和反应时间对石蜡催化氧化制备氧化蜡的酸值和皂化值影响模型，并用该模型对石蜡催化氧化制备氧化蜡的工艺条件进行预测。结果表明：空气流量、反应温度和反应时间对酸值和皂化值的影响比较明显，催化剂量和助剂量的影响较小。并确定了石蜡催化氧化反应制备氧化蜡的最佳工艺条件为：催化剂质量0.008～0.032g，助催化剂质量1～3g，空气流量3L/min左右，反应温度150～170℃，反应时间8～10h。

本研究将通过引入自适应学习率和动量因子优化的BP神经网络建立预测模型，对Ni/Al2O3催化CH4-CO2重整反应进行模拟，并对预测的结果进行考察和敏感度分析。

1 样本数据采集与模型设计

1.1 样本数据

在有序介孔Al2O3负载Ni催化CH4-CO2重整实验中，考察的反应温度分别为600℃、650℃、700℃、750℃、800℃，考察的Ni负载量分别为3%、5%、7%、10%、15%，共收集到25组样本数据[18]。分别针对催化剂特性以及操作条件两类参数，选择反应温度、Ni负载量、催化剂比表面积、催化剂孔体积和催化剂平均孔径5个参数为输入参数，以CH4和CO2转化率和H2/CO作为输出参数。用其中20组数据作为训练样本，以反应温度为750℃的5组数据作为检验样本。

1.2 BP神经网络的设计

根据BP神经网络的结构，其输入层、隐含层和输出层的节点数确定方法如下所示。

（1）输入层根据有序介孔Al2O3负载Ni催化CH4-CO2重整反应的实验，选取了反应温度、Ni负载量、催化剂的比表面积、孔体积和平均孔径5个影响因素作为网络的输入参数，即输入层节点数确定为5个。

（2）隐含层采用经验公式如式(1)[19]。

式中，1为隐含层节点数；为输出层节点数；为输入层节点数；为0～10之间的常数。

确定隐含层节点数，确定出隐含层节点数一个大致的取值范围，然后建立网络模型，通过编程对该范围内的每个值依次进行训练，比较训练结果，选取训练误差最小时对应的隐含层节点数。

（3）输出层将反应物中CH4与CO2的转化率、产物中H2/CO比作为反映结果的指标，即这3个变量作为模型的输出，即输出层节点数为3个。

1.3 改进的BP神经网络

1.3.1 引入自适应学习率

BP学习算法的局限之一是难以选取最佳的学习率。学习率过大，会导致网络产生振荡训练不收敛；学习率过小，会导致网络训练时间过长，故最佳学习率的确定尤其重要。通过引入自适应学习率，因其可以根据误差的变化来调整大小，从而保证了网络的稳定性。在误差连续下降时，可通过增加学习率提高网络的收敛速度，使网络能以较大的学习率进行训练。本文采用的自适应学习率的调整公式如式(2)。

式中，为训练次数；为学习速率；()、(1)分别为当前学习率和调整后学习率；()、(1)分别为当前和上一次循环的学习误差。

1.3.2 附加动量项

在误差反向传递的过程中，BP神经网络存在易陷入局部极小的问题。通过引入动量项更新当前的权值和阈值可以极大地减小该问题的产生。在权值变化时，同时考虑当前次误差梯度下降方向和前一次误差梯度下降方向，即在当前权值的变化上，再增加一项正比于前次权值变化量的值。本文采用的附加动量项的调整公式如式(3)～式(6)。

(4)

(5)

式中，为训练次数；为动量系数，（0＜＜1）；等式右边第二项Δ2()、Δ2()、Δl()和Δl()为附加的动量项。

2 结果与分析

2.1 BP多输出预测模型的结果分析

不同隐含层节点数和学习率训练后的误差见图2。由图2可知，当隐含层节点数为7，学习率为0.03时，对应的误差最小，其值为0.003875，故确定BP多输出模型的拓扑结构为5-7-3。

图3为BP多输出预测模型的训练结果，图中(a)～(c)分别为CH4转化率、CO2转化率、H2/CO实验值和预测值的对比图。由图3可知，训练样本收敛于对角线，这表明预测值与实验值偏差很小，该模型的训练结果较好。

图4为校验样本的实验值和预测值对比图。由图4可知，预测值和实验值吻合程度非常高，该 BP多输出预测模型具有较高的预测精度。

2.2 改进BP多输出预测模型结果分析

图5为不同隐含层节点数和学习率训练后的误差。由图5可知，当隐含层节点数为11时，对应的误差最小，其值为0.001819，仅为BP神经网络的46.94%，故确定改进BP多输出模型的拓扑结构为5-11-3。

图6是在初始学习率为0.04时得到的自适应学习率的变化图及不同初始学习率训练误差图。由图6可知，当引入自适应学习率后，初始学习率对训练结果的影响显著降低，且其对训练结果误差的影响几乎可以忽略，说明引入自适应学习率对预测模型有明显改善；在训练过程中，学习率在不断地变化调整，进一步说明了引入自适应学习率，在BP神经网络的运行过程中发挥着重要作用。

图4 检验样本中预测值与实验值的关系图

图7为不同动量因子的误差图，由图可知，动量因子为0.6时，对应的误差最小，其值为0.00245，因此确定该模型的动量因子为0.6。其他的输入因素和输出变量与BP多输出模型相同。

图8为改进BP多输出预测模型的训练结果，图中(a)～(c)分别为CH4转化率、CO2转化率、H2/CO实验值和预测值的对比图。由图8可知，训练样本很好地收敛于对角线，这表明预测值与实验值偏差很小，该模型具有很好的训练结果，可以用该模型对检验样本中的数据进行预测。

图9为校验样本的实验值和预测值对比图。由图9可知，预测值和实验值吻合程度非常高，说明该BP多输出预测模型的预测精度很高。

图8 训练样本中预测值与实验值的关系图

2.3 模型对比

分别从预测精度和训练过程的收敛速度两个方面将两个模型进行对比。首先，对比预测精度，表1为两个模型检验样本的相对误差对比，由表1可知，改进BP多输出模型的预测精度略高于BP多输出模型。

其次是对比模型的收敛速度，图10为BP算法和改进BP算法训练的误差随着训练次数变化的曲线图。由图10可知，在相同的目标误差下，改进BP算法达到目标所需要的训练次数仅为BP算法的58.86%。说明改进BP算法由于引入了动量项与自适应学习率，训练次数明显地减小，即提高了网络收敛速度。在整个训练过程中，改进BP算法的训练误差都低于BP算法，并且训练误差快速平稳地下降。BP算法的误差在训练1000次前下降很快，但在1000次后下降就变得非常缓慢，且在1100次后，误差从0.028突然增大到0.1305，说明BP算法训练的网络不稳定，这时对应的学习率可能过大，从而引起网络产生振荡。改进BP算法由于引入自适应学习率，使网络能够根据误差的变化自行调整学习率的大小，整个过程都有合适的学习率，从而保证了网络的稳定性。

表1 BP和改进BP预测模型检验样本的相对误差

2.4 模型敏感度分析结果

采用PaD法和权值法[20-26]对BP多输出预测模型和改进BP多输出预测模型进行敏感度分析，结果见图11。横坐标表示网络模型的5个输入因素，依次为反应温度、Ni负载量、催化剂的比表面积、孔体积和平均孔径，纵坐标表示各因素影响的大小。由图11可知，对于BP模型和改进BP模型，PaD法和权值法分析对各输入因素对反应结果的影响顺序是一致的，即：反应温度＞Ni负载量＞平均孔径≈比表面积≈孔体积。可能由于催化剂的比表面积（157～212m2/g）、孔体积（0.25～0.30cm3/g）、平均孔径（5.58～6.49nm）这些催化剂的物理性质在催化剂制备过程中差别变化较小，所以与反应温度和Ni负载量相比其对反应结果的影响较小。

图11 各输入因素对反应结果的影响比较

3 结论

基于实验数据，以反应温度、Ni负载量、平均孔径、催化剂比表面积、孔体积为影响反应结果的5个关键因素，并作为输入参数，所对应的CH4转化率、CO2转化率和H2/CO作为输出结果。应用BP神经网络和改进BP神经网络构建的预测模型，预测结果表明：改进BP神经网络的收敛速度和稳定性明显优于BP神经网络。采用PaD法和权值法对该模型进行敏感度分析的结果表明，反应温度和 Ni负载量对重整反应的影响较大，催化剂的物理结构（比表面积、孔体积和平均孔径）在研究范围内影响相对较小。

[1] ZHANG X H，HU R J，LIU Y F，et al.The performance of Co/ZrO2-Al2O3composite oxide catalyst for CH4/CO2reforming reaction[J]. International Journal of Hydrogen Energy，2015，40（32）：10026-10032.

[2] SONG C S. Global challenges and strategies for controlconversion and utilization of CO2for sustainable development involving energy，catalysis，adsorption and chemical processing[J]. Catal.Today，2006，115（1-4）：2-32.

[3] ASHCROFT A T，CHEETHAM A K，GREEN L H，et al.Partial oxidation of methane to synthesis gas-using carbon-dioxide[J]. Nature，1991，352：225–226.

[4] LIU Y F，HE Z H，ZHOU L，et al.Simultaneous oxidative conversion and CO2reforming of methane to syngas over Ni/vermiculite catalysts[J]. Catalysis Communications，2013，42：40-44.

[5] SUN N N，WEN X.Catalytic performance and characterization of Ni-CaO-ZrO2catalysts for dry reforming of methane[J]. Applied Surface Science，2011，257（21）：9169-9176.

[6] QI J Z，SUN Y P，XIE Z L，et al. Development of Cu foam-based Ni catalyst for solar thermal reforming of methane with carbon dioxide[J]. Journal of Energy Chemistry，2015，24（6）：786- 793.

[7] SUN N N，WEN X，WANG F，et al. Effect of pore structure on Ni catalyst for CO2reforming of CH4[J]. Energy Environ.Sci.，2010，3：366-369.

[8] XU L L，SONG H，CHOU L J. Carbon dioxide reforming of methane over ordered mesoporous NiO-Al2O3composite oxides[J]. Catal.Sci.Technol.，2011（1）：1032-1042.

[9] LUAN A E C，IRIARTE M E. Carbon dioxide reforming of methane over a metalmodified Ni-Al2O3catalyst[J].Appl. Catal，A：Gen.，2008，343（1/2）：10-15.

[10] LI Y，HE D，ZHU Q，et al. Effects of redox properties and acid-base properties on isosynthesis over ZrO2-based catalysts[J]. Catal.，2004， 221（2）：584-593.

[11] 何玉彬，李新忠. 神经网络控制技术及其应用[M]. 北京：科学出版社，2000：2-35.

HE Y B, LI X Z. Shen jing wang luo kong zhi ji shu ji qi ying yong[M]. Beijing：Science Press，2000：2-35.

[12] 张敬玲. BP神经网络的应用[J]. 石家庄技术学院报，2015，27（4）：34-35.

ZHANG J L. Application of BP neural network[J]. Journal of Shijiazhuang Vocational Technology Institute，2015，27（4）：34-35.

[13] 王文新，潘立登，李荣，等. 常减压蒸馏装置双模型结构RBF神经网络建模及其应用[J]. 北京化工大学学报，2004，31（4）：91-94.

` WANG W X，PAN L D，LI R，et al. Development of RBF neural network with double model structure and its application to atmospheric and vacuum distillation units[J]. Journal of Beijing University of Chemical Technology，2004，31（4）：91-94.

[14] JUAN G S，JOSE D，MARTIN G，et al. Neural networks for analyzing the relevance of input variables in the prediction of tropospheric ozone concentration[J]. Atmospheric Environment，2006，40：6173-6180.

[15] 苏鑫，裴华健，吴迎亚，等. 应用经遗传算法优化的BP神经网络预测催化裂化装置焦炭产率[J]. 化工进展，2016，35（2）：389-396.

` SU X，PEI H J，WU Y Y，et al.Predicting coke yield of FCC unit using genetic algorithm optimized BP neural network[J].Chemical Industry and Engineering Progress，2016，35（2）：389-396.

[16] 李晨，张海涛，应卫勇，等. 钴基催化剂F-T合成的人工神经网络模拟[J]. 计算机与应用化学，2006，23（10）：963-966.

LI C，ZHANG H T，YING W Y，et al.Aritncial neural network simulation of cobalt-based catalyst F-T synthesis[J]. Computers and Applied Chemistry，2006，23(10)：963-966.

[17] 黄玮，丛玉凤，郭大鹏. 基于BP神经网络的石蜡催化氧化反应的研究[J]. 石油化工高等学校学报，2012，25（6）：30-38.

HANG W，CONG Y F，GUO D P. Catalytic oxidized reaction of paraffin wax based on BP neural network[J]. Journal of Feterochemcial Universities，2012,25（6）：30-38.

[18] XU L L，ZHAO H H，SONG H L. Ordered mesoporous alumina supported nickel based catalysts for carbon dioxide reforming of methane[J]. Hydrogen Energy，2012，37（9）：7497-7511.

[19] CHEN X Y，CHAU K W，BUSARI A O. A comparative study of population-based optimization algorithms for downstream river flow forecasting by a hybrid neural network model[J]. Engineering Applications of Artificial Intelligence，2015，46：258-268.

[20] BARCENAS O P，OLIVAS E S，MARTIN J D. Unbiased sensitivity analysis and pruning techniques[J]. Ecoogical Modelling，2005，182（2）：149-158.

[21] MURIEL G，IOANNIS D，SOVAN L. Review and comparison of methods to study the contribution of variables in artificial neural networks models[J]. Ecological Modelling，2003，160（3）：249-264.

[22] SOVAN L，MARITXU G，GIRAUDEL J L. Predicting stream nitrogen concentration from watershed features using neural networks[J]. Water Research，1999，33（16）：3469-3478.

[23] SZECOWKA P M，SZCZUREK A，LICZNERSKI B W. On reliability of neural network sensitivity analysis applied for sensor array optimization[J]. Sensors and Actuators B，2011，157：298-303.

[24] NIKHIL R P. Soft computing for feature analysis[J]. Fuzzy Sets and Systems，1999，103：201-221.

[25] PODOLAK I. Feedforward neural network’s sensitivity to input data[J]. Computer Physics Conunication，1999，117：181-188.

[26] PARK Y S，JORGE R，SOVAN L. Sensitivity analysis and stability patterns of two-species pest models using artificial neural networks[J]. Ecological Modelling，2007，204：427-438.

Predicting model of CH4-CO2reforming on Ni/Al2O3catalyst by improved back propagation（BP）neural network

FU Ke，XIE Liangcai，YAN Yuyuan，LI Bo，HE Gai，XU Long，MA Xiaoxun

（Chemical Engineering Research Center of the Ministry of Education for Advanced Use Technology of Shanbei Energy，Shaanxi Research Center of Engineering Technology for Clean Coal Conversion，Xi’an Engineering Laboratory for Energy Efficient and Clean Chemical Utilization，College of Chemical Engineering，Northwest University，Xi’an 710069，Shaanxi，China）

CH4-CO2reforming reaction can produce synthesis gas，which is an ideal way both for the reduction of CO2emission and the efficient utilization of C1resources. This reaction is affected by many factors，such as reaction temperature，ratio of raw material gas，catalyst type and so on. If each of factors were investigated，it would greatly increase the workload of the experiment. Artificial neural network（ANN） has obvious advantages in nonlinear prediction because of its superior fault tolerance，parallel processing and adaptive learning. The prediction model about CH4-CO2reforming reaction catalyzed by Ni/Al2O3was built based on artificial neural network. This model was trained by back propagation (BP) algorithm and improved BP algorithm，respectively. It was found that the improved BP model was much better than the BP model in view of the stability and convergence speed. Compared with the BP algorithm，the improved BP algorithm reduced the number of convergence times greatly，which was only 58.86% of that in BP model. By sensitivity analysis of the models，it showed that the reaction temperature was the most important factor on the reaction indexes（CH4conversion，CO2conversion，and H2/CO ratio） among five input factors，followed by Ni loading. In addition，the average pore size，the specific surface area，and the pore volume had relatively small effects on reaction indexes within the experimental range.

CH4-CO2catalytic reforming；BP neural networks；simulation；optimization；prediction

TE646

A

1000–6613（2017）07–2393–07

10.16085/j.issn.1000-6613.2016-2126

2016-11-17；

2017-01-05。

国家自然科学基金重点项目（21536009）及西安市科技计划项目（CXY1511(4)）。

付柯（1991—），男，硕士研究生，研究方向为甲烷重整。E-mail：fuke916@163.com。

联系人：徐龙，教授。E-mail：longxuxulong@163.com。