L—M贝叶斯正则化BP神经网络在红外CO2传感器的应用
2018-09-10赵久强王震洲
赵久强 王震洲
摘要:针对温度会影响红外CO2传感器的输出电压,造成对CO2的浓度检测误差较大的问题,提出了一种基于L-M贝叶斯正则化BP神经网络的温度补偿方法。实验中将传感器输出电压比和温度作为神经网络的输入,CO2浓度作为神经网络的输出,并通过L-M算法和贝叶斯正则化对神经网络进行优化。经过实验仿真证明,在温度补偿后红外CO2传感器测量输出的浓度值最大相对误差为4.557 8%,具有较高的精确度。因此L-M贝叶斯正则化BP神经网络能对红外CO2传感器进行有效的温度补偿,可为相关红外传感器仪器的改进提供参考。
关键词:计算机神经网络;红外CO2传感器;BP神经网络;L-M算法;贝叶斯正则化;温度补偿
中图分类号:TP183文献标志码:Adoi: 10.7535/hbgykj.2018yx04008
当前CO2的排放量不断增加,加剧了温室效应。能够实时准确地检测CO2浓度已成为研究热点。相对于其他类型的CO2传感器,红外吸收型CO2传感器因灵敏度高、响应速度快、选择性好、无毒无害等优点,在许多领域得到广泛应用,已成为检测CO2气体浓度的常用传感器[1-2]。在实际应用中,红外CO2传感器测量的精度易受到温度的影响[3-5],因此要对其进行温度补偿。
第4期赵久强,等:L-M贝叶斯正则化BP神经网络在红外CO2传感器的应用河北工业科技第35卷 根据文献[6—13]利用BP神经网络可以不问函数的具体性质,只要有足够的训练样本,通过训练和调整,就可以实现对任意函数逼近,来建立非线性温度补偿网络模型,再结合L-M算法和贝叶斯正则化算法来提高神经网络的推广能力。通过实验证明,该方法对红外CO2传感器能实现有效的温度补偿。
1红外CO2传感器原理
当CO2气体受到红外光照射时,CO2气体分子吸收某些频率的辐射,使对应于这些吸收区域的透射光强度减弱,其吸收关系可由Lambert-Beer表示[14]:
lnI0(λ)I(λ)=klC,(1)
式中:C为CO2浓度;l为介质厚度;k为吸收系数;I0为入射光强;I为透射光强。
實验中采用的红外光源为IRL715,红外传感器为TPS2534。TPS2534为双通道探测器,在探测器前端分别放置着4.26 μm和4.00 μm的滤光片头,让相对应波长的红外光通过,其中4.26 μm波长的红外光为CO2吸收红外光,而4.00 μm波长的红外光为参考红外光,CO2对其没有明显吸收。经过滤波后,红外光由探测器转换为相对应的电压。其输出电压与CO2浓度关系的推导公式如下。
设吸收红外光和参考红外光的入射光强分别为IC0和IR0,二者经过CO2后的光强为IC和IR,由式(1)可知:
IC=IC0e-klC。(2)
而CO2对参考红外光没有吸收,入射光强和光强可以近似相等:
IR≈IR0。(3)
将式(2)和式(3)相除后可得
lnICIR=-klC+lnIC0IR0。(4)
于是求得CO2的浓度为
C=-1kllnICIR+1kllnIC0IR0。(5)
而吸收红外光强和参考红外光强与红外探测器输出的电压关系为
UC=KCIC,(6)
UR=KRIR。(7)
式中KC和KR与滤光片的透光系数和探测器灵敏度有关,为与红外传感器相关的常量。则浓度与红外传感器输出电压比UC/UR的关系为
C=-1kllnKRUCKCUR+1kllnIC0IR0。(8)
红外CO2传感器的光路结构如图1所示。
式(8)中吸收系数k是一个复杂的变量,它不仅与气体种类、入射光有关,还和环境温度和气压有关。在一般的应用中,环境压强基本保持不变,而环境温度变化较大,并且环境温度不仅影响吸收系数,还会影响红外光源和红外探测器,对测量精度造成影响。
2测量系统
测量系统框图如图2所示,单片机输出脉冲信号,通过光源驱动模块来控制红外光源,实现对红外光源IRL715的调制。红外光通过气室,在被检测气体CO2吸收后,到达红外探测器TPS2534。红外探测器将红外信号装换为电信号,紧接着经过信号调理模块,进行放大滤波得到稳定的电信号。调理后电信号经过A/D转换模块,将模拟信号转换为数字信号,以便进行数据处理。最后单片机将采集到的红外CO2传感器数据和温度数据通过串口通信传输到上位机,在上位机进行数据的分析处理。
3BP神经网络优化
3.1BP神经网络
BP神经网络包含输入层、隐藏层和输出层,其中隐藏层可以为一层或多层。各层由神经元构成,层与层之间的神经元通过权重全连接,同层神经元没有连接。BP神经网络的训练过程中包含信号正向传播,而误差后向传播,通过调节网络权重,最终使输出和期望接近。BP网络的具体算法参见文献[15]。
然而在BP神经网络的训练过程中会出现过拟合的问题,导致对训练集以外的新鲜样本不能得到适当的输出,降低泛化能力。
而正则化是改善BP神经网络泛化能力的有效方法。正则化是在网络均方误差性能函数的基础上,引入网络权值的均方误差,实现对性能函数的修正,调高泛化能力。网络均方误差函数:ED=1n∑ni=1(ti-xi)2。(9)网络所有权值均方误差:EW=1m∑mj=1w2j。(10)修正后的性能函数:f(W)=αEW+βED。(11)α,β为性能函数参数,参数的大小决定了网络训练的效果。当α越大于β,网络的输出会更加平滑,但训练集可能欠拟合;当α越小于β,网络误差会更小,但过拟合可能还会存在。因此需要保证α,β为最优参数,才能使网络性能最佳。常规的正则化方法很难确定α,β,而贝叶斯正则化在网络训练过程中可以完成对α,β自适应,使其到达最佳。
3.2贝叶斯正则化和L-M 算法
贝叶斯正则化的目的是获取性能最优、参数最小的神经网络,从而使过拟合的问题得到有效控制。根据文献[16—20],假设样本集D中的噪声和权重向量W服从高斯分布,则权值的后验概率密度函数与优化后的性能函数关系为
P(w|D,α,β,M)=
1ZD(β)ZW(α)×exp[-(αEW+βED)]P(D|α,β,M)=
exp(-f(W))Z(α,β) 。(12)
式中:P(D|α,β,M)为数据集的似然函数;
ZD(β)=(πβ)n2;ZW(α)=(πα)n2。
最优的权重向量的后验概率密度P(w|D,α,β,M)应为最大,则在Z(α,β)一定的情况下,性能函数f(W)应为最小。
对性能函数f(W)在梯度为零的最小值点WMP附近进行泰勒级数展开,忽略高次项,并根据贝叶斯规则,在WMP优化的正则化参数可写为α=γ2EW(WMP),(13)
β=N-γ2ED(WMP),(14)
γ=n-α·Trα(H-1),(15)
H=βΔ2ED+αΔ2EW。(16)式中:γ为神经网络有效参数个数;n为神经网络参数总个数;H为f(W)最小点处的Hessian矩阵。
在贝叶斯正则化过程中,参数的确定需要计算f(W)在最小点WMP的Hessian矩阵,这里通过使用L-M算法来对Hessian矩阵近似求解。H≈2βJTJ+2αIn。(17)式中:J为雅可比矩阵;In为单位矩阵。
在每次迭代中,神經网络有效参数个数γ由当前的正则参数α,β所确定,而网络的性能函数通过L-M算法达到最小后,通过式(10)和式(11)得到新的正则参数α,β。随着性能函数参数的每次近似,性能函数将会改变,最小点将不断移动,从而自适应调节α,β。
在训练过程中,网络权值的迭代公式为
Wh+1=Wh-[J(Wh)TJ(Wh)+μI]-1J(Wh)Te。(18)
式中:Wh为第h次迭代的网络权值向量;μ为自适应的标量;e为误差矩阵。当μ很小时,L-M算法变为牛顿法,μ很大时,则为梯度下降法。
4实验和仿真
4.1红外CO2传感器标定
首先对红外CO2传感器进行数据标定,利用静态配气法,在标准大气压,室温为25 ℃的环境下,通过配置14种不同浓度的CO2气体样品,对红外传感器进行多浓度标定,其中标准CO2气体浓度的测定采用比较先进的CO2气体浓度测量仪器Model 400。数据的拟合采用origin来完成,拟合的结果如图3所示。
4.2温度补偿实验
实验将红外CO2测量装置置于温度箱内,温度变化范围为15~35 ℃,每5 ℃为一个温度实验点,往箱内分别通入N2和250×10-6,500×10-6,750×10-6,1 000×10-6,1 500×10-6,2 000×10-6,2 500×10-6,3 000×10-6的标准CO2气体,待气体均匀后,测量计算传感器相应的输出电压比UC/UR,电压值采样10次,这样得到450组样本,将405组用作训练样本,45组用作测试样本。图4为测试样本数据,在不同温度下,浓度与电压比的分布图。从图4可以明显看出,在不同温度、相同浓度下,UCUR值各不相同。
将不同温度下的UC/UR代入拟合的曲线中,得到测量值如表1所示。其中最大的相对误差为49.6%。
实验中BP神经网络采用三层结构,输入层为2个节点,隐藏层的节点通过训练比较选用9个,输出层节点为1个。神经网络的学习精度为10-4,最大训练次数为500次。
表2为测试样本的输出数据,图5为测试样本的输出与实际值的比较。从图中可以看出,神经网络的输出值能很好地逼近实际值。在不同温度下,对CO2浓度测量的相对误差都在5%以内,其中最大的相对误差为4.557 8%。
5结语
针对温度影响红外CO2传感器测量的问题,提出了一种基于L-M贝叶斯正则化BP神经网络来对其进行温度补偿的方法。通过实验仿真,在未经过温度补偿的情况下,传感器测量出的浓度值的最大相对误差为49.6%,经过温度补偿后,测量出的浓度值最大相对误差为4.557 8%,证明此方法具有较高的精确度和一定的实用性。虽然目前关于神经网络的理论还不完善,并且获取样本和训练神经网络的过程还比较繁琐,但随着相关技术的发展,神经网络会有广泛的应用前景。
参考文献/References:
[1]张广军,武晓利.新型高性能红外二氧化碳传感器[J].红外与激光工程,2002,31(6):540-544.
ZHANG Guangjun, WU Xiaoli. Novel IR carbon dioxide sensor with high performance[J]. Infrared and Laser Engineering, 2002, 31(6):540-544.
[2]涂志华,赵阳,郑力文,等.基于非分散红外(NDIR)技术的土壤剖面二氧化碳浓度的测定[J].光谱学与光谱分析,2015,35(4):997-1000.
TU Zhihua, ZHAO Yang, ZHENG Liwen, et al. Detection of carbon dioxide concentration in soil profile based on non-dispersive infrared spectroscopy technique[J]. Spectroscopy and Spectral Analysis,2015,35(4):997-1000.
[3]闫玲,姚毅,昌学年,等. 红外吸收法测定烟气中CO2浓度的研究[J].仪器仪表与分析监测,2009,100(4):27-29.
YAN Ling, YAO Yi, CHANG Xuenian, et al. Study on infrared absorption measurement for the concentration of carbon dioxide in flue gas[J]. Instrumentation Analysis Monitoring, 2009, 100(4):27-29.
[4]琚雪梅,张巍,毕东云,等. 红外吸收型 CO2气体传感器的设计[J].传感器技术,2005,24(8):62-64.
JU Xuemei, ZHANG Wei, BI Dongyun, et al. Design of infrared absorption CO2 gas sensor[J]. Journal of Transducer Technology, 2005, 24(8):62-64.
[5]王莉,陈小平.基于红外传感器的 CO2测量装置[J].传感器与微系统,2011,30(11):115-117.
WANG Li, CHEN Xiaoping. CO2 measuring device based on infrared sensor[J]. Transducer and Microsystem Technologies, 2011,30(11):115-117.
[6]崔颖,宋绍楼,彭继慎,等.关于瓦斯传感器的非线性校正的研究[J].微计算机信息,2010,26(25):138-139.
CUI Ying, SONG Shaolou, PENG Jishen, et al. The study for non-linear correction based on gas sensor[J]. Microcomputer Information, 2010, 26(25):138-139.
[7]王建梅,覃文忠. 基于L-M算法的BP神经网络分类器[J].武汉大学学报(信息科学版),2005,30(10):928-931.
WANG Jianmei, QIN Wenzhong. BP neural network classifier based on Levenberg-Marquardt algorithm[J]. Geomatics and Information Science of Wuhan University, 2005, 30(10):928-931.
[8]赵映,陈小平.BP神经网络在红外CO2体积分数测量中的应用[J].传感器与微系统,2015,34(3):151-153.
ZHAO Ying, CHEN Xiaoping. Application of BP neural networks in IR CO2 volume fraction measuring[J]. Transducer and Microsystem Technologies, 2015, 34(3): 151-153.
[9]張鹏,杨兴锐,严翔,等.基于BP神经网络的风洞传感器非线性误差修正方法[J].兵工自动化,2016,35(3):31-34.
ZHANG Peng, YANG Xingrui, YANG Xiang, et al. Nonlinear error correction method of wind tunnel sensor based on BP neural network[J]. Ordnance Industry Automation, 2016, 35(3):31-34.
[10]杨春生,牛红涛,隋良红,等.基于贝叶斯正则化算法BP神经网络钒电池SOC预测[J].现代电子技术,2016,39(8):158-161.
YANG Chunsheng,NIU Hongtao,SUI Lianghong,et al. Application of BP neural network improved by Bayesian regularization algorithm in VRB SOC prediction[J]. Modern Electronics Technique, 2016, 39(8):158-161.
[11]刘刚,刘学仁,嵇英华,等. 基于改进型 BP 神经网络的瓦斯传感器的非线性校正[J].传感器与微系统,2007,26(1):15-17.
LIU Gang,LIU Xueren, JI Yinghua,et al. Non-linear Correction of methane Sensor based on improved BP neural network[J]. Transducer and Microsystem Technologies, 2007, 26(1):15-17.
[12]ROBERT F, THOMAS T. An automotive Bi-Source spectroscopic carbon dioxide sensor with pressure compensation[J]. Sensors and Actuators B, 2007, 127(1): 82-88.
[13]KING T L, WEI M G, BREDA K, et al. Non-linear carbon dioxide determination using infrared gas sensors and neural network s with Bayesian regularization[J]. Sensors and Actuators B, 2009, 136(1):242-247.
[14]汪獻忠,王晓东,赫树开.基于红外吸收型智能CO2浓度分析仪[J].仪表技术与传感器,2010,325(2):28-30.
WANG Xianzhong, WANG Xiaodong, HE Shukai. Design of intelligent CO2 concentration analyzer based on infrared absorption[J].Instrument Technique and Sensor, 2010, 325(2): 28-30.
[15]陈明. Matlab神经网络原理与实例精解[M].北京: 清华大学出版社,2013.
[16]LAMPINEN J, VEHTARI A. Bayesian approach for neural networks:Review and case studies[J]. Neural Networks the Official Journal of the International Neural Network Society, 2001, 14(3):257-274.
[17]MACKAY D J C. Probable networks and plausible prediction:A review of practical Bayesian methods for supervised neural networks[J]. Network Computation in Neural Systems, 1995, 6(3):469-505.
[18]吴方良,石仲堃,杨向晖,等.基于L-M贝叶斯正则化方法的BP神经网络在潜艇声纳部位自噪声预报中的应用[J]. 船舶力学,2007,11(1):136-142.
WU Fangliang, SHI Zhongkun,YANG Xianghui, et al.Submarine sonar self- noise forecast base on BP neural network and L-M Bayesian regularization algorithm[J]. Journal of Ship Mechanics, 2007,11(1):136-142.
[19]OKUT H, WU X L, ROSA G J, et al. Predicting expected progeny difference for marbling score in Angus cattle using artificial neural networks and Bayesian regression models[J]. Genetics Selection Evolution, 2013, 45(1):34.
[20]VITO S D, PIGA M, MARTINOTTO L, et al. CO, NO2, and NOx, urban pollution monitoring with on-field calibrated electronic nose by automatic bayesian regularization[J]. Sensors & Actuators B Chemical, 2009, 143(1):182-191.