优化随机森林算法的城市湖泊DOC质量浓度遥感反演
2022-10-06李爱民王海隆许有成
李爱民, 王海隆, 许有成
(1.郑州大学 地球科学与技术学院,河南 郑州 450001;2.郑州大学 水利科学与工程学院,河南 郑州 450001)
0 引言
可溶性有机碳(dissolved organic carbon,DOC)是水质评价的重要指标,是指可以通过0.45 μm滤膜的所有有机碳[1]。DOC质量浓度的增加,会导致水体有机酸含量提高、水体透明度降低、水下光场发生变化,直接或间接地影响水体中各种生物的生存和发展, 进而影响到整个水体的生态系统[2]。获取城市湖泊的有机碳含量,对城市水质监测具有重要意义。
目前,城市湖泊的水质监测主要通过实地采样结合实验室分析来获取水质信息[3]。这种方法虽然准确度较高,但需耗费大量的人力和成本,且只能获得各采样点数据。遥感反演技术具备区域化监测能力,可以高效地获取水质情况,而且成本低,在水质监测领域表现突出[4]。卫星遥感用于DOC质量浓度的反演已取得一定成果,主要方法有两类。一类方法是先反演有色可溶性有机物(colored dissolved organic matter,CDOM)浓度,再根据DOC与CDOM的关系计算DOC质量浓度[5]。第二类方法是直接利用遥感波段反射率与水体DOC质量浓度之间的关系进行反演[6]。DOC质量浓度的遥感反演研究虽然取得一定进展,但大多采用统计回归的方法构建反演模型。实验发现,统计回归模型难以很好地描述水质参数与遥感数据之间复杂的非线性关系[7],稳定准确的反演模型仍是研究的重点。随着信息时代的到来,机器学习开始应用于各种类型的计算[8]。凭借其自身优势,机器学习在水质遥感反演领域发展迅速,许多研究使用神经网络[9]和支持向量机[10]等方法构建反演模型。神经网络虽然具有较好的鲁棒性和非线性逼近能力,但存在参数较多、学习时间长等缺点[11]。支持向量机同样具备非线性拟合能力,但面临参数选取困难和易陷入局部极值的问题[12]。作为机器学习的主流算法之一,随机森林(random forest,RF)算法近年来逐渐被学者发掘并应用于遥感反演。随机森林是决策树的集合,依靠多个决策树预测组合成一个模型,不易过拟合,抗干扰性强。贝叶斯优化(Bayesian optimization,BO)算法是一种全局优化算法,基于贝叶斯优化框架只需经过少数次的目标函数评估即可获得理想解,对于求解目标函数表达式未知、非凸的复杂优化问题,贝叶斯优化是一种有效方法[13]。
由于传统回归模型不能很好地描述水质参数与遥感数据之间的非线性关系,难以获得满足精度要求的模型,限制了水质反演结果的准确性。常用的神经网络和支持向量机等模型具有较好的非线性逼近能力,但是存在参数选取困难、模型稳健性不足等问题。为了构建精度高、稳健性好的反演模型,本研究利用贝叶斯优化算法对随机森林模型进行优化,提出了一种贝叶斯优化随机森林模型(BO-RF)的城市湖泊DOC质量浓度反演方法。应用于Planet卫星影像反演天德湖的DOC质量浓度并分析DOC空间分布情况,探讨适用于城市湖泊的DOC遥感反演模型,为城市水体的DOC质量浓度遥感监测提供技术支持。
1 研究区域与数据
1.1 研究区域
天德湖(34°48′~34°49′N,113°29′~113°30′E)为须水河干流上的一个湖泊,水域面积约为0.306 km2,如图1所示。随着城市发展,工业集聚,人类活动加剧,城市湖泊的水质状况备受关注。
图1 研究区采样点位置Figure 1 Location of sampling points in the study area
1.2 实验数据
1.2.1 水质数据
2019年4月16日和2019年5月22日两次进入湖区采样得到水质数据。采样点按照均匀分散、特征区域增设的原则布置,采样点位置如图1所示。利用专用采水器采集水面下30~50 cm深处的水样,共40个样本,对水样编号并记录采样点的GPS位置坐标。样品采集后马上送至实验室测定DOC质量浓度,得到采样点水质参数DOC实测数据。
1.2.2 Planet卫星影像数据
对于城市湖泊DOC的监测常常需要多时段,所以具有高时间分辨率、空间分辨率为3 m的Planet卫星影像是个很好的选择。Planet拥有170余颗Dove小卫星,是世界上唯一全球高分辨率、高频次的遥感卫星,影像信噪比高[14]。本文选用Planet卫星2019年4月16日和2019年5月22日两期影像数据作为遥感数据源,传感器为Bayer滤镜CCD相机,成像范围覆盖研究水域,提取出两期影像对应采样点的反射率数据。Planet卫星基本参数如表1所示。
表1 Planet卫星基本参数Table 1 Basic parameters of Planet
L1B级别产品数据已经过几何校正和辐射校正,本研究主要利用ENVI软件对Planet影像进行大气校正、图像镶嵌和剪裁等预处理。为提高水体识别的准确性,使用基于绿波段与近红外波段的归一化比值指数NDWI对水体进行提取,计算式为
NDWI=(Green-NIR)/(Green+NIR)。
(1)
式中:Green为绿波段反射率;NIR为近红外波段反射率。
2 研究方法
2.1 波段选取
在建模前先对实测DOC数据与影像提取的反射率进行PEARSON相关性分析,选择敏感波段,相关系数R为
(2)
通过计算发现单波段与DOC质量浓度值的相关性较低,不适合直接建模。对各种波段组合进行比较,结果表明部分波段进行组合可以得到高于单波段的相关系数,统计各组合相关系数如图2所示。
图2 波段组合与DOC质量浓度相关系数Figure 2 Correlation coefficient between band combination and DOC concentration
根据图2中PEARSON相关性分析,选取相关系数较高的波段组合作为输入因子。本文选取波段组合B2/B4作为DOC质量浓度反演的遥感数据。
2.2 常用模型构建
2.2.1 传统回归模型
目前,有不少利用传统回归方法进行DOC等水质参数遥感反演的研究,其中波段比值模型较为常见[15]。根据PEARSON相关性分析结果,本研究选用波段组合B2/B4构建回归模型,通过计算发现利用波段组合B2/B4构建的三次方程回归模型:Y=22.884X3-47.444X2+29.043X+1.419 5效果最好,但拟合度不高。
2.2.2 BP神经网络模型
本文以选定的波段组合作为输入数据,DOC实测浓度作为输出数据,使用python构建BP神经网络模型。其中,输入数据的80%用于训练网络,20%用来测试。利用损失函数二阶导数矩阵即海森矩阵来迭代优化损失函数。对包含不同隐藏层节点数的神经网络模型的测试结果进行比较,从而选出最佳节点数。通过多次实验,发现隐藏层节点数为8时效果最好,定为最终模型。BP神经网络中激活函数为Relu函数,学习函数为梯度下降权重函数,其他参数设置如表2所示。
表2 BP神经网络参数设置Table 2 BP neural network parameter setting
2.2.3 支持向量机回归模型
以选定的遥感波段组合作为输入数据,实测DOC质量浓度为输出变量,在python 的scikit learn开源机器学习库中构建支持向量机。以80%的数据为训练集,20%的数据作为测试集,采用径向基函数(RBF)作为核函数构建支持向量机模型。调用GridSearchCV寻找SVR的最佳参数C(惩罚系数)和gamma。全局搜索计算得出C=15、gamma=1时拟合效果最佳。
2.3 随机森林及优化算法模型构建
2.3.1 随机森林RF模型
随机森林算法通过随机取样生成多个决策树,综合各决策树得出最终结果,能很好地解决单一决策树过拟合的问题[16]。与人工神经网络相比,随机森林简单高效,在参数优化和变量分析上优势突出[17]。
基于bagging框架建立随机森林的步骤如下:
步骤1 随机有放回地抽样,选出N个训练集作为每棵回归树的根节点样本;
步骤2 用子训练集训练一个CART回归树(决策树);
步骤3N棵决策树得到N个结果;
步骤4 对N个结果取平均值作为随机森林最终结果。
模型测试结果为
(3)
式中:Xi为随机可放回抽样的子数据集的变量,i=1,2,…,N。
使用选定的反射率波段组合作为输入数据,实测的DOC质量浓度作为输出数据,其中,数据的 80%作为训练数据,20%作为验证数据。在python 的scikit learn开源机器学习库利用随机森林算法构建模型。在随机森林回归器中,RF框架特征有n_estimators、oob_score、criterion。RF决策树参数有max_features、max_depth、min_samples_split、min_samples_leaf、random_state。各参数设置如表3所示。
表3 随机森林算法参数设置Table 3 Random forest algorithm parameters setting
2.3.2 贝叶斯优化的随机森林BO-RF模型
在随机森林模型中,n_estimators、min_samples_split、max_features、max_depth等超参数全部使用
默认值。为了提高模型精度,引入贝叶斯优化算法对随机森林进行优化,优化过程采用贝叶斯定理:
(4)
式中:f表示参数模型中的参数;Dt={(a1,b1),(a2,b2),…,(at,bt)}表示已观测集合,at表示决策向量,bt=f(at)+t表示观测值,t表示观测误差;P(Dt∣f) 表示y的似然分布;P(f)表示f的先验概率分布;P(Dt)表示f的边际似然分布;P(f∣Dt)表示f的后验概率分布,后验概率分布描述通过已观测数据集对先验进行修正后未知目标函数的置信度。
贝叶斯优化的两个核心过程是先验函数(prior function,PF)和采集函数(acquisition function,AC)。本文基于高斯过程,初始化替代函数的先验分布,根据替代函数的先验分布,采样若干个数据点,再使用采样的值得到目标函数的新值。然后根据新的数据,更新替代函数的先验分布,并开始重复迭代。迭代之后,根据当前的高斯过程找到全局最优解。
贝叶斯优化的主要步骤如图3所示。在python中导入贝叶斯优化算法,利用贝叶斯优化调节n_estimators、min_samples_split、max_features、max_depth等对随机森林模型性能和速度影响较大的超参数。具体过程如下:定义目标函数,函数输入为调优的几个参数,输出为模型交叉验证5次的R2均值;设置超参数搜索空间pbounds如表4所示;构建贝叶斯优化器,设置n_iter=25,init_points=5。通过实验得出最优参数:max_features=0.817、min_samples_split=2、max_depth=8、n_estimators=669,并使用最优参数构建模型。
图3 贝叶斯优化流程Figure 3 Bayesian optimization process
表4 超参数搜索空间Table 4 Hyperparameter search space
3 分析与讨论
3.1 模型精度分析
本文构建的模型均使用回归模型常用的评估指标决定系数R2和均方根误差RMSE来评价模型精度。其中决定系数R2越大表示模型拟合效果越好;RMSE是预测值与真实值的误差平方根的均值,值越小模型精度越高。计算式如下:
(5)
(6)
对各模型结果进行对比分析,结果如图4所示。由图4可以看出,三次方程回归模型的点相对分散,拟合线偏移角度较大,预测效果较差。支持向量机模型(SVR)和BP神经网络模型有所提高,但在低浓度区域均有部分点偏离1∶1线较多,说明SVR和BP虽然能处理复杂非线性问题,但是存在过拟合的情况,模型稳健性不足。BO-RF模型样点基本在1∶1线附近,虽略有偏差,但从R2和RMSE来看,BO-RF模型优势还是比较明显的。由此也验证了贝叶斯优化算法的优越性,说明该方法可以用于DOC质量浓度反演。
图4 模型精度对比Figure 4 Model accuracy comparison
3.2 DOC质量浓度空间分布分析
将BO-RF模型应用于Planet遥感影像反演DOC质量浓度,得到天德湖DOC质量浓度的空间分布图,总体反演结果与实测情况对比分析,匹配度良好,结果如图5所示。
由图5可以看出,天德湖水域的DOC质量浓度集中在4.0~8.0 mg/L之间,总体分布大致呈现西高东低,湖泊中部低于沿岸,且随离岸距离增加而降低的空间特征。其中东北方向入水口DOC质量浓度较低,这一区域水体流动性大,DOC质量浓度受来水的影响较大,且水面没有漂浮物和浮萍等水生植物,产生的内源有机碳较少。北部束窄口DOC质量浓度处于高位,结合调查发现,该处水面有较多浮游植物,且湖心岛此处地势低,排水相对较多,受陆源输入影响。水体生物产生的内源有机碳、土壤侵蚀等陆源碳输入是造成湖泊有机碳质量浓度差异的关键因素,对碳来源进行分析有利于进一步发掘DOC的分布特征。
图5 天德湖水域DOC质量浓度空间分布Figure 5 Spatial distribution of DOC concentration in Tiande lake waters
4 结论
为解决统计回归反演模型拟合度低的问题,本研究基于遥感反射率和实测水质数据,构建了BP神经网络、支持向量机和贝叶斯优化随机森林BO-RF等多个机器学习模型,通过实验得出BO-RF模型效果最好,将实验结果应用于Planet卫星影像反演郑州天德湖DOC质量浓度。主要结论如下:
(1)通过对Planet影像各波段及波段组合进行相关性分析,得出绿波段B2与近红外波段B4的波段组合B2/B4的遥感反射率与天德湖水域的DOC水质数据相关性最高。
(2)引入贝叶斯优化对随机森林RF模型进行优化,解决了局部最优的问题,模型的反演精度高于其他模型。将BO-RF模型应用于Planet卫星数据反演DOC质量浓度,效果良好,表明利用贝叶斯优化随机森林的优越性,同时也说明了基于实测数据和卫星影像数据的水质参数反演方法具有良好的应用前景和推广价值。
(3)从反演的DOC质量浓度分布情况来看,整体效果良好,其中东北部入水口浓度较低,湖中心向周围浓度逐渐升高,符合湖泊水质的分布特点,也体现了反演结果与实际情况的符合程度。
此外,虽然BO-RF模型在天德湖区域性能良好,但影响城市水体DOC质量浓度的因素复杂多样,今后将结合水体固有光学量、表观光学量和其他水质组分的影响,进一步探讨水体DOC的光学遥感机理,提高反演精度。