UAV高光谱影像联合SULOV_XGBoost算法的柑橘果树精细分类方法

2024-02-06何宏昌窦世卿范冬林付波霖熊远康史今科

光谱学与光谱分析 2024年2期

肖斌, 何宏昌, 窦世卿*, 范冬林, 付波霖, 张洁, 熊远康, 史今科

1. 桂林理工大学测绘地理信息学院, 广西桂林 541006 2. 珠江水利委员会珠江水利科学研究院, 广东广州 510610

引言

遥感技术的高速发展促进农业研究和生产管理愈发趋于精细化和定量化[1-2]。传统卫星尺度遥感在农作物精细分类方面难以实现同一物种不同品种的精准识别与监测, 无人机高光谱遥感技术的快速发展使之成为可能[3-4], 鉴于其在农作物长势精准监测、种植结构布局、作物估产与精细化管理等方面的巨大优势及应用潜力[5-6], 积极探索无人机高光谱技术的同一物种不同品种的精细分类具有重大意义[7-8]。

目前, 应用于果树作物[9]、红树林[10]等较为复杂的三维结构林木精细分类主要是基于对象的方法, 如徐凯健等[11]通过SVM对不同时相的高分影像进行树种分类, 结果表明, 除光谱差异较大的油松外, 基于同一时相且光谱特征相近的树种分类精度较低; 张鹏等[12]以WorldView-2影像为数据源, 基于地块尺度利用ReliefF算法进行特征优选, 并以RF对复杂种植区进行精细分类, 结果显示荷、水稻及棉花等作物PA与UA均在80%以上, 但纹理和光谱较为接近的花生与其他作物的PA与UA均在65%之下; 由此看出低影像分辨率及低光谱分辨率在光谱及纹理差异较小的类似地物中变现不佳。而在同物种不同品种的细微特征差异中如何获得高精度分类结果是亟需解决的问题。左萍萍等[13]以无人机多光谱影像为数据源, 利用递归特征消除(recursive feature elimination, RFE)算法进行特征优选, 以RF对沼泽植被进行分类, 总体分类精度有所提高, 但在小叶章和塔头苔草混合等区域, 其用户精度分别为63.6%和47.1%; Schiefer等[14]结合无人机RGB图像和减去数字地形模型(DSM)后的nDSM, 经U-NET分割后, 以卷积神经网络CNN进行分类, 结果显示在桦木、橡木和椴木等视觉较为接近的树种中分类效果均在65%以下; 通过提高空间分辨率对于总体分类精度有一定的提升, 但在光谱与纹理较为接近的地物类别仍然存在难以区分的现象。利用机载高光谱数据丰富的光谱及纹理信息构造分类特征能够有效进行各种精细分类[15], 而在获取高空间分辨率和高光谱分辨率的同时, 随之而来的“维度灾难”也会降低模型的效率, 帅爽等[16]以资源一号02D高光谱影像为数据源利用广义正态分布优化算法进行特征优选, 以RF对干旱植被进行分类, 结果显示特征较为突出的草地与梭梭林分类精度均在84%以上, 不同年份的枸杞林和杨树林精度均在75%以下; Tian等[17]以航空高光谱影像为数据源, 通过小波变换增强各树种间的光谱差异, 以RF特征重要选取最优特征, 通过SVM进行分类, 结果显示分类效果有所提高, 但是在针叶树杉木、米老排人工林、马尾松和黑木相思等光谱差异较小的树种分类效果依旧不佳。提高空间分辨率的同时提高光谱分辨率能够在一定程度上的区分不同地物的细微差别, 但仍然不能满足精准农业在农作物分类的精度要求。在同一物种不同品种的分类中, 由于树冠重叠、光谱和纹理的特征发散性较小且信息熵较大等问题, 使用传统的如主成分分析、 ReliefF、 RFE_svm和粒子群等特征优选和分类算法时难以有效区分。因此, 针对高维特征数据如何提升特征优选结果是提高果树精细分类精度和效率的关键问题[18-19]。 SULOV_XGBoost兼备特征筛选和分类功能, 其在目标函数中加入了L2正则化惩罚项, 并对损失函数进行二阶的泰勒展开, 使损失函数更接近目标函数, 能够不断学习特征中的细微差别, 比其他常用机器学习分类算法(如RF和SVM)在同一物种不同品种的分类表现出更好的性能[20-21]。目前为止, 尚未发现有利用该方法对果树作物进行精细分类的相关研究, 因此积极尝试利用此法进行特征差距较小场景的果树作物精细分类具有重大意义。

以桂林市六塘默科特柑橘试验基地为研究区, 基于2020年11月获取的无人机高光谱影像, 提出了一种SULOV_XGBoost进行特征优选和柑橘果树不同品种的精细分类方法。通过深度挖掘光谱特征, 融合构建更加完善的特征集合实现精细分类, 并分析了不同类型特征对柑橘果树精细分类的贡献, 进一步寻找出适用于特征差异较小场景的优势特征。所构建的精细分类方法可为柑橘果树农情监测、种植结构布局、作物估产与精细化管理等方面提供技术支撑。

1 实验部分

1.1 研究区概况

研究区位于广西壮族自治区桂林市临桂区六塘镇(110°17′47″E, 25°2′3″N), 属中亚热带季风气候, 日照较多, 雨量充沛, 年均气温19.1 ℃, 年均降雨量1 889 mm, 无霜期302 d。该地适合默科特、沃柑、砂糖橘等果树的生长。区域内主要以2014年种植的默科特、沃柑、砂糖橘为主, 少量2020年种植的沃柑与默科特, 为了防止柑橘被晒伤, 于当年7月份在沿路的沃柑与部分默科特果树中撒有石灰。研究区如图1所示。

图1 研究区地理位置

1.2 数据获取及预处理

影像数据获取时间为2020年11月13日11:00—15:00, 高光谱数据采集是晴天、无云、风速较小。采用美国Resonon公司研发的Pika L高光谱成像仪, 光谱范围在385～1 023 nm之间, 通道数为150, 分辨率为4 nm。根据影像需求, 设定无人机飞行高度为110 m, 影像空间分辨率为0.05 m, 航向、旁向重叠率均为80%, 飞行速度3 m·s-1。采用Pix4D Mapper软件和ENVI5.3软件对无人机获取的数据进行影像拼接和波段融合及预处理。

在获取无人机高光谱影像的同时, 对研究区进行实地调查, 获取每棵树的树种及树龄, 此次调查共获取样本点2 149个(如表1所示)。利用便携式ASD地物光谱仪(FieldSpec 4)采集样本树冠层光谱特征, 波长范围为350～2 500 nm, 数据输出间隔1 nm。对样本中的六种果树每种随机选取5棵, 由于垂直角度获取冠层光谱较为困难, 选择在果树冠层水平在0°、 120°、 240°且与天顶角呈45°的三个方向各采集60条光谱曲线, 对所有方向光谱曲线取平均得到每棵果树冠层光谱数据, 以此作为无人机特征波段选取参考依据。

表1 各类柑橘样本

研究区所识别地物类型划分为2014年默科特a、 2014年沃柑、 2014年默科特b(石灰)、 2014年砂糖橘、 2020年默科特、 2020年沃柑、草地、裸地、树木以及阴影区域共10种。为了减少无关要素(草地、裸地、树木和阴影区域)对后期柑橘果树精细分类的影响, 首先使用eCongition9.0软件进行多尺度分割, 设定分割尺度12, 形状指数0.1, 紧凑度指数0.9, 对于分割的结果设定灰度值小于-0.1与改进红边比值植被指数mSR705(modified red edge simple ratio index)大于0.31。

1.3 研究方法

基于面向对象的分类思想, 在影像分割预处理的基础上, 首先, 利用样本的影像光谱、实测光谱、纹理、几何和植被指数等完成多特征集合的构建; 然后, 采用SULOV结合XGBoost递归消除算法进行特征优选实现特征降维; 并以XGBoost分类算法进行柑橘果树的精细分类; 最后, 与常用机器学习算法RF和SVM的分类结果和精度进行对比分析。技术路线如图2。

图2 技术流程图

1.4 特征集合构建

机载高光谱数据具有非常高的光谱分辨率, 不同柑橘果树间的细微差别可在光谱响应曲线中有所表现, 还可以通过对原始光谱求一阶微分以进一步扩大其中的细微差异, 同时提取实测光谱曲线的特征波段, 植被指数、纹理及几何特征等各类信息, 构建更加完善的特征集合。

1.4.1 影像光谱特征构建

(1)一阶微分

考虑到机载高光谱成像仪的缺陷, 剔除前15个波段与后5个波段, 保留第16—145(447～1 000 nm)波段的光谱信息, 以步长为2提取每个对象的光谱曲线和标准差。

利用一阶微分能够显著加强植被间的光谱差异。为深度挖掘不同柑橘果树品种在影像表现和光谱响应曲线中的细微差别, 通过18次多项式对训练样本的离散光谱值进行拟合, 决定系数R2为0.997, 拟合函数如式(1)

(1)

式(1)中:A为函数系数矩阵,x波长,b为常数。

对式(1)求一阶微分, 六类柑橘果树一阶微分差异如图3所示, 2020年沃柑与其他五类柑橘品种的光谱曲线差异较大, 其余五类果树的一阶微分曲线总体趋势基本相似, 在非波谷或非波峰区间, 一阶微分曲线几乎重合, 但图中出现多处波谷与波峰, 且在波峰724和866 nm、波谷513、 626、 815、 925和992 nm处各类果树峰值差异显著, 由于品种与树龄不一, 各类果树对应的波谷与波峰并非在同一个波段, 所以提取以每一处一阶微分拐点为中心的左右共5个波段对应的值共35个特征作为分类输入特征。

图3 一阶微分拐点

图4 依据实测光谱特征提取无人机影像特征波段

(2) 依据实测光谱特征构建

为了进一步增强光谱信息的差异, 获取区分不同品种柑橘果树的特征波段。采用ASD便携式地物光谱仪获取每类柑橘果树的光谱曲线作为无人机特征波段选取的参考。通过对比ASD光谱数据, 六类果树在无人机影像中的红边波段(781 nm)、近红波段(911、 982 nm)处及附近波长的光谱响应均存在较大差异, 与ASD光谱数据较为吻合, 所以选取这三处波长作为特征波段, 并提取552 nm处的反射峰光谱值与676 nm处的吸收峰光谱值共五个波段作为特征波段, 并计算影像中每个对象对应的五个特征波段的比值或差值, 各种组合方式共182个特征作为分类输入特征。

1.4.2 植被指数、几何及纹理特征提取

在影像分割的基础上提取每个对象的植被指数、几何及纹理信息作为分类特征。使用ENVI5.3计算研究区内23种植被指数; 几何特征以对象像素的空间分布统计为理论基础, 基于像素坐标的协方差矩阵提取对象的形状、面积和多边形的各类特征[22]; 纹理特征以灰度共生矩阵(gray-level co-occurrence matrix, GLCM)第一主成分为底图[23], 分别提取所有方向的8个纹理特征(协同性、反差性、非相似性、均值、方差、角二阶矩、相关性、熵), 共计55种作为分类输入特征。

剔除无效特征后, 通过以上各类光谱与纹理、几何和植被指数等特征信息的提取构建了包含384个特征的特征集合。

1.5 基于SULOV_XGBoost的特征优选与分类算法

特征丰富容易提取出区分不同果树类别的特征信息, 但特征过多易降低分类器性能, 造成模型精度和效率降低[24-25]。多特征优选可最大程度降低特征维数, 使分类器具有较好的泛化能力。采用SULOV算法筛选出特征和目标相关性强、特征之间冗余小且类间可分性强的特征, 结合XGBoost递归消除算法进一步优选权值最高的特征, 以此输入XGBoost分类算法实现柑橘果树的精细分类。

1.5.1 SULOV特征筛选算法

SULOV算法是类间相关性分析和变量与目标间相关性分析的结合, 能够有效减少特征筛选的计算量, 提高计算速率, 其核心思想是搜索不相关的变量列表, 算法核心步骤如下:

(1)找到特征变量中所有pearson系数超过相关阈值的高度相关变量对;

(2)计算特征变量关于目标变量的互信息得分(mutual information score, MIS), 得到每个特征变量关于目标变量的一个分数。 MIS作为一种非参数评分方法, 是度量一个随机变量中包含的关于另一个随机变量的信息量的统计方法。离散随机变量X和Y的互信息I(X,Y)计算公式如式(2)

(2)

(3)取每一对超过阈值的相关变量对, 在二者中去除MIS较低的一个特征;

(4)提取MIS最高、互相关性最低的特征。

SULOV算法通过python3.7版本编程实现。对包含384个特征的集合进行筛选, 设置相关性阈值为0.9, 共筛选出84个重要特征。筛选结果如图5所示。

图5 SULOV算法特征筛选

1.5.2 XGBoost特征优选与分类算法

XGBoost是陈天奇[26]基于梯度提升树(gradient boosting decision tree, GBDT)改进的一种boosting集成算法。首先建立一棵树, 每次迭代过程中都增加一棵CRAT决策树, 通过不断拟合上一棵树的残差建立新的树, 逐渐形成众多树模型集成的强评估器, 最后将每棵树对应的分数加起来得到该样本的预测值见式(3)。

(3)

Blue circles represent the data selected by SULOV; The size of circle indicates the MIS score; The bigger the circle, the higher the MIS score

在XGBoost中, 单个决策树中通过每个属性分裂点改进性能度量(Gini纯度)的量来计算特征属性重要性。由节点负责加权和记录次数, 一个特征属性对分裂点改进性能度量越大即越靠近根节点, 权值越大; 被越多提升树所选择, 特征属性越重要。基于这一特性可进行多特征优选。

通过SULOV算法筛选的84个特征极大地降低了特征间的冗余, 但未考虑该特征对目标变量的贡献度, 为提高模型运行效率及可解释性, 将该84个重要特征输入XGBoost分类算法中, 每次迭代随机挑选65%的总特征个数, 提取每次训练中重要性得分最高的前10个特征, 并删除重要性得分最低的5个。随着模型训练迭代次数增加, 在迭代7次后特征数量为40, 调整XGBoost列采样参数colsample_bytree为1, 选取重要性得分大于0.02的特征18个, 将其作为精细分类最终的输入特征。

最后, 使用XGBoost算法分类器进行柑橘果树的精细分类, 并基于泛化误差[27]的评价指标确定模型参数, 得出树的最大深度(max_depth)为4, 树的棵数(n_estimators)为580, 学习率(learning_rate)为0.049, gamma为0.2。

1.6 精度评价

以用户精度(UA)、生产者精度(PA)、 Micro-F1得分和总体精度(OA)为评价指标, 其中Micro-F1得分则是对不同情况下UA与PA的约束, 本试验采用约束因子为1, 即UA与PA同等重要, OA为分类正确的样本个数占所有样本个数的比例。具体计算公式参见文献[28]。

2 结果与讨论

2.1 实验方案与分类精度对比

为探究SULOV_XGBoost算法在同一物种不同品种间特征优选及精细分类算法的有效性, 以广泛使用的过滤式的ReliefF算法和包裹式的RFE结合svm的特征优选方法进行实验对比。通过ReliefF和RFE_svm算法对包含384个特征集合进行特征优选, 首先筛选皮尔森相关性系数小于0.9的特征集合以初步剔除冗余度较高的特征, 然后设置ReliefF特征权重值大于0.02, 共优选出33个重要特征; 同样在剔除冗余度较高特征的基础上, 选取RFE_svm最优特征集合31个。

基于三种特征优选结果基础上采用RF[12]和SVM[29]与本方法作对比验证。对RF设置树的最大深度(max_depth)为9, 树的棵数(n_estimators)为1 340; 对SVM采用径向基核函数(RBF), 参数gamma为0.1, 惩罚系数C为1。

基于同一实地采样数据的训练样本和测试样本, 分别以三种特征优选的18种(SULOV_XGBoost)、 33种(ReliefF)和31种(RFE_svm)重要特征作为精细分类模型的输入特征, 使用XGBoost[图6(a, d, g)]、 RF[图6(b, e, h)]和SVM[图6(c, f, i)]算法进行柑橘果树精细分类, 并对其分类结果(图6)和精度(表2)进行对比分析。

表2 六类柑橘果树分类精度

由表2可知, 从不同特征优选算法来看, 基于SULOV_XGBoost特征优选的三种分类算法的OA和F1最佳, 均在90%以上, 表明了结合SULOV_XGBoost的特征优选算法, 对于柑橘果树精细分类中特征提取的巨大优势。 20默科特的PA与UA最高精度是基于RFE_svm的SVM算法, 其余5类果树的最高精度均是以SULOV_XGBoost作为特征优选算法。基于SULOV_XGBoost特征优选的XGBoost分类算法的总体精度OA较ReliefF、 RFE_svm分别提高了1.02%、 2.25%, 较同特征优选算法的RF分别提高了2.04%、 1.89%, SVM分别提高了2.03%、 0.34%。体现本SULOV_XGBoost算法作为柑橘果树特征提取的有效性, 即使存在外物干扰的情况下, 该特征优选算法依然能够发挥其优越性。

从以SULOV_XGBoost作为特征优选的不同分类算法的角度看, XGBoost算法的总体精度OA和FI得分度均高于RF与SVM, OA分别提高了1.89%和1.6%, F1得分提高了0.99%和0.6%。而SVM总体精度OA较RF提高0.29%, F1得分提高0.39%。从视觉上与光谱曲线中表现极为相似的14砂糖橘和14默科特a的精度结果来看, XGBoost分类精度最高, 显著地提高了PA和UA, 验证了XGBoost算法对于对象差异不显著的地物有较强的区分能力; 从20默科特的结果来看, RF分类精度最高; 从20沃柑、 14沃柑和14默科特b的结果来看, SVM的分类精度最高, 这三类果树在影像表现具有较高辨识度, 其中沃柑树的叶子较大、亮度较高, 在光谱上差异显著, 且由于白灰影响了部分14沃柑和14默科特b的光谱响应, 对样本数据添加的干扰, 说明了SVM分类算法的抗干扰能力较强。综上, SVM分类算法对于差异显著的地物类别区分度高且抗干扰能力强; 在无外界干扰的同一树龄情况下, 相较于RF和SVM, 基于不断拟合残差算法的XGBoost在同物种不同品种间的分类效果更优。

从目视评估(图6)来看, 基于SULOV_XGBoost特征优选的20默科特和20沃柑的分类结果显著较优, 且在六类不同果树中, 其分类效果亦为最优, 在树龄较小时期, 沃柑长势相较于默科特好, 两者可区分度高。在部分撒有白灰的14沃柑与14默科特b的分类结果中, 基于SULOV_XGBoost特征优选的三种分类算法错分现象相对较低, 其中SVM的分类效果最佳, 体现以超平面分割数据集寻找最佳分割点的原理抗干扰能力较强。在影像表现与光谱曲线较为相似的14砂糖橘与14默科特a分类结果中, 不同特征优选的XGBoost的分类效果均为最佳, 对于差异不显著的情况下, 基于拟合残差的分类模型能够更好的学习两者间的细微差别, 以此达到同一物种不同品种间精细分类的目的。

2.2 特征重要性分析

2.2.1 特征重要性评估

基于特征优选的18个重要特征作为分类输入特征进行特征重要性评估, 特征权重值计算如图7所示。

图7 18个重要特征排序

由图7可知, 最终优选的18个重要特征中, 纹理特征、形状特征与标准差特征均未入选, 在传统的面向对象遥感分类中, 样本的纹理特征与形状特征权重占比较大, 但在柑橘果树的精细分类中作用较小, 同一树龄中每个样本的纹理信息与标准差较为接近, 不能有效区分地物类别。而光谱波段信息、一阶微分、植被指数和特征波段比值或差值组合占比较大, 突出光谱信息在柑橘果树的精细分类中的重要性极高, 且一阶微分的拐点特征中有9个特征入选, 表明一阶微分拐点值在光谱细微变化中可以明显体现其中差异性。

第34波段对应的一阶微分拐点值的权值高达0.133排名第一, 由于研究区中六类果树之间的树龄和树叶颜色不一, 所以在绿光波长的第34波段的一阶微分与蓝光波长的第16波段的原始光谱值可以突出表现出来。由原始波段信息经过差值或比值衍生的光谱特征596、 581、 516和550均入选重要特征, 且596与516分别排第七与第四, 说明寻找适用于柑橘果树分类的特征波段在果树精细分类中的必要性。每类果树间存在营养成分与三维结构的差异引起其在光谱响应中的异同, 而改正了叶片的镜面反射效应的红边比值植被指数与类胡萝卜素指数均可体现出来。

d() represents the inflection point of the first derivative of each band; 550, 516, 581 and 596 represent the band combination methods of (b5-b2)/b4, b5/b1, (b3-b1)/b2, (b5-b1)/(b4-b2), respectively, where b1, b2, b3, b4 and b5 represent wavelengths of 553, 673, 762, 926 and 975 nm, respectively; 38 and 16 represent the spectral values at 538 and 447 nm of the initial spectrum respectively; Bri represents brightness; Mean3 and Mean12 represent the modified red-edge ratio vegetation index mSR705and the like-carotenoid reflectance index CRI2

2.2.2 特征重要性实验对比

为探究不同类型特征对精细分类做出的贡献大小, 本试验基于高光谱的单一种类特征(3个光谱波段FC1、 2个植被指数FC2、 9个一阶微分拐点FC3、 4个特征波段组合FC4)与融合特征(光谱波段+一阶微分FC5、植被指数+特征波段组合FC6)采用XGBoost算法分别进行精细分类, 得出结果见图8。各类特征分类精度见表3。

表3 基于XGBoost算法的各类特征分类精度对比

图8 基于XGBoost算法的各类特征分类结果

由表3可知, 单一特征中一阶微分拐点与特征波段组合的OA均在75%以上, 其中一阶微分拐点FC3图8(c)的OA最高, 达到79.62%, 其次是特征波段组合FC4图8(d)为75.84%; 基于两种植被指数FC2的分类精度图8(b)为66.81%, 高于基于原始波段FC1图8(a)的66.38%。从难以区分的14砂糖橘和14默科特a精度分析, FC4的PA最高, 分别为79.39%、 62.09%, 较FC3提高了1.78%、 1.68%, 而FC4的OA为75.84%较FC3降低了3.78%, 从二者区分度而言, 特征波段组合对于14砂糖橘和14默科特a区分贡献度更大, 但整体而言, 一阶微分效果更佳。

而融合光谱波段与一阶微分拐点FC5图8(e)的OA为88.65%, F1得分89.65%, 其中各类柑橘PA与UA均为最高, 较融合了植被指数与特征波段组合FC6图8(f)OA分别提高了9.74%、 9.33%。从14砂糖橘与14默科特a来看, FC5的PA与UA最高, 而添加了植被指数FC6的OA较FC4却有所降低, 反映模型在中间特征提取不够的情况下, 模型性能有所下降。 FC5的分类精度较融合了所有重要特征集合仅低3.49%, 说明了经过一阶微分变换的光谱曲线增强了果树间细微的差别, 从而达到精细区分各类果树的目的。