利用人工鱼群算法优化高斯过程模型及应用分析

2018-02-28邱小梦周世健王奉伟欧阳亮酉

测绘通报 2018年1期

邱小梦，周世健，王奉伟，欧阳亮酉

(1. 东华理工大学测绘工程学院，江西南昌 330013； 2. 流域生态与地理环境监测国家测绘地理信息局重点实验室，江西南昌 330013； 3. 南昌航空大学，江西南昌 330063； 4. 同济大学测绘与地理信息学院，上海 200092)

目前常用的变形监测数据处理或分析方法主要有：回归分析、时间序列分析、传统灰色预测模型、神经网络和支持向量机等[1-5]，但是这些方法都有局限性。回归分析和时间序列分析适用于观测序列长、信息量大的数据[6]，但在实际工程中时常获得小样本数据，信息量小。传统灰色预测模型一般要求累加生成的序列具有灰指数规律并且是非负的[7]。神经网络存在着大样本、收敛速度慢和局部优化的缺点[8]。支持向量机存在如何选取合适的惩罚项、输出结果不具有概率意义等问题[9]。

高斯过程(Gaussian process，GP)对处理高维数、小样本、非线性等复杂问题具有很好的适应性，且泛化能力强[10]。苏国韵[11]和罗亦泳[12]分别将高斯过程应用于基坑位移时间序列分析和GPS高程转换，取得了较好的效果，从而验证了该方法的可靠性。目前通常采用共轭梯度法搜索超参数，存在对初始值依赖性强、容易陷入局部最优的缺点，该算法的适用性具有局限性[13-14]。人工鱼群算法(artificial fish swarm algorithm，AFSA)具有对初始值与参数选择不敏感的优点。笔者应用该算法对超参数进行智能寻优，建立AFSA-GP预测模型。利用该模型对等间距隧道位移和非等间距基坑沉降进行预测，以残差绝对值和与平均相对误差作为评价指标，选择神经网络(neural network，NN)、平方指数(squared exponential，SE)和有理二次型(rational quadratic，RQ)3种核函数分别进行预测，均具有较高的预测精度，其中以NN为核函数的模型预测效果最好。

1 模型建立

1.1 高斯过程原理

高斯过程是近期发展起来的一种新的机器学习方法，其对处理高维数、小样本、非线性等复杂问题具有很好的适应性。回归模型[10,15]可以表示为

y=f(x)+ε

(1)

(2)

(3)

高斯过程中常用的核函数有NN、SE和RQ 3种核函数，其NN核函数一般形式为

(4)

SE核函数一般形式为

(5)

RQ核函数一般形式为

(6)

式(4)、式(5)和式(6)中，Q=diagl-2为超参数矩阵；l为样本数据点间的相关性；γ为核函数的形状参数。

利用传统共轭梯度法对偏导数进行最小化，从而获得最优超参数。负对数似然函数L(θ)和超参数θ的偏导数如下所示

(7)

(8)

1.2 AFSA-GP模型

针对共轭梯度法搜索超参数存在对初始值依赖性强、容易陷入局部最优的缺点，利用AFSA算法[16]代替传统共轭梯度法智能搜索最优超参数，建立AFSA-GP预测模型。主要步骤如下：

(1) 初始化AFSA算法中的参数，主要包括人工鱼数目、最大迭代次数、最大试探次数、视野范围、拥挤度因子和移动步长。然后随机产生初始人工鱼群。

(2) 利用高斯过程对样本进行训练和测试，根据食物浓度函数计算出当前每条人工鱼的食物浓度。

(3) 各人工鱼分别执行聚群行为和追尾行为，选择最有利的行为执行，缺省行为时执行觅食行为。

(4) 各人工鱼每试探一次，将自身食物浓度与最优食物浓度进行比较，若自身食物浓度比最优食物浓度更好，则用自身食物浓度代替最优食物浓度。

(5) 判断是否达到设定的最大迭代次数。如果已经达到最大迭代次数，则输出最优超参数。若未达到最大迭代次数，则迭代次数gen=gen+1，转到步骤(3)。

(6) 根据获取的最优超参数建立高斯过程模型进行预测。

2 实例分析

工程实例应用中采用了滚动预测方法[17]对变形体未来的形变量进行建模预测。AFSA-GP预测模型中采用了NN、SE和RQ 3种核函数分别进行计算，其目标函数(即食物浓度函数)设置为

(9)

式中，g(xi)第i个测试样本的预测值；yi为第i个测试样本的实测值；m为测试样本个数。

2.1 隧道变形监测的应用

依据文献[18]走马岗特长隧道采用分离式设计，建筑范围为14.75 m×5.0 m，最大埋深约为183 m。观测点YK21+715位于隧道出口右线上，选取其2012年6月连续18期周边位移数据作为试验数据，实测数据见表1。

表1 监测点的各期实测数据

AFSA-GP预测模型中的参数初始化为：人工鱼数目为150，最大迭代次数为200，视野范围为5，移动步长为0.3。运用滚动预测方法进行预测时，k取13，P取10，t取1(即学习样本为10、测试样本数为3、预测期数为1)。GP核函数分别采用NN、SE和RQ核函数，目标函数为式(9)，求其最小值。利用AFSA-GP预测模型对隧道变形进行预测分析，目标函数值随迭代次数变化的曲线如图1所示，预测结果见表2，预测残差见表3，预测结果相对误差见表4。

图1 目标函数值随迭代次数变化的曲线

表3 不同核函数的预测残差 mm

表4 不同核函数的预测结果相对误差 (%)

从表2、表3和表4可以看出，AFSA-GP预测模型的预测精度比GP预测模型有了很大的提高。AFSA-GP中残差绝对值和都小于1 mm，最大值为0.71 mm，而GP中最大值为2.20 mm。GP中最小相对误差为3.21%，AFSA-GP中仅为0.15%。NN、SE和RQ 3种核函数平均相对误差分别提高了3.26%、4.49%和3.35%，其中SE核函数提高最大。两种预测模型中NN核函数的预测精度高于SE、RQ核函数，表明NN核函数具有很好的预测能力。基于3种核函数预测的相对误差大于3%的，GP总计15个，而AFSA-GP只有2个。

从图1中目标函数值随迭代次数变化的曲线可以看出，AFSA-GP具有很好的预测精度，其中目标函数值的减小就是AFSA算法对GP超参数智能寻优的过程。目标函数值在迭代20—40次时基本处于稳定，迭代200次能够获得较为满意的工程应用要求。表3中的预测残差也表明AFSA优化GP超参数的有效性。

2.2 基坑变形监测的应用

依据文献[19]选取某基坑北侧边坡上监测点的观测数据作为试验数据，其非等间距实测数据见表5。

表5 监测点的实测值

AFSA-GP预测模型中的参数初始化为：人工鱼数目为150，最大迭代次数为200，视野范围为2.5，移动步长为0.3。运用滚动预测方法进行预测时，k取11，P取8，t取1(即学习样本为11、测试样本为3、预测期数为1)。GP核函数分别采用NN、SE和RQ核函数，目标函数为式(9)，求其最小值。利用AFSA-GP预测模型对基坑变形进行预测分析，目标函数值随迭代次数变化的曲线如图2所示，预测结果见表6，预测残差见表7，预测相对误差见表8。

从表6、表7和表8可以看出，AFSA-GP预测模型的预测精度比GP预测模型有了很大的提高。GP预测模型中残差绝对值和最大值为4.90 mm，而AFSA-GP预测模型仅为1.96 mm。NN、SE和RQ 3种核函数平均相对误差都有所提高，其中SE核函数提高最大，为3.38%。GP中最大相对误差为7.33%，AFSA-GP中仅为3.25%。两种预测模型中NN核函数的预测精度高于SE、RQ核函数，表明NN核函数具有很好的预测能力。基于3种核函数的预测相对误差大于3%的，GP总计4个，而AFSA-GP只有1个。