组合去噪分析-趋势分析在路基沉降监测数据分析中的应用

2019-04-16苏昭

中外公路 2019年4期

苏昭

( 陕西铁路工程职业技术学院，陕西渭南 714000)

中国黄土具有厚度大、孔隙率高、可溶盐含量高等特点，黄土路基沉降问题日益突出，对其研究具有重要意义。许多学者已对黄土路基沉降问题进行了研究，孙书伟等利用有限差分软件构建了高填土下卧黄土层路基的三维沉降计算模型，探讨了不同影响因素对路基沉降的影响，分析了路基不均匀沉降的原因和模式；屈耀辉等对黄土地区的路基沉降控制措施进行了系统研究，经工程使用和时间检验，验证了各项控制措施的有效性；张帆宇等通过构建三次平滑模型，对路基沉降进行预测，验证了该模型具有操作简单、适用性强等优点。上述研究虽取得了相应的成果，但未涉及路基沉降变形趋势的分析，也缺少Mann-Kendall检验和Bartels检验的应用。同时，根据文献[4-8]的研究成果，路基沉降数据往往含有一定的误差信息，对准确分析变形趋势具有较大的影响，需对监测数据进行去噪处理研究。因此，该文基于路基沉降监测数据，提出数据预处理方法，并构建去噪体系及趋势判断体系，以期对黄土路基沉降进行准确的变形趋势研究。

1 基本原理

1.1 论文思路

该文旨在通过引入多种模型，构建系统、全面的评价体系，实现对路基沉降变形趋势的准确判断，其基本步骤分述如下：

(1) 通过t检验准则及保形插值函数对路基监测数据的预处理，即利用t检验对监测数据进行奇异值检验和剔除，再利用保形插值函数进行等距化处理，为后期分析奠定准确的数据基础。

(2) 采用小波去噪、奇异谱分析、EMD滤波和卡尔曼滤波构建监测数据的去噪体系，通过组合去噪，实现剔除原始监测数据误差信息的目的。

(3) 利用Mann-Kendall检验和Bartels检验对路基沉降的变形趋势进行判断，相互对比两种检验结果的一致性，以佐证检验结果的准确性。

1.2 监测数据的预处理

结合工程实际，受观测条件等不确定因素的影响，监测数据往往具有突变、异常、非等距的特点，因此，有必要对原始监测数据进行奇异值剔除处理和等时距处理。

在奇异值的处理过程中，主要包含两个方面，一是对奇异值的检验，即确定奇异值；二是对奇异值进行剔除，并确定该节点处的替代值，具体过程分述如下：

(1) 将预处理序列表示为{x1,x2,…,xn}，若其中任意节点满足下式，则确定该节点为奇异值。

|xi-x′|>K(a,n)·σ

(1)

式中：x′为预处理序列的平均值；σ为预处理序列的标准差；K(a,n)为置信水平a和测量次数n综合确定的系数，即K(a,n)=abs{tinv[(1-a)/2,n-2]}·sqrt[n/(n-1)]。

(2) 若确定某一节点为奇异值，则将其剔除，并利用其前后两节点的监测值综合确定替代值。其中，若相邻节点的监测时间等距，则将两相邻节点的监测值均值作为替代值；反之，通过两相邻节点的监测时间和监测值确定两相邻节点(i-1,i+1)范围内的沉降线性变化曲线，并根据奇异值的监测时间i确定替代值。

同时，针对监测数据不等距的情况，以保形插值对实测数据进行插值拟合，再将拟合曲线划分为若干等距区间，实现监测数据的等距处理。

1.3 构建去噪体系

去噪方法较多，且各种方法的基本原理不同，去噪效果也各有优劣，为保证去噪效果，该文提出以小波去噪、奇异谱分析、EMD滤波和卡尔曼滤波为基础去噪模型，构建综合、全面的去噪体系，再构建综合评价指标，确定出各基础去噪模型的组合权值，实现路基沉降监测数据的组合去噪。

小波去噪是选择合适的小波函数，将预去噪信号进行分解，再利用相应阈值进行处理，保留阈值以内的信号，并将其重构，以达到去除误差信息的目的，其基本原理已在相关文献详述，不再赘述。但在去噪过程中，小波函数、阈值选取标准、阈值选取方法及分解层数等对去噪效果都有较大的影响，并提出采用逐步试算法确定最优去噪参数，试算过程为：① 先设定阈值选取标准和分解层数为启发式阈值和10层分解，探讨不同阈值选取方法的去噪效果，即确定最优阈值选取方法；② 依然设定分解层数为10层，探讨不同阈值选取标准的去噪效果，确定出最优的阈值选取标准；③ 探讨不同小波函数在不同分解层数下的去噪效果，确定最优分解层数和小波函数。其中，小波函数采用sym小波系，共计有9种小波函数；阈值选取方法有两种，即软阈值和硬阈值；阈值选取标准共有4种，即无偏估计阈值、启发式阈值、固定式阈值和极大极小阈值；小波分解层数的试算层数为6、8、10、12和14层。

奇异谱分析、EMD滤波和卡尔曼滤波也已被广泛应用，限于篇幅，也不再赘述其基本原理。

同时，去噪效果的评价指标较多，该文提出以信噪比、均方根误差和平滑度指标作为基础指标，构建综合评价指标，实现去噪效果的综合评价，且各基础指标的求解过程如下：

(1) 信噪比。该指标是原始信号功率与误差信号功率间的比值，其表达式为：

(2)

式中：SNR为信噪比；powersignal为原始信号的功率；powernoise为误差信号的功率。

在评价过程中，信噪比越高，说明去噪效果越好，反之则越差。

(2) 均方根误差。该指标是原信号与去噪后信号间方差的平方根，其表达式为：

(3)

式中：RMSE为均方根误差；f(i)为原始样本；f′(i)为去噪后样本；n为样本总数。

在评价过程中，均方根误差越小，说明去噪效果越好，反之则越差。

(3) 平滑度指标。该指标是去噪后信号与原始信号的差分数的方差根之比，其表达式为：

(4)

式中：r为平滑度指标。

在评价过程中，平滑度指标越小，说明去噪效果越好，反之则越差。

在综合指标的构建过程中，先将均方根误差和平滑度指标进行倒数处理，再将两参数的倒数值及信噪比进行归一化处理，三者累计即得到去噪分析的综合评价指标，其值越大越好。同时，根据综合评价指标，综合确定4种去噪方法的组合权值，进而求得组合去噪结果。

1.4 构建趋势判断体系

为充分研究路基沉降的变形趋势，保证分析结果的准确性和稳定性，将Mann-Kendall检验(简称：M-K检验)和Bartels检验引入到路基沉降变形趋势判断中，两种方法的基本原理如下：

(1) Mann-Kendall检验

M-K检验是一种非参数检验方法，对非线性序列具有较好的趋势性检验效果。在检验过程中，零假设为各检验样本分布相同且相互独立；而备择假设是双边检验，即对i,j≤n，且i≠j，则xi和xj的分布是不相同的，则初步统计量S为：

(5)

同时，S统计量需服从E(S)=0，方差var(S)=[n(n-1)(2n+5)]/18的正态分布，进而得到S统计量进行标准的统计变量ZM-K为：

(6)

在相应a显著水平上，若|ZM-K|

由上述可知，当检验水平a值不同时，检验结果的显著性也具有差异，因此，根据不同的检验水平，将趋势判断的显著性进行划分，如表1所示。

表1 M-K检验的显著性划分

在M-K检验过程中，ZM-K为正值时，检验样本的发展趋势呈上升趋势，反之发展趋势呈下降趋势，且ZM-K值越大，显著性越强，趋势性也越强。

(2) Bartels检验

Bartels检验是Robert Bartels于1982年提出的，其初步统计量为：

(7)

式中：RVN为Bartels统计量；Ri为第i个样本的秩次；R′为所有秩次的均值；T为样本容量。

同时，RVN渐进服从正态分布N(2,4/T)，进而可得到Bartels检验的P值为：

P=2×min[pnorm(RVN′),1-pnorm(RVN′)]

(8)

(9)

式中：min(*,*)为最小函数；pnorm(*)为小于该数的正态分布概率值。

同时，也通过显著性水平的不同，对Bartels检验的变异程度进行划分，如表2所示。

表2 Bartels检验的变异程度划分

在Bartels检验过程中，P值越小，变异程度越高，说明评价序列维持原有发展趋势的能力越强。

2 实例分析

2.1 工程概况

阎家锋路段属山西市政公路，路基位于黄土地区，属黄土填料高填方路基，海拔高度800～870 m，南向北建设，全长约10.65 km。区内地形由北向南逐渐降低，具黄土丘陵地貌。受地形限制影响，需进行大量深挖高填，其中，填方高度较高，且填土具湿陷性，因此应加强填方工程的质量控制。结合工程实际，高填路基的施工步骤如下：① 先将30 cm地表土清理掉，再向下超挖2 m，并对超挖后的路基顶面进行重锤夯实，且夯实处理深度应大于1 m；② 在处理后的路基顶面上铺设1 m厚的灰土，并进行压实处理；③ 利用振动压路机进行分层压实，且松铺厚度应小于30 cm；同时，每填筑3 m后，用重锤夯实填土3遍，且前两遍为梅花形点夯，最后一遍为满夯；④ 在填筑至路床下1 m时，采用灰土填筑并压实。

填筑过程中，虽采取了多种手段或方法来控制填筑质量，但鉴于路堤沉降期的限制，路堤仍有可能发生沉降变形，进而影响后期公路的正常施工及运营。因此，为掌握路堤填筑效果，对其进行了沉降监测，其中，K4+000～K4+360段为高填方路段，填方高度为18～30 m，加之该段范围内的填土和地基土均具有湿陷性，因此，有必要对该路段进行沉降监测。其中，K3Z、K3D及K3X共3个监测点共计监测了355 d，由于监测数据具有非等距特点，因此，利用t检验和保形插值对监测数据进行预处理，并将其等分为20个周期，每个周期为17.75 d，经预处理后的路基沉降变形曲线如图1所示。

为进一步分析路基沉降的变形特征，再对沉降速率序列的特征参数进行统计，如表3所示。根据表3，3个监测点的变形速率最值存在一定的差异，说明3个监测点的环境条件或变形规律具有一定的不同，且以K3X监测点的波动性最大，其次是K3Z监测点和K3D监测点；同时，3个监测点的平均变形速率也具有一定的差异，以K3X监测点的平均变形速率最大，其次是K3Z监测点和K3D监测点。上述各监测点变形速率的波动性从侧面说明路堤沉降变形数据包含有噪声，有必要对其进行去噪处理。

图1 路基沉降变形曲线

表3 路基沉降变形速率的特征参数统计

2.2 去噪分析

为进一步剔除监测数据中的误差信息，对路基沉降数据进行系统的组合去噪，限于篇幅，该文以K3Z监测点为例，详述去噪过程。首先采用小波去噪处理，且在去噪过程中，利用试算法逐步确定最优去噪参数。根据前文去噪思路，先设定阈值选取标准为启发式阈值，分解层数为10层，得到不同阈值选取方法的去噪效果如表4所示。

表4 不同阈值选取方法的去噪效果对比

据表4可知：在相应小波函数处，均以硬阈值的综合评价指标值相对更高，且硬阈值和软阈值的综合评价指标均值分别为2.331和2.187，说明硬阈值的去噪效果相对更优。因此，将硬阈值作为该文的阈值选取方法。

同时，仍将分解层数设定为10，探讨不同阈值选取标准的去噪效果，结果如表5所示。据表5可知，不同阈值选取标准的去噪效果差异较大，得出通过试算确定最优阈值选取标准的必要性；对比不同标准的去噪结果可知，启发式阈值的综合评价指标值的均值为2.331，去噪效果最优，其次是固定式阈值、无偏估计阈值和极大极小阈值。因此，该文通过试算确定阈值选取标准确定为启发式阈值。

表5 不同阈值选取标准的去噪效果对比

最后，再通过试算法确定最优分解层数，且试算层数为6、8、10、12和14层，结果如表6所示。

表6 不同分解层数的去噪效果对比

由表6可知：当小波函数和分解层数不一致时的去噪效果也具有明显差异，说明小波函数、分解层数对去噪效果的影响较大，进一步说明试算法确定最优去噪参数的必要性；对比各分解层数的去噪效果，得出12层分解时的去噪效果相对最优，6层分解时的去噪效果相对最差；对比各小波函数的去噪效果，得出随小波阶次的增加，去噪效果先变好后变差，其中，以sym7小波函数在12层分解时的去噪效果最优，其综合评价指标值为2.642。

通过上述研究，得出小波去噪的最优去噪参数为：硬阈值的阈值选取方法、启发式阈值的阈值选取标准、sym7的小波函数和12层的分解层数。

根据去噪体系的思路，再利用奇异谱分析、EMD滤波和卡尔曼滤波进行去噪分析，结果如表7所示。

表7 不同方法的去噪效果对比

由表7可知：不同去噪方法的去噪效果各有差异，说明该文通过多种去噪方法来确定组合去噪结果的思路是可行且必要的；对比3种去噪方法的结果可知，卡尔曼滤波的去噪效果相对最优，其次是EMD滤波和奇异谱分析。

再通过对各去噪方法的综合评价指标进行归一化处理，得到K3Z监测点的小波去噪、奇异谱分析、EMD滤波和卡尔曼滤波的组合权值分别为[0.264 8 0.243 2 0.245 4 0.246 6]。

类比上述去噪过程，确定监测点K3D和K3X的组合权值为：

通过对各监测点的组合去噪处理，最大限度地保留了监测数据的有效信息，为后文趋势分析奠定了基础；同时，验证了各种去噪方法在路基沉降数据中的去噪效果，为类似工程应用积累了经验。

2.3 变形趋势分析

采用Mann-Kendall检验和Bartels检验对路基沉降序列进行变形趋势分析，且为对比去噪处理对检验结果的敏感性，对路基沉降的原始序列和去噪处理后的序列均进行检验；同时，为实现路基沉降序列的全面分析，也对路基沉降的累计变形序列和沉降速率序列均进行检验。

(1) M-K检验分析

结合M-K检验的基本原理，对各监测点的相应序列进行检验，结果如表8所示。对比去噪前后各监测点相应序列处的ZM-K值，得出去噪后序列的ZM-K值的绝对值均出现了不同程度的减小，说明通过去噪处理能减弱序列变形的趋势性；各监测点的累计沉降序列均为正值，而沉降速率序列均是负值，说明路基沉降的累计变形将会持续增加，但增加幅度趋于减小；在累计沉降序列中，K3D监测点的显著性相对最强，其次是K3X和K3Z，而在沉降速率序列中，K3X监测点的显著性相对最强，其次是K3Z和K3D，得各监测点在不同序列的趋势性具有差异，体现了该文通过两序列进行综合趋势分析的必要性。

表8 M-K检验的结果统计

(2) Bartels检验

再利用Bartels检验对路基的沉降序列进行趋势分析，结果见表9。由表9可知：通过去噪处理，各监测点的P值均出现了不同程度的增加，变异程度也趋于减弱，说明去噪处理能减弱序列变形的趋势性，与M-K检验结果一致；由于各监测点的P值不同，说明各监测点维持原有变形趋势的能力具有差异，在累计沉降变形序列中，K3D监测点的变异程度相对最强，其次是K3X和K3Z，而在沉降速率序列中，K3X监测点的变异程度相对最强，其次是K3Z和K3D，也与M-K检验结果相符，说明两种检验方法均能很好地判断路基沉降的变形趋势，验证了两种方法的有效性。