用于变形监测的最小二乘滤波数据处理

李伟东，林 楠,2，刘德利，孙晓磊

1.吉林建筑大学测绘与勘查工程学院，长春 130118 2.吉林大学地球探测科学与技术学院，长春 130026

用于变形监测的最小二乘滤波数据处理

李伟东1，林 楠1,2，刘德利1，孙晓磊1

1.吉林建筑大学测绘与勘查工程学院，长春 130118 2.吉林大学地球探测科学与技术学院，长春 130026

随着全站仪在测量工作中的广泛使用，以坐标为观测值的数据处理成为内业工作的主要内容。根据最小二乘滤波原理，将工程岩土体变形监测中所获得的坐标观测值及其他常规观测值进行联合平差。结果表明，滤波后变形点的点位精度最大可提高1.35 mm，最弱点亦提高0.94 mm，均明显高于直接观测结果，而且各类观测值之间所形成的约束条件进一步增强了平差结果的可靠性。

最小二乘；滤波；变形监测；坐标观测值

0 引言

随着全站仪在测量工作中的广泛使用，以点的坐标为观测值的量测方法逐渐成为测量数据获取的主要形式[1-4]。但是，由于坐标观测值本身的特性，与常规的边长、角度等观测值相比较，空间点与点之间的关系不再具备明显的联系，导致坐标观测值缺乏几何上的多余观测，因而无法用经典平差理论进行相应的数据处理。最小二乘滤波是将平差过程中的全部待估参数均视为随机参数，在已知其先验统计信息的前提下，按照广义最小二乘原理求定参数最佳估值的一种方法。由于其良好的运算性能，该方法近年来已经成为众多学者研究的热点[5-13]。

笔者基于最小二乘滤波原理，提出一种新的变形监测数据处理方法：在全站仪对变形点坐标进行观测的同时，辅之以相应数量的高差、边长或角度等常规观测值；进而选择变形点坐标为随机参数，实现对坐标值的最优估计。由于这种方法可以形成几何条件与观测数量上的多余观测，故对于提高平差结果的精度和可靠性将会产生明显的效果。

1 最小二乘滤波原理

由广义测量平差原理可知，设L为正态随机观测向量，X为系统状态参数(或称信号，服从正态分布)向量。参数X和观测值L具有以下先验统计性质[14-17]：

式中：μx、μL分别代表系统状态参数和观测向量的验前期望；DXX、DLL则表示系统状态参数和观测向量的验前方差矩阵。L和X之间的观测方程满足

式中：B为观测值系数矩阵；Φ为随机误差。且随机误差与未知参数之间的协方差为

现用LX表示X的先验期望μx，即将其视为虚拟观测值、将待求参数X看作是非随机的参数，设它所对应的随机误差为ΦX，此时，三者之间有观测方程：

式中：V和VX分别对应着实际观测值L和虚拟观测值LX的改正数。

2 坐标与其他常规观测值的联合滤波

利用全站仪测得变形点坐标，同时测出工作基点至变形点之间的距离、角度、高差等常规观测值后，就可以按照最小二乘滤波原理，对所有观测值进行联合平差[18-21]。

相应的误差方程为

式中，lX=LX-X0。

其次，由常规测量观测值L及待求参数，可建立误差方程：

式中，l=L-BX0。

将式(8)与式(9)合并，按照广义最小二乘准则，可求得参数改正数：

通过式(7)可计算相应的参数最或是值。此外，除用式(6)计算参数最或是值协方差外，还可由(2)式及协因数传播律，得到

3 算例

图1为某医院建筑基坑变形监测的工作基点与变形点(部分)布置情况示意图。全站仪标称测角精度为2.0″、测距精度为2+2×10-6D(D为对应的观测距离，单位为mm)。以工作基点A(3 020.076,1 096.053 9)为测站，另一基点B(3 001.030 6,1 094.342 9)为后视，测得变形点坐标值见表1。同时以B点为测站，独立观测各变形点间的夹角及测站至变形点间的水平距离(表2)。

图1 变形监测示意图Fig. 1 Schematic diagram of deformation monitoring

点号x/my/m013008.67861107.1862023002.67561107.8724033000.73011108.1799042995.28931108.6104

表2 角度、距离观测值

按照上述最小二乘滤波公式(6)，对测得的观测值进行平差，得到变形点坐标最或是值(表3)。

表3 变形点坐标平差值

为检验这种方法的实际效果，利用标称精度更高的Leica TM30仪器(测角精度0.5″，测距精度为0.6+10-6D)进行了同步观测，并将观测结果近似为变形点坐标的真值，如表4所示。

表4 变形点高精度坐标观测值

Table 4 High-precision coordinate value of deformation points

点号x/my/m013008.67981107.1858023002.67661107.8724033000.73261108.1790042995.29001108.6112

对比表1、表3和表4的结果可以明显看出，经过最小二乘滤波的变形点坐标值更接近TM30的观测数据。如果将表4的观测结果作为真值参照，经过最小二乘滤波后的坐标平差值(表3)好于直接观测结果(表1)。

由全站仪的仪器标称精度及坐标计算公式，依据协因数传播律，在不考虑工作基点点位误差的前提下，可计算得到各坐标观测值的验前协因数阵；进一步地，根据式(11)，则可计算出坐标平差值的协因数。表5给出了变形点坐标的验前和平差后的协因数对比。

表5 变形点坐标滤波前后协因数情况

Table 5 Differences of deformation coordinated factor before and after filtering

点号验前协因数xy平差后协因数xy010.258860.247230.042820.04301020.345590.165030.052290.03451030.362610.149900.061700.03780040.401900.116630.129370.05270

通过坐标点验前和平差后的协因数对比可以明显看出：平差后的坐标协因数结果明显优于其先验值。

平差质量的改善还可以通过精度对比加以体现。根据观测值平差改正数可得单位权中误差：

式中：r为多余观测数。根据表5的坐标协因数评定结果和式(13)，可计算得到各点的点位精度。表6给出了平差前后变形点位精度的对比。

表6 变形点滤波前后精度对比情况

Table 6 Differences of accuracy of point deformation before and after filtering

点号滤波前精度/mm滤波后精度/mm012.280.94022.290.94032.291.01042.301.36

通过表6可以明显看出：由于角度、距离等常规观测值的引入，使滤波后变形点的点位精度得到明显提高。其中，提高幅度最大的点达到1.36 mm，最小的点亦达到0.94 mm。同时，因一定数量的常规观测值参与滤波后，使各类观测值之间形成几何约束，进一步增强了平差结果的可靠性。

4 结论与建议

随着全站仪在测量工作中的普遍使用，以坐标为观测值的数据采集与处理逐渐成为测量内业的主要内容。在变形监测中采用最小二乘滤波进行数据处理，将坐标观测值视为具有先验统计信息的随机参数，与边长、角度等常规观测值进行整体解求，不仅能通过增加多余观测而提高待定点的精度，还可以利用常规观测值与坐标参数之间所形成的约束条件提高待定点坐标最或是值的可靠性，从而在实际应用中会收到很好的效果。同时，由于该方法不仅考虑到待估随机参数的先验统计特性，而且数据处理过程仍然采用最小二乘估计准则，故与经典测量平差方法相比较，其数据处理过程较为相似，公式内容也比较容易理解，对于类似的工程应用和数据处理，具有较高的借鉴意义和应用价值，适于在相近的测量工作中推广。

[1] 李宏男，伊廷华，伊晓东，等.采用GPS与全站仪对大跨斜拉桥进行变形监测[J].防灾减灾工程学报, 2005, 25(1):8-13. Li Hongnan, Yi Tinghua, Yi Xiaodong, et al. Integration of GPS and Total Station Technology for Deformation Monitoring of Long-Span Bridge[J]. Journal of Disaster Prevention and Mitigation Engineering, 2005, 25(1):8-13.

[2] 陈子进，吴斌，梅连友. 全站仪坐标差分法在高边坡变形监测中的应用[J].重庆建筑大学学报, 2005, 27(3):130-135. Chen Zijin, Wu Bin, Mei Lianyou. Application of Coordnate Difference Method in Safe Monitor of High Slope with Total Station Actively[J]. Journal of Chongqing Jianzhu University, 2005, 27(3):130-135.

[3] 高俊强，陶建岳. 利用免棱镜全站仪进行地铁隧道断面测量与计算[J].测绘通报,2005 (10):41-43. Gao Junqiang, Tao Jianyue. Profile Survey and Computation of the Subway Tunnel Using Total-Sation Instrument Without Prism[J]. Bulletin of Surveying and Mapping, 2005(10): 41-43.

[4] 张伟，李会青，洪树生. 全站仪非固定站差分法监测深基坑坑壁位移[J].测绘通报, 2002(10):45-48. Zhang Wei, Li Huiqing, Hong Shusheng. Application of Difference-Method to Safe Monitoring of Deep Pit Setting with Total Station Actively[J]. Bulletin of Surveying and Mapping, 2002(10):45-48.

[5] Wu Yun, Guo Jiming. Single Point Positioning with Sequential Least-Squares Filter and Estimated Real-Time Stochastic Model[J]. Geo-Spatial Information Science, 2002, 11(1):13-16.

[6] 李金刚，赵勇，郭戈，等.最小二乘滤波在某型火控系统信息处理中的应用[J].指挥控制与仿真, 2006, 28(3): 76-79. Li Jingang, Zhao Yong, Guo Ge, et al. Application of Least Squares Filtering in the Information Processing in Fire Control System[J]. Command Control & Simulation, 2006, 28(3): 76-79.

[7] 柴洪洲，崔岳，明锋. 最小二乘配置方法确定中国大陆主要块体运动模型[J].测绘学报, 2009, 38(1):61-65. Chai Hongzhou, Cui Yue, Ming Feng. The Determination of Chinese Mainland Crustal Movement Model Using Least-Squares Collocation[J]. Acta Geodaetica et Cartographica Sinica, 2009, 38(1): 61-65.

[8] 姚宜斌，陶本藻. 基于最小二乘配置的GPS网平差模型及其应用[J].测绘学院学报, 2003, 20(1):4-6. Yao Yibin, Tao Benzao. The Adjustment Model of GPS Network with Least Squares Collocation[J]. Journal of Institute of Surveying and Mapping, 2003, 20(1): 4-6.

[9] 邹贤才，李建成. 最小二乘配置方法确定局部大地水准面的研究[J].武汉大学学报：信息科学版, 2004, 29(3): 4-6. Zou Xiancai, Li Jiancheng. A Local Geoid Determination Using Least-Squares Collocation[J]. Geomatics and Information Science of Wuhan University, 2004, 29(3): 4-6.

[10] 蓝悦明，陶本藻. 数字化曲线的最小二乘配置[J].测绘通报, 2004(5):1-3. Lan Yueming, Tao Benzao. Least Squares Collocation of Digitized Curve[J]. Bulletin of Surveying and Mapping, 2004(5): 1-3.

[11] 李成仁，岳东杰，丁旭，等.最小二乘配置及多面函数法在高程异常推估中的应用比较[J].勘察科学技术, 2013(3):40-42. Li Chengren, Yue Dongjie, Ding Xu, et al. Application and Comparison of Least Squares Collocation and Multi-Surface Functions Method in Height Anomaly Estimation[J]. Site Investigation Science and Technology, 2013(3):40-42.

[12] 姚道荣，钟波，汪海洪，等.最小二乘配置与普通Kriging法的比较[J].大地测量与地球动力学, 2008, 28(3): 77-82. Yao Daorong, Zhong Bo, Wang Haihong, et al. Comparison Between Least Square Collocation and Ordinary Kriging[J]. Journal of Geodesy and Geodynamics, 2008, 28(3): 77-82.

[13] 黄建平，薛志广，步长城，等.基于裂步DSR的最小二乘偏移方法[J].吉林大学学报：地球科学版, 2014, 44(1): 369-374. Huang Jianping, Xue Zhiguang, Bu Changcheng, et al. The Study of Least-Squares Migration Method Based on Split-Step DSR[J]. Journal of Jilin University: Earth Science Edition, 2014,44(1): 369-374.

[14] 王新洲. 广义平差的概括模型[J].武汉测绘科技大学学报, 2000, 25(3):257-260. Wang Xinzhou. The Comprehensive Model of Generalized Surveying Adjustment[J]. Journal of Wuhan Technical University of Surveying and Mapping, 2000, 25(3): 257-260.

[15] 崔希璋，於宗俦，陶本藻，等.广义测量平差[M].武汉:武汉大学出版社,2009. Cui Xizhang, Yu Zongchou, Tao Benzao, et al. Geo-Spatial Information Science[M]. Wuhan: Wuhan University Press, 2009.

[16] 陶本藻. 测量数据处理的统计理论和方法[M].北京:测绘出版社,2007. Tao Benzao. Statistic Theory and Method of Surveying Data Processing[M]. Beijing: Surveying and Mapping Press, 2007.

[17] 王新洲，陶本藻，邱卫宁，等.高等测量平差[M].北京:测绘出版社,2010. Wang Xinzhou, Tao Benzao, Qiu Weining, et al. Advanced Surveying Adjustment[M]. Beijing: Surveying and Mapping Press,2010.

[18] 刘国林. 近代测量平差理论与方法[M].徐州:中国矿业大学出版社,2012. Liu Guolin. The Principle and Methods of Modern Adjustment of Surveying[M]. Xuzhou: China University of Mining and Technology Press, 2012.

[19] 黄杰. 最小二乘滤波推估与配置的应用研究[J]. 桂林工学院学报, 1995, 15(1):97-103. Huang Jie. Study of Application of Least-Squares Filtering, Predication and Collocation[J]. Journal of Guilin Institute of Technology, 1995, 15(1):97-103.

[20] 赵龙，陈哲. 新型联邦最小二乘滤波算法及应用[J].自动化学报, 2004, 30(6):897-904. Zhao Long, Chen Zhe. A New Type of Federated Least Square Filtering Algorithm and Its Application[J]. Acta Automatica Sinica, 2004, 30(6):897-904.

[21] 周一宇. 阻尼的非线性最小二乘滤波算法[J].国防科技大学学报, 1990, 12(4):103-107. Zhou Yiyu. Damped Nonlinear Squares Filtering Algorithm[J]. Journal of National University of Defense Technology, 1990, 12(4):103-107.

Data Processing of Deformation Monitoring Based on Least Square Filtering

Li Weidong1, Lin Nan1,2, Liu Deli1, Sun Xiaolei1

1.College of Surveying and Prospecting Engineering, Jilin Architecture University, Changchun 130118,China 2.College of GeoExploration Science and Technology, Jilin University, Changchun 130026,China

Total station is widely used in various measurements coordinates as the observation values play an important role in the data processiong. The authors adjusted the coordinate observation values combined with other conventional observations deformation data using the least square filter. The results indicated that the precision was obviously improved with the 1.35 mm decrease of maximum point error and 0.94 mm decrease of the weakest point error, and the constraints of different observation also increased the reliability of the least square filter adjustment.

least square; filtering; deformation monitoring; coordinate value

10.13278/j.cnki.jjuese.201406307.

2014-04-18

吉林省科技发展计划项目(20120437)；国家自然科学基金项目(41072244)

李伟东(1967--)，男，副教授，主要从事测量误差理论及变形监测研究，E-mail:349127577@qq.com

林楠(1984--)，男，讲师，主要从事工程变形监测及地学信息工程研究，E-mail:linnanzc@126.com。

10.13278/j.cnki.jjuese.201406307

P642.3

A

李伟东，林楠，刘德利，等. 用于变形监测的最小二乘滤波数据处理.吉林大学学报:地球科学版,2014,44(6):2068-2072.

Li Weidong, Lin Nan, Liu Deli, et al. Data Processing of Deformation Monitoring Based on Least Square Filtering.Journal of Jilin University:Earth Science Edition,2014,44(6):2068-2072.doi:10.13278/j.cnki.jjuese.201406307.