NASEW在钱塘江海塘沉降观测数据处理中的应用

胡锋涛,凌 佳,郭 晨

(浙江省河海测绘院,浙江 杭州 310008)

1 问题的提出

目前,精密水准测量数据的记录、处理、检验和平差大多由人工结合计算器来完成,大量数据使计算变得繁琐、复杂,容易出错且不易发现,对数据的检查增加了数据处理的负担[1]。NASEW适用于任意形式、任意规模的高程控制网的概算、平差和精度评定,将NASEW应用于精密水准测量的数据处理中,可使数据处理过程一体化,达到事半功倍的效果。

2 NASEW系统主要功能

NASEW,即工程测量控制网平差系统(Networks Adjustment of Surveying Engineering for Windows),其主要功能:

(1)适用于任意形式、任意规模的平面和高程控制网的概算、平差和精度评定,无需编码;

(2)具有广泛兼容性,支持各种数据采集方式 (全站仪、便携机、掌上机、手工录入等),具有直接输入、表格输入及数据编辑功能,具有多种格式的数据调入功能,以测站为单元任意输入数据;

(3)具有数据概算功能,归心改正功能,高斯改化功能;

(4)平差功能具有单次平差、迭代平差、验后定权、多粗差剔除等多种平差方法;可解未知量2 000个,不等精度混合平差、秩亏及拟稳平差;

(5)精度分析功能,自动求解控制网的各种路线闭合差,提供可靠性分析、灵敏度分析等功能;

(6)网图的动态显示功能,能自动生成各种误差椭圆网图;

(7)提供多种式样的平差、精度分析报告,并可输出Excel格式文件;与打印机和纸张自适应的网图打印、成果打印功能。

3 高程控制网的处理流程

高程控制网处理的基本过程是数据输入、计算方法选择、概算、闭合差计算、平差、精度评定、成果输出(见图1)。

图1 高程控制网处理的基本流程图

3.1 数据输入

数据输入分为从数据文件读入和直接录入2种方式。凡符合NASEW系统约定数据格式的文件均可读入,观测数据的录入有多种方式。NASEW为手工数据输入提供了一个电子表格,以站为基本单元进行操作。对习惯于文本格式输入的用户,NASEW提供了文本编辑窗口。

3.2 计算方法选择

选择坐标概算或平差时的各种参数和方法。

3.3 概 算

完成全网的坐标、高程概算,归心改正,观测值改化,投影改化等,并能计算控制网的各种路线闭合差,以方便对观测质量的评价和粗差定位。

3.4 平 差

首先应定义单位权中误差等基本定权量。对小型网只做简单的单次平差;对大型网或复杂网,NASEW提供了多种平差方法,以满足不同的需要。

3.5 精度评定

NASEW对所有点和边进行精度评定,还可对用户指定的边进行评定。

3.6 成果输出

输出成果表、图形和文件,并可以打印。根据打印机和纸张的设置,以及所选的字体,NASEW自动设计和调整每页输出的内容和行数等,并提供了模拟预览功能。网图打印时,NASEW保证网格的精度。

4 工程实例

钱塘江是举世闻名的涌潮河口,潮大流急,涌潮汹涌,含沙量高,泥沙易冲易积,河床冲淤剧烈,主槽摆动频繁,属典型的河口三角洲地貌和世界上复杂的河口之一;新中国成立前的40 a间,海水吞噬了数万亩良田。20世纪60年代以前,大缺口附近,主槽摆动幅度达23 km,最快的1 a,从南到北,摆动了22 km,最快的1昼夜,岸滩崩塌245 m,并把清乾隆年间修建的海塘冲出了1个数百米的缺口,新中国成立后对海塘进行过多次加固维修,2000年以后陆续在钱塘江南北岸建成了标准海塘,为了保证海塘塘体安全,掌握它的变化情况,及时发现问题,以便采取措施,海塘变形(沉降)观测是监控海塘发生变化的有效手段之一。

浙江省河海测绘院进行了钱塘江杭州段省管海塘沉降观测,在钱塘江杭州段部分省管海塘布设水准路线,江北岸:珊瑚河闸—三堡船闸 (14.100 km)、五堡—七格(8.300 km);江南岸:茅山闸—龙山化工厂(19.451 km)、钱江四桥—射潮广场(1.830 km)、西兴码头—七甲上游(0.800 km)、九上顺坝盘头—乌龟山(8.400 km)。每次作业的所有观测技术均符合要求且数据获取真实、有效,作业完成后对数据进行规范处理。按上述步骤进行数据的整理,整理后导入数据,进行概算和平差得到最终成果。

沉降观测属于高精度工程测量,为了精确地反映钱塘江海塘沉降指标参数,在具体实测过程中使用Trimble DiNi12高精度电子水准仪(往返中误差为±0.3 mm/km)和沉降观测专用铟合金水准尺,由专业技术人员进行观测。沉降观测基准点和观测点布设严格按照JGJ 8—2007《建筑变形测量规范》 和GB 500262—93《工程测量规范》 要求设置,仪器检校和线路观测按照相应精度等级测量程序操作[2]。

4.1 NASEW格式数据输入

对数据进行输入与编辑管理是NASEW系统的中心任务。除在控制点区、测站区、观测区3个编辑窗口中直接的输入与编辑操作外,还有“文本编辑窗”的输入管理方式。

Trimble DiNi12电子水准仪观测所得成果为DAT格式文件,将该成果文件用 Excel打开,并将“reading”、“#####” 、“Measurement” 、“Station” 的多余数据删除,然后使用Excel的基本功能将各监测点之间的高差和距离计算出来并整理成NASEW所需格式,最后保存成文本格式 (*.txt)文件(见图2)。

＜＜＜＜后视点点号 前视点点号 h0 高差值前视点点号 l0 距离值…… …… …… ……

说明:开头添加 “＜＜”符号为NASEW格式所需;“h” 和 “l” 表示观测值类型 (高差、 距离);

“0” 表示观测值属性 (“0” 表示待定,“1” 表示固定,“2” 表示拟稳,“7” 表示无效)。

例:

图2 导入NASEW的原始数据图

将上述文本格式文件导入NASEW,即选择主界面“文件”菜单下的 “导入”功能,导入文本格式的原始数据,或者可以将上述数据部分直接复制粘贴到“编辑”菜单下的“文本编辑窗”中的第4行。若在导入时出现漏输或多输时,可在主界面 “编辑” 菜单下选择“增加控制点”或“删除控制点”,并根据实际在控制点区选中所需更改的测站点后在主界面测站区菜单内输入或修改对应选项 (格式、照准点、类型、属性、观测值、误差)的值,最后在此窗口检查核对各测站点的各项信息,确保无误。系统自身也会进行有效性检查 (距离＞0.0;水准路线测站数＞0;水准路线长＞0),每当系统发现有明显的错误时,都将弹出相应的错误提示窗口,告诉用户错误发生的地点、原因和处理方法等。此步骤仅将所需处理的数据正确导入NASEW,为下面的概算和平差做好准备。

4.2 整体概算及平差

4.2.1 确定计算方案

在整体概算及平差前必须确定平差方案,输入概算及平差时的各种参数,即选择主界面 “数据处理”菜单下的“计算方案”,根据要求在 “工程”菜单下选择“平差”方法,“高程网”网型,并输入闭合差计算限差倍数的参数(限差=闭合差计算限差倍数×观测值先验中误差,根据规范及测量平差知识该值默认为2)后选择 “应用”,接着根据实际在 “概算”菜单下的“高程网概算” 中输入大气折光系数,然后在 “平差”菜单下 “平差”中选择平差方法和迭代次数。对高程平差的方法可以选择:

(1)单次平差:仅进行1次普通平差,不进行粗差分析;

(2)丹麦法:是一种指数形式的由改正数定权的稳健迭代权法平差;

(3)带权探测法:由标准化残差定权的稳健迭代权法平差;

(4)HUBER法:由改正数定权的稳健迭代权法平差;

(5)周江文法:由改正数确定变权或剔除的稳健迭代权法平差;

(6)多粗差后剔:由标准化残差逐次剔除粗差的向后剔除法;

(7)纯迭代平差:不修改权而仅有新坐标修正误差方程的迭代法;

(8)验后定权法:不同类观测值混合平差时由各类测值的验后方差确定相应类权的平差方法。

对于迭代次数的输入可由用户指定,而系统终止迭代的条件为:达到迭代次数或本次平差后单位权中误差与前次平差后单位权中误差之差小于先验单位权中误差的1/100。最后在观测先验值中选择观测值类型,高程网等级,输入直、间接高差观测先验误差值。观测值类型有零类观测值和4类观测值之分,两者是不等精度的观测值,但两者都需确定观测先验误差值,系统将据此来确定权。水准测量(或三角高程)则根据规范只需确定直接(或间接)高差观测先验值。若高程网中既有水准测量,又有三角高程测量,即进行不等精度混合平差时,直接、间接高差观测先验误差值都需输入。

4.2.2 概 算

NASEW所能提供的概算内容有:通过已知点高程和观测值计算待定点(监测点)的高程,能计算不同路线的路线闭合差等参数。

计算方案确定后,根据实际输入已知点高程属性(“1”)和高程值。然后进行整体概算,在主界面的“数据处理”菜单下选择“坐标概算”中的“整体概算”,即通过已知点高程值和观测值计算出待定点的高程。若概算过程中发现错误时,进行修正后可直接选择“整体概算”,无需再次输入已知点高程和观测值,此项概算不改变观测值和已知点高程,而只重算所有待定点的高程值。

闭合差的种类根据路线的不同分为附和路线闭合差和闭合路线闭合差。在整体概算后选择“数据处理”菜单下的“闭合差计算”,此时弹出新窗口“闭合差信息”。该窗口的信息内容有:线路类型、闭合差、权倒数、限差、是否超限和观测值中误差等信息,并将此窗口以“*.clo”文件格式保存,查看时以文本格式打开。

4.2.3 平 差

平差所采用的方法为间接平差[3],由于在确定计算方案时已经将平差的方法、高程网等级、先验误差等参数设定完成,因此,在概算后可直接选择 “数据处理”菜单下的 “平差”操作进行平差。平差的同时系统自动对所有点进行点位误差(高程)、点间误差(高差中误差)的评定。

平差进行中系统随时报告平差的进展情况,如预处理、正在某次迭代等。若平差成功,系统报告平差后各观测量的验后中误差。若失败,则系统报告失败的原因:

(1)预处理出错。检查概算是否完成,是否有非法观测值等;

(2)组法方程失败。可能有非法观测值,或同点不同名等情况;

(3)必要观测数不够。平差要求至少有1个多余观测值,精度估算要求观测数与必要观测数至少相等;

(4)法方程解算失败。可能是某个待定点上的必要观测数不够等。

4.3 成果的查询与输出

平差完成后,可进行平差成果的查询:在主界面的“查看”菜单下可以查看 “基本精度表”、“点位精度表”、“点间精度表”,其中基本精度表包括:单位权中误差、直接高差误差、间接高差误差(水准测量该值无效)、最弱点点位中误差、最弱相邻点相对点位中误差;点位精度表包括各监测点的点位中误差;点间精度表包括各相邻点相对点位中误差。

最后根据实际进行成果输出:在主界面的“文件”菜单下的“输出成果”中可以将“控制点成果”、“观测值成果”中的“水准测量成果表”,“精度成果”中的“高程点位误差表”和 “高程点间误差表”,“基本精度表”这5项成果一一输出,并另存为文本格式文件。

4.4 其 它

在主界面的 “编辑”菜单下有 “表格设置”和 “编辑设置”2个重要功能。表格设置可对电子表格的式样,包括字体、背景色、字体背景色、字体颜色、字体对齐方式、表格线和表格行高等参数的设置;编辑设置可设置当前各区电子表格中记录的字段名称、类型和小数位数,还能设置是否可以在观测区增加新控制点,当选择禁止时,只允许编辑已有控制点的观测值,而不允许增加新观测点。有时为了安全,可在控制点区一次性输入所有点名,然后设置“禁止观测区增加控制点”,以禁止在控制点区和测站区产生新点,防止产生错误点名。

4.5 高程控制网平差后数据统计

根据NASEW系统计算监测点高程值,其目的就是得出监测点单次沉降量S、累计沉降量D等各项海塘沉降观测技术指标参数,并汇总资料。

4.5.1 监测点高程计算值H

式中:Ho为沉降观测基准点的高程值(m);Eh为沉降点的累计平差高差值(m)。

4.5.2 监测点沉降量S

式中:Hi为沉降点本周期的高程计算值(m);Hj为沉降点上周期的高程计算值(m)。

从上述2式可知,沉降监测成果中的误差成线性累计的变化特征。根据误差传播定律和水准测量中误差知识[4]:

(1)单位权中误差为每公里或每站高差中误差。高程网单位权指零类直接高差 (一般指水准测量高差)的权。单位权中误差均不得为零,若用户置为零,系统将强制赋予默认值:0.010 m(零类直接高差中误差)。

(2)直接高差(类值为h的高差,一般指水准测量的高差)中误差为每公里或每站高差中误差。权值为1/(路线长(km))或1/(站数)。因此,该值与单位权中误差相等。

(3)间接高差(类值为＄的观测值,一般指可由三角高程或高程导线测量计算出的高差)中误差为每km高差中误差。权值为1/(距离的平方)。

(4)沉降监测点i的高程中误差为:

式中:M0,M1,M2……Mi-l为监测点i之前接测的各监测点的高程中误差。

(5)沉降监测点i和沉降监测点j之间沉降量观测中误差为:

式中:Mi和Mj分别为监测点i和监测点j的高程中误差。

在实际操作过程中,监测点沉降量计算公式可以有效地消除系统误差、偶然误差和粗差,但无法消除所有误差,从监测点高程计算公式(1)和监测点沉降量计算公式 (2)可知,沉降监测成果中的误差呈线性累计的变化特征,即未消除的误差将按公式(3)和公式(4)影响成果资料的精确度。沉降监测点最大点位中误差在线路的中点处,即最弱点高程中误差。

5 结 语

本文给出了海塘沉降观测数据处理的原理和使用NASEW处理沉降观测数据的方法,将NASEW用于沉降的数据解算、平差和校核过程中,在保证数据处理正确的同时加快了数据处理的速度,使计算过程操作简单,结果输出方便。通过实际工程的应用,证明了将NASEW应用于沉降观测数据处理过程的可行性与便捷性,具有实用价值。本文只介绍NASEW的后续处理过程,如果能在此基础上添加原始数据文件的直接导入程序,即DAT文件的直接导入并处理,无需事先用Excel进行数据的整理,那将会使数据处理更加方便,更加省时省力。

[1]董杰,董妍.EXCEL在精密水准测量中的应用研究 [J].计算技术与信息发展,2010(4):53-54.

[2]童林毅,杜宇超.建筑物沉降观测方法及误差分析 [J].现代测绘,2010,33(3):34-35.

[3]周世虎,边红文.水准网平差系统介绍[J].北京测绘,2007(4):59-61.

[4]马纪元,马安虎.大坝安全监测水准测量精度评定方法探讨[J].陕西水利水电技术,2005(1):59-60.