Micaps原始数据的自动备份与处理系统
2013-09-29符凤平吴哲红杨忠明
符凤平,吴哲红,杨忠明
(贵州省安顺市气象局,贵州 安顺 561000)
1 引言
Micaps系统投入天气预报业务运行已有数年,各级气象台站全部或部分地取消了纸质天气图的绘制和分析工作,但由此而带来一些问题,如气象历史资料不便于查找,历史天气图不便于再现,不便于进行天气个例总结和分析工作,给天气预报分析及技术研究带来一定影响。
Micaps系统中一个时次的所有数据,不论资料类别,一律使用同一个文件名,系统通过不同目录辨别资料的种类,其资料目录很多。由于Micaps数据格式的文件冗余大,仅每天的常规资料就约占磁盘空间几十兆,加上一些云图、传真资料、数值预报产品等约占几百兆,一张VCD数据光盘也只能保存大概3 d的资料,而硬盘的保存空间也有限[1]。对于天气预报业务来说,研究和开发一个可行的软件,实现对Micaps系统的原始数据进行自动保存、压缩和处理,再现Micaps系统历史天气图,以便进行天气个例分析与总结,显得尤为重要和迫切。
常规气象资料以气象报文形式传送,其电码格式复杂,仅地面编码说明就有几百页,为达到对气象电码即看即明的程度,建立气象常规资料检索,不仅可以减少在读取常规气象资料上的重复劳动,还将给气象科研、资料整理和业务的开展带来极大的便捷。
程序设计本着实用先进、界面美观、操作简便的原则,具有自动备份保存、压缩与处理等功能。通过该系统,可解决气象台站取消天气图分析工作后部分资料的保存问题、历史天气图再现问题,为资料信息化和共享提供坚实的基础。
2 技术方法
以Windows操作系统为工作平台,基于局域网和省-地光纤通信网,采用C/S软件体系结构,使用Visual Basic6.0编程语言实现,适用于Windows Server 2000/2003、Windows XP操作系统。
根据Micaps系统的节目表文件获取所需备份的资料信息,利用Windows操作系统自带的拷贝程序,分时分类地实现各类资料的自动备份,并将不同类的Micaps原始资料封装在备份目录下不同的文件名中。设置多个数据源路径,以确保资料备份完整。使用压缩软件命令方式,对数据分类分时地进行自动压缩,并按照一定方式命名压缩文件。充分利用Micaps1.0系统的相关应用程序,实现资料的解码转换和图形图像输出,通过人机交互的方式,生成各类Micaps系统数据格式的天气图表。以前台或后台的方式,对不同时次的常规资料进行检索,获取用户需要的各个时次的气象要素,生成文件可导入Excel表格,以便输出打印。
3 系统简介
基于局域网和省—地气象光纤通信网,实现各类Micaps原始数据的自动备份与压缩、数据完整性检测与补调、备份数据的自动处理、要素检索与报表输出,并提供缺失数据记录、网络测试、自动定时启停、补调进程显示等功能。
系统主要由4部分组成:①自动备份与压缩。自动加载相关程序,后台自动运行,完成Micaps原始资料的备份与压缩。②完整性检测与补调。根据预先定义的Micaps原始数据备份信息文件,按照其内容进行数据完整性检测与补调。③备份数据的自动处理。通过人机交互方式,将备份压缩的Micaps原始数据自动生成各类Micaps系统数据格式的天气图表。④要素检索与报表输出。通过人机交互或后台命令方式,生成用户所需要的各时次要素,可跨年跨月检索资料,检索结果按检索具体时次或检索站点为文件命名,生成文件可导入EXCEL表格,方便进行保存与打印。
在主界面进行参数设置后,系统可在多环境下运行,具有较强的适用性和通用性。可设置的参数主要有Micaps原始数据源路径(含本地卫星接收路径和省级服务器存放路径)、存放备份数据的目标路径、Micaps1.0系统安装路径等。
系统主界面和参数设置界面分别见图1和图2。
4 主要实现功能
4.1 自动备份与压缩
4.1.1 自动备份 根据Micaps1.0系统自带节目表文件(datatime.tab)内容,制定多个包含Micaps原始资料信息的文本文件(后缀为*.dat),如08时地面资料的文件命名为msg08.dat,02时地面资料的文件命名为msg02.dat,欧洲中心资料的文件命名为ecfile.dat。每个文件的内容由多行组成,每行代表一个文件,每行均包含通配符“@@”或“##”,其中“@@”代表当前系统日期,“##”代表前1 d,如文件msg08.dat的内容为:
文件msg02.dat的内容如下:
根据这些文件信息,通过后台自动处理方式,使用timer1定时控件,实现各类资料的自动备份。系统主要实现了以下Micaps原始资料的自动备份:常规资料(包括8个时次的地面、2个时次的高空)、欧洲中心、T639资料等。在备份完成后,及时对备份完整情况进行检测,自动记录缺失数据信息,并将缺失信息显示于系统界面。
系统在启动时,自动检测存放资料的目录是否存在,这里主要设置dmsg、grib两个子目录,其中dmsg目录存放常规资料(包括地面和高空数据),grib目录存放欧洲中心、T639资料。
为保证数据备份完整,设置2个备份源路径,即本地CMACast卫星广播接收系统数据存放目录和省级服务器数据存放目录。由于CMACast卫星广播接收系统资料存放目录和文件命名格式与以往的DVB_S或PCVSAT系统不同,所以设置备份源路径时需作适当的调整,如常规资料(含地面、高空)的备份源路径设置为CMACast卫星广播接收系统数据服务器下的相应目录:“\10.205.128.102cmacastMSG_001GLBPUB...”,其 中“10.205.128.102”为CMACast系统数据服务器IP地址。欧洲中心和T639资料的备份源路径设置为Micaps数据处理服务器下的相应目录:“\10.205.128.187 awdatadvbs wpecmwf...”和“\10.205.128.187 awdata 639...”,其中“10.205.128.187”为Micaps数据处理服务器的IP地址。
4.1.2 自动压缩 使用Winrar压缩软件自带相关命令如“Winrar.exe m– m5”,对 Micaps原始数据先后两次进行最大程度的压缩,主要利用定时器控件timer1实现资料的自动压缩,其工作流程如图3:
图3 timer1控件工作流程
实现自动压缩功能时,系统首先对要备份的Micaps原始数据自动进行初级压缩。根据 Micaps1.0节目表内容以及CMACast系统Micaps数据处理服务器配置信息,事先确定各时次数据的大概接收时间,然后设置在某个时间范围内,将数据进行分类压缩。压缩文件按照以下方式命名:数据类型(位数不定)+年(四位)+月(两位)+日(两位)+时(两位)+“.RAR”,其中数据类型为自定义,如地面数据为SN,高空为UN,欧洲中心资料为EC,T639预报资料为T639等。在完成对原始数据文件的初级压缩后,系统自动将备份目标路径下的原始数据删除。
为了节省磁盘空间,实现对Micaps原始数据最大程度的压缩。在每月1日,对上月已经过初级压缩的每日每个时次的Micaps原始数据压缩包,分类进行再次压缩。经过再次压缩后,每类数据最终会生成一个压缩包文件,如2012年5月的地面资料被压缩命名为SN201205.RAR,2012年5月的欧洲中心资料被压缩命名为EC201205.RAR。
4.2 完整性检测与补调
4.2.1 数据完整性检测 根据预先定义的Micaps原始数据备份信息文件,按照其内容进行数据的完整性检测与补调。分别在两处实现资料完整性自动检测功能,一是在备份过程中,将缺失数据信息显示于系统界面,主要使用定时控件timer2实现此功能。二是根据选择日期,对某天的资料备份情况进行完整性检测。程序首先判断检测数据的压缩包文件是否存在,若存在,检查文件中是否缺失某个时次的文件,如缺失文件,在完整检测表窗口显示“缺失”,否则显示“完整”,并将缺失的具体文件名显示于系统界面。
4.2.2 缺失数据补调 为了避免由于网络不通、软件运行异常或者其它原因等导致数据自动备份压缩不全而设置。补调前,首先进行数据完整性检测,然后根据检测情况,对提示缺失的数据进行补调。自动建立临时工作目录temp,在补调前,首先清空临时工作目录temp,释放当日各类资料压缩包文件到temp目录,根据压缩包文件内容确定需要补调的文件,补调完毕后对资料进行分类压缩,判断资料是否补调完整,并在系统界面显示补调完整情况。其主要工作流程如图4:
图4 数据补调流程
4.3 备份数据的自动处理
通过人机交互方式,建立历史天气图分析处理以及显示平台,生成各类Micaps系统数据格式的天气图。实现自动进行解压、整理报文,处理生成Micaps系统可接受的各类数据格式,其解码转换程序和图形图像输出均使用Micaps1.0系统相关应用程序。
在利用Micaps1.0系统的处理程序对已备份Micaps原始数据实现处理显示时,为了操作方便,可按日期或时段进行选择处理。不管选择哪种方式,在进行数据处理前,系统首先将计算机日期修改为选择日期,然后判断Micaps1.0系统的datatran子目录下是否存在要处理的数据,如存在,则直接进行处理,如不存在,将数据备份目录下的压缩包文件释放到Micaps系统的datatran子目录下,再利用Micaps1.0系统自带批处理程序(如08时地面资料的批处理程序为cl08s.bat)进行数据处理,处理完毕后,再将计算机日期修改为当前系统日期。按时段进行处理界面如图5。
图5 Micaps原始数据处理界面
4.4 要素检索与报表输出[2]
以前台或后台命令方式,通过人机交互生成用户需要的各时次要素,系统可以跨年跨月检索资料。可以检索的资料主要有不同时次的地面要素资料和高空要素资料,可检索的地面要素资料有多个,供检索的时次有02时 、05时 、08时、11时、14时、17时、20时、23时共8个时次。可检索的高空要素有5个,供检索的时次有08时、20时共2个时次,可供检索的层次有500 hPa、700 hPa、850 hPa等3层。按检索日期、时次为文件名和按检索站点为文件名两种方式来保存检索结果,前者将所有的检索站点写入一个文件中,按不同日期和时次来命名文件,即每天每个时次产生一个文件,后者将所有检索时间段内每一个检索站点的所有要素写入一个文件中,并以区站号为文件命名,用户可直接将文件导入Excel表格,实现输出打印。
根据Micaps数据文件格式,读取Micaps系统处理生成的填图数据文件,分别实现地面、高空资料的要素检索,并输出Excel报表,其中可检索地面资料18个要素,高空资料5个要素。地面资料的检索主要读取文件目录为“micapssurfaceplot”,高空资料的检索按照层次分别读取目录“micapshighplot”下500、700、850子目录的填图数据文件。地面资料检索界面和高空资料检索报表输出分别见图6和图7。
5 结语
本文主要从Micaps原始数据的自动备份与压缩、完整性检测与补调、备份数据的自动处理、要素检索与报表输出等4个方面,对系统所实现功能作了较为详细的阐述。由于Micaps原始数据种类多,数据量大,尤其是自CMACast卫星广播系统投入业务运行后,数据量大幅度增长,在一定程度上增加了Micaps原始数据的备份工作难度。本系统利用天气预报分析常用的部分Micaps原始数据如地面、高空、欧洲中心、T639等资料,对Micaps原始数据的自动备份与处理方法进行了探讨。
自该系统投入业务运行以来,有效实现了部分常用Micaps原始资料的自动备份、压缩与处理,为天气个例分析和预报技术研究提供了一定的Micaps原始数据保证。在运行期间,系统通过对自动备份的Micaps压缩数据包文件进行处理后,均有效生成Micaps系统数据格式天气图。
[1]王遂缠,等.基于MICAPS系统的数字化天气图及常规气象资料检索分析系统[J].气象科技,2004.32(2).
[2]中国气象局监制.气象信息综合分析处理系统MICAPSV2.0系统管理员手册[M].102-103.