面向防洪工程隐患调查的成果上报与质检审核平台设计与实现
2024-03-09陈亮雄杨静学
林 斌,陈亮雄,杨静学
(1.广东省水利水电科学研究院,广州 510635;2.广东省水安全科技协同创新中心,广州 510635;3.广东省山洪灾害防治工程技术研究中心,广州 510635)
1 概述
广东是水利大省,也是水患大省,开展水旱灾害风险普查,有利于摸清全省水旱灾害风险隐患底数,查明水旱灾害抗灾能力,客观认识全省水旱灾害风险水平,为广东省开展水旱灾害防御、保障经济社会可持续发展,提供权威的风险信息和科学决策依据[1-3]。
防洪工程隐患调查是水旱灾害风险普查项目中的一项重点任务,旨在对全省主要防洪工程现状防洪能力、存在的隐患及严重程度等进行调查,摸清全省洪水灾害(防洪工程)风险隐患底数,支撑防洪减灾决策。广东省开展的防洪工程隐患调查主要具备以下特点:
1)任务范围广
根据全国实施方案工作总体任务安排,结合全省实际,经反复梳理,广东省在水利部洪水灾害隐患调查任务的基础上,增加重要山塘、重要小水电两类工程的省级调查任务,并扩充“防汛度汛、工程隐患”等内容,调查指标多达391项。广东省省级任务与国家任务对比见表1所示。
表1 广东省省级任务与国家任务对比
2)参与人员众多
参与防洪工程隐患调查的技术人员覆盖全省22个地市,122个县区,包含外业调查员、资料收集整编员、成果上报员、质检审核员以及进度与质量督察员等,需要多方协同作业,沟通成本高。
3)成果质量控制难度大
成果指标丰富,指标之间存在强关联关系,逻辑关系复杂,质检审核员需要对所有工程每一项指标进行规范性、一致性、完整性以及合理性检查。同时,在流程上经过省市县三级联合逐级上报与审核,需要能够追溯数据的填报与审核过程,确保数据填报有据可依,有源可查。
基于以上3个特点,传统的纸质填报和单机系统的上报与审核方式在时间上和成果质量控制上远远无法满足项目需求,为了提高普查数据采集的效率,保障成果质量的可靠性,本文采用微服务技术,在对平台整体框架设计、业务流程设计以及质检审核流程设计的基础上,研发“查、填、审、抽、督”一体化成果上报与质检审核平台和基于规则驱动的在线质检审核服务,为广东省普查工作的开展提供高效的信息化技术支撑。
2 平台设计
2.1 总体框架设计
成果上报与质检审核平台总体架构上分有基础设施层、数据层、系统管理层、业务服务层以及业务应用接入层[4](如图1所示)。
图1 平台架构示意
1)基础设施层。提供基础服务器支撑和网络环境支撑,例如应用服务器、地图服务器、数据库服务器、政务外网以及水利专网等。
2)数据层。项目成果数据包含了大量的结构化数据、空间数据(水利工程位置信息)、非结构化的现场调查照片、安全鉴定报告以及相关的佐证材料。因此,本平台采用的数据存储引擎主要有数据库和文件系统,其中数据库选择postgres+spatialextension空间插件,文件系统主要采用nas存储,能够支撑大文件的存储和快速读取。在数据存储支撑层的能力下,实现数据的专题分类,并提供相对应的服务,数据的分类及服务包括六类防洪工程调查库、业务管理库以及系统管理库。其中,业务管理库主要提供质检审核业务状态的流转、历史操作记录、自动化解析报告以及相关的数据分类统计、进度排名等。系统配置管理库主要提供页面菜单、用户角色、系统模块管理以及操作文档、视频管理服务。
3)系统管理层。提供系统级别的管理服务,包括用户管理、登陆管理、权限管理、系统使用与帮助、日志管理等内容。
4)业务服务层。该层是平台最核心的架构层,根据成果上报与质检审核平台的需求进行划分设计,采用微服务技术进行解耦开发,制定标准交互接口,确保各个模块之间相对独立、易于扩展与维护。根据功能需求划分了调查名录清查、数据采集上报、成果质检审核、成果抽查以及进度督办五大模块。
5)业务应用接入层。根据业务场景的需要,提供了web应用端、移动app采集端、微信小程序浏览端,其中web浏览端功能覆盖面最全,包含了全部业务能力的支撑。移动app采集端主要侧重于外业现场的数据采集,提供数据的填报、拍照以及定位导航功能。微信小程序端主要提供数据查看、审核汇集进度统计与督办服务,便于管理者对项目了解把控。通过统一的接入层,提供鉴权验证能力,实现web采集端、移动app采集端、小程序浏览端的接入。
2.2 流程设计
2.2.1整体业务流程设计
成果上报与质检审核平台的主体业务流程主要包括调查名录清查、省市县联合上报与审核以及成果抽查[5](如图2所示)。
图2 整体业务流程设计示意
1)调查名录清查。根据水利普查项目成果初始化防洪工程隐患调查的清单名录,并由县、市、省3级联合修改、删除、新增以及审核等操作确认,形成最终清查成果数据清单。
2)省市县联合上报与审核。在调查名录的基础上,开展外业调查、内页填报与审核工作。其中县级水利部门对本级的防洪工程进行填报,并进行自审,审核通过后上报市级审核,市级水利部门对市管工程进行填报,并对本级填报成果与县级上报成果进行审核,审核通过后上报省级审核,省级技术支撑单位对省管工程进行填报,并对全省隐患工程进行综合审查,审核不通过的数据退回上报员修改[6]。
3)成果抽查。包含内业抽查与外业抽查两部分工作。内页抽查主要侧重于检查数据是否遗漏,填表是否规范,有无漏项,逻辑关系有无差错,填报值与参考资料数据是否一致等;外业抽查主要通过实地调查,检查普查数据是否准确客观。
2.2.2审核流程设计
质检审核是防洪工程隐患调查任务当中重要的一项工作,为了提高质检审核的工作效率,保障成果的数据质量,需要采用软件审核与人工审核相结合的方式进行,软件审核包括前置规则引擎校验和自动化质检审核分析[7],人工审核主要是指省市县联合逐级审核确认(如图3所示)。
图3 审核流程设计示意
1)前置规则引擎校验。在上报员提交数据保存时,由前置规则引擎对上报的内容进行自动化校验。其中前置规则引擎校验的规则相对简单,执行效率高,在用户保存上报时能够快速给与提示,对于不符合校验规则项的数据不允许保存与上报,对于通过前置规则引擎校验的数据将进行入库存储,同时记录本次上报变更的内容以及上报员的信息,便于操作记录的追溯。
2)自动化质检审核分析。自动化质检审核引擎主要是结合防洪工程隐患调查的质检审核技术要求和专家经验进行制定,规则相对复杂,涉及到复杂指标项校验、指标关联性验证以及空间拓扑关系检查等内容,自动化审核分析耗时较长,需要后台服务异步执行,审核分析结果以审核报告形式输出。根据审核问题的重要程度,自动化审核规则主要分有强制性审核规则与建议型审核规则,对于不满足强制型审核规则的成果需要退回给上报员进行修改,不满足建议性审核规则的成果需要上报员确认并提供相关佐证材料。
3)省市县逐级人工审核确认。在前置规则引擎校验与自动化审核分析的基础上,开展县市省逐级的审核确认工作,结合自动化质检审核分析报告和配套的佐证材料,对填报的内容进行人工检查,确认无误则提交至上级单位审核,否则退回上报员进行修改,同时记录审核意见与审核流程,便于追溯审核的历史过程。
3 平台功能实现
3.1 “查、填、审、抽、督”多功能一体化
根据防洪工程隐患调查实际开展工作的需求,平台功能划分为“查、填、审、抽、督”5个模块,平台示例如图4、图5所示。
图4 平台登录示意
图5 上报与审核示意
1)“查”:指调查名录清查确认,目的在于查清普查区域内的各类普查对象的名称、位置、规模等基本信息,确定普查对象总体规模;落实普查登记责任,确定普查表填报单位;规范各类普查表实施范围,确定普查对象的调查方式,确保普查对象不重不漏;同时,对普查对象编码,并编制水旱灾害普查工程名录,保证普查工作顺利实施。以水利普查成果作为初始数据清单,进行数据入库,并提供清查名录变更、清查内容编辑、省市县逐级联合审核确认、清查数据统计督办等功能服务。
2)“填”:指调查填报,支持多终端协同作业(网页端、移动端、微信小程序端),并提供参考图层、数据查询、数据编辑修正、空间数据的标绘、数据上报以及无纸化历史记录追溯等服务,确保填报内容“有据可依,有源可查”。
3)“审”:指质检审核,提供质检核查地图可视化、质检核查标注与意见提交工具、质检历史记录查询、质检流程管理、审核汇集进度与督办服务以及成果自动化审核分析服务。支撑省、市、县多级审核员进行逐级的联合审查,其中成果自动化审核分析服务实现了数据的在线自动化审核。
4)“抽”:指成果抽查,提供地图框选、列表查询选择等多种方式,将调查库的成果抽取到抽查库中,进行抽查结论的填写、佐证材料以及现场抽查照片的上传,并按地市进行抽查率、完成率、通过率等统计。
5)“督”:指进度督办,实现了多维度的普查成果数据统计分析,包括审核任务管理、成果数据统计、成果质量统计以及进度公告等,辅助全省水旱灾害风险普查工作督办和进度监控,同时提供web和移动小程序两个终端工具,方便管理人员随时随地查看工作进展。
3.2 基于规则驱动的在线质检审核服务
在线质检审核服务采用规则驱动的模式[8],首先采用组件式开发质检审核算子,然后根据质检审核的技术要求定义规则模板,通过规则模板将审核算子串联起来,形成规则引擎,后台服务定期启动规则引擎,实现对全省全量数据的完整性、一致性、规范性以及合理性的自动化质检审核。
3.2.1质检审核算子
质检审核算子主要包含了自动化审核过程中涉及到的算法,是自动化质检审核的核心,核心算子主要包括数据集审核算子、属性字段审核算子以及空间信息审核算子3大类。
1)数据集审核算子。以县、市、省3级行政区划为审核粒度,将上报的数据集与调查名录进行对比,自动分析成果上报的完整性,并提供上报内容与调查名录差异的清单。
2)属性字段审核算子。分析各类工程属性字段填报的完整性、规范性、一致性以及合理性,例如编码规则、数值类型和保留精度、非空校验、取值范围、指标之间关联关系一致等。
3)空间信息审核算子。包括空间数据类型、空间坐标系、悬挂节点、自相交、以及相邻关系、相接关系、相交关系、包含关系等空间信息检查[9]。以水闸为例,要求水闸标绘的空间数据类型为点对象,采用CGCS2000坐标系,坐标要在对应的行政区划面内,同时利用相邻拓扑关系关联附近的堤防与河流,验证水闸与堤防、河流关系的正确性等。
3.2.2质检审核规则模板
质检审核规则模板是采用XML数据格式对检查内容和要求进行格式化描述,明确每一类防洪工程的审核内容、校验级别以及对应的审核算子[10]。质检规则是数据项与算子库之间的桥梁,也是对算子库的约束,通过规则参数的限定,来实现对数据的精准检查。通过“审核数据项+质检算子+规则参数+校验级别=检查规则”方式建立单个数据项的质检规则,并通过多规则自由组合的形式,形成一个完整的质检审核规则模板[11]。基于防洪工程隐患调查指标以及工程特性[12],建立不同防洪工程类型的质检审核模板,驱动质检审核算子,就可以实现全量的自动化质检审核。其中,校验类型主要分有强制和建议两个级别,强制型校验不通过的数据需要退回给上报员修改,建议型校验不通过的数据写入到报告当中,由质检审核员进一步审核确认。
质检审核部分规则示例见表2。
表2 质检审核部分规则
4 结语
本文根据广东省防洪工程隐患调查工作的特点,设计并研发了“查、填、审、抽、督”一体化成果上报与质检审核平台,同时基于质检审核规则,实现了在线化的自动质检审核服务,该平台在实际的调查工作中得到了广泛的应用,也取得了比较好的应用成效。
1)系统共有1 078用户,高峰时间段有500多用户同时在线作业,累计支撑数据填报修改65万次,人工质检审核98万次,成果抽查20万次,为数据清查、调查填报、质检审核、成果抽查以及进度督办等省市县各级普查工作提供了高效的信息化技术支撑。
2)成果自动化解析与审核分析模块实现了包含空间拓扑关系检查、重复图片ai识别、指标逻辑合理性校验等822项复杂数据审核,对全省调查数据进行全量、实时、在线的自动化质检核查。目前已累计进行了150万次自动化质检审核,解析出上百万计的审核问题,为普查成果质量提供保障。
3)在成果上报与质检审核平台的服务支撑下,广东省高效的完成了8 000多宗水库、6 000多宗水闸、2 000多段(16 176.246 km)堤防、2 000多宗山塘、4 000多宗小水电、16处蓄滞洪区的数据采集与审核汇集。