APP下载

流域水环境水生态智慧化管理云平台及应用

2021-03-30张万顺

水利学报 2021年2期
关键词:云端流域水质

张万顺,王 浩

(1.武汉大学 水资源与水电工程科学国家重点实验室,湖北 武汉 430072;2.武汉大学 资源与环境科学学院,湖北 武汉 430079;3.武汉大学 中国发展战略与规划研究院,湖北 武汉 430079;4.中国水利水电科学研究院 流域水循环模拟与调控国家重点实验室,北京 100038)

1 研究背景

受城市化和工业化等强人类活动干扰,流域水循环及其伴生水环境水生态过程正发生着深刻变异[1-2]。流域水质恶化、突发水污染事故、饮用水安全隐患等原生和次生涉水问题日益突出。随着生态文明建设被提到新的高度,加快水污染防治,实施流域环境综合治理已成为实现我国经济高质量发展的重中之重[3-4],保障流域水安全面临严重挑战。水环境质量与流域自然-社会-经济复合生态系统密切相关,揭示环境条件改变对水体质量的响应机理,突破快速高效精准的模拟预报技术[5-8],成为国内外研究焦点与难点。

随着环境水利信息化进程的不断推进[9],通过物联网、大数据、云计算、人工智能等手段推进流域治理向智慧化发展,是维持流域生态系统良性循环,提高生态环境监管水平的必由之路[10-11]。流域综合管理云平台的研究历经了概念融合、技术发展及部署应用三个阶段。云平台概念融合初期,将单机版水文水环境模型部署在云端,实现了流域水环境模拟与云计算平台融合的概念性突破[12-13]。随着云平台技术在数据集成、数据同化、高性能计算等领域的发展[14-15],以洪水预报为主的服务开发逐步成熟,部分已进行实际部署,集中于单场短历时洪水过程预报及灾害等级发布。Perez等[16]构建了基于Tethys的洪水预报云平台,以实现全球大范围和区域小流域的结合预测。Mure-Ravaud等[17]构建了集多源数据同化、水文模型运算及信息发布于一体的洪水预报云平台系统,为法国多个城市提供了未来48 h洪水预测服务。现阶段,云计算、雾计算、边缘计算、物联网等新兴技术为流域水量水质调控、城市管理、农业灌溉、大气污染监测等领域云平台建设提供了有力支撑,但已有研究多局限于框架设计[18-19]。Manna等[20]提出了一种基于物联网的云端智能灌溉系统,以提升节水及灌溉效率。Pires等[21]提出了集传感-本地处理-通讯-云平台-服务应用组件于一体的智慧城市系统框架,服务于城市大气环境污染监测和城市规划等智能决策。然而,针对流域水环境水生态系统调控和综合管理的云平台研究仍十分匮乏,其业务化落地应用面临实时化、精准化、稳健化、服务化、智慧化等多重挑战。

本文提出了云端、边缘端、终端及数据中心、模型中心、控制中心、客服中心的“云边终”协同系统架构,构建了三峡库区流域水环境水生态智慧化管理云平台,打通了从顶层设计到科学研究再到基层管理的全链条路径,为大尺度流域全方位多层次智慧化管理提供了成功经验。

2 流域智慧化管理云平台建设需求

2.1 提升流域精准调控主动性的管理需求系统提升流域水环境水生态精准调控的主动性,一方面需要在流域层面统筹考虑水环境水生态的实时监测、污染防控、质量预报、风险预警等管理内容,强化流域顶层设计;另一方面亟需建立流域统一高效的资源和信息共享机制,加强流域各级行政部门、管理机构、科研部门和社会公众之间的信息交流与情报合作,实现信息互联互通,完善跨部门、跨省市的流域协调机制,解决流域内上下游、左右岸的跨界责任落实问题。

2.2 应对流域复杂生态环境问题的技术需求流域自然-社会-经济复合生态系统是一个高度复杂的综合系统,在认知和技术层面存在众多不确定性和信息滞后等局限,亟需从海量数据、机理模型、高效算法、智慧平台及其业务化应用等方面实现全方位技术突破。

流域水环境信息数据存在海量、分散、异构等特征,面临共享范围窄、利用效率低的问题。气象、水利、环保、国土、经济等多源数据标准不一、结构各异、收集困难、传输低效、存储受限,亟需一套标准化融合集成技术方法,构建分布式生态环境大数据库,强化综合处理与传输能力,实现流域生态环境大数据的有效收集、融合、集成、共享与管理。

流域水环境水生态问题受气象、水动力、水质等自然过程和下垫面改造、污染排放、资源利用等社会经济活动影响,极大地增加了水环境水生态准确模拟预测的难度,迫切需要构建耦合流域气象-陆面-水体过程机理的大尺度、全过程、长系列、精细化系统模型,解决各类过程的非线性性、区域非均质性、参数尺度效应和不确定性等问题,实现水环境污染地点的精准定位、污染过程的精准模拟和污染程度的精准预测。

传统流域模型计算多用串行方法,存在等待时间损耗、大尺度模拟运算速度慢、分析效率低等问题。流域模型分布式并行计算技术依托超算中心、云计算中心等提供高性能计算服务,可以突破大尺度流域模型数据存储、传输效率、运算速度等瓶颈,实现流域多模型的高性能计算。

世界范围内,面向大尺度流域水环境水生态多目标调控管理,可实现多功能业务化部署运行的平台鲜有研究。亟需结合云计算、雾计算及边缘计算等手段,从数据架构、模型算法、硬件组装、软件开发、平台集成、网络系统等层面加强全套技术体系的自主研发,突破外源性技术供给抑制,推动流域水环境水生态智慧化管理平台构建及业务化应用,实现流域水环境水生态实时监测、污染防控、水质预报、风险预警、支撑生态调度等智慧服务。

3 流域水环境水生态智慧化管理云平台架构

为实现大尺度流域水环境水生态业务化精准调控,本文以集海量数据融合管理、多维过程精细模拟、机理模型高效计算、多元服务差别定制一体化为目标,构建了流域水环境水生态智慧化管理云平台。基于云端、边缘端、终端(Three layers,3L)三个层次的“云边终”协同架构,部署具有相对独立功能的数据中心、模型中心、控制中心及客服中心(Four centers,4C),实现高效互联、资源共享的3L4C云平台系统架构(图1)。

图1 流域水环境水生态智慧化管理云平台架构

云端是一个大规模的服务器集群空间,可按需灵活部署,动态可扩展能力强,在广域网或局域网内通过分布式网络存储技术将硬件、软件、网络等资源统一起来,实现大体量的高效数据计算、储存、处理和分析,通常完成大型复杂数值计算任务。边缘端部署在各业务部门,如国家或流域生态环境保护部门、省市生态环境科学研究院等,是按各部门业务需求原则构建的小型个性化计算中心,可以分担云端计算与存储负载、降低网络时延并减小云端服务使用成本。终端部署在数据采集现场,具有简单的基础数据处理能力,支持不同级别数据的直接获取并通过网络传输。

(1)3L 结构脉络:在云端布置“空-地-水”一体化模型,该模型涵盖气象、水文、社会经济等过程,可实现水环境一维、二维及三维模拟,从单一水动力水质到综合水环境水生态以及生态修复,包含气象模块、水文模块、水动力模块、水质模块、富营养化模块、泥沙模块、重金属模块、漂浮物模块、油污模块和有机物模块等。为了提高计算效率,实现全局最优,云端“空-地-水”一体化模型采用分布式并行算法,处理长系列大范围全局性的复杂问题。边缘端按需部署在不同的业务部门,一方面获取终端上传的数据,通过分布式雾计算节点,进行错误数据自动识别、缺失数据插补,实现该业务部门负责区域内的原始数据融合集成,形成满足云计算需求的边缘端生态环境大数据库;另一方面接收云端产生的数据,完成风险预警等级评估、污染溯源过程分析、经济效益核算等局部简单模型的数据后处理分析,借助消息中心作为中间件,进行云端及边缘端之间任务沟通协调,实现云边协同计算,满足水质预报、风险预警和实时监测等个性化分类管理需求,从而达到局部精准。终端布设各式各类的传感器、移动设备和分级分部门的用户,结合物联网技术,进行气象、水利、生态、环境、国土、农业、经济等多源异构数据采集和边缘服务发布,实现水环境水生态信息的立体感知、全面获取与定向输出。

(2)4C任务分配:数据中心进行数据的自动收集、抽取、清洗、转换与传输,实现对静态基底数据和动态过程数据的分类处理、模型运算数据的存储管理,为模型中心的计算分析和客服中心的服务发布提供数据支撑。模型中心依据控制中心指令,按需调用成套的模型条件节点与应用节点,完成气象、陆地面源、水动力、水质和水生态等多模型耦合的并行计算,为决策分析提供结果支撑。控制中心管理平台运行流程,通过分配系统资源和监控系统运行来促进各中心协同合作、处理系统故障,快速有序地实现平台自动化和智慧化业务处理。客服中心负责发布和推送水环境水生态监测、预报和预警等服务信息,通过用户指令向控制中心发出访问请求,以满足不同客户对决策的信息形式响应、可视化反馈与业务操作等人机交互需求。

一种新技术的出现,必定影响医学图书馆的服务,医学图书馆主要是医学知识存储,如何将每年海量增长的医学数据合理存储,是馆员思考的问题,对于用户的需求也会随着服务的创新而改变。数字图书馆的发展,使数据来源更加结构化和复杂化,智慧图书馆=大数据+馆员知识服务,所以医学院校图书馆不仅要为用户传播知识,更多的要学会管理知识,将数据存储有序化,让大数据在数字图书馆中发挥更大优势,使知识服务在医学院校的大数据环境下能换位。一定程度上大数据给图书馆提供了新的视角,为图书馆注入了新鲜血液,知识服务理念在大数据影响下为医学图书馆寻求了新的服务框架。

(3)3L与4C之间任务协同:整合数据-模型-控制-客服4个中心的软硬件资源,布置于云端-边缘端-终端的3 层云架构中,将大体量多学科融合的数据模型和控制中心的宏观决策功能布设在云端,短历时重要数据模型和客服中心的边缘决策功能布设在边缘端,数据的原始采集与客服中心的最终服务发布在终端完成。边缘端作为云端与终端之间的媒介进行局部个性化的数据、模型与服务集总,通过选择性的消息传递、分发来减轻网络和云端的传输、计算负载,以简单的模型计算承担起数据集成预处理、数据结果后处理及业务服务定制的角色。基于3L4C任务协同模式,应用环境模型耦合集成技术以及信息化平台的自我学习和修正技术,可以实现全流域的环境智慧感知、数值模拟仿真、计算、存储和网络资源统一调配及个性化功能服务发布。

基于3L4C云平台系统架构,可以实现支撑水质预报、风险预警、污染溯源和生态调度等功能的海量数据融合集成、“空-地-水”一体化复杂模型体系布设及其高性能并行计算,融合“云边终”协同的工作模式,实现流域水环境水生态的高效智慧化管理。以水质预报功能为例:云端布置高效的多模型并行算法,进行顶层核心模拟计算,得到流域全局全时段的流场与浓度场模拟结果;边缘端布置个性化的预报技术满足分类管理需求,结合云端传输的基础模拟结果,根据小范围的应用区域设置不同的预报模式与预警等级,同时承担相关水文水质数据集成与信息通讯的职责;终端结合物联网技术完成底层的水文水质监控数据实时采集、上传和最终预报信息的推送和发布。

4 核心支撑技术

4.1 分布式大数据融合集成技术本文提出的智慧化管理云平台采用了“云边终”协同的分布式大数据融合集成技术。在平台的初步数据融合集成过程中,由于不同部门收集的同类数据单位和时间跨度不一等差别而对数据进行标准化处理,实现多个数据源到统一数据视图的整合,涉及多级别、多方面、多层次的信息检测、相关、估计和综合,并可以获得目标信息状态和特征估计及态势。为服务于云端模型计算,平台进行了数据的二次集成处理,根据“空-地-水”一体化模型所需要的输入条件,在边缘端构建相应的数据整合模型,提取、转化并精炼初次融合集成的标准化数据,提供可以集成在云端模型中使用的核心层数据。

通过终端的流量传感器、水质监测仪、空间扫描仪和全球定位系统等物联网设备组成通信系统,借助多个边缘节点和雾节点之间的智能协作,实现现场级、实时级、短周期级的数据即时提取,以及多源大数据的清洗、分类与互馈。采用数据仓库的集成模式,设计通用数据库引擎中间件,采取列-行数据转换方式,根据映射配置关系,将异构数据统一转换为行存储模式,借助结构查询语句实现源数据库到目的数据库的信息融合集成,采用Web Service 数据接口,集成了涵盖8大类型50余项指标的边缘端生态环境大数据库(图2)。

依托消息中心进行数据分层分类调度,采用聚合传输方式,将边缘端的核心层数据传输到云端进行处理和分析,节约的数据传输量超过90%,由网络传输协议带来的额外耗时从4%降低到2.74%,大大减轻了网络和服务器上的负载。该技术实现了数据的智慧感知、即时处理、经济存储、高效传输及网络融合,推进了多源异构数据协同共享,为平台实现多元化功能提供气象、水文、水质、生态、社会、经济等基础数据来源。

4.2 “空-地-水”一体化模型高性能并行计算技术面向以分布式单元或分块空间网格为基础的气象、陆地面源、水动力、水质和水生态等大尺度流域模型,建立了布设在云端的“空-地-水”一体化模型高性能并行算法(图3)。考虑并行计算的负载均衡,进行均匀化分块处理,设置边界条件节点;基于模型之间的强弱耦合关系,根据逻辑先后顺序设置模型应用节点,建立数值模拟区域分割方式和功能分解方式的分布式通讯基础。通过云端集群系统的中央管理服务器完成节点任务的动态分配与监控,借助消息传递接口(Message passing interface,MPI)实现命令传达、数据交互和任务控制,基于共享内存并行与不共享内存并行的混合处理手段,设置线程并行、核并行与多节点并行的“三并模式”,采用递进控制和平行控制两种并行启动方式,分别对模型内部、分块单元、模型之间进行并行化处理。融合云计算迅速响应和弹性计算等特性,采用边接收边处理的数据流式处理方法,减少了大量不必要的运行等待时间。该技术基于云端的区域分割、功能分解和进程扩充,摆脱了数据庞杂、模型众多和算法低效的束缚,提升了流域云端水环境水生态精细化模拟预测的高性能计算能力。

图2 流域多源异构生态环境大数据集成

图3 高性能分布式三级并行计算技术

4.3 智慧化平台“云边终”协同技术智慧化云平台基于SOA 和SaaS 架构,在云端布设模型集群体系,在边缘端提供基于Web的服务组合,在终端实现基础数据接入与甄别处理,促进平台业务化独立性和共享性的协同提升(图4)。将支撑水质预报、风险预警、污染溯源和生态调度等差异化服务的全流域多过程全时段复杂耦合模型体系布设在云端的多个域和服务器存储空间上,组成集群体系,各业务逻辑之间互不干扰、独立运行,其联系、相互调用以及数据交换通过控制中心完成。通过负载监控获取集群各个节点的动态实时负载状况信息,进行收集、处理和直观显示,并发送到负载均衡服务器,执行系统管理员对集群的控制命令,达到平衡云计算系统负载分布、提高节点计算效率、减小任务响应时间和提高系统鲁棒性等效果。基于Web Service 的应用系统自动化集成技术,利用对象连接与嵌入技术开发可重复使用的对象组件模型,提供以统一应用系统框架为基础的定制界面服务。经由网络传输终端采集的水文、水质等数据以还原流域现场态势,完成基础数据直接监控获取与个性化精细服务结果最终发布。“云边终”协同技术打开了现实世界用户直连流域水环境水生态模拟服务计算的通道,为快速有序实现流域水环境水生态管理的自动化和智慧化业务处理提供了技术保障。

图4 “云边终”协同工作模式

5 三峡库区流域水环境水生态智慧化管理云平台实例

基于3L4C云平台系统架构,构建了三峡库区流域水环境水生态智慧化管理云平台,针对三峡库区6万余km2流域国土空间、2680个乡镇、23条支流及660 km长江干流河道,兼顾行政单元、水文响应单元及河道单元的空间异质特性,划分了27 244个精度为3 km×3 km的气象网格单元、1739个陆地面源单元及1800万个精度为20 m×20 m的河道网格,设置了585个进程并行的流域云端“空-地-水”一体化模型高性能计算方案,目前已在三峡库区流域范围内布设了四川、重庆、三峡库区和湖北4个一级水环境水生态边缘端,链接管理的终端包括各层级示范区的气象站、土地利用库接口、土壤库接口、社会经济统计接口、污水处理厂等排污口监测设备、水文站、水质自动监测站、水质人工站、水生生物站等共计3500余个,成功支撑了三峡库区流域水质精确预报、风险及时预警、污染精准溯源和生态科学调度。

5.1 质量预报建立流域水质自动化监测体系,应用数值模型进行水质预报可以为污染防控赢得预见期。在云端布设流域全局水环境水生态质量预报体系,在边缘端根据水体管理目标设置个性化预报技术,构建了流域“空-地-水”一体化水环境水生态质量预报体系,实现了全局-局部预报效率和精度的相互补充与协同提升。在四川省生态环境监测总站布设的水质预报业务端,通过自动作业方式和模式预报,模拟预测未来3、7 和15 d 水质情况,未来3 d 水质预报两小时完成,预测精度超过90%,每日定时推送至客户端。“平时”进行常规水质信息的预报发布;在发生污染事故的“战时”,根据客服中心的需求指令,自动增发指定水质信息的实时精细化和可视化预报功能,及时预知污染全过程,为有关部门及时通知可能受影响区域采取措施和水环境的有效管理争取了宝贵的时间。

5.2 风险预警水污染预警技术使流域风险从被动应对转为自动识别和主动监管成为可能。辨识流域水动力、水环境、水生态同区异象风险特征,实现了水环境水生态过程云端实时动态模拟,5 min内完成有资料和无资料地区未来2天的污染事件演进过程;对比模拟结果与监测数据,依据边缘端风险阈值和预警等级划分方法进行警情分析,准确预知风险暴发时间、范围和程度,发布静态和动态数字流域预警地图。平台已准确预警水华事件50余起,指导三峡库区流域突发事件应急近百次,如2014年4月30日,在重庆市生态环境科学研究院布设的风险预警业务端准确预告一起3 t邻二甲苯泄露事故污染团的移动路径,预测污染扩散至长江控制断面历时4.5 h,浓度为0.008 mg/L,持续时间约10 h,与实际情况吻合程度良好。对污染事件可能影响范围、程度和持续时间等关键信息进行预警预报,为相关部门的污染防治决策提供了有力支撑,提高了处置时效性和主动性。

5.3 追踪溯源流域突发污染追踪溯源是水环境事故应急处置和追责补偿的关键环节。对比边缘端获取的事故监测数据和云端预测结果,从云端源质响应数据库中识别水质异常点,获取异常点位及上游范围前5天的水动力水质历史数据,在边缘端确定污染源的可能排放位置与排放过程,对潜在污染源筛选、排查并快速精准定位。平台已成功排查多起偷排事件,如2016年3月6日,在四川省生态环境监测总站布设的污染追溯业务端自动捕捉到水质监测数据异常,釜溪河邓关断面总磷浓度为0.38 mg/L,超出云端连续2天预测浓度的54%,经检查水质监测仪运行正常,追溯源头为短时偷排总磷废液的上游涉磷企业,为应急部门从源头切断污染传播途径提供依据,实现了应急资源的综合调度,辅助了突发污染的即时处置和高效决策。

5.4 支撑生态调度科学评估不同水资源调度方式下的水生态健康状况,能够有效支撑兼顾河流生态系统需求、发挥最优生态效益的调度方式研究。辨识不同调蓄状态下水华频发区的水动力水质特征,剖析鱼类生长、繁殖及迁移与其生境条件的互馈关系,在云端进行流域定量生态调度方案集模拟,完成边缘端个性化方案的时间选择、方式确定及可视化效果评估。在长江水利委员会水文局长江上游水环境监测中心布设的生态调度决策支持业务端自2016年连续无故障运行至今,模拟了不同生态调度方案下全库区的水动力、水质、水生态变化过程,叶绿素、总氮、总磷、生化需氧量、氨氮等水质指标预测误差不超过30%,提高了水量水质水生态联合调度方案的优化决策效率。

5.5 效益分析云平台在三峡库区流域的水华控制、水污染防控、水质水量快速预测、追踪溯源及工程调度管理等方面得到广泛应用,产生了显著的经济社会和生态环境效益。仅以水污染防控为例,已避免饮用水源地供给故障影响的累计人次约12 000万,依据重庆市和湖北省0.8元/m2的自来水价格和库区人均2.0 m3的日取水量,减少经济损失1.92亿元,提高了长江流域水环境水生态智慧化管理水平和风险精准防控能力。

6 结论

本文以解决当前流域管理领域的难点问题,实现水环境水生态精准调控为目标,构建了基于3L4C云架构的流域水环境水生态智慧化管理云平台并实现其业务化应用。平台突破了流域多源异构生态环境大数据集成融合技术,实现了气象、水文、生态、环境、社会、经济等数据的智慧感知、即时处理、经济存储、高效传输及网络融合,推进了多源异构数据协同共享;建立了以分布式单元或分块空间网格为基础的气象、陆地面源、水动力、水质和水生态等流域模型的云端高性能并行算法,突破了大尺度流域“空-地-水”模型数据存储、传输效率、运算速度等瓶颈;突破了双向反馈、负载均衡的智慧化管理平台“云边终”协同技术,实现了计算、存储、网络资源的动态分配和部署共享,支撑了水质预报、风险预警、污染溯源和生态调度等个性化功能服务发布。

云平台的应用带领流域智慧管理进入新形态,为持续打造高度智能化的智慧流域,仍需加大流域终端立体监控网络等智慧基础设施的覆盖度,完善平台运维管理与远程质控功能模块;增强数据同化能力,优化基于过程的流域模型技术在复杂大尺度流域上的应用性能;通过WebGL 地图引擎、自适应精度流式瓦片地图等技术优化平台结果呈现模式,增强智慧服务可视化表达能力;推动构建流域云与政务云的混合工作模式,加强网页和移动端双轨开发,提升平台普及度和对各层级用户的透明度,实现“环境流、信息流、业务流”的流域高度一体化智慧融合。

猜你喜欢

云端流域水质
压油沟小流域
四海心连·云端汇聚
在云端永生
沙颍河流域管理
云端之城
青山湖生态清洁小流域
关于水质监测对环境保护的意义
一月冬棚养虾常见水质浑浊,要如何解决?这9大原因及处理方法你要知晓
这条鱼供不应求!虾蟹养殖户、垂钓者的最爱,不用投喂,还能净化水质
图像识别在水质检测中的应用