农业农村“一张图”大数据平台的构建
2021-02-18孙云凌达徐翔
孙云 凌达 徐翔
摘要:本文以农业数据资源整合共享为出发点构建农业农村“一张图”大数据平台,结合农业农村大数据中心发展现状,分析现存的问题,并结合这些问题,对农业农村“一张图”大数据平台架构进行设计,基于架构对平台的功能、数据库建设进行设计,并梳理平台设计涉及的关键技术,为开发农业农村“一张图”大数据平台提供技术支撑。
关键词:数据共享;农业农村;平台架构;一张图
0 引言
2019年12月,农业农村部和和中央网信办力联合印发了《数字农业农村发展规划(2019—2025年)》,强调以农业数字化为发展方向,大力推进“互联网+”现代农业的发展,为数字农业的发展、为实现乡村全面振兴提供了有力的政策保障。
随着物联网、大数据、人工智能以及5G等技术在农业领域的不断深入,“用数据说话、用数据管理、用数据决策”成为数字农业的必然选择[1]。本文以农业数据资源整合共享为出发点构建农业农村大数据中心,搭建农业农村“一张图”,支撑农业资源一张图应用的管理、运行、维护,助力乡村振兴。
1大数据平台总体设计
农业农村“一张图”大数据平台结合可感知、能学习、善治理的建设背景,以基础信息类、农业生产类、农业环境类、农业灾害类、农业社会经济类、农业管理与农业服务类以及其它农业信息类等数据为基础,建立农业农村数据资源目录体系,遵循“先进成熟、稳定高效、安全有序”的原则,基于分布式、云计算、大数据等技术进行建设,满足平台各功能高内聚、松耦合的要求,真正做到数据、功能和模型等全共享。
平台采用“大中台、小前台”架构,为不同的前台业务系统提供可共享和重复使用的服务能力。
1.1支撑后台
支撑后台主要由云基础设施和大数据基础设施组成。云基础设施主要通过云管理平台实现计算、存储、网络等资源的统一管理和调度,提供自动高效、安全可靠、伸缩自如、统一运维、按需使用的云服务,主要包括资源虚拟化、资源调度与监测、弹性伸缩与自动拓展、自动化运维、云服务管理等功能;大数据基础设施主要由集中/分布式的数据库存储框架(如:Oracle、HDFS、Hbase、Hive)和计算框架(MapReduce/Spark)组成,为数据中台提供数据存储和并行计算支撑。
1.2数据中台
数据中台与服务中台是“大中台”的核心组成。数据中台是基于统一的数据资源目录体系,实现对基础信息类、农业生产类、农业环境类、农业灾害类、农业经济类、管理服务类、其它农业信息类和元数据等不同类数据的统一组织和管理。
1.3 服务中台
服务中台主要为应用前台提供数据服务、算法/模型服务、工具服务、应用服务等四大类服务,实现服务注册、发布、更新、监控等管理功能。
1.4应用前台
应用前台针对农业农村实际业务场景需求,基于农业农村基础地理信息平台,搭建公共服务平台,实现生产环节的数字化提升。
1.5安全保障体系
安全保障体系作为大数据平台关键体系,集成在大数据解决方案中,贯穿于采集、存储、传输、分析全生命周期[3],为构建安全、规范的数据库及系统平台应用环境,妥善处理数据开放与安全的关系,切实保障数据安全。
1.6运维保障体系
对体系的硬件、网络、数据、应用及服务的运行状况进行实时、综合监控,及时发现和预见问题,并按照相应的流程及时处置,保障体系持久地稳定运行。
1.7标准规范体系
建立统一的技术标准和管理规范,主要包括数据标准规范、服务标准规范、平台接入规范、运行维护规范等,指导平台及业务应用的开发建设和运行管理。
2功能设计
2.1基础数据库建设
农业农村数据包含了多层次、综合性的空间、属性数据,是农业农村基础数据库框架的数据源支撑。依据农业农村现代化的管理需要,对农业数据资源体系进行丰富和完善,进一步梳理数据资源目录和数据建设需求,围绕农业农村的生产、经营、管理的核心工作,建立农业农村数据资源目录体系。
根据国家标准、省级标准及行业标准,制定省级农业农村空间基础数据标准,将不同类别、不同业务系统的海量、多源、多格式、多比例尺的空间数据按照统一元数据标准、统一分类编码、统一命名规则的标准规范,进行采集、分析、归类、整合、入库等一列操作,最终形成分类科学、结构合理、格式统一、坐标一致的数据库或数据集。
2.2“一张图”总体框架建设
农业农村“一张图”基础框架,是在基础空间数据库基础上,调用并集成农业农村业务相关数据,整合集成现有的各类空间相关的应用,在此基础上,搭建农业农村“一张图”应用统一门户,支撑“农业资源一张图、农业产业一张图、农业基地一张图、双绑全覆盖和村级集体经济全覆盖”的管理、运行、维护。
3关键技术
3.1采用分布式微服务架构
农业农村基础地理信息平台是一个开放的服务型平台,平台采用分布式微服务架构进行设计与研发。分布式微服务架构是一种架构模式,它将单一应用程序划分成一组小的应用或服务,应用或服务之间相互协调、相互配合。分布式微服务架构下,每个应用或服务运行在其独立的进程中,彼此间采用轻量级的通信机制相互沟通。每个应用或服务都围绕着具体业务进行构建,并且能够被独立地部署到生产环境、类生产环境。
3.2采用数据中台技术
数据中台定位于为各专业、各单位提供数据共享和分析应用服务,以数据分析、管理为基础,沉淀共性数据服务能力,通过数据服务满足横向跨行业、纵向跨层级的数据共享、分析应用、价值挖掘和融通需求。以需求为导向,以数据中台方式构建农业农村基础地理信息平台,采用统一的数据标准和数据模型,全面开展农业农村数据接入与整合,打破专业壁垒,实现数据应用服务化,逐步建立健全农业农村数据管理体系。在构建数据中台时,通过传统数据和分布式数据库相结合的技术进行各类数据的存储和管理;结合Spark计算框架开展数据分析与挖掘;采用Echarts等实现数据可视化应用。
3.3基于SOA体系架构
在系统总体框架层面,系统将统一标准、统筹规划、顶层设计、分步实施,采用面向服务的架构(SOA)技术,实现面向服务、资源共享、统一注册、分级授权的服务组织模式与运行管理机制。在技术上基于J2EE架构,实现平台公共服务、数据服务、应用服务、数据交换服务、消息服务等松耦合集成,实现面向各类业务需求的应用编排和组装。
4总结与展望
本文以农业农村信息化建设的需求为出发点,论述了农业农村“一张图”大数据平台的构建,通过对现状问题的剖析,研究农业农村“一张图”大数据平台架构体系,并在此基础上对平台的功能空间进行设计,为农业农村“一张图”大数据平台找到合适的建设模式和实施路径[4]。
参考文献
[1]王丽娟,信丽媛,贾宝红,原少辉.农业大数据平台的研究进展与应用现状[J].天津农业科学,2018:14-16+25.
[2]李瑾,顾戈琦.基于“互联网+”的农业大数据平臺构建[J].湖北农业科学,2017:157-162.
[3]毛林,成维莉.智慧农业大数据平台构建的研究[J].《农业网络信息》,2018:6-10.
[4]贺俊华.农业农村大数据平台设计[D].四川:四川农业大学,2018:1-2.
作者简介:孙云(1979-),男,云南,工程师,2002年毕业于昆明理工大学,主要从事与测绘地理信息及软件系统研发工作。