“航标大数据”机制的建立及应用探索
2016-11-18李辉隋永举南海航海保障中心
◎ 李辉 隋永举 南海航海保障中心
“航标大数据”机制的建立及应用探索
◎ 李辉 隋永举 南海航海保障中心
随着航标信息化的不断推进,航标应用数据正以前所未有的速度增长,长期的航标业务数据的积累预示着航保大数据时代即将到来。通过对航标大数据内涵和外延的深入理解,本文研究并提出了“航标大数据”的概念,对航标大数据的组成进行分析,结合航标信息化建设现状,提出航标大数据架构搭建方案,分析了航标管理的典型的大数据应用场景,航标大数据的应用必将推动航标业务管理和对外服务水平提升。
航标 大数据 机制、应用、服务
随着数字信息化时代的迅猛发展,信息量也呈爆炸性增长态势。全球的数字信息资源正进入到一个前所未有的快速增长期。航海保障作为把水运业的重要环节,其作用也越来越突出。经过多年的发展,我国沿海港口航道基本形成较为完善的航标导助航体系,目前已从传统视觉航标系统,发展到近、远程无线电导航系统,全天候、多途径的一体化助航系统已经初步形成。航标在履行传统助航服务的同时,承担着水文、气象、海洋等多种负载观测功能,众多航标数据的汇聚已形成航标大数据应用趋势。如何发掘航标大数据这块瑰宝、如何形成大数据应用机制,将是航标管理机构在全球大数据时代所面临的机遇与挑战。
1.航标大数据的数据元组成
通过对航标数据进行各种比对分析,具体航标大数据的数据元可由如下方面组成:
①航标静态基础数据:是航标提供对外航海保障服务的基础数据,主要包括航标公有数据、航标专有数据、航标设施数据、航标管理数据。
②航标动态管理数据:航标从设置到撤除全生命周期的动态管理数据,主要包括生产动态数据、管理动态数据、维护保养动态数据、设备使用动态数。
③航标实时监测数据:航标监测设备所检测到航标运行状态数据,主要包括灯器运行状态数据、设备运行状态数据、设备上线使用数据、检测故障数据。
④航标负载监测数据:以航标为载体,负载在航标上监测设备检测到的环境关联数据,主要包括水文监测数据、气象监测数据、海洋监测数据、航运监测数据。
2.航标大数据平台的建立
大数据是一个综合性的概念,包含了技术和应用大数据两个层面。技术大数据使得数据的存储和计算效率大为提高,应用大数据的最大意义就是获得更多的收益。可见,技术是基础,应用才是目的。为将分散的、未过滤的、从未汇聚且未发生反应的大数据应用好,必须在技术上首先建立一个较好的大数据架构。
大数据平台的建设充分考虑现有信息化资源、设备和数据,才能具备较好的基础和持续的生命力。通过了解我们发现现有的航标数据库都为传统的关系型数据库架构,数据仓库的数据处理流程与业务保持紧密关联、整个数据加工流程为最终应用服务。为保证航标到时平台与现有航保信息化资源相匹配,结合航保目前的数据存储的水平及现状,我们认为可选用Hadoop平台作为航标大数据基础平台,Hadoop平台提供了海量数据的分布式存储与处理的架构,基于服务器本地的计算与存储资源,Hadoop集群可以扩展到上千台服务器。同时,Hadoop在设计时充分考虑了硬件设备的不可靠因素,在软件层面提供数据和计算的高可靠保证。Hadoop平台这些优势正适合在目前的航保信息化资源上搭建航标大数据平台(详见图2)。
航标大数据平台各构件具体功能如下:
①数据采集(ETL):负责源数据的采集、清洗、转换和加载,把原始数据加载到Hadoop平台,把加工后的数据加载分布式数据库和主数据仓库。
②Hadoop平台:负责存储海量的运维管理数据,提供并行的计算和非结构化数据和处理能力,实现底成本的存储和低时延、高并发的查询能力。
③分布式数据库:存储加工、关联、汇总后的业务数据、并提供分布式计算、支撑数据深度分析和数据挖掘能力,向主数据仓库输出KPI和高度汇总数据。
④主数据仓库:存储指标数据、KPI数据和高度汇总数据。
⑤数据采集存储:将核心模型通过改造融入到现有主数据仓库的核心模型中,将主数据仓库中的历史数据和清单数据迁移到低成本分布式数据库。
⑥数据服务:大数据平台的架构将数据分层管理,在各层提供数据开放接口,或建立ESB总线,根据应用需要,将数据服务注册到ESB总线上供调用。
图2 航标“大数据”平台
3.航标大数据的应用
航标大数据平台就是要将零散的、分布于各类航标系统的数据通过大数据工具提取并清洗后进行分布式储存,在大数据平台上通过数据间的相互协同应用,发挥数据的最大效益,解决传统方式不能解决的业务问题,粗略的统计,航标大数据可进行如下方面的应用。
3.1建立航标维护保养大数据分析机制
航标的维护保养是航标管理最为重要的环节,通过航标大数据的应用,我们可以对航标设备使用数据、维护保养数据、状态检测数据、外部协同数据相关要素进行抽取、筛选、组合,将传统管理经验转换成科学的大数据算法。通过大数据计算形成对每座航标维护保养有实际指导意义的数据分析指标,实现对航标维护保养智能管理,改变现有片区化、集群化进行航标维护管理,让航标维护保养可步入精确化、特定型的维护管理方式,维护保养周期大幅度拉长,维护保养成本将大幅度降低。
3.2建立航标设备质量评估大数据分析机制
目前,各航标管理部门对航标产品品质的把控一般是使用人员根据日常维护管理经验对航标设备的品质进行评定,存在不客观性。航标设备质量最主要的表象就是航标效能的稳定性,产品品质越好,故障率越低,航标效能越稳定。通过大数据的应用,我们可以提取航标数据中的航标故障信息,通过对不同品牌航标设备的故障类型、故障发生频次、监测数据稳定性等系列与航标设备质量有关的数据进行统计、比对分析,采用特定大数据算法,形成航标产品比对机制,对各类航标产品的质量进行科学评定,为航标设备采购提供详实的决策依据。
3.3建立航标效能大数据评估机制
各类航标效能评估主要方法是在专家咨询的基础上,将影响航行安全条件的各因素层次化,通过专家评分后,运用模糊综合评判方法得到最终的评判结果。模糊综合评判方法应用导致最后的风险评估结论往往笼统的,针对性不强。通过大数据的应用,可以最大程度地调取与航标效能因素有关的各类数据,采用建立特定的数据模型,对航标系统的配布状况、运行效率以及服务水平通过数据的统计、对比进行定量分析,有针对性地找出航标系统存在的风险因素以及性能指标的缺陷,通过数据分析结果给出最为合理的改进措施,提高航标的技术水平和可靠性。
3.4建立航标应急反应大数据决策机制
航标应急反应业务是针对突发性航标故障进行的航标应急抢修工作,需要航标管理者根据突发故障的类型人为组织资源,船艇、设备、人员状态的不确定性会无形中影响应急反应的执行效率。通过大数据的应用,可依据应急反应预案建立应急反应大数据模型,在应急反应发生时由系统根据应急反应类型去提取与应急反应相关的数据,有针对性地匹配最佳的应急反应方案,选取与该应急事件所在环境最匹配的资源,各项子任务精确推送到执行者的终端,所有执行者按照指令迅速开展工作,应急反应全程实现科学决策、精确调度、自动推动、精准执行。
“航标大数据”是在全球各行各业开展大数据应用的背景下依据航标管理及服务的需求提出的行业数据应用概念。笔者希望通过此文促进航标管理层重视大数据的应用,通过航标大数据机制的建立,带动航标管理及服务技术的进步。