电力企业数据中台架构下的数据管理建设
2021-02-28江苏电力信息技术有限公司
江苏电力信息技术有限公司 赵 琳
为解决数据问题,数据管理技术逐渐被各个企业所重视,诸多有关数据管理的思考与研究随之涌现。但目前企业在实际的数据管理中还存在一定的问题。因此,本文基于数据中台架构,提出了数据管理的建设思想,并针对数据管理中基于主数据的源端数据整合方法进行探析,以期提出有效的数据管理方法,为企业业务的智能创新发展提供数据支撑依据。
目前,企业的信息化建设基本采用传统的建设理念进行规划实施,对于各个大数据平台基本采用“立烟囱”的方式,导致企业各个业务系统均拥有自身的设备和管理方法,导致信息化系统维护成本高、数据资源复用困难、数据质量不高等问题。如何能够解决这一问题,打通数据并建立统一的数据标准,是企业应当考虑的重要问题,本文通过基于数据中台机构的数据管理进行分析。
1 数据中台相关理论
1.1 数据资产的产生背景
2020年4月,中共中央、国务院公布《关于构建更加完善的要素市场化配置机制的意见》,数据作为一种新型生产要素被写入中央文件。2020年5月,第十三届全国人民代表大会第三次会议上,李克强总理的政府工作报告中,提出“推进要素市场化配置改革”,“培育技术和数据市场,激活各类要素潜力”,“打造数字经济优势”。2020年10月,江苏省政府印发《省政府办公厅关于深入推进数字经济发展的意见》,提出”研究数据要素市场运行机制“,”搭建基于区块链等技术的数据安全共享与开发平台“,”探索建设数据交易中心“,”加快构建以数据为关键要素的数字经济”。国家电网公司和江苏省电力公司高度重视数据要素的自由流动和价值发挥,将电力大数据增值工作列入新兴产业升级和提质增效专项行动方案。要求聚焦政府、企业、居民对能源数据的应用需求,推动数据产品的规模化应用,打造多样化的数据运营商业模式和服务模式。要以促进数据要素流动、释放数据价值为目标,推进数字业务发展。
1.2 数据中台的基本概念
数据中台不是大数据平台,而是借助各种数据技术,对海量的数据进行采集、存储、计算、加工,从而形成统一的数据标准,根据标准数据,再对数据进行存储,形成数据资产化,为服务对象提供优质、科学的服务。
传统的数据开发的过程中,核心数据模型基本维持不变或变化相对较慢,但维护的数据量较大,因此难以匹配业务创新的速度,对于新的数据需求时长无法满足。数据中台的出现,良好解决了这一问题,提升了工作效率,加强了协作能力,为开发团队的开发速度做出基础保障,同时能够满足前台的开发团队在开发时不会受到后台数据开发的影响。
1.3 建设原则
数据中台的建设并非一朝一夕,建设企业需要结合自身实际情况,打造合适的数据中台能力。数据中台的建设,需要遵守相关的建设原则。第一,企业现有的组织架构与职能机制应配合数据中台的建设进行完善。第二,工作方式将会发生改变,需要数据人员对企业自身的业务数据、模型进行充分调研,开展端到端的实践。第三,数据中台的团队不应固化传统支撑角色的思维,而是应向数据运营角色转变,从而能够为业务人员提供合理的决策依据,成为新的业务增长点。第四,数据中台的建设需要充分结合企业的特点。信息时代,数据更加开放、共享,企业在进行数据中台建设时应将数据视为资产进行运营,从而最大程度提升核心能力。
2 企业数据管理存在的问题
2.1 业务需求方面
通常,企业的各个部门根据部门自身的业务需要,均制定了本部门的数据业务标准,导致各个标准不统一,产生冲突、混淆等问题,在实际的业务开展过程中,数据不能做到互联互通,极易形成数据烟囱、信息孤岛,难以形成企业全量化的数据治理组织架构,同时基本不能建立完善的数据管理办法。
2.2 系统建设方面
当下,企业的业务开展需求广泛,企业信息化系统多而复杂。当企业的业务发生变化时,系统并没有及时进行调整与适配,系统的集成度相对较低。而且,企业负责信息化的部门对于所需系统的建设难以做到及时响应和需求完全落地实现,系统功能呈现高耦合状态,后期的运行维护成本高居不下,无法适应企业业务灵活变化。
2.3 业务数据方面
企业中各个的业务部门在建立对应的系统后,均会产生大量的业务数据,但均存在以下问题。第一,数据冗余复杂。多源异构导致的数据大量冗余,为数据的分析与挖掘带来了诸多不便。第二,数据质量相对较低。系统在数据类型的设计上并未考虑企业架构对数据架构的需求,难以形成企业规模的数据统一架构,造成数据的完整性、一致性无法实现。
图1 电力企业数据中台架构下的数据管理建设
3 电力企业数据中台架构的数据管理建设思想
电力企业数据中台架构下的数据管理的核心思路是需要将数据作为一种资产,对其进行全面的管理。最终的目标是打破数据的隔阂,消除数据接口不统一的问题。具体可分为两步走:第一,根据现有的系统数据源,对基于主数据管理的模块实施源端数据整合,通过构建数据仓库,将数据进行轻度的汇总,对数据集成全量的复制至数据仓库中。同时,对数据采用清洗、加工等,使数据仓库的模型能够整合多源数据,从而实现数据的互通共享,能够对原系统进行校验与比对。第二,在对数据完成汇总后,需基于元数据管理进行相关逻辑整合,将数据实现应用共享,同时,也应能够对原系统数据采取元数据管理,实现逻辑上的整合管理。
数据中台具备数据接入、存储计算、数据分析、资源管理、服务管理、运营管理六大能力。按照数据中台“贴源层、共享层、分析层”的三层数据架构,统筹推进数据资源归集、数据模型整合和数据产品构建工作。打造企业中台门户,开放各专业数据资源目录、模型资产、数据产品等,实现数据“可视、可查、可取、可用”,提供“全流程、一站式”便捷服务,进一步提升中台能力开放水平,促进公司数据价值全面释放。
4 基于主数据的源端数据整合方法
主数据是指用于描述组织机构内的物、人等业务实体的数据,其核心是企业的业务数据。主数据是各个系统之间实现数据互通共享的关键。当下,部分企业虽已经建立了统一的主数据平台,但是,主数据仍然是由企业内专业的部门分别对其维护与使用,依旧没有形成企业级别的标准,存在着诸如项目、业务、组织机构等主数据的编码不统一、不一致的问题,加大了人员在不同的系统中重复管理、低效率工作的现象。
基于统一的数据模型,构建企业主数据管理平台,识别与分离遍布在各个系统之间的主数据,并对主数据表的各个字段进行管理与维护,对其使用权限进行认证,利用分发机制共享至各个业务系统,满足其使用的需求。同时,还需对各个业务系统的功能进行改造升级,通过集成企业主数据管理平台的相关功能,维护好自身系统内的主数据,避免出现主数据在各个系统间发生数据冗余的问题。
因此,基于主数据的源端数据整合建议如下:一,构建企业级数据模型标准。通过建立企业的主数据分类标准框架,设定目录索引,根据各个业务系统的数据,逐一的分析并梳理,形成数据模型标准。二,对主数据进行盘点。通过识别各个业务系统的主数据,梳理相关参数属性,确定各个数据项的来源与权限,建立主数据的台账。三,完善主数据平台。对企业级主数据管理平台及时维护更新,使其功能保持先进性,集成各项所需服务。四,对原有的信息化系统改造升级。通过应用集成各个业务系统中的相关功能,对原有系统的业务活动、事件等产生的主数据做调整。五,建立数据管理机制。对于数据管理工作进行相关机制构建,从而打造企业内的数据管理支撑平台,对数据的标准、共享、台账、安全、质量等实施统一的管理。
综上,企业的数据管理是企业数据中台架构建设的基础保障,而基于数据中台机构探析数据管理时可以发现,首先需要解决的是数据共享、数据标准化的问题。本文同归对数据中台的相关理论概念进行阐述,分析了企业数据管理存在的主要问题,归纳了基于数据中台架构的数据管理建设思想,并提出了基于主数据的源端数据整合方法。相关研究成果对于企业数据管理起到参考价值,为增强互联网大数据时代企业竞争力做出贡献。