数据治理实现业务数据互联互通
——以市政集团数据中台升级项目为例
2023-03-07上海城建市政工程集团有限公司沈君华上海智能交通有限公司吴俊孟云海袁海莉
文|上海城建市政工程(集团)有限公司 沈君华;上海智能交通有限公司 吴俊 孟云海 袁海莉
1.引言
1.1 背景
我国“十四五”期间,信息化发展步入快车道。在国务院国资委发布的《关于加快推进国有企业数字化转型工作的通知》中提出,通过新一代信息技术,探索搭建符合企业业务特色和发展需求的“数据中台”,加快形成集团级数字技术赋能平台的转型方向。深化集团数据治理改革,健全业务流程的数据采集、传输和聚合体系,建立业务场景数据模型,优化数据融合分析与共享机制,深入挖掘数据价值。
建筑行业是我国国民经济的支柱行业。但是建筑类行业信息化发展的总体水平较低,知名咨询机构麦肯锡公司在全球建筑类行业信息化的研讨报告中提出:全球建筑行业在流程管理、财务管理、人力资源管理、事务管理等很多方面的信息化水平较低。因此,建筑行业的信息化发展之路任重而道远,转型升级也迫在眉睫。
数字化转型是建筑行业转型升级的核心引擎,通过把工程环境数据、产品数据、过程数据、要素数据进行采集、存储、集成、共享、分析,使其成为信息的高价值资产,帮助工程建造从经验驱动、向数据驱动转变。
1.2 现状
上海城建市政工程(集团)有限公司(以下简称“市政集团”)作为上海国资旗下隧道股份总承包业务子公司,顺应新时代国企信息化大潮,在人力资源、项目管理、财务管理等诸多方面进行了数字化转型。为实现数据互联互通,在2019年下半年至2020年底,对接了人力资源、财务、项目等办公系统,设计并初步建立了小型数据仓库来落地业务数据,数据主要是通过抽取-转换-加载(以下简称ETL)方式抽取。在这个过程中,出现了一些难点,诸如:难以满足后续数据种类以及历史数据的不断扩充、多系统体系下的信息孤岛、数据质量的差异导致融合困难、缺乏全环节数据资产管理、对数据价值挖掘不足等问题。
因此,如何更好地实现业务数据的互通互联并解决上述难点,就成为了后续亟待研究的课题。建筑企业信息化升级,应将信息技术与建筑企业日常各模块的管理进行有机的结合。[1]一方面要从企业的管理需要这个实际出发,另一方面也要结合当前主流的信息化技术,两者缺一不可。
2.技术路线
面对上述几个难点,数据中台架构体系可以很好的利用其技术特点来辅助解决。数据中台是应用系统的核心,其主要由数据感知、数据底座、数据服务三个部分组成。
数据感知是通过多种技术手段,实现对设备、应用平台的数据对接采集,随着日积月累的多种设备和各类应用平台的接入,逐步建立数据感知的接入标准和资源知识库,以实现数据感知标准化的快速衔接,降低设备和平台信息采集的复杂性。
同时,数据中台的建设离不开各个业务数据的聚合,数据聚合作为数据中台建设的首个环节,其主要目的是打破数据孤岛,建立统一的数据中心,为后续挖掘数据价值提供原材料。
数据服务的核心意义在于:数据资产可持续利用,并将数据资产服务于业务。数据服务的功能让数据中台将自身已具备的数据资源和分析结果,通过服务的方式(例如:接口、图形、链接等),可以提供不同业务、不同应用平台所需的数据呈现,进而降低其开发成本、时间成本等。
数据中台就是数据服务化,服务化的核心是数据模型化和服务组件化,通过数据中台对中台本身管理的数据进行分析封装,形成数据视图(如统计图、报表),进而形成成熟的数据产品,为各数据请求方提供轻便、灵活、迅捷的数据服务。
依据上述架构体系,在数据层面打破数据孤岛,实现数据的集中化管理,服务各项业务;在业务层面对各业务模块去重和沉淀,提供数据共享模块,为前台业务提供快速上线和迭代试错,服务更多场景,提升响应能力;在技术层面减少重复开发工作,技术迭代升级更高效,可按需扩展服务,让技术架构更开放、稳定、可扩展。
图1 数据中台架构总体概览
3.数据治理
3.1 数据治理管理制度
对于数据治理工作,企业必须要有相应的数据管理制度出台作为支撑。该管理制度包括:
(1)加强公司数据规范性管理,提高业务系统数据质量,同时把控数据安全管理,防范敏感数据泄露等安全隐患,确保数据信息的真实、完整、可用和安全。
(2)明确数据治理所涉及的数据范围,以及整个数据生命周期如何管,怎么管等方法要素。
(3)明确数据管理部门的职责,同时也对数据来源部门和数据使用部门提出了相应要求。
(4)强调数据安全的重要性,建立数据分类分级保护。
3.2 数据主责清单
图2 数据主责清单
图3 数据来源清单
图4 数据应用场景
3.2.1 数据主责细分到业务部门
企业的每一个数据,都必须有对应的业务部门承担管理责任,各业务部门是执行规则、保证数据质量、进而推动规则优化的关键环节。
对于接触数据(尤其是关键数据)的员工,如需要创建、更改、使用或以某种方式移动数据,就必须了解自己的角色,并承担相应的责任,维护好数据。
3.2.2 数据来源细分到系统模块
每个数据的来源系统和所属业务流程的梳理对于数据问题的溯源至关重要,数据伴随着业务流程产生,是业务流程的衍生物。
3.2.3 数据应用细分到应用场景
数据治理是数据应用的基础,它的好坏直接影响在应用过程中能否充分地发挥数据价值。数据的应用既方便了数据主责的部门自己获取数据,也可以提供给其他部门人员,实现业务数据互联互通。
运用SOM分析对吉林省春夏期的天气模态进行分类,以白城站为例建立各天气模态下逐日降水量的统计模型,对独立检验期的日降水量进行预测分析和效果评估,并将该方法推广到吉林其他站点,得到以下结论:
梳理数据的应用场景也督促着主责部门对各自主责的数据负责。
3.3 数据互联互通
3.3.1 多部门数据共享
数据治理使得各业务部门对数据的使用变得更加高效。数据作为数据提供方的核心资产,由数据提供方接入数据共享和交换平台。[2]数据共享的部门主要有:市场发展部,工程管理部,安全管理部,合约管理部,人力资源部等。
其中数据共享的场景,如合约部需使用工程部的产值数据进行汇报,但工程部线下整理的文档中无项目ID 信息,按照原先的工作流程,由工程部提供线下维护的产值记录表给合约部,合约部通过项目名称进行匹配数据,即浪费时间还不能保证准确性,而产值填报系统经过一系列的数据治理、模块设计、流程规划上线后,不仅工程部可以直接查看各项目产值和营收等数据,而且合约部也可在工程部数据线上确认后直接从报表界面下载,而其他部门需要该数据时,向工程部申请后也可以获得相应权限,保证数据准确性的同时也提高了工作效率。
3.3.2 多平台数据融合
中台升级的数据治理涉及到多个系统平台,主要有:协同门户,综合管理平台,人力资源系统,金蝶系统等。除了归属于市政集团的内部系统的数据外,数据治理还包含了外部数据,例如隧道股份安全整改平台的数据,为简化业务部门每周安全整改单的统计分析工作,在不影响隧道安全整改平台正常使用的前提下,采用流程机器人技术抓取数据,将数据记录到数据中台并根据业务部门的需求进行分析处理,最终提供报表给业务部门,实现了自动化。
3.4 建立长效机制
企业数据治理不是一蹴而就的,需要建立长效的运营机制,不断打磨数据标准和数据质量。只有将数据治理变成一种机制、一种习惯,才能达到企业数据治理的“标本同治”“长治久安”的目标。
3.4.1 数据标准管理
数据标准就是定义一套统一的规范,保证各业务系统和使用者对数据的理解统一、对数据的使用口径一致。数据标准的难度在于管理,管理的难度在于对数据的业务定义。在中台升级项目中,针对每个数据与相应的信息管理专员进行逐条讨论,从数据标准的合理性、数据说明与业务理解是否一致,是否敏感信息等多方面进行审核,最终确定标准,并在数据主责清单中进行维护。
3.4.2 数据质量管理
数据质量管理是指对数据从产生、获取、存储、共享、维护、应用等数据全生命周期可能出现的各类数据质量问题,进行识别和预警,并处理的一系列管理活动。[3]
针对数据质量问题,在中台升级项目中进行了以下管理:
事前预防控制:在数据产生的环节进行数据质量的把控,效率最高。通过建立数据主责管理清单,明确数据主责管理部门及数据标准,在源头提高数据质量,对于需人工录入的数据,尽可能地使用如下拉菜单、单复选框、时间控件等措施,必须文本输入部分,进行必要的及时校验和反馈。
事中过程监控:在数据的使用过程中检查数据质量。在对数据的采集加工环节进行控制,通过自动化邮件报警及时反映数据质量的问题。
事后监督管理:在数据应用时发现数据质量问题需找到数据主责管理部门,且在历史快照中可以查看责任人以及错误数据产生的时间,以进行有效修复或说明。
4.应用案例
4.1 运营看板
数据治理的首要目的是面向“业务价值”,即向管理者以及各业务部门展示公司各模块的数据,运营看板则是其展示方式。共计完成了9 个模块的运营看板,包含“全面预算-三年考核”“经营业绩”“产值营收”等,帮助企业把这些数据都汇集到了领导驾驶舱,以月度或季度的频率更新。各看板的查看权限根据权限分组统一控制,在此基础上实现了各模块数据互联互通。
4.2 防疫应用
2022年3月上海疫情爆发后,在数据治理的成果基础上,通过1 个月时间,迅速开发并上线了“市政集团随申码应用数据分析系统”,该系统结合了数据中台的人力资源信息与项目人员实名制信息以及大数据股份的防疫健康接口信息,是通过数据治理实现业务数据互联互通的典范。若无中台数据治理的基础,则需要结合多方数据进行开发,将大幅增加开发难度和开发周期。
该系统能满足新冠防疫数据即时服务和定时批量统计的需要,并可视化企业各级组织日常防疫全景,为市政集团数字化防疫做好大数据支撑。通过在智慧工地整合“数字哨兵”组件,服务于市政集团总部、10+基层单位、100+项目部,为2w+人员累计提供400w+次防疫数据服务。
4.3 流程分析
流程分析看板收集了协同门户和综合管理系统的各流程节点审批信息,经过数据治理,根据流程模块进行分类,对流程平均节点、流程平均耗时、流程退回率等指标进行统计,而且该看板的分析结果也间接影响到一些流程的使用,对于长时间无人使用的非重要流程,经过相关部门审定后可优化或关闭。且对于效率较低的流程,可以找到在具体哪个节点的效率较低,然后对该节点的审批人加以提醒,从而提升效率。例如公司印章使用审批、合同审批的流程,通过流程分析,帮助业务条线流程节点实现了优化。
图5 全面预算-三年考核
图6 经营业绩
图7 产值营收
图8 新冠防疫数据即时服务
图9 定时批量统计
5.管理价值
数据中台升级项目的实施取得了初步成绩,数据质量得到了大幅提高,数据共享使得各业务系统的数据一致性得到保障,这些都对高效信息化管理提供了大力支撑,具体体现在:
(1)提升了建筑企业数字化转型的速度和效率。
建筑企业数字化转型受限于数据的孤岛。数据治理打破了数据孤岛,建立统一的数据中心,实现了数据的可持续利用,也为建筑企业数字化转型打下了坚实的基础。
(2)有助于管理者第一时间全方位了解企业运行数据和趋势,准确快速的做出企业决策。
数据治理为管理者提供了较为直观的可视化报表,根据报表,管理者可以时刻关注企业运行数据,把控指标和完成进度,为企业决策提供参考。
(3)提升了企业内部各部门之间业务数据的融合。
数据治理将个业务部门的数据进行融合后再提供给更多的部门,数据治理实现了各平台,各部门的数据互联互通,数据资源的开放使用可以为更多的业务提供方便,极大的提高了各部门参与到数据治理中的积极性。
6.结语
综上所述,以数据中台为主要技术体系的数据治理,能很好的实现并满足企业数据互联互通的需求,为信息化工作进一步深化打好了基础。在过去的一年中,数据治理的成果已经体现出它的优势,得到了管理者和使用者的一致认可。