基于华为融合集成架构的高校数据交换平台建设
2022-09-26刘洋李伟
刘洋 李伟
1.天津市大学软件学院;2.天津市河西区教育综合服务中心
1 背景介绍
1.1 学院简介
天津市大学软件学院是市委市政府批准设立的隶属于天津市教委具有独立法人的事业单位。学院以天津软件产业发展的人才需求为导向,集合教育、科技、产业优势资源,以培养多层次具有创新精神的适用性人才为主要任务。目前已成为聚集140家新一代信息技术创新企业,服务全市高校并辐射全国79所高校的全国最大的开放共享产教融合实训基地[1]。
1.2 数据交换需求及挑战
1.2.1 必要性
学院自成立后一直致力于校园信息化建设,相继建成了教务系统、毕设系统、学工系统、国资系统、后勤管理和OA等覆盖教务、学工、后勤等不同领域的多个业务系统,通过信息化手段有效的保障了学院工作的有序开展。
但随着信息化建设的不断开展和智慧校园建设的不断深入,这些在不同时期建设和实施的业务系统,由不同供应商开发,部署方式多样化,使用了不同的技术架构和开发语言,没有统一的数据标准,造成系统之间相互封闭独立,数据无法实现自动交换与共享,而如果不能有效实现各系统之间数据的交换与共享,就无法实现业务处理的关联与协同。从学院现状和全局来看,现存的通过人工方式进行各个系统的数据传递和业务协同,已经不能适应智慧校园信息化发展的需要。
因此如何应用云计算技术和融合架构,打破业务系统壁垒,实现校园业务数据跨系统的自动协同,完成跨系统业务的有序对接和数据及时、可靠、自动化传递,确保数据的唯一性和准确性,已成为当前建设数字校园智慧化应用的迫切需求和最大挑战。
1.2.2 技术发展
为实现数据跨系统自动交换,解决业务系统之间的数据共享问题,校园信息化建设早期通常采用文件共享、数据库中间表、端到端定制开发接口和消息队列等方式。但是这种方式会造成业务系统之间紧密耦合,形成网状连接。一旦某个系统进行升级换代或接口变动,与之相关的其他系统都要随之改变,增加了后续扩展升级的难度和成本,给数据管理和维护工作带来困难。
目前比较通用的解决方式是基于服务总线的数据交换接口架构定制开发集成接口。虽然此种方式比端到端的方式有了进步,能够实现对各系统之间数据交换的管理与监控,但是依旧存在采用定制化开发方式对数据交换平台开发商依赖严重的问题。同时随着物联网技术的快速发展以及在校园后勤安保等工作中的快速应用,越来越多的物理设备接入了校园网络,产生了大量数据,如何对此类数据进行有效的采集交换也成为传统数据交换平台需要面对的问题[1]。
1.3 建设目标与内容
综上所述,随着学院数字化和智慧化建设的不断深入,如何有效的实现日益增多的业务系统之间数据可靠、安全、快速的自动交换已成为制约信息化发展的重要问题。为此学院适时启动了数据交换平台项目,至2021年底已基本完成项目实施。
本项目规划实现的目标如下:
(1)结合实际工作内容,参考教育行业通用标准制定面向数据交换的学院标准和管理制度,为后续新建业务系统提供数据库与集成规范,提升工作效率和质量,减轻服务接口维护难度。
(2)基于华为融合集成解决方案,搭建支持“云上云下”,跨区域集成,应用、数据、服务和资源打通的数据交换平台。
为实现以上目标,本项目相继完成了以下工作内容:
(1)建立标准规范:为规范数据交换平台的建设与实施,提高项目实施的效率与质量,方便后续的运维与扩展,在项目中制定了学院统一的数据实施与交换标准,形成了数据交换相关的标准规范体系,包括《数据标准》、《数据交换管理办法》、《数据质量管理办法》、《数据安全管理办法》及相关配套技术文档。
(2)实施服务集成:对学院既有的教务、学工、众创、国资、后勤和OA等业务系统梳理协同接口,根据交换标准设计数据交换的服务组件,完成相关服务接口在数据交换平台的服务集成。通过数据交换形成数据主题,为数据治理做好相应基础,确保各管理部门能够利用数据分析工具,从数据中获取有效信息,为实现科学决策创造条件,确保教学、科研、后勤、服务保障等各个领域实现信息化与智能化。
2 技术方案
2.1 技术实现
本次部署实施的数据交换平台属于学院智慧校园建设的一部分,基于华为融合集成解决方案搭建,可实现应用、数据、API、IOT设备、云服务之间的集成连接,该平台具备以下特点:
(1)连接应用:基于消息集成和API集成的方式实现云上云下以及云间的应用集成,确保实现应用之间简单高效的连接。
(2)连接数据:支持多数据源、多目标、多种协议的数据集成;覆盖全量、增量、准实时、定时多种集成方式;支持零代码任务配置,能够实现业务与数据的有效跟随。
作为面向数字化转型时代的新一代集成平台,本项目在实施过程中能够避免传统的ETL工具接入的数据类型有限及效率较低的弊端,实现对结构化数据、消息、API以及物联网设备数据的有效汇聚,能够集成包括ESB产品在内的系统和应用数据,从而建设一个真正融合的集成平台。
项目实施方案总体架构如图1所示。
图1 数据交换平台总体架构Fig.1 Overall architecture of data exchange platform
具体到学院业务中,项目实施后可覆盖应用场景如下:
(1)统一集成平台:提供应用、消息、数据集成,构建统一集成平台。
(2)主数据同步:基于交换平台实现异构系统间主数据实时与定时集成。
(3)便捷服务编排:通过界面配置或是函数开发实现服务集成编排,实现内网应用无差异使用外部SaaS API,创新应用模式。
2.2 功能架构
本次实施的数据交换平台基于数据、消息、服务划分子产品,各模块既能够单独运行也能组合成套件,统一运维模块为核心组件提供系统级通用运维能力,子产品间共享相同的技术底座。平台功能架构如图2所示。
图2 数据交换平台系统框架Fig.2 System framework of data exchange platform
3 实施步骤
数据交换项目实施一般分为数据交换场景分析与服务识别、建立数据交换标准、落地实施并部署上线等三个阶段。
实现数据交换:(1)要对学院现有业务系统的数据进行整理与分析,分析工作流程中涉及的数据交换场景,确定数据共享的服务粒度和交换方式,确定数据交换所需的其他特征参数,包括数据交换周期、方向、场景、数量和协议等。(2)要分析各个业务系统的接口协议和数据访问协议,确定数据交换的可能性。鉴于教育行业大部分业务系统开放性较强,同时对于自主开发的系统在采购阶段均已签署协议要求开放数据库并提供数据字典,因此本项目实施基本可覆盖学院所有系统。(3)还需要针对单个系统分析数据格式和定义是否一致,确定数据在交换时是否需要进行转换以及数据交换数量等级[2,3]。
完成上一阶段的分析与识别后,根据学院相关制度与规范,建立数据交换标准及实施方式,包括数据标准、交换规则、管理规定、项目集成技术要求、接入指南、运维规范和实施规范等,为后续的项目实施确立指导性文件。
最后由厂商配合学院信息化部门,安装并部署数据交换平台,完成服务注册、接口测试、系统优化和上线工作。
4 建设效果
项目实施完成后实现了设备互联、应用互联和数据的交换总线,建立了开放互联的API网关。平台累计注册接入应用系统13个,建立数据标准671项,设计接口1035个,实际上线运行接口服务997个,涵盖教务、学工、一卡通、物联网和OA等业务系统,其中物联网系统的服务接口最多,达到120个。数据交换场景模式包括请求/响应与发布/订阅两种模式,支持HTTP、REST、FTP和MQTT的多协议适配。
平台部署于华为容器集群中,采用7台物理服务器实现超融合架构,使用青云套件进行容器管理,采用OPS对集群运行情况进行监控。数据交换平台平均每天完成交换15300次,数据交换流量日均超过1GB,响应成功率超过99%。
项目实施后新系统和新服务的注册与集成,原有服务的变更及平台的管理维护,基本都可由学院信息化部门完成,摆脱了对平台供应商的依赖,也显著降低了各个业务系统之间的耦合性,达到了项目预期目标,如表1所示。
表1 接入数据交换平台的部分服务Tab.1 Partial services of access data exchange platform
5 项目价值
智慧校园是数字校园的发展和延伸,智慧校园是以物联网为基础,以感知、智能、挖掘、控制等各种信息技术为手段,将学校的科研、管理、教学、决策等资源相结合,构建智慧化的校园服务新模式[1]。智慧化数字校园的建设是一个循序渐进的过程,如何高效的实现业务系统之间的数据自动交换是其中一个重要和必须的环节。
天津市大学软件学院通过实施数据交换平台项目,构建了高度集成、开放和共享的数据交换智能平台,实现了数据在业务系统间的互联互通,促进了多源异构数据之间的集成、交换、共享的自动流转,指导和规范了学院未来业务系统的建设和实施,建立了整体层面的业务状态,为数字校园的建设奠定了数据连接基础。
引用
[1] 黄超,唐子蛟.基于云计算技术的智慧校园平台建设研究[J].软件,2018,39(5):27-30.
[2] 睢贵芳.智慧校园基础信息平台建设的若干问题[J].电子技术与软件工程,2017(15):258-259.
[3] 余鹏,李艳.智慧校园视域下高等教育数据生态治理体系研究[J].中国电化教育,2020(5):88-100.