基于大数据平台的企业级经营分析系统建设探讨
2016-01-04
基于大数据平台的企业级经营分析系统建设探讨
孙淳晔
(中国移动通信集团设计院有限公司河北分公司, 石家庄 050021)
摘 要针对现有经营分析系统(BASS)存在的短板,整合企业各域数据,优化系统架构,采用大数据技术构建企业级经分系统,提高资源利用率,并通过逐步解耦数据及应用,逐步开放能力平台,充分发挥数据价值,支撑公司全面发展运营。
关键词经营分析;大数据;系统架构;数据价值
1 概述
随着云时代的来临,大数据(big data)吸引了越来越多的关注,数据已成为一种资源,企业内部的经营交易信息、互联网世界中的商品物流信息、人人交互信息、位置信息、物联网、车联网等产生的信息无时无刻不在产生着大量数据,其数量将远远超越现有企业IT架构的承载能力。尤其对于运营商来说,其系统中存在海量的数据,且无时无刻不在产生着新的数据,如何盘活这些数据资产,充分体现价值优势,将是运营商未来发展的关键,也将决定运营商在信息舞台上的地位。
大数据(big data)具有5V特点[1]:Volume(海量的数据规模)、Velocity(快速的数据流转)、Variety(多样的数据类型)、Value(巨大的数据价值)、Vitality(动态的数据体系)。“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来[2]”。无论运营商“云、管、端”如何全面发展,最终将转化为数据流量,大数据的累积效应正给整个IT业带来变革。特别是云概念和4G的深入发展,日均数十TB级的数据量对运营商数据压力与日俱增,而IDC的大规模建设更是加剧了这一趋势。所以,运营商拥有了其他行业无可比拟的资源优势——数据资源,可以说运营商已经具备了大数据的基础,把握住大数据的发展将会是运营商的一次重大机遇。而淘宝、Google[3]等互联网企业对于大数据应用的成功案例也给予了我们启发。
2 需求分析
经营分析系统作为中国移动IT支撑系统的决策支持系统,帮助企业决策层了解企业经营现状,发现企业运营的优劣势,预测未来趋势;帮助细分市场和客户,指导营销、客服部门进行有针对性的营销和高效的客户关系管理。然而传统的经分系统局限于业务支撑域,数据维度并不完整,质量有待提高,仍处于运营驱动数据的被动服务模式。
拿某省运营商经营分析(BASS)系统为例,该系统多为小型机+传统盘阵+关系型数据库的IOE架构:
(2)维护费用偏高:不能满足大数据时代的低成本要求,传统的小型机盘阵架构所占用的机房空间,耗电量,散热量及每年高额的维保费用较高,与绿色节能减排的宗旨相违背。
(3)架构层面不够灵活:扩展性不足,设备性能的提升依赖于设备硬件的扩容及软件的升级,小型机的单机扩展能力有限,当应用资源需求超越小型机的极限时,小型机就变得无能为力。另外小型机的部件都是专有部件,价格比较昂贵,导致小型机的性价比较差,多套主机共用一套存储的集中处理模式对于系统的运行、I/O口读写速率都造成极大的负荷。
数据库技术:经分系统目前已能提取网管侧如Gb、Gn等接口的部分信令数据,通过爬虫系统提取互联网URL数据,这些数据中存在大量非结构化数据,而目前存在的数据库大多为如Oracle,DB2类的关系型数据库,非关系型数据库技术并未被得到深化应用。
(4)应用层缺乏实时性:目前上层应用多为事后处理或准实时,影响用户感知,支撑服务对象较少。
从以上分析可看出,现有的经分系统的发展并不能与未来企业信息化发展的脚步同步,而经分系统的大数据特点决定其与大数据技术的完美契合。因此逐步完善经分系统,构建全网数据融合的企业级经分成为今后发展的趋势。
3 基于大数据技术的企业级经分系统
基于大数据构建企业级经分系统是在现有经分系统上进行补充完善,满足系统建设的平滑过渡,包括架构的调整,数据源的扩充、整合、统一及平台的对外开放等。
传统经营分析与基于大数据的经分系统的差异性如表1、表2所示。
基于大数据平台的经分系统(如图1)建设并不是对原有经分的否定,而是对现存系统的补充,使之更多的面向市场、面向管理、面向生产乃至面向开放。
模板支设完成在外框架四角吊锤,每次混凝土浇筑前,应先测量吊锤下放后锤线距离墩身混凝土面的距离和上方垂线距离内衬模的距离,以检测整个辊模架体的偏移及扭转,并做及时调整。
针对现网经分系统各层逐步演进如图2所示。
(1)扩充数据源,沉淀企业数据资产。逐步打通B、M、O三域壁垒,构建IT共享资源池,具体可采用大二层技术来扩展二层网络,逐步将三域纳入同一个大二层范围内,一方面扩大经分数据源,另一方面更有利于同一个大二层下的云化实施;此外为用户增加基础属性数据,实现运营商多维全量的用户数据,包括:基础属性、位置信息、用户喜好等标签,实施精准营销,提高用户黏性,延长用户生命周期。
表1 两类经分系统异性分析表
(2)采用云ETL替代原ETL,构建企业级的采集平台。ETL指对数据源进行提取(Extract)、转置(Transform)、加载(Load)。在经分系统中原有ETL只能实现对业务支撑单域数据的采集处理,为实现对全域数据的采集,构建企业级的ETL采集层。
(3)加大经分系统的x86占比,逐步实现由小型机向x86服务器的迁移。为经分系统的不同部分定义不同的重要级别,例如可按照等级由高到低的顺序对数据库、采集、重要应用、一般应用等来逐步实施。由于数据库体量庞大,对设备性能要求较高且业界并无针对数据库x86化的专有成熟技术,需谨慎考虑数据库的x86化。目前阶段建议采用混搭、多架构并存的模式:对于不同的数据类型部署不同架构,除传统基础数据仓库外,搭建适配各类数据的专有数据仓库。针对关系型数据库尽量部署MPP架构,以优化架构,针对非结构化数据实施Hadoop技术,短期内实现多架构的并存,具体如图3所示。
事务处理类数据:数据类型为关系型数据,为保持系统的平滑过渡,可维持原有关系型数据库,保持原有架构。
互联网,信令类数据:由于其随机性较大,关联性较小,采用非结构化数据库技术,如Hadoop技术。
分析挖掘类数据:如经分历史库,为非实时性数据,需充分进行数据挖掘,关联汇总,需调整原有架构,尽量部署MPP架构。
图1 基于大数据的企业级经分系统
图2 针对现网经分系统各层逐步演进图
(1)开放数据总线能力,按需进行组件分装,创造商业价值。
(2)实现事后分析向实时分析的转变,以支撑业务运营,达到向数据驱动运营的最终目的。
基于大数据技术的企业级经分系统建设涉及范围广,影响意义深远,并非短期可以实现。结合公司IT现状来看,还有很长的路要走,需要合理规划,逐步演进最终达到目的。
4 结束语
大数据时代已经到来,正促进着信息技术与各行业的深度融合,运营商拥有管道中的庞大数据这一优势,决定其将是未来大数据时代最强势的竞争者。文章首先分析了现网经分系统的局限性,针对现有的短板提出对应的解决措施以及今后的建设思路。对运营商来说,构建基于大数据技术的企业级经分系统,利用和深挖自己的潜在优势,把握机遇,迎接挑战,释放出数据的巨大能量,将是运营商未来经营的重中之重,无疑将会成为未来大数据时代的主角。
参考文献
[1]张超. 云计算和大数据给运营商带来的机遇和挑战[J]. 电信技术, 2013(9).
[2]武延军. 大数据时代已经来临——人机物融合的大数据时代[J]. 高科技与产业化, 2013(5).
[3]孙健,贾晓菁. Google云计算平台的技术架构及对其成本的影响研究[J]. 电信科学, 2010(1).,
表2 两类经分系统共性分析表
图3 数据处理架构变革
Discussion of enterprise-level business analysis support system building based on big data platform
SUN Chun-ye
(China Mobile Group Design Institute Co., Ltd. Hebei Branch, Shijiazhuang 050021, China)
AbstractFor short board exists in business analysis support system, the paper proposed a method that to build the enterprise-level business analysis support system based on big data skill through integrating the data from all the areas and optimizing the system architecture, then it can improve the resource utilization and lastly to reach the goal of taking advantage of the role of data value and supporting the company's overall development operations by decoupling the data and applications and opening the capability of the system platform progressively.
Keywordsbusiness analysis support; big data; system architecture; data value
收稿日期:2014-07-18
文章编号1008-5599(2015)01-0078-04
文献标识码A
中图分类号TN915