地质调查数据实时传输系统中的业务系统集成方法
2017-11-07薛跃明张鸣之石爱军
薛跃明,黄 喆,张鸣之,马 娟,石爱军
(中国地质环境监测院,北京 100081)
地质调查数据实时传输系统中的业务系统集成方法
薛跃明,黄 喆,张鸣之,马 娟,石爱军
(中国地质环境监测院,北京 100081)
在已有地质调查数据实时传输系统基础上,针对业务系统接入实时传输系统时存在的问题提出相应的解决方案,结合OpenStack开源云平台灵活高效的资源调度、SPICE协议远程虚拟桌面高效访问、TurboIP硬件层TCP加速以及卫星传输非对称特点来综合解决传输系统在工作过程中与后方业务系统融合问题,并提出了可应用于野外工作的融合系统架构方案。
实时传输系统;OpenStack;SPICE;TCP加速;非对称传输
0 引言
由于互联网发展的驱动,和其他通信技术一样,卫星通信正转向满足数据通信的全面需求,卫星宽带接入不仅能够向用户提供高速互联网接入服务,同时能向地球的每一个角落传送信息[1]。在国外,卫星接入互联网应用主要体现在高铁和民航飞机领域。欧洲于2007年率先在“欧洲之星”高速铁路上采用了卫星宽带接入互联网;日本的新干线于2009年通过卫星实现互联网无线接入;美国高速铁路起步较晚,但从2008年起美国列车的互联网接入均采用了卫星技术,国内市场, 卫星实现互联网接入应用仅仅在民航客机上做过链路试验[2]。新一代宽带卫星系统发展,用户传输容量显著提高,通信成本下降,促进互联网接入卫星通信在铁路、民航、海洋、国土等领域的应用。
地质调查数据实时传输系统建设最初目的是在突发地质灾害应急处置过程中,实现基于IP卫星链路的前后方实时音视频会商,为指挥中心实时呈现灾害现场情况,供专家对灾害形势进行判断以提出有效的应急处置方案,因此,实时传输系统以优化基于卫星链路的音视频传输为工作目标。
随着地质灾害详查工作全面深入,数据资源不断丰富,建成各专业领域的业务系统,这些系统数据在地质灾害应急处置过程中发挥了重要支撑作用,为现场处置工作提供技术依据。同时,野外地质调查需要实时的了解区域已有地质资料,作为开展野外工作的基础。卫星通信作为野外地质调查工作唯一有效的通信手段,不受时间、地点限制,可随时随地进行通信,因此,有必要将业务系统集成到实时传输系统中,通过卫星链路实时获取存储在服务器上数据信息。
虽然业务系统在地质灾害应急会商处置和野外地质调查具有重要的作用,但是业务系统与实时传输系统的集成存在以下几个问题:
(1)由于各业务系统部署在不同的网络环境中,系统安全性的考虑,一般设置防火墙以防止对数据的非受权访问,这些安全措施在保护数据的同时,增加了访问业务系统难度,访问的过程中针对业务系统需要制定单独的访问策略,网络调整后相关的访问策略也需要重新规划,增加了实时传输系统整体运行管理调度的难度。
(2)业务系统数据格式多样,不同于视频数据帧,在数据传输过程中无法按照统一的压缩编码传输,有必要探索一种适用于异构数据压缩编码传输软硬件加速传输机制。
(3)由于卫星带宽资源有限,若将所原始通过卫星链路传输前端再进行处理,会延误后续处置过程,减少卫星链路传输数据量,将大量数据处理工作保留在服务器端,野外用户端根据需要请求相应的结果数据,节省数据传输时间,提高工作效率。
(4)卫星通信具有上下行传输不对称性,利用有限带宽资源的不对称性,根据业务数量动态调整上下行业务带宽,有效的提升业务系统访问能力。
为解决业务系统集成问题,本研究拟在业务平台系统部署规划、业务系统访问策略、数据传输加速、以及卫星传输线路优化等几方面对业务系统接入地质调查数据实时传输系统策略进行研究部署。
1 业务系统云平台部署配置方案
1.1利用云平台管理业务系统
针对实时传输系统用户经常访问的业务系统分布于不同网络中,数据存取复杂的困难,采用云平台统一管理各业务系统,云平台只需要对各业务系统进行计算资源、存储资源、网络资源进行基础管理,不需要复杂的云平台管理功能,由于商业云平台租金较高,综合考虑,采用OpenStack开源云平台对各业务系统进行管理。
OpenStack是一个旨在为公共及私有云的建设与管理提供软件的开源项目,包括网络、虚拟化、操作系统、服务器等各个方面,OpenStack具有以下几方面优点[3-4]:①低成本,计算资源、存储资源、网络资源、维护成本得到优化与节省;②弹性伸缩,管理节点、数据中心资源、承载用户数据信息及系统进行的存储集群、承载云租户业务的计算集群都具有较强的弹性伸缩能力;③高性能,I/O吞吐性能、CPU调度效率并发能力强,云存储IOPS吞吐量达,可共享的存储容量大;④高安全,物理层数据中心安全防护度高,虚拟化层事件监测、防病毒等安全管理机制强;⑤高安全,云管理节点自身的可靠性保障、计算节点的故障恢复、中心网络可靠性保障、连续服务和数据防丢失等机制健全完备。
OpenStack云平台可根据业务系统数量来部署计算节点,为简化部署与维护管理,可将云平台计算节点和控制节点部署在同一台高性能服务器上,业务系统在云平台中部署见图1。
图1 业务系统在云平台部署示意图
业务系统规划网络模型采用VLAN(Virtual Local Area Network,虚拟局域网)网络, 这种模型简单、稳定,尤其是多节点部署的可扩展性和可靠性较好,在图1网络结构中,根据各业务系统环境需求部署对应的私有网络,私有网络之间不能互通,但可设置虚拟路由或VPN通道相互访问,私有网络类似于物理上的隔离网络,将业务系统分别部署到私有网络能确保系统数据安全性,防止非授权用户访问;各业务系统在独立网络中,网络结构清晰,管理维护方便,一旦出现问题,能快速定位发生故障点并予以排除。
利用OpenStack统一管理各业务系统计算节点,简化了原有网络结构,为外部访问提供了统一的策略和接口,经过认证实时传输系统用户可通过统一的协议接口访问业务系统中数据资源。
1.2业务系统访问策略
云平台为业务系统提供统一模式管理,因此可配置统一的策略来访问平台内各业务系统。
在OpenStack云平台增加一独立计算节点,作为实时传输系统用户访问业务系统的代理节点,代理节点通过VPN(Virtual Private Network ,虚拟专用网络)通道访问各业务系统,代理节点可根据实时传输系统用户量弹性增加,网络结构部署见图2。代理节点作为实时传输系统用户通过卫星链路访问业务系统的中间节点,起着数据预处理与传输缓冲的作用,代理节点设置一方面简化实时传输系统用户访问业务系统程序,各业务系统结构不同(BS、CS结构),若用户终端直接访问各业务系统,需要安装相应的客户端工具,利用代理节点访问业务系统,用户终端只需通过远程桌面访问协议访问代理节点,就能访问真实的桌面,另一方面代理节点也极大节省了卫星带宽资源,通过代理节点访问业务系统,大量的数据传输是在云计算平台内部,用户终端通过远程协议与代理节点通信,可以避免大量数据通过卫星链路传输而导致的桌面画面卡顿。
工作人员可在野外利用支持远程桌面传输协议的终端(笔记本电脑、PC、平板)等远程访问代理节点,通过代理节点访问各业务系统,选择适当远程桌面访问协议,能有效提高系统用户数据访问效率。
SPICE(Simulation program with integrated circuit emphasis,独立计算环境简单协议)协议是开源的虚拟桌面传输协议,在SPICE服务器端和SPICE客户端进行交互通信,SPICE协议是一项高性能、动态的自适应远程呈现技术,能为终端用户带来和物理桌面个人计算机难以区分的体验。SPICE 协议采用了3层体系架构模式[5]:SPICE Driver、SPICE Device 和SPICE Client。每一层都有独立的功能相对应,其中,SPICE Driver 内置于每个虚拟桌面之中,SPICE Device 则是安装于服务器虚拟化层的软件,SPICE Client 安装在瘦客户机或PC 中用于链接位于服务器中的虚拟桌面。
图2 云平台业务系统访问数据流程图
在代理节点部署SPICE服务端,用户可通过卫星链路访问到云平台中的代理节点,并通过代理节点访问到相应的业务系统,基于SPICE桌面虚拟化和代理节点访问业务系统具有以下优势:
(1)由于卫星链路上传输的内容不包括实际的应用数据,基于SPICE协议所传输的数据量通常较小,可节省卫星链路带宽资源;
(2)避免了协议在卫星链路上的高交互传输,能在很大程度上缩短用户的访问时间;
(3)由于应用程序主要安装和运行在服务器上,因此客户端可以灵活配置,支持SPICE协议的电脑、平板以及手机等都可以作为客户端访问业务系统。
1.3远程访问TCP硬件加速策略
SPICE协议在网络层采用TCP协议传输[6],典型的卫星链路出现的高延迟和比特误差率,构成了对TCP传输的挑战,对于该面向连接的协议,下列因素导致了性能的退化:①所需的应答时间严重限制了传输速率的提升;②发信机的小窗口尺寸降低了吞吐量;③传输原因导致网路拥塞的延迟降低了传输速率;④传输原因导致网路拥塞的丢包降低了传输速率。
为降低卫星链路固有传输弊端对网络层数据传输影响,同时根据实时传输系统目前系统设备配置以及网络架构,采用Comtech EF Data的TurboIP IP提供透明 TCP 加速,TurboIP IP可有效增加卫星连接的吞吐量,为实时传输系统用户提供可靠的面向连接的、端到端数据传输。
TurboIP运行模式为将服务器在部署在实时传输系统主站,野外用户需要在便携站的终端和主站的服务器之间传输文件或其它基于TCP业务时,主站的Turbo和便携站之间的TurboIP之间构建加速通道,所有基于TCP协议的传输业务都被TurboIP加速,基于UDP的传输业务直接通过。
由于卫星系统设计的限制,卫星发射端功放的发射功率受到严格的管控,发射电平达到极限值后,仅通过增加卫星带宽无法提高卫星传输效率,对比测试表明(图3),不采用TCP加速方案,卫星站功放在功率达到极值情况下,传输速率在40 Kb以下,采用TurboIP在服务器和野外站端进行数据进行压缩、缓存与加速,数据传输速率随着带宽的增加呈现明显提高,数据传输稳定性也有较大提升。
图3 硬件加速前后速率对比
1.4利用非对称传输特性,提升卫星线路利用率
非对称可用来指数据流传输的不对称性[7],比如在因特网中,一个简单的web请求被送往服务器端,返回的可能是大得多的文档、多媒体数据流等。在卫星通信也存在类似情况,在上面访问策略中,实时传输系统用户通过远程虚拟桌面协议访问代理节点,用户向代理节点发送鼠标、键盘等消息,而从代理节点返回的数据大得多的图形、图像、文档、多媒体等数据流。上下行数据存在严重的不对称性,若不考虑非对称性,设置相同的上下行带宽,那么就会出现上行信道大量空闲、下行信道严重堵塞的情况,不利于用户体验,同时也浪费了有限的卫星带宽资源。特别在野外地质灾害应急等时效性要求较强的应用中,将全部的带宽资源根据上下行数据传输速率要求动态分配调整可有效解决上述问题。
地质调查数据时间传输系统目前以音视频会商为主,带宽速率设置双向速率对等,在Vipersate VMS网管统一调度管理之下,可以将上下行速率分别设置以适应数据传输要求。
2 业务系统接入测试
2.1测试环境搭建
客户端采用笔记本电脑,操作系统windows 7,安装SPICE 客户端,接入野外卫星站。
服务器安装CentOS 7操作系统, 并利用KVM软件虚拟三台服务器(虚拟服务器),其中一个模拟代理节点,安装Ubuntu操作系统并部署安装SPICE服务端。两个模拟业务系统服务器,均安装Windows Server 2012操作系统,分别安装配置Web服务和FTP服务模拟业务系统,各服务器参数见表1。
表1 虚拟服务器参数Table 1 Virtual server parameters
同时,在野外卫星站和服务器端各增加一台TurboIP传输加速设备,卫星上下行带宽分别设置1Mb和3Mb。
2.2测试结果
野外端直接利用SPICE虚拟桌面访问Ubuntu,包括播放音频、视频文件,浏览百度地图(卫星底图、街景图),再通过Ubuntu代理节点访问虚拟服务器的Web服务与Ftp服务。
测试结果直接访问代理节点时界面显示清晰,实际使用中键盘输入、鼠标移动没有延迟感,声音传输正常,播放标清视频较流畅,高清视频会有图像卡顿现象,百度地图、卫星底图、街景图显示流畅,通过代理节点访问web服务和ftp数据传输服务较流畅,数据传输稳定。
测试表明,利用TurboIP和SPICE虚拟桌面协议,在带宽允许情况下,野外端通过卫星链路能顺利访问业务系统,与便携式野外卫星站相结合,能在野外工作中更好的开展工作。
3 实时传输系统框架
围绕着数据传输的整个流程,分别从服务端业务系统部署、业务系统访问策略、卫星传输链路优化、以及传输过程中TCP硬件加速等过程对业务系统的接入与访问进行优化配置,系统用户能够在野外任何时间地点根据工作需要访问云平台上的业务系统,经过优化与调整的系统总体框架结构见图4。
图4 实时传输系统框架
业务系统访问与音视频会商数据利用同一卫星通道,但实际上是两个独立的数据传输过程,在卫星带宽资源充足的情况可以同时进行相互支撑,也可根据工作需要选择音视频会商或者业务数据传输,并可根据需要动态配置工作环境,具有灵活性。集成了业务系统的地质调查数据实时传输系统将会在地质灾害应急和野外地质调查工作中发挥更大的作用。
4 结论
本研究提出的系统融合方案能使业务系统顺利集成到实时传输系统中来,但实际应用过程中尚存在一些技术难点:
(1)OpenStack云计算平台是基于Linux系统的开源云平台,可以自由部署灵活扩展,对各业务系统计算节点的管理也简单高效,但是由于系统模块化,各模块之间耦合度较低,因此云平台在服务器上的部署工作繁琐,需要对Linux系统有较扎实的基础运维知识,目前已开发出来一系列自动部署工具如Fuel、RDO等,一定程度上简化了平台部署工作,后期的业务系统管理、网络运行与规划等,依然需要大量的运维工作。
(2)开源虚拟桌面传输SPICE协议能在带宽保证情况下为用户提供较好体验,但是不能适应低带宽情况,采用硬件TCP加速一定程度上可解决低带宽下SPICE协议运行问题,但卫星传输在不同地点、不同环境下信号值会有较大波动,探索在低带宽下改进协议传输是下一步要解决的问题。
随着卫星通信接入互联网应用的不断深入,业务系统集成后不仅能在地质灾害应急会商时可提供数据支撑,随着实时传输系统日益轻型便携化,野外工作人员可通过系统根据野外工作需要随时随地访问业务系统,为野外工作人员提供了便捷的数据通道,有利于野外工作的顺利开展。业务系统集成到地质调查数据实时传输系统在未来的野外地质调查工作中有着广泛的应用前景。
[1] 张 健. 移动互联网与卫星通信[J]. 卫星与网络, 2016, 3 (3):24-26.
ZHANG Jian. Mobile internet and satellite communication[J]. Satellite & Network, 2016, 3 (3): 24-26.
[2] 吕强,周志成,李峰,等. 基于卫星通信的WIFI应用[J]. 国际太空, 2015,11(11):34-39.
LYU Qiang, ZHOU Zhicheng, LI Feng, et al. WIFI application based on satellite communication[J]. Space International, 2015,11(11):34-39.
[3] 张新朝,孙峰. 基于OpenStack云平台虚拟集群环境的部署[J]. 闽南师范大学学报(自然版),2015,1(1):48-53.
ZHANG Xinchao, SUN Feng. Virtual cluster environment constructing based on openStack cloud platform[J]. Journal of Zhangzhou Teachers College (Natural Science Edition), 2015,1(1):48-53.
[4] 柴宝强,刘光明,李葆光,等. 基于Ubuntu操作系统OpenStack虚拟化环境的部署[J]. 甘肃科技, 2015, 31(23):13-17.
CHAI Baoqiang, LIU Guangming, LI Baoguang, et al. Deployment of OpenStack virtualization environment based on Ubuntu operating system[J]. Gansu Science and Technology, 2015, 31(23):13-17.
[5] 刘源,蒋建峰. 基于SPICE协议的虚拟云桌面访问技术的研究与应用[J]. 科技资讯, 2016,30(30):1-2.
LIU Yuan, JIANG Jianfeng. Research and application of virtual cloud desktop access technology based on SPICE protocol[J]. Science & Technology Information, 2016,30(30):1-2.
[6] 徐 浩,兰雨晴. 基于SPICE协议的桌面虚拟化技术研究与改进方案[J]. 计算机科学与工程, 2013,35(12):20-25.
XU Hao, LAN Yuqing. Research on desktop virtualization technology based on SPICE protocol and its improvement solutions[J]. Computer Engineering & Science, 2013,35(12):20-25.
[7] 赵勇,安君帅,赵飞. 一种用于卫星通信系统非对称信道调制解调器的设计[J]. 通信与广播电视, 2008,3(3):9-14.
ZHAO Yong, AN Junshuai, ZHAO Fei. Design of an asymmetric channel modem for satellite communication system[J]. Communication & Audio and Video, 2008,3(3):9-14.
Integrationmethodofbusinesssysteminreal-timedatatransmissionsystemofgeologicalsurvey
XUE Yueming,HUANG Zhe,ZHANG Mingzhi,MA Juan,SHI Aijun
(ChinaInstituteofGeo-EnvironmentMonitoring,Beijing100081,China)
Based on the real-time data transmission system of geological survey, we put forward the corresponding solutions for the problems existing in the real-time transmission system of the service system. In the use of OpenStack open source cloud platform, flexible and efficient resource scheduling, SPICE protocol remote virtual desktop efficient access, TurboIP hardware level TCP acceleration and satellite transmission asymmetry characteristics to comprehensively solve the transmission system in the process of working with the business system access problems, finally proposed a field work can be applied to the system integration architecture design.
real-time transmission system; OpenStack; SPICE; TCP acceleration; asymmetric transmission
P628+.4
A
1003-8035(2017)03-0106-05
10.16031/j.cnki.issn.1003-8035.2017.03.16
2017-04-17;
2017-06-20
薛跃明(1981-)男,汉族,山东人,硕士研究生,研究方向为地质灾害应急通信、遥感与地理信息系统。E-mail:xueym@mail.cigem.gov.cn