互联网技术在勘察设计行业跨地域电子图纸存档中的应用
2018-10-17王中成叶宇飞周莉
王中成 叶宇飞 周莉
摘 要: 针对跨地域勘察设计院电子图纸存档的数据量大和网络带宽小造成传输速度慢、很耗时的问题,介绍了一种运用多项互联网技术协同作用提高传输速度的方法。首先通过上网行为管理技术降低在线视频及P2P文件共享流量对带宽的占用;其次通过数据压缩技术减少所需传输数据的大小;然后通过协议优化技术提高数据传输效率;最后,采用重复数据本地获取技术减少数据传输总量。实验结果表明,电子图纸存档第一次上传所需传输时间与传统传输方式相比减少7%-25%,第二次上传所需传输时间与传统传输方式相比减少31%-53%,因此,运用多项互联网技术协同作用有利于跨地域勘察设计院电子图纸存档的快速传输,是“互联网+”的典型应用。
关键词: 电子图纸存档; 上网行为管理; 数据压缩; 重复数据本地获取; 互联网+
中图分类号:TP393.2 文献标志码:A 文章编号:1006-8228(2018)08-43-04
Deployment of Internet technology for electronic drawings archiving
of cross region in design industry
Wang Zhongcheng, Ye Yufei, Zhou Li
(China Coal Technology & Engineering Group Chongqing Engineering Co. Ltd, Chongqing 400016, China)
Abstract: In view of the problems of the large amount of data in the electronic drawings and the small network bandwidth, the transmission speed is slow and the time consuming of the electronic drawings in the cross region survey and design institute is high. A method of improving the transmission speed by using the synergy of multiple Internet technology is introduced. First of all, reduce the bandwidth consumption of online video and P2P file sharing through Internet behavior management technology; secondly, reduce the size of the required transmission data by data compression technology; thirdly, improve the efficiency of data transmission through protocol optimization technology; finally, the local data acquisition technology is used to reduce the total amount of data transmission. The experimental results show that the upload time of the electronic drawings archiving for the first time is reduced about 7%-25% compared to the traditional data transmission. Time of the electronic drawings archiving upload for the second time is reduced about 31%-53% compared to the traditional data transmission. Therefore, the application of multiple Internet technologies is conducive to the rapid transmission of electronic drawings in cross regional survey and design institutes, and it is a typical application of "Internet plus".
Key words: electronic drawings archiving;internet behavior management;data compression;local data acquisition technology; Internet plus
0 引言
圖纸作为设计行业的主要工作成果[1],包括纸质图纸和电子图纸,本文主要研究电子图纸存档。电子图纸的存档方面经历了三个阶段,第一阶段,电子图纸刻录成光盘,与纸质图纸一起交档案部门保存,其缺点是时效性差(可能存档不及时)、光盘易损、光盘数据与交付纸质图纸是否一致无法查证。第二阶段,使用统一的电子图纸管理系统,将电子图纸上传到服务器存放,时效性、易损性有很大提高,并且引入负责人审核机制,电子图纸与交付纸质图纸的一致性也有很大提高。第三阶段,使用统一的出图系统,打印纸质图纸时由出图系统生成专业打印文件(PLT文件及PDF文件),同时自动上传文件到出图系统服务器中(包括PLT文件、PDF文件,以及原始的图纸DWG文件),解决了存档电子图纸与交付客户的纸质图纸的一致性问题。现阶段的电子图纸存档已经较为科学严谨,已经得到广泛使用。
1 跨地域电子图纸存档存在的问题
局域网的网络带宽至少是百兆,甚至是千兆,在这种网络下传输一个项目数据(大约300M-600M)在数秒内就能完成,但分支机构与总部距离几百甚至几千公里,不在同一个局域网,分支机构通常在非专线互联网线路(ADSL宽带、小区宽带等)基础上运用虚拟专用网络(Virtual Private Network,简称VPN)技术与总部互联[2],这种技术以采用互联网带宽为基础,在互联网线路上建立一条分支与总部之间的加密隧道实现远程访问。由于运营商对非专线业务不承诺上行带宽,一般上行带宽低于2Mb/s,一个项目图纸传输时间通常需要1小时以上。设计师需要根据项目进展的实际情况适时对图纸做出调整,调整后的电子图纸重新上传又需要1小时以上,严重影响设计师的工作效率,减少存档时间是目前行业亟待解决的问题。
目前认为简单有效的解决办法是采用专线互联总部与分支机构,但专线价格昂贵,要达到局域网的使用效果,需要租用100M专线,单条100M跨省专线每年租用费在五十万元以上,即使仅租用10M带宽,单条10M跨省专线年费用在六万至十万元之间,十个分支机构每年需花费至少六十万元专线租用费,几乎没有设计企业采用专线方式,需要一种低成本的解决方案来解决此问题。
2 问题的原因
电子图纸文件传输要经历三个步骤:分支机构上行链路、运营商承载链路、总部下行链路。任何一个链路瓶颈都会由于木桶效應导致整体传输瓶颈。因此,跨地域电子图纸存档耗时由三个原因引起。
2.1 分支机构上行带宽小
由于分支机构通常采用上下行带宽不一致的非专线宽带,比如ADSL宽带、小区宽带,这些宽带近年来下行带宽不断提高,已经能做到百兆入户甚至千兆入户,但上行带宽没有提高,一般上行带宽低于2Mb/s,相比早已普及的局域网百兆带宽,低50倍。
2.2 带宽复用
分支机构在非专线宽带上采用虚拟专用网络技术与总部建立VPN加密隧道[3],不管是分支机构还是总部都是在互联网线路上开辟的一条隧道,即带宽是复用的。如今,在线视频及P2P文件共享应用的流行,互联网带宽资源大量被这些应用占用,导致互联网带宽长期处于满负荷状态,既挤占分支机构本来就很小的上传带宽,又占用总部专线互联网的下行带宽,引起VPN加密隧道的数据需要排队通过[4],使得电子图纸上传速度慢的情况更加雪上加霜。
2.3 延时高
由于是总部与分支跨地域,距离可能达到几千公里[5],在internet运营商中间的路由过程将经过跳数多,并且省与省之间的带宽也存在瓶颈可能造成数据包排队通过的情况,再加上两端VPN隧道的加密和解密过程会耗时,所以,在跨地域的图纸传输中,延时会相对频繁,造成丢包现象,造成数据需要二次重传,增加传输时间。
3 解决方案
首先,通过上网行为管理技术降低在线视频及P2P文件共享流量对带宽的占用;其次,通过数据压缩技术减少所需传输数据的大小;再次,通过协议优化技术提高数据传输效率;最后,采用重复数据本地获取技术减少数据传输总量。
如图1所示,四种互联网优化技术综合运用,提高远程数据传输的效率。
3.1 上网行为管理
目前P2P文件共享及在线视频的广泛应用[6],导致互联网带宽很快被这些应用占用,而正常的业务流量(如电子图档系统的上传流量、邮件系统流量等)得不到应有的带宽。2015年的华为全球分析师大会上,华为指出:现有网络流量中已经有70%是视频,将来会达到90%。针对这种情况,限制在线视频及P2P应用的流量十分必要,即上网行为管理。
通过限制P2P文件共享、在线视频(很多在线视频也采用P2P文件共享的方式),能够减少大量的非办公流量,为业务流量保留出带宽。
3.2 数据压缩
采用高效的数据流压缩算法,可以对所有的数据先压缩后传送[7],减少数据传输量,大大提高了终端用户在B/S应用和C/S应用时的速度,减少数据传输时间。
3.3 传输协议优化
由于电子图纸采用FTP的方式上传文件,FTP是TCP协议,可以通过扩充传输窗口、改善拥塞控制等技术,提高在高丢包、高延时情况下TCP协议传输效率[8]。
3.4 重复数据本地获取
通过对电子图纸存档系统的数据流量进行分析,发现存在大量冗余数据传输,比如图纸的一些对图纸做了一点小改动后重新打印时,所有数据均重新上传,采用内容比对技术,避免相同数据重复上传[9],重复文件的分片由原来的文件传输变为“数据标签”的传输,收到“数据标签”后直接从本地缓存中获取重复文件的分片[10],仅上传修改部分数据,节约大量时间。
综上所述,运用多种互联网技术的协同作用能大幅提高传输效率,下文统一采用“优化”指代解决方案中运用到的多种技术。
4 实验数据与结果分析
4.1 实验环境
⑴ 分支互联网带宽为10M ADSL宽带,网络中没有除测试机以外的其他有线或无线终端接入网络,保证分支10M带宽独占。
⑵ 测试使用的软件及版本为AutoCAD 2012- Simplified Chinese。
⑶ 随机选取一个项目10个图形文件。
⑷ 原有网络环境是指,未运用上网行为管理、数据压缩、传输协议优化、重复数据本地获取等几种技术的环境;优化后网络环境是指,运用上网行为管理、数据压缩、传输协议优化、重复数据本地获取几种技术的环境。
4.2 实验方法
每个项目的图纸数量不一样,图纸大小也不一样,实验采用随机方法在一个项目中选取10个图纸文件(图纸文件格式为dwg文件)进行实验,图纸存档系统上传时会生成pdf和plt文件,实验将统计dwg、pdf、plt三种文件的大小总和,同时统计10次上传的总时间。
4.3 实验结果
4.3.1 原网络环境实验结果(如表1)
4.3.2 优化后第一次测试结果(如表2)
4.3.3 优化后第二次测试结果(如表3)
4.4 实验结果分析
⑴ 图2对三次测试的上传时间进行了对比,可直观地看出:互联网技术综合运用后,能够明显节省上传所需时间。
⑵ 提取优化钱上传时间与优化后第一次上传时间进行分析比较,结果如表4所示。
通过表4可以看出,互联网技术综合运用后,减少了传统存档方式7%--25%的传输时间。
⑶ 提取优化前上传时间与优化后第二次上传时间分析,结果如表5所示。
通过表5可以看出,第二次上传时能够减少传统存档方式31%-53%的传输时间。由于“重复数据本地获取”技术针对第二上传文件时相同数据从本地获取,只会在第一次上传后提高上传速度,因此,此结果符合预期。
5 结束语
实验结果表明,通过数据压缩、协议优化、重復数据本地获取三种技术综合运用,电子图纸第一次上传时能够减少传统存档方式7%-25%的传输时间,第二次上传时能够减少31%-53%的传输时间,因此,运用多项互联网技术协同作用有利于跨地域勘察设计院电子图纸存档的快速传输,是“互联网+”的典型应用。
在实际应用中,带宽不会像实验环境中是独占使用的方式,会涉及到带宽的争抢,所以实际使用环境中运用“上网行为管理”技术管理带宽后,减少的传输时间会更多。
参考文献(References):
[1] 石玥琪,吴东婷,张瑞祥.勘察设计企业电子档案管理方案探
讨[J].中国档案,2011.12:51-52
[2] R Friend,Making the gigabit IPsec VPN architecture secure[J].
Computer,2004.37(6):54-60
[3] 魏广科.VPN技术及其应用的研究[J].计算机工程与设计,
2005.26(3):714-715
[4] C Phillips,J Bigham,L He,B Littlefair,Managing dynamic
automated communities with MPLS-based VPNs[J]. BT Technology Journal,2006.24(2):79-84
[5] N Krivokapi, M Islinger, A Kemper. Migrating
Autonomous Objects in a WAN Environment[J]. Journal of Intelligent Information Systems,2000.15(3):221-251
[6] Tran Thi Thu Ha, Jinsul Kim, Jiseung Nam.Design and
Deployment of Low-Delay Hybrid CDN-P2P Architecture for Live Video Streaming Over the Web[J]. Wireless Personal Communications,2017.94(3):513-525
[7] 王建新,彭娜.广域网加速技术研究综述[J].电信快报,
2009.5:11-14
[8] 梅松.一种新的采用TCP封装的IPSec广域网加速通信研究[J].
计算机工程与科学,2010.32(7):4-7
[9] B Zhou,JT Wen, Metadata Feedback and Utilization for
Data Deduplication Across WAN[J]. Journal of Computer Science and Technology,2016.31(3):604-623
[10] 马留英,蔡杰明,刘浏,刘振军.一种加速广域文件系统读写
访问的缓存策略[J].计算机研究与发展,2014.s1:38-47