APP下载

面向服务的动态可配置数据采集技术研究

2019-09-10胡淑新宋志蕙

计算机与网络 2019年12期
关键词:大数据分析数据采集

胡淑新 宋志蕙

摘要:大数据分析可以提供大量的决策支持,同时也为人们的日常工作、生活和学习等提供了大量信息。对于不断产生的新数据,及时准确地采集其中的有效数据,是大数据分析的基础。为此,对面向服务的动态可配置数据采集技术进行研究,在完成面向服务的动态可配置数据搜索基础上,依托时间目标函数、综合目标函数对动态可配置数据进行选取,实现可配置数据的采集。仿真试验结果表明,面向服务的动态可配置数据采集技术,数据采集精度更高、更准确、更具可行性。

关键词:大数据分析;动态可配置;数据搜索;数据选取;数据采集

中图分类号:TP913文献标志码:A文章编号:1008-1739(2019)12-69-3

0引言

随着我国国防、通信、航空和气象等领域科学技术的发展,测量控制和处理所需的信息越来越多,速度也越来越快[1]。同时,测量控制任务变得越来越复杂,需要对现场、远距离网络进行测量控制。传统的独立工具无法适应高质量信息采集需求。因此,本文对面向服务的动态可配置数据采集技术进行研究。

可配置數据采集在工业生产和科学技术研究等诸多领域广泛应用,并且取得了良好的应用效果,具有更广阔的发展前景[2]。

传统的数据采集设备功能有限,升级和维护成本高,通信线路复杂,不能满足当前数据采集和处理的要求。为解决这些问题,越来越多的用户期待出现新的解决方案。数据采集工具实现的原理是其执行程序本身是独立于具体联邦的,但是它针对每一个应用都可以生成相应代码来适应具体需要。分析动态可配置数据搜索方法,在依据时间目标函数、综合目标函数完成对动态可配置数据的选取,从而实现动态可配置数据的采集[3]。对数据采集纯度进行仿真试验,仿真结果表明,面向服务的动态可配置数据采集技术更加准确,具有可行性。

1动态可配置数据搜索

在对动态可配置数据进行搜索时,传统方法均依据服务器数据库现状,采用基于数据库的搜索方法,实现对动态可配置数据搜索,但其搜索精度低并且很难适应现有的可配置数据的动态性,已无法满足动态可配置数据搜索需求[4]。基于形态相似度计算的搜索方法,搜索准确度较高,且方法简单。对此,通过计算可配置数据的形态相似度,确定搜索范围。形态相似度的计算表示为:

3动态可配置数据采集

考虑到可配置数据采集的复杂性,在选取数据的基础上,设置多个采集通道,且每采集完一个区域,自动切换至下一个采集通道,依次循环直至所有的可配置数据采集完毕,因此,在采集预处理时,设置的通道要足够。对采集到的可配置数据进行分类存储,存放地址空间不同,便于后续可配置数据的使用[8]。

在采集可配置数据时,每个通道采集不同的可配置数据,并且存储在不同的地址空间,服务器可直接读取存储区域内的数据[9]。

设置可配置数据采集参数,其中包括任务块的堆栈大小、内存警告线和任务数据库的地址等。可配置数据采集服务程序设置的堆栈空间为128 Byte,存储器调页线设置为10%,任务优先级设置为3(0是最高优先级)。创建服务程序后,打开可配置数据采集功能,任务进入阻塞状态[10]。基础设备的ADC开始对可配置数据进行采集,并且采集的数据通过硬件DMA通道存储在采集数据存储区域中,确保收集数据的稳定性,完成整个收集过程。数据采集具体流程如图1所示。

4仿真试验

试验过程中,利用2种不同的可配置数据采集方法同时在仿真环境中进行工作,分析其数据采集精度的变化。利用XSN-14数据处理平台,得出2种可配置数据采集方法采集后的数据纯度变化情况,并将结果进行统计学分析,其数据纯度仿真曲线如图2所示。

根据纯度仿真结果可知,采用传统可配置数据采集方法其采集数据纯度约为25.74,掺杂非可配置数据较多;改进可配置数据采集方法,采集的数据纯度值为73.21。由此得出,改进可配置数据采集方法,较传统可配置数据采集方法,采集的数据纯度增高了47.47,掺杂非可配置数据较少,采集准确,具有一定的可行性。

5结束语

对面向服务的动态可配置数据采集技术进行研究,分析动态可配置数据搜索方法,以此为基础,进行数据最优选取,从而实现数据的采集。试验数据表明,面向服务的动态可配置数据采集技术具备理想的数据采集精度且具有更高的实用性。本文的研究能够为可配置数据采集技术的研究提供理论依据。

参考文献

[1]丁俊,郑辉.大数据时代下的动态可配置数据采集系统的研究与设计[J].计算机应用与软件,2018,35(3):75-79.

[2]陈佳,郭山清.面向服务端私有Web API的自动发现技术研究[J].网络与信息安全学报,2016,2(12):27-38.

[3]沈鹏,徐青,邢帅,等.面向服务的火星空间信息可视化技术研究[J].测绘科学与工程,2017(3):54-60.

[4]吴杭彬,王俊骅,李易,等.面向主动交通安全的城市车辆在线位置服务技术[J].科技资讯,2016,14(1):169-170.

[5]詹国华.面向SOA的烟草企业主数据管理平台的研究与实现[J].科技创新与应用,2017(3):33.

[6]李国,申亚坤,李永华,等.一种面向多类型服务的动态负载均衡算法[J].现代电子技术,2017,40(12):128-131.

[7]童智高,张丽娜,邓水光.面向容器化PaaS平台的智能监控技术研究与实现[J].计算机集成制造系统,2017,23(5): 1125-1131.

[8]文峰.面向动态需求的通用数据录入服务平台设计与实现[J].软件导刊,2016,15(3):124-126.

[9]汤妙吉.面向个性化信息服务的图书馆移动用户行为分析模型设计[J].现代情报,2018,38(1):121-126.

[10]关俊涛,丁金听,杨建光.基于BIM的工厂建设项目设备数据采集技术研究[J].新技术新工艺,2016(6):56-59.

猜你喜欢

大数据分析数据采集
大数据分析对提高教学管理质量的作用
基于大数据分析的电力通信设备检修影响业务自动分析平台研究与应用
面向大数据远程开放实验平台构建研究
面向大数据分析的信息管理实践教学体系构建
传媒变局中的人口电视栏目困境与创新
大数据分析的移动端在网络课堂教学中的应用
CS5463在植栽用电子镇流器老化监控系统中的应用
大数据时代高校数据管理的思考
铁路客流时空分布研究综述
基于广播模式的数据实时采集与处理系统