APP下载

基于数据处理的任务智能调度引擎设计

2018-05-30娄必伟张起荣欧莹元

大东方 2018年1期
关键词:任务调度数据处理

娄必伟 张起荣 欧莹元

摘要:文章首先对电信运营商任务调度的现状进行简要分析,在此基础上对基于数据处理的任务智能调度引擎设计进行论述。期望通过本文的研究能够对任务调度问题的解决有所帮助。

关键词:数据处理;任务调度;智能调度引擎

一、电信运营商任务调度的现状分析

近年来,国内电信市场持续已久的垄断逐步被打破,由此使得一些新运营商加入,在这一前提下,市场竞争变得日益激烈。对于电信运营商而言,他们几乎每天都需要从后台数据库中,完成海量数据的抽取和统计任务。然而,由于大部分电信运营商并未应用任务智能调度引擎,从而无法实现对这些任务的智能调度和实时监控,致使某些用户急需办理的事项要等待很长的时间,统计结果中无法及时有效地发现问题。

对于电信运营商目前使用的经分系统而言,任务调度是不可或缺的组成部分之一,这种应用系统的数据及时l生在很大程度上取决于任务调度,换言之,任务调度对经分系统具有直接的影响。任务调度算法有两种,一种是事件驱动调度算法,它是按照事件发生的先后顺序和任务的优先级来安排任务的执行;另一种是时钟驱动调度算法,这种算法主要用于周期性任务的处理。在对时钟驱动调度进行应用时,需要同时满足如下几个条件:即精确度足够高的定时、分布式的全局时间、调度器由时间触发。通过对目前应用较多的数据库进行分析后发现,其中很大一部分在任务调度算法上,采用的都是时钟驱动调度算法。

大多数的数据库系统中都有Job或Scheduler进行任务调度,这些任务的调度算法都采用时钟驱动调度算法。Quartz作为一个由Java编写的开源作业调度框架,其调度的处理方式也为定时处理。

这种时钟驱动调度算法它关注的并不是数据当前所处的状况,只要达到预先设定好的时间,便会进行处理,在这一前提下,常常会出现如下问题:即有的任务在处理时,与之相关的数据尚未生成,这样一来,需要对任务重新处理,不但费时,而且费力。

二、基于数据处理的任务智能调度引擎设计

(1)设计目标

为了解决现有任务调度中存在的缺陷和不足,本文提出一种基于数据处理的任务智能调度引擎,通过它的应用,可以实现如下目标:在各种任务的处理上,只要按照预先设定好的程序进行完全配置,便能够实现自动调度,整个调度过程不需要人为干预,这种自动化的处理方式,可以帮助电信业务支撑部门解决日常数据处理的繁重工作,不但减轻了人员的工作量,而且还确保了数据处理的正确性与及时性,人力和物力的节约,能够给企业带来一定的经济效益。同时,决策人员可以在较短的时间内,获得准确、可靠、完整的数据,为经营决策提供了可靠的依据。

(2)任务智能调度引擎的功能设计

本文所设计的任务智能调度引擎具备如下功能:

①任务配置管理。可对任务并发数及配置任务属性进行定义,同时还能对新建任务的优先级、任务对应的后台处理过程以及具体的执行周期等进行定义。可以日、周、月、年为单位对任务进行定义,并且可以定义一次性任务,在对周任务进行定义的过程中,需要预先设定开始时间,即周几,而对一次性任务进行定义时,则需要指定数据的开始与截止时间。

②任务执行条件管理。该功能具体是指对任务的执行条件进行配置,当任务满足预先设定的条件时,才会被执行。可对任务执行的时间点及任务执行前的检查条件进行配置。

③任务依赖关系管理。此项功能可对任务的依赖关系进行定义,一个任务能够依赖于多个任务,同时也能被多个任务所依赖,当任务所依赖的任务执行完成以后,该任务才会被执行。

④任务后续处理。该功能主要是对任务执行完成后的相关处理进行定义,如数据完整性、有效性检查、数据量比较等。

⑤任务执行监控。对任务的具体执行情况进行查看,可启动亦可停止任务,若是停止命令下达时,任务处于正在执行的状态,系统会在执行完成后,停止指定任务。

⑥任务异常处理。对任务执行出现的差错情况进行查看,找出错误的语句后进行处理,并在处理完毕后,对该任务进行重做。

⑦服务程序。这是一个任务智能调度程序,其能够按照任务执行的具体条件完成检查,若是条件具备,则系统会自动启动执行。

(3)应用优势

本文所设计的任务智能调度引擎具有如下应用优势:任务检查条件的设置,可以使系统先检查任务是否可执行,只有具备条件才会执行,从而避免了人工重做的情况发生;设计中引入了任务的依赖关系,确保了数据的正确性,解决了任务长时间执行对资源的耗费问题;任务并发数的设置,防止了任务过多导致系统资源消耗过大影响使用;设计采用的调度算法在时钟驱动算法的基础上,按照任务的执行周期、条件、依赖关系等对任务进行检查,确保了可执行任务能够优先进入到队列当中。

结论

综上所述,本文在对电信运营商任务调度现状进行分析的基础上,提出一种基于数据处理的任务智能调度引擎,并对其设计目标、功能及应用优势进行论述。通过该引擎的应用,能够使电信运营商任务调度问题得到有效的解决。

(作者單位:贵州工程应用技术学院)

猜你喜欢

任务调度数据处理
认知诊断缺失数据处理方法的比较:零替换、多重插补与极大似然估计法*
ILWT-EEMD数据处理的ELM滚动轴承故障诊断
基于PEPA的云计算任务调度性能分析
基于改进NSGA-Ⅱ算法的协同制造任务调度研究
基于时间负载均衡蚁群算法的云任务调度优化
基于小生境遗传算法的相控阵雷达任务调度
MATLAB在化学工程与工艺实验数据处理中的应用
云计算环境中任务调度策略
云计算中基于进化算法的任务调度策略
Matlab在密立根油滴实验数据处理中的应用