云计算平台中监控视频摘要任务调度方法研究
2017-08-12张海涛胡豆豆
许 彬 张海涛 胡豆豆
1(北京邮电大学智能通信软件与多媒体北京市重点实验室 北京100876)2(中国电信股份有限公司上海研究院 上海 200122)
云计算平台中监控视频摘要任务调度方法研究
许 彬1张海涛1胡豆豆2
1(北京邮电大学智能通信软件与多媒体北京市重点实验室 北京100876)2(中国电信股份有限公司上海研究院 上海 200122)
随着视频监控系统的大量部署,产生了大量的监控视频数据,视频摘要技术应运而生。如何优化大量的视频摘要算法服务器的工作效率,高效的视频摘要任务调度方法成为关键。提出一种基于视频摘要任务执行时间预测模型的分布式任务调度方法。该方法对视频摘要处理过程中的监控视频数据块所需的服务器处理时间进行预测,从而合理调度任务,使服务器负载均衡,提高了云服务器的资源利用率,降低了视频摘要任务的分布式处理时间。
视频摘要 任务调度 分布式计算
0 引 言
随着电信全球眼产品在行业客户中得到了广泛应用,仅上海电信企业监控系统规模在2万路以上,在全国范围内更是有超过1 000万个监控摄像头用于城市监控与报警系统。摄像头的增加带来了大规模防范的可能,但是随之而来的是大量监控视频数据,如何从大规模监控视频中获取人们关心的信息成为了巨大的挑战。研究结果表明,人在盯着视频画面22分钟之后,人眼将对视频画面里95%以上的活动信息视而不见。同时由于监控视频的特殊性[1],其本身存在大量的冗余数据,例如一段凌晨1点至3点的监控视频,其中人们关心的内容则很少。由此产生了视频摘要服务,可以将一段长时间的监控视频,压缩成几分钟长度而不损失任何有价值的信息。
视频摘要[2]是指由一系列静态图像按时间顺序或空间分布规则组合得到的图像集,同时视频摘要不仅对原始视频进行分析,还综合考虑了伴随着视频有意义的音频流和文本流等多媒体信息,进行语义理解,并对视频流或多媒体流进行摘要。就具体的应用场景,视频摘要技术可以将大量的监控视频进行浓缩,将监控视频中人们不感兴趣的冗余背景分割掉,生成精短摘要视频,大大减轻用户的查阅监控视频的时间成本。或者通过对相似主题的视频库提取摘要信息并进行匹配,从而完成主题事件的关联型活动不同场所安防视频的摘要信息进行匹配,可以对异常事件进行检测、搜索和回溯,如图1所示。
图1 视频摘要效果图
面对海量监控视频数据,如果仅仅单机处理不仅花费巨大,而且难以及时获取有价值的信息。因此基于云平台的分布式视频处理方案成为当下一个热门的研究方向。例如文献[5]中提出的基于hadoop的视频云平台管理系统,文献[6]提出的分布式的视频编码方案以及文献[7]对分布式视频编码架构的研究等等。任务调度是云计算的关键技术之一,其主要目标是尽可能实现系统资源的负载均衡[9]。传统的分布式任务调度算法主要的应用对象集中在文本类型的数据,如文献[10-11]等。由于视频摘要过程中视频数据需要的处理时间是不可知的,传统的分布式任务调度算法并不完全适用,由此本文结合监控视频数据块的特性提出了一种基于视频摘要任务处理时间预测模型的分布式任务调度算法。该算法能够使视频摘要服务器负载均衡且高效运行,从而缩短视频摘要任务的总执行时间。
1 电信全球眼智能视频监控平台
电信全球眼视频监控平台为用户提供了视频摘要与浓缩、周界报警、遗留物检测、二维码智能巡检、人脸识别、安防报警等智能功能的智能管理平台。
1.1 电信全球眼视频监控平台架构
全球眼视频监控平台针对用户不同的需求,为用户提供了一系列的增值服务。全球眼智能视频监控平台的算法模块采用了分布式计算架构,为大规模视频智能分析和处理提供了基础,日后可根据用户需求平滑扩容[3]。视频智能分析管理平台架构如图2所示。
图2 电信全球眼智能视频监控平台架构
1.2 视频摘要应用分布式计算架构
用户通过电信全球智能管理平台管理界面,向视频摘要算法服务器提交视频摘要服务请求,视频摘要算法调度服务器按照任务调度算法分配任务至视频摘要算法服务器集群中的节点上,最后将处理结果保存到云存储上,如图3所示。
图3 视频摘要应用分布式计算架构
2 视频摘要分布式任务调度算法
本节我们基于电信的全球眼智能视频监控云平台,结合监控视频数据块的属性特征,以及根据视频摘要算法服务器的反馈信息,提出一种基于视频摘要任务执行时间预测模型的分布式任务调度算法。
本节将首先介绍视频摘要任务执行时间预测模型,然后介绍分布式任务调度算法。
2.1 视频摘要任务执行时间预测模型
通过实验分析,我们发现影响视频摘要任务执行时间的主要因素有视频帧率、视频分辨率和视频时长3个主要因素。
我们将监控视频数据块的采集地点、视频质量等基本属性分别量化为T={t1,t2,…,tl}、S={s1,s2,…,sm}和Q={q1,q2,…,qn},其中l、m、n分别为T、Q、S的划分粒度,我们定义一个基本属性划分BP,每个BP(tα,sβ,qγ)的tα、sβ、qγ属性满足以下条件:tα∈T、sβ∈S、qγ∈Q。我们称这样的一个划分为基本属性划分。同时我们称BPw(tα,sβ,qγ)为基本划分BP(tα,sβ,qγ)的权重。
为了更好地描述问题,我们将视频监控数据块定义为VDB(Video Data Block),并且定义VDBt为VDB在集群中进行视频摘要时所需要的处理时间。假设一个VDB起止时间分别为ts和te,空间属性划分为sβ,视频质量划分为qγ,则:
VDBt=∑diBPw(ti,sβ,qγ)
(1)
其中i是该VDB包含的第i个基本划分,ti∈T,di=min(ti,te)-max(ti-1,ts),BPw(ti,sβ,qγ)为第i个基本划分的权重。
考虑到用户的实际需求,例如需要将多个VDB摘要成一个浓缩视频,为了方便调度算法调度,我们引入一个Job的概念,用户一次摘要任务请求包含一个或多个Job,一个Job包含一个或多个VDB。由式(1),我们可以得到每个Job的在集群中所需要的运行时间Jt:
Jt=∑VDBt
(2)
为了能够准确预测每个视频摘要任务的在集群中的执行时间,我们必须去确定每个基本划分BPw(tα,sβ,qγ)的准确值,我们通过以下两种方式计算:
(1) 模型初始化
当模型第一次在集群中运行时,我们可选取一些测试样例,每个测试样例仅包含一种基本划分且每个测试样例的基本划分都不同,测试样例包含了所有的基本划分。我们把这些测试样例放到视频摘要算法服务器集群中运行,我们通过式(3)计算:
(3)
其中,Cαβγ是基本划分,BPw(tα,sβ,qγ)是在集群中实际运行时间。
(2) 模型更新
随着大量视频摘要Job的完成,根据式(1)、式(2)我们可以得到以下多元一次方程组:
D·BPw=C
(4)
当r(D)=r(D,C)=k时该方程组存在唯一解,通过解多元一次方程组可以计算出每个基本划分的准确值然后更新模型中的值。
2.2 根据时间预测模型调度任务
上面我们建立了视频摘要任务执行时间预测模型,当视频摘要算法调度服务器接收用户请求后,将用户请求解析成一系列的视频摘要任务(Job),然后我们计算所有Job所需要的执行时间Jt,并按照从大到小的顺序放到任务队列Que中,依次将Que中的任务分配给此时负载最小的服务器,直到Que中的所有任务分配完毕,如图4所示。
图4 视频摘要分布式任务调度流程图
3 实验结果
3.1 实验配置
本实验基于中国电信的全球眼智能管理平台,视频摘要算法服务器采用12台物理机,每台服务器CPU核心数为32,内存为32 GB,硬盘容量为5 TB,操作系统为Ubuntu04.1 LTS(GNU/Linux 3.13.0-32-generic x86 64)。
3.2 结果分析
为了验证基于视频摘要任务执行时间预测模型的分布式任务调度算法的效果,我们选取了4个数据集,每个数据集所包含的基本划分的种类是相同的,4个数据集包含的VDB的数量是递增的,其中数据集1包含120个数据块,数据集2包含160个数据块,数据集3包含190个数据块,数据集4包含220个数据块。分别用基于反馈预测模型的调度算法和FIFO算法在四个数据集上进行实验,实验结果如图5所示,纵坐标轴表示处理整个数据集所需的时间,单位为秒。横坐标表示4个数据集。虚线代表传统的FIFO算法,实线表示视频摘要任务执行时间预测模型的分布式任务调度算法。可以看出,相比FIFO调度算法,基于视频摘要任务执行时间预测模型的分布式任务调度算法提高了大约40%左右的时间。
图5 实验结果对比图
4 结 语
随着大量的高清监控摄像头不断部署,每天都在产生大量的监控视频数据,传统的单机处理已无法满足人们更加快速有效地从大量监控视频中摘要出关键信息的需求。本文通过对监控视频数据块的原始属性进行分析,将原始视频采集时间段、采集地点、视频质量三个特征进行量化并划分为区间段,作为计算视频监控数据块权重的依据。结合用户需求引入了逻辑数据块的概念,通过算法服务器的反馈信息建立并不断更新预测模型,按照规则依据预测模型调度任务,使视频摘要算法服务器集群中的服务器负载均衡且高效的工作,提高了云服务器的资源利用率,降低了视频摘要任务的分布式处理时间。
[1] 黄凯奇,陈晓棠,康运峰,等.智能视频监控技术[J].计算机学报,2015,38(6): 1093-1118.
[2] 王娟,蒋兴浩,孙锬锋. 视频摘要技术综述[J]. 中国图象图形学报,2014, 19(12): 1685-1695.
[3] 宋飞斌. 电信全球眼业务智能化部署方案探讨[J]. 电信技术, 2015(7): 75-80.
[4] 单莘, 祝智岗, 张龙,等. 基于流处理技术的云计算平台监控方案的设计与实现[J]. 计算机应用与软件, 2016,33(4): 88-90,121.
[5] Liu X, Zhao D, Xu L, et al. A Distributed Video Management Cloud Platform Using Hadoop[J]. Access IEEE, 2015, 3: 2637-2643.
[6] Sun M, Wang Y, Yu H, et al. Distributed cooperative video coding for wireless video broadcast system [C]// IEEE International Conference on Multimedia and Expo. IEEE, 2015: 1-6.
[7] Lei C W, Tseng F S. Study for Distributed Video Coding Architectures[C]// International Symposium on Computer, Consumer and Control. 2014: 380-383.
[8] Wang J, Yang L T, Zhu X, et al. Dynamic Scheduling for Emergency Tasks on Distributed Imaging Satellites with Task Merging [J]. IEEE Transactions on Parallel & Distributed Systems, 2013, 25(9): 2275-2285.
[9] 张爱科, 谢翠兰. 基于公平性和负载均衡的云计算任务调度算法[J]. 计算机应用与软件, 2015,32(2): 268-271.
[10] 徐俊, 汤庸, 刘道余. 基于混合粒子群分布估计算法的Hadoop任务调度优化策略[J]. 计算机应用与软件, 2015, 32(11): 261-263,272.
[11] 顾宇隆, 杜明, 刘振宇,等. 基于本体的云测试资源分配与任务调度方法[J]. 计算机应用与软件, 2015, 32(11): 14-17,35.
RESEARCH ON TASK SCHEDULING ALGORITHM OF SURVEILLANCE VIDEO SYNOPSIS ON CLOUD COMPUTING PLATFORM
Xu Bin1Zhang Haitao1Hu Doudou2
1(BeijingKeyLaboratoryofIntelligentTelecommunicationsSoftwareandMultimedia,BeijingUniversityofPostsandTelecommunications,Beijing100876,China)2(ShanghaiResearchInstituteofChinaTelecomCorporationLimited,Shanghai200122,China)
With the wide deployment of video surveillance systems, a large number of surveillance video data is produced. Video synopsis technology can get valid information in a fast and efficient way. Therefore, the optimization of the efficiency of a large number of video abstraction jobs and the video abstraction task scheduling method has become important factors. In this paper, a video abstraction task scheduling method based on the execution time prediction model in cloud computing platform is proposed. This method predicts the execution time of the video abstraction jobs in the computing platform based on the video data block’s information and the server running state information. Then it schedules the video abstraction jobs appropriately so that it balances the server load, improves the level of resources utilization of the cloud server and reduces the distributed processing time of the video abstraction jobs.
Video synopsis Task scheduling Distributed computing
2016-08-22。国家自然科学基金项目(61300013),高等学校博士学科点专项科研基金项目(20130005120011)。许彬,硕士生,主研领域:云计算,多媒体信息处理。张海涛,副教授。胡豆豆,工程师。
TP3
A
10.3969/j.issn.1000-386x.2017.07.002