视频云赋能工程的实践与思考
2020-03-12叶永忠郭敏生周梓炀
叶永忠 郭敏生 周梓炀
(1.中山市公安局情报信息中心,广东 中山510006;2.中山市公安局刑事警察支队,广东 中山510006)
引言
自公安机关实施“科技强警”战略和城市报警与监控系统建设以来,从最初的前端点位建设到近几年的联网整合、解析应用,视频监控技术已经成为公安工作重要的技术支撑点。目前,前端智能采集、应用已推行多年,但针对云端解析应用相对落后,前端采集设备多种多样,采集数据存在错乱,公安民警的管控仍依靠传统的人工查看方式为主,从海量非结构化视频数据中逐一排查。同时,随着经济的高速发展以及城镇化进程的加快,各地城市人口的流动愈发频繁。因此,亟需引入智能识别技术并配套一系列数据整合、生态构建的措施,以实现视频大数据智能化的分析、研判、应用,突破城市管控难题。
1 挑战与实践:视频云赋能工程基础构建
1.1 中山公安面临的挑战
一是前端采集设备鱼龙混杂。经过多年的前端分散建设,设备快速迭代,前端视频监控涉及品牌厂家多、型号多,视频质量参差不齐。二是视频计算设施较为落后。视频基础计算设施主要以传统的CPU计算资源为主,视频智能化应用所需的GPU等其他异构计算的资源比较欠缺;且计算资源缺少统一的管理和调度,以“烟囱式”为主,无法满足随需随用随取的实战应用需求。三是海量数据处理难。伴随多维数据的爆发式汇聚,视频、图片、结构化、半结构化数据量呈爆炸式增长,对海量多样化数据的融合存储,多系统间的数据共享,以及数据可靠性提出更高的要求。急需构建高性能、高可靠性,富有弹性的管理模式,有效应对大数据时代的挑战。四是多算法融合应用能力不足。采用All-in-one的“烟囱式”封闭架构的视频监控系统,基础设施资源难共享、难扩容。完整的视频云构筑在ABC(Artificial Intelligence、Big Data和Cloud Computing)技术体系之上,需要有关生态系统内部众多厂家协同合作,发挥各自的长处。五是多维数据研判弱。研判、串并案仍停留于传统人工模式,效果较差。各应用系统间缺乏有效联动,共享很难,流窜作案难以对其进行追踪,易错过最佳的破案时间窗,为实战单位的应用系统提供“按需推送”的数据服务能力有待提升,重被动式防控轻主动式预警。六是视频智能实战能力待提升。视频侦查靠人工从海量视频中逐一排查,缺乏专业的视频图像解析和信息综合应用的技术手段,缺乏自动预警、预防、预测能力。即使有少部分镇区开展了视频智能应用试点,也过于零散化和碎片化,未形成跨警种、跨部门的长效共享机制,未形成规模效应和技战法。
1.2 中山公安的实践
2018年,中山公安启动视频云项目建设。以云计算、大数据、人工智能等前沿技术作为牵引,采用软件与硬件解耦、数据与应用解耦、应用与算法解耦,围绕“一云、一湖、一平台”理念,以海量感知数据的汇聚、数据共享与能力开放为目标,统筹人、车、视频结构化,构建物理分布、逻辑统一基础平台,大平台支撑精兵作战,大数据驱动警务创新,打造目前国内公安视频数据智能结构化综合度最高,合作生态理念最先进的“中山样板”视频云。
1.2.1 增强前端建设统筹能力
中山公安科信部门从自身职能出发,统筹全市前端采集设备建设项目设计、方案评审、招投标、建设、验收、运维等关键环节,形成项目管理流程全介入,取得了一定成效,为建设场景化、智能化的前端打下基础。
1.2.2 搭建云边融合的统一视频云
中山公安视频云项目在全省一片云的统一规划下,通过云平台集约化建设,实现对底层基础硬件资源的统一管理;统一纳管和弹性调度,实现从“烟囱式”的独立硬件资源配置往池化的弹性云资源调度转变;基于大数据服务构建的视图库,实现视频图像价值数据的汇聚,对外提供价值数据服务,实现从应用独享的数据孤岛到应用共享的数据湖转变,现已汇聚了海量人、车结构化数据。自系统上线以来,已抓获人员1305人,破获案件1451宗。
一是市镇两级架构、业务一云支撑。中山公安视频云纵向分市级视频云节点和镇区级视频云节点,横向分视频专网部分和公安网部分。管理面实现“物理分布、逻辑统一”,对基础资源统一管理、统一运维、统一运营,业务面上省、市、镇实现资源层、数据层、任务层、算法层四协同。
二是异构资源弹性调度。以资源整合为基础向集约化建设转变,针对各应用系统所需的计算、存储、网络等基础资源,通过云化技术,以标准开放的云资源管理框架对服务器、存储、网络等设备进行池化管理,实现软件定义基础设施的能力(即软件定义计算、存储、网络),提供开放、敏捷、高效、软硬解耦的云化资源环境。同时通过CPU亲和调度、GPU直通等关键技术使得资源云化之后保持资源低损耗。以资源服务化方式支撑各种应用,按需分配资源,共享弹性资源池,确保业务可持续发展。支持根据不同厂商算法不同异构CPU/GPU的计算需求任意配比,共用CPU/GPU异构计算资源池,资源充分利用、弹性调度,使资源支撑应用快速创新。
三是海量数据融合存储。采用全对称分布式融合存储服务,同时支持视频、图片、文本等多种数据,通过平滑扩容应对业务容量的增加,实现近无限线性扩展,支撑千亿级多来源的视频图片统一存储。采用小文件聚合技术,把若干小图片合并大文件再写,提高性能3倍,提升存储4倍。采用SSD等高速介质作为数据缓存,再平缓写入后端磁盘,应对不同时段数据波动,达到削峰填谷效果。采用融合存储技术,智能识别图片存储与视频流存储,自动采取高效的存储策略。
四是数据整合,一湖共享。视图库大数据平台采用行列混合存储技术,支撑千亿级多维数据关联查询、统计分析。充分利用所有节点的计算能力和I/O能力以达到最大的导入速度,通过并行数据导入(加载)的核心技术,支撑中山公安高达每秒数万条数据导入&数据关联。实现各系统数据的集中汇聚、实时分析处理、融合关联处理、深度挖掘。强化数据融合,提供数据汇聚和数据治理的一站式数据管理服务,支撑事后的精确打击,事中的动态管控,事前的预测预警。
五是海量数据精准检索。使用特征数据分布式存储技术,通过均衡算法解决前端摄像头产生图片提取流量密度差异问题以及特征数据存储节点扩/缩容后特征数据的存储均衡问题,确保单节点的检索时长的一致性。热冷数据分级存储技术,实现热点价值数据的高效访问。分布式定向检索技术,通过对于检索请求进行分布式并行处理后再合并检索结果,从而实现大规模数据的高效检索。
六是多算法协同,打造开放生态。采用多算法仓提供了一个统一的运行环境。实现人、车、视频结构化算法快速上下架,插件式第三方算法快速集成,避免被单算法绑架,降低风险和采购成本。对应用屏蔽算法差异化,应用一次开发普遍适配;对算法屏蔽底层算力的差异化(如GPU、NPU、FPGA等),降低算法开发复杂度。实现了架构的三重解耦(算法与应用解耦、算法与数据解耦、算法与平台解耦),解除了算法厂家、应用厂家、平台厂家之间的相互掣肘,打造一个开放、公平竞争、共赢的生态系统。
2 思考与发展:视频云赋能工程应用发展
视频图像数据资源在当前公安的各类业务数据中占据最大份额,实现视频图像的智能化应用是公安大数据战略的核心环节。随着近年来各种新技术的飞速发展,以视频图像为核心的智能化应用已经走入公安部门的日常工作中,相关技术也在不断升级与迭代。视频图像智能应用1.0时代的典型特征是“烟囱式”架构,存在数据壁垒和信息孤岛,业务系统招标即定型,不能随业务变化快速制定,数据、算法与厂家深度捆绑。视频图像智能应用2.0时代构筑了视频云的雏形,实现了算法与硬件解耦、数据与应用解耦,但是没有统一的服务平台提供对外支撑,无法实现按需编排算法和调度数据资源,难以支撑公安部门多维数据融合业务。那么认为,视频图像智能应用3.0时代是对视频云架构进行深度优化,依托“大中台、小前台”的架构理念,通过视频云赋能中台,以API的方式提供对外服务,自由编排基础算法,实现公安应用按需定制。
2.1 视频云赋能中台生态构建
2.1.1 中台是什么
中台是沟通前台和后台之间的桥梁。这条桥梁,连接了技术和场景,能够穿透封闭的部门墙、业务墙和数据墙,为业务发展带来全新面貌。从计算机系统走过了系统化、中心化、平台化的发展路径,在可预见的未来,通用性、组件化、可复用、可共用、灵活扩展等中台理念的核心元素将成为计算机系统的发展方向。
2.1.2 建设视频云赋能中台
与合作伙伴采用公安提供应用场景与业务需求、公司提供技术支撑的合作方式,运用中台技术,在算法池、数据池和模型池基础之上建立一个数据服务应用支撑平台,把视频应用的基础数据以及各个厂家的基础算法等,以分层解耦的方式,通过API服务注册、服务编排、服务发布,实现数据与应用解耦,解决各厂家服务数据资源和基础算法封闭、警种部门无法灵活复用等问题,真正实现基础数据和通用应用全警共享,个性化需求自主完成,进一步提高项目资源的利用率和使用价值,节省后续项目的建设成本,实现能力复用和业务快速上线,支撑各警种、应用层的业务实战创新。
同时,视频云赋能中台也是业务应用定制操作平台,依托视频云丰富的视频图像数据资源,通过统一的服务调用服务,可将解耦出来的数据与服务进行二次编排,为各警种按需构建新的技战法提供服务支撑,形成多元化的服务或专题,构建新的业务流程,并基于新的业务流程对数据进行实时分析与结果呈现。用户可以通过拖拽、连线等简易操作集成各类封装好的算法组件和数据源,用于新服务流程的构建,实现服务自定义、服务自发布和服务群调度,大幅降低系统功能开发的门槛,让无技术背景的警员也能按需构建所需服务,营造开放共享、聚合生态的警务新常态。
2.1.3 搭建模型超市
为各警种提供了选择技战法模型的平台,也为各大厂商和开发者提供了模型展示的窗口。随着时间的推移以及视频云赋能中台的大规模应用,超市的模型商品会更加丰富多彩。在多维数据的碰撞下,模型的丰富性和实战性均能得到大幅提升,为公安机关提供全时空分析研判能力、全警种业务模型共享能力、全周期模型优化配置能力和全维度数据智能应用能力。
3 小结
未来,通过前端建设更清晰、更智能的视频图像采集设备,后端搭建统一云平台、基于云平台的视频图像信息资源库、赋能中台以及各上层应用,建立统一的服务平台和资源服务体系,推动技术、场景和开发者三大集群的建设和维护,引入行业顶尖智力资源,构筑丰富多彩的视频云赋能工程建设生态体系,保障新技术、新模型、新服务快速上线。建设公安视频数据智能结构化综合度更高,合作生态理念更先进的视频云。