基于云边融合的物联网智能服务架构探讨

蒲世亮，袁婷婷

（杭州海康威视数字技术股份有限公司，浙江 杭州310051）

0 引言

近年来，物联网产业快速发展，人工智能技术的运用发挥了显著的推动作用。AI（Artificial Intelligence）促进物联网产业智能化升级，在视频领域的成效尤为显著。随着物联网的智能化升级，物联网与信息化系统的融合在加速。在这个发展和转变的过程中，带来了许多问题和挑战。具体分析如下：

从系统架构层面分析。数据入云是趋势，而集中式的云计算架构无法把资源利用、数据融合、应用兼容、统一运维等物联网问题全部解决，给网络带宽、计算能力、存储容量带来巨大压力。

从技术层面分析。第一，智能分析和调度：虽然AI技术发展很快，但受限于算法、样本、算力等因素。AI浪潮下的算法及芯片呈现多样化趋势，涌现出许多人工智能算法厂商，但没有哪一家的算法可做到全面、绝对的领先；另一方面，人工智能芯片高速发展，芯片种类越来越多，这不但要求系统集成不同厂商算法，还要求兼容底层异构计算资源；第二，数据融合开放，物联网数据种类多、体量大，但当前并没有被有效利用起来。数据的深度应用存在两方面挑战：物联网系统与信息化系统融合的过程中，如何规范物联数据模型和业务数据模型并建立两者之间的关联；如何治理并开放数据，为多行业提供更好的数据服务。

从应用层面分析。AI带给用户的最终价值是应用，当前挑战最大的也正是基于物联网的智能应用相对缺乏。以视频系统为例，简单的“看”和“找”，显然并没有真正挖掘出海量物联数据的价值，也没有充分实现物联网数据、业务数据、互联网数据的融合从而孵化出更丰富的应用。

从运维管理层面分析。物联网设备类型多样、数量庞大、建设分散、协议不统一，给管理带来巨大挑战。如果管理不好，会严重影响事前预防、事中控制、事后追溯。

针对以上问题和挑战，本文提出AI Cloud，以基于云边融合的物联网智能服务架构为基础，提供物联网数据的采集、存储、解析、应用、管理等能力，为用户持续创造价值。

1 AI Cloud架构

AI Cloud由边缘节点、边缘域、云中心组成，边缘节点、边缘域和云中心可以多级多类，彼此互联，也可以互相演化，AI Cloud架构如图1所示。

（1）边缘节点

边缘节点侧重多维感知数据的采集和前端智能处理。边缘节点是一个系统级的概念，既可以是一个前端设备或一个前端系统，也可以是按照地理位置、业务划分等因素定义的逻辑概念。

（2）边缘域

边缘域侧重感知数据汇聚、存储、处理和智能应用。边缘域是独立自治的系统，是整个AI Cloud系统的核心环节，扮演“中场”衔接者的角色：向下汇聚边缘节点数据，实现“聚边到域”；向上按需提供可用于云端分析的数据，实现“数据入云”。基于边缘域这个“中场”，实现物联网数据按需逐级向云中心汇聚。

（3）云中心

云中心侧重包括物联网数据在内的多维数据的融合，以及基于大数据的多维分析应用。云中心主要汇聚物联网数据、互联网数据和业务数据，构建大数据资源池，实现多维数据之间的关联及深度挖掘，提供各类大数据应用服务。

总结来说，AI Cloud是发展理念，是技术架构，是产品实现，是服务模式，也是开放生态。

2 AI Cloud的技术特征

AI Cloud具有4个典型的技术特征：边缘感知、按需汇聚、多层认知、分级应用。

（1）边缘感知

随着AI芯片技术的不断成熟，边缘节点具备的计算能力越来越强，不仅能够完成数据采集，还能够将视频图像转化为结构化数据，从视频图像中提取人、车、物、行为、事件等特征信息，可以有效分摊中心端的压力，使系统更健壮、更经济。

（2）按需汇聚

边缘节点产生大量的原始数据，同时AI处理产生大量的智能数据，将这些数据进行大集中是不合理也不科学的。按需汇聚的核心是“按需”，要让数据根据应用需要受控地流向需要的地方，这样不但可以减少对网络和存储资源的无谓占用，也有助于更高效地挖掘出数据中的价值。

（3）多层认知

在AI Cloud架构下，边缘节点、边缘域、云中心每一层上都具有认知能力。边缘节点具备单一场景的认知能力；边缘域具备跨时空的认知能力；云中心具备“态”、“势”等大数据分析认知能力。

图1 AI Cloud架构

（4）分级应用

实际业务场景中，用户往往是分层级的。不同层级用户的应用需求不一样，下级用户更注重实时性及基层业务处理能力，上级用户更注重管理及辅助决策能力。因此，要从不同层级用户的实际需求出发，做到应用分级设计。

3 AI Cloud的能力和价值

3.1 AI可调度，资源使用更高效

针对不同时期、不同厂商开发的算法之间难以灵活调度、应用之间难以兼容和协同等问题，AI Cloud实现了多厂家应用、多厂家算法、多类型计算资源之间的打通，AI所需的算力、算法、数据、服务都能够在应用需求的牵引下实现合理调度。AI Cloud不仅在边缘域、云中心具备算法调度能力，还创造性地实现了边缘节点上的算法调度，能够更好地服务于各类行业应用。

如图2所示，智能管理及调度采用算法融合调用解决方案，构建了算法模型规范，通过算法仓库，支持多厂家算法的接入和管理调度。算法仓库支持通用GPU服务器、嵌入式GPU服务器、边缘节点智能设备的算法调度；兼容物理机、虚拟机、容器等部署方式；兼容多种计算平台，包括但不限于TX1、P4/P40等；支持算法编排，多个单一功能算法按需组合，形成新的算法功能。以下对其关键技术支撑进行分析。

AI可调度关键技术支撑。实现AI可调度，需前端和后端多个层面的技术支撑。主要包括无损建模技术、深度学习技术、智能调度技术。

（1）无损建模技术

原始的在后端进行视频图像分析建模的流程：摄像机采集视频图像，经过H.264/H.265等编码后传输到后端，后端解码并进行分析建模。所有的编码压缩是有损的，会损失视频图像中的细节信息。如把CNN神经网络算法导入到摄像机，对采集的视频图像不做任何的编码压缩处理，对原始数据直接做分析，这样分析出来的效果要高几个百分点。这就是无损建摸技术，作为前端智能支撑技术，能够保留更多的细节信息，分析得到的视频图像特征数据更加精准。

（2）深度学习技术

深度学习算法模仿人脑对信息的分析处理方式，通过建立由线性或者非线性变换的处理单元组成的具有层次结构的多层神经网络结构，借助反向传播算法，来自动学习出数据的特征和表达。深度学习算法与传统的人工智能算法相比，有两大优势：第一，它是端到端的机器学习模型，不依赖于专家的手工特征设计；第二，可以表达更复杂的非线性模型，对于复杂问题有更强的表征能力。因此，深度学习算法适用于数据庞大、参数之间关系复杂的领域，解决高维度直觉性应用，如面向海量物联数据，包括图像识别、行为识别、模式识别、语音识别等方面的典型应用。

图2 智能管理及调度示意图

（3）智能调度技术

智能调度技术的应用包括资源调度和任务调度两部分内容。资源调度可将物理服务器、容器、虚拟机、边缘设备等计算资源统一管理，屏蔽硬件差异并提供唯一对外功能出口，既支持静态部署方式下的动态扩容，也支持与其他资源平台协同实现算力的弹性伸缩。任务调度可在资源管理调度基础上，通过灵活的调度策略，将智能分析任务分派到最合适的智能分析设备上，保证调度性能最大化和资源利用率最优化。采用智能调度技术方案，使智能分析能力不再固化在产品中，而是由调度系统统一管理，相较以往单一智能产品，具有系统高可用、资源高利用率、算法灵活开放等优势。

3.2 数据按需汇聚，推动数据价值变现

针对数据融合和开放能力不足、数据和应用耦合度高等问题，AI Cloud系统性考虑了应用和数据的关联关系，提出并实现了由应用牵引数据，实现数据分级“按需”汇聚的建设模式，构建能够接入、汇聚、分析、管理各类物联网数据、互联网数据、业务数据的数据资源池，真正将数据养起来，实现数据融合、关联、分析、共享，更加高效地挖掘出数据中的价值，为新应用的孵化夯实基础。

如图3所示，在边缘域构建物联网数据资源池，主要负责存储和管理域内采集的物联网数据，按需汇聚部分业务数据，对数据进行清洗整合、质量管理、标签化处理，构建物联网数据模型、业务数据模型并建立相互之间的关联，为用户提供业务所需的主题库、专题库。

在云中心构建大数据资源池，汇聚物联网数据、互联网数据和业务数据，提供海量数据的分析挖掘能力。边缘域和云中心之间实现数据的级联和互通，边缘域数据可按需汇聚到云中心，云中心数据可按需下发到边缘域。以下对其关键技术支撑进行分析。

（1）海量异构数据关联融合技术

智能物联网系统中存在海量的异构数据，包括视频图像数据、人/车/物等视频结构化数据、RFID/MAC/时空信息等物联感知数据，还有多种类型的业务应用数据，如何实现这些数据的高效接入、高效存储、高效分析、高效清洗、高效应用，是需要系统性来考虑的问题。物联感知数据需要在不同的域、不同的网络之间进行传输，实现数据的共享和交换；基于时间、空间等多维度数据进行融合关联，提升数据使用价值。方案的具体实现，主要通过对原始物联数据进行合并、去重，清洗、整合，以实体-标签-关系模型分析形成设备、视频、图片、照片、名单、特征值、场所、告警等数据的实体集合、标签集合、关系集合，并通过时空关联、关系识别、行为识别、轨迹提取等进一步建立实体间的潜在关系网、挖掘实体隐性标签，形成主题数据、专题数据。例如，基于物联网数据建立人员档案库，应用不再需要与物联网数据（人脸特征、人体特征等）直接打交道，提升了应用效率，也提升了数据价值。

图3 数据资源池示意图

（2）大数据技术

采用大数据基础处理技术为底层支撑，并针对海量物联网数据，提供融合视图大数据引擎、多维大数据挖掘的完善的大数据体系。其中，大数据基础技术：结合当前大数据技术应用趋势，采用开源社区和自研相结合，提供针对物联网大数据进行增强的企业级大数据基础服务，为大数据采集、存储、应用提供稳定可靠的处理能力；视图大数据引擎：以物联网结构化数据为核心，构建千亿级行业大数据服务平台，提供大数据采集、数据查询、数据统计、数据研判、模型服务等深度挖掘应用；大数据挖掘算法：融合海量多元异构数据，基于动态本体构建知识图谱，并结合机器学习、深度学习算法，为行业深度应用提供数据决策能力。

3.3 应用场景化，新应用持续生长

针对深度应用不足、应用覆盖面不足、应用协同性不足等问题，AI Cloud创造性地提出应用场景化的理念，在边缘节点、边缘域、云中心都以“场景化”作为关键词，在各层实现不同应用。如图4所示为场景化应用示意。

边缘节点要构建单一场景的智能应用，实现基于单个或局部节点就能够完成的任务及动作，响应速度快。边缘域以物联网数据为主，融合少量业务数据，提供跨时空场景的智能应用，重点分析在什么行业要干什么业务。在边缘域，可以通过物联网数据资源池和智能应用平台，实现过去没法实现的应用效果，比如基于物联网数据的“多数同用”和“同数多用”。云中心汇聚物联网数据、互联网数据、业务数据，重点要分析什么行业或跨什么行业、关注哪些宏观的“态”（状态）和“势”（趋势），构建彼此相对独立又互相联系的综合应用。

AI Cloud基于开放的架构，以 API、SDK、插件等方式，提供规范化和标准化的应用接口，以及丰富的示例Demo，可快速进行业务应用的二次开发。

3.4 运维一体化，保障系统可用性

AI Cloud实现了面向跨网域（行业内网、互联网）、跨层次（边缘节点、边缘域、云中心）各类物联网及IT软硬件设备的统一运维，有效克服了系统设备类型复杂多样、设备数量庞大、建设分散、协议不统一的难题。通过统一的运维服务平台，可以为直接用户、运维服务团队的各类角色，以及设备厂商提供一揽子的运维服务功能，包括状态的告警监控、工单管理、资产管理、运维考核等，最终为用户提供产品+服务的一站式运维。

运维一体化体系重点考虑了两方面的扩展，可以更好的为最终用户提供运维服务：一是支持运维对象的扩展，通过运维设备接入框架支持增加被运维对象的类型和技术特征，实现将不同厂家的设备纳入进来进行统一管理；二是提供了加盟商管理的功能，支持更多运维服务商使用运维服务平台，为用户提供服务。

4 AI Cloud开放生态

在AI Cloud体系架构下，支持软件与硬件的解耦，支持数据与应用的解耦，在基础设施、数据、平台、应用等各层面全面开放，构建了一个能力开放体系和产品与服务生态圈，有利于共同促进行业的可持续发展。

图4 场景化应用示意图

（1）能力开放体系

提供能力开放平台、开放式体验环境、兼容性验证环境，可以逐步构建AI Cloud开放体系，实现基础设施、数据、平台、应用四个层面的多维度开放。

（2）产品生态圈和服务生态圈

基于开放合作的生态，可与设备厂商、基础软件厂商、算法厂商、数据提供商、应用开发商以及安全服务商、运维服务商、技术规范工作团队展开更多的合作。

5 结语

基于云边融合的物联网智能服务架构的AI Cloud，以“智能、数据、应用”为创新焦点，提出了“AI可调度、数据按需汇聚、应用场景化、运维一体化”理念，并结合用户业务需求进行创新实践，不断扩展出新的智能应用。

纵观未来技术发展趋势：

智能方面。一方面是智能应用深度：在未来，智能化程度会越来越高，识别的精确度也会越来越高。目前聚焦“人是人、车是车、物体是物体”的属性识别与判断，但如果把这些因子串起来形成一个语义，比如这个人在打球，既可以实现“语义的识别”，进而推进智能应用深度。另一方面是智能应用广度：为了满足本地业务快速响应需求，越来越多的智能会在前端来做，智能前移大势所趋，边缘节点也会越来越丰富，越来越智能。

数据方面。在数据基础建立好的前提下，将聚焦更多数据挖掘工作，像预测预警这些大数据应用就可以实现，真正从事后走向事前。

应用方面。未来应用应该是遍地开花，场景化、智能化的应用会越来越多，越来越好用，而且应用的生成也会非常快速。当然，这些的实现，都不是一个厂家能够独立完成的，依托能力开放体系和全面开放AI Cloud架构，需要行业内的合作伙伴一起共建产业生态，共助智链未来。