视频结构化服务器，一带多AI化组网方案
——比特大陆SophonSA3智能服务器简评
2019-11-07
厂商说法
Sophon智能服务器是比特大陆研发的一款高密度服务器，如图所示，该服务器应用于人脸检测、人体检测、车辆检测、非人检测等安防场景。前端数据流进入服务器中，由服务器进行数据计算，对数据进行智能分析后，将结果返回给业务应用层，应用层根据结果给予相应的反馈。
典型应用场景为人脸识别系统，系统主要采用了人脸检测算法、人脸跟踪算法、人脸质量评分算法以及高速人脸对比识别算法，实现了实时人脸抓拍建模、实时黑名单对比报警和人脸后台检索等功能。
得益于迅猛增长的算力，大数据、算法以及神经网络前所未有的突破，AI 已经无处不在，成为了近十年和未来十年最具颠覆性的技术。AI，正箭在弦上！
市面上流行的AI安防解决方案主要分为两类：前端型，大多数依靠架设在前端的单个AI IPC实现对重要卡口的捕捉监控，算法需要大量的数据和算力来完成，依靠云服务来执行计算；后端型，在不对前端普通IPC升级的情况下，只使用一台或少量几台由 AI 驱动的多路服务器使整套网络具备AI功能。用户面对两种选择该何去何从，分别构建两者所需的成本将制约用户能否在AI时代占领制高点。
无论是提供计算资源的云服务供应商，还是支撑强算力的服务器、GPU 厂商，亦或是致力于搭建深度学习框架的技术供应商，都铆足了劲儿借 AI 之力希望重新划定市场格局。
Sophon智能服务器SA3-23是北京比特大陆科技有限公司研发的一款深度学习服务器。该服务器是基于比特大陆最新研发的Sophon AI智能芯片BM1682开发的，专门为视频监控、互联网图像处理等多种应用场景提供强大的深度学习加速能力，标准功能包括人脸检测、人脸识别、人体监测、非人检测分类等。此服务器为 19 英寸标准 2U 服务器，内置3个智能分析单元，包含 18 个BM1682 芯片，可以提供 54TFLOPs FP32的峰值计算力。搭载第三方算法可实现 90路视频结构化分析，不低于每秒 600 张人脸分析。
市场定位
Sophon智能服务器是比特大陆研发的一款高密度服务器，如下图所示，该服务器应用于人脸检测、人体检测、车辆检测、非人检测等安防场景。前端数据流进入服务器中，由服务器进行数据计算，对数据进行智能分析后，将结果传递给业务应用层，应用层根据结果给与相应的反馈。
基于Sophon智能服务器可以构建高性能计算平台，提供图片、视频分析的端到端解决方案。基于比特大陆自主研发的Sophon智能服务器可以应用于多种应用场景如人车分类及检索、深度学习技术应用、视频结构化技术应用等对海量数据进行预处理。Sophon智能服务器系统应用由三层架构组成，包括前端媒体接入的感知层、智能云分析层、以及业务应用层。
性能特点
Sophon智能服务器采用比特大陆自主研发的AI智能芯片BM1682，BM1682运行在SOC模式，每颗芯片集成4核Cortex-A53的处理器运行独立的Linux操作系统，提供SDK控制TPU神经网络加速单元、H.264/H.265/Jpeg 硬件解码单元、视频后处理硬件单元。芯片间通过网络连接形成集群，可提供超强的计算能力。
高性能：Sophon智能服务器单台服务器最高可支持90路视频结构化、每秒约600张人脸图片检测分析。
高能效比：Sophon智能服务器基于高能效比的AI专用芯片，采用低功耗的 ARM 处理器作为主控制芯片，在提供超强算力的同时，降低了整机的功耗，提供了更高能效比的解决方案。主要面向数据中心及中小型边缘节点，提供超强的视频结构化处理能力，满足中小站点的智能化改造及数据中心的分布式部署诉求。
高计算密度：Sophon智能服务器是比特大陆自主研发的一款高密度算力服务器，内部集成了多个高密度智能分析算力板，在单台服务器2U空间里内置多达18颗AI专用芯片BM1682，使得单位机架空间的计算密度得到极大提升，在同样的计算能力下占用更小的机架空间，从而减少了在数据中心部署的总体拥有成本(TCO)。
高可扩展性：Sophon智能服务器之间采用分布式架构，各服务器可通过10G网络互联，算力芯片通过网络路由方式和控制板直连降低了数据转发时延，在节省板卡空间的同时提升了服务器整体性能。
拥有统一的系统管理平台可以根据业务弹性增加服务器，具备很好的可扩展性和可管理性。在海量计算需求的情况下，可采用多台服务器堆叠集群部署的方式，服务器之间通过万兆以太网互联，实现在数据中心的可扩展性。支持统一的管理 Portal和管理服务，可以在算力云/资源池/算力集群/容器等多种环境下部署，具备良好的可扩展性和可管理性。
兼容性：Sophon智能服务器提供对外统一服务API(Zeus),Zeus是高密度服务器管理软件，通过http协议即可管理系统所有的软硬件信息。与多个应用平台兼容，各应用平台可根据REST API使用服务器功能以及集成不同的算法开发各自的应用需求。已经对接的算法厂家包括云从、以萨、考斯、海康、千视通、百度、Seemmo等。
低功耗：Sophon智能服务器采用低功耗的自主研发TPU处理器BM1682作为主控制芯片，以超低功耗支撑超强算力。
低成本：Sophon智能服务器多个算力板高度集成，使得在同样的计算能力下占用更小的机架空间、更少的电力功耗，可有效减少数据中心部署的成本。
推荐理由
AI在安防行业已经得到了广泛的应用，既然谈到“广泛”，必然会有“前、后、左、右”之分，不同用户，不同的对象，对AI应用也会有不一样的需求。就像当年模拟摄像机接入DVS可以组成混合网络监控架构类似，选择组建AI监控网络时，也可以将IPC接入运行AI工作负载的服务器，按需采购不同“档位”的AI服务器。以TPU方案出现的比特大陆SophonSA3智能服务器的出现，很好地终结了传统服务器仅靠CPU+GPU和CPU+FPGA的异构堆核时代，为行业客户带来了耳目一新的不同选择。
