APP下载

第44届世遗大会收录及媒资系统方案设计与应用

2022-08-12黄亚海

现代信息科技 2022年7期
关键词:媒资公网交换机

黄亚海

(福建省广播影视集团,福建 福州 350004)

0 引 言

第44 届世界遗产大会于2021年7月举办,在福州设立主会场,以线上会议为主,线上线下相结合的方式举行。大会设立新闻中心,设置媒体工作区、新闻发布厅、采访间等,统筹新闻宣传和提供媒体服务。

世遗大会相关会议活动多为闭门性会议,以中、英、法、西、原声多语言形式推流,主办方要求在新闻中心内建设一套收录及媒资应用系统,收录留存会议期间所有相关的视音频资料,并在公网上以Web 登陆方式向媒体记者提供大会资料及相关会议内容的检索和下载服务,方便国内外媒体能够及时了解和报道会议的相关内容。由于系统开放公网访问,要求系统的建设须充分考虑网络安全性。

1 系统设计原则

收录与媒资系统是世遗大会新闻中心的重要组成部分,对外提供大会信息查询,因此系统设计要求以安全稳定为第一要素。系统围绕以下几方面的设计原则,建设满足实际应用的收录及媒资系统:

(1)安全可靠性:系统从架构设计、信息安全、系统集成都必须坚持安全可靠性原则,要求整个数据链路和关键设备都有完善的冗余备份机制,整个系统无单点、有冗余和可应急。保证收录稳定、存储带宽和网络带宽稳定,同时还要保证网络安全和数据安全。

(2)技术先进性:系统建设采用先进成熟的技术和设备。

(3)易使用和维护性:系统实现上要求流程合理、功能完善、操作界面简洁友好、使用方便,便于监控、配置以及故障排除。

2 系统总体结构及技术特点

如图1所示,本系统从功能架构上由三部分组成:收录子系统、媒资子系统和网络安全防护子系统。系统通过两条网络专线与公网连接,一条专线用来收录,另一条专线用来访问媒资系统。媒体工作区配置100 套媒资工作站,其中90套工作站通过公网访问媒资系统;另外10 套工作站由于都开放USB 接口,不直接接入内部网络,通过媒体区媒资站点交换机再接入汇聚交换机,当外网连接故障,用户在媒体工作区可以通过这些媒资站点继续访问媒资系统。

图1 系统拓扑图

系统服务的实现采用“平台+工具”的建设思路,如图2所示,自下而上的三个层次分别为基础资源支撑平台、媒体服务支撑平台和应用工具平台。基础资源为上层提供硬件支撑,媒体服务支撑平台具备一系列的业务服务能力,应用工具平台提供上下载和编目等工具。

图2 媒资系统后台服务组成

系统业务支撑服务器应用Docker 容器技术+分布式架构,将所需的复杂的环境封装在Docker 中,实现基础资源的统一化调配和协同工作。后台核心服务如数据库、负载均衡服务、检索引擎、消息服务等系统服务均采用Docker 容器封装,具备快速部署与灵活扩展能力,构建成统一的媒体应用平台,形成全面的底层支撑。采用多副本机制保障媒资网的使用,当一个服务器故障时,其他服务器自动分摊故障服务器的任务为系统提供服务,在分布式的基础上,形成“多活”架构,保障平台的服务持续性。

下面对本收录及媒资系统的三个子系统的实现做具体说明。

2.1 收录系统

收录系统通过网络安全设备访问公网,收录大会期间各会议活动现场的推流信号,收录完成的文件自动迁入媒资内容库,供媒体记者检索、下载使用。系统要求收录稳定、制定相应手段保证任务的安全完成。下面从收录系统的功能性、网络结构以及收录任务安全性这三个方面做说明。

2.1.1 功能性

本收录系统使用简单,功能完善。每台收录服务器为独立化的收录单元,无需后台服务和复杂管理配置。单台收录服务器支持多通道高标清信号收录,支持多种编码格式和码率的收录,可以分段收录,根据设置的分段时间形成多个收录文件,收录完的文件自动迁移进入媒资系统,不需要等整个任务结束。

大会期间存在三个会议的同时推流,每个会议需要5 个声音语种推流以及采用一个任务两个服务器收录的备份模式,最多需要30 个通道同时录。因此收录系统必须能够配置满足多路流信号的同时稳定收录,确保满足收录源数量。本收录系统通过配置4 套该类型收录服务器堆叠形成整体的收录网络,每台收录设备可以同时收录8 路IP 流,共32 路,满足大会的收录源数量。

2.1.2 收录系统网络结构

收录服务器需要访问公网收录网络流,还需访问内部网络存储,需要考虑网络结构安全性。网络结构实现如图1,收录系统采用双网结构,每台收录服务器均使用双网卡,一张网卡接入收录千兆交换机,该交换机和汇聚交换机相连,通过网络安全设备访问公网,保障系统的安全;另一张网卡接入内部业务核心网络,收录下来的文件通过该网卡迁入内部网络存储,媒资系统相应后台服务进行扫描文件入媒资库。

收录系统需要有足够的外网网络带宽才能保证稳定的收录,访问公网通过一条专用的500 Mb 网络专线。系统每个通道收录的码率为10 Mb/s,极限上32 个通道同时收录,总共需320 Mb 的网络带宽,因此配置500 Mb 的网络专线带宽能够满足收录带宽需求。

2.1.3 收录任务安全性

为了保证收录任务的顺利完成,除了收录时一个任务两个服务器收录的备份模式,本收录系统还可以采用推流云端备份。会议活动推流是向索贝凌云云端推流,收录服务器向云端拉流。推流时,在云端同时会收录一份会议内容当做备份。如果收录系统因故障没有完成收录任务,则提取云端保留的备份,保证收录内容不丢失。

2.2 媒资系统

媒资系统在网络上对各媒体记者提供会议资料检索和下载。系统的建设要求是一套安全可靠的专业媒资系统,注重数据安全和网络安全。系统设计须充分考虑存储的读写带宽和外网网络专线带宽,保证访问稳定。

2.2.1 分布式集群服务

媒资系统服务采用全对等分布式后台架构,提供平台服务的业务支撑服务器有3 个节点,采用集群化处理,各服务组件为多节点容器集群并行计算机制。一个系统节点故障只降低1/(≥3)的处理能力,损坏(-1)/2 个整数倍节点以内不会造成系统崩溃。任意一个系统服务(包括数据库)所处的虚拟服务设备宕机时,业务运行无缝接续,业务数据无损续写。分布式系统服务随时处于活跃状态,随时都是自动负载均衡和自动故障切换。系统的存储采用3 节点的分布式存储,采用2+2:1 保护模式,允许存储集群最多支持1个节点或节点上2 块磁盘故障而无数据丢失,充分保证数据安全。

完全对称的分布式计算架构、提供平台程序、业务、硬件资源运行维护监控、实现对各种媒资数据的组织管理,分布式系统多个节点保证了计算、数据库和存储的安全,使系统具备高可靠性。

2.2.2 媒资功能及资料上传设计

本媒资系统实现会议资料入库,在线提供检索和下载,流程合理,界面使用简单清晰。如图3所示:引入上载或者收录下的文件,通过媒体处理服务器智能处理服务进行转码和入库,系统提供客户端上载工具可打入出点进行上载,节省时间提高效率。入库后的资料进行编目和审核后,就可在公网上登录媒资平台进行资料的检索和下载。会议资料的下载可以采用打入出点进行片段导入导出。本媒资系统的编目具有一套完整的编目流程,实现编目的分配、认领和审核,可以提供广电两层编目功能:节目层编目和片段层编目。

图3 媒资业务流程

媒资系统每天需上传大量文件,须注意防范病毒。配备文件上载安全隔离盒和文件上载安全隔离网关来防范病毒。文件上载安全隔离盒配备在部分媒资工作站上,该隔离盒提供文件高级白名单过滤及文件格式和编码格式等文件特征的深层次的检测,有效杜绝假冒/伪装文件的侵入;高达100 MB/s 的文件拷贝/迁移导入速度。文件安全隔离网关对文件上载工作站向媒资系统导入数据提供安全传输通道。该隔离网关每个通道具有100 MB/s 传输带宽;提供不同网络之间的文件安全传输;支持多个传输通道;每个通道2 任务并发传输;文件深度检测支持对文件格式和编码格式等进行深层次的检测;内嵌病毒检测模块。

2.2.3 存储带宽和外网专线带宽

媒资系统最主要的业务是提供数据的入库和访问,因此必须考虑存储带宽和连接公网的网络专线带宽。

网络专线带宽的占用主要是媒资网页显示、预览以及下载,网页页面大小和低码率素材预览对带宽相对占用小,下载对专线带宽的占用大。通过以下几方面来考虑:

(1)首先,在保证画面质量下,把导出码率固定为5 MB/s,文件大小就不会过大。其次,新闻单个素材的时长不会太长,采用片段导出,素材时长不会长。在这两个前提下我们认为当下载的时间为素材长度一半的效率是可接受的。以这效率算,单个任务导出码率5 MB/s 的视频文件,占用10 Mb 带宽。用户同时下载和预览,不算网页响应时间,网页页面和低码率素材预览占用的网络带宽大概2 MB,那么每个用户合计需12 MB 网络带宽。

(2)根据申请使用媒资系统的人数,最大并发使用不会超过80 个。

按以上两方面测算需要的网络带宽大约为12×80=960 MB。在实际使用情况下不会达到最大并发数,因此配置1 GB 的网络专线,可以满足系统网络带宽需求。

存储带宽通过以下几方面考虑:

(1)接入文件安全隔离网关的上载工作站有2 台,按通道最高速度100 MB/s 并发传输需200 MB 带宽。2 套文件上载安全隔离盒每个最高100 MB/s 速度并发需200 MB 带宽。上载皆取最大值算(实际使用受限于接口等,如上载工作站网卡为千兆,因此速度达不到最大值),文件上载总共需400 MB 带宽。

(2)收录录制一个通道码率10 MB/s,32 路,总共需320 MB 相当于40 MB 带宽。

(3)4 台媒体处理服务器视频转码生成,经测试转码生成时间大约为原视频长度1/3,系统里的视频文件为码率10 MB/s 的收录文件和码率为30 MB/s 其他来源的视频文件,码率30 MB/s 文件转码为同码率文件每台服务器对存储读写带宽需30×3×2=180 MB,4 台服务器合计需180×4=720 MB 相当于90 MB 左右的带宽。

(4)媒体工作区域的媒资站点交换机1 GB 接入汇聚交换机,访问媒资的外网专线带宽1 GB,用户对媒资主要是读访问,对存储产生的带宽需求最大2 GB 相当于256 MB带宽(媒资片段导出,需转码生成,对存储的读写带宽已计入媒体处理服务器的带宽占用)。

综上并发情况下总的存储访问带宽大约为400+40+90+256=786 MB。因此媒资存储选用的是3 节点分布式万兆存储,经测试混合读写下可以提供1 200 MB 带宽,本存储的读写带宽能够满足需求。

2.3 网络安全防护及网络结构

系统采用以太网作为基础网络架构,采用“万兆汇聚、千兆接入”的方式。以太网交换机作为核心交换设备,负责完成各个系统之间的互联互通。如图4所示,通过在汇聚交换机边上部署的网络安全设备,配置相应的安全策略,实现各区域之间的安全访问,有效保证系统与外界的隔离,满足高安全等级需求。

图4 交换机汇聚

系统网络访问规则设计如下:

(1)在公网上访问媒资系统须通过汇聚交换机上部署的网络安全设备。

(2)内部业务网络,除了收录服务器可以访问公网其他都不能访问公网。

(3)收录网访问公网须通过部署的网络安全设备。

(4)接入媒体区媒资站点交换机的工作站不能直接访问内部媒资网,须通过部署的网络安全设备。

为了实现网络结构功能需求、确保网络安全,在汇聚交换机(三层交换机)和网络安全设备上进行相应功能配置:

(1)汇聚交换机上划分多个VLAN,分别配置IP 地址连接各个区域。

(2)在汇聚交换机上配置策略路由,把收到的数据送往网络安全设备进行地址转换、病毒过滤、入侵检测。

(3)在汇聚交换机上配置ACL(访问控制列表),添加拒绝访问策略,禁止媒体区媒资站点交换机上的工作站直接访问媒资系统的真实IP 地址。

(4)通过配置网络安全设备的防火墙模块,在重要网络区域与其他网络区域之间采取可靠的技术隔离手段,实现边界的访问控制和业务应用的安全转换。外部区域对媒资系统的访问,须通过防火墙进行地址转换,隐藏媒资系统的真实网络地址信息。限制内部系统网络连接公网,只允许收录网访问公网进行收录,对外只开放媒资系统的服务端口,外部访问只允许访问该服务端口。

(5)配置网络安全设备的入侵防御模块,对应用层面的攻击进行有效的过滤和防护,保障内网的业务应用的正常运行。

(6)配置网络安全设备的病毒过滤模块,对于来自内外部的访问和文件传输进行病毒过滤,在媒资系统中主要存在基于HTTP 的文件传输应用场景,因此开启病毒过滤防护。

(7)配置网络安全设备的Web 应用防火墙模块,对网站提供专业的安全防护手段,及时发现并拦截Web 访问的攻击行为,本次媒资系统对外开放的服务就是HTTP 网站。

3 结 论

媒资系统作为一个内容管理平台,对各种类型的视音频资料、文字、图片等资料数字化存储,提供信息服务,行业应用越来越广泛,须结合实际应用,设计相应方案。本系统在搭建完成后,在实际运行环境下进行一系列的测试,如通过VMIX软件推流测试,收录系统多服务器多通道同时稳定收录;多用户同时使用媒资检索和下载测试,系统功能表现稳定。系统在实际使用过程中,满足设计要求,为全国各级媒体多层次多角度地报道世遗、展示世遗,提供了及时重要的素材。

猜你喜欢

媒资公网交换机
浅析大临铁路公网覆盖方案
大数据技术的媒资档案管理方法
公网铁路应急通信质量提升的技术应用
修复损坏的交换机NOS
浅析媒资系统在电视台业务中的应用
使用链路聚合进行交换机互联
基于公网短信的河北省高速公路数据传输应用
MRG9000媒资卫士在市级电视台全台网的应用
我国警用通信专网与公网比较研究
PoE交换机雷击浪涌防护设计