高效安全的高清非编网建设方案设计
2019-01-03肖皓月
肖皓月
(作者单位:四川省达州市达川区广播电视台)
1 项目建设背景
达川区广播电视台原有非编制作网络主要负责全台日播新闻节目生产、部分栏目生产、专题节目生产、广告生产,生产格式为标清节目,网络采用了“FC+以太”的双网架构,通过专门的网络管理软件,对工作人员权限进行设定,使得非编的工程文件、字幕文件能够相互调用。比起单机非编的工作模式,工作效率提高不少,但是也逐渐暴露出不足的地方:(1)采用集中存储,所有非编站点均访问1台磁盘阵列,网络带宽不足以支撑多台非编同时编辑访问,造成非编引用素材时卡顿;(2)安全性低,素材都保存在了集中存储上,虽然已经对阵列做了RAID处理,但存储如果出现问题,整个非编网便陷入瘫痪;(3)由于“FC+以太”的网络架构较为复杂,后期运维难度较大,且成本也逐渐增大;(4)目前台内的前端摄像机采集设备已经完成高清化升级,上载节目也多为高清,磁盘阵列的存储容量已经不能满足高清文件逐渐增多的保存需求。
为了让达川区广播电视台实现全台网络化、高清化发展,需要重新设计高清非编制作网。新的非编网需要采用成熟稳定、结构简单、性价比高的网络及存储架构,运行可靠,且应急操作安全、快捷、易于维护。非编网建设完成之后需要实现台内节目采集、编辑需全部高清化,最终输出成品节目支持高清版本和标清版本(采用高清下变换),其标清下变换版本节目指标不能低于原标清非编生产的标清节目。
2 项目建设规模
整个系统网络采用万兆主干设计,万兆主干+千兆到桌面,存储采用多通道NAS集群架构,通过数据分流实现全网全高清网络化节目编辑,制作网到播出系统采用万兆主干传输数据,确保高恒定带宽,非编网后台服务器采用千兆以太网连接。
达川区广播电视台高清非编网建设范围包括非编网络存储、数据库系统、各个栏目非编站点,以及相应的辅助设备。非编系统全面支持标清和高清的混合制作,节目生产采用全程文件化、网络化业务流程,极大提高节目生产效率。
2.1 制作网及存储服务器设计
制作网络负责达川区广播电视台日播新闻节目生产、部分栏目目生产、广告生产,系统规模为编辑网数据库服务器2台,1套数据库热备份软件,1套万兆NAS集群存储(4节点,每个节点24TB容量)。利用原有新闻存储设备改造成广告中心编辑网存储;广告网数据库和新闻网数据共用。
2.2 工作站点设计
广告制作网主要完成达川区广播电视台广告节目生产,系统规模为高清有卡编辑站1台,高清无卡编辑站6台;综合类栏目制作网完成达州电视台各频道专题栏目的节目制作,系统规模为高清有卡编辑站2台,无卡编辑站点7台;新闻类制作网主要完成达州市电视台各类新闻节目的生产,系统规模为10台;总编室制作网主要完成总编室编辑任务,包括外购节目编辑、电视剧 编辑等,系统规模为3台高清无卡编辑站;专题、包装类非编主要完成部分节目的深度包装,系统设计规模为3台,包括1台高清有卡包装工作站,2台无卡包装工作站。其他为配置必要的专业服务器机柜,交换机、线材。
此次项目中,无卡非编的数量占比较大,是因为在以往的非编网建设中,无卡非编因为少了板卡的解码功能无法输出信号进行监看,所以更多时候仅仅作为粗编使用,节目在精编过程中用到有卡非编的板卡输出信号到监视器上进行预监。而本次的非编采用了最新的编解码技术,采用CPU+GPU软件解码方式,无卡非编也能够通过HDMI接口输出预监画面到显示器上,完成节目的精编工作。有卡非编和无卡非编在编辑功能上并无差别,板卡的功能也仅仅只是作为上载和输出信号的通道,所以本次配备了大量的无卡非编。
3 项目具体设计
3.1 带宽计算
设计高清非编网络时首先要做的就是计算整个网络所需要的总带宽,总带宽是存储设备选型的重要参考因素。假设25台非编工作站同时工作,节目素材采用高码率编辑方式,因此,采用极限计算方式,编辑工作站全部采用高清码率100 Mb/s进行四层实时视频编辑,则每台编辑工作站占用400 Mb/s带宽。则此时网络带宽为:25×400=10 000 Mb/s。当25台工作站同时工作时,整个系统所需要的总带宽为10 000/8=1.25 GB/S,考虑到网络系统要有10%~20%的带宽冗余,那么存储系统应该至少能够提供1.5 GB/S的带宽。本次非编网建设使用的是华为N9000集群存储系统,单节点速度可达400 MB/s,总共4个节点集群后可提供带宽1.6 GB/s,完全满足非编网对带宽的需求,并且这个带宽分配还可以随着需求动态分配和快速扩展,不但能支撑目前的编辑需求,而且还能满足未来扩容需求。
对带宽的计算中忽略了音频、字幕,因为音频和字幕所需要的网络带宽较小,4层以上字幕和8轨以上音频实时编辑/输出一共所需带宽不会超过1 MB/s,25台非编站点总带宽预计25 MB/s以内。
另外,为满足内容生产平台的的容量存储的需求,本次4个节点共提供96 TB的可用容量,确保高清素材的存放。
3.2 网络架构
采用万兆以太网的多通道NAS架构,进一步简化系统结构,优化流程,降低总体拥有成本和管理复杂度,通过集群技术提高NAS性能,通过万兆以太网技术提供更高的网络带宽。
非编网所有素材、工程文件都保存在存储中,存储通过万兆网络和交换机互联,交换机通过千兆接口和各个非编站点连接,各个非编站点通过网络调用存储盘阵的素材进行节目生产,存储盘阵在非编网中起到核心作用,本方案根据电视台需求采用了华为的OceanStor 9000 NAS集群存储,配置万兆接口,总体带宽达到1.5 GB/s。存储容量达到96TB(4节点)。存储节点数量的可以在线动态扩展,容量与性能随着扩展同步增加;可以从存储液晶面板直接操作在60秒内完成1个存储阵列(节点)扩容。并配置相应功能,实现NAS节点间数据自动均衡分布,且扩容之后,数据仍可自动均衡分布;能够在电视台高清素材逐渐增多的情况下,方便快速的完成扩容,并提高NAS网络的数据读写速度。
多通道NAS实现数据分流(如图1所示),非编工作站能够分组对中心存储分别进行访问,避免网络拥堵,每个访问通道都能提供相同的10GB/s网络带宽以及数据信息,网络有负载均衡功能,出现问题能够自动切换通道,可让系统加入更多的非编站点实现网络编辑。基于NAS架构的系统结构简单,客户端直接对存储进行读/写操作,不需要中间环节,减少了故障环节,同时其简单的系统架构也使系统的设备更少,成本和管理复杂度显著降低。
图1
10Gb以太网相对其它网络拥有更快的速度,4个万兆位捆绑提供40 Gb网络带宽,为高清非编网提供高可用带宽资源。更好的网络兼容性和继承性让万兆以太网可以兼容原有千兆网络,其平滑的升级能力保护了用户的原有投资。
3.3 数据库设计
数据库采用业界知名品牌数据库系统,可以将结构化、半结构化和非结构化文档的数据直接存储到数据库中。可以对数据进行查询、搜索、同步、报告和分析之类的操作。设计2套数据库软件分别部署在专用的数据库服务器上,通过数据库热备软件实现数据库在线备份,最大限度地提升数据库安全等级和可靠性。
新增加的广告非编系统、栏目非编系统融入到原有非编网络中,和新闻非编网采用同一数据库管理。
3.4 系统业务流程设计
如图2所示:流程描述如下:
首先,根据拍摄采集的内容,工作人员进行文稿的撰写,在文稿通过审核之后,配音人员就可根据文稿进行配音工作,然后就可进入节目编辑过程(粗编、精编均可选择),节目编辑能够和配音工作同时进行,无需等待节目粗编完成后再进行节目配音工作。
同时,随着摄像机上P2、SXS、蓝光盘移动介质的普及,不再需要通过板卡对AV信号进行转换为计算机数据,只需要配备简单的读卡器就能完成数据的上载,所以对上载的站点要求不再特殊,能够采用分布式采集上载方式。同时运用缓存映像技术,素材被采集上载到本地、主网络存储及备网络存储中。
其次,编辑工作站进行素材编辑,编辑时,先采用本地存储中的素材进行编辑,若本地无此素材,再根据策略选择网络存储中的素材实现网络编辑,采用本地编辑在编辑过程中不占用网络带宽,素材同时保存有三份,安全可靠。
图2
当节目编辑完成之后,先进行时间线前台技审,判断工程文件有无出现掉帧、黑场、彩条等错误,若未通过审核,则将回到编辑站点继续编辑,直到审核通过。技审完成后再进行人工复审,审片人员可以通过工程文件调用,直接审核节目,根据审核机制及条件,对有问题的地方通过修改,这里系统采用共享存储,审核工作站和二次编辑工作站均实时访问磁盘阵列数据;
最后,审核完成的节目经过后台打包合成工作站的打包工作,将节目直接打包成播出系统所兼容的格式完成送播任务。
4 项目建设的亮点
4.1 高效安全的分布式存储技术
4.1.1 存储方式比较
传统非编网络存储系统采用集中式存储服务器存放数据,存储服务器很容易成为系统性能瓶颈。不能满足大规模存储应用的需求。而采用分布式存储系统将数据分散存储在多台独立的设备上,采用可扩展的系统结构。利用多台存储服务器分担存储负荷。满足大规模存储需求的同时提供更高的读取速度。
本次采用的存储分布式系统的核心理念是让多台存储协同工作,完成单台服务器无法处理的任务。尤其是高并发或者大数据量的任务。
4.1.2 分布式存储原理
本次分布式存储系统部署时,系统会首先将物理硬盘上的空间切分成小块。再将不同硬盘上的这些小块组合起来成为不同的分区。系统中相同冗余配比分区的集合组成了一个DHT环。写入数据时,分布式系统会将一个数据切分成固定大小的数据分片,并将分片写入DHT环的一个分区。如果是数据分布式存储,系统将分片切分为条带,并根据冗余配比生成校验数据。然后将条带和校验数据一起写入DHT环的一个分区。数据读取时,被访问的存储节点寻址到相应的分区读取数据,并聚合这些数据为完整的文件。返回给应用服务器。
4.1.3 分布式存储的高扩展性
传统的NAS设备一般使用双控制器节点提供服务,每个节点支持特定的业务负载,当容量不够时通过扩展磁盘框的方式增加存储容量。这种方式的缺陷在于,首先业务和节点的绑定,意味着一个业务及其关联的文件系统只在一个节点上工作,容易造成系统整体的负载不均。
分布式系统强调横向可扩展性,即Scale-out。通过增加存储设备数量来提升集群整体性能。系统扩展了新硬件,新增节点上的硬盘增加到现有分区。原有存储上的数据迁移到新扩容节点上,实现数据自动均衡。同时,系统增加了并发访问的节点,容量和性能线性扩展。
4.1.4 分布式存储的高安全性
传统Raid,把数据存放在一个节点内的不同硬盘上,当一个硬盘损坏时,通过Raid重构,恢复坏盘上的数据,但当整个节点故障时,整节点的数据就会出现丢失,针对这个问题,可以通过在节点间写多份来解决。本次采用分布式存储设备的数据通过分布式RAID,节点间冗余的方式进行保护,数据进入系统之后,被切分为N个数据片,然后计算出M个冗余分片,保存在N+M个不同节点的不同硬盘上。这种N+M的冗余模式可以对任意目录进行重新配置,甚至可以对同一目录下的不同文件配置不同的冗余比。
集群节点中,任意不超过M个硬盘故障后,可以通过节点间数据重构的方式快速恢复出所损失的数据,进而恢复整系统的数据可靠性。集群中任意节点故障后,该节点所提供的服务会被自动迁移到其他节点上,使得故障对业务无感知。通过把数据分片写到不同的节点上,不仅可以提高读写性能,又能保证数据的高可靠性,还能保持高的磁盘利用率,节约投资。
4.1.5 分布式存储的高效性
存储系统支持高速10 GE以太网,每个节点可以支持4个10GE端口和4个1 GE端口,在低时延、高带宽、高并发的场景下都可以获得卓越的表现。随着近几年Infiniband技术趋于成熟,多并发链接,高达40 Gbps的带宽,时延低。各节点之间通过40Gbps的带宽进行高速互联,尽可能降低系统内部时延,从而对外提供卓越性能。
此外,采用分布式集群存储,通过负载均衡,每个非编站点的访问均匀地被发往各个存储,这大大提高了集群存储并发访问的能力,其处理能力随着集群规模的增大而线性增长,避免了性能与容量不匹配的尴尬。
4.2 “缓存映像”技术
所谓“缓存映像”技术就是对非编网络的存储和传输采用优化策略和调度,提高网络带宽的利用率和增强存储服务器的吞吐率。缓存映像是为了应对素材在进行上载时存储服务器出现故障而产生缓存中的数据丢失,进而制定的解决方案。它的原理是将缓存数据做两个拷贝,分别放在主内存和镜像内存中,系统工作时会向两个内存中同时写入数据,因此使得内存有两套完整的备份。如图3所示:
图3
采用“缓存映像”技术能够将中心存储服务器的存储数据实时映射到非编网络的每台非编上。素材从非编站点上载到中心存储服务器的同时在“缓存映像”中产生相同的镜像数据,在执行编辑任务时,非编工作站首先读取本地“缓存映像”内的素材资源。这样既大大提高了现有的网络带宽率又解决了素材的备份问题,每台非编站点上的“缓存映像”都是中心存储的备份子集。
4.3 前台技审技术
在非编工作站上完成节目制作后,通常需要进行审片,基本都是通过人工进行,工作量很大,容易出现人为失误,有非正常的图像和声音出现漏检现象,导致送播文件出现问题。为了提升节目的质量,电视台需要一套可靠的审查机制实现对制作完成的待播文件进行有效的技术质量检查和控制。
通常文件技审是在文件进行送播完成之后,即已经进入到播出的待播库中由后台设备进行技审。这样做会出现一个弊端:若是检查出有必要进行修改的问题,需要非编网重新对文件进行修改后再次进行入库,使得文件送播入库的效率降低。所以在达川区广播电视台的非编网建设中采用了非编前台技审的技术,技审完成之后再通过后台服务器自动迁移至播出系统,避免了反复进行修改送播的繁琐步骤。
在非编工作站的前台技审功能中,技审范围可选择时间线和工作区,支持对非编中的黑场、彩帧检测(蓝底、绿底)、100%彩条检测、100%高清彩条检测、静帧检测、幅型检测、Y/U/V超标检测、R/G/B超标、亮度超标检测、夹帧检测等关键技术质量进行检测;技审完成同时给出技审结果,每条结果记录都会显示入点和出点,鼠标双击即可快速定位到结果位置,便于在合成前进行快速的修改。对于时间长、内容多的工程文件进行前台技术审核,技审效率最大可达20:1。
4.4 超级Cache技术
在高清非编网络编辑过程中,常会因为网络延迟或软件本身解码问题而导致编辑时出现卡顿、掉帧等情况,为节目制作人员带来了不变。而超级Cache技术则是一种用于提高系统响应速度、改善系统运行性能的技术,并能够解决高清大数据实时缓冲,实现断网续编能力,有效解决万兆以太网和NAS集群的数据脉冲难题。
为了提高高清非编工作站在进行网络化编辑访问非编网存储时的相应速度,采用了与预读相结合的超级Cache策略,当用户在网络中调用某一素材时,非编软件后台除了响应当前的操作,还能在后台并行的对该素材文件进行不断的缓存,当用户执行下一步操作时,优先访问缓存中的数据,这样用户省去了等待操作请求和数据读取的时间。并且由于软件的优化设置,对缓存中的视音频数据提前进行解码,提高了编辑的流畅性。超级Cache技术使得达川区广播电视台高清制作网对网络实时依赖大为降低,有效解决因网络掉包、延时等影响节目制作流畅性问题。
4.5 满足各种需求的非编制作能力
采用的非编系统秉承的理念是一个“无限开放、无限扩展”的制作平台,并且能够提供灵活的第三方插件支持,具有可持续升级能力和扩展能力。适合新闻编辑、专题制作、节目包装、片头设计、栏目合成等各种不同类型节目制作的非线性编辑平台。
非编系统软件界面布局不但人性化而且高度集成,设计上尽量减少弹出窗口,精简操作步骤,编辑效率得以在无形中得以提高。非编系统包括了采集、剪辑、特技、字幕、输出、素材库、预演窗等满足各种需求的功能。
节目最终输出支持支持实时上、下变换输出,既支持高清工程输出为标清格式的素材,又支持标清工程输出为高清格式的素材,满足成品节目不同用途的需求。
5 项目建设总结
随着广电技术、IT技术的不断发展,电视台节目制作的需求不断变化。为了适应当前的发展趋势,保持电视台在主流媒体中的竞争力。达川区广播电视台高清非编网在设计上采用了稳定高效的网络架构、安全易扩展的存储技术、先进的软件编解码技术,并从高性价比、后期维护方便、便于升级等方面综合考虑,建设完成高清制作网项目。解决了台内高质量内容生产的需要,使电视台节目制作流程更加顺畅,效率和稳定性得到提高,并为未来2K、4K节目制作提供了基础软件服务。