APP下载

天津广播电视台“新闻云”存储系统的设计与扩容

2020-12-31

天津科技 2020年12期
关键词:新闻频道制播存储系统

韩 雪

(天津广播电视台 天津300074)

天津广播电视台高度重视互联网技术在广播电视领域的创新应用,大力支持广电利用先进技术驱动新闻创新,以科技创新推动智慧广电建设。本文探讨了天津广播电视台“新闻云”存储系统搭建的技术需求与方案,并对后续的2次扩容及改造后的新闻制播系统进行简要介绍,以期为其他“新闻云”系统建设提供经验。

1 系统搭建背景

2017年前天津电视台有2个部门进行新闻节目制作:早期成立的新闻部,制播机房在数字大厦3~4层,节目在卫视频道播出;2013年成立的新闻频道,制播机房在数字大厦 7~8层,节目在新闻频道播出。

随着融媒体的发展,2个部门之间的联系与协作越来越多,但由于分别使用两套制播系统,无法在文稿和节目资源管理器中方便地共享素材资源。资源互通时经常需要工作人员跑上跑下,沟通不便,效率低下。2017年2个部门进行了合并,制播系统的整合也势在必行。原新闻部制播系统已投入使用 6年有余,设备老旧,故障频出,在网络部精心维护下得以继续使用,但已严重威胁播出安全;原新闻频道制播系统投入使用 4年以上,技术不够先进,无法满足新闻频道日益发展的节目制作需求。在这一背景下,2017年,“新闻云”系统应运而生。在设计方案和用户需求中,要求新系统素材存储量大,可供同时访问的人数多,这对存储系统的容量、安全性、响应速度等方面的要求更为严格,因此在技术选择上需要更加严谨与有所创新。

2 “新闻云”存储系统建设的技术需求

2.1 容量需求

结合新闻频道节目制播需求,拟建设 720TB裸容量数据存储系统,主要存储原始采集素材,回采成片,共享资料,以及收集管理节目编辑的工程文件等内容。

2.2 吞吐量需求

为满足多用户在线使用以及系统应用整体的吞吐带宽需要,保证数据、信息等访问的流畅性,存储系统需要实现高吞吐的带宽设计,从而提供多用户或应用并发访问。该系统能够有效利用网络带宽,各项性能可通过规模增加实现平滑增长。

2.3 扩展性需求

系统的建设同样需要考虑未来适用的要求,新闻频道的素材积累量大,业务应用也会相应变化和发展,因此,需要系统能够快速实施资源的升级,从而在业务与服务不间断的状态下平滑扩展,不会导致架构发生根本性变化,为不断产生和变化的业务需求提供持续的支持,满足业务系统的快速整合和部署对核心系统基础架构的特别需求。

2.4 低成本需求

要求系统能够以低硬件成本、低维护成本实现高可靠高性能应用要求,充分提高资源利用率,简化管理,并能灵活、可持续扩展。

2.5 可维护性需求

要求系统具有自适应管理能力,安装、维护、升级简易方便,提供统一易用的 WEB配置管理监控系统,实现智能化管理。

2.6 接口需求

由于新闻制播系统的特殊性与综合性,系统应能够提供通用的文件系统接口,方便用户及应用系统的访问,这样可以减少应用集成端口以及相应端口开发的工作量,实现系统快速部署与集成。

3 Isilon技术特点发挥的作用

Isilon集群存储具有开放式架构、分布式操作系统,负载均衡、易于安装和管理,性能好、可靠性高,能在线扩展容量和带宽等优点,成为适应“新闻云”需求的存储系统。

3.1 开放式架构

开放式架构是硬件层面的一个概念,是指将集群系统中多台本身性能较差的个体服务器聚合起来,使集群的最终处理能力比高端服务器更好。这种类似于“搭积木”模式搭建起来的系统采用的就是开放式架构。与之相对的是 scale-up 架构,是指设备处理能力上限在购买时就已确定,如果需求超过上限,只能重新购买更高性能的设备。

开放式架构意味着灵活多变,能够通过增加节点,不断提升系统整体性能,在充分利用原有资源节约改造成本的同时满足频道日益增长的需求。

3.2 分布式操作系统

OneFS既是操作系统又是集群存储的文件系统,Isilon存储通过OneFS的同步功能,使各节点达到真正的全局一致性,每个节点都能处理读写请求,有效解决了访问文件系统时发生的单点故障。

比较之前新闻部和新闻频道存储都使用卷管理和 raid技术管理保存数据的方法,OneFS将数据分布到系统的每一个节点,提高了磁盘空间利用率,改善了老系统中存在的节点等级差异和内在瓶颈。

3.3 统一命名空间

OneFS使用 Infiniband交换机进行集群内通信和同步,将所有数据(包括元数据)完全并行分布到所有节点中,创建一个共享存储池,将数据整合到真正的单一文件系统 OneFS 中,系统的单一性决定了它不会出现跨lun引发的性能问题。

比如之前新闻频道EMC存储出现的多个lun在不同控制器之间transpass,造成前端读写出现丢帧现象。

3.4 负载均衡

存储还内嵌许多程序模块,SmartConnect 模块非常符合制播业务需求,主要用作均衡负载。以 8个节点为例,写入数据时从8个结点中选择出目前最闲的结点来接收此次读写请求的文件,这个文件到了结点之后,并没有立刻写到磁盘上。此时OneFS会把这个文件自动分成8个小块,通过后端IB交换机的内存级别拷贝功能把 8块数据分别写到其他节点各自的硬盘上。充分利用了 Infiniband的带宽高、网络延迟小的优势,提供非常高的读写性能,避免在节目制作高峰期前端读写延时、卡顿的现象发生。

3.5 N+M的数据保护模式

Isilon可以提供结点级的容错,以 5个节点为例,使用 3+2数据保护模式,向存储系统写入一个文件时,该文件数据会被分成 5份分别存储到 5个节点,即使 2个节点的所有硬盘全部宕掉,整个文件数据仍然能够完整恢复。这种基于文件系统的节点级的容错,与之前的 raid技术有着本质的区别。这种N+M数据保护模式最高提供4个节点的容错能力。

这与其他产品容错机制完全不一样,数据保护级别可以在线更换,数据仍然是完整的。该特性极大程度地保证了节目素材的安全性。

4 系统组成

新闻云存储系统搭建时,软、硬件配置如下:

硬件,5个存储节点(X410-144TB/64GB/2X10 GESFP+2X1GE),2台 Infiniband交换机(Switch IB QDR 36 Port 1PS 1U Intel)。

软件包括 SmartConnect Advanced、InsightIQ、SmartQuota,分别提供动态客户端负载平衡功能、集群监控功能、配额限制功能。

每个X410节点配置36块4TB SATA硬盘,总体裸空间为 720T,使用 3+2数据保护模式,实际可用空间520TB,配置2个千兆和2个万兆网络接口。通过Infiniband高速网口,链接36口的Infiniband交换机,用于节点间内部数据互联互通,通过万兆网口连接核心交换机,为生产网提供业务数据读写访问。

5 存储扩容

随着频道升级改版,节目播出时长大为增加,目前,新闻频道全天有 11档直播节目,每日直播时长增加到 12h,还有部分周播录播节目在网内制作。而且随着采播技术高清化的全面落地,节目素材越来越清晰,制播系统所需存储空间量也越来越大,同时在线读写访问用户数量也在增加。

为了满足频道的使用需求,网络部结合使用利旧设备和新采购设备,先后对存储系统进行两次扩容升级改造。第一次扩容,于 2017年 6月增加 2个同型号同配置的 Isilon存储节点,为全运会利旧设备;第二次扩容,于2017年12月增加4个同型号同配置的Isilon存储节点,为索贝新购设备。

扩容工作内容主要包括集群内外部网络架构、集群网络配置规划。

5.1 集群网络架构

Isilon集群存储网络架构主要分为内部网络和外部网络。

5.1.1 内部网络架构

内部网络由 Infiniband高速网络互联。每个X410节点的 2个高速网口分别接入 2个Infiniband交换机,如图1所示。

5.1.2 外部网络架构

每个X410节点2个万兆网口接入核心交换机。扩容后外部网络架构图如图2所示。

5.2 集群网络规划

集群SVIP(对外提供服务的统一IP地址)不变,延用原来的172.27.124.10。对新增X410节点的2个万兆网口进行网络IP配置,扩容后万兆IP地址段为172.27.124.11-172.27.124.32。

图1 扩容前后内部网络架构对比图Fig.1 Comparison of internal network architecture before and after capacity expansion

图2 扩容后外部网络架构图Fig.2 External network architecture after capacity expansion

图3 存储实际可用空间示例图Fig.3 Diagram of actual available storage space

5.3 性能提升情况

基于 Isilon集群存储的技术优势,2次扩容均在不影响客户端使用的情况下进行,相比于原新闻部的CX-960存储,原新闻频道的 VNX-5700存储、新闻云 Isilon存储系统容量大幅提升,如图 3所示。扩容后,整个Isilon存储系统共配置11个X410节点(包括 22个千兆和 22个万兆网络接口,396块 4G硬盘),2个 Infiniband交换机。在第 2次扩容时,在线将数据保护模式改为 8+3,可用空间 1.4PB。以一个Isilon存储节点对外存取带宽500MB/s计算,系统内11个节点的总带宽共5500MB/s。

6 结 语

扩容后的新闻云存储系统,是一个由11个EMC Isilon X410节点(每个节点包括36块 4GB SATA硬盘,2个千兆网卡,2个万兆网卡),2个infiniband交换机组成,并定制安装了SmartConnect Advanced(动态客户端负载平衡功能)、SmartQuota(配额限制功能)、InsightIQ(集群监控功能)软件的,基于开放式架构,使用分布式操作系统,统一命名空间的存储系统。它拥有易于安装、配置,便于管理、扩容的优点,并且在负载均衡、系统性能、数据安全方面有卓越表现。相比原来的存储系统,新集群存储系统提供大容量存储、高带宽读写,在线扩容、更改保护级别外,有效提高了磁盘空间利用率,解决了lun在不同控制器切换带来的访问隐患,避免了读写单点故障,合理均衡了多用户使用的负载情况。自 2017年上线后,除操作系统升级、硬盘等硬件的更换维护,一直平稳运行,从未出现过安全事故,为新闻节目的高效制播提供了保障。

猜你喜欢

新闻频道制播存储系统
分层式大数据存储系统缓存调度策略与性能优化
从设计规划到室内装修全程把控 英国天空新闻频道北京站直播间
融媒体时代电视台网络化制播业务的安全防护对策研究
天河超算存储系统在美创佳绩
新闻频道的理念与运作
浅谈省级电视台新闻频道的发展困境与突破
大数据背景下网络综艺节目的制播模式新变化研究
美剧在中国流行的原因及借鉴意义
浅析国内电视真人秀节目营销现状
基于Hadoop 的海量医药电商数据存储系统设计与开发