广播电视违规节目内容综合管理系统在监管中的应用

罗天

【摘要】新时期背景下，加强广播电视违规节目内容监督与管控对于扶正社会舆论导向、弘扬中国优秀文化、加快社会主义精神文明建设具有重要意义。但随着国家对电视节目宣传管理力度的加大，广播电视监测中心的监管业务也不断增多，工作难度不断增大。在此背景下，充分利用先进技术手段构建综合管理系统就具有十足的必要性。本文联系实际，主要就广播电视违规节目内容综合管理系统的建设与应用展开探究论述，希望能为相关工作提供些许帮助。

【关键词】广播电视;违规节目;内容管理;管理系统;监管技术

中圖分类号：TN94                 文献标识码：A               文章编号：1673-0348（2020）013-094-04

违规节目内容综合管理系统旨在提出灵活、可扩展、统一的视音频多维度描述体系，从空间信息、视音频信息、时间信息、采集来源、监测研判、监测人员等多个维度对视音频违规内容进行标注，进而有效解决数据孤岛问题，增强监测数据的统计分析能力。下面联系实际，就广播电视违规节目内容综合管理系统在监管业务中的应用做具体分析。

1. 广播电视违规节目内容综合管理工作概述

新时期背景下，广播电视违规节目内容综合管理业务主要包括以下内容：开展广播电视信号及节目内容监测监管，卫星信号及内容监测监管，网络音视频内容监测监管。具体如：借助人工智能进行卫星信号及节目自动比对工作，如从卫星发射信号接收广播音频节目后，采用人工智能技术自动翻译把广播节目翻译成文字，并设定不良信息关键字，之后由系统自动识别后发现相关不良信息内容并报警，由人工审核后上报管理部门。对网络音频app如蜻蜓FM、喜马拉雅、抖音、快手等平台上的音频内容进行监管。监管时先通过网络爬虫技术抓取音频app的节目到本地，之后通过人工智能语义识别技术自动识别转换成文字，通过设定不良信息关键字进行排查，如发现不良内容即报警，由人工最终审核。除以上工作外，还有通过网络爬虫对爱奇艺等视频网站节目进行抓取搜索，之后通过人工智能技术对节目经行智能识别，发现提前设定好的儿童邪典视频即刻报警，由人工审核上报。

2. 广播电视违规节目内容综合管理系统构成

电视节目违规内容综合管理系统主要由检索、存储以及多维度表述这三大体系构成。在这三大体系的协调运作下，电视节目中的违规内容能被及时发现与处理，电视节目质量得到保证。下面就广播电视违规节目内容综合管理系统做具体分析。

2.1 媒体资源汇聚软件

在广播电视节目内容监管业务中，需要通过浏览、审核及时发现一些综艺、影视剧等节目中存在的暴力、色情、邪教宣传、虚假广告以及涉政言论等，并依据相关标准对违规节目进行处理，从而保证节目内容的合法性、健康度。但由于每年播出的广播电视节目本身就数量大、类型多，再加之长年累月的积累，逐步形成了海量历史监管数据。对于这些数据，仅靠人工录入、人工数据关联是不合理也不现实的，人工操作不仅进度缓慢而且无法形成宏观的数据分析。在此情况下，就有必要利用当代先进技术与软件来高速分析数据、批量存储数据，并依据相关标准对数据进行分类，以便于数据的检索与应用。

在当前的广播电视节目内容监管系统中，普遍应用媒体资源汇聚软件来完成数据收集、分析与处理。媒体资源汇聚软件能够给监管人员提供基本的监测内容管理标注页面，也能实现违规节目监管任务中视音频文件与违规描述信息文件（节目播出情况表）的关联汇聚，能将汇聚数据直接导入数据库进行存储。且与传统的数据处理手段相比，媒体资源汇聚软件对数据的处理更加精确、细致，该软件能基于视音频描述的所属维度，在字段中映射进节目信息，之后将节目内容信息、播出信息批量导入监管系统，从而形成宏观的数据分析。

基于IP网络广播工控机的智能电源输出管理系统

2.2 综合管理平台

在对广播电视违规节目内容进行监管时，需建立起统一的管理平台，对各项信息、数据进行集中、统一的管理。在设计与运用综合管理平台时，先根据具体的监管要求预先设定好描述维度，如音视频信息、采集来源、空间信息、时间信息以及监测研判信息等，之后系统会根据上述维度详细描述电视节目中的违规内容，从而提高监管工作的规范性、有效性。在具体的监管业务中，有时会出现系统所描述信息不够充足、全面的情况，此时就需要工作人员做进一步补充，以保证信息的完整性、全面性。违规节目内容综合管理系统的主要内容一般都存在于数据库，数据库基于相关的维度设定与技术标准能对与节目相关的音视频信息分类存储、分类展示。并且系统管理员可实时查看、编辑数据库中各项信息，从而满足电视节目内容监管需求。

2.3 多维度数据检索展示系统

在电视节目综合管理系统中，对广播电视违规节目内容信息数据的检索以及展示主要是通过多维度数据检索展示模块来完成。综合管理系统中的这一功能模块能够将系统中存储的各类数据按照进行展示，并且相关人员可在该系统中直接检索节目关键词、节目信息等，这让整个监管工作更加规范、高效。具体如，在多维度数据检索与展示系统中，工作人员输入节目播出时间或是虚假广告、涉政言论等关键词并点击检索件，系统对话框中就会展示出与该关键词有关联的一切信息。然后再点击自己所需掌握的信息链接，就能获得节目内容、节目违规程度、违规类型等详细信息。可以说多维度数据检索与展示系统大大提高了数据检索效率，为广播电视违规节目内容监管业务提供了便利。

3. 广播电视违规节目内容综合管理关键技术与应用

3.1 自动语音识别

自动语音识别技术，指的是将语音语言转换为文本的技术手段。自动语音识别技术是建立在计算机科学、语言学、语音学、声学、以及信息论、数字信号处理理论等多学科基础之上的一种智能化识别技术。在科学技术迅猛发展的现代化背景下，自动语音识别技术具有识别娇喘语音、涉政语音、色情语音以及垃圾广告等多项功能。如对于广播电视节目中国的娇喘、呻吟、耳骚、喊麦等违规音频，可通过语音识别技术下的Attention、Bi-GRU模型进行识别与确定，精准确定出节目中的这些违规内容并作出报警，审核人员在接收到报警信息后再进行人工审核处理，之后确定违规音频并进行上报。自动语音识别技术也能准确识别出涉政语音。在对广播电视节目进行审核监管时，利用语音识别技术手段抓取节目中关于或疑似涉及政治事件、政治任务、恐怖主义以及反动分裂等音频，对其进行分析识别，对违法违规信息作出处理。此外，当节目中包含有低俗淫秽、色情、语爱等违规内容时，应用语音识别技术进行抓取与分析，确定出违规内容后进行报警，由人工进行再次审核，以保证电视节目内容合规合法。当前的一些语音识别软件还具备国歌识别的功能。其可以基于混合深度神经网络模型、NAR模型对广播节目中歪唱国歌的音频进行识别并报警。对于复杂场景中的具有具有诋毁、辱骂、侮辱性质的语音内容进行识别与告警;对广播节目中的一些违法违规宣传进行识别与报警;对广播节目中的应用英语、日语等其他语言进行辱骂、涉政以及宣传暴力色情等违规音频进行识别与报警。

由于电视节目音频矢量化特征相同，因而很多电视广播监管系统在对电视节目违规内容进行识别监管时，均采用这样的模式：利用关键词语音识别技术来判断电视节目中有没有违规内容。如在审核监测时，我们需要知道该档节目中有没有涉及色情暴力的内容，那么就利用智能语音识别技术直接搜索、锁定关键词，如色情、语爱、娇喘等。如果在搜索过程中该节目中多次有相关词语跳出，那么就可判定该档节目中包含违规内容。

3.2 卷积神经网络

随着深度学习的迅猛发展，计算机视觉领域各项技术也有了很大进步，尤其是深度经济神經网络更是在多个行业与领域得到了广泛应用。如将卷积神经网络应用于电视节目违规内容监管系统中后，不仅能大大提升监测审核的效率，而且还能提高监管精度。作为计算机视觉中的一项关键技术，图像语义分割在电视节目违规内容监管系统中发挥着重要作用。在对电视节目内容进行监督审核时，利用图像分割技术，依据图像的色彩、纹理将等特征将图像中不同位置的、具有相同特征的部分进行聚类，从而更便于审核人员掌握图像内容与图像性质，及时发现图像中涉及违规违法的部分。在对电视节目进行监测与审核时，我们依据图像语义分割的技术原理，按照图形的场景、纹理得出图像想要表达的信息，然后锁定目标信息，并根据目标信息对图形进行精准识别，以此判断图形图像是否合规合法。

作为神经网络系统中的一项关键技术，卷积神经网络是当前图像识别与语音分析领域的研究特点。卷积神经网络的权重共享网络结构与生物神经网络有些许类似，因此卷积神经网络模型比较简单，权值数量也相对较少。在卷积神经网络技术下，图像可以直接作为网络输入，因此要想解算、提取图像中的一些特征就更加容易且迅速。

在电视节目违规内容监测中，卷积神经网络的作用如下：首先，在监管模块或是审核软件中输入图片，并对图片大小进行调整。完成以上操作后，通过卷积层刻画图像特征，利用反卷积层直接产生图像语义分割的结果。在卷积神经网络技术下，图像语义分割过程更加简单快速，审核人员不再需要对目标图像做专门检索，同时也不需要进行区域合并操作。在VGG-net这一过程中，卷积层就能直接具体、形象地刻画出图像特征，从而让图像分类与图像内容判断也更加准确。

3.3 网络爬虫技术

网络爬虫属于一个网络程序，该程序的基础是HTTP协议。爬虫程序从一些既定初始URL开始，对相应的网络、关键词、数据等进行抓取，并依照初步分析出的线索、链接进行深度分析与访问，为节目审核员、监管员提供充足的信息数据。网络爬虫主要由四大部分组成，分别为页面获取部分、页面分析部分、URL过滤部分以及链接队列部分。其中，网络爬虫中的页面获取部分的功能作用是：从指定起始URL开始抓取，发送HTTP请求数据报文，并在本地磁盘中保存抓取到的Web页面。页面分析模块主要是对Web页面进行解析，从中提取出链接。链接提取出后便由URL过滤模块进行去重、筛选等处理。最后的链接队列模块主要是为URL队列提供维护服务，以保证网络技术的正常运用。

网络爬虫的工作原理是：指定一个URL后，开始启动爬虫程序开展爬取工作。在爬虫程序运行过程中，由Bloom Filter 算法对程序的运行状态、运行效率进行分析判断。如果经Bloom Filter 算法计算得知某URL中没有爬虫爬取的痕迹，就需对于URL相对应的Web网页进行抓取，并进一步开展对网页的解析工作。通过解析从网页中获取其他URL的链接，并将其加入爬取队列，再根据列表依次开展后续的爬取与解析工作，直到列表中最后一个URL被爬取完毕后，点击退出爬虫程序。

在将网络爬虫技术应用到电视节目违规内容监管系统时，主要是在系统中相应单元设置一个Libevent实例，通过其来监听、观测与识别节目内容，抓取到节目中的违规信息并进行报警，提醒工作人员再次复核，最终完成对节目内容的审核与监管。在分析、审核过程中，若网络爬虫抓取到相应关键词，就会对其展开深入解析，分析出其中具体的违规画面或语音，并对其做针对性处理。在电视节目违规内容监管系统中，应用网络爬虫不仅能在较短时间内获取到大量信息，而且还能保证信息获取的精度，能详细分析出具体的违规内容。并且整个抓取过程都是非常规范精准的，不会出现重复抓取现象，可大大提高监管工作的效率与质量。

4. 电视节目违规内容综合管理系统的重要作用分析

广播电视节目内容监管是一项比较复杂、繁琐的工作。不仅监管对象众多，且监管过程中涉及到大量、不同类型的数据，对数据的分析归类十分费时费力。同时在监管期间一些政策等外部因素也会对监管工作产生一定影响，如导致监管方案变动、监管对策调整等。结合以往工作经验可知，在实际的监管工作中还经常会遇到以下情况：一个电视频道中有多个节目，电视剧、综艺、电影、音乐等类型各不相同。而同一种违规情况在不同类型电视节目中又有不同形态，且相关部门对电视剧、综艺等提出的监管要求也有所不同。并且相关部门对违规节目的违规研判标准、研判项目有所不同，各类电视节目中的违规情况也千差万别。在此情况下，如果仅靠工作人员进行审核与管理，不仅管理成本极高，而且速度及其缓慢，会给影视业的发展以及观众观看体验带来很大影响。因此在新时期背景下十分有必要利用语音识别技术、语义识别技术、网络爬虫技术以及人工智能技术构建多维度的电视节目监管系统，利用高智能、自动化的监管系统从多个维度对违规内容进行分析研判，以提高监管效率与质量。

在利用先进技术构建起监管系统后，工作人员只需要在监管系统中导入音频文件，建立起相互的映射关系后，后续关键词搜索、信息锁定、语音识别、图像转化、内容研判等各项工作都将由系统完成。工作人员的审核任务由此减少，监管成本大大降低，监管效率也将显著提升。除此之外，在建立起现代化监管系统后，如果相关被判定含有违规内容的节目在电视台重复播出，监管人员只需要从这些违规节目中选取出一个语音或是画面，系统就会自动爬取、收集与汇聚与之相关联的违规内容，从而完成联动式、一站式的监管。且基于网络爬虫技术、人工智能技术、语音识别技术的电视节目监管系统能对广播电视节目违规内容信息数据进行自动化的分析与处理。系统可以从多个维度，如按照节目类型违规情况、频道违规情况、时间段违规情况以及总体违规情况对节目违规信息进行收集、统计与分析，从而让电视节目违规内容管理更加规范合理。

5. 结语

综上所述，广播电视违规节目内容综合管理系统在监管业务中发挥着重要作用，合理利用综合管理系统可大大提高监管效率与精度，提高电视节目质量。为此，相关部门要能提高对综合管理系统的重视度，并依据新时期国家提出的广播电视节目监管要求，充分运用网络爬虫、语音识别、卷积神经网络等技术构建先进的管理体系，以推进广播电视节目监管工作规范、高效开展。

参考文献：

[1]王雪娇，智敏.基于可变形卷积神经网络的人体动作识别[J/OL].计算机工程与科学：1-7[2020-05-07].http：//kns.cnki.net/kcms/detail/43.1258.tp.20200429.1052.008.html.

[2]张万征，胡志坤，李小龙.基于LeNet-5的卷积神经图像识别算法[J].液晶与显示，2020，35（05）：486-490.

[3]任杰.人工智能技术在视频应用中的发展——以中央广播电视总台应用为例[J].演艺科技，2020（Z1）：67-72.