人工智能审核系统在广电领域的应用与展望

王学博

山东广播电视台 山东 济南 250014

引言

在融媒体业务不断发展、创新的背景下，面临着待审内容数量大、内容来源类型多、时效性要求高等新要求，强调既要满足传统节目审核机制，又要严格把控审核尺度，避免出现审查遗漏。在此环境下，更需要具备更加权威、专业、智能化的审核工具，用于满足广电受众的需求和社会形式。

1 基于人工智能审核技术的广电内容审核要求

为保证广电行业健康、可持续性发展，新形势下的专网及定向传播视听节目应遵循《专网及定向传播视听节目服务管理规定》内容，严禁出现违反相关规定、危害社会公德、破坏民族团结等内容，建立健全的审查制度、播出制度。人工智能审核系统的应用需立足于审核内容要求和规范开展相关工作，以IPTV集成播控平台内容审核流程为例，除了智能系统外，审核团队还包括负责人、主管、编辑及相关专审人员，注重各个环节审核的真实性、导向问题，避免造成版权侵害、突发事件以及敏感话题。在进行内容审核时需满足“先审后播、重播重审、再播再审”的要求，切实做到严格把关。

以某省的媒资系统来看，内容审核工作中专业人员每月词条节目审核量在逐渐增加，以往人工审核已经无法做到无纰漏审核，加之当前广电审核标准、维度均有所提高，审核人员数量、资历有限，需要积极引入新技术进行内容审核工作。基于以上现状，需要顺应时代发展需求，合理应用政策，采用AI审核系统。目前常用的检测方式包括人脸、语音、OCR、黄暴画面识别等前沿技术，能够全方位、智能化的检测，并根据情况给出违规告警信息，有效提升工作效率。

2 人工智能审核系统架构设计

广电行业人工智能内容审核系统利用高性能X86通用服务器集群为平台，利用CPU图像处理、逻辑计算能力、AI智能识别技术、权威专业特征库实现对审核业务流程的控制，实现信息交互与独立展示，其系统框架如图1所示。

图1 系统架构设计

在实际应用中，人工智能审核系统能够为广电节目的发布起到良好的控制与服务作用，系统框架设计便于快速对接生产发布环节、各个系统，设计通过请求调用以及缓存和调度策略后，能够直接对接AI职能层进行分析、审核、对比，完成后返回信息，并做出整合与定位，最终展现结果数据[1]。针对广电领域所应用的人工智能审核系统架构的分析，详细如下。

第一，基础能力层，主要满足日常审核工作，是极为必要的模块，其职能包括：①系统配置管理，能够根据资源分配规则将数据库、数据字典、CPU资源、存储空间资源等接入不同审核模板，支持备份与导入；②用户及权限，用户具有所属存储空间的文件创建、删减等权利，便于周期性清理；③业务统计及结算模板，系统能够根据第三方用户所提供的服务能力生成业务结算单凭证，便于形成新的业务创收点，根据计费方式的不同提交核算业务结算单，例如视频审核市场、抽帧等；④运维监控报警，主要对内存、硬盘空间、端口、网络等状态数据展开实时的监控，并通过窗口展示，一旦发现异常情况会自动进行分级告警，多方式传送信息；⑤日志管理，包括能力调度处理、数据处理、常规操作、设备运行情况等，能够实现自主化筛选、清除。

第二，AI智能层，主要功能包括：①敏感人物识别，针对落马官员、历史问题人物、劣迹艺人、涉政敏感人物等被重点监管的人，能够精准对其进行近景、抬头、侧脸等多角度的识别，甚至存在遮挡的人脸画面也能识别，并会实时更新特征库；②人物标签识别，智能标注任务，便于直接按照标注信息进行查询或精准推荐；③色情识别，基于深度学习的图像鉴别技术；④OCR识别，对视频、图片中文字进行识别；⑤ASR技术，能够识别音频内容，进行违规语音鉴别；⑥文档识别，利用NLP自然语言处理算法和关键词库识别；⑦广告垃圾识别。

第三，能力控制调度引擎层，利用AI审核能力进行调度监控或配置管理，主要功能包括：①资源分配调度，利用系统计算单位对任务进行计算与分配，支持共享或独立运算配置；②优先级调整，平台会根据紧急情况、核算任务实际情况进行优先处理。

第四，业务流驱动引擎层，人工智能审核系统中业务流驱动引擎层能够实现对审核任务的优先级调整、添加、重试等功能，详细包括：①快速业务对接，支持广播和电视播出、节目制作以及网站进行松耦合且快捷的对接，并提供智能审核、标注服务；②自定义流程，支持灵活业务流程配置，满足多样化的审核流程；③任务优化调度，功能在于多任务实例调度优化，能够根据优先级、资源占用情况、审核维度等多种因素优化业务[2]。

第五，管理与展示层，其功能包括：API调度、系统应用管理、结果展示以及复审复查。

3 人工智能审核系统在广电领域的典型技术应用

3.1 第三方系统对接技术

人工智能审核系统在广电领域的应用，第三方系统对接技术十分关键，会提供与各个领域的访问与调用功能，并利用公网访问接口实现公网访问，从而实现内容审核服务，详细如图2所示。

图2 第三方系统对接构架

针对不同业务的接入方主动发起任务审核，在实际应用中的系统对接方式主要包括以下几项：①HTTP/JSON调用：应用相关Webservice接口进行文件名、素材名、路径等参数传递；②XML+物理文件：指定存储区ETP上传，并对XML文件进行解析与审核；③轮询存储区：利用智能审核系统实现对指定存储区的音频内容的定期轮询；④B/S送审页面：提供接口调用的同时可应用B/S送审页面进行素材文件、名称访问，再上传，实现自动审核，并直接查询结果。

3.2 AI审核技术

人工智能审核系统在广电领域中应用AI审核技术，其关键部分在于采用卷积神经网络，能够响应部分范围内的周围单元。针对一些大型图像处理能够发挥较好的作用。其中卷积层具有输入数据提取特征的功能，涵盖多个卷积核，完成提取后会进行选择与信息过滤，确保审核科学性。

3.3 人工智能

针对人工智能技术应用的算法，主要包括以下内容：

3.3.1 NLP算法模拟：能够利用自然语言理解技术和数据库实现对文本的分析，可通过上下文语境对一些辱骂性语言、色情性语言，以及涉及广告、暴力等语言进行识别。

3.3.2 人脸识别算法：根据脸部特征对视频中所包含的人脸进行识别，检测位置、器官大小等内容，实现快速身份识别，可对比人脸特征、分离背景以及信息保存，再利用卷积神经网络等算法提取、确认、生成结果。

3.3.3 语音合成算法：将给定的文字信息利用计算机进行处理，形成更为流畅、标准的语音，用于语音导航、虚拟主播、智能客服、后期配音等广电业务中。从技术上可以将其分为波形拼接合成算法、参数合成算法以及规则合成算法这几种。

3.3.4 OCR识别算法：可利用光学字符识别实现对报刊、数据、文稿等资料的扫描，并应用计算机输入技术将其转化为图像信息[3]。OCR识别需要采用深度学习、内容识别技术进行特征提取、加强以及边缘化优化，再进行文字校正。

4 特色优势、不足与展望

4.1 优势特色

目前来看，人工智能审核系统在广电行业中的应用越来越广泛，能够基本满足传统节目审核机制，对各种音频格式、视频内容、有元数据等进行技术审核，确保生产制作符合规定，服务于大众，还能根据不同业务场景需求和审核标准进行自定级检验。同时，利用智能识别算法能够代替90%的人工审核成本，有效提升管理效率。部分算法经过改进后识别精度更高，其优势还包括人脸识别率更高、功能实现全覆盖、审核播放器更加专业、框架模块化且便于接入，全链路内容更加安全。

4.2 不足与展望

结合人工智能审核系统在广电领域的应用实况来看，智能审核系统中仍存在一定功能改进与新功能开发的空间，例如劣迹艺人方面。目前针对艺人分类库部分仍需扩充和改进，可应用人脸识别功能建立分类和排序，能够自动实现分类关联，便于快速实现媒资库信息分类，审核员也会第一时间下架相关影视节目，避免造成一定播出事故。近年来，部分广电节目针对一些城市大屏展开严格审查，主要由于存在误播的情况，由此可见，加强AI智能识别技术十分关键，目前来看智能审核在广电领域的应用属于初步尝试，未来可不断落实应用并进一步发展，如AI内容推荐、AI视频修复等，实现技术、算法的再度创新。

5 结束语

综合来看，人工智能审核系统在广电领域的应用与当前行业形势和市场需求相适配，能够为广电受众提供更加精确、完美的服务。但在应用过程中发现，享受其便利的同时也存在一定的不足，需要积极优化相关技术，致力于加强媒体安全建设，创造更加和谐、健康的媒体环境。因此，在广电行业应用人工智能审核系统时，需要根据实际情况重点强调技术优化，配合相关审核机制，利用技术辅助，严格遵循“先审后播、重播重审、重播再审”的流程，全面维护广电行业发出内容的安全性、合规性。