短视频内容失范的算法治理逻辑及路径优化*

刘俊亭

(西北农林科技大学 人文社会发展学院，陕西 咸阳 712100)

0 引言

随着新兴互联网技术的应用与普及，移动短视频平台得以蓬勃发展，得到了受众的广泛青睐。根据中国互联网络信息中心(CNNIC)发布的第49次《中国互联网络发展状况统计报告》，截至2021年12月短视频用户规模达9.34亿，人均单日使用时长已超越即时通信软件，达到125分钟，成为占据人们网络时间最长的行业。然而短视频以其丰富的内容满足用户精神需求的同时，也存在泥沙俱下的问题，内容失范乱象频发，“小红书推送未成年人性暗示短视频”“腾讯视频起诉抖音《扫黑风暴》侵权案并索赔1亿元”等事件频频将短视频内容治理的讨论推向公众视野。2022年4月至7月期间，中央网信办牵头开展的整治短视频领域乱象专项行动共清理违规短视频235.1万条。短视频平台成为了滋生低俗淫秽、著作权侵害等失范内容的温床，对网络内容生态和社会和谐稳定造成了负面影响[1]。这一现象不仅引起了网信部门和短视频平台对内容失范治理的关注，同时也引起了学界的关切。

国内对短视频失范内容治理的研究大多从著作权保护切入，对失范内容的侵权认定规则予以阐述，缺少从技术逻辑出发的思路。而近年来在互联网治理领域时兴的算法治理命题可以作为研究短视频失范内容治理的新思路，学界就算法治理已开展了充分的探讨，在肯定算法治理能够提高治理能力和效率的同时，也指出算法治理问题具有高度的特殊性和复杂性，在推进过程中还面临短期无法克服的局限，需要将监管部门、企业及公众等社会主体纳入到算法治理共同体中，共同应对算法风险挑战[2]。

1 短视频内容失范治理现状

党的十八大以来，网络内容治理的战略高度不断提高，习近平总书记指出：“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益；网络空间乌烟瘴气、生态恶化，不符合人民利益。 ”短视频虽短，但监管不能“短”[3]，如何在短视频内容上激浊扬清、营造良好网络生态，需要在治理方面持续探索。当前，短视频平台内容失范治理呈现运动式治理和制度化治理并进的特征，而算法作为平台运行的底层逻辑，要实现网络内容治理的目标，算法治理不可或缺。

1.1 运动式治理

自2013年全国宣传思想工作会议召开后，“清朗”“净网”等系列专项行动作为内容治理的常规手段，为打击违法不良信息、营造风清气正的网络空间发挥了重要作用[4]。为清理短视频领域的失范内容，中央网信办、国家广播电视总局等部门陆续开展专项行动(如表1所示)，对短视频失范内容采取集中治理模式。2022年，中央网信办等三部门开展的“清朗·整治网络直播、短视频领域乱象”专项行动，集中整治“色、丑、怪、假、俗、赌”等各类失范内容，共清理违规短视频235.1万条，关闭违规用户账号12万个。

表1 短视频失范内容治理专项行动

与制度化治理相比，作为运动式治理的“清朗”行动能够在短时间调动行政资源推动政策实施，具有指向性强、治理效果立竿见影等优势。然而，这种“飓风式”的治理手段只能解燃眉之急，长期效果将日渐式微，而且在实践中往往需要统筹跨层级、跨部门的行政力量才能顺利开展工作，不可避免存在协调不良、行政资源浪费、权力寻租等问题。因此，对短视频领域失范内容开展的运动式治理，其定位仅是制度建设相对欠缺情况下的临时性、补强性举措。

1.2 制度化治理

伴随着抖音、快手等短视频头部平台的基础设施属性日益增强，围绕短视频发展涌现的现实问题，强化制度建设，制定和完善相关法律法规(如表2所示)，并将算法治理纳入制度化治理常效机制中，将成为未来平台治理的常态。网信部门的机构改革以及《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等法律法规的相继出台，体现出当前国家在网络内容治理的制度化建设成效。其中，《网络信息内容生态治理规定》对鼓励传播的信息、违法与不良信息逐条列明，并明确了政府、企业、社会、网民等主体多元参与协同共治的治理模式。具体到短视频平台层面，国家为推动短视频行业健康有序发展，密集出台《中华人民共和国广播电视法(征求意见稿)》《网络短视频平台管理规范》《网络短视频内容审核标准细则》等法律法规和规范性文件，细化短视频审核标准，标志着我国短视频内容的制度化治理渐趋完善[5]。

表2 短视频失范内容治理相关文件

在网信部门的主动监管和立法部门制度规制相继出台所形成的治理合力下，短视频内容中的失范乱象得以有效遏制。但从治理链条来看，“清朗”系列行动和《网络信息内容生态治理规定》仍属于事中与事后监管，治理节点滞后，在事前监管方面仍存在不足，具体表现为治理手段无法介入到失范内容的生产和流通环节中，这与监管部门对平台算法的介入不足不无关系。

2021年12月31日，中央网信办等四部门联合发布《互联网信息服务算法推荐管理规定》，回应了平台治理过程中的算法治理缺位问题。该规定强调网信部门负责统筹算法推荐服务的治理和监督工作，并明确提出“算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理机制，建立健全用于识别违法和不良信息的特征库，发现违法和不良信息的，应当采取相应的处置措施”。这表明在网络内容治理领域，一方面监管部门介入平台运行的技术逻辑，并将算法治理纳入到制度化治理长效机制中；另一方面，压实短视频等互联网平台算法安全主体责任，倒逼平台采取措施助力算法治理落地落实。

2 短视频内容失范算法治理的逻辑

近年来，短视频进入“强监管”阶段，短视频的技术面纱逐渐揭开，国家将监管的链条延伸至短视频平台运行的底层逻辑。为构筑良性内容生态、践行算法治理主体责任，短视频平台依托算法技术逐步建立健全敏感词网络数据库、违规内容数据库等审核平台。通过分析发现，短视频平台在内容失范治理中，主要存在依托算法介入失范内容生产环节的内部治理逻辑，以及依托算法介入失范内容流通环节的外部治理逻辑两种方式[6]。

2.1 失范内容生产环节治理

短视频平台作为网络服务提供者，对用户上传至其服务器的内容负有主体责任和注意义务，然而大数据时代是一个“信息富裕而注意力稀缺”的时代，平台审核团队难以应对海量内容涌入带来的挑战，这为实行算法审核提供了契机。平台方需要转变传统审核方式，将有限的注意力投入到建立内容审核算法模型中，构建影视作品二次创作版权数据库，依托算法将短视频关键词、视频画面、图文等信息特征与平台数据库进行比对，审核用户发布的短视频是否存在淫秽低俗等违规内容以及是否超出平台所购买的影视作品版权范围，如果疑似存在，就会被算法拦截，通过飘黄、标红或者显示不健康指数等提示人工审核员注意。

在实践中，短视频平台普遍采取的是先设计出一套有较高识别准确率的审核算法，在深度学习技术的加持下不断更新失范内容数据库，进而提高算法审核水平。如抖音开发的“灵犬”反低俗助手能够有效识别短视频中低俗信息，对于用户上传的短视频，“灵犬”在完成关键词提取、视频分割成帧、图像识别、声纹分析等审核步骤后即可检测出视频内容的健康指数，整体识别准确率可达到75%。百度开发的短视频审核API技术则是通过将短视频内容的标题、简介、视频帧、音频进行统一把关，将视频内容与海量历史数据库进行检测对比,被过滤出来的低俗淫秽、版权侵害等失范内容将提交人工审核，目前该内容审核模型的准确率高达96%以上。

2.2 失范内容流通环节治理

短视频平台作为开放性平台，其内容传播边界和场景不受时空限制，因此依托算法技术对短视频流通环节把关显得尤为重要[7]。当通过生产环节审核进入流通环节后，短视频不会立即进入算法大规模推荐阶段，首先要进入冷启动流量池曝光，意味着短视频内容会经历小规模用户的观看检验。在这个过程中，如果没能得到足够的正面用户反馈(点赞、收藏、转发或者完播率)，或者收到投诉举报内容涉嫌违规、侵犯著作权等负面用户反馈，算法就会对该短视频内容进行人工复核，并进一步作出限流、降低内容推荐流量或者删除短视频内容的举措。在实践中，失范内容的发布主体较为集中，往往是基于一个“IP”地址登录不同账号发布失范内容，因此可以对失范内容进行溯源，对有该“前科”的发布者降权处理或者封禁。

3 短视频内容失范算法治理的局限

在算法技术的加持下，平台在整治内容生态方面颇有成效，较之前野蛮生长的现象已有明显改观。但囿于算法技术的“双刃剑”特性，算法治理仍有滑向“技术利维坦”的潜在风险[8]，即短视频平台在流量思维驱使下鼓励失范内容传播，以及弱人工智能时代的算法技术同算法治理需求相比还存在一定差距。鉴于此，需要对算法治理的局限进行理性分析。

3.1 流量思维鼓励失范内容

短视频平台失范内容丛生，并不是由于上传者利用高明的技术破解了平台上传限制，而在于失范内容往往自带话题，能够将流量引入平台，这契合了短视频平台的商业逻辑，即流量思维。如前所述，短视频的算法推荐逻辑强调用户的正面反馈，包括点赞、收藏、转发等操作。在实践中，蹭时下热播影视作品流量二次剪辑或者打性暗示擦边球的作品往往更能夺人眼球，短时间能收获用户的大量点击，从而为平台带来流量红利。受流量思维的驱使，短视频平台开发者设计产品之初是希望通过短视频传播这一途径吸纳用户流量，进而实现流量变现，因此需要警惕算法逻辑背后的流量至上思维。

3.2 技术供给掣肘算法治理

虽然人工智能已经在某些领域崭露头角，但目前仍处于弱人工智能时代，只能依据算法命令处理具体工作，为平台提供经过数据库验证、符合失范内容逻辑分析的结果，尚缺乏独立的判断思维，很难感知到更为深层次的人类感情。然而短视频的内容识别极其复杂，即使是人类自己也没有放之四海而皆准的判断标准，需要结合当事人的专业知识、社会经验以及具体话题语境等多方面因素予以衡量，比如算法会将短视频内容中出现裸身油画默认为失范内容，而非艺术品。短视频平台构建内容审核模型来甄别失范内容实属不易，通过深度学习技术将复杂的视频内容纳入技术处理框架之路依旧漫长，因此需要持续推进短视频深度学习技术，为算法治理提供更为先进的技术供给。

4 优化路径：构建多元主体的协同治理模式

“算法治理”为短视频平台失范内容治理提供了新范式，其高效的技术机制能够批量监测、识别、清理用户上传的失范内容，但算法不是全能的，还存在短期内难以克服的“利维坦”局限，只依靠算法治理失范内容难免有失偏颇。与此同时，还需破除“信息茧房”对构建良性内容生态的影响。因此，在推进短视频算法治理过程中，需要政府部门、平台方、用户等不同社会主体各尽其能、协同发力[9]。

4.1 政府加强算法备案审查，压实平台法律责任

算法治理离不开政府的引导和制度的保障，因此在推进治理过程中，政府应当运用法治方式规范算法应用，加强对算法技术的备案审查，让主流价值导向始终驾驭算法，并推行算法全生命周期问责机制，确保平台落实算法主体责任。具体而言，监管部门应当严格遵循算法备案程序，事先对短视频的算法设计进行评估、审查，纠正其潜在缺陷，并在实际运营中加强对算法技术的监督，让算法“黑箱”始终处于阳光之下。同时，要严格落实短视频平台的法律责任，形成全周期监管问责机制，倒逼平台采取措施严把内容关，真正做到“平台审核预防，政府监管处罚”[10]。

4.2 短视频平台承担研发与合作的主体责任

构筑良性内容生态，短视频平台理应有所作为，积极承担主体责任和社会责任。一方面，短视频平台作为失范内容传播的载体，应当从平台算法技术研发切入。在算法技术设计之初就将技术带来的社会效益和风险纳入论证考虑，并在实际运营过程中不断优化算法设计，积极防范风险，反思算法推荐技术可能带来的技术伦理问题，避免唯经济利益至上。另一方面，打破零和博弈思想，携手相关方联合应对内容失范问题。在推进短视频算法治理的过程中，单独依靠某一个企业很难达到治理预期，需要行业、企业实现失范内容数据库的互联互通，打破壁垒、加深合作、共同发力。

4.3 发挥用户端闭环式监督的功能

用户端是传播的目标也是重要节点。在算法时代，单个用户在短视频平台的发挥的作用看似微小，但汇聚起来将成为推动短视频内容治理的重要力量。在弱人工智能背景下，一方面可以通过用户体验闭环监控体系，助推失范内容深度学习机制，当用户对某一内容选择“不感兴趣”或者“一键举报”等负面反馈时，就会增加算法对失范内容的认知程度，从而提升闭环式监督实效。另一方面，通过“黑板报”等形式提升用户媒介素养和算法素养，教育用户不主动发布低俗淫秽内容、不侵犯著作权搬运影视作品，自觉遵守用户协议。

5 结论

未来，随着短视频用户数量和内容数量的快速增长，内容审核的挑战将会日趋严峻。“用户生产内容”的开放式传播方式的特征决定了平台在应对海量内容审核时必须以算法技术为依托，方能实现对用户上传的内容进行批量、自动化的鉴别和处理。然而，推进短视频算法治理的过程中还面临流量思维、信息茧房、技术伦理等短期无法克服的局限，需要政府、短视频平台、用户三方协同配合，依托算法技术形成治理合力。