人工智能时代个性化新闻推荐的风险及规避策略

◎陶贤都 胡梓露

（湖南大学新闻传播与影视艺术学院 湖南 长沙 410082；厦门大学新闻传播学院 福建 厦门 361005）

人工智能技术，从20世纪50年代概念的提出到21世纪的大爆发，已经渗透到包括新闻传播的诸多领域。依靠技术助力以及当前用户本位的传播理念，个性化新闻推荐愈来愈受到青睐，国内外以个性化新闻推荐为特色的新闻客户端也纷纷涌现。为用户“量体裁衣”，打造具有个性化体验的新闻已成为潮流与趋势。个性化推荐新闻被普遍使用的时候，随之也衍生了法律与伦理问题。本文结合国内外具体案例，分析依托人工智能技术的个性化推荐在新闻领域的具体应用，剖析存在的风险，并提出规避风险的策略。

一、人工智能时代个性化新闻推荐的盛行

个性化推荐功能已然融入了新闻传播领域，成为媒体信息分发的重要方式。传统媒体占据优势地位的时期，个性化新闻生产成本较高，但是随着“魔弹理论”逐渐向受众中心论观念转变，受众的需求得到新闻媒体的日益重视，一些个性化服务的举措也逐渐被采纳和运用，例如大部分报纸会采取版面分类的方式，电视会采取频道分类的方式。但随着人工智能、互联网技术给新闻传播领域带来不断的革新与改变，“长尾”内容被激活的成本大大降低，更为方便、快捷，更适合受众碎片化阅读的聚合类新闻APP出现，成为个性化智能推荐崭露头角的舞台。

除了新闻资讯类客户端，还有一些通过提供人工智能新闻推荐技术来与媒体方进行合作的技术类平台，也专注于个性化推荐服务。如智搜（Giiso）可提供无须人工编辑和运营的智能化资讯频道定制服务，它可以通过人工智能语义技术自动生成内容资讯，凭借用户画像为用户定制个人热点资讯以及主题追踪阅读服务，还可以自我学习持续进化。目前智搜已投入到了多家媒体的实践应用中，合作方有广州日报、南方报业和深圳之窗等。

在国外，首先由社交类APP掀起个性化推荐热浪，Facebook网页版最早于2006年推出了News Feed页面，开启了用户随时共享好友、实时更新的新推荐方式，经多次改进，该推荐功能成为风靡于社交平台的主流信息呈现模式。随后，各类新闻信息类APP也都开始采用此类方式，并不断地加以完善，形成了个性化新闻推荐技术。现今，日本的Smart News、美国的News Republic和印度的Dailyhunt等都是典型的个性化新闻推荐。此外，一些西方主流媒体也竞相借鉴、引用与自主研发，如《纽约时报》《卫报》等都已采用个性化推荐技术，且技术的成熟度与先进度居于世界前列。

二、人工智能时代个性化新闻推荐的风险

个性化新闻推荐技术将计算机科学和新闻学相结合，为新闻资讯生产者提供高效的生产模式。目前将人工智能技术运用到个性化推荐中最具有代表性的新闻媒体应属聚合类新闻技术平台，我们以其为主要分析对象，从技术、个体和社会三个层面，分析人工智能时代个性化新闻推荐的风险。

（一）技术层面

个性化新闻推荐在技术层面的问题，主要包括算法自身所存在结构性缺陷以及机器学习所使用的“黑箱式”操作等。

1.人工智能缺乏人类的情感态度和价值判断

人工智能推荐与人工推荐最大的区别是，它没有人类思维的度量与把控，其算法本身的结构性缺陷难以用技术来弥补，容易行走在法律和伦理的边缘地带。例如对新闻内容进行审核时，人工审核的编辑基于经验经历、专业素养对新闻进行把关，除了新闻事实层面的审核，在价值层面也会进行严格筛查；不仅考察新闻的真实性等客观因素，而且对其所包含的人文情怀也会有所度量。

现阶段，为用户提供个性化新闻推荐的人工智能依赖于算法机制，由于机器运作与人类思维的差异，难以理解复杂逻辑关系；单纯依靠机器来判断信息本身的新闻虽然使得衡量标准变得可量化，但是在专业度、公信力和认可度等方面都难以达到人工审核的水准，因而存在着诸多风险。

2.“黑箱式”机器学习难以解释个性化推荐原因

人工智能技术有利于发掘用户的潜在兴趣，拓宽用户的视野，降低信息的封闭程度，但它的透明度与可解释性成为一大问题。在用户相似度评估此类问题上，过去机器进行算法的学习往往是凭借人工提取特征并进行监督；但如今随着数据量的增加以及对用户特征识别的精细化程度的要求提高，传统算法逐渐被淘汰，“黑箱式”机器深度学习开始广泛应用于聚类问题。它将数据分到若干簇中，通过大量的计算提高同簇数据的相似性以及不同簇数据的相异性，并通过不断地自我修正来实现数据的切割处理[1]。

在此过程中，人类无法设置机器分簇的类别，尽管其最终效果表现优良，但其方法依据的意义人们往往不得而知。人们在阅读新闻时只知道该新闻被推荐是因为和阅读该内容的用户有“相似品味”，但具体怎么解释则难以说明。用户无法知晓推荐理由，把阅读内容的控制权交予了“黑箱式”操作的机器算法，从某种伦理角度来说，用户成为技术操纵下的被支配方。

（二）个体层面

从个体层面来看，目前人工智能个性化新闻推荐服务最普遍也最成熟的是聚合类新闻平台。以聚合类新闻平台为例，探讨人工智能个性化新闻推荐对新闻媒体和对新闻用户的负面影响。

人工智能个性化新闻推荐对新闻媒体的负面影响不容忽视。聚合类新闻APP的新闻内容多来源于新闻媒体，通过对新闻资讯的“搬运”、聚合和呈现而提供服务。个性化新闻推荐过程中导致新闻的生产与分发环节产生分裂，原属于新闻媒体的议程设置权利被让渡，技术平台成为内容分发的主体并承担起把关责任，由于其较弱的社会属性而往往容易产生一些问题。人工智能个性化新闻推荐凭借技术直接“搬运”新闻媒体的内容即可获利，这种状况不利于媒体在内容创作方面进行竞争，导致媒体创作市场的活力大幅度降低。在新闻推荐这一环节，过去由媒体从业人士进行新闻的分发，而个性化智能推荐则对这一关系格局产生了影响，“去中心化”的新闻推荐模式成为主流。与一般新闻媒体的人工把关不同，聚合类新闻APP往往依赖算法，通常会采用敏感关键词过滤、用户举报等多种综合方式来对新闻进行把关。由于目前基于内容的推荐算法大多是将新闻进行标签化，每则新闻资讯被简单的归类为一些关键词的交叉组合，新闻文本所包含的语言细节、价值取向往往被忽略，形成鱼龙混杂、质量参差不齐的局面。

对于个性化新闻推荐服务的使用方新闻用户而言，聚合类新闻技术平台也存在推荐机制不完善，个性化程度不够，推荐精准度有待提高，用户个性化体验欠佳等问题。现阶段的算法仍难以处理高复杂度语义的新闻文本，而市场上许多APP标榜的“精准智能的个性化服务”也往往吹捧过高，与现实不符；部分用户在实际体验中会对其推荐精准度和人性化程度产生落差感，从而造成“人工智能”噱头的效应。另外，个性化新闻推荐存在着侵犯用户隐私的风险。个性化新闻推荐易造成信息遮蔽，易导致用户视野狭窄化。

（三）社会层面

从社会层面而言，人工智能个性化新闻推荐对社会网络存在一定的影响，主要表现为放大社会网络差异，影响社会网络结构；此外，若对人工智能个性化新闻推荐技术所处地位的定位不合理，对其盲目崇拜与依赖极有可能造成机器异化问题。

人工智能个性化新闻推荐的应用存在放大社会网络差异、影响社会网络结构的风险。人工智能个性化新闻推荐存在的社会性问题，最明显的是扩大信息鸿沟。当新闻资讯类APP推送给用户信息时，由于用户之间的年龄、受教育程度、社交水平等各不相同，他们在选择各类新闻资讯时会出现分层的现象，例如年龄较长者会更倾向于严肃类的政治、财经新闻，年龄较轻者会更倾向于轻松类的娱乐新闻。由于用户与用户之间存在的知识水平、使用习惯和选择偏好这些差异，在信息流向不均的情况下，偏好信息含量较多的内容的“信息富有者”与偏好信息含量较少的内容的“信息贫穷者”之间的鸿沟将会越来越大，进一步放大社会网络差异，从而影响社会网络结构的稳定。

作为一种广受欢迎的技术力量，人工智能时代赋予了个性化新闻推荐同样存在异化的可能性。根据Trustdata数据显示，在社交应用中，新闻资讯类应用日均启动次数排名位居第三，日均使用时长16分钟，高于音视频等应用[2]。如今，新闻资讯类移动客户端已成为人们掌握资讯、汲取知识和休闲消遣的一大重要途径。今日头条创始人张一鸣称，截至2019年4月底其已经拥有总计66亿的激活用户，其中活跃用户达1.4亿，每天每个用户的平均使用时长达76分钟[3]。这样一个巨大的流量平台，背后汇聚着无数用户的时间和注意力。打开聚合类新闻APP，享受一条又一条刺激耳目的新闻资讯划过眼前的阅读快感，有些用户不知不觉便深陷其中，形成“沉浸式依赖”，这种现象不仅发生在新闻资讯领域，在其他领域如短视频领域更是屡见不鲜。技术本应服务于人，当其摆脱工具性特征成为一种独立于人的存在物，反过来压制人和束缚人，就形成了异化的现象；若机器异化不能引起人们的重视，则可能进一步影响人的异化[4]。当用户沉浸在机器推荐的个性化新闻中无法自拔时，时间和精力被大幅度消耗，造成“媒介沉迷”，将影响个人的正常生活状态，影响受众的独立思考能力。

三、个性化新闻推荐风险的规避策略

技术对传媒的推动作用是无法衡量的，但技术并非为媒介进步的“永动机”，技术的革新可能会给传媒领域带来巨大冲击和风险。人工智能个性化新闻推荐作为一种近年来倍受欢迎的新闻分发模式，也难以避免存在技术风险、对个体的风险以及社会风险，针对这些风险，可以从以下方面来进行规避和治理。

（一）新闻媒体：对症下药，多措并举

传媒领域技术革新，风险都如影随形，面对人工智能个性化新闻推荐可能出现的风险，新闻媒体可采取多种措施对症下药。

针对技术层面的问题，新闻媒体需优化个性化智能推荐技术，在提高推荐精准度的同时也要避免信息面“窄化”问题和报道失衡问题。当前人工智能水平处于“弱人工智能”的阶段，距离拥有人类的抽象思维、理解复杂概念和从经验中学习的能力的“强人工智能”还甚远，媒体应不断加入技术研发的投入以改善算法机制，提高信息分发的精准度。例如，美国的一款名为“余震”的新闻APP，将地质信息和用户的地理位置数据结合起来从而大大提高了相关信息分发的精准度。“余震”新闻APP由俄勒冈公共广播公司（OPB）开发，在采集用户所在区域的邮编和街道号信息的基础上，能够根据当地的地质局提供的监测数据，为用户实时提供差异化、个体化的地震预警报告。

在优化技术精准度的同时，媒体应弥补个性化新闻推荐存在的伦理缺陷，避免信息“窄化”和报道价值失守问题。针对“信息茧房”类问题，一些新的个性化推荐技术对传统的推荐技术进行了优化，挖掘用户的深层次需求，拓宽用户的兴趣面。另外，在进行新闻推荐时，媒体可考虑采用个性化推荐为主要模式，辅之以共性化推荐，以此凝聚社会共识，防止极群化现象的发生。针对人工智能把关在价值观上失守的问题，新闻媒介应该加强内容审核把关与人机协作。人工智能审核与人工审核各有其优势所在，若只依靠前者则容易造成把关局面的失控，而倚重后者不仅效率颇低。所以，媒体应注重“人机协作”，通过人工智能来辅助人工审核对新闻的内容质量、真伪和专业度的把控，同时媒介从业者应该充分尊重事实，在前者的基础上对新闻推荐内容进行进一步的编辑与选择。例如，今日头条对其审核机制进行了优化，针对网络暴力评论的识别这一环节，其将人工智能的审核分为了“非常有把握”和“比较有把握”两类，前者放入折叠区以作警示，后者采取自见方式以避免骚扰，最后再通过用户反馈和审核人员审核之后才予以放出。此外，2018年3月底今日头条还上新了国内首款AI反低俗小程序——“灵犬系统”，它能检测出所输内容的质量指数，并提供鉴定结果。该年5月份升级后，其准确率得到了很大的提升。

针对侵权问题，媒体应加强责任意识，及时了解法律界相关动态，避开法律法规的盲区。近年来，与知识产权、隐私权等相关的法律条文也在不断完善中，媒体稍有不慎便会触及红线，聚合类新闻客户端被约谈的例子很多，所以，新闻媒体应该积极开展相应的举措来应对风险。媒体应提高版权意识，负责内容分发的新闻技术平台可以通过与进行内容生产的媒体方进行更为密切的合作，制定更为细致而精确的条约与合同来解决版权纠纷问题。媒体应充分尊重用户的个人信息和隐私，完善用户协议和隐私政策。在用户开始使用服务时以公开透明的方式告知用户，面对大多数用户并未查看协议内容而直接勾选同意这类问题，媒体可优化隐私协议展示界面，采用图文并茂等更为生动形象的方式来解释协议内容，以引起用户的重视，增进用户对其的理解程度。在用户隐私保护环节，媒体应坚守原则，不轻易泄露用户信息，同时更新技术以防止用户信息被盗取，微软和英特尔近年在合作一项被称为“隐私计算”的项目，可在数据传输、储存以及运算的过程中对其进行有效加密。

（二）法律：高度重视，与时俱进

不单是新闻资讯领域，音乐电台、电子商务、视频网站和社交网络等诸多领域近年来都开始普遍运用个性化智能推荐技术。面对这股热潮，为防止可能过度而引发“风暴”，国家相关机构应该重视这方面的严格审查与规范。2018年我国实施的《信息安全技术个人信息安全规范》，对“个性化展示”等相关技术做出了详细的规定，即是一个明显的趋势。《规范》提到，平台不得强迫用户接受个人信息收集的请求。平台要有显著的文字样式标明“个性化展示”，且用户对其个性化展示程度可自定义调节。平台不得干涉用户做出退出个性化展示的选择。此外，该规范还提到开展技术检测的必要，平台若有第三方介入收集用户个人信息，宜对其行为进行审计，以防止其超出规定。《规范》中的以上内容对个性化新闻推荐作出了比以往更为细致的规定，但面对层出不穷、相差迥异的个案，相关部门应予以高度重视，继续完善规范。

不仅是隐私权，在知识产权等其他方面可能涉及的法律纠纷，相关部门都应该制定相应的法律法规，跟进人工智能个性化新闻推荐现实发展进度，尽快将边缘化、细节化的地方加以完善，提高精细化程度，以应对技术飞速发展下出现的法律纠葛与案件。

（三）用户：提高素养，合理使用

用户应努力培养和提升媒介素养，避免因个性化新闻推荐导致信息获取的片面化与观点的极端化。在浏览个性化新闻时，用户应该提升自我的把控能力，理性判断和独立思考，不能受制于算法推荐这一单一固化渠道。用户在阅读新闻事件时，应保持观点和思维的理性，以全面、客观的态度来衡量一则新闻，不应陷于片面化视角导致思想藩篱。此外，用户还应对已浏览和收藏内容定期进行管理和拓展，翻新知识，调整固化的思维模式，多接触各类新闻资讯类平台，拓宽资讯获取的渠道。

用户应合理安排个人时间，有规划地利用媒介资源和平台，防止过度依赖个性化推荐算法“阅读成瘾”而导致沉迷。快节奏生活中，为追求效益的最大化，用户快速阅读、碎片化阅读成为流行趋势，图片、音频和视频逐渐取代文字这一传统媒介符号，感官与直觉的冲击带来的快感易使用户将文字蕴含的理性与冷静抛之脑后，殊不知，有时候一百篇快餐式资讯却远不及一篇深度报道发人深省。在享受个性化新闻推荐功能时。用户对时间和精力的消耗应把控有度，可以同时尝试不同类型的媒介，体验不同频道的新闻报道，避免新闻接收的单一性。

用户在使用新闻媒介提供的个性化推荐功能时，还应注意个人信息的保护，重视个人的隐私权。在使用相关APP前，应细致并全面地阅读与个人信息获取相关的协议，对平台或者第三方的信息盗取和滥用行为保持警惕，加强自我保护意识；同时应了解相关法律，对自身隐私权被侵犯的现象，应及时采取维权措施。