新闻黑箱：智能化新闻生产与技术风险

努荣古丽·托合提

摘要：随着人工智能技术的发展，智能化已经是目前新闻业发展的重要趋势之一。但是智能化技术在改变着传播生态的同时，也将更多的新闻生产环节推入了“黑箱”之中，使新闻的生产过程处于人类的视线之外。由此带来的可能是新闻业的隐私风险、歧视风险与控制风险，这些风险将以一个更加隐秘的方式，加剧新闻业所面临的新闻伦理问题。

关键词：新闻黑箱 智能化 新闻生产 技术风险

在控制论中，通常把所不知的区域或系统称为“黑箱”，我们可以通过信息输入来实现对于黑箱的控制，但对于黑箱内部的全貌以及运行机制则无从得知。而在新闻领域中，“新闻黑箱”指的是新闻生产中“幕后的幕后”，即在智能化的新闻生产模式中，一系列的算法导致新闻的生产过程处于人们的视线之外，人类现有认知水平对其真实度、可信度、透明度难以判断的现象。

智能化技术的发展使得新闻生产出现了明显的黑箱化倾向，一个典型的例证是新华社的“媒体大脑”。“媒体大脑”是新华智云自主研发和落地的中国第一个媒体人工智能平台，由新华社和阿里巴巴合资打造。2017年12月26日，新华社在成都发布中国第一个媒体人工智能平台——“媒体大脑”。2018年12月27日，“媒体大脑”发布新版本“MAGIC短视频智能生产平台”，MAGIC的名字由MGC（机器生产内容）和AI（人工智能）组成。2019年8月26日，新华智云发布了25款最新的媒体机器人，包括协助新闻“采集”的机器人8款和协助新闻“处理”的机器人17款，结合之前已经拥有的“快笔小新”智能写作机器人、“AI合成主播”等技术，可以发现传统新闻生产的“采、写、编、播”的四个环节已经有不同程度的机器介入，甚至在某些环节上，机器已经完全可以取代人完成新闻生产过程中的种种工作。但是，媒体机器人在极大地提高了新闻生产效率的同时，也将新闻生产的更多环节推入了“黑箱”之中。并且算法这一概念本身具有文化内涵，即基于算法的决策常常被认为是理性、中立、高效、值得信赖的，因此，媒体机器人生产出的是“毋庸置疑”的内容，而真正的内容逻辑，则隐藏于重重算法之后，能够被人类观察到的，仅仅是新闻“是什么”，而新闻“为什么”的内容，则深陷黑箱的迷雾之中。

一、智能化新闻生产与数据伦理风险

智能化技术将媒介推入了万物皆媒的时代，“赛博人”的出现使得人成为了媒体重要的信息来源，用户的每一次点击，都会在物联网的服务器上留下“信息脚印”，成为庞大的物联网数据的一个组成部分，这种看似合理、隐秘的信息收集，在强迫式的“知情同意条款”下隐藏的是隐私归属权的风险。

毫无疑问，用户的隐私是用户的私人物品，而实际上，用户的海量隐私数据已经成为数据公司的“有形资产”，决定着其市场地位。在经济利益的驱动下，用户的隐私成为广告主追逐的对象，尽管用户接受了免费的信息服务，但是对于媒介而言，在继“二次售卖”之后，他们已经完成了对内容的“三次售卖”，即将版面出售给广告主后，再将用户的行为数据出售给数据公司。

此外，数据并不总是公正的，大数据是智能化时代的基础，但是釜底抽薪，“脏数据”所带来的数据风险可能也是智能化时代媒体所面临的最大风险。大数据的特征是“多、快、毛、糙”，这意味着大数据对于数据的来源缺乏控制，数据的质量自然也就良莠不齐。但智能化新闻将数据作为新闻生产的基础，数据来源一旦发生问题，产生的可能是披着客观外衣的不实新闻，甚至进而误导公众决策，带来严重的社会影响。

同时，大数据的采集也带来了数据伦理的问题，毫无疑问，用户数据属于用户，但在智能化技术的影响下，用户数据无一不暴露在技术的实现之下，数据技术公司可以获得用户数据的方法，远比用户保护自身数据的手段要多得多，也便捷得多。尽管目前我们通过“知情同意”的方法获得了用户的授权，但实际上用户数据的灰色地带还非常多，包括应用领域、使用范围，盈利模式等都有待于做出规定，而用户实际上丧失了对于自身数据的控制权，这种状况无疑与日益发展的社会文明背道而驰。

二、智能化新聞生产与算法歧视风险

算法与数据在智媒时代是相伴而生的，拥有了数据之后，算法便成为了新闻生产与分发领域的主导，但同数据一样，人为编写的算法如同新闻把关一样，不可能完全脱离现有社会观念的影响，在新闻媒介的长期培养作用下，算法的公正性其实如同新闻的客观性一样，仅仅是媒体的新闻理想而已。

1.算法的来源歧视。算法控制着媒体对于重要新闻的判断能力，影响着媒体的议事日程。目前算法已经可以对于新闻素材的重要程度做出一个初步的判断，记者将逐步不再自己出去寻找新闻，而是等待新闻被主动“推”到自己面前，这在改变新闻来源的同时，也转移了记者有限的注意力资源，使其集中在有限的领域之中，而对于更多的媒体视线之外的内容，将越来越缺乏关注。

但是，新闻的质量、媒体的分量都不仅仅是由新闻报道的数量决定的，深度报道给了新闻行业生存空间，而一篇高质量的深度报道，往往来源于一个普通的新闻事件，其深度是在记者一点点的挖掘中呈现出来的，需要缜密的思考，大量的调查，不是简单的算法可以替代的，他使原本处于人们视线之外隐藏的新闻暴露出来，不断拓宽着读者的视野，而算法显然不具备这种能力。

由此算法便会天然地对于热点新闻有更多的倾向，会更多地挖掘人们已经注意到甚至强烈关注的话题，而对更多的处于人们视线之外的新闻事件则会缺乏必要的关注，导致的可能是在媒体环境中，受关注群体受到更多关注，而不受关注者日益消失于媒体的视线之外，从而形成新的“沉默的螺旋”。对于热点事件、热门议题的过多关注，则会使得媒体世界越来越偏离现实世界，形成一种畸形的媒体环境。

2.算法的分发歧视。算法依据统一的标准为用户提供他们感兴趣的内容，这也是算法推送新闻引以为傲的公正之处。但是，实际上由于各种智能化技术的发展，算法推送的内容已经不仅仅依据单纯的受众偏爱，而是会依据更多的要素，如人口统计学的年龄、性别，经济学上的收入状况等，都会影响到用户接收的推送内容，就如同微信会为不同的用户推送不同的广告一样。

实际上按照各种人口统计学原则进行推送的算法已经背离了算法公正的初衷，在傳播内容上，研究也表明，具有重要性、冲突性以及流行度的内容更容易通过算法筛选过程、进入用户视野并优先得到传播。狭义上的算法歧视指的是错误的“刻板印象”由算法“转译”形成的一种歧视，目前的算法分发高度依赖于精准的用户画像，算法根据用户的浏览记录等推送相关的信息，非常容易陷入算法歧视之中，如给女性会推送更多的减肥、美容、生活内容，而给男性推送更多的政治、经济类内容，给经济地位高者推送更多的严肃新闻等，都表现出了算法歧视的色彩。

三、“媒体大脑”与新闻流程控制风险

媒介从来都不是单独存在的，它受到各种社会力量的制约也影响着整个社会，对于其作用的考察也应该放在更加宏观的社会视角之下。同样的特征也表现在媒体的智能化技术上，智能化技术不是单独存在的，而是对于新闻的全流程重塑，当智能媒体形成“媒体大脑”时，它能产生比单一技术更大的社会影响力。

智能化技术的核心是算法和自动化的运行，未来媒体生产的全流程都会处于算法的控制之下。但是算法有着非常高的技术门槛，也是媒体的商业机密，因此我们很难考察媒体的算法逻辑，也很难通过法律法规实现对于算法的有效约束。同时，算法的出现带有明显的商业性特征，这使得算法遵循的原则不是任何一种现有的控制理论，而是利益原则，盈利是算法的最终目标，我们很难用现有的道德标准、法律手段去约束算法的运行。

但是，“媒体大脑”的出现势必会弱化人在新闻生产流程中的作用，智能化新闻采集筛选使得新闻的来源进入了黑箱之中，智能写作机器人使得新闻内容的生产进入了黑箱之中，AI合成主播与算法推荐机制使得新闻分发也进入了黑箱之中，人的把关几近消失。这导致的是算法成为了传播过程的真正控制者。但前文已经讨论过，算法并不意味着绝对的客观公正，但它披着客观公正的外衣，使得我们将算法生产的内容当做一种真正客观的内容去对待，这无疑是由算法构筑的新型拟态环境。

在“媒体大脑”的控制下，未来真正的新闻生产者将不是新闻行业的从业者，如记者、编辑等，而是程序员，新闻生产的主体一旦发生变化，新闻的专业主义也就无从谈起，缺乏长时间新闻道德新闻观念的熏陶，我们很难相信算法能够扮演好培育社会共识的领路人这一重要角色。

四、技术属性与人性的平衡是未来媒介的重要命题

可以预见的是，随着智能化技术的进一步成熟，任何媒体都没有办法拒绝智能化技术对于媒体生产流程的重塑，这就如我们刚刚经历过的移动互联网对媒体业的重构一样，这种趋势既是技术发展的必然，也是媒介发展的必然，拒绝变革，等于断送媒体的未来。甚至就像媒体纷纷进入移动互联网的大潮中一样，谁先进入、谁先变革、谁变革得更彻底，就越能在媒体的竞争中占据高地。

但正如我们在移动互联网时代也要坚守新闻专业主义、坚守生产优质内容的信仰一样，媒体的智能化过程不是把新闻交给机器的过程，而是重新发现人的主体性的过程，人在未来信息生产中的重要程度，取决于其对那些不可替代的角色的认知与实现程度。如何在智能化媒介环境中坚持人的主体性地位，不盲从于机器而是继续以人性的关怀看待新闻生产传播的全流程，可能是未来任何一家媒体都需要思考的问题。而在未来，机器的生产能力大同小异，媒体能在多大程度上发挥人的特征，可能是一家媒体塑造形象，占领市场的制胜之道。

作者单位 新疆大学法学院、国家知识产权培训（新疆）基地

本文系2018年国家社科基金重点项目“知识产权独立成编立法问题研究”（项目编号：18AFX021）研究成果。

参考文献

[1]陈昌凤，师文.智能化新闻核查技术：算法、逻辑与局限[J].新闻大学，2018（06）.

[2]仇筠茜，陈昌凤.基于人工智能与算法新闻透明度的“黑箱”打开方式选择[J].郑州大学学报（哲学社会科学版），2018（05）.

[3]张淑玲.破解黑箱：智媒时代的算法权力规制与透明实现机制[J].中国出版，2018（07）.

[4]陈昌凤，霍婕.权力迁移与人本精神：算法式新闻分发的技术伦理[J].新闻与写作，2018（01）.

[5]王茜.打开算法分发的“黑箱”——基于今日头条新闻推送的量化研究[J].新闻记者，2017（09）.