哈佛大学肯尼迪政治学院：打击假新闻的研究议程与行动方针(编译)

方师师译

（上海社会科学院新闻研究所，上海 徐汇 200235）

哈佛大学肯尼迪政治学院：打击假新闻的研究议程与行动方针(编译)

方师师译

（上海社会科学院新闻研究所，上海 徐汇 200235）

2017年5月，哈佛大学肯尼迪政治学院媒介、政治与公共政策中心发布《打击假新闻：研究议程与行动方针》的研究报告。该报告分为四个部分：第一部分描述了当前媒体生态系统中错误信息的传播状态；第二部分概览了关于假新闻的心理学与社会系统传播的研究；第三部分讨论了学术界针对假新闻可以采取的三种行动方针；最后预测了将来可能会提高我们处理错误信息能力的研究领域。

假新闻；错误信息；研究；行动

2017年5月，哈佛大学肯尼迪政治学院媒介政治与公共政策中心（Shorenstein Center on Media, Politics and Public Policy）、民主治理与创新中心（Ash Center for Democratic Governance and Innovation），东北大学NU实验室（NULab for texts, Maps and Networks）、网络科学研究所（Network Science Institute）联合发布了《打击假新闻：研究议程与行动方针》（Combating Fake News： An Agenda for Research and Action）研究报告。该报告主要基于2017年2月由哈佛大学和东北大学联合筹备的研讨会成果，集中体现了当前美国主流学界、媒体、研究机构对于假新闻问题的前沿研究、核心观点和未来方向。参加此次会议的研讨阵容堪称豪华，一批耳熟能详且卓有影响力的学者、记者、官员以及相关互联网公司负责人均出现在名单当中。具体如下：

尤查•本克勒（Yochai Benkler，哈佛大学），亚当•贝林斯基（Adam Berinsky，麻省理工），海伦•博登（Helen Boaden，BBC），凯瑟琳•布朗（Katherine Brown，对外关系委员会），凯利•格林希尔（Kelly Greenhill，塔夫茨大学与哈佛大学），大卫•拉兹（David Lazer，东北大学），菲利波•梅切尔（Filippo Menczer，印第安纳大学），米里亚姆•梅茨格（Miriam Metzger，加州圣巴巴拉分校），布兰登•尼汉（Brendan Nyhan，达特茅斯学院），埃利•帕理泽（Eli Pariser，UpWorthy网站），戈登•彭尼科克（Gordon Pennycook，耶鲁大学），洛瑞•罗伯逊（Lori Robertson ，FactCheck.org网站），大卫•罗斯柴尔德（David Rothschild，微软研究院），迈克尔•舒德森（Michael Schudson，哥伦比亚大学），亚当•夏普（Adam Sharp，前推特经理），史蒂文•斯洛曼（Steven Sloman ，布朗大学），凯斯•桑斯坦（Cass Sunstein，哈佛大学），艾米丽•索尔森（Emily Thorson，波士顿学院）和邓肯•沃茨（Duncan Watts，微软研究院）。

媒介生态系统最近的变化暴露出民主社会抵抗假新闻的脆弱性和公众遏制假新闻能力的有限性，从而引发全社会的担忧。假新闻作为一种错误信息（misinformation）在当今媒介生态系统中，特别是在社交媒体平台上快速传播。大量的在线信息使得个体严重依赖的启发式（heuristic）和社交性的线索来确定信息的可信性，形塑自身信念，而这些信念反过来又极难纠正或改变。相对而言，那些数量虽不多，但是在社交媒体上不断变化并生产错误信息的消息源，既是对实时检测算法的挑战，也为更有针对性的社会技术干预带来希望。

第一节 错误信息的传播状态

方师师 (1984-)，女，上海社会科学院新闻研究所。新闻学博士，社会学博士后，助理研究员，上海社会科学院互联网研究中心副主任。

越来越多的研究表明，在2016年美国大选前的政治话语中假消息是普遍存在的。初步的报告表明，在社交媒体上，一些被最广泛分享的故事都是假的；其他调查结果表明，美国人从难以置信和可疑的来源分享的信息量与来自单个主流新闻源的信息量（如《纽约时报》）相当。

目前的社交媒体系统为错误信息的传播提供了沃土，这对民主社会中的政治辩论特别危险。社交媒体平台为任何想要吸引追随者的个体都提供了扩音器。这种新的权力结构使少数拥有技术、社会或政治知识的个人能够分发大量虚假信息或“假新闻”。社交媒体上错误信息特别强势和危险主要有两个原因：有丰富的来源和建构“回音室”。由于信源的激增，带有不可靠社会线索的信息急剧增加，评估社交媒体上信息可信度的挑战越来越大。“人以类聚”的倾向导致形成“回音室”（echo chamber）和“过滤泡”(filter bubble)，加剧了社会的极化。由于没有相互竞争的信息来对抗孤立的社会团体中虚伪或普遍的共识，最终结果就是共享现实（shared reality）的缺乏，造成危险的社会分裂。在其他险境中，这种情况可能使带有歧视性的和煽动性的思想进入公共话语，被视为事实。而一旦嵌入，这些想法可以反过来被用于制造替罪羊，使偏见正常化，使“咱们跟他们不是一伙”（us-versus-them）的心态更加强化，甚至在极端的情况下会催化暴力和论证其是正当的。

对于社交媒体（比如脸书）的角色，一个类似的或者更大担忧在于，它们可以远远超出党派意识形态的范围抵达那些更加政治疏离和碎片化的公众，这些人更难抵御与其政治观点相左的意见，更容易被具有意识形态倾向的新闻说服。这可能不会发生在意志坚定的党员身上，而对独立人士和政治动机较差的美国人来说可能影响很大。

经由新技术手段扩大的错误信息对全球开放社会构成了威胁。来自俄罗斯的宣传运动公然影响选举，破坏自由民主国家的稳定，而政治光谱中的极右势力正在寻求对我们更大的控制。而即便在今天，虽然技术提出了新的挑战，但假新闻这一现象根本就不是新鲜事，赤裸裸地诉诸公众的恐惧和企图利用信息行动来影响政治的结果也并不新奇。

第二节 假新闻的社会基础

1.假新闻的心理学

我们大多数人都不会亲眼目睹新闻事件，也不会直接接触政治工作。相反我们依靠别人的描述，我们声称所知道的大部分内容实际上都是被他人获取、存储、传输的分布式知识。同样，我们大部分的决策制定都不是源于个人理性，而是共享的群体叙述。因此，我们对信息和错误信息的接受度并非主要依赖于我们对理性评估的期待，而更多地取决于启发式的和社交性过程。

首先，信源的可信度深刻地影响着信息的社会解释。人们信任那些知名或熟悉的信息来源，以及与其世界观相一致来源的信息。第二，人类是有偏见的信息寻求者。我们倾向于接受确认我们现有观点的信息。这些属性结合起来使人们对政治议题进行不对称的更新。当信息来源被认为是可信的或信息确认了先前的观点时，个人倾向于对其不加批判地接受。而当信息不熟悉或来自相反来源时，可能会被忽略。

因此，纠正错误信息并不一定会改变人们的信仰。事实上，为人们提供具有挑战性的信息可能会引发“逆火效应”（backfire），进一步巩固人们的初始信念。而即使一个个体相信了修正的信息，错误信息也还会持续传播下去。这一点的重要意义在于，即使是在驳斥它的情况下，任何对错误信息的重复都有可能是有害的。这种持续性是由于我们认知过程中的熟悉度和流畅性偏差：个体听到一个故事越多，对它越熟悉，就越有可能相信它是真实的。因此，接触错误信息可能会产生长期影响，而修正只是暂时的。

影响信息接收的另一个要素是社会压力。人们大多数的行为源于社会信号和声誉保护。因此，分享一条被同伴认为是虚假的消息，是令人尴尬的真正威胁。针对这种威胁，社交媒体上开发的事实核查工具提供了一个路径，比如脸书正在开发的弹出式警告。这种工具似乎减少了对有争议的文章的分享，但它不可能对人们的信仰产生持久的效应。这些工具提供了一种机制来表明一个人正在向其同伴分享假消息，而另外一种干预机会则是转移同伴的线上消费。鼓励与不相类似的人进行交流可能是减少政治问题两极分化和事实扭曲的有效途径。

2.假新闻如何蔓延

假新闻通过网站、社交媒体和机器人组成的复杂生态系统从信源抵达消费者。社交媒体的参与功能，包括易于分享和重新连接社交关系，使它们容易受到高度活跃的和有党派倾向人员（和机器人）的操纵，这些人员（和机器人）成为强大的错误信息来源。

在社交媒体上观察到的极化和分离结构之所以不可避免，是因为网络共享的两个基本机制：社会影响力和好友删除（unfriending）。回音室效应的结果是高度同质化的，为选择性接触和偏向性确认创造了理想的条件。它们极为密集和高度汇聚，使得消息可以非常有效地传播，并且每个用户都接收到许多源头相同的消息。恶作剧型的信息在这些隔离的社区中有更高的机会进行病毒式传播。

即使个人喜欢分享高质量的信息，但有限的个人注意力和信息过载也会妨碍社交网络系统基于质量来区分消息，低质量的信息同高质量的信息得以同样的传播。这可以解释为什么在线假新闻的曝光率那么高。

可以利用结构、时间、内容和用户特征来检测社交机器人。这说明社交机器人可能会变得相当有影响力。机器人旨在扩大假消息的覆盖面，并利用我们在认知和社会偏见上的弱点。例如，他们创造出流行的草根运动形象来操纵注意力，并定位有影响力的用户来引导他们转发错误信息。

在推特上，真实人士分享的假消息集中在一小部分网站和高度活跃的“机器人”用户上。这些用户自动从一组来源（无论有没有阅读过它们）分享新闻。与传统精英不同，这些个体虽然有时候只有有限的社会-政治资本，但是可以发挥他们对平所具功能的知识为那些极端化的和误导性的内容制造追随者。不管怎样，这些人可以并试图借助社交机器人来获得政治精英的关注。例如，唐纳德•特朗普（Donald Trump）就收到过数以百计的关于三百万非法移民投票选举的假新闻推文链接，大部分都来自机器人。这表明社交媒体的动能在某些情况下被扭转了，导致错误的信息从地位较低的个体流向了精英阶层。

与流行的直觉相反，包括新闻在内，信息无论真假，其传播并非常常是“病毒式的”，即暗示其是通过漫长信息瀑布（long information cascade）而传播开的。也就是说，绝大多数分享的内容并不会在一般人中长时间流传。通常是来自名人和媒体的消息——具有大量追随者的账号——到达率最多，并且是通过非常浅的扩散链来实现的。因此，传统精英可能不是假新闻内容的最大分享者，但可能是阻止假新闻传播的最重要的节点。

大多数分享假消息的人，无论其是否受欢迎，一般都会分享很多新闻。政治活动的数量是迄今为止预测个体是否会分享假新闻的最有力的指标。由于错误信息与其他内容混合在一起，而且许多报道很少得到人们的关注，这一事实就意味着传统的质量检测方法并不能够区分错误信息和真实情况。除此之外，人们的某些特征与更多分享假消息的可能性相关联：老年人，政治光谱上更极端的个人，似乎比别人更多地分享假消息。

具有国家和政治动机的组织一直是虚假信息的始作俑者。当代和历史的证据表明，具有影响力的虚假信息之所以得以流行很少是由于简单的误解。相反，虚假信息往往是为特定的政治或军事目的而精心策划的战略性活动。例如，英国在第一次世界大战期间，针对所谓的德国暴行开展了卓有成效的假消息宣传，以动员国内和全球舆论反对德国。但在二战期间，这一行为产生了事与愿违的结果，因为关于假消息的回忆导致公众对第二次世界大战期间大规模谋杀报道心怀疑虑。

我们必须承认，关注新闻报道的公正性还是新近的事情。从历史上看，直到20世纪初，现代新闻业的事实核查和公正性规范才在美国开始成型。通过强烈反对“黄色新闻”——一种风靡19世纪90年代由赫斯特和普利策报业帝国推广的煽情报道——才推动新闻业开始走向专业化和制定道德准则。

最后，虽然任何一个团体都可以相信虚假信息，但目前错误信息主要是右派的问题，而极右声音一直不断地在攻击主流媒体。一些保守的选民甚至怀疑事实核查网站，这使得他们特别容易受到错误信息的影响，而这些错误信息实际上也是由极端声音制造和重复的。话说回来，至少有一些轶事证据显示，当共和党掌权时，左派变得越来越容易受影响去传播和接受假新闻。有这样一个案例，主要是由左派在布什主政期间散布的阴谋论，认为政府应该为“9•11”事件负责。由此可以预计，未来几年我们可以看到左派发布的假新闻会增加。无论如何，打击假新闻的任何方案都必须考虑到这种不对称，而政治光谱的不同部分会受到不同的影响，我们需要采取不同措施来应对。

第三节 遏止假新闻的行动方针

经由对上述材料的讨论产生了解决错误信息的几条直接途径：

1.开展两党双方参加的讨论

将更多的保守派人士纳入对错误信息的审议过程，是打击假新闻并公正科学地对待该研究课题的关键一步。重要的证据表明，至少在现在，假新闻和错误信息主要来自政治右派。研究表明，当对假新闻的纠正来自于同声相应的同党派人士时，这种纠正最有效。因此，保守派与自由派之间合作，共同找到一致认定事实的基础，将会提高这种努力的可信度，即使对事实的解释可以各自不同。本次会议期间还提出了一些直接的做法，比如去接触法学学者，研究假新闻商业模式的经济学家，对媒体信誉的降低持反对态度的个体等。还可以去关注那些中右翼的私人研究机构（比如卡托研究所，科赫研究所）和新闻媒体（比如《华盛顿时报》《每周标准》《国家评论》）。

2.让真相“更大声”

我们需要加强与可信信源的联系，设法支持并与媒体合作，增加高质量的事实信息的报道覆盖面。我们提出几个具体的方法来开始这个过程：

首先，我们需要将现有研究成果转化为可以被媒体人和面向公众的组织所能理解的形式。即使是在社会科学家中（包括上面提到的科学家），其十分可靠的研究结果还不是很广为人知。一个直接的方式是制作一份简短的白皮书，总结我们目前对错误信息的理解——包含其形成的主要因素和防止其传播的最佳做法。研究可以为媒体人提供指导方针，说明如何在撰写报道和制作标题时避免常见的陷阱——比如通过首先提出事实，避免重复虚假内容，寻找受众信任的受访者，并使用可视化来纠正事实等。同样我们知道，通过情感联系和不断重复，可以建立对机构和事实的信任。新闻机构可以通过讲故事、重复事实（如跟踪以前的故事）和公正的报道等方式来增强与观众的联系，并使他们更好地了解情况。

第二，未来我们应该在研究人员和媒体之间寻求更强有力的合作。一种选择是支持他们在新闻编辑室工作（这里的“他们”是指研究人员，改后的句子读起来“他们”是指媒体），研究人员可以作为内部专家，为应用研究收集数据。另一种途径是向记者提供降低他们生产数据新闻成本的工具。例如，会议建议建立一个类似于维基百科的平台，向媒体人提供关于新出现的新闻故事的众包服务和策划数据。该资源将为媒体人提供便宜且可靠的信息来源，以便让资料丰富的报道超越社交媒体上的错误信息。这些工具还可以指示数据源，帮助理解富有意义的统计数据背景、市政信息或者特定主题的咨询专家名单。

第三，假消息的流通具有明显的集中特性，这使得平台对于假消息的识别和干预非常简单。虽然有一些假新闻网站凭空出现，但实际上大多数假新闻都来自少数几家网站。因此确定平台的责任、使其积极主动地参与任何打击假消息的重大战略至关重要。如果平台阻止了来自某几家网站上的信息传播，假新闻问题可能会一夜之间落幕。此外，假新闻的传播似乎主要受到外部操纵的驱动，例如机器人和机器人账户（cyborg，及个体将其账户交由app控制）。通过平台的检测和响应操作，可以自然而然地抑制假新闻的传播。

最后，由于地方新闻既是宝贵的也是被广泛信任的，所以即便预算紧张，我们还是应该支持和加强地方报道。在政府层面上，这种支持可以是对当地新闻媒体的补贴，这有助于使其获得非营利的地位。大学则可以扩大校报对当地社区的报道。

3.建立社交媒体研究的共享性基础设施

作为学术界人士，我们需要更好地了解社交媒体平台上错误信息的呈现与传播方式。为了理解当今的技术，置公共利益于公司利益和其他利益之上，学术界作为一个整体需要对这些系统进行研究。但非常典型的是，受制于平台约束，无论是共享数据还是整体数据量，可用于研究的数据访问都是不可能或很困难的，因此后续很难进行新的研究或复制以前的研究。与此同时，越来越多的关注在于，在此次大选过程中平台的算法促成了错误信息的传播，并且在未来可能会继续下去。

为了追寻社交媒体传播错误信息这一问题的一系列解决方案，学者们应力求更好地、更准确地获取数据以便进行研究。当然，这种寻求必须接受与平台提供商进行不同立足点的合作。即使在缺乏合作的情况下，学者们仍然可以联合起来组织一系列民众行动，比如基于移动和非移动终端的多种来源的在线运动（例如MediaCloud，志愿者科学，IBSEN，TurkServer）。当然，与领先的社交媒体平台（如脸书和推特）的合作也是可能的。推特提供使公共数据可用的API，但需要签共享协议来收集大量数据样本。此外，脸书需要自定义API。为了研究目的，有更多的可访问性的数据，学者们可以帮助平台为社会新闻消费设计更有用和更丰富的工具。

具体而言，学者应该着重开发数据集所必需的社会、制度和技术的基础设施，这些数据集有助于研究在线错误信息的传播，并且可以分享和复制。这就需要新的方式给社交媒体公司施压，迫使其分享重要的数据。

第四节 未来的研究方向

首先，我们必须扩大对社会和认知干预的研究，尽量减少错误信息的影响。有些研究提出了对事实核查作用和信息纠偏有效性的怀疑，但目前还没有其他替代方案。社会干预对减少错误信息的传播效果有限。展望未来，该领域旨在确定维系真相文化的社会因素，并设计干预措施，协助奖励来源优质的新闻。

一般而言，技术发展特别是社交媒体给处理错误信息带来了新的挑战，但也提供了更有效地减轻这种挑战的潜力。脸书最近正与事实核查机构进行合作，在人们分享有争议的文章之前预警，这就是通过技术干预限制虚假信息传播的一个例子。然而，关于事实核查方法的可扩展性以及如何在假新闻受到争议之前最大限度地减少其影响，仍然存在疑问。此外，还需要进行更多的研究以探索社会-技术干预措施如何不仅能阻止错误信息的流动，而且能够缓解错误信息对于人们信念的影响。概括地说问题在于，如果想要鼓励一种重视和传播真相的文化，哪些是社会信息系统的必要成分？

解决常见误解（misperception）背后的根源问题，可以帮助人们认清眼前的议题并消除围绕他们的大量错误信息。这项教育工作有助于改善对于公共政策的理解，是建立公民社会中对机构信任的必要组成部分。促使个人可以超越群体思维的一个方法是，要求其解释某些过程或议题的内在运作机制。

此前的研究成果强调，干预措施成功的关键在于两个社会性因素：干预的来源和目标社区的规范。文献表明，直接的对抗会适得其反，而如果以威胁的方式进行，它反而可能导致巩固个人之前的信仰。而如果言论来自某些与彼相似的来源，特别是其言论并非出于自身利益，则可以减轻这种威胁。此外，人们根据他们在社区观察到的共同叙述来回应信息；如果想要改变意见，就有必要改变围绕这些意见的社会规范。一种可能性是“羞辱”分享假消息这一行为——鼓励制作真实信息，制止那些提供虚假内容的人。

另一个替代方案是通过跨社区连接促进制作更加公正无偏和符合事实的内容。至少有些研究证明，彼此之间进行互动的人会倾向于变得彼此相似，因此跨文化沟通至关重要。然而，这样做时很重要的一点是要遵守现代社会心理学对于相关条件的理解，只有在这种条件下，这种社会互动才可能有积极的效果。

最后需要说明的是，并不是所有的人都会被轻易干预。人是不对称的更新者：持极端观点的人可能只接受支持他们观点的证据。而持温和观点的人更容易根据新的证据从正反两方面更新自己的观点。专注于后一类人可能会带来最有成效的干预形式。或者，争取党派人士的认同可能会从根源上消除错误信息，从而成为打击假新闻的一种更强有力的长期策略。

Abstract: The report named Combating Fake News: An Agenda for Research and Action, released by Shorenstein Center in Harvard Kennedy School is organized as follows. Section 1 describes the state of misinformation in the current media ecosystem. Section 2 reviews research about the psychology of fake news and its spread in social systems. Section 3 synthesizes the discussions held during the conference into three courses of action that the academic community could take in the immediate future. Last, Section 4 describes areas of research that will improve our ability to tackle misinformation in the future.

Key Words: Fake News, Misinformation, Research, Action

(责任编辑：钟宇欢）

Combating Fake News: An Agenda for Research and Action

FANG Shi-shi

G211

A

1001-4225（2017）09-0098-04

本文系2014年度教育部人文社会科学研究青年基金（项目号：14YJC860005）、2015年度国家社科基金青年项目（项目号：15CXW002）阶段性成果。本文受到上海社会科学院互联网研究中心、复旦发展研究院传播与国家治理中心研究支持。