“美妙新世界”，归功于个性化与算法放大

胡泳

在20世纪90年代末，互联网用户通过Lycos等搜索引擎和雅虎等网络目录发现内容。那时的内容消费，需要用户有意搜索一个关键词，或浏览一个特定的网站或论坛。也因此，边缘化的内容无法通过这些早期的互联网服务触达更大的受众。

似乎是突然之间，我们就可以在网上随意接触到另类的和边缘的内容，使得上个世纪的最后那几年与新世纪相比，简直堪称“纯真年代”。于今我们熟悉的社交媒体上，充满了分裂性的或欺骗性的内容，这要归功于数字媒介对两个关键技术的拥抱：个性化—经由网络cookies和大数据系统大量收集用户數据来加以实现；以及算法放大—使用强大的人工智能来选择显示给用户的内容。

个性化和算法放大，推动互联网越来越走向赫胥黎笔下的“美妙新世界”。用户认为，我们用自己喜欢的运动队、音乐家和个人爱好来满足我们对应用程序和网站的个性化需求，这是天经地义的。然而，当数据科学家和软件工程师将内容个性化和算法放大融合在一起时，他们创造了那些吸人眼球但无法控制的怪兽，例如Facebook的News Feed、TikTok的For You和YouTube的推荐引擎。尽管这些算法，如Facebook的“基于参与的排名”，被包装为增加了内容的“相关性”，但它们实际上延续着偏见，并以其创造者几乎无法理解的方式影响了社会，更不必说对用户和监管机构的漠视了。

社交媒体平台有一个基本的经济动机来维持用户参与。它确保许多信息源持续推广最刺激、最具煽动性的内容，因为越是如此，平台就越可以获得成功和盈利。Twitter在2015年才采用算法推送。脸书在创立头两年大幅增长，当时它只是托管用户档案，但没有个性化的News Feed。这两个平台曾经提供非算法的、按时间顺序排列的信息流。

从系统的角度来看，成功在于正确预测你会喜欢什么，评论什么，或分享什么。这才是最重要的，平台将此称为“参与”。然而谁也不知道随着系统的发展，每一项参数究竟能获得多少权重，以及该权重会持续多久。例如，Facebook在2016年初强调要考虑到人们浏览一个帖子的时间，但之后又认为这是一个“嘈杂”的信号，而且“在一些方面有偏见”，这使得它“难以使用”。

关于政治大选、疫苗风险、赛博战争，分裂性的或欺骗性的内容持续对当代生活产生重大影响，而这些信息的最大来源，皆为我们在生活中花费很大一部分时间使用的社交平台。在这些平台上，阴谋论和恶作剧以接近光速的速度传播，而这在很大程度上要归咎于所有服务使用的推荐算法。可算法本身却是不透明的，只有这些公司的高级工程师才了解它们，甚至在机器学习兴起之后，就连工程师们对算法都不甚了然。另一方面，恶意行为者通过操控算法实施“计算性宣传”，大大增加了通过流量、定向和内容影响公众行为的可能性。

我们是怎么走到这一步的？首先是公共利益让位给了平台利益，即人们一直在优先考虑平台的利益而不是公共利益。其次，当代社会还有一个文化上的盲点，即盲目相信创新的积极力量，Facebook首席执行官扎克伯格著名的座右铭“快速行动，打破陈规”就是该盲点的最好体现。此种精神的源头，是管理理论针对一系列变化的回应，包括技术的加速度和交易的全球化。公司可以快速行动并破坏事物，而不必为破坏行为负责。

鉴于此，我们并不能把发现解决方案的希望纯然寄托在平台身上，因为那几乎与它们的财务利益背道而驰。我们需要重拾公共利益，同时改变高科技公司破坏性的文化。