浅析算法推荐技术的价值与陷阱

□ 向子旭

大数据时代，信息量快速增加，但海量内容不可能被受众全部接收，因此把一部分信息选择的权力让渡给算法，使用机器和算法来识别和匹配内容，满足用户需求的信息分发方式逐渐成为一种新的传播形态。学者方师师指出，算法的介入在一定程度上解决了海量的社会化信息与个人终端信息需求之间的“信息传播效率”问题。

算法推荐：满足用户个性化信息需求的新兴技术

2017年，人民网针对今日头条的算法推荐发表三篇评论：“不能让算法决定内容”“别被算法困在‘信息茧房’”“警惕算法走向穿心的反面”。这一系列评论引发了学界和业界对于算法推荐的讨论。

学者方师师认为，算法推荐是指网站平台通过算法模型将用户信息数据与内容信息数据进行匹配，实现内容高效聚合、精准分发的一种手段。现已广泛运用在新闻客户端、即时通讯工具、论坛社区、音视频、直播等各类网站平台。算法推荐作为一种越来越主流的信息分发方式，在提高内容分发效率、产生群体智慧、延伸专业主义理念等方面发挥了重要作用。

算法推荐的价值

推荐内容个性化，提高内容分发效率。信息爆炸时代，我们不得不面对信息过载的问题，用户常用的人工搜索遭受到阻力，在海量的信息面前感到无所适从。算法推荐技术颠覆用户被动接受信息的传统，让内容生产者从用户需求出发，“三微一端”“淘宝网”“知乎”“抖音”等平台通过算法推荐技术，识别用户的终端设备，计算用户的过滤选择行为，结合大数据呈现的用户画像和社交关系图谱，为用户匹配可能与兴趣点相关联的内容。比如搜索引擎的页面答案排序，这是算法交给人们的答案，其对信息进行分类和先后排序，将重要信息前置，把次要内容后置，屏蔽不符合要求的信息，降低用户接受不利信息的概率，节省时间成本，满足用户的个性化信息需求。

促进群体互动，实现“群体智慧”。一方面，算法推荐技术使具有相同特征和兴趣的人更好地互动，公众意见在碰撞、博弈和交融中向理性、正确的方向发展，促进公民在社会中的成长和发展，群体互动创造的力量带来丰富的信息和知识，如同“维基百科”的协同模式，个体间的互补产生群体智慧，多元的认识视角和观点聚合为远超于个体智慧的强大能量。另一方面，群体互动的行为有助于增强个体的社会责任感，公民贡献个体智慧又促进社会的整体发展。

推送相关信息，提高个体的专业性。专业主义是一种非常重要的职业价值和专业伦理。算法推荐技术和人工审核机制一样，有着自己的专业标准和专业态度，它会基于用户搜索过的信息领域，把所有可能相关、有价值的内容，毫无保留地、尽责地推送到用户面前，使个体在某个专业领域可以掌握更多的知识，挖掘、领悟地更加全面和深入。算法推荐技术让用户在一个领域尽可能多地获取有价值的信息，有利于提高个体在某方面的专业性。

算法推荐技术具有筛选、推送信息和记录、存储个人数据的特殊权力，但在算法掌权之后，其动机和执行结果并不都是“向善”的，也有着诸多的陷阱和漏洞，会对受众、信息环境产生负面影响。

“算法掌权”时代的陷阱

“数字圆形监狱”和个人信息泄露的风险。个性化信息资源的匹配在某种程度上节省了用户的金钱代价、时间代价和精力代价，为用户带来许多便利，但不少平台也借此掌握用户的个人信息形成庞大的数据库。当用户被置于“数字化生存”的时代环境下，只要接触互联网和移动设备，后台已经设定完成的算法就可以通过设备收集我们的实时数据，定位用户所处的时间、空间及行为，了解用户的状态与需求、社交氛围、生活习惯等。如果平台在用户不知情的情况下，将数据出售用于盈利或其他目的，无疑会给用户和社会带来不小的信息安全困扰和隐患。比如2018年的“Facebook泄密门”事件，用户数据被剑桥分析公司利用信息操控和平台偏向影响部分选民态度，直接影响大选结果。如果用户溺于数字化网络，被算法支配和统治，那个人自由、隐私安全和社会秩序将受到严重冲击，因此在算法推动社会发展的背景下，保护个人信息安全的保护也需要被重视和采取必要措施。

陷入“信息茧房”和“回声室效应”的桎梏。用户被裹挟在基于自身属性、浏览记录、兴趣、社交关系的“过滤气泡”中，对相左意见不再关注和反思，对客观世界的敏感性降低，个体在封闭的信息环境中固守符合自己信息和意见的圈子里，难以突破自身局限，陷入“回声室效应”。比如今日头条的个性化内容服务，本质上就是构建“信息茧房”，相对于交流观点，接受信息才是头条用户的主要行为。此外，算法介入政治，多元化信息在算法设计过程中被筛除，以政治为目的的算法传播通常提供与选民立场相符的信息，支持和反对的观念泾渭分明，这很有可能塑造网民的政治偏执型人格。单一的算法推荐很可能让人们变成“井底之蛙”，失去对环境的完整判断。

死板的算法程序给用户造成困扰。第一，信息的过度适配实际上是机器不断修正偏差，使“读懂用户”的效果最优化，但这种“读懂”不具有变通性。比如淘宝网页上“推荐”板块，根据用户搜索过的关键字推荐商品，却难以预测用户不断改变的喜好和需求，如果是用户误点和随意浏览，那这种“死板”的机器思维反而会让用户与目标商品相距甚远。第二，算法严格遵守人为设定的程序，难以像人脑一样视情况灵活应对。比如抖音等短视频后台设置的内容审核系统，凡上传内容中涉及敏感、违规内容，一律删除或不通过，但算法往往只以个别参数为评判依据，在考虑整体内容的合理性和合法性上有所缺失，所以部分内容生产者通过使用同义词或特殊符号避开审核，造成了含有低俗、暴力内容的视频仍在平台上流动甚至成为爆款的后果。

弱化用户的主动性和自主性。美国传播学学者施拉姆曾经提出过一个“选择的或然率公式”，该公式表明在复杂的信息环境里，人们更倾向于用较少成本的方式来接收信息。用户的懒是本性，是常态，而且还有很强的惯性，我们需要警惕——持续地依赖算法推荐技术是否会弱化个人主动选择信息能力和自主判断决策能力。比如，人们依赖手机导航，是否会弱化认路的能力；我们习惯于APP推送新闻，是否会沉溺于拟态环境；我们总是被动地接收信息，是否会失去快速搜集信息的检索能力……这些都有可能弱化用户的主动性和自主性，不利于个人的发展。

结语

算法推荐技术能够帮助解决信息过载与个人信息需求之间的“信息传播效率”问题，但也要认识到算法推荐技术本身存在的缺陷。解决算法带来的问题需要多方努力，第一，信息分发平台要建立科学合理的算法推荐模型，不仅关注信息内容来源、自媒体信用等客观要素，还要注意用户浏览历史、社交圈、评论量等主观要素，避免机器算法和个人兴趣的“双重过滤”，承担起一定社会责任，不持“流量至上”的态度，满足受众对于客观世界的信息需求；第二，平衡好人工把关和机器审核的关系，使用新技术并不意味着人工推送和内容审核的全面退出，二者要相互协作，形成互补，更好地为用户描绘现实世界的图景；第三，受众应提高媒介素养，不仅要有意识地接收多元化的信息，抵制过度娱乐化的内容，还要提高对各种媒介信息的解读批判能力；第四，每个人都应认识到：在技术与人的博弈之中，人始终是占据主导地位的，因为对于媒体呈现的图景的解读，终究还是建立在人的判断、分析能力上，要扭转“强技术”与“弱公民”的不平衡，根本上是要突出人在技术社会革新中的主动和能动作用，坚守人的价值。只有多方协作，才能使技术真正服务于人。