智能传播时代社交媒体的价值逻辑与伦理困境——基于纪录片《监视资本主义：智能陷阱》的思考

岳小玲

⑳世纪，《星球大战》《人工智能》《太空漫游》等电影作品曾一度引起人们对人工智能的集体想象。如今，作品中被认为是科学幻想的人工智能已成为现实。以大数据、云计算和5G通信以及机器学习等人工智能技术的快速发展给社会带来了深度影响。人工智能技术不仅形塑了整个传媒业的业态面貌，也在微观上重塑了传媒产业的业务链。智能技术分布于媒体制作中的线索发现、信息采集、内容生产和分发、效果反馈等各个环节。但另一方面，智能传播对媒介的深度融合也冲击了原有的传播秩序，带来新的技术风险和道德伦理问题。

图1.电影《太空漫游》剧照

9月初，Netflix推出了年初在美国圣丹斯电影节上映的原创纪录片《监视资本主义：智能陷阱》（以下简称《智能陷阱》）。该片就各大社交媒体智能算法带来的技术伦理问题进行了全面探讨。作品的一条叙事线由世界著名的社交媒体包括Facebook，Twitter，Google的前高管就自己的工作经历探讨社交媒体的智能技术运用及带来的影响，另一条叙事线以虚构的形式再现算法监控和操纵青少年Ben并最终使其走上犯罪道路。影片引起公众对智能媒体的技术、公共性及合法性的广泛关注。本文结合该纪录片，对智能传播时代社交媒体的价值逻辑和伦理困境进行探讨。

一、人工智能与社交媒体的内嵌与互融

伴随着WEB2.0技术的发展，网络媒介形态从门户网站转向了智能手机为主要平台的社交媒体。社交媒体基于用户关系的底层逻辑架构鼓励用户内容生成、传播和交流，这一创新深刻地改变了媒介与受众的关系。社交媒体传播主体的多元化使受众实现了受众到用户的身份变化，其信息生产和传播都更具开放性。

在智能技术的介入之后，人工智能深度内嵌于社交媒体信息采集、发布和传播环节。如果说早期的人工智能主要用于营销邮件的分发与简单内容发布，并未对社交媒体产生实质性影响；那么当机器人技术、自动编辑技术、人脸跟踪与识别，大数据采集以及深度学习的算法对社交媒体进行全维度的渗透，给社交媒体带来一场全新的传播革命。早在2003年以前，谷歌根据用户搜索的关键词向用户定向投放广告，与此同时，收集的用户信息用来提升平台的服务和体验。然而自一项“生成用户信息以用于定向广告”的专利授权成功，开始大量收集用户数据，并把其用于提高广告精度，致力于把“数据废气”转化为“行为盈余”。很快，Google的这种商业模式被嫁接到Facebook、Twitter等一批科技公司中，并被开发出更多的数据挖掘与预测手段。2007年，Facebook 在推出自己的命名为“灯塔”（Beacons）智能广告系统，它使 Facebook在用户不知情的情况下，将其在网站上活动轨迹向其他用户推送。在广受批评后“灯塔”系统于两年后关停，但其为Facebook当下运用智能技术搜集、追踪、提取、分析用户数据的广告架构奠定了基础。此外，智能技术赋能社交媒体后，社交媒体的服务内核发生转变，“数据即服务”促使社交媒体在信息传播的所有环节都产生了重大变革。

社交媒体的智能转向在《智能陷阱》中得到了全面的体现和印证。影片一开始，以世界著名社交媒体和互联网公司Facebook，Twitter、Palm、Google 等公司高级管理人员、技术人员、营销人员现身说法，揭露自己工作的社交公司如何采用大数据记录、跟踪、分析用户数据，并调控用户和广告目标。正如Facebook的前用户拓展总监所说的那样，我们Facebook在这么做，Instagram也这样做，WhatsApp也这样做，Snapchat和Twitter也都这样做。毫无疑问，智能技术已经成为社交媒体发展和壮大的技术驱动力量，智能技术早已与社交媒体密不可分。但在《智能陷阱》中，这种智能技术环境中的社交媒体被描述成一种不可见、隐形的过程，我们在各种社交媒体软件中的浏览、点击、观看并不是我们自由意志的结果，而是智能技术驱动的结果。

必须承认，人工智能与社交媒体的深度内嵌和融合正在成为社交媒体传播的普遍实践。机器人技术可以在社交媒体虚拟生成用户形象、自动生成内容并与真实用户互动。智能编辑技术帮助用户简化编辑流程，降低用户内容制作的门槛，提升用户的参与性，促进内容和信息的多样性。大数据和算法搜集和追踪用户信息，并依据用户偏好进行信息智能化推荐，进行“个人日报式”分发，实现信息传播的千人千面。可见，智能技术深入社交媒体的信息采集、内容生成、自动编辑、信息分发整个环节，改变了媒介生态和信息传播环境，对政治、经济和文化产生深刻的变化和影响。

图2.电影《监视资本主义：智能陷阱》剧照

二、社交媒体的价值逻辑

社交软件对用户是免费开放和使用的，社交软件如何赚钱？《智能陷阱》里，以Facebook前执行总监为首的各大社交媒体和互联网公司的前员工指出，社交媒体宣称他们为用户提供免费服务，但事实并非如此，他们无一例外的从事搜集用户数据贩卖给广告商的勾当。实际上，纪录片揭开了社交媒体在免费服务的表象下，正在践行的一种新的商业模式和价值逻辑。在这种新型的社交媒体形态当中，智能技术与多元化的传播主体和用户参与成为其核心资源和价值所在。

（一）智能技术的资本化

《智能陷阱》中，不管是畅销书《立即删除社交媒体的十个观点》的作者贾伦·拉尼尔对像Google和Facebook这样有史以来最富有的互联网公司的质疑，还是各大社交媒体的前高管人员对社交媒体、对用户注意力竞争策略的控诉，都把纪录片指向了社交媒体背后的以技术为依托的资本主义的经济形态和商业模式的探讨。今年年初，哈弗商学院学者祖波夫(S. Zuboff)在其著作《监视资本主义时代》中指出，一种新型监控资本主义正在崛起，这种新型资本主义的形成，以大型公司企业尤其是互联网巨头为代表，以大数据、算法等技术收集数据、分析数据、买卖数据牟取巨额利润为显著特征。简单来说，监视型资本主义主要是指一种基于大数据技术为基础的商业系统和经济形态。

在这种视角下，由于计算机媒介化的普遍性，世界的方方面面几乎都以一种新的符号化的方式呈现出来。世界重生为数据，事件、对象、过程和人都变为可见、可知、可分享的新方式。一方面，数据成为我们理解世界、探索世界的新方式；但另一方面，数据被认为是智能技术主宰的结果，大数据技术和其所依赖的计算机媒介的全球架构产生了一种分布式的、基本上没有争议的新的权力表达方式。这种新的技术霸权允许其对全网用户数据进行监控式追踪、提取、分析，通过对用户生产内容、用户上网轨迹分析用户行为、兴趣偏好等，然后把其卖给广告商谋取巨额利润。

美国学者康斯坦提乌和卡利尼科斯警告说，“‘大数据’预示着‘当代经济和社会的转型意味着一个更广泛的转变，使日常性作为数据印记成为组织和机构生活的内在组成部分，也是商业化战略的主要目标……’。”不难发现，“数据驱动型社交媒体”成为当前监控资本主义企业的典型代表。在免费服务的幌子下，社交媒体利用人工智能技术谋取利润的资本扩张特性日益彰显。根据Facebook财报显示，2019年其运营收入为707亿美元，其中98.5%的收入为广告收入。作为Google的母公司Alphabet2019年收入为1619亿美元，其中广告占比83%，Instagram广告收入则为200多亿美元，占其运营总额四分之一以上。可以看出，广告收入不约而同的成为各大社交媒体的主要收入，免费的社交媒体实际上早已转变为广告巨头。而以大数据为代表的智能技术作为社交媒体的核心技术，既是其存在发展的条件，也是其商业表现。这种新兴商业逻辑不仅被Facebook和许多其他大型互联网公司所认同，似乎也成为大多数在线创业公司和社交应用的默认模式。从目前来看，智能技术赋予社交媒体资本强有力的扩张，而且依旧具有强大的发展潜力。

（二）人的双重“商品”化

智能技术驱动型社交媒体还带来了另一个隐形的变化，即人的双重“商品”化。《智能陷阱》里的专家指出，在35年前，互联网公司把硬件、软件卖给顾客，这是一种简单良好的商业模式，但是过去的十年中，硅谷一直在从事贩卖用户的交易。甚至纪录片毫不掩饰的指出，在智能社交环境下，如果你没有为你的产品付费，那么你就是产品，在某种意义上，智能技术产业重构了商品市场，社交媒体成为人类的期货市场。

从本质上看，这种新形式的商业模式建立在预测和改变人类行为，并以此作为产生收入和市场控制的手段。社交媒体人工智能技术的运用并非是为了监视用户，而是社交媒体要想不断的获利，必须不断地向客户输出海量数据，这使社交媒体的用户成为企业资本扩张和增值的核心，社交媒体需要向广告商提供精准用户画像，以提升广告投放的精确性和确定性，这使用户的身份属性以及行为倾向变得尤为重要。

通常来说，社交媒体通过用户注册获得准入权限从而取得身份、年龄、性别、职业、所处地理区域等用户本身的身份属性数据，另一方面通过对用户在网上浏览内容、停留时间、兴趣偏好、聊天内容获取行为数据。此外，用户在社交平台上的创作和内容生成也成为用户行为数据的重要部分。这些数据其中只有少部分被用来提升社交媒体的服务，大部分则被打包、存储、分析，通过对用户行为的解域和再域化，塑造出个性化和定制化的精准商业模型。

回到影片中，算法不断分析Ben的兴趣爱好、行为偏向，社交关系，最终呈现在算法面前的，不是一个有血有肉、有思想感情的人，而是一个经过不断分析和完善的模型。由于数据的附身性，在这个过程当中，一方面人的身份属性被商品化，另一方面用户行为轨迹和用户生成内容被商品化，用户成为免费生产数据的数字劳工，被用来创造“行为盈余”。“当人类生活的全部都变成了数据生产的领地和资本剥削的对象，创造性也完全被商业化了，资本逻辑对人类生活实现了全方位覆盖。”最终人被双重的“商品”化，沦为社交媒体的冷漠提取的对象和贩卖的产品。

三、社交媒体的伦理困境

《智能陷阱》里，无论是创立伦理技术中心的特里斯坦，还是从Facebook、Google、Instagram等技术公司离职的前核心高管们，他们都表达了对同一问题的焦虑：整个技术产业所带来的风险。社交平台越来越多地使用强大的人工智能，这些人工智能由庞大的数字内容流喂养，被用于分析用户行为、心理状态和物理环境。新形式的人工智能算法和人工智能驱动的虚拟代理在社交媒体的使用中带来了新的社会风险和伦理问题。

（一）行为异化：“全景敞视”对个人的监控与规训

福柯在《规训与惩罚》中，考察了封建社会的酷刑的消失到现代监狱的诞生，他认为酷刑的消失并非政治权利的衰退，相反，政治权力通过层级监视、规范化裁决和检查三个方面对个体进行更为严格的控制，以规训出有组织、有纪律和听话的身体。这种监控制度建立在全景敞视主义的观看与被观看、监控与被监控的二元机制之上，以确保权利在社会范围内运作，从而使社会在某种意义沦为了另一种监狱。

人类进入网络时代之后，“全景敞视”从物理空间进入信息空间，“全景敞视”的监控和规训在网络空间中得到一定的强化。但随着人工智能在网络传播中的渗透，“全景敞视”的监控和规训进一步升级。有趣的是，《智能陷阱》一改以往影视作品中去人化的人工智能形象，用真人扮演人工智能技术，这似乎成为一种人工智能技术已经真正具有人的思维和行动的隐喻。三个扮演算法的人不断地监控Ben，发送各种信息试探他，了解他，决定他看什么样的广告、和谁聊天、阅读什么样的新闻。甚至，他们为了让Ben留在社交软件上，推送Ben前女友新恋情的消息，使Ben拿起手机，打破与妈妈达成一周不看手机的约定，消沉在前女友不断更新的恋情里。更令人震惊的是，在算法的操纵之下，Ben不再对现实社交有兴趣，成为一个“极端中心”的政治自媒体的粉丝，最终成为一个走上犯罪道路的极端分子。

大数据和算法的技术赋权，使社交软件具有跟踪、监控，收集所有用户数据的权利，除了用户的年龄、性别、民族、经济状况等身份属性资料，甚至用户的在线时间、离线时间、地理位置、聊天内容、点赞数量、浏览历史都会被记录、收集、存档，人格、心理、情感等心理属性层面的内容也会被计算其中。从这方面来说，相比物理空间的监控常常受制于地理空间、监控层级和监控对象的限制，网络监控实现了对用户更高效、更持续、更经济、更广泛和扁平化的高效监控。但是，在规训层面上并没突破性进展。基于大数据和算法的智能监控，社交媒体使监控对象更具模型化、个性化、细微化。但更为危险的是，算法已经不是简单的监控，其具有深度自我分析、学习、推测能力，会基于用户的模型和属性预测用户行为和思想。可以说，社交媒体已经由全景监控发展到全景预测，不但基于预测推送符合用户偏好的特定信息和广告，并反过来引导用户行为，改变用户的思考行动的方式，形成一整套对于人们行为的判断与干预逻辑。这使人们面临被操纵的危机，偏离自己的目标、价值，挑战既有社会秩序和规范的风险。但这个过程是隐形的，用户完全处于无意识状态，成为算法操控的模型和木偶。

(二) 心理症候：“致瘾”加剧孤独与疏离

当使用社交媒体已经是我们生活当中不可或缺的一部分，社交媒体成瘾问题日益凸显。特里斯坦·哈里斯坦在纪录片中坦言，所有社交媒体的用户都在琢磨如何让用户上瘾，如何留住用户。影片里，妈妈为了让全家在吃饭的时候放下手机，而把手机锁进密封罐里，饭后才能取出。Ben的妹妹为了拿回手机看朋友圈动态，不惜砸毁瓶子。社交媒体就如毒品一样使人上瘾，对个体的心理、躯体和社会功能造成严重损伤。

在设计上，社交媒体用诸如消息通知的红色圆点、正在输入等设置增加用户粘性和使用时长，用户注意力和时间价值。而点赞、转发、评论等设置，则不断迎合了大脑的正向奖励机制，由此产生愉悦感会进一步促进用户沉迷其中。现实社交关系的疏远，给用户带来了严重的心理问题。Facebook和Instagram用户报告中显示，社交媒体的使用会直接或者间接导致抑郁症，长期运用Facebook会导致低自尊并加剧孤独感。纪录片中的数据也显示运用社交媒体的青少年抑郁症和自杀率逐年攀升，并成为严重的社会问题。

另一方面，社交媒体加剧了用户社交焦虑和社交关系肤浅化。“镜中我”理论认为，自我意识的形成源于他人对自我的评价和认识，他人如何评价自我会影响到人们之间的关系。纪录片里妹妹在朋友圈发布了一张未做任何修饰的照片，却只得到两个赞，这使她非常沮丧。为了得到更多的赞，她上传了一张精心修过的图片。当她沉侵在朋友圈的赞美之中的时候，一个评论她耳朵的留言瞬间让她的情绪跌到谷底。社交媒体上朋友圈的“自我呈现”，常常引发用户过度的印象管理、“前台表演”，疏于真实社会关系的“后台管理”，导致真实社交关系进一步疏离。在享受短暂的点赞、评论带来的愉悦之后，个体面对的是更长久的孤独和焦虑。同时，社交媒体里简单的点赞和评论消解了现实中面对面互动交流的深度，人们之间的相互了解移步与朋友圈的互相窥探，以及聊天界面的简单交流，就如Ben的妈妈通过社交媒体来追踪孩子们的动态，而不是面对面与孩子们谈心。缺乏真实语境和情感互动的交流，使现实的社会交往逐渐空心化、浅薄化和冷漠化。

（三）社会撕裂：“信息茧房”加剧社会区隔

纪录片里Ben在日渐消沉之后对社交媒体失去了兴趣，为使他复苏，算法经过分析发现，极端思想可以重新复苏他。于是，它向Ben不停地发送有关极端思想的信息。每天沉侵在这样的消息中，Ben逐渐认同了极端思想，认为外边的世界和人群才是疯狂的，最终同极端份子一起展开极端暴力行动。

影片绝非耸人听闻，凯斯·桑斯坦在《信息乌托邦》提出信息茧房效应，他认为，互联网用户偏向于选择和接触与自己意见相同观点或近似的人群，久而久之，就会形成思维定势、行动程序化，就像处于自我隔离的茧房之中。“信息茧房”中的受众容易固化自我信念与价值体系，促使个人极化，极易形成集体偏见，引发群体盲思。在当下的人工智能时代，智能技术与社交媒体的融合使“信息茧房”效应得到进一步的强化，这加剧了不同社会阶层、群体间的误解、冲突和区隔，造成社会的撕裂。

大数据和算法驱动之下，社交媒体对用户进行不同的分层，基于不同的目标、不同的人群进行信息分发。但算法并非是客观中立的，算法背后体现的是人的思想和价值，一定程度上移植了人的偏见、歧视，呈现算法偏见、算法歧视。基于算法的智能化和信息的不对称性，社交媒体越来越呈现出社群化、部落化、圈层化、私密化，以及把在圈子里看到的世界图景或镜像当作真实世界全部的趋势。深陷“信息茧房”的人们思想逐渐狭隘偏激，失去和不同圈层人进行信息交流、谋求共识的耐心，使公共领域难以保持理性探讨的声音，圈层之间的碰撞、冲突凸显，社会区隔进一步加剧。除此之外，社交媒体当中充斥的大量社交机器人、聊天机器人与政治机器人，数量巨大且缺乏监管；社交媒体上充斥了假新闻、谣言、种族仇恨、政治煽动言论等，群体极化、政治极化现象颠覆了社会的自由民主和公平正义，挑战人类的伦理底线，面临瓦解社会基本架构的风险。

结语

人类是什么和将会变成什么不仅取决于政治家的行为和政治行为，而且也取决于我们工具的形态。《智能陷阱》在一定程度上折射了公众对于智能传播下社交媒体的焦虑和担忧，揭示了智能传播环境下智能技术、社交媒体和用户的之间所呈现的新型关系对社会产生了广泛影响。这促使我们必须对智能技术驱动的社交媒体的商业价值逻辑和道德伦理进行考量，消解智能技术霸权，用“技术善用”重构社交媒体的社会责任和价值逻辑，凸显人的价值和人的精神，走出智能时代的社交困境。

【注释】

①喻国明、兰美娜、李玮.智能化：未来传播模式创新的核心逻辑——兼论“人工智能+媒体”的基本运作范式[J].新闻与写作，2017（3）：41-45.

②沈浩、袁璐.人工智能：重塑媒体融合新生态[J].现代传播(中国传媒大学学报)，2018，40（07）：8-11.

③Shoshana Zuboff.Big other：surveillance capitalism and the prospects of an information civilization,Journal of Information Technology 2015（30）：75-89.

④Constantiou,I.D.and Kallinikos,J.New Games,New Rules:Big data and the changing context of strategy,Journal of Information Technology,2015（1）:44-57.

⑤杨子飞.“全景式”监控与“生活化剥削”——论监控资本主义体系下的2.0 版剥削[J].华中科技大学学报(社会科学版)，2018（3）：127-132.

⑥Melissa G.Hunt,Rachel Marx,Courtney Lipson, And Jordyn Young,No More Fomo: Limiting Social Media Decreases Loneliness and Depression,Journal of Social and Clinical Psycholog y,Vol.37,No.10,2018:751-768.

⑦[美]凯斯·桑斯坦.信息乌托邦：众人如何生产知识[M].毕竞悦译，北京：法律出版社，2008：27.

⑧高志华、冯甜甜.媒体传播中智能算法的社会风险与治理策略研究[J].新闻研究导刊，2020（1）：77-241.

⑨董浩、骆正林、冯迪拉. 社交媒体时代舆论引导的圈层化困境及其破解之道[J].传媒观察，2020（3）：18-24.

⑩[美]安德鲁·芬伯格，技术批判理论[M].北京：北京大学出版社，2005：6.