人工智能时代新闻内容分发中的媒介伦理问题研究

2019-12-27何慧敏

新媒体研究 2019年21期

何慧敏

摘要智能媒体时代，人工智能技术广泛应用于新闻内容生产和分发，从自动化机器人写作到个性化推荐，机器人从事智能化新闻传播的形式不断变化，给传媒业带来巨大影响，极大解放媒介传播力的同时，也出现一些人机协作中的伦理失范问题。文章具体探究人工智能技术应用于新闻内容分发中出现的伦理失范问题，以及背后的原因，并进一步探讨人工智能技术促进新闻内容分发优化的实现路径。

关键词人工智能;媒介伦理;个性化推荐;新闻真实

中图分类号 G2 文献标识码 A 文章编号 2096-0360（2019）21-0004-05

2015年，今日头条在北京国家会议中心举办了“算术：年度数据发布会”，主题为算法。算法的精准推荐能力，使得今日头条在短短两年多的时间内拥有了2.2亿用户，每天有超过2 000万用户在今日头条上阅读自己感兴趣的文章。近年来，伴随着大数据、物联网、云计算等技术的蓬勃发展，人工智能已经深度融合新闻传播的方方面面，从用户画像到算法推荐，万物皆媒，人机共生的智媒时代已经来临。2017年3月的全国两会上，人工智能首次被写进《政府工作报告》，列为需要加快研发和转化的五大技术领域，人工智能获得前所未有的关注。但是，人工智能欣欣向荣的同时，出现了一系列与新闻价值观、伦理观相悖的问题，人工智能究竟存在哪些失范现象，背后的原因为何？

1 新闻内容分发中的人工智能

人工智能（Artificial Intelligence，简称AI），作为计算机学科的一个重要分支，是由McCarthy于1956年在Dartmouth学会上正式提出。学术界认为，它是一种能够模仿人类学习和解决问题过程的智能技术。目前人工智能技术已经广泛应用于媒介内容采集、生产、分发等多个环节，给传媒业带来颠覆性的改变①。其中传播的关键环节，内容分发阶段，人工智能的应用主要有三种形式。一是用户画像技术。人工智能通过大规模挖掘用户在社交网络、电子商务网站、浏览器等多方的使用数据，记录用户使用痕迹，搜索记录，从而进行标签刻画，推测出用户的喜好、兴趣倾向等信息，再根据画像给用户推荐其喜欢的内容。二是协同过滤推荐。主要找到用户相似兴趣喜好的用户群，向该用户群集中推荐相似内容，实现分众化传播。三是热度推荐。主要根据新闻内容的点击率，热度等综合排名，向用户推荐。也存在多种方式混合推荐，即把多种算法综合后进行推荐。

人工智能技术基于大数据云计算，不仅大大提高传统媒体内容分发的效率，更改变以往撒网式传播为精准传播，大众化传播演变为窄众化、分众化传播，大大优化用户体验，让新闻内容的分发更显人性化。虽然人工智能助力内容分发，积极意义十足，但是这种个性化推荐服务的背后却充满隐忧。

2 人工智能在内容分发中的伦理失范现象

约瑟夫·斯特劳巴哈、罗伯特·拉罗斯在《今日媒介：信息时代的传播媒介》中提出，媒介伦理是关于职业传播者在他们的行为可能对他人产生消极影响的情况下，应该如何行动的指导方针或者道德规则，主要围绕着准确性或真实、公平与处置责任、以及媒体主体的隐私②。国内学术界对媒介伦理范围亦有不同解释。第一种是“狭义说”，认为媒介伦理基本等同于新闻工作者的职业道德;第二种，认为媒介伦理研究不仅应包括媒介从业人员的伦理道德也包括媒介组织的伦理道德③。个性化推荐算法背后的算法工程师，也成为记者编辑之后，又一媒介伦理规范的主体。还有一种说法，认为今天人工智能技术下，新闻传播主体权利下放，受众有了更多内容传播的选择权，因此媒介伦理规范的对象还应有受众④。的确，虽然人工智能有效提升传播效率，优化用户体验，但也出现了诸多伦理失范现象。

2.1 新闻真实性的真空断层

人工智能技术对用户数据的大规模挖掘，碎片化整合，可以做到对用户的精准画像，对社会热点的整体描绘，甚至比“你自己更了解自己”。然而这种唯兴趣、唯热点的个性化内容分发的背后，却会让我们深深陷于信息茧房中。受众长时间接受自己兴趣内的内容，不去延展更多的认知需求，局限于自我的小圈子。媒体营造出李普曼所说的拟态环境。有限的内容、同质化的信息，受众缺乏对社会的整体认知，从而置身于新闻真实性的真空层中，极易出现认知偏差。

人工智能的推荐依据主要是数据的躁动，用户喜好的数据偏向，当时当地内容的点击率等。然而数据量遥遥领先的信息，看似主流舆论的内容，却呈现出客观性和热度之间的断层。社交媒体上传播广泛的往往是强烈呼吁情感和个人价值的噪声，是充满情绪化的声音。此类内容往往充满煽动性和冲击力，感性色彩浓厚更容易直击人心。因此精准量化数据的人工智能技术，此时便成为情绪化内容最广泛的传播者，促使广泛受众忽略事实真相，而关注真实背后的情绪。更多的媒体报道不是对客观事实的探寻，而是忙于迎合主流情绪，戏谑调侃，急于站队表态，众声喧哗下，真相未出，情绪先行。真相与谎言交织，新闻传播便呈现出“后真相”的独特景观。

关于后真相，2004年，美国传播学者拉尔夫·凯伊斯曾提出“后真相时代”的概念，认为“后真相时代”既存在着谎言和客观事实，也存在着一种介于两者之间的话语⑤。2018年9月发生的网红saya事件中，事件初始呈现出网红saya极端负面形象。微博名为@刺Ytt的杨女士爆料称，9月9日下午，怀孕32周的自己遭到saya未经拴绳的斗牛犬攻击，理论时狗主人不仅没有道歉，反而与其母亲对当事人辱骂、殴打、诅咒。网络上大量充斥着网红saya与其母亲强势理论的短视频。事实真相尚未曝光，网络几乎呈现出一边倒的态势，微博上多家专业媒体、自媒体、大V王思聪等发表谴责言论。诸如，网易“网红saya你犯错不道歉还打人的样子真丑！”，凤凰网“人前温柔，人后恶毒，网红saya有两幅面孔”。网民愤怒情绪集体强化，对于孕妇的关心，对于肇事嫌疑人的憎恶在人工智能的推荐下，席卷全网网络，而事实真相及前因后果却鲜少有人追溯。再如2019年1月29日咪蒙弟子杨乐多写作文章《一個出身寒门的状元之死》刷屏网络，被大量自媒体以及微博，今日头条等大型新媒体平台转发，阅读量超过10万+，文中讲述一位出身寒门的贫困学生逆袭考取理科状元，辛劳一生却最终染病去世的故事。文中大量渲染青年群体的生存压力和阶级局限，然而在算法推荐下，人们陷于文中人物“寒门教育”“状元”“胃癌”等悲剧现实，以及其中渲染的“好人不长命”等青年焦虑，纷纷感叹转发，有微博网友评论“寒门真的再难出贵子”“每个人努力活着，然而人间不值得”。然而对于文中人物的真实性，以及寒门学子客观的生存环境却欠缺查证，最终，咪蒙平台发布声明，承认文中内容均为杜撰。

2.2 选择偏见影响新闻客观性

美国传播学家麦库姆斯曾提出议程设置理论，高夫曼提出的框架理论，均认为媒介的客观并非绝对的客观，而是包含媒介价值观的相对客观⑥。虽然人工智能技术看似是理性机器与理性数据的结合，但是人工智能技术的算法依旧是人定义和搭建的，是具有一定媒介价值观下的算法，因此生产的内容同样具有媒体的价值导向。人工智能技术有自己的选择依据和标准，什么是可以传播的，什么是屏蔽传播的，都已经在算法的权重中有所体现，受众看到的是媒体呈现出的相对真实环境。在这样的算法偏见下，人们的视野容易受到局限，固有成见得到持续强化，意识形态更加固化。某些社会不平等现象、阶层偏见、地域偏见都会持续愈演愈烈。2016年3月微软的人工智能机器人在与网友进行交流回答时就出现了反犹太主义内容。而在网红saya事件的算法推荐中，集中呈现出对“网红”这一新兴网络形象的偏见。微博、今日头条等媒体对于此类新闻的推送中，“网红”一词多与“整容”“直播”“暴富”“丑陋”等词产生交集，诸如中国网报道“连网红之友王思聪都开怼了，这个网红saya到底有多丑陋？”等。而事件另一方孕妇形象较为正面，人工智能的推荐已然呈现出对于“网红”为这一网络经济衍生物的偏见。重庆万州公交事件算法推荐中，呈现出对“女司机”这一形象的偏见，诸多有关女司机危险驾驶的新闻集中出现，在网络上营造负面的女性“马路杀手”不良形象，新闻标题中“女司机”与“酒后驾驶”“急刹车”“殴打”“耳光”“违章”等词汇频繁交集，人工智能一定程度上扭曲了受众對于女司机形象的认识。

2.3 流量为先失去把关人职能

人工智能的个性化推荐以数据为尊，以流量为先。选择新闻内容主要依据点击量判定新闻的重要性，评论数判定新闻的重大性，传统内容传播过程中新闻编辑记者所承担的把关人职能降低。新闻价值评判标准也从原来的综合全面，变成以新鲜度、娱乐性占主体的单向度评判标准。未经核实的新闻信息被广泛传播，未经证实的谣言登上头条，大V们单方面的观点被当作主流舆论。机器自身缺乏新闻价值观念，新闻从业者的缺位，共同导致新闻传播中缺乏引导者。人工智能不加甄别的传播，往往会让错误的价值观念大行其道，以个人为中心的价值取向影响更多人，新闻专业主义精神将会受到影响。网红saya事件曝光后，微博中大量自媒体平台开始大量挖掘、报道事件的衍生事实，为了关注度和流量甚至编造虚假信息。诸如“网红殴打胎儿”“网红找水军、公关公司为自己洗白”等未经证实的言论频繁出现。重庆万州公交事件中，算法推荐多项不真实的新闻报道，诸如“红色小轿车逆向行驶导致公交避让不及”，将事故原因归咎于女司机驾驶经验不足、穿高跟鞋驾驶等原因。而后@平安万州官方微博发布通报，指出公交车突然越过中心实线，撞击正常行驶的轿车导致坠江，网络上出现“公交车司机凌晨5点还在K歌，导致开车睡着”等针对司机的不切实际的猜测。

2.4 新闻传播的社会责任缺失

新闻内容生产需要的不仅是迎合大众需求，创造商业收益，它还具有自身的公共性所在。新闻媒体的公共性要求新闻媒体要担负起一定的社会责任，关注报道重大的社会、政治议题，帮助每一个公民真实参与公共社会生活中，为社会制度的构建、民主的完善而发声⑦。然而注意力是媒体进行算法构建的主要依据。人工智能分发内容时更加偏取高热度关注、高转发可能的内容，却不考虑这些内容背后的社会价值。人们逐渐缺少对于社会公共事务的关注，对于真正影响自身的政治、法律议题漠不关心，失去一个公民真正的参与意识。而公民参与的丧失带来的将是少数人成为新的权力主体，新闻自由的意义也将受到影响。媒体缺位于腐败、丑闻等负面阴暗现象的舆论监督，缺少对历史、高雅文化内容的传播。媒体内容生产变得越来越局限，全民沉浸于媒体所提供的娱乐化视野中，最终极易发展为群体极化现象⑧。网红saya事件中，大量登上头条，曝光几率高的新闻内容更多集中于对殴打弱势群体，不遵守法律法规行为的报道和谴责，而对于事实背后，公民该如何遵守公序良俗，提升养狗人安全意识和自律意识，法律层面如何加强监管，建立健全文明养狗的管制条款，鲜少呈现。重庆万州公交事件中，@重庆发布公布事故原因，认定为该公交车乘客坐过站打骂司机，司机还手中导致车辆失控，认定乘客与司机承担同等责任。然而算法广泛推荐是同类型司机与乘客争执新闻，其中包括“乘客抢夺方向盘，司机飞踹乘客”“乘客打骂司机，乘客齐力控制”等渲染愤怒情绪的新闻内容，而对于如何从道德建设，法律法规完善层面，加强公交司机驾驶安全的话题，鲜少呈现。人工智能推荐下，更多是个人情绪化的非理性道德审判，而真正推动社会发展，影响每个公民的公共利益问题却失焦。

3 人工智能伦理失范的原因

3.1 过度数据崇拜消解价值批判

霍克海默曾提出，科学技术的发展成为了控制和统治人的技术理性⑨。而今天，人工智能技术数据处理的高效性，推荐目标的精准性，让传播者犹如有了上帝视角一般的透视镜，新闻分发都更加有据可依。与此同时传播者开始崇拜数据、崇拜人工智能这一技术理性，而传统传播方式中的新闻价值，人类自身对于新闻内容的批判性、否定性、革命性开始受到质疑，甚至消解了。

“寒门状元之死”事件中“殴打他人的富二代”“做假账的黑心老板”“权色交易”等渲染阶级歧视，展现不良竞争环境和虚假人物逆境的内容，由于触动网友悲观情绪和社会痛点，具有极高的数据流量而被大量推荐，然而如何解决人才流动阻碍，建立良性的人才竞争保障机制等社会议题却被忽视，人们的新闻环境更加闭塞单一，同质化内容拥挤视野，让人们看到碎片化、单向度的社会环境。人工智能渐渐开始从一个简单的技术手段，逐渐衍生为信息获取的控制者，丧失了独立批判性、革命性、一味顺从数据的人，成为思考单一单向度的人，最终沦为技术的奴隶。

3.2 过度精准投放消解信息的多元

人工智能技术利用其大数据挖掘和分析能力，获得对于用户的清晰认识，可以提升个性化传播能力，增加用户黏性，但是这种过度的精准却与多样化信息获知需求产生矛盾。

saya事件中，被片面事实影响的受众，达到情绪失控状态，更乐于接受与自身观点相似的内容，以证明自身观点的正确性。诸如网红saya的黑历史，saya打人视频，亲历者实证等内容。机器大量推送用户喜爱的内容，包括大量同质化、批判saya的言论。相似的传播主体，相似的传播语态海量聚集，让受众深陷局限、狭窄的信息洪流中，个人观点也逐渐极端化，单一化。不仅出现全网封杀saya的网络暴力现象，甚至还出现网友给saya爷爷寄花圈的极端事件。“寒门状元之死”事件中，算法大量推荐的是热度较高的情绪化负面内容，诸如“农村学生与城市学生的差距”“寒门出身的大学生普遍混的比较差”“不要和出身寒门的人结婚原因有五点”等，人工智能的同质化推荐下，受众极易产生对农村学子和贫困学生的歧视，对现代企业竞争机制产生误解，产生对家庭出身，贫富差距的错误看法，人工智能忽视用户多元化的信息需求，不仅造成同质内容的审美疲劳等问题。信息茧房效应的形成也是因为人工智能对于算法多样性的忽视，严重影响人们接受信息的平衡性，一定程度上影响具有思想深度和价值意义的小众化内容传播。

3.3 过度重视商业主义忽视公共利益

互联网经济时代，传播权力下移，受众自主性提高。如何获取受众注意力，换为广告收入，成为新闻媒体、内容平台竞争日渐加剧的关键。因此人工智能技术的算法设计背后深刻体现新闻媒体的商业逻辑。但是过于注重商业利益就会造成媒介引导力的缺失，导致需要注意力的公共性内容失焦。saya事件中，奉行商业主义的新闻媒体，强调媒体的经济和产业属性，新闻作为一种产品出售而尽可能达成利润最大化的目的。而吸引眼球的黄色新闻内容、标题党、虚假新闻现象大行其道。“saya的罪恶发家史”“saya整容前长这样”“斗牛犬的可爱动图”等，此类无价值的碎片化信息极易成为人们茶余饭后的谈资。重庆万州事件中，“女司机开车搞笑动图”“女司机连撞奥迪宝马”“女乘客打人的鬼畜视频”等边缘娱乐化内容喧宾夺主。寒门状元事件中，“凤凰男的性格缺陷”“一個农村学生的悲哀”“北大状元送外卖”“考上清华养猪男”等反差内容吸引眼球。

4 人工智能媒介伦理问题的应对策略

人工智能技术在内容分发过程中既充当推动者角色，但是也成为阻碍者，影响媒介新闻价值的实现以及社会责任的承担，让新闻真实性和客观性受到质疑。因此我们如何破解人工智能媒介伦理问题的迷局，还需要从多方着手。

4.1 强化智能化分发的多样性和平衡性

人工智能技术的内容分发策略是基于精准的用户画像和热度评估，因此要想改变这种“你喜欢的就是我推送的”模式，就需要丰富算法推荐系统。除了跟踪用户的搜索喜好偏向外，还需要多重考虑新闻内容的价值，报道方向、关键人物的重要性，影响范围的广泛性，内容的真实性、来源的权威性，论点的精度与深度，时效性等。增加算法评估体系的指标，让其更加精准评估新闻内容的质量，有效平衡新闻内在价值与用户喜好度之间的关系。提供用户多样化的内容和观点，以减少信息茧房效应的影响。真正实现新闻媒体的事实传播者，动态瞭望者使命，让受众通过新闻媒体，关注、聚焦、参与公共事务。

4.2 强化传播主体的把关职能

人工智能的海量数据分析虽然高效快捷，但是一旦信息源发生偏差，或者遭到恶意污染，则会导致更大面积的用户污染。另外，人工智能具有深度学习能力，因此一旦信源为价值观异化内容，则会导致内容价值导向失误。因此新闻从业者要界定清楚自己与人工智能的角色分配，明确主体责任。人工智能终究是人类搭建定义的，因此算法工程师、新闻编辑都有不可推卸的责任。新闻从业者不可一味依靠人工智能的推荐，自身要加强对内容的把关职责。包括新闻选择强化价值意识，重视其公共意义，另外新闻分发时要注重对内容真实性核实、不良信息的监督审查、观点取向的把关，对于不良舆论导向要及时控制纠偏，对常识性错误要及时修正。

4.3 强化受众人工智能媒介素养

人工智能技术的控制者不仅仅是媒介的算法设计者，还有广泛的受众主体。受众选择阅读什么，选择传播什么新闻内容，人工智能都会产生相应的反馈，因此信息茧房一定程度上也是受众单向度思考、选择的结果。因此，提高受众的媒介素养至关重要。多样化地获取信息，多元化思考，享受趣味化内容的同时选择丰富自我的知识水平，不局限于碎片化的浅层阅读刺激，更多追求深层次的精神陶冶，不为人工智能控制，不被算法限制视野，这才是人工智能时代真正的主人。

4.4 强化人工智能的多方监管

目前人工智能尚处于“弱人工智能”阶段，深度学习能还有极大的发展空间，但是我国缺乏针对人工智能技术相应的监管措施，关于人工智能的新闻职业道德界定不清，主体责任的承担者也不明晰。一旦人工智能发展到“强人工智能”阶段，其造成的问题更加令人担忧。因此我们需要强化人工智能技术的多方监管。首先是法律层面的监管，需要明确人工智能技术的使用范围及标准，确定失范现象的惩戒机制和手段。明确平台问责机制，严格要求平台承担算法的监管职责。另外需要加强第三方监督。应该强化算法的公开性，监管部门有权享有算法推荐标准的知情权，并参与制定算法标准，共同促进媒体商业利益与社会效益实现平衡。

5 结束语

当下，我们已经走进人工智能+传媒的时代，人工智能技术以多种形态作用于新闻内容分发环节。其卓越的感知、搜集、处理和分析能力辅助甚至主导着今天的媒体内容分发，大大推进新闻分发的快、专、精，也在推动着媒体的智能化转型。然而智能化生产初期，人工智能技术的应用尚有诸多问题所在，如何进一步提高人工智能技术在内容分发上的合理性，让其兼顾用户体验和公共利益，让传媒从业者更好地使用技术而非妥协于技术，更好地为精准化、风格化、个性化、场景化内容服务，促进严肃媒介伦理的回归，是我们需要深思的问题。

注释

①喻国明：《人工智能的发展与传媒格局变化的逻辑》，《新闻与写作》，2016年第2期，第1页。

②[美]约瑟夫·斯特劳巴哈，罗伯特·拉罗斯：《今日媒介：信息时代的传播媒介》，熊澄宇等译，清华大学出版社，2002版第431页。

③郑根成：《媒介载道——传媒伦理研究》，中央编译出版社，2009版第16页。

④张志安，刘杰：《人工智能与新闻业：技术驱动与价值反思》，《新闻与写作》，2017年第11期。

⑤Amy B. Wang，“‘Post- truthnamed 2016 word of the year by Oxford Dictionaries”. The Washington Post. 2016，NOVI16。

⑥Goffman，E，Frame analysis： An essay on the organization of experience.Boston，MA： Northeastern。

⑦严晓青：《媒介社会责任研究：现状、困境与展望》，《当代传播》，2010年第2期。

⑧张春华：《传媒体制、媒体社会责任与公共利益——基于美国广播电视体制变迁的反思》，《国际新闻界》，2011年第3期。

⑨马克斯·霍克海默，西奥多·阿道尔诺：《启蒙辩证法：哲学断片》，渠敬东，曹卫东译，上海人民出版社，2003年第53页。

参考文献

[1]胡正荣.智能化：未来媒体的发展方向[J].现代传播（中国传媒大学学报），2017（6）：1-4.