媒体智能化发展中的算法伦理问题窥探

【摘要】随着科学技术的发展，人工智能已经广泛运用于社会各个方面，新闻传播领域亦深受其影响，往媒介智能化的方向不断靠近。人工智能的发展，很大程度上都得益于算法和大数据，但是在关注算法和大数据带来的极大便利的同时，也要思考：算法作为技术赋权时代的一种权力，是否真的能更好地为社会提供服务？

【关键词】人工智能;媒体智能化;算法理论;新闻传播

中图分类号：TN92                     文献标识码：A                     DOI：10.12246/j.issn.1673-0348.2021.04..030

算法是解决特定问题的一系列操作步骤。但是，如果一个算法存在缺陷，或者在解决某种问题的时候有不足之处，那么这一种算法的合理性就要受到质疑。在媒介智能化飞速发展的这几年，空间复杂度与时间复杂度对人工智能的算法进行了考验，发现媒介智能的算法在伦理层面，存在着不可避免的问题。算法在媒体行业的一系列运用被称为“算法新闻”，那么“算法新闻”又存在着什么样的伦理问题？

1. “算法新闻”的伦理问题窥探

算法在被用来清晰、准确地完成待定任务的时候，既高效又准确的算法可能在理论上是好的算法，但是在道德上并非如此。算法在技术的帮助下形成的一系列逻辑语言，而这其中的逻辑并没有被赋予道德上的评判标准。孙保学认为， 人工智能算法伦理研究的内涵即为算法在道德上的可接受性问题。这种可接受性的价值导向会使研究者的兴趣和关注点主要聚焦于以下两类算法：人类很难预测其行为后果的算法， 以及算法造成的事实背后的决策逻辑难以解释的算法。

“算法新闻”的伦理问题表现在新闻生产的各个方面，本文在探究的过程中，借助学者多尔总结提炼的算法新闻的I-T-O框架，对媒介智能化过程中的新闻生产流程进行分析如图1：

在上图中所表现出的算法新闻的生产流程包括：输入、处理、生成。基于以上三种问题，在下文中，笔者对新闻生产的三个流程，从算法黑箱、算法偏见、算法道德合理性等几个角度，对新闻传播领域中，算法存在的具体伦理问题进行分析。

1.1 算法“黑箱”

“黑箱”是控制论中的概念。黑箱理论，是指对特定的系统开展研究时，人们把系统作为一个看不透的黑色箱子，研究中不涉及系统内部的结构和相互关系，仅从其输入输出的特点了解该系统规律，用黑箱方法得到的对一个系统规律的认识。算法的“黑箱”主要表现在数据的处理过程中。

根据精准定位，因为你是谁，才能决定推荐什么样的信息给你，而这个逻辑任务是在“黑箱”中完成的。提到精准定位，“今日头条”不得不谈。“今日头条”因为其精准推送备受大众的关注，它能够对读者浏览过的信息的内容、时长、类型等做精准分析，而后对用户进行其可能感兴趣的内容的推送，这也就是所谓的“算法分发”。“今日头条”在它的内容分发过程中做到了“千人千面”，即没有两个人会收到完全一样的信息，它的信息推送的核心就是算法。在这里，算法程序和工作原理作为知识， 被集成于某种框架之中，对开发者、设计者而言是已知的知识，对受众或用户则构成了一个“技术黑箱”。

技术使得这种精准推送成为可能，人工智能技术可以做出很多复杂的决定， 但开发人员却很难识别或解释其决策背后的逻辑原理， 在其输入层与输出层之间的“黑箱”是不透明的，那么它所导致的后果是没有办法预测的。算法的“黑箱”之所以难以被打开，是因为它本身就是在一个不透明的环境中完成的，复杂的逻辑运算、牵涉多方面的隐私等问题让这个“黑箱”越发神秘。

1.2 算法的道德合理性

现阶段人工智能的算法存在着很多道德问题。因为其算法模拟的是人脑的工作模式，系统非常复杂，所以目前还没有明确的数据存储或者分析的方式。所以在道德上，存在缺乏人文关怀、数据安全受到威胁等问题。数据安全主要存在于数据的输入阶段，缺乏人文关怀主要存在于算法新闻的生成阶段。

算法的道德物化在于积极主动的把道德规范放到算法当中，使算法在帮助人们解决问题的时候能够发挥更大的作用。新华社推出的AI主播，腾讯的机器人写作，都是“人工智能+媒体”的巨大尝试，这样的创新无疑在很大程度上激发了市场的活力。但是我们必须要去探究算法推荐到底能否去判断事件的真伪，同时技术的垄断在不断加强行业内部的知识鸿沟上的问题。

AI主播是在模拟真人的基础上而形成的。它通过语音合成、唇形合成、表情合成以及深度学习等技术，克隆出具备和真人主播一样播报能力的“AI合成主播”。它的出现一时间在行业内掀起了轩然大波，但是技术毕竟是冷冰冰的逻辑与数据，AI主播在快捷、高效的同时，并没有形成鮮明的个性。它不存在人文关怀，新闻的确是理性的，但是一切理性的都是建立在对世界的关照之上，新闻的理性的背后存在着新闻工作者的价值判断和情感积淀。从道德的角度来判断，AI主播作为电子的复制品，对人类直播的魅力与个性，始终望其项背。

与此同时，数据安全问题也备受关注。算法的精准定位是建立在对受众已接受信息的分析的基础上，也就是说，在整个算法新闻生产的第一步，数据的输入阶段，是建立在对信息的完全掌握的基础上。我们在下载某一个新闻客户端时，它会对我们的地理位置、兴趣爱好等各方面做全面调查，这已经是数据安全隐患的开始了。2018年，英国“剑桥公司分析事件”震惊了世人，大量的数据泄露让用户感到害怕。它暴露出了在数据便利的时代，我们的隐私能非常轻易地泄露出去，数据安全受到极大的威胁。

1.3 算法偏见

因为算法的不断突破，机器才能像人一样智能，才能独立于人类的干预，为人类提供帮助。算法运用的是数字、程序的逻辑来完成命令的，所以很多人对算法的信任程度比较高，认为某种程度上这是一种公平、理性的象征。可事实并非如此，算法是存在偏见的，而且是人为的偏见。算法决策可以再现已有的社会歧视模式， 继承先前决策者的偏见从而加深流行的不平等。

算法是人为设计的，人根本不可能是客观的存在，因此算法必定不会是绝对客观的。

3. 解决算法伦理问题的建议

算法伦理问题的显露一方面体现出技术的不成熟，技术主导下形成的新的新闻生产模式，在初期必然会遭遇很多问题;另一方面，也在不断警醒社会和相关从业者，要防患于未然，同时为已经出现的问题寻求合适的解决方案。在这一部分，笔者结合当下实际，从上述问题从两个方面对算法的伦理问题给出建议。首先，加强学科间的交流，打破技术壁垒。算法黑箱问题带来的算法不透明、信息隐患等问题，从根本而言，就是技术上的不足。笔者在上文中提到的很多问题只有在强有力的技术保障下才能解决。学科间的交流是为了打破技术壁垒，但是又不仅仅体现在技术层面，伦理学、法学等相关领域的介入，可以为建立更好的算法环境提供逻辑和实际上的可能性。其次，加强法律法规建设，提高从业人员道德素养。面对人工智能技术的介入而引发的伦理问题，不仅需要从业人员提高专业素养，完善相关法律法规建设也是非常有必要的。要通过法律和道德的双重约束为算法的有效实行提供良好的社会环境。

加强法规建设分为两类，一方面是加强对算法本身的监管。算法因其复杂性和多重性，在管理上存在许多漏洞。针对这一点，可以根据每一种类别的不同而制定相应的法规，从法律上来进行约束。另一方面是对从业人员的法律约束，技术本身是存在界限的，只有少数人掌握了技术，对这一类人的要求也至关重要。道德的建设是对人意识的提升，算法的伦理问题的解决离不开专业人员的伦理意识。国外有些大学也已经开展相关领域的课程，国内也要多向优秀的同行学习，借鉴。

4. 结论

算法新闻是技术发展过程中的必然，随着科技革命的不断深入，会不断有新的、更为前沿的技术出现，并被运用到各个行业。每一种新的技术的出现到广泛运用，都会对原有的机制产生巨大冲击。“算法新闻”在它不断发展和被接受的过程当中，已逐步融入主流科技领域，成为传统媒介的外延。这样的热度会持续多久，其中所涉及的伦理问题是否能被及时解决，接下来的行业研究领域是否会是以“算法新闻”为契机，往更加精准的方向发展，都是需要我们不断关注并研究的课题。

参考文献：

[1]莫宏伟.强人工智能与弱人工智能的伦理问题思考[J].科学与社会，2018，8（01）：14-24.

[2]李伦 刘梦迪 胡晓萌 吴天恒.智能时代的数据伦理与算法伦理[J/OL].大连理工大学学报（社会科学版），2019（03）[2019-05-02].https：//doi.org/10.19525/j.issn1008-407x.2019.03.015.

[3]王茜.打开算法分发的“黑箱”——基于今日头条新闻推送的量化研究[J].新闻记者，2017（09）：7-14.

[4]熊敏.内容智能分发平台对新闻传播的价值创新分析——以“今日头条”为例[J].编辑学刊，2017（02）：94-99.

[5]楼建坤，陈泽玺，国秋华.算法的把关研究——以今日头条App为例[J].新媒体研究，2017，3（17）：18-20.

[6]尚帥.传播的兴趣偏向和浑然不觉的符号暴力——基于《今日头条》的算法控制研究[J].现代传播（中国传媒大学学报），2018，40（10）：58-62.

[7]周信达.从人工智能的应用尝试看新闻业的未来趋势——以AI合成主播为例[J].青年记者，2019（09）：71-72

[8]张帜.智媒时代对新闻生产中算法新闻伦理的思考[J].海南大学学报（人文社会科学版），2019，37（02）：70-78.

[9]方师师.算法机制背后的新闻价值观——围绕“Facebook偏见门”事件的研究[J].新闻记者，2016（09）：39-50.

作者简介：丁悦，新疆伊犁，硕士研究生，单位山东大学新闻传播学院，研究方向文化传播。