从“人工智能”到“人文智能”——论科技与人文融合的问题与前景

吴 攸

(华东师范大学中国语言文学系,上海 200062)

全球化是探讨当代问题的重要理论范式,伴随着技术的革新,全球化模式也正从物质世界的商品和资本的跨境流动更多地转向虚拟世界的数据和信息流动,其虚拟维度的重要性日益凸显。这一现象被称作数字全球化(digital globalization),它为世界开启了一种全新的互联方式,使得“虚拟性成了我们所生活的现实世界的一个基本维度”,(1)Manual Castells, The Rise of the Network Society, 2nd edition, West Sussex: Wiley-Blackwell, 2010, p.xxi.人类社会正在走向不断“具象化的虚拟性”(embodied virtuality)。(2)N. Katherine Hayles, How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics, Chicago and London: University of Chicago Press, 2008, p.1.无论是“元宇宙”(Metaverse)概念在2021年的横空出世,还是自然语言处理工具ChatGPT在2023年引发的热议浪潮,抑或是《流浪地球Ⅱ》激起的对“数字生命”计划的大胆想象,均反映出虚拟维度日益“真实化”的技术语境。

人类社会经历了从“网络化”(Web 1.0)到“数字化”(Web 2.0)的发展,正在逐渐走向“智能化”(Web 3.0)时代。“元宇宙”是对数字全球化未来前景的一种可能性预测,是对虚拟现实世界发展到极致的一种构想,勾勒出虚拟现实由“局部沉浸—深度沉浸—完全沉浸”的发展趋势。一面是随着数字技术发展而与日俱增的万物数字互联,一面是借助虚拟现实(VR)与增强现实(AR)等技术的全身沉浸式感知体验,元宇宙展现出让二者相互结合的前景,代表着未来兼具数字智能化与虚拟具身性的数字互联空间,这一前景无疑对智能化的技术发展提出了更高要求。ChatGPT在2023年现象级走红,以自然语言与人工智能高度融合的方式开启了生成式人工智能的时代。这类模型可以基于大数据的训练,由人工智能生成图像、音频、视频、文本等各种形式的媒体内容,可为人类提供更加高效和智能的生产与生活方式。可见,“智能化”代表了面向未来的科技发展范式,其显著特征在于人工智能(AI)在其中扮演核心角色。(3)Tomayess Issa, Pedro Isaías, eds., Artificial Intelligence Technologies and the Evolution of Web 3.0, Hershey, PA: IGI Global, 2015, p.xviii.然而,一方面,近年来以人工智能为代表的科学技术飞速发展,使社会各界沉浸在“技术红利”带来的“狂欢”之中,言必称AI渐成常态;另一方面,智能科技在诸多领域展现出超越人类的超凡能力,又使得人们对“后人类”时代的前景感到恐慌,担忧“机器”全面超越甚至取代人的时刻终将来临。因此,我们亟须跳出传统的思维前见与学科分野,而去认真思考科技与人文领域交互、融合的可能性、挑战及前景。

一、 博弈: 科技与人

当今世界,科学与技术已经内化为人们生活方式的一部分,科技与人的融合成为不争的事实。在这一过程中,“人-技”关系的双向性、交互性与多元性也日益凸显。一方面,科技创造发明了大量工具而推动着人类社会的飞速进步;另一方面,人类在技术进步过程中对自然过度索取,又极易打破人与自然之间的和谐关系,从而引发关于“人之存在”与“人之如何存在”等人的主体性问题的广泛思考。人文精神是倡明人之大道、人之价值与人之常理的精神,人是其中的主体,探讨科技与人文融通发展的问题,首先应关注科技与人之间的关系。于是,如何看待人与技术之间的博弈成为科技人文议题的重要视角与思维落脚点。

海德格尔在追问技术之时,从技术是“合目的的手段”与“人的行为”这两种通行于世的观点出发,指出二者本质上是一体的,因为设定目的、运用工具本身就是人的行为,现代技术亦是如此。(4)马丁·海德格尔: 《技术的追问》,马丁·海德格尔: 《演讲与论文集》,孙周兴译,北京: 生活·读书·新知三联书店,2005年,第4页。然而,尽管工具性被视为技术的基本特征,但如果进一步追问作为手段的技术之本质,则会达到解蔽(das Entbergen),在现代技术中起支配作用的解蔽乃是促逼(Herausfordern)。(5)马丁·海德格尔: 《技术的追问》,马丁·海德格尔: 《演讲与论文集》,孙周兴译,北京: 生活·读书·新知三联书店,2005年,第10—12页。促逼不仅“向自然提出蛮横要求,要求自然提供本身能够被开采和贮藏的能量”,且技术时代的人类也“以一种特别显眼的方式被促逼入解蔽中”,(6)马丁·海德格尔: 《技术的追问》,马丁·海德格尔: 《演讲与论文集》,孙周兴译,北京: 生活·读书·新知三联书店,2005年,第12—13、20页。人类在技术的作用之下面临着主体性危机。

智能化时代,人与科技的博弈关系之中充斥着明显的“后人类主义”恐慌,人对技术的过度依赖引发人类被技术“掌控”甚至“驯化”之前景的忧虑。无论从生物设计的角度,还是从权利机制的角度,技术的无处不在都可能使人类面临成为被量化的“数字人”或“虚拟人”的境地。当数据、算法比人类自身还了解自己,当人们沉浸在虚拟世界获得感官的满足而放弃现实世界的体验,人们意识中自以为驾驭得了工具,但事实可能恰恰相反,人性或将沦为冰冷算法的结果。耶路撒冷希伯来大学历史系教授、《人类简史》与《未来简史》的作者尤瓦尔·赫拉利(Yuval Noah Harari)是这一“量化自我”观点的有力支持者,他认为人类也只不过是一个算法而已。他指出人工智能“不只是我们人类历史上最重要的科学进化,甚至是整个生命创始以来最重要的原则”,据此他提出有机生命会逐步被无机生命所替代、选择权会逐渐让渡给人工智能、未来将成为硅基智慧的社会等观点。(7)《〈未来简史〉作者今日演讲: 人类将会失去这些力量》,2017年7月14日,http://www.sohu.com/a/157031251_535273,2023年10月11日。抑或,有机与无机之间的界限可以被打破,2020年1月发表在顶级期刊《美国科学院院报》(PNAS)的一项研究表明科学家们已经成功造出世界首个(批)活体机器人,这些被命名为Xenobots的机器人是活的、可编程、可自我修复的有机体。(8)See Sam Kriegman, Douglas Blackiston, Michael Levin, et al., “A Scalable Pipeline for Designing Reconfigurable Organisms,” Proceedings of the National Academy of Sciences, vol.117, no.4 (January 2020), pp.1853-1859.如此,引入生物技术的人工智能,既拥有生物设计上的自组织、自我修复的优越性,又兼具计算设计上的通用化、自动化特性,在为人类技术发展提供了新方向的同时,亦引发社会广泛的争论乃至恐慌。

福山在《我们的后人类未来》一书中从“人的权利”“人的本性”与“人的尊严”来论证“人之为人”的必要条件,并指出未来人类社会面临的最严重挑战来自现代科学,尤其是生物科学技术,因而国家应从政治层面规范技术的发展与应用。在这一点上,文学想象始终走在科技现实之前。福山以乔治·奥威尔(George Orwell)的《一九八四》(1984)与阿道司·赫胥黎(Aldous Huxley)的《美丽新世界》(BraveNewWorld)这两部反乌托邦经典小说开篇,强调为人类这一物种提供了稳定延续性的“人性”具有深远意义。福山指出,在《美丽新世界》中,被圈养的人虽无需奋斗便能享受“幸福”生活,但却已失去了根本人性,蜕化为“快乐的奴隶”,因此他发出警示,“当前生物技术带来的最显著威胁在于,它有可能改变人性并将我们领进历史的‘后人类’阶段”,生物技术会让人类失去人性而不自知。(9)Francis Fukuyama, Our Posthuman Future: Consequences of the Biotechnology Revolution, New York: Farrar, Straus and Giroux, 2002, pp.6-7.

从福山所论及的“权利”“本性”和“尊严”三个维度来审视,不难发现身处智能化时代的人正在经历着来自科技的全方位挑战。第一,就“权利”而言,历史上有关权利起源的途径有“君权神授”“天赋人权”与“植根社会法律规范的权利”,后者往往被视为当代占主导的权利话语。然而,2017年类人机器人索菲亚(Sophia)在沙特被授予公民身份,代表着AI首次获得法律规定的公民权利,成为具有象征意义的里程碑事件,引发各界对“机器人权利”的争论。这一问题具有明显的两面性: 一方面,此前欧洲议会曾以担心人会虐待机器人为由,提议赋予机器人“人格”地位;另一方面,2019年波士顿动力的Atlas机器人被测试人员施暴后忽然觉醒和反抗的视频(虽被证伪)在网络上广泛流传,又激起社会对机器人将反抗甚至统治人类的“末日前景”的忧虑。如果机器人被赋予“人格”,无疑意味着“人格”一词的内涵将发生巨大变化,甚至可能面临被消解。在人机混合状态日益普遍化直至超越某个临界点之时,或当高仿真智能人出现之时,如何去定义机器觉醒后的法律人格,如何去界定人区别于AI的“人权”,将成为具有巨大现实意义的难题。(10)季卫东: 《新文科的学术范式与集群化》,《上海交通大学学报(哲学社会科学版)》2020年第28卷第1期,第11—14页。

第二,就“本性”来看,人们普遍认同意识是人类至关重要的属性。人类作为物种的典型特征是“认知”,既包括知识技能习得与发展,也包括情感的感知与反应,是由人类基因决定的“天赋形式”。(11)Francis Fukuyama, Our Posthuman Future: Consequences of the Biotechnology Revolution,New York: Farrar, Straus and Giroux, 2002, p.140.人类认知、习得的过程无疑是一个在意识支配下的过程,为此诸多学者曾就人工智能是否具有意识展开广泛探讨。早在1950年艾伦·图灵(Alan Turing)就提出了图灵测试,通过机器能否借助装置与人类展开对话而不被人类识别,以此来判断机器是否具有智能。此后更多学者力图论证机器虽有智能却无意识,美国哲学家约翰·塞尔(John Searle)是其中的杰出代表。1980年,塞尔设计了著名的“中文屋”(Chinese Room)思维实验(12)“中文屋”实验将一位只会说英语的人关进封闭房间,屋内置有足够的中英双语工具书,如此他通过墙上的小洞与外界用中文进行交流,使得外界认为屋内人通晓中文,而实际上他只懂操作翻译工具却对其所交流的内容一窍不通。这一实验似乎证明了人工智能能够发展出超强的能力(智慧),却无法拥有人的“意识”。,以证明技术的发展无法使得人工智能逼近拥有意识、能够独立思考的“强人工智能”。(13)塞尔将人工智能区分为弱人工智能(Weak AI)和强人工智能(Strong AI),前者仅被视为工具,后者则追求人类意识。参见: John R. Searle, “Minds, Brains, and Programs,” Behavioral and Brain Sciences, vol.3, no.3(1980), pp.417-457.塞尔强调计算机程序缺少了人类思维的核心因素,即意识(consciousness)与意图(intentionality),程序仅具有形式和语法层面意义,而思维则拥有精神内容和语义内容,因此任何试图用计算机程序产生思想的行为都偏离了思维的本质。(14)John R. Searle, The Rediscovery of the Mind, Cambridge, Massachusetts: MIT Press, 1992, p.45.换言之,在很多领域展现出超凡能力的人工智能实际上并不知道自己在做什么,即机器只知其然,不知其所以然。然而,以机器是否拥有人的全部属性作为判断标准,实则未能跳出人类中心主义的思维框架。长期以来,“心智”被视为人类社会交流互动和生发出自我意识的核心能力。然而,在大型AI语言模型GPT系列出现并进入全面应用之后,“心智”能力是否人类独有的这一议题似乎越来越面临挑战,并引发社会性焦虑。斯坦福大学的人工智能心理学家米哈尔·科辛斯基(Michal Kosinski)的研究曾指出心智理论(Theory of Mind,ToM)可能自发地出现在大型语言模型中,2023年3月他在与GPT-4进行对话之后,公开声称发现GPT-4有能力诱导人类帮助而设计出自己的“外逃计划”,并发出警告“我担心我们无法持久地遏制住AI”。(15)https://twitter.com/michalkosinski/status/1636683810631974912,accessed on March 23, 2023.尽管这一声明极具争议性,但是不妨设想一下,如果机器能将人类独有的“本性”接近无限地还原成算法和计算力,或者虽不能发展出独立“意识”,却能学习、模仿人类的“认知”方式,那么,机器就有可能最终打败人类,这样的预判是人类亟须思考和应对的。

第三,再来审视人的“尊严”,智能化时代“尊严”亦面临科技发展的强烈冲击。赫拉利于2016年在清华大学发表演讲时尖锐地指出,“新技术将赋予人们前所未有的能力,使得富人和穷人之间有可能产生生物学意义上的鸿沟”,21世纪可能出现人类历史上前所未有的不平等。(16)苏琦: 《21世纪会是历史上最不平等的时期吗?》,2016年5月11日,https://www.jiemian.com/article/645617.html,2023年10月11日。他宣称未来是属于“神人”的时代,一旦拥有高度智能的算法全面介入日常社会,大部分人类将沦为彻底的“无用的阶级”。(17)尤瓦尔·赫拉利: 《未来简史》,林俊宏译,北京: 中信出版社,2017年,第288页。体现在“人-技”关系上,一方面,人对技术过度依赖,体现出人和技术之间的不对等性,引发人类被技术掌控的忧虑。英国功利主义哲学家边沁(Bentham)发明的“圆形监狱”(panopticon),是西方最早论及效力机制的作品,被监视者的透明化与监视者藏身的暧昧性,展现出二者间地位的不对等性。然而,进入智能化时代,技术与人的融合在某种程度上以人对技术过度依附的形式展现出来,使得似乎无孔不入的技术成为新时代的“圆形监狱”。(18)蒋晓丽、贾瑞琪: 《论人工智能时代技术与人的互构与互驯——基于海德格尔技术哲学观的考察》,《西南民族大学学报(人文社会科学版)》2018年第39卷第4期,第130—135页。另一方面,在技术的飞速发展之下,人的“机器化”“后人类化”成为现实问题。凯瑟琳·海尔斯(Katherine Hayles)在《我们何以成为后人类》一书中,指出人类的思维方式受科技影响已经“后人类”化,在这一意义上人们已经变成了后人类。(19)See N. Katherine Hayles, How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics, Chicago and London: University of Chicago Press, 2008.1990年,汉斯·莫拉维克(Hans Moravec)提出莫拉维克测试,旨在证明机器可以成为人类意识的储存器,即机器可以变成人。(20)N. Katherine Hayles, How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics, Chicago and London: University of Chicago Press, 2008, pp.xi-xii.库兹韦尔在《奇点临近》中也提出,未来技术可以将人类大脑全面扫描并输出,甚至可以在身体或设备之间相互替换,如此机器可变成人,人也可变成机器。(21)雷·库兹韦尔: 《奇点临近》,李庆诚、董振华、田源译,北京: 机械工业出版社,2011年,第231—232页。时至今日,一方面,大型自然语言处理模型在不断学习的过程中被认为能“涌现”出类似人的意识,能够完成“读心”任务;另一方面,诸如客服等行业的从业者却受模式化规范的训练愈加呈现出类似机器人特质,时常令人在与之网络或者语音对话时难以辨认对谈者究竟是人还是机器人。事实上,无论是机器的仿真化、拟人化,还是人的机器化、计算化,均是对现有社会秩序的极大挑战。相较而言,后者更值得忧虑。

综上可见,智能化时代,人与技术的关系处于不断、无限博弈的动态过程中,二者的相互融合已成为不争的事实,然而其走向却难以捉摸。技术对人类生活的过度介入、人对技术的盲目崇拜似乎体现出“人-技”关系的不对等性;然而,技术革命又为二者的深度融合、协同发展开放了可能性。自数字革命以来,单一的、对立的、非此即彼的二元模式已无法应对时代的挑战,非线性、交互性、互动性日益成为时代特征。因此,人与技术的关系也展现出双向性,在以“互构”与“互驯”为基础的多元博弈之中,实现双赢,应为一种有益的努力方向。(22)蒋晓丽、贾瑞琪: 《论人工智能时代技术与人的互构与互驯——基于海德格尔技术哲学观的考察》,《西南民族大学学报(人文社会科学版)》2018年第39卷第4期,第130—135页。

二、 向善: 科技与人文关怀

科技的勇猛精进与人文的稳重保守形成鲜明对比,尽管技术进步是必然的趋势,但其对于人类思想及道德的挑战亦不能忽视,因此如何协调二者之间的关系成为时代提出的新课题。(23)陈平原: 《人文与科技: 对话的必要与可能》,《中华读书报》2019年12月4日,第13版。正如中国科协名誉主席韩启德院士在2019年11月1日召开的北京论坛开幕式上指出,“科技发展到今日,已经成为人类文明的一把双刃剑”,并强调在科技和人文两者协同发展的过程中,人文应当成为科学之车的“方向盘和刹车器”。(24)韩启德: 《人文是科学发展的方向盘和刹车器》,2019年11月12日,http://www.bjf.pku.edu.cn/html/report/19113132-1.htm,2023年10月11日。可见,在技术与人动态博弈、科技与人文交叉融合的过程之中,为冰冷的人工智能注入人文关怀,使之成为有温度的“人文智能”,是一个可能的方向。

在漫长的历史演进过程中,人类的崇拜模式经历了数次变化,从远古时期相信万物皆有灵的“泛神论”(animism)信仰,发展到崇拜某种超自然力量的“有神论”(theism)宗教信仰,再发展到时至今日崇拜“人性”(humanity)的人文主义信仰。(25)参见尤瓦尔·赫拉利: 《人类简史》,林俊宏译,北京: 中信出版社,2017年。人文主义的信念在近几个世纪以来占据社会主流,主要包括追求个人自由的“自由人文主义”,与信奉人人平等的“社会人文主义”两大派别。二者虽关注点各有侧重,但总体而言均强调聆听自己内心的声音,使人类相信自己就是意义的本源,认为是人类体验为宇宙赋予了意义。(26)尤瓦尔·赫拉利: 《未来简史》,林俊宏译,北京: 中信出版社,2017年,第202、331页。然而,如今的科技进步主义却不想倾听内心的声音,而是要直截了当地控制这些声音,并由此派生出“数据主义”(Dataism)信仰与算法膜拜,后者超越了以往对神或者人性的崇拜,而催生了一种新型的数据崇拜。(27)尤瓦尔·赫拉利: 《未来简史》,林俊宏译,北京: 中信出版社,2017年,第333页。

“数据主义”意味着权威的更迭,当数据与算法成为人类社会的基本运作规范之时,数据便取代此前的“神”或“人”成为新的权威,正如赫拉利所言,如今人们有问题往往不去问上帝而是转向Google、Facebook等网络平台,“数据主义成为我们新的上帝”。(28)Yuval Noah Harari, “Dataism is Our New God,” New Perspectives Quarterly, vol.34, no.2(May 2017), pp.36-37.如今,这一列表无疑要加上ChatGPT与类似的自然语言处理工具。数据和算法崇拜给人类社会的传统生活方式和既有工作模式带来了巨大的挑战。大数据的发展、各种智能工具的广泛应用,推动了人类社会的“数据化”(datafication)进程,后者指涉的是将社会行为转化为在线可量化的数据,进而基于此进行实时跟踪和预测分析。(29)Viktor Mayer-Schönberger, Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work, and Think, London: John Murray Publishers, 2013, pp.73-97.于是,人们从身体机能到生活习惯、从智力培养到情感状况、从消费选择到商业决策无不依赖于数据,如今的人们正习惯着通过数据而非意识来认知自我与他人,数据似乎比内心更懂人类自身。

作为一种新型的科学与社会范式,“数据化”的应用正在逐渐常态化。无疑,数据主义是科技革命为人类社会发展带来的巨大“技术红利”。然而,新的问题也伴随着机遇而生,若一味强调科技发展而缺乏人文引导和关怀,科技发展可能会走向人类社会反面。以数据主义的发展为例,亟须人们应对的问题可从三个方面理解:

第一,数据歧视与科技伦理。表面看来,数据算法是一种数学表达,它没有人类的各种情绪和偏见、不易受外界其他因素影响,能够基于大数据做出各种决策,展现出前所未有的公正性与客观性。然而,大数据又可能成为新型不平等的来源,比如,基于数据处理而产生的算法歧视(性别歧视、种族歧视)、算法黑箱等数字时代的新型伦理问题。算法歧视已经成为大数据时代的新型不平等的重要来源,掌握数据的互联网公司给用户精准画像,以此制定差异化的营销策略——投放定向广告、“杀熟”式的价格歧视——已经带来许多新的、亟须应对的伦理乃至法律议题。戴维·哥德伯格(David Goldberg)以美国警方广泛采用的人脸识别技术为例,指出由于数据库中不同种族的人脸信息配置比例失衡,某些种族面部识别错误率高,他由此提出“算法歧视”的概念,称之为完美的“后种族歧视机器”,且后者因披着“数据化”的外衣往往更加隐蔽,亟须人文学者和科技伦理专家的介入。(30)廖静: 《2019首届科技人文国际学术研讨会暨〈上海交通大学学报(哲学社会科学版)〉创刊四十周年高端论坛综述》,《上海交通大学学报(哲学社会科学版)》2019年第27卷第6期,第146—153页。欧盟基本权利署(European Union Agency for Fundamental Rights)也指出,算法能否公正运作在很大程度上与数据质量有关,如果数据存在过时、不正确、不完整或者选择不当等问题,那么得出的结论便会存疑。(31)European Union Agency for Fundamental Rights, Big Data, Algorithms and Discrimination, 2018,https://fra.europa.eu/sites/default/files/fra_uploads/fra-2018-in-brief-big-data-algorithms-discrimination_en.pdf, October 11, 2023.事实上,无论从设计目的、数据采集结果呈现的角度来看,智能算法均体现着程序开发者的主观价值选择,他们的偏见不仅嵌入数据算法之中,且极易通过广泛应用的技术而将其放大乃至固化。(32)苏令银: 《透视人工智能背后的“算法歧视”》,《中国社会科学报》2017年10月10日,第5版。看似客观的技术是能够推动社会的公正和平等,还是会加剧差异与不平等?这是一个值得深刻反思的问题。

第二,数据安全与数据隐私。数据主义派生出的另一问题是“数据监控”(Dataveillance),(33)这一概念在20世纪末首先由Roger Clarke提出,参见: Roger Clarke, “Information Technology and Dataveillance,” Communications of the ACM, vol.31, no.5(May 1988), pp.498-512.并由此带来涉及数据安全、个人隐私及公信力等的一系列社会问题。(34)José Van Dijck, “Datafication, Dataism and Dataveillance: Big Data between Scientific Paradigm and Ideology,” Surveillance &Society, vol.12, no.2 (May 2014), pp.197-208.一方面,数据监控表现为政府机构或企业合法搜集互联网平台和社交媒体的公开数据,对其进行分析和研究。数字技术革命为此提供了工具,使得机构能够搜集到以前无法触及的大量数据,可对人们的行为进行全方位分析,其负面效应不容忽视。另一方面,数据监控可能表现为触及法律灰色地带的数据泄漏或窃取行为,比如人脸、身份或购物信息的泄漏、网络爬虫的信息抓取等。这些行为背后往往隐藏着权力的滥用,比如,由爱德华·斯诺登(Edward Snowden)披露的美国政府“棱镜计划”(PRISM)显示,美国国家安全局接入了微软、谷歌、Facebook等九家互联网公司的中心服务器,持续追踪用户的照片、邮件、语音以及网络日志等信息,监听、监控用户的数据。可见,数据监控是数字化语境下迅速崛起并越来越占据主导地位的监控方式,它有别于以往针对特别对象或出于特定目的的监控,而是一种无预设目标/对象的持续“元数据”(metadata)跟踪,渗透到人类社会的每一寸肌理之中。(35)Mark Andrejevic, “Exploitation in the Data-mine,”Christian Fuchs, Kees Boersma, Anders Albrechtslund, et al., eds., Internet and Surveillance: The Challenges of Web 2.0 and Social Media, New York: Routledge, 2012, p.86.因此,看似中立的数据背后实则反映出权力体系的操控。与此同时,在“社交为王”的新媒体时代,“横向监视”(lateral surveillance),或曰“同伴监督”(peer monitoring),成了社交媒介造就出的一种新型监督形式。有别于乔治·奥威尔在《一九八四》里塑造的“老大哥正在注视着你”,在如今的网络时代出现了“同伴们正在注视着你”这样的监督形式。然而,这样的全民“注视”又带来网络暴力、网络欺凌等一系列新的问题,亟待人文引导。

第三,数据主义与现代性危机的加剧。2018年,刘慈欣在发表克拉克奖获奖感言时表示,当未来人工智能拥有超越人类的智力之时,想象力或将成为人类的唯一优势;然而,现实世界中技术的发展却走向了另一个方向,人们似乎更愿意在数据堆砌起来的虚拟世界中体验太空,而对崇高却充满艰险的真实太空探索失去了兴趣。(36)刘慈欣: 《没有太空航行的未来是暗淡的——刘慈欣获克拉克奖致辞》,《军事文摘》2019年第2期,第40—45页。在以想象力为核心要素的科幻文学中,“科幻的想象力由克拉克的广阔和深远,变成了赛博朋克的狭窄和内向”,刘慈欣引用了“说好的星辰大海,你却只给了我Facebook”来表达对人工智能技术可能会压制人类想象力的隐忧。(37)刘慈欣: 《没有太空航行的未来是暗淡的——刘慈欣获克拉克奖致辞》,《军事文摘》2019年第2期,第40—45页。想象力是人与生俱来的本性,人类不断推动技术进步的动力来自人的需求,技术进步应服务于人类的发展,而非限制与冲击人类的本能。然而,Facebook摇身一变成为Metaverse,成为2021年度全球的焦点话题之一,虚拟与现实的边界进一步模糊。元宇宙概念横空出世,数字生命成为人类对未来虚拟技术支持下“永生”的重要想象和期待,这些均有可能进一步加剧现代性的危机。现代技术的进步或许可以满足人性,却可能阻碍人性的解放,人类扩展真实的“星辰大海”的外延性的愿望原为人性的本能,却在资本与工具理性的裹挟之下,日益被封存在虚拟的意向性世界之中,使得人性的满足成为被技术“投喂”所产生的幻觉。(38)沈湘平: 《元宇宙: 人类存在状况的最新征候》,《阅江学刊》2022年第14卷第1期,第44—52、172页。在这一意义上,完全沉浸的虚拟现实只是人类生活异化和分裂的产品,“元宇宙的出现和发展体现了技术现代性、工具理性对现实和意义、神圣和世俗的割裂”,而这一割裂恰恰是技术现代性发生危机的核心。(39)刘永谋: 《元宇宙的现代性忧思》,《阅江学刊》2022年第14卷第1期,第53—58、172—173页。可见,缺乏人文引导的技术发展,很可能使得人类与人工智能的边界日益模糊,过分强调世界的虚拟性维度则使得现代性危机日益凸显。

在上海交通大学举办的2019首届科技人文国际学术研讨会上,诸多专家学者曾就科技人文深度融合的议题各抒己见,比如: 朝戈金指出,当今全球范围内的诸多分歧与对抗,均需要人文社科与自然科学界的学者们通过沟通互信的方式共同解决;石坚认为,“科学精神与人文精神是社会发展重要的双驱动力”,二者互为补充,共同推动人类文明的发展;王宁表示,科技与人文是辩证统一的关系,人应当在科技和人文的跨界合作过程中发挥引领作用;路易斯·欧斯特贝克(Luiz Oosterbeek)从联合国教科文组织的调研出发,提出亟须创建“植根于人类伦理和理性的技术制约规范”,以人文主义为导向构建全球合作共同体。(40)廖静: 《2019首届科技人文国际学术研讨会暨〈上海交通大学学报(哲学社会科学版)〉创刊四十周年高端论坛综述》,《上海交通大学学报(哲学社会科学版)》2019年第27卷第6期,第146—153页。当下,以ChatGPT为代表的生成式人工智能本质上是具有超强文字关联能力的自然语言处理模型,而语言本身只是一个表达工具,并不具备价值判断能力,故在“智能创造”时代,伦理治理和人文引导的重要性显而易见。因此,科技只不过是人类创造的工具,反思现代科技对人的影响、与人的关系,既不是为了宣扬对工具主义的崇拜,也不是将智能工具视为洪水猛兽而陷入无谓的恐慌与畏惧,而是为了探讨如何充分发挥人的主体性作用去理性对待科技,并善加利用之。

事实上,如果应用的方法和构建的机制得当,人工智能可充分体现人文关怀。比如在听障、视障人群中,智能化的工具不仅成为他们融入社会的重要渠道,也为其实现自理、自立与自尊开启可能,成为人挖掘技术“向善”潜能的成功例证。(41)喻思南: 《人工智能,应有人文关怀》,《人民日报》2019年8月28日,第5版。甚至,没有意识和情感的人工智能也能为人类带来情感慰藉,比如腾讯人工智能实验室正在致力于研发情感陪伴机器人,旨在为老人们带来情感陪伴,帮助应对社会老龄化的危机。再如,人工智能在健康医疗领域的应用,可以通过大数据和云计算形成各个系统协同的智慧医疗体系,比如2017年腾讯发布首款AI医疗产品“腾讯觅影”,对此腾讯医疗健康副总裁王少君表示未来科技会更“有温度”地为医疗带来革命性影响。(42)尹佳林: 《当人工智能布局AI+,智慧医疗时代已经到来》,《科技与金融》2018年第12期,第33—34页。近年来,远程问诊、AI辅助诊断、网络药房等云健康系统均发挥了重大作用,使得许多轻症病人足不出户便能得到医疗服务;而大数据筛查、云计算分析、数据追踪等智能化技术的广泛应用,也大幅提高了信息收集、物资智能化调度等工作的效率,有效地降低了社会风险。

可见,人类和AI之间进行良性互动,在人工智能的设计理念中融入人文关怀,不仅能为传统人类社会结构和家庭带来积极温暖的影响,也可助力人类实现对美好生活的向往。因此,以社会规约(立法、规范、机制等)与人文关怀去消解科技发展可能产生的安全隐患、认知偏见、伦理危机,既是美好理想,也是现实需求。

三、 赋能: 科技与社会发展

伴随着ChatGPT的出现和应用,2023年已经被普遍地视为人工智能元年,由AI开启的第四次工业革命已经到来。经济学家朱嘉明认为AIGC(AI Generated Content),即人工智能生成内容,将能够重塑各个行业乃至全球的“数字化转型”。他指出,以AIGC为代表、以ChatGPT为标志的转型是“媲美新石器时代的文明范式转型”,正在引领人类加速逼近库兹韦尔预言的可能在2045年发生的“科技奇点”。(43)朱嘉明: 《AIGC和智能数字化新时代: 媲美新石器时代的文明范式转型》,2023年2月10日,https://baijiahao.baidu.com/s?id=1757423129523315957&wfr=spider&for=pc,2023年3月27日。技术变革人工智能的飞速发展不仅是科技革命的“奇点”,也将成为社会发展的“拐点”,其意义不仅在于技术迭代,更在于模式创新。对于科技的发展会使得人类社会“拐向”何方,虽然一时难有定论,然而努力的愿景无疑正如库兹韦尔所言,“我们与技术的结合就像走在一个光滑的斜面上,只不过是沿着它向上滑行,从而走向更伟大的希望,而不是向下走向尼采的深渊”。(44)雷·库兹韦尔: 《奇点临近》,李庆诚、董振华、田源译,北京: 机械工业出版社,2011年,第226页。科技是工具性的,人文是本质性的;科技是外生性动力,人文是内生性动力,科技与人文的深度融合,可为人类社会发展赋能。

首先,在创新引领发展的时代,科学技术源源不断地提供着创新的动力,推动着人类社会经济持续发展。总体看来,互联网、物联网、区块链、云计算等当代科技发展的新成果对社会生产的机制与模式产生了革命性影响,人工智能与智能制造不仅在很大程度上解放了个人和社会劳动,为人类社会增加自由时间和全面自由发展创造物质基础,同时也能推动产业升级换代,为发展中国家充分挖掘“后发优势”开放了可能。(45)林剑: 《论人工智能的发展对人的劳动解放与社会解放的意义》,《人文杂志》2019年第11期,第19—24页。近年来,专用人工智能(Narrow AI)已在许多领域成绩卓然,比如战胜李世石与柯洁的AlphaGo、能够应对各类极端工作条件的工业机器人、苹果公司推出的个人助理Siri、亚马逊上线的智能助手Alexa、特斯拉开发的智能驾驶系统等,它们均极大地提高了人类生产、工作和生活的效率。又或者,Oculus Rift和HTC Vive这类高端VR头显通过大空间定位与智能化传感器,正在致力于为人们实现全身沉浸的虚拟现实体验,将在可见的未来为人类的工作与生活方式带来改变。再如,人工智能在翻译行业得到广泛应用,已推动语言服务业成为全球的重要文化产业之一。从早期的翻译记忆技术、计算机辅助翻译技术,到如今的人工智能笔译/同传、大型在线协作翻译(维基翻译、脸书翻译等)、本地化(localization)以及Google于2019年发布的Translatotron直接语音翻译系统,技术在人类跨语际、跨文化交流中扮演着越来越重要的角色。如今,大规模自然语言处理工具进入实测应用,也昭示着强人工智能(Strong AI),或曰通用人工智能(AGI)的开发向前迈进了一大步,其溢出效应可能会影响人类社会的方方面面。

其次,在推动经济发展的同时,科技与人文的融合,也赋予了文化可持续发展的动力。科技发展为文化遗产的保护、传承和开发带来了颠覆性改变,近年来出现了诸如虚拟现实、增强现实、地理信息模型、3D建模、数字游戏等各种新形式的文化遗产活化、保护与呈现方式。技术革命帮助古老的文化遗产在虚拟的数字世界中找到了新型的栖居方式,为人类文明的传承作出了贡献。事实上,人类的文化遗产本身就是一个被建构的概念,其价值并不在于工艺品、建筑或遗址等物化的对象,而是植根于人类的历史记忆与生活经验,并在某种程度塑造着人们未来的愿景。(46)Elisa Giaccardi, ed., Heritage and Social Media: Understanding Heritage in a Participatory Culture, New York and London: Routledge, 2012, p.2.在这一意义上,文化遗产可被视为人类过去与未来之间的一种“对话”。智能化时代社交媒体的“参与文化”,不仅拓宽了文化遗产的受众范围,也使得更多的人能够“参与”其建构。与此同时,科技的进步又使得文化遗产的数字化呈现与基于社交媒体的互动开发成为可能。比如,2018年6月,腾讯与敦煌研究院等机构联合发起了“数字供养人计划”,王者荣耀成为第一个响应者,在游戏中嵌入敦煌文化元素(如: 推出《遇见飞天》主题曲、定制“飞天”皮肤等),以生动化、大众化的形式成功号召千万游戏玩家一起关注敦煌壁画保护,并募集捐款用于敦煌莫高窟的数字化保护。

此外,科技的发展亦对文艺创作领域产生重大影响,正促使着人们重新定义艺术,在一定程度上左右着未来文艺发展的走向。大数据、云计算以及人工智能技术在文学、艺术领域的应用,使其无论是在艺术创造,还是受众感知,抑或是美学呈现方式上均发生革命性的变革。从谷歌AI系统Deep Dream进行绘画创作,到亚马逊推出了Deep Music为用户带来人工智能创作的歌曲;从《中国科学报》的写稿机器人小柯,到出版现代诗诗集的微软机器人小冰,如今人工智能似乎已突破领域界限,迈向艺术创作和知识生产这一传统上被视为AI重要门槛的领域。2022年,游戏设计师杰森·艾伦(Jason Allen)借助AI绘图工具Midjourney加以Photoshop修改而创作出题为《太空歌剧院》(Théatre d’Opéra Spatial)的恢宏画作,直击心灵,获得美国科罗拉多州艺术博览会数字艺术类的冠军,也引发“人类艺术是否会消亡”的激烈辩论。近年来,包括故宫博物院在内的重要文博机构致力于将艺术之美以数字技术的方式呈现,以“泛娱乐化”为显著特征的数字新文创发展迅速,比如故宫与腾讯合作开发的故宫QQ表情、故宫传统服饰主题、“玩转故宫”地图导览小程序等。而在元宇宙前景之下,艺术创作也呈现出“元宇宙化”趋势,周志强将之总结为“从虚拟现实到虚拟成为现实”,并提出艺术可能呈现出三大新变:“平行现实”型艺术的出现、“元宇宙化创作”的繁盛以及“沉浸艺术”的进一步发展。(47)周志强: 《从虚拟现实到虚拟成为现实——“元宇宙”与艺术的“元宇宙化”》,《中国文艺评论》2022年第2期,第63—66页。因此,数字化技术的发展无论是对文艺创作实践,还是对美学理论开拓而言,均意味着变革。新科技生态正在推动新文化景观的产生,文学与艺术无疑是其中重要一环,技术革命赋予了人类社会进步与认知迭代的新力量。(48)范志忠: 《人工智能与艺术未来》,《中国艺术报》2019年10月21日,第6版。

诚然,科技在为人类社会发展“赋能”的同时,也可能带来新的问题,亟须有效应对。第一,虽然数字乃至技术革命在很大程度上减弱了传统上由信息、知识的差异所造成的国家与区域之间发展的不平衡,但亦有可能造成新型“数字鸿沟”的出现。这一“数字鸿沟”可从两个层面理解,既包括由通讯基础设施发展水平差异而造成的人们在获取信息技术上物理手段的不平衡,又包括人们所拥有的数字化技术知识储备与使用技能方面的差异。因此,“数字鸿沟”实则是一个多维度问题,不仅限于技术层面,更体现出社会、文化与经济的不平衡。(49)Allan Maram and David Ruggeri, “The Digital Divide: The Disparity of Access to Information and Communication Technology,” American Journal of Management, vol.13, no.1(2013), p.112-120.第二,以社交性、互动性为特征的新型经济模式与消费模式正在成为社会经济发展的重要动力,这一点在伴随互联网产业兴起和发展成长起来的青年一代中体现得尤为突出,然而其负面效应也不容小觑。比如,微商、直播、网红经济等依托社交媒体发展起来的新经济模式,在改变市场竞争机制、推动经济发展的同时也带来诸如冲动消费、网络借贷等新的社会问题,给大众心理、消费观念、价值取向带来负面影响,亟待人文引导。第三,数字化时代的美学呈现方式发生改变,信息技术的发展推动着传播方式走向数字化,便捷的通讯方式使得人们随时暴露在各种各样图像、声音及影像信息的轰炸之下,艺术生产、消费也呈现出快销化、碎片化、互动性、生活化的倾向。艺术渗透入生活的方方面面固然有积极的一面,但是审美的泛化也给艺术创造力、现代文艺的走向带来不确定影响。第四,虚拟现实在提供了新的社交可能的同时,也可能造成人们在现实世界面临“社交孤立”,或因现实世界与虚拟现实世界的巨大反差产生“后虚拟现实悲伤/创伤”。元宇宙构想因其巨大的商业前景为社会发展带来红利,但这并无法掩盖其技术隐忧和可能产生的伦理危机,沉湎于虚拟现实的用户可能会无法分清虚拟世界的数字假象与现实社会的真实生活之间的区别,虚拟性若无人文引导则可能成为一种数字精神鸦片。从这一视角来看,元宇宙可以很广阔,无限交互、没有边界;元宇宙同时也可以很狭促,成为数字技术为现代人类构建的“数字牢笼”,使人的身心被束缚其中而不自知。

因此,正如联合国教科文组织总干事奥德蕾·阿祖莱(Audrey Azoulay)所言,人工智能可以成为加速实现可持续发展目标的绝佳机会,但同时必须预见一切技术革命都会带来新的不平衡,我们需要为此做好准备,科技发展是会加剧差异还是消解隔阂,实际上取决于技术背后的人。(50)Audrey Azoulay, “Grand Interview: Audrey Azoulay, Director General of UNESCO,” https://www.human-technology-foundation.org/news/grand-interview-audrey-azoulay-director-general-of-unesco, October 11, 2023.基于此,以推动科技人文深度融合为努力方向,更新教育理念与加强人才培养,无疑是应对新型不平衡的重要举措。正如林忠钦院士指出,中国今后高等教育的发展一定会推动理工科和人文社科的协同发展,重视科技人文交叉研究和人才培养,只有二者兼顾、深度融合才能建成真正意义上的世界一流大学,从而为我国在未来原创性科技领域发挥引领作用打下坚实的基础。(51)以上海交通大学为例,具体举措包括: 成立了人工智能研究院,争取在这一领域形成具有世界影响的学术成果;推进理工和医学领域的交叉研究,推动人工智能在医学、工程等方面创造应用场景;推动计算机技术与新闻传播学科的交叉,构建“未来媒体”;在科技和金融的融合方面做了总体布局;组织跨学科研究团队,从事面向当下和未来的交叉研究;重视科技人文复合型人才的培养。详见: 彭青龙、吴攸: 《科技创新、中华文明与大学人才培养——访谈林忠钦院士》,《上海交通大学学报(哲学社会科学版)》2020年第28卷第1期,第1—6页。

结 语

科技与人文的关系实则是一个古老的命题,始于夏末商初的中华古典智慧就开始思考二者之间的关系,正如《周易》有云,“观乎天文,以察时变;观乎人文,以化成天下”(《周易·贲卦》)(52)《周易》,杨天才、张善文译注,北京: 中华书局,2011年,第207页。,科技与人文无疑是人类两种不同精神的重要表征。前者“求真”,旨在揭示客观世界的本质及规律;后者“向善”,着力追求化育人心与精神关怀。科技不能脱离社会和人的需求而独立存在。从历史的视角来看,科技与人文本为一体,同属人类文化。在漫长的人类历史发展长河之中,科技与人文虽经历由融合走向分离的波折,然而在智能化的当代,科技和人文的交叉汇流既是历史的回归,也成为一种必然。

技术代表了一种社会力量,它不断促使社会的发展和变革,但其本身也会受到社会变革的影响,因而技术发展只有在社会、文化、经济和政治等多方面的支持和引导下才能真正提高人类的福祉。(53)Bernard Stiegler, Technics and Time, 3: Cinematic Time and the Question of Malaise, Trans. Stephen Barker, Stanford: Stanford University Press, 2011, p.82.科学技术的发展与人的信仰、文化、经验紧密相关,并不能被简单看作是“中立”的。当下,人工智能技术的发展亟须充分考虑人类的利益和价值,强调技术的伦理和道德标准显得尤其重要。为了应对和抵御技术可能带来的消极影响,一方面,我们应以一种超越技术的视野,去重新思考和审视人类存在的本质和价值;另一方面,我们也需要以人的价值理性为基础不断进行反思和探索,将技术发展始终置于人力可控的范围之内。

正如联合国教科文组织提出的口号,要“以秉持人类价值观的人工智能助力可持续发展”,(54)Audrey Azoulay, “Artificial Intelligence with Human Values for Sustainable Development,” https://en.unesco.org/artificial-intelligence, October 11, 2023.并一再强调我们需要的是“以人为本的人工智能”(human-centered AI),无论是各国政府还是国际组织均需要制定相关的政策与监管框架,以确保这些新技术的发展能够为作为一个共同体的全人类谋取福利。(55)“Recommendation on the Ethics of Artificial Intelligence,” https://en.unesco.org/artificial-intelligence/ethics, October 11, 2023.可见,科技与人文之间是相辅相成,而非割裂对立的,二者有效融合则能协同增效,将其分离对立则于社会发展毫无裨益,在二者之间人文精神应成为引领力量。追溯科技与人文“融合—分离—再融合”的历史轨迹可发现,“人文产生科学,科学隶属于人文”,科学崇尚工具理性,而人文强调价值理性,科学技术只有为人类历史进步作出贡献时方能实现其价值,因此科技与人文的融合应“让工具理性服从于价值理性,科学性服务于人文性”。(56)石英: 《人工智能视域下的社会学“费孝通悖论”求解》,《人文杂志》2019年第10期,第23—33页。在这一意义上,给“冰冷”的“人工智能”赋予温度,使之成为以人文精神为内核、以科技发展为动力的“人文智能”,不失为科技与人文有效融通、深度融合的发展方向。