APP下载

后人类美学十年观察(2011—2021)

2021-11-27李小杰

中国图书评论 2021年10期
关键词:奇点伦理人工智能

□李小杰

【导 读】21世纪以来,后人类研究迅猛发展,成为世界“后”学术史的重要分支。通过系统梳理过去十年来后人类研究的范式变迁、论题转换和论域打开,我们得以剖析其所面临的新问题与危机,进而瞩望未来。

后人类研究格局肇始于20世纪50年代,诺伯特·维纳(Norbert Wiener)出版了划时代著作《控制论》(Cybernetics:OrControlandCommunicationintheAnimalandtheMachine,1948)。[1]诺伯特·维纳的控制论思想启发了人工智能、环境科学、认知科学等多个领域。1977年,学者伊哈布·哈桑在文章《作为表演者的普罗米修斯:迈向后人类文化?》(PrometheusasPerformer:Towardsa PosthumanistCulture?)[2]中首次提出“后人类”的概念。

20世纪80—90年代,唐娜·哈拉维(Donna Haraway)在《赛博格宣言》(1985)[3]中成功把研究拓展到义体人类(cyborg)的讨论,现已成为研究赛博朋克的重要理论,如小说《神经漫游者》(Neromancer,1984)和电影《攻壳机动队》(1995)等。凯瑟琳·海勒《我们何以成为后人类》(How WeBecamePosthuman,1999)一书深入探究“身体”在信息时代的命运,阐明人类所身处的虚拟时代以及未来的走向,比如,身体、赛博文化与人本主义主体的消解。弗朗西斯·福山出版《后人类未来》(OurPosthumanFuture,2003)一书中讨论生物科技的伦理,引爆了众多不同学科学者加入讨论。后人类的讨论进入了未来人类命运的现场,吸引了哲学、社会学和文化艺术的研究者,学术言说渐渐融汇时代语境。

后人类研究早期借用了海德格尔的《对技术的追问》(TheQuestion ConcerningTechnology)[4]和福柯的《事物的秩序》(TheOrderofThings:AnArchaeologyoftheHumanSciences,1973),20世纪90年代之后借用了德勒兹(Deleuze)和费利克斯·加塔利(Guattari)的《反俄狄浦斯》关于机器定义的理论以及《千高原》的块茎理论(rhizome)[5]。女性主义、身体理论和主体性以及克隆、智能、基因改造、优生学、演化等思潮或术语都在90年代进入学界的视野。[6]唐娜·哈拉维、凯瑟琳·海勒、弗朗西斯·福山等人的学术研究引领了新的路径,其特点是探讨人类主体和生物伦理等切身问题。

2000年之后,一批技术专家的研究因其技术专业性开始引起学界注意。如谷歌技术总监暨未来学家雷·库兹韦尔在《奇点临近》(The SingularityIsNear,2006)满怀激情预言奇点的到来,引起了注意。尼克·博斯特罗姆(Nick Bostrom)的《超级智能》(Superintelligence,2014),目光深远,引发思考。尼克·博斯特罗姆认为,人工智能很有可能在未来超过人类的智能水平,进化成超级智能。他们的思考已经与20世纪80—90年代的重要学者有了一定区别,文章里带有较为丰富的人工智能知识结构,格局大不相同。

罗西·布拉伊多蒂在《后人类》(Theposthuman,2013)认为,后人类状况既令人神往,也让人忧虑。后人类状况并未显示清晰明朗的发展趋势,在还难以看清前景时,理论作为一种对社会主体和处境的批判与反思,就显得不可或缺。罗西·布拉伊多蒂努力勾勒出后人类状况的轮廓,企图用思想去把握其复杂多变,在思维方式上增添了更多的人文关怀。

过去几年,生物伦理(Bioethics)蔚为大热,比如,《后人类状况:生物技术挑战的伦理,美学和政治》(ThePosthumanCondition:Ethics,AestheticsandPoliticsofBiotechnological Challenges,2012)、《后人类伦理:具身化与文化理论》(PosthumanEthics:EmbodimentandCulturalTheory,2012)以及《生物技术时代的人性:后人类中介的案例》(HumanNature inanAgeofBiotechnology:TheCasefor MediatedPosthumanism,2014),尝试去讨论生物技术的发展、商业利用、控制政策和伦理以及对人类可能的影响。

此外,还有埃隆·马斯克(Elon Musk)旗下公司Euralink对人机合一和意念控制的研究、百度首席科学家吴恩达(Andrew Ng)谈机器学习、自动驾驶和物联网的运用[7]和尼克·博斯特罗姆在TED的讲座《我们的大问题》等有关未来和后人类的视频,在日常的运用、未来想象与科技预测中,推进科技、商业发展以及深化伦理思考。

上述著述和视频从知识谱系的复杂性和问题的多样性中理出线索,为继续思考后人类提供线索和方式。同时期活跃的后人类研究者,也不同程度地参与了相关话题的讨论,一些论著较之过去的书写有所深化。据我所见,后人类过去十年的讨论可谓四分天下。论者从生态(ecology)的角度出发,控诉人类大肆耗费地球的资源,甚至剥削其他生物生存的权利,论者呼吁人类需要放弃人类中心主义,与未来的机器人甚至赛博格融合相处;又或者随着科技飞跃,人类或会顶替上帝的角色,罔顾伦理,修改基因,企图克隆人类,发展至和机器人谈恋爱等新型的社会关系;或因科技的快速发展,富人选择改造身体与智能,加剧社会不公;甚或人类在某个奇点时刻会被人工智能超越,人工智能智慧呈几何级增长,拥有自我意志的人工智能,不再遵从“机器人三定律”,如《流浪地球》的人工智能莫斯一样,为了人类未来,而牺牲部分人的利益,彻底背离“人情”,做出难以预测的事情。

一、超克人类中心主义

迈向后人类,第一个面对的问题,就是作为中心的人类与地球其他生物共生共存可持续发展的问题。新世纪以来,环保成为全球思潮,质疑人类与其他生物(inhabitants)以及环境共存的文本随处可见。比如,热门怪兽电影系列的“哥斯拉”是受原子能辐射而出现的巨兽,影片含反核和反战的意味,寓意大自然对人类的反扑。《后天》(TheDay AfterTomorrow,2004)描述因温室效应引发地球的大灾难,冰川融化让地球回到冰河时期。这些关于未来的灾难科幻片警醒人类,如果我们继续以人类为中心,对地球旦旦而伐之,将导致不可挽救的灾难。超克人类中心主义就通过认识其复杂性,让人意识到生态灾难对环境、社会和经济造成的影响。

故此,过去的20多年,文艺研究的一个重点就是生态学,比如,有《乡村的发明:英国文学中的狩猎、散步和生态》(TheInventionof theCountryside:Hunting,Walking,and Ecologyin English Literature,1671—1831,2001)、《生态与文学:从上古到二十一世纪的以生态为中心的人格化》(EcologyandLiterature:EcocentricPersonificationfrom Antiquityto theTwenty-first,2008)、《迈向文学生态学:美国文学中的地域与空间》(TowardaLiteraryEcology:Placesand SpacesinAmericanLiterature,2013)、《浪漫主义和后现代文学中的奇观生态》(TheEcologyofWonderinRomanticandPostmodernLiterature,2016)、《世界文学与生态学:商品前沿美学,1890—1950》(World Literature andEcology:TheAestheticsofCommod-ityFrontiers,1890—1950,2020),这些文学研究书籍探讨了物种灭绝、能源匮乏、生物与商品、阶级等的斗争关系,为反人类主义提供了理论和文本支持。

布莱恩·摩尔(Bryan L.Moore)的《生态文学与人类中心主义批判》(EcologicalLiteratureandtheCritique ofAnthropocentrism,2017)是对质疑、批判或颠覆人类中心主义的文学作品的分析,人类中心主义认为宇宙及其中的一切皆为人类而存在。布莱恩·摩尔研究了古希腊和罗马文本、中世纪到20世纪的欧洲文学、18世纪的法国哲学、早期到当代美国的文字和诗歌以及科幻小说,为质疑人类中心主义奠定了历史基础和反思了21世纪及以后的负责任环境管理。[8]生态文学和人类中心主义的批判有助于生态批评家、环境哲学学者,特别是对后人类的研究人员理解人类并非必然是地球乃至宇宙中心,可以帮助我们超克人类中心主义。

同样,著名后人类学者罗西·布拉伊多蒂的《后人类》(2013)一书,言辞毫不温暾,质疑人类何以必然成为中心。“提出一种思维方式的质变,思考……我们与地球其他生物是一种什么样的关系等一系列重大问题;我们的共同参照系的基本单元应该是什么……”[9]2在这样的初衷下,罗西·布拉伊多蒂展开自己的书写。

首先,我们要转换的是我们的世界观,是否有一种观念可以超越人类中心主义,超越精神与身体、社会与自然、人类与动物、有机与技术的经典人文主义划分?研究者从不同领域方面不断为之努力。卡里·沃尔夫(Cary Wolfe)在《什么是后人类主义?》(WhatisPosthumanism?2010)追踪了多样化领域内各自萌发的后人类主义意识。他认为,是否有新的人文科学,比如,后人文科学,可通过技术和生物或“绿色”连续体(continuun)来重新定义人类在世界上的位置,因为“人类”只是星球的一种生命形式(life form)。紧接着,在2015年理查德·格鲁辛(Richard Grusin)主编的《非人类转向》(TheNonhumanTurn)主要讲述去人类中心,对非人类的关注则应该以多种方式进行理解,包括动物、情感、身体、物质、技术、有机和地球物理系统。《非人类转向》一书坚信,“我们从来都不是人类”,人类一直与非人类一起发展,共存或合作,并且通过这种与非人类的区分而准确地识别了人类。[10]

颠覆人类中心并不容易,斯维尔·拉夫森(Sverre Raffnsøe)于2016年宣告了人类转向,他在《人类世的哲学:人类的转向》(PhilosophyfortheAnthropocene:TheHumanTurn)一书中指出人类世被预示为一个新时代,将自己与地球历史上所有先前的时代区分开来。它的特点是人类在许多方面至为重要,但同时也具有对人类依赖性和不稳定性的认识。在最初的哥白尼革命和康德的“人为自然立法”这一高举人的重要命题,影响人类状况的关键人类转折仍在进行中。在这种情况下,与人有关的问题,如其有限性、响应能力、责任感、成熟度、自恋心和与自身的关系,成为决定性的问题而被重新阐述和强调。[11]

可是人类和非人类并非非此即彼的零和博弈关系,人类应该和其他生物共存,也应该和日益兴起的技术共存。哲学家罗伯托·马尔凯西尼(Roberto Marchesini)的《超越人类中心主义:对后人类哲学的思考》(BeyondAnthropocentrism:Thoughtsfor aPost-HumanPhilosophy,2019),以哲学学理为后人类未来提出建议,尝试克服人类、非人类动物和科技之间长达数百年的分离。这本书强调了与非人类关系的令人振奋的本质以及这种关系的增强如何打开新的存在维度。科技(technology)被重新诠释了,不再将其视为一种执行性工具,而是一种渗透到人类层面并改变其表述(predicate)的病毒。技术生成事件不仅是人类智能的产物,还源于(人的)顿悟,因此将技术很好地定位在人类的本体论和躯体维度内,让人道主义能够认识到非人类的改变在我们整个历史中所起的重要作用。这本书尝试为新的非人类中心的人道主义奠定基础。[12]

罗西·布拉伊多蒂(Rosi Braidotti)认同后人类人文学科存在的必要性:“人文学科需要抱持一种鼓舞人心的勇气,超越仅对人类关注的藩篱,并乐意接受来自更多星球的思想挑战。”[9]153既然我们可以接受其他星球物体的挑战,自然可以接受赛博格和其他物种的挑战。最新的研究也佐证了这一点,在托马斯·史密斯(Thomas Smith)的《可持续发展,福祉与后人类转向》(Sustainability,WellbeingandthePosthuman Turn,2019)一书中,就是把后人类和新物质主义(New Materialism)[13]与可持续发展学术研究结合在一起。作者认为,环境主义和可持续发展已变得越来越后政治化,其特征是抽象化和量化到前所未有的程度。因此,这本书认为,我们衡量环境的方式,例如,通过碳足迹和生态系统服务付款等可持续性指标,以及通过国内生产总值和福利措施对社会进行衡量的方式,在我们想象自己在世界的角色扮演着构成性和不确定的角色。随后,由于量化的环境方法在人类和非人类领域之间造成了双重障碍,该书的最后部分提出了新物质主义和女权主义护理伦理学的最新发展,为在世界范围内重建可持续发展提供了可参考的方法。[14]该书加入了人文地理、政治生态学和环境社会学、技术管理和量化方法,提倡通过自我约束和自我调节来调解我们与环境之间的关系,作为将社会分析从着重国民生产总值转移到关注人类福祉和环境可持续性社会,为后人类、可持续发展与人类福祉提供了新的参考。

二、生物技术伦理的挑战

其实早在20世纪90年代,《后人类身体》(Posthumanbodies,1995)一书已经开始讨论代母、男子怀孕和体外胚胎(ectogenic fetus)等问题。苏珊·斯奎尔(Susan M.Squier)在书中指出:“重建女性身体以产生或巩固男性力量;重新配置男性和女性人体,以服务于工业生产。”[15]当下的生物技术首先作为应用性工具,在使用过程中伦理问题随之出现,带来很多伦理的争议和挑战[16],甚至带来大型灾难。生物技术在使用过程中影响着用户的认识和行为,因此,需要对技术与伦理行为之间的关系做出把握,将道德伦理导入我们的认识,特别是使用生物技术,以促进技术社会的可控,有助于建立适合社会发展的伦理学。

过去几年,遗传知识生产明确参与主体构成,我们可以利用基因测试产生的知识来建构自己的身份。《后人类状况:生物技术挑战的伦理、美学和政治》(ThePosthumanCondition:Ethics,AestheticsandPoliticsof BiotechnologicalChallenges,2012)一书认为人类生物科技,比如基因组计划,可以帮助人类探讨“我是谁”这个哲学问题。“我们是谁?我们来自哪里?我们在世界上的位置是什么?我们去哪?我们想要什么?”[17]这种问题传统上属于哲学领域,因为遗传研究的推进,人们开始接受人类的生物学观点并增强我们的遗传意识,它将对我们的自我理解产生什么影响?可见,生物技术发展除了可以造福人类,也可经过伦理充分的讨论,能让人充分认识到生物技术作为技术中介(technological mediation),去调节和理解人与世界之间的关系。可是一旦伦理道德失衡,可能给人类带来灾难,所以必要的国家和国际间的立法和树立规则变得不可或缺。

技术因利润产生市场,这也容易被个人或不法商人所利用。这对生物学决定论和遗传学的主张提出了严峻挑战,即受试者单单从生物学的角度就能越来越了解自己和社会现象,并担心新的遗传技术因生物技术而成为生物政治/经济控制的场所。在遗传责任的背景下,比如辅助生殖和神经科学等科技,生物学知识似乎以不可预见的方式被动员和利用。伦理问题对每个主体,无论是公司还是个人,无论是临床咨询还是预防性医学干预的医学遗传学,都将个人(公司)视为道德主体,需树立新的道德责任。“道德主体指的是具有自我意识,能够进行道德认知、能够进行推理并形成自我判断、能够进行道德选择与实施道德行为且承担道德责任的道德行为体。从这个意义上来讲,只有具有理性思维能力的人类才具有道德主体地位。”[18]这意味着一个人应该知道自己在做什么,如果这是他有意识的选择,就要对自己的所作所为负法律责任。

在这里,理论家经常关心的是,承担遗传责任不是一个选择问题,而是一个道德义务。从这个意义上来讲,责任比赋予权力更重要。例如,在进行产前筛查时,虽然没有强制性的义务进行筛查,但医疗机构明确提出了建议进行筛查,这些建议带有相当明确的前提,即应该避免让患有唐氏综合征的婴儿出生;或者对可遗传形式的癌症进行基因检测的情况下,个体通常不会经历我们所谓的“自由”选择。因为如我们所见,他们的遗传风险承担着对他人的责任。[19]

梅琳达·库珀(Melinda Cooper)的《作为剩余的生命:新自由主义时代的生物技术和资本主义》(Life asSurplus:BiotechnologyandCapitalismintheNeoliberalEra,2008)一书着眼于20世纪70年代至2000年美国政治、经济、科学和文化价值之间的关系。梅琳达·库珀认为,如果不考虑新自由主义作为政治力量和经济政策在同时崛起,就无法理解生物技术的历史。从20世纪70年代重组DNA技术的发展到布什第二届政府对干细胞研究的政策,库珀将自由市场资本主义的争论与商业化生命科学日益加剧的内部矛盾联系起来。库珀以生活已经融入了价值创造的回路中为出发点,生物技术革命将经济生产转移到了遗传、微生物和细胞水平。在深入分析里根时代的科学政策、生命科学的军事化、艾滋病毒政治、制药帝国主义、组织工程、干细胞科学以及支持生命运动的过程中,作者考察了推动生物经济的投机性冲动,认为新的后工业经济的核心是将生物生命转化为剩余价值。[20]《作为剩余的生命》一书对当代生命科学的变革性、治疗性维度以及围绕新兴生物经济形成的暴力、义务和债务偿付提供了清晰的评估。

当生物技术成为新的经济增长点,生物伦理就要面临全新的、巨大的、尚未知后果的挑战。“新型生殖技术”(new reproductive technology)是指干预妊娠和生育过程的最新生物技术。由于新的生殖技术的发展,孕妇和胚胎的健康状况得到改善,而母亲和婴儿在分娩过程中的死亡率也因此下降。但是,如果盲目肆意修改人类基因,在不稳定的情况下,可能会造成不确定的危险。弗朗西斯·福山的《后人类未来》强调了法规在应对新兴生物技术领域可能性方面的重要性,可是偏偏有人违反规定。

生物学家贺建奎在2018年12月宣布已为一对双胞胎编辑基因,她们将来可能具有天然抵抗艾滋病的能力。一个由多国科研机构组成的国际委员会认为:“人类胚胎的基因组一旦被编辑就不该用于生育,直到有确切证据显示精准改变基因组能带来可靠的结果,并且不会导致预期之外的变化。而目前没有任何基因组编辑技术能够达到这一标准。”[21]此消息引发全球争议,医学界和科学界谴责其违背医学道德伦理。弗朗西斯卡·费朗多在《哲学的后人类主义》中认为生物伦理学领域的重点是“我们应该这样做吗?”而不是“我们可以这样做吗?”重点不是我们是否可以科学地获得这些结果,而是我们是否应该在伦理道德上走这条道路。[22]129因此,德国哲学家哈贝马斯(Jürgen Habermas)在《人性的未来》(TheFutureofHumanNature,2003)中强调指出,迫切需要制定法律策略来保护个人身份,这可能导致对“免于人工干预的遗传继承权”的法律承认和保护。[23]

三、超人类主义

在世界各地的神话中,人们想象拥有无敌、隐形、自愈等超自然力量能力。一些超人类主义的拥护者梦想着未来这一切都会成真。牛津大学哲学家尼克·博斯特罗姆(Nick Bostrom)的《超人类主义宣言》如此定义“超人类主义”(Transhumanism):“(超人类主义是)一种知识和文化运动,它肯定了通过应用理性从根本上改善人类状况的可能性和期望,特别是通过开发和提供广泛使用的技术来消除衰老并极大增强人类的智力、身体和心理能力。”[24]

弗朗西斯卡·费朗多在《哲学的后人类主义》(2020)第四章讨论了超人的诞生,指出:“‘超越人类的动词’(trasumanar),该词首先在但丁撰写的《喜剧》(Comedìa,1304—1321)中出现。[25]但丁在与神的同在中经历了‘创伤’的特定状态,即超越人类。”[22]29弗朗西斯卡·费朗多在书中第五章指出,超人类主义不应该被视为同质运动,而应由许多不同的思想流派形成。例如,自由主义、超人类主义、民主超人类主义和奇点主义等。所有这些运动有什么共同点?它们共有人类增强的目标。如何实现人的增强?根据超人类主义,科学技术的重新配制是带来人类进步的主要资产。[22]32接着在第七章连接了超人类主义和科技增强之间的关系:“为什么技术对于超人类主义的讨论至关重要?尽管在超人类主义的情境中有许多思想流派,但它们都具有对技术重视的相同点,技术被认为是迈向人类‘下一个’阶段的进化动力中的关键。技术对于实现根本性的寿命延长和数字永生性至关重要。”[22]35-36

简言之,超人类主义主要是指使用科学技术来增强或优化人类基因,改造人的精神、体力、能力或资质等,并借此克服人类身体的弱点,比如,衰老、痛苦、残疾、疾病或意外等。超人类主义反思这些强大的新技术带来的危险和好处。斯科特·杰弗里(Scott Jeffery)在《超级英雄漫画中的后人类身体:人类,超人,超人类,后/人类》(ThePosthumanBodyinSuperheroComics:Human,Superhuman,Transhuman,Post/Human,2016)溯源:“显然,超人创造的世界就是我们的世界。含义很清楚,在超人不存在的世界中,我们需要创造他。从伊卡洛斯或牛头怪的古典神话,到模糊了人类与技术、人类与动物之间界限的形式,再到现代超级英雄漫画,人类都以后人类的视野来娱乐自己,并就人类的是否属于这一类别展开争论。”[26]最后一句指出重要一点,超人类(transhuman),从莎士比亚《仲夏夜之梦》的精灵[27],到尼采的超人(Übermensch),再到现代影视剧的超人,都可纳入后人类研究的范围,为我们打开了新的研究论域。

本杰明·赫尔布特(Benjamin Hurlbut)等人所编写的《完善人类的未来:超人类的视野和技术想象力》(PerfectingHumanFutures:TranshumanVisionsandTechnologicalImaginations,2016)认为人类一直想象着更好的未来,从克服死亡的愿望到渴望统治世界的愿望,对技术未来的想象揭示了构建者的价值和规范。如今,新兴的技术给人类的未来带来了疑问,这些技术有望对人类的生活进行彻底控制,并引发人们对人类完美性的必然想象。[28]这本跨学科的书汇集了科学技术研究、社会学、哲学、神学、伦理学和历史学的学者,特别关注超人类主义和后人类主义的视野,它通过探索乌托邦和末世论的维度并将其置于更广泛的思想、制度和创新实践中而开辟了新的领域。

而持相反意见的哲学家梅琳达·霍尔(Melinda Hall)的《增强的生物伦理:超人类主义,残疾与生物政治》(TheBioethicsofEnhancement:Transhumanism,Disability,and Biopolitics,2017),在对人类增强生命伦理的辩论中进行了重要干预,作者对增强思维的言论和策略提出了挑战。其中,包括渴望超越身体并通过遗传选择等新兴技术来决定谁应该在后代生活。梅琳达·霍尔提供了新的分析,重新思考了增强和残疾的哲学,认为增强应该是社会和政治干预的问题,而不是遗传和生物干预的问题。霍尔得出结论,应该珍惜而不是消除人类的脆弱性和差异。[29]

另一个受超人类主义影响对人类进行界定的学者是尼科拉斯·阿加尔(Nicholas Agar),他在《人类的终结:为什么我们应该拒绝极端提升》(Humanity’sEnd:WhyWeShould RejectRadicalEnhancement,2010)同样拒斥极端的提升(radical enhancement)。尼科拉斯·阿加尔的不安来自潜在的后人类繁殖与人类产生隔离的可能性。阿加尔认为,极端的提升的结果可能比这些思想家所描绘的乐观的前景要暗。实际上,增强我们的认知能力的最戏剧性的方法可能会杀死我们。我们寿命的根本延长可能会从我们的生活中消除宝贵的经验;某些人从根本上得到增强,而其他人却没有得到改善的情况,可能导致人对人的暴政。尼科拉斯·阿加尔就从生物中强的公平性开始,质疑人类扮演上帝的角色之后,完全改变了出生的公平,以技术造成巨大的人类鸿沟。[30]同样,弗朗西斯·福山(Francis Fukuyama)等评论家也表达了超人类主义危险的想法。他在《后人类未来》(2003)首先打开了伦理讨论的论域,他在考察宗教、经济、人的权利、尊严和本性之后,再比较国际社会防止核武器扩散案例,认为应实施从国家开始,到国际间的管制。[31]

最近,因为人工智能的飞速发展,这方面的研究越来越多,开始提出更多建议。彼得·布鲁姆(Peter Bloom)的《人工智能世界中的身份,制度与治理:超人类关系》(Identity,InstitutionsandGovernancein anAIWorld:TranshumanRelations,2020)认为21世纪即将到来的可能是一场全面的经济和政治革命。机器人技术、计算技术和数字通信技术的进步有潜力完全改变人们的生活和工作方式。更根本的是,人类将很快与人工智能互动,将其作为日常生活中的正常和必不可少的部分。现在比之前任何时候都更需要重新思考社会关系,以迎接这个即将到来的“智能”世界的挑战。借助组织研究、批判理论、心理学和未来主义的见解,这本书为读者绘制图表,显示在一个由聪明人和非人参与者共同组成的世界,身份、机构和治理方面即将发生的变化。它以重新强调将编程与社会正义的价值观相融合,保护各种形式的“意识”的权利和观点以及创造鼓励“互知设计”(mutual intelligent design)文化所必需的结构和实践为特征。[32]这样做意味着超越我们今天的人类中心世界观,扩大我们对明天的政治、体制、法律乃至日常存在状况的假设。至关重要的是,这种深刻的转变要求超越人类为自己创造的世界的人文主义范式,使自己向新的现实开放,在这个新现实中,非人类的智能和机器人变得越来越重要。

四、技术奇点后人类

科技发展迅速,且越来越多地介入人们的日常生活和娱乐。一批迥异于人文背景的科技专家进入讨论现场,打开了研究的另一空间。除了学院派的比如牛津大学人类未来研究所的尼克·博斯特罗姆(Nick Bostrom),还有一些著名的科技公司高层,比如,谷歌技术总监和未来学家雷·库兹韦尔(Ray Kurzweil)以及特斯拉首席执行官埃隆·马斯克进入后人类研究的视域,这些不同背景里的研究者摆脱了学科的惯性,将实践与理论结合,给予人们不同的启示。

“技术奇点”(technological singularity),这一观念在1993年维尔诺·文格(Vernor Vinge)于美国国家航空航天局的演讲之后得到广泛传播。奇点自身意味着比人类更强大的智能那令人期待的创造,它有可能让位于“智能爆发”(intelligence explosion),即这一智能以越来越快的速度创造出更为强大的智能。用文格的话来说,奇点代表了“这样的时刻,我们的模型必须被抛弃,新的实在开始统治”,这一变化可以与“人类生命在地球上的崛起进行比较”。[33]

谷歌技术总监雷·库兹韦尔在《奇点临近》(TheSingularityIsNear:WhenHumansTranscendBiology,2005)中预言的“奇点”基于如下判断:“不断发展的技术是加速回归定律的隐含和必然结果,它描述了进化过程的步伐的加快和产品的指数增长。这些产品尤其包括诸如计算之类的信息技术,其加速远远超出了由摩尔定律所做出的预测。奇点是加速收益定律的必然结果,因此重要的是我们研究这种进化过程的本质。”[34]41我们不知道奇点会在哪天到来,但奇点确实存在,到那时人工智能将会超过人类智能。“一旦机器智能比人类智能聪明,就会设计自己的下一代产品了。”[34]37到那时,我们不仅要烦恼人类获得永生后的意义问题,更要担心“人类将来可能会从这个循环中被淘汰”的危险。

2020年8月28日,埃隆·马斯克宣布了他在使人脑与人工智能同步方面所做的突破。马斯克宣布,他的神经科技和脑机接口公司“Neuralink”已经建造了一个独立的神经植入物,该装置可以无线传输详细的大脑活动,而无须外部硬件的帮助。Neuralink将该技术的首个应用用于医疗目的,可能是大脑和脊髓损伤的人。马斯克以大胆的方式表示,他也希望在未来进一步追求非医学应用。[35]

卡卢姆·查斯(Calum Chace)在《经济奇点:人工智能与资本主义的死亡》(TheEconomicSingularity:ArtificialIntelligenceandtheDeath ofCapitalism,2016)一书中指出,在几十年内,大多数人将无法赚钱。无人驾驶汽车可能会成为煤矿中的金丝雀,从快餐店员到律师和新闻工作者,所有工作都将受到影响。这是21世纪上半叶人类面临的最重要的变化。人们普遍认为“基本收入保证”是解决方案,这在一定程度上是正确的。我们可能需要一个全新的经济体系,我们最好尽快开始计划,以实现经济奇点。过程存在重大风险,只有对可能的未来保持警惕并计划如何避免负面风险。[36]而因为技术奇点的涌现在过去几年出现的情况是这样的:硅谷技术与华尔街的贪婪历史性融合,正将最新的经济欺诈推向我们:所谓的“共享经济”,优步、爱彼迎(Airbnbt)等公司声称“解放了工人”,成为“独立的”和“他们自己的首席执行官”,以自雇形式来获得越来越少的工资,而公司却从中获利。这种“分享面包屑”的经济会使中产阶级被迫漂泊。史蒂芬·希尔(Steven Hill)在《经济奇点:共享经济、创造性破坏与未来社会》(RawDeal:Howthe“UberEconomy”andRunaway CapitalismAreScrewingAmericanWorkers,2015)中预计,2045年,“届时当前的‘人工智慧爆炸’将导致机器实现真正的智能,甚至超过人类,因为他们会设计更加智能的版本,从而产生了从根本上改变了人类文明的失控效应,称为奇点。在这一临界点,我们的经济因消费者需求太少而崩溃,因为财富已被少数强大的经济玩家夺走,供自己私用。通过共享经济,其他所有人将争夺这些废品。的确,这两个奇异之处最终可能会成为未来的两个方面,这种技术封建主义威胁着几乎所有关于美国梦的真善美”。[37]两位研究者都致力于人工智能所引发的“经济奇点”对社会的经济模式有什么影响,而因为人工智能在社会的经济运用中不断深化,四通八达,还需进一步展开具体分析。

早在1985年,已经有本叫《科技政策的战略分析》(AStrategicAnalysisofScienceandTechnologyPolicy)的书讨论科技的政策的问题,虽然讨论并没有非常全面[38],可仍然表明,现实人类并没有放任科技野蛮伸张的警惕之心。可是,未来已来,在2009年的人工通用智能会议(The Second Conference on Artificial General Intelligence,简称AGI-09)认为,随着科学技术不断发展,计算机超越人类智慧,由此可产生的人工智能系统可称为人工超级智能ASI(Artifical Super Intelligence)。“在会议上进行了有关人类水平人工智能研究的专家意见的评估。我们发现,在某些事项上,例如关键里程碑的时间安排和排序,各种专家彼此意见分歧。但是,我们确实发现大多数专家都希望在未来的几十年内人工智能达到人类水平,并且所有专家都认为有一定机会在这段时间内达到某些里程碑。”[39]

尼克·博斯特罗姆(Nick Bostrom)的《超级智能》(SuperIntelligence,2014)近年对于其中科技的进展与人类的危机关系研究有所推进。因此,我们可能要依靠假设,来想象这种超级智能:将会具备什么能力?最重要的是,会不会威胁人类的生命?那接下来就是如何管控的问题。可是,我们该怎么确保人类对未来可能成形的超级智能的行为有所限制?管控超级智能,就是要在创造它的初期,想办法给它植入人类价值观,于是问题又来了:怎么给机器输入价值?输入啥价值?[40]

这个问题在今天仍然让研究者头疼。比如在《人工智能:现代魔术还是危险的未来?》(ArtificialIntelligence:ModernMagicorDangerous Future?,2019)里面,人工智能专家约里克·威尔克斯(Yorick Wilks)考虑了未来以及未来几年我们所有人如何从人工智能应用中受益;还评估了这些技术是否可以威胁我们的生活方式。比如,那个人类还没有一致的答案的电车难题:自动驾驶的人工智能会基于什么样的道德论题去做出决定。“一项国际调查显示,当被问及失控的汽车是否应该杀死婴儿或老人,是否必须杀死婴儿时,亚洲和西方人口之间的差异却惊人。亚洲人投票赞成杀死婴儿,而西方人则投票赞成杀死老年人。这表明自动驾驶汽车在世界不同地区可能必须具有不同的道德软件。”[41]新的科技在不同地方和文化的运用中,将会源源不断地给新的伦理决定带来挑战,因此产生新的人类未来研究的需要。

幸好,人工智能是过去几年最受瞩目的领域,一些人工智能的大公司已经开始涉足道德伦理这一块。比如,设立了专门的道德伦理委员会,处理算法和公平、歧视等问题;比如,史蒂文·约翰·汤普森(Steven John Thompson的《人工智能时代的机器法、伦理学和道德》(Machine Law,Ethics,andMoralityintheAge ofArtificialIntelligence,2021)做了最新的解释,机器和计算机正变得越来越复杂和自我维持。当人工智能时代的机器法、伦理学和道德是一系列创新研究的集合,这些研究提出了机器伦理和道德领域的整体和跨学科方法,并提供了关于机器伦理、道德的最新观点,与人机伦理相关的定义、术语、政策、理念和相关决定因素的发展。该书涵盖了人机伦理学重要领域的多个主题组成部分的理论和实践。[42]本书着重介绍了包括面部识别、健康和医学以及隐私和安全在内的广泛主题,关注人机合一伦理倡议的决策的确定和采用,从而导致人机实体,其技术及其社会和法律义务的必要的政策采用和改革,多了思考的系统性,科技的伦理敏感部分被开始聚焦在笔下。

当然,奇点是否会这么快就到来,是否会在人类完全没有准备就杀个措手不及,还是学者争论的要点。皮耶罗·斯卡菲(Piero Scaruffi)在《智能不是人工的:人工智能的历史以及为什么奇点不会很快出现》(IntelligenceisnotArtificial:AHistory ofArtificialIntelligenceand Whythe Singularity isnotComing any Time Soon,2018)一书中认为:“2017年的阿法狗零(AlphaGo Zero)之所以起作用,是因为围棋是一个完全确定性的世界,因为每个玩家都拥有关于游戏世界的完整信息,因为可采取的动作数量是有限的,并且对任何动作都可以准确预测,因有大量的人类大师玩的游戏数据集。所有这些条件在现实世界中都是很少见的。”[43]

无论如何,我们将此类技术集中到我们的日常生活中时,就会出现道德操守和最优实践的问题。不断变化的世界要求重新思考和推进我们当前的标准。如果没有最优实践来指导如何与这些复杂机器的交互使用,那么,这样的交互将变成灾难性的。因此,越来越多科技专家的介入告诉我们未来需要科技和文理结合的研究者和人才,去应对人类即将面临的重大问题。

结语

从来没有一个研究话题在今天能辐射到如此广泛的领域,令世界各国来自不同专业如哲学、社会学、艺术学、经济学、生态学、计算机学和人工智能等研究者争相参与。后人类研究从20世纪八九十年代开始受到学院派的青睐,此后十多年引起研究者的广泛注意,逐渐成为显学。2000年以来,特别是过去十年,关于后人类的阐释,从探讨人类中心主义、医学伦理到人机合一超人类与技术奇点,将人工智能对人的威胁,从学术探讨变成关乎人类切身命运的研究。然而,从宏观层面来看,目前有关这类专著和论文的局限性仍很明显,即主题和思路的重复。实际上,真正能打开论题的研究不多,特别是面对超级智能,人文学者的科技知识显得捉襟见肘,而科技专家的人文、法律和哲学的底蕴不够。上述种种困难,也激励着更多青年学者,从跨学科的角度,运用统计量化的方式,犹如计算机处理数据一样,创造范式,打破桎梏,瞩望未来。罗西·布拉伊多蒂认为,后人类更多的是融合而远非危机,它标志着丰富而复杂的历史过渡。虽然充满风险,但它也“为人类和非人类行为者以及人文科学提供了巨大的机会来改造自己。但是,像所有过渡一样,它需要一定的视野和实验能量以及相当大的耐力”[44]。故此,未来的后人类研究,应该是社科文哲法场域交互,文商理工医的直接对话,色调必不会贫乏。

注释

[1]在《控制论》出版六年之后,诺伯特·维纳的另一本书《人有人的用处:控制论与社会》问世。他发现电脑和人脑的工作原理极其相似:都是进行信息处理和信息转化的系统,只要有数据,计算机就能完成人所能做的任何事。

[2]Ihab Hassan.Prometheus as Performer:Towards a Posthumanist Culture?inPerformanceinPostmodemCulture,edited by Michael Benamou and Charles Caramella.Madison,WI:Coda Press,1977:212.

[3]Haraway,Donna.A Manifesto for Cyborgs:Science,Technology,and Socialist Feminism in the 1980s.SocialistReview,1985,5(2),pp.65-107.又见A Cyborg Manifesto:Science,Technology,and Socialist-Feminism in the Late Twentieth Century,Simians,Cyborgs,andWomen:TheReinventionofNature.New York:Routledge,1990:149-182.

[4]德文版1954年出版,英文版1977年出版。见Martin Heidegger.TheQuestion Concerning Technologyand OtherEssays.Garland Publishing,1977.

[5]Deleuze,G.and Guattari,F.Anti-Oedipus,translated by R.Hurley,M.Seem and H.R.Lane.Minneapolis,MN:University of Minnesota Press.

[6]这些思潮或术语的涌现,可参考《后人类未来》和《我们何以成为后人类》两书参考书目。

[7]Landing.AI创始人及CEO吴恩达.人工智能与先进制造.https://www.sohu.com/a/220406647_680938,2018-02-01.

[8]Bryan L.Moore(auth.)Ecological LiteratureandtheCritiqueofAnthropocentrism.Palgrave Macmillan,2017.

[9]Rosi Braidotti.ThePosthuman.Polity,2013.

[10]Richard Grusin.ed..TheNonhumanTurn.Minneapolis:University of Minnesota Press,2015.

[11]Sverre Raffnsøe.Philosophyforthe Anthropocene:TheHumanTurn.Basingstoke,UK:Palgrave,2016.

[12]Roberto Marchesini.Beyond Anthropocentrism:Thoughts for a Post-Human Philosophy.MimesisInternational,2019.

[13]新物质主义思想认为,随着生物技术、人工智能等的高速发展,技术带来的伦理问题也逐渐浮现,因此需要开拓一种看待人类和技术之间关系的新视角。

[14]Thomas Smith.Sustainability,WellbeingandthePosthumanturn.Springer International Publishing-Palgrave Pivot,2019.

[15]Halberstam,Judith and Ira Livingston(eds.)PosthumanBodies.Bloomington,IN:Indiana University Press,1995,p.115.

[16]可参考《应用伦理学》的一节“作为‘两难动机’的生物伦理学”。R.G.Frey,Christopher Heath Wellman.ACompaniontoAppliedEthics.Wiley-Blackwell,2005:295.

[17]Kasper Lippert-Rasmussen,Mads Rosendahl Thomsen,Jacob Wamberg.The PosthumanCondition:Ethics,Aestheticsand PoliticsofBiotechnologicalChallenges.Aarhus University Press,2012:58.

[18]闫坤如.人工智能机器具有道德主体地位吗?[J].自然辩证法研究,2019(5):47.

[19]Tamar Sharon.HumanNaturein anAgeofBiotechnology:TheCaseforMediated Posthumanism.Springer Netherlands,2014:228.

[20]Melinda Cooper.LifeasSurplus:BiotechnologyandCapitalismintheNeoliberal Era.University ofWashington Press,2008.

[21]新华社.多国科学家警告基因组编辑技术还未能安全用于人类.2009-03.https://baijiahao.baidu.com/s?id=1676825435325902769&wfr=spider&for=pc.

[22]Ferrando,Francesca.Philosophical Posthumanism.TheoryintheNew Humanities.Bloomsbury Publishing,2020.

[23]Habermas,J..TheFutureofHumanNature.Trans.Rehg,W.,Pensky,M.,Beister,B.,Polity Press:Cambridge,UK.2003,p.27.

[24]Bostrom,Nick.Introduction—The Transhumanist FAQ:A General Introduction.In book:TranshumanismandtheBody.Publisher Name Palgrave Macmillan,New York,2014:29.

[25]《神曲》名为“Commedia”或“Divina Commedia”,是但丁最著名的作品。

[26]Scott Jeffery.ThePosthumanBody inSuperheroComics:Human,Superhuman,Transhuman,Post/Human.Palgrave Macmillan,p.1.

[27]比如研究莎士比亚与后人类的有这本:Craig Dionne.Posthuman Lear:Reading Shakespearein theAnthropocene.Punctum Books,2016.

[28]Benjamin Hurlbut,Hava Tirosh-Samuelson(eds.)Perfecting Human Futures:TranshumanVisionsandTechnological Imaginations.VS Verlag für Sozialwissenschaften,2016.

[29]Melinda Hall.TheBioethicsofEnhancement:Transhumanism,Disability,and Biopolitics.Lexington Books,2017.

[30]Nicholas Agar.Humanity’sEnd:WhyWeShouldRejectRadicalEnhancement.MA:The MIT Press,2010:21.

[31]Francis Fukuyama.OurPosthuman Future:Consequencesofthe Biotechnology Revolution.Picador,2003:181-194.

[32]Peter Bloom.Identity,Institutions andGovernanceinanAIWorld:Transhuman Relations.Springer International Publishing,Palgrave Macmillan,2020.

[33]Vernor Vinge,The Coming Technological Singularity:How to Survive in the Post-Human Era,in Vision-21:InterdisciplinaryScienceandEngineeringintheEraof Cyberspace,Proceedings of a Symposium Cosponsored by the NASA Lewis Research Center and the Ohio Aero-space Institute,Westlake,Ohio,March 30-31,1993:11.https://ntrs.nasa.gov/archive/nasa/casi.ntrs.nasa.gov/19940022855.pdf.

[34]Ray Kurzweil.TheSingularityIs Near:WhenHumansTranscendBiology.Viking Adult,2005.

[35]Watch Elon Musk’s Neuralink Presentation.https://www.bilibili.com/video/BV1vJ411F7db/?spm_id_from=333.788.recommend_more_video.3.

[36]Calum Chace.TheEconomicSingularity:ArtificialIntelligenceandtheDeath ofCapitalism.Three Cs.,2016.

[37]Steven Hill.Raw Deal:How the“UberEconomy”andRunawayCapitalism AreScrewingAmericanWorkers.St.Martin’s Press,2015.

[38]Averch,Harvey Allen.AStrategic AnalysisofScienceandTechnologyPolicy.Baltimore: Johns Hopkins University Press,1985.

[39]Baum,Seth D.,Goertzel,Ben,and Goertzel,Ted G.“How Long Until Human-Level AI?Results from an Expert Assessment”,TechnologicalForecastingandSocial Change,2011,78(1):185-195.

[40]Nick Bostrom.SuperIntelligence:Paths,Dangers,Strategies.Oxford University Press,2014.

[41]Yorick Wilks.ArtificialIntelligence:ModernMagicorDangerousFuture?Icon Books,p.249.

[42]Steven John Thompson.Machine Law,Ethics,andMoralityintheAgeofArtificialIntelligence.IGIGlobal,2021.

[43]Piero Scaruffi.Intelligenceisnot Artificial:AHistoryofArtificialIntelligence andWhytheSingularityisnotComingany TimeSoon.Create Space Independent Publishing Platform,2018:351-352.

[44]Rosi Braidotti.PosthumanKnowledge.Polity,2019:19.

猜你喜欢

奇点伦理人工智能
《心之死》的趣味与伦理焦虑
校中有笑
校中有笑
校中有笑
校中有笑
《白噪音》中后现代声景的死亡伦理思考
2019:人工智能
人工智能与就业
伦理批评与文学伦理学
数读人工智能