科技伦理视阈下的《克拉拉与太阳》

[摘  要] 石黑一雄在其新作《克拉拉与太阳》中紧扣时代的主题，展现了未来人类社会可能会出现的人与科技、人与人工智能的伦理冲突，对人类从伦理选择阶段到科学选择阶段有着前瞻性的认识与思考。石黑一雄以人工智能型机器人克拉拉和人类乔西一家一起生活的过程中所产生的矛盾冲突为例，揭示了科学选择与伦理选择之间的冲突，隐喻着科学选择指向人的未来。本文基于科技伦理学的相关理论和知识，对文中展现的科学技术与伦理道德的同一与冲突，伦理选择与科学选择的两难进行阐释，以此来对石黑一雄的机器人运用应该在合理的伦理向度下这一科学伦理观点进行总结。

[关键词] 石黑一雄  《克拉拉与太阳》  科技伦理

[中图分类号] I106        [文献标识码] A        [文章编号] 2097-2881（2023）10-0050-05

处于数字革命高潮时期的21世纪，人工智能与AI技术也走向成熟，成为人类社会生活中的一个重要组成部分。在这些高新现代科技的运用当中，人类面临着复杂的伦理问题。与20世纪以来科幻小说的主题有所不同，石黑一雄在其新作《克拉拉与太阳》中除了展现人类与机器之间固有的矛盾冲突外，更加关注的是人与机器之间的伦理问题，尤其是科学技术与伦理道德二者之间的同一与冲突，介于科学选择与伦理选择之间的两难。同时，在这些伦理书写中，作家自身的科学伦理观也得以展现。

一、科学技术与伦理道德的同一与冲突

在人类漫长的历史发展进程中，生产力的改变与提高使得人类社会不断超越自身，达到全新的水平。在这个进程当中，科学技术和伦理道德始终都是存在于人类生产与求知活动中的两种重要社会形态，两者和谐的统一是人类社会向前发展的重要保证。这二者虽然有明显的差异，但是科学技术、科学文化、科学活动都与个体的伦理观念、道德观念和人类社会整体的道德观念之间存在着密不可分的关系。在一种科学技术最初产生时，其对于人类社会的促进作用是毋庸置疑的，对社会伦理道德来说，科学文化也推动了道德文明的形成。而当这种科学技术逐渐走向成熟时，它的迅速发展与人类社会无法与之匹配协调的公共物质需求和个人欲望之间也产生了冲突矛盾。

1.科学技术与伦理道德的同一

在石黑一雄笔下所建构的那个未来世界里，人们面对“类人”机器人的出现时，能够轻易地跨过那条至深至宽的恐怖谷，从而理性地对待机器人。从小说中的机器人主人公的名字来说，这次的主角是“陪伴型”机器人，而非“服务型”“工业型”，这给小说中的机器人群体下了定义，人类自身的陪伴需求正是他们产生的原因。

小说中，陪伴型机器人即AF逐渐成为儿童市场的主流。AF商店的经理对来选购AF的客人说“恕我直言，太太，第三代产品已经为许多孩子带去了无尽的欢乐”，克拉拉自己也能看见大街上随处都有跟随在青少年身后的AF。“隔壁那条街——PRO大楼后面的那条——挤满了AF。”“你看到了吗，克拉拉？那个男孩好爱他的AF呀！噢，瞧瞧他俩一起哈哈大笑的模样！”等到克拉拉这一代B2型AF出现时，陪伴型机器人的市场已经愈加成熟，每天来店里挑选AF的家庭络绎不绝。其后，B3型的AF也紧接而来，开始挤压B2型AF的市场。与只会进行机械反映与程式化动作的机器人不同，这一类的陪伴型机器人专为陪伴儿童而设计，具有极高的观察、推理与共情能力，它们的出现就是为了消解青少年的孤独感。

包括书中提到的乔西使用“矩形板”上课，里克的机械“鸟群”，这些都是科学技术在合理的向度之下被使用，先进的科学文化也给予了人类更加先进的智慧，让人能更加方便而又深刻地探索世界。可见，即使人工智能已经进入人类的生活并被广泛使用，但是在和机器人相处的过程中，人依旧保持着理性的认识。此时科学技术对道德伦理是起着推动作用的，人类用理性作为催化剂调节着科学技术和伦理道德的关系，使得二者之间相互协调和发展。

2.科学技术与伦理道德的冲突

当科学技术从最初的平缓发展逐渐走向高速发展时期，科学技术在人类社会得到广泛应用，成熟的科学技术让人类的欲望也随之快速膨胀起来。人类社会生存资料的有限性导致二者的冲突和矛盾。在《克拉拉与太阳》中，科学技术与伦理道德的冲突主要存在于两方面。

一方面，是作为群体的机器人与作为群体的人类之间的冲突。这个冲突是人类在人工智能迅速发展的未来社会中将会面临的一个群体性危机——失业，它直接威胁的是人类自身的生存。在小说中，乔西的父亲就是一位因为机器人在高精尖行业中广泛运用而失去工作的技术人才。他曾经任职于一所名叫“金博尔制冷”的高精尖化工厂，是一位能力卓越、有着光明未来的高级人才，“他被替代了。跟其他所有人一样。……他曾经是个天才。”在机器人逐渐被运用到高精尖行业的时候，许多作为曾经的行业希望、未来精英的人才被替代，失去了赖以生存的职位，从顶端跌落至谷底，美好的未来图景粉碎在机器人的手里。这也正是乔西家庭破裂的原因之一，乔西的父亲离开了家庭。乔西曾问他的父亲，“为什么要住在一个满是黑帮满是枪的地方呢？”里克的母亲海伦小姐也补充道，“你们都来自曾经的职业精英队伍。你还说过，你们几乎全民皆兵的武装起来，对抗其他各色人等。这一切听起来确实有一点法西斯主义的味道……”可以说，在失去稳定的职业后，这些精英人才采取了抱团取暖、敌对其他团体的人生态度。科学技术对这些高级知识分子生存空间的挤压，使得这些原本应该是未来社会的中坚力量转而变成了一股不稳定的、随时有可能爆发动乱的危险力量。在文中后半部分可以看到一部分人对AF的态度也发生了转变。在剧院门口，一位身穿高级蓝色裙装的女士对克拉拉说，“它们先是抢走了我们的工作，接着它们还要抢走剧院里的座位？”从这位女士的穿着打扮可以看出她也属于精英阶层，对于这些挤占社会公共生存空间与资源空间的机器人，人们愈加不滿。在这个时候，科学技术早已不是服务人类的存在，也无法对人的伦理道德起到良好的导向作用，反而导致两者之间冲突不断，人甚至要变为极端反对科技的存在。当机器人走入人类的日常生活中，人与机器人之间的生物种族矛盾将会弱化，二者逐渐的分裂是由于人类的利益受到了损害。

另一方面是科学技术逐渐入侵人类最根本的权利即生命权利，同时科学技术的滥用，引发了社会群体的焦虑与伦理失衡，伦理道德此时不过是科学技术的脚下之物。小说中隐晦提到的“提升”其实指的就是基因改造技术，这种生命科学技术在使用之初就是以个体的生命为代价，获得优越的基因。乔西的母亲就是这样一个痴迷于“基因改造”的精英阶层人物，为了让自己的孩子一直在精英阶层，享受社会特权，她不惜将自己的两个女儿都送去接受“提升”。她的第一个孩子，乔西的姐姐萨尔就是在基因提升后因为严重的后遗症而离世，乔西在提升后也处于生病的状态。在失去大女儿时，她悲痛万分难以接受。而现在，她又因为同样的决定即将失去小女兒乔西，她痛苦到失去自我。这个女人让同样的悲剧上演了两次，基因改造所带来的痛苦不仅重重地压在乔西母亲身上，更让乔西这一接受改造的主体终生难以释怀。

在小说建构的未来时空里，基因编辑与改造技术早已风靡全世界，是被精英阶层普遍使用的一种技术。大多数孩子在未出生之前就已经接受过基因编辑与改造，然而这种高科技是一把双刃剑，人类能在此帮助下得到高智商高品质的后代，却也有着无法避免的、威胁生命的一面。在小说中，利用转基因技术提升过的人类儿童会经历排异阶段，也就是“生病”，可以说这是人类与自然规律的“对赌”，是一项高风险高回报的投资。这正是生命科学技术被滥用所产生的后果。在欲望之壑与巨额金钱的诱惑面前，伦理道德标准反而成了一种阻碍，此时的科学技术导致人类伦理道德的堕落。

二、伦理选择与科学选择的两难

在聂珍钊看来，人类文明包括自然选择、伦理选择、科学选择三个阶段。目前人类正在经历由伦理选择向科学选择过渡的时期，并不断向科学选择迈进，这个时期被称为“后伦理选择时代”。科技伦理即科技的伦理问题，是人类进入科学选择阶段所正在面临且亟须解决的问题。科技自产生之初就与人类及人类社会形成多层次的道德与利益关系，而当利益与道德从互构变为互相冲突时，那么潜藏在科技背后的风险将会演化为显在问题。小说中的人物面临伦理选择与科学选择时都存在着两难，同时也面临着科技伦理的困境。

从《克拉拉与太阳》来看，后伦理选择时代科学选择的本质依旧是伦理选择。在石黑一雄笔下的未来社会中，小说中的人仍然是现代社会中由人性和兽性结合而成的斯芬克斯怪兽。在文本中具体来说，乔西的父亲与母亲，尤其是后者，便是一个在理性和兽性之间挣扎的典型人物。文学伦理学批评认为，斯芬克斯因子包括人性和兽性，这两种因子有机地组合在一起，构成一个完整的人，而作为高级存在的人性因子能够控制兽性因子，从而使人成为有伦理意识的人。而乔西母亲的延续计划显然是被兽性因子占上风的结果。她试图枉顾伦理道德对自己的女儿实行残忍的人机替换，但在计划的实行过程中，人性因子与兽性因子一直轮流占据上风，这也使得整个计划并没有顺利实施。

乔西母亲面临的伦理选择，一个是让女儿接受基因改造这一违背自然生命伦理的技术，以满足自身的利益需求，代价则是失去女儿；另一个则是让女儿自由快乐简单地活下去，尊重她作为个体的独特自然生命伦理，代价是失去通向精英阶层的道路。前者是非人性化的、自私的伦理选择，后者则是尊重完美人性与健康生命形式的伦理选择。而乔西的母亲显然选择了前者，在这样一个伦理选择的困境中，她选择的是利益与欲望，放弃的是亲情与血缘。同时这样的伦理选择也让她在看到后果后追悔莫及。

为了挽回仅存的亲情，又或者说为了否认自己决策的失败，母亲决定让克拉拉这个机器人替代自己的女儿乔西并“活”下去，这个也是贯穿整本小说的“延续计划”。此时，她便陷入科学选择两难的境地。一边是接受执行“延续计划”，让机器人克拉拉替代女儿“活”下去，采取科技手段，防止自己痛苦，但触及一个核心命题——机器人真的能分毫不差地仿照或者说成为人并活下去吗？人之所以成为人的独特性就此被取消了？另一边则是停止“延续计划”，眼睁睁看着自己的女儿失去生命，生命无法因为科学而再次复位，但机器人是否真的无法成为一种情感寄托的存在，以抚慰人类受伤的心灵呢？科学选择以科学伦理为指导，而乔西母亲的计划显然是违背科学伦理的，这无疑是科技对于生命权的挑战，是人工智能对个人生命的挑战。一方面，乔西的母亲非常需要这样一个与乔西并无二致的“人”来填补内心的缺位，另一方面，她自己也知道，机器人是无法代替基于血缘的亲属关系的。

伦理选择与科学选择的两难发生在乔西的母亲身上。作为深爱着两个女儿的母亲，却让两个女儿相继接受基因改造，后果则是一个病亡，一个病危。这一伦理选择背后的驱动力不仅仅是乔西母亲的一己私欲，她这种欲望的来源，即当时的伦理环境更值得探讨。在乔西母亲所处的时代，基因改造早已是家常便饭，精英阶层为了自己的后代也能一直享受这个阶层带来的利益，将基因编辑技术用到自己的孩子身上。在整个社会共同焦虑的影响下，乔西的母亲义无反顾地让女儿接受“提升”。在大女儿萨尔已经不幸离世，自己的家庭也因为这次可怕的事件支离破碎后，母亲依旧一意孤行。可见，在伦理环境中生活的人无时无刻不被其影响，这种影响是持续的、深远的。虽然作为个体的人始终是伦理选择的主体，但在大环境中人往往只能在选择之前遵循个人伦理意志，而当真正的选择来临时，人们普遍是跟随大的伦理环境施加给整个社会群体的共同选择，这意味着在潜意识中人始终是趋向合群的，群体的属性深深烙印在人类的伦理选择之上。伦理选择的目的是获得人的本质，然而人的本质就像康德所说的“物质体”一般，世界确实有物质体的存在，但是并没有人能够真正获得它，而只能无限接近它，所以个人的伦理选择往往忽略了基本的善恶观念，而是基于其所生存的伦理环境中由群体所建构起来的伦理准则与道德观念。

科技对伦理的挑战是对人的基本生命权利的挑战，对人的隐私权、生命权的挑战，是机器人认知的渴求，是机器人这一个体对于个体生命的挑战。伦理选择与科学选择无疑都应该遵循社会的伦理道德，方能使得在后伦理时代里，科学技术始终牢牢把握在人类手里，并为人类所用，而不是人类成为科技的奴隶，枉顾伦理道德。由此，《克拉拉与太阳》这一文本中的伦理选择与科学选择的两难这一伦理困境是具有现代阐释意义的。

三、石黑一雄的科技伦理观

《克拉拉与太阳》这部作品预示着人类的未来，当人工智能被运用到我们生活的每一处，机器人成为每一个家庭的标配，我们应该如何面临现代科技与传统伦理道德的冲突，又该如何看待机器人这一群体在社会生活中的归属，作品的结局喻示着未来机器人的运用应在合理的伦理向度下，以人为主体的伦理选择与科学选择始终都要遵循伦理道德，在作家的科学伦理观里面，有两个不可缺失的主体——人和机器人。

1.对机器人的人文关怀

克拉拉的行为准则从预设的标准变为自我的道德评判，是一种质的飞跃。然而它也在失去利用价值后被抛弃，这也是未来人类将要面临的一个伦理问题。作家在小说末尾给出了自己对于机器人的人文關怀。石黑一雄曾说他所关心的不是小说最后主观奇迹是否真的发生了，而是在他所建构的故事中主观本质上很天真、善良的机器人，它对世界的纯真信仰被粉碎。主观的悲剧不在于乔西是否会死去，而在于克拉拉的信仰破灭，它为之付出的努力将付诸东流。

优秀如克拉拉这般的，和乔西一家可以说是亲密无间的陪伴型机器人，从它被当作乔西的替代品到最后被弃于垃圾场，从被母亲以不纯粹的动机买入到最后被遗弃的结局，怎么都与克拉拉之前带有极强情感倾向地想要融入乔西一家，甚至被视作不能分离的“家人”的情境不相符。人类这种许诺之后又将其毫不留情地抛弃的做法是否也是一种对伦理道德的背叛？整本书是基于克拉拉所储存在芯片里的记忆进行叙述的，从文章的字里行间都能看到克拉拉自己的情感倾向与自主意识，因此可以认为，克拉拉并不是一个无情无感的机器。所以克拉拉才会说：“但无论我多么努力地去尝试，如今我相信，总会有一样东西是我无法触及的。母亲、里克、梅拉尼娅管家、父亲——我永远都无法触及他们在内心这对于乔西的感情。如今我确信了这一点。”作为带有情感意识的机器人，克拉拉被设定了许多人类都无法达到的高道德标准。这是一个完全利他的存在，克拉拉在小说中始终处于一个伦理困境的状态，最终它自己的伦理选择也将自己送往了灭亡的道路。道德本应是专属于人类的价值体系，却反而成为人工智能的软肋，克拉拉选择拒绝替代乔西，将自己的未来断送，伦理道德在此时成为克拉拉衡量事物的最终标准，同时也成它的软肋。

伴随人类社会历史始终的是偏见与歧视意识，人们在历史上会根据阶层或种姓去对待他人，而在未来社会，机器人也成为被不平等对待的对象。像克拉拉这样的人物形象可以在很多西方文学作品中找到对应，它的形象就像女家庭教师一样，这些人很难融入富人的家庭，富人们往往也不知道是否应该平等地对待女家庭教师。

然而即使机器人并没有完整的自我意识与自我存在的思想，但是当人类残忍地对待这样一个“类人”机器人的时候，反映的正是人性中黑暗不可见的一面，也说明了人类将会如何对待同类。

克拉拉最后的悲剧结局是它自我的选择，也是人类利用完它之后的弃之不顾，石黑一雄将目光放在这位机器人身上，所投射的正是他对于机器人群体的人文关怀。

2.现代科技与伦理道德的互构

石黑一雄在《我的二十世纪之夜及其他细小细节的突破》中提道：“在拐弯处——我们是否已经转危为安了？——是科学、技术和医学的惊人突破所带来的挑战。新的遗传技术，如基因编辑技术，以及人工智能和机器人技术的进步将为我们带来令人惊叹的、拯救生命的益处， 但也可能造成类似种族隔离制度的野蛮的精英统治社会，以及大规模失业的问题，甚至于当前的行业精英们也将濒临失业。”

现代科技迅速发展，却没有合理的、原则性的理论指导，使其在合理的伦理向度下被使用。科技刚开始出现时，人类社会呈现出来的是一种狂热的状态，在狂喜之余，科技对人类发展产生巨大作用。而在现代性维度下的科技似乎走向了另一个极端，到底是人的异化导致科技的使用走向非人性的方向，还是科技导致人的异化并难以复原？

现代科技的目的除了要便利人类的生活，提高人类社会的生产效率外，更应该以先进的科学知识来使得人的伦理道德更为完善。文学伦理学批评认为，伦理选择的目的是加强人的道德化，但道德的真正完善是在科学进步中实现的。随着科学的飞速发展和道德的完善，科学和道德越来越相互融合在一起，从而走向科学文明的阶段。现代科技应当促进人的全面发展，使人成为更好的人，而不是异化的人。

伦理道德则需要约束现代科技的使用，伦理选择的目的是加强人的道德化，作为认知理性的科学应在道德理性的协调下，使人的理性平衡，防止科学走向邪恶，使人变为“单向度的人”。完美的人性应当在现代科技与伦理道德的协调互构中展现出来，且始终作为人类在科学之路上的最高追求。

现代社会，我们更关心的是科技和科学将会把人引入一个怎样的境地。在现代科技的冲击之下，科学与伦理之间是否还有传统的秩序？抑或伦理道德此时对科学选择已经有了局限性？或许我们只能站在当下社会的立场对某些在未来可能得到相当大发展的事物进行有限的伦理批评。对未来科幻气质的小说进行文学伦理学的研究，也就是为未来社会的伦理选择、价值取向提供蓝本、范本，提供一种可供选择的示例。

参考文献

[1]   石黑一雄.克拉拉与太阳[M].宋佥，译.上海：上海译文出版社，2021．

[2]   刘晓华.英美科幻小说科技伦理研究[M].北京：中国社会科学出版社，2019.

[3]   帕里西.机器人的未来：机器人科学的人类隐喻[M].王志欣，廖春霞，刘舂容，译.北京：机械工业出版社，2015.

[4]   聂珍钊.文学伦理学批评导论[M].北京：北京大学出版社，2014.

[5]   刘红卫，聂珍钊.从伦理选择到科学选择的理论思考——聂珍钊教授访谈录[J].广东外语外贸大学学报，2022，33（1）.

[6]     苏晖.后伦理选择时代的科学选择[J].外国文学研究，2022，44（6）.

[7]   尚必武.机器能否替代人类？——《克拉拉与太阳》中的机器人叙事与伦理选择[J].外国文学研究，2022，44（1）.

[8]   夏忠玉.科技伦理视阈下《我这样的机器》研究[D].昆明：云南师范大学，2022.

（特约编辑 张  帆）

作者简介：刘佳礼，吉首大学硕士研究生在读，研究方向为比较文学与世界文学。

基金项目：吉首大学研究生科研创新项目“科技伦理视阈下的石黑一雄科幻作品研究”。