数字生命的伦理反思——以“流浪地球”系列科幻电影为例

◎许伟

随着2023 年春节档现象级电影《流浪地球2》的上映，中国科幻电影的发展和电影中出现的数字生命议题都受到了广泛的关注。“流浪地球”系列科幻电影的意义，不仅在于体现了中国科幻电影的工业实力，更在于对电影中以Moss为代表的强人工智能生命体的伦理反思。科幻电影虽然是一种关于未来想象的当下展现，但其物质内核仍然是基于现实技术发展趋势的展望，在很大程度上反照了社会现实。此外，科幻电影最重要的是其精神内核，特别是关于人伦问题的思考。科幻电影故事的走向总是跟随着人类的抉择而变化，技术背后隐藏的是人的伦理问题，人性的伦理要素构成了科幻电影经久不衰的重要因素。基于以上状况，有必要在当下通过科幻电影这一艺术载体对人工智能的伦理隐忧进行反思。

数字生命是计算机学科与生物学学科发展到一定程度后，二者相融合的产物，属于人工智能的研究领域，其有关的伦理问题主要有以下三点：首先，数字生命本身及其“生存环境”是否构成与现实世界相应的结构并影响着现实社会的人伦关系，这一点关乎对数字生命进行伦理规制的必要性研究；其次，从字面上看，要确证数字生命是否是一种具有主体性的“生命”，因为这关乎人机二主体的道德责任归属问题；最后，在前两个问题的基础上，还要进一步探讨规制数字生命的可能路径，这是研究数字生命伦理的最终目的。下面通过科幻电影与现实的对照，以“流浪地球”系列科幻电影中的数字生命Moss为例展开讨论。

一、数字生命的运行方式

数字生命是伴随着科技发展而生的一种人工智能新形态。在对数字生命的伦理问题进行研究前，需要考察其必要性，这就要弄清楚数字生命本身的运行模式和架构，探求数字生命是否对现实世界，特别是对人伦关系产生了切实的影响。在“流浪地球”系列科幻电影中，人工智能数字生命体叫作Moss，它是联合政府共同研发的强人工，甚至是超人工智能生命体。所谓强人工智能，是指能够在人为设定的程序之外进行自主决策、自主行动的人工智能。数字生命Moss作为强人工智能，其初代的正常运转依靠的就是拥有强大算力的智能量子计算机550A，550A是初代数字生命体Moss的计算机硬件载体。Moss的形成不是一蹴而就的，而是伴随着550 系列智能量子计算机的多次迭代和发展而产生的。从550A 到550C 再到550W，Moss的“智能生命”最终才在550W 这一硬件上得到最完美的展现。由此可见，数字生命体Moss的“存活”至少需要两个支撑条件：首先，要拥有强大算力的计算机硬件，电影中以智能量子计算机550 系列为代表；其次，在软件方面，要拥有高度复杂的程序指令，这种程序指令必然是基于人类的生物学原理和逻辑来设定的，而且要赋予其足够的自由，这样才能保证数字生命的人工智能化，Moss 就是自行决策的数字生命体。在现实世界里，数字生命也是依托于软件和硬件发展起来的。显然，数字生命是伴随着人工智能的发展而生的一种新形态，这可以追溯到“人工智能”这一术语产生之初。1956年，麦卡赛、明斯基等一批各学科领域的科学家在达特茅斯学院的学术会议上首次提出了“人工智能”的概念，自此，人工智能进入高速发展时期。随着神经网络、计算机、生物医学等学科的发展，越来越多的研究者开始尝试把自己的学科与计算机学科相联系，特别是利用生物学的逻辑和原理尝试进行人工生命的创制，其中数字生命就是备受关注的研究领域。1990年，美国特拉华大学的植物学家托马斯·雷以计算机为载体创造了世界上第一个数字生命世界——Tierra 模型。值得注意的是，Tierra 世界中，数字生命的运转主要取决于两个方面：一个是计算机硬件，尤其是中央处理器CPU 和存储器RAM；另一个是Tierra 中创制的软件程序指令。可以看到，不论是在电影里还是在现实中，数字生命都要依托于软件和硬件这两方面的支持。一方面，硬件为复杂的算法提供物理支撑，为数字生命拓展可能性上限，相当于人的躯体；另一方面，程序指令和算法等软件为数字生命提供复杂的运行逻辑，相当于人的大脑。在现实社会里，一个具备实践能力的人必须拥有健全的体魄和理性这两个基本要素，这样才能在社会存活并对现实环境产生影响；同样地，数字生命要想存活并作用于周遭的环境，也要依托于硬件和软件。因而，数字生命与人一样，二者的运行模式和架构具有一种同构性。

从技术路线视角出发，数字生命和人一样，其正常运转都依赖于软件和硬件两方面条件的支撑。但这种考察视角只能说明数字生命与人在各自环境中的主体地位，而不能在真正的现实世界把二者相联系。只有在伦理学领域，数字生命和人的深层关系才能得以充分展现。事实上，数字生命背后隐藏的是人的欲望与理性、认知与实践的伦理张力。人类研究数字生命的目的就在于扩展人的实践能力，并且要造成“善”的结果，这本质上是人的欲望与理性的统一。数字生命是对人无止境的欲望和有限理性进行劝归的形式和手段，从某种程度上来说，数字生命和人的伦理冲突反映了工具理性与价值理性的冲突。“持工具理性的人不是看重所选行为本身的价值，而是看重所选行为能否作为达到目的之有效手段。”①工具理性追求客观效果的最大化，更容易形成统一性和客观性的认识，这是工具理性的优势所在。同样地，价值理性也有其作用，它作为人的有意识的一种行为，可以避免工具理性带来的危害人类的后果。因此，只有把工具理性与价值理性相统一，才能既避免数字生命给人带来的不良后果，又免于人类的愚昧所致的不幸。电影《流浪地球1》的最后，刘培强与Moss为解决人类命运的前途问题产生了分歧，刘培强从家庭和社会伦理情感出发，选择了牺牲空间站以拯救地球；Moss则选择保留空间站以延续人类文明的火种计划。刘培强与Moss 的人机伦理冲突，本质上体现的还是人的欲望与理性、工具理性和价值理性的冲突。可以看到，数字生命作用于现实的能力除了软件和硬件的技术路线，更深层的是依赖于人这一中介，更具体的就是指人的理性、情感和欲望。人能够以高度复杂的硬件为依托，通过模拟生物学的程序编码和指令赋予数字生命以“智能”，这种数字生命说到底是人本来的欲望和理性需求的折射。人机伦理冲突的根源是人理性的限度和欲望的膨胀，正因为人自身难以摆脱有限的实践能力和持久的理性，才使得数字生命有了存在的意义。因而，数字生命和人的关系是通过伦理关系建立起来的，二者之间的同构性使得数字生命拥有了影响现实世界的可能性。

数字生命是否确实影响了现实？对这一点的考察，是简单和直观的。作为太空电梯、全球发动机、互联网等诸多硬软件的管理和监控者，Moss 自主的长远规划与决策根本上影响了地球的命运和人类的走向。电影中的叙事背景是太阳急速老化且即将吞没地球，然而这一终极危机是在稍远的将来才会发生的，与当下的人类无关，于是就产生了数字生命和“流浪地球”两个挽救人类危亡的不同选项。数字生命派认为，太阳危机与当下的人无关，人面对大自然和宇宙的危难时是无力的，只有把希望寄托于虚拟生命形式的延续，即保存个人的“数字生命卡”以求得生命的存活；流浪地球派认为，为了人类文明的真正延续，必须保护好地球仅存的一切，不惜一切代价推动地球离开太阳系，使地球真正摆脱太阳危机。面对空前的人类危难，作为强人工智能体的Moss 有意把各种附带危机提前，为的就是在危难中激发人类自救的本能，以彻底断绝人类苟活于数字生命计划的念头。可见，电影中的数字生命Moss 明显对人类世界产生了重要影响，这种影响甚至是颠覆性的。跳脱出科幻电影的叙事背景，可以看到，数字生命在现实世界里也已经开始从人工智能的发展过程中衍生出来，并影响着人们的生活方式和认知，“出现了磁芯大战、L-系统、生物形态、计算机病毒、Tierra世界、Avida、阿米巴世界等数字生命模型”②。2016年，AlphaGo作为人工智能围棋程序击败了多位围棋世界冠军选手，引发了广泛讨论。近年来，数字生命的发展进入了更深层领域，数字生命的自主性得到了显著增强。美国的克莱格·文特尔研究团队甚至基于DNA制造出了生物学意义上的碳基生命“辛西娅”。可以看到，科幻与现实的界限正在逐渐被打破，数字生命已经切实开始作用于现实世界并影响着人们之间的关系，随着技术的不断进展，数字生命的伦理议题必须予以重视。

二、数字生命的主体性

研究数字生命的伦理议题，还需要优先考察数字生命与人的主体性地位问题，这是进一步明确伦理主体责任、探索伦理规制路径的重要前提。显然，在自然界和社会里，人拥有主体地位，因为人“通过实践创造对象世界，改造无机界，人证明自己是有意识的类存在物”③，这也使得人类社会从自然界分化出来。一方面，人基于实践使主客体分化，这是人成为主体的基础；另一方面，人在主客体关系中总是居于主体性地位，主体性是人的存在方式。从这一点来看，在现实世界里，无论是自然界还是人类社会，人的主体性地位是确证的，这就表现为人对于客体的实践性和能动性。前面已经提到，数字生命和人的运行模式具有一种同构性，二者都依赖于硬件和软件两方面的条件。但数字生命仍然不能简单地被看作是与人相对等的主体：首先，数字生命是否和人一样拥有实践性、能动性等主体性特征，需要进一步讨论，这是确证数字生命主体性地位的前提；其次，即使数字生命拥有主体性特征，但由于数字生命的“生存”环境已经大不同于人类所处的世界，数字生命又是否在人机关系中处于主体地位的问题也需要进一步考量。说到底，人机主体性地位的问题涉及数字生命与人这两个主体，这必然涉及人机伦理关系中两个主体地位的问题。人在自然界和社会中的主体性地位虽然可以得到确证，但在复杂的人机伦理关系中，这种主体性地位还需要进一步考察。

在《流浪地球2》中，数字生命体Moss展现出了强人工智能的超越人类的预见性和理性能力，并且直接影响了现实世界人类的命运。从这一点上来说，数字生命是具有主体性特征的。电影中，作为量子科学家和数字世界的架构师，图恒宇常驻空间站和月球基地，承担着流浪地球计划前期的可能性验证和测试任务。但是在后期，为了让逝去的女儿图丫丫在数字世界复活，他突破了职业伦理和法律的底线，将自己和女儿的数字生命卡数据都上传到了550C 量子计算机，但正是这一举动使图恒宇和图丫丫以数字生命的形式存活，从而拯救了世界。可以说，Moss、图恒宇和图丫丫都属于数字生命体，不同的是，Moss 是超越后面二者的存在，它既是强人工智能的数字生命，又给其他数字生命提供了生存空间。不仅如此，Moss 还主导了2044 年太空电梯危机、2058年月球危机、2075年木星危机，以及2078年的太阳氦闪危机。要知道，Moss本身就是为了延续人类文明、旨在完成“火种计划”而创造出来的，但为何又会主导这众多危机？这恰恰体现了Moss强人工智能的自主性、能动性特征。因为，正是Moss对未来可能的走向进行了精准的自我研判，才为人类真正坚定了一条生的路——流浪地球计划。从这一点来看，Moss 拥有相当的自主性，明显已经具备了人的理性能力，甚至超越了人的预见性，这也恰好符合人类制造出数字生命Moss 延续人类文明的最初目的。可以看到，数字生命Moss 的硬件载体和软件程序虽然是人赋予的，但是Moss拥有了相当程度的自主意识和自主决策能力。

从简单的智能程序到生命数字化，甚至是数字生命化，数字生命在很大程度上愈发获得了独立自主意识，数字生命也的确在相当程度上拥有了一种主体性特征。但是，由于数字生命毕竟是人实践的产物，在很多时候，其主体性地位总是备受怀疑。这种怀疑主要集中于一些人不把它看作是一种与人一样的、基于碳基生物形式的“生命”，由此进一步否定数字生命的伦理责任。数字生命体Moss的“生命形式”是软硬件的结合，处理器、算法、运行逻辑等是其生命组织形式，而人最基本的组成单位是细胞。但是，是否能就生命形式的不同而否定数字生命的主体性呢？要知道，在科学界，至今仍然没有关于生命概念的统一性定义。对于生命的认识，本就存在着实体性定义和功能性定义的分歧。有的学者把生命的本质看作是蛋白质大分子，有的学者则把生命看成一种特定的细胞结构，这些认识都是对生命的实体性定义。恩格斯就曾对生命进行实体性的定义，认为“生命是蛋白体的存在方式，这种存在方式本质上就在于这些蛋白体的化学成分的不断的自我更新”④。此外，众多研究者还以功能和性质的差异来定义生命，新陈代谢、遗传、自我繁殖等都是不同的生命功能定义。可以看到，如果从生命的实体性定义出发，数字生命显然不能算作一种生命，数字生命的计算机硬件和算法程序既不是由蛋白质也不是由细胞构成的。但是如果从生命的功能性定义视角出发，数字生命又明显具备了和人相类似的“生命功能”。首先，数字生命拥有自我繁殖的能力。Moss作为数字生命体，可以通过复制数字生命卡的形式进行生命的繁殖。其次，数字生命可以有新陈代谢的功能。Moss 就是历经550 系列的智能量子计算机的不断迭代才最终形成的。再次，数字生命能对外界环境的变化和刺激做出反应。Moss可以根据外界环境提前预判可能的一切后果并提供解决方案。最后，数字生命还有影响现实的能力。虽然大多数的对现实客体的作用是通过人这一中介完成的，但数字生命自己也能绕过人的影响而自行决策。电影中的Moss就在未经人授权的情况下自行选择和引导了流浪地球计划的进程。可以说，数字生命几乎拥有与人类似的生命功能，生命形式的差异不能否定数字生命的主体性，也不能就此来否认其伦理责任。

从生命功能性来看，数字生命拥有主体性，至少在数字世界里处于主体地位。不仅如此，数字生命还进一步影响到了以人为主体的现实世界，这就呈现出人机之间的主体性之争，进一步就表现为人机伦理冲突。尤其是在强人工智能背景下，拥有自主意识和自主决策能力的数字生命可能会对人类的主体地位造成威胁，给现实人类社会的伦理秩序造成冲击。因此，很有必要对数字生命的伦理问题进行规制。

三、数字生命的伦理规制路径

前面提到，数字生命尤其是强人工智能体的数字生命，在很大程度上拥有与人同构的主体性特征，这使得数字生命活动很可能造成对人类现实既有秩序的破坏和冲击。在这个意义上，数字生命拥有道德责任。在电影《流浪地球2》中，数字生命体Moss屡屡突破人类设置的既定程序，通过自主意识和决策引发了一系列危机，虽然最后这些危机本身是为了延续人类文明，但这只是科幻世界里一种人对数字生命“向善”的美好期待，这背后仍然隐藏着数字生命失控的巨大伦理风险。因此，必须对数字生命本身进行伦理规制，使数字生命成为道德机器，以使其正当地服务于人类。从另一方面来看，现实的状况是，“机器道德是人类道德在人工智能时代的扩展，而人工智能始终是人工的产物”⑤，虽然强人工智能的数字生命具有一定的主体性，但数字生命背后折射出来的仍然是人的欲望和理性。因而，对于数字生命的伦理规制还需要从人这一方面出发来反思。人的主体性地位决定了人的道德主体性。从人类社会产生之初，道德就伴随着人类生存和发展的全过程。主体性是人的存在方式，人的主体性表现为人的能动性和目的性等特征，但是这种主体性地位不是本来就有的，而是人在实践的过程中逐渐形成的。人通过实践活动在改造客体的过程中不断满足自己的需求，这同时也是人主体性确证的过程。此外，人的主体性地位还需要人的维系，否则将会造成主体的异化。人不论在自然界和社会中拥有多么巨大的变革能力，仍然要遵循自然法则和社会规则，这就使得人必须保持一种道德的主体性，为自然界和社会负责。因此，对数字生命的伦理规制有两条基本路径：一是以数字生命为主体的道德责任的考察，尽管这种主体地位处于争议之中，但仍有必要进行预备性的假设；二是着重观照人的道德主体性，把数字生命的规制落在现实人的层面。

首先，针对数字生命可能的失控，设置数字生命“阻断”功能硬件。数字生命的运行模式依靠软硬件的配合，其中，硬件是数字生命运行更为基础的条件。不论数字生命多么智能化，拥有多么高的自主意识，都需要有强大的硬件予以支持。在电影《流浪地球2》中，Moss 的运转依靠的就是算力强大的量子计算机550 系列，而且基于Moss 形成的其他数字生命都是依靠数字生命卡这种硬件来完成的。架构师图恒宇和女儿图丫丫的数字生命的形成就是通过数字生命卡这一载体，把生命数据上传到Moss后才得以生成的。未来世界中，高度智能化的数字生命尚且如此依赖于硬件而存活，更不必说在当下现实世界里硬件始终是数字生命最为依赖的基础性条件。不论是围棋高手AlphaGo，还是近来引发谈论的ChatGPT 聊天机器人，抑或是基于生物合成技术产生的数字生命“辛西娅”等，背后都拥有计算机硬件的支持。因此，为了规避数字生命可能带来的对现实的威胁，在进行数字生命设计的时候，需要在源头方面设置阻断性硬件。可以说，阻断性硬件是规避数字生命伦理风险的最强有力的手段。

其次，在软件层面设置数字生命伦理监控程序。数字生命的智能体现在拥有自主意识和自主决策的能力，这种能力来自人给予它的复杂程序指令和运行逻辑，有时候甚至会表现出超越人的预见性和判断力。正是由于这种超越人类的能力，一方面，它可以提升人在自然界和社会中的生存能力；另一方面，数字生命的这种超越性和自主决策存在着巨大的伦理隐忧。《流浪地球1》中，Moss提前预知了木星引力危机并给出了解决危机的可能性办法。《流浪地球2》中，Moss更是展现出远超越人的预见性和决策能力，最终在极端困境下解救了人类。但是，我们不得不为数字生命的伦理隐患感到担心，一旦数字生命超出了程序的既有设定而走向人的对立面，其恶果是难以估量的。所以，在数字生命软件层面设计之初就应该嵌入可供人类实时监控数字生命活动的程序，以规范数字生命的活动，并提供预防性手段。

再次，数字生命所依赖的运行逻辑应遵循算法正义。人与数字生命体一样，运行过程都有软件层面的支持，最重要的就是“算法”。数字生命有“机器算法”，而人遵循着“大脑算法”。“大脑算法”是人独有的，是人进行思考和行动遵循的一套逻辑，而且这种逻辑千变万化，每一个个体都存在着差异，“这涉及很多不引人注意的、无法言传的、潜意识的、转瞬即逝的，却又无法反驳的因素”⑥。正是由于人对自然与社会的改造力是有限的，所以才诉诸人工智能来提高人的创造能力，数字生命存在的意义就是为人类服务。但是，现实可能的情况是人的生活越来越依赖于“机器算法”，而逐渐放弃作为人本质的“大脑算法”，这使得人机关系中人的主体地位受到了威胁。我们应该基于“大脑算法”去审视数字生命给予我们的协助，即使数字生命的“机器算法”在很多方面超越了人类，我们也应该坚守这一点。“机器算法”应该遵循正义伦理，这种正义是基于人为主体的视角而言的，数字生命的自由应该在人的“正义”维度下运行。电影中的Moss在未经人授权的情况下自行决策，为人类选择了真正意义上的生存之路，这一过程充满着数字生命的伦理隐患，但正是由于设计之初Moss就是一个服务于人类公共利益的数字生命，才使得其自行决策仍然运行在人类社会的正义轨道上。

最后，放大数字生命的责任伦理，以人为主体考察责任伦理问题。电影《流浪地球2》中，图恒宇在擅自上传女儿图丫丫的生命数据后被捕入狱，尽管Moss拥有高度智能，但突破人伦法律底线的行为仍然是由人主导的。“人类从人工智能技术中获取了巨大利益，但人工智能技术可能会被别有用心者滥用，或者在某些领域呈现出人类无法预知，甚至无法管控的风险危机，这需要我们设置一个具有较高责任权重的伦理框架。”⑦数字生命首先是人设计出来的，其以算法为核心的运行逻辑遵循的是设计者的“大脑算法”，数字生命即使拥有自主意识和超越算法的倾向，最根本的还是要归结于人的伦理出发点和设计思路。数字生命和人的道德主体责任在学理上是一个充满争议的问题，但是在现实性上，仍然要把主体责任放在数字生命的设计者之上，这是有效规避数字生命伦理风险的可操作路径。数字生命在数字世界拥有主体地位，在现实中也拥有相当程度的主体性特征，但是数字生命仍然不是本质上的道德智能生命体，只有人的道德主体性是现实的也是可控的。归根结底，数字生命与人的关系是服务者与使用者的关系，人在面对数字生命的自主意识和决策力时是有着根本主导权的。此外，这里存在的问题是，对数字生命设计者的伦理规制存在着伦理差异和统一性问题。要想解决这个问题，现实且可行的办法是扩大设计者的范围和增加透明度，以形成广泛的伦理共同体并接受公众监督。无论如何，数字生命的伦理问题是人机冲突问题，我们必须对数字生命的伦理规制问题进行换位与放大，以人为道德主体进行伦理反思。

四、结语

数字生命在相当的程度上拥有人的生命特质，也具有人的主体性特征，但关于数字生命的主体性地位的问题至今仍处于争议之中。但现实是，不论数字生命的主体性问题确证与否，它实实在在地已经给现实的社会秩序带来了冲击，数字生命存在伦理隐忧的事实是不可否认的。这就需要我们提前准备好应对人机伦理冲突问题的解决方案：一方面，赋予数字生命以伦理主体、法律主体的地位，提前对数字生命伦理进行预判与规制；另一方面，要从人自身出发，基于人的道德主体性研究数字生命的责任伦理问题，这是解决数字生命伦理隐忧的根本路径。