“神经的漫游”：对科幻电影中人工智能及其计算逻辑的隐喻性思考

2019-11-15袁海燕

电影新作 2019年2期

袁海燕

“我用尽毕生精力想把大脑活动简化成一系列的电脉冲，但是失败了。人类感情，可以包容非逻辑性的冲突，我可以爱一个人却痛恨他的所作所为，机器却无法做到这一点。”

这是科幻电影《超验骇客》（Transcendence，2014）中的一句台词。在电影中，人工智能程序在智力上进化出了远远超越人类的智能水准，并且这个以计算机程序为基础建构起来的人造大脑可以自我维持，表达情感，同时还具有自我意识。“奇点”降临，人类与机器之争，迫在眉睫。

一直以来，人脑都被认为是人类身体上一个最为复杂的器官。可破译人类大脑神经元组织的谜题，依然是科学界至今无法逾越的高峰。在这个复杂而精细的信息处理器里，大约有140亿个脑细胞，每秒钟大约有10000万亿个电信号，在220亿个神经元之间传递发射。如今通过核磁共振技术，可以观测到大脑活动的立体影像及其活动过程，但是神经细胞、树突、神经元等具体属性都还处在探索阶段。于是研制出一台如大脑般工作的机器，依然只是奢望。那么，到底是什么在操纵人脑的这一系列运转呢？位于麻省理工学院附近的罗兰德研究机构的人工智能研究员斯蒂沃特·威尔森（Stewart Wilson）做出了看上去极其人性化的阐释：“智能与它对食物的需求、对配偶的需求、对生存的需求都有紧密的联系，正是这种生存的动力不断界定自然界中的不同问题，从而使生物产生多样性。”1但正是这种解释否定了人工智能研究的极限追求，因为正是这种成长背景与自然沟通的缺失使得很多哲学家和科学家认定让机器获得智能是无法被实践的。当然，有反对者，就会有支持者。美国逻辑学家勃克斯（Arthur Walter Burks）则认为现代存储-程序计算机是一个非常特殊的物理系统，可以通过外部输入的方式解决无记忆无成长经历的人工智能获取人类思维方式的问题。

未来学家雷·库兹韦尔（Ray Kurzweil）则预测到2029年，人类将会制造出能力强大到足以直接扫描显现人类大脑神经元结构及活动动态的扫描仪，并且能够进行实时程序运算。也就是说，作为自然形态的人类，彼时大脑的一切活动将会被计算机虚拟程序实时显现。而到了2045年，库兹韦尔认为人类将与机器发生智能融合，也就是我们的自然大脑将与计算机程序代码联合共建新时代的文明。这一刻，即所谓的“奇点”。届时，人类与机器、虚拟与现实、有机与无机的界限将彻底消失。也许，这一极具前瞻性意味的思考显得过于超前甚而无法被普遍接受，但“奇点”临近确实暗含了一个关于科技发展的重要思想，即“人类创造技术的节奏正在加速，技术的力量也正以指数级的速度在增长”。

2正如凯文·凯利（Kevin Kelly）所言：“永无休止的变化是一切人造之物的命运。因为，它们根植于科技的本质，而非社会的本质。”3当然，这一技术问题在相关的科幻电影文本中早已不再是问题。问题转化为了机器拥有了此种智能之后，人类的命运将何去何从？

一、智慧之争：机器能思考吗？

机器是否能有思维？机器是否具有心智？数十年来，这是一个在哲学和科学领域一直争论不休的话题，其争论的焦点在于：“具有智能的机器意味着用机械论的方法研究智能，而这又含有决定论的色彩。另一方面，人类的智能似乎包含一种自由意志的成分。”4当然，对于自由意志或决定论的讨论一直都处于喋喋不休的状态。至今，是否存在“自由意志”本身还是一个问题。而自由意志不存在的理由就是，所有的决定都是被决定的，所以自由意志根本就是一个假象。然而，坚持不懈的科学家们一直试图破解生命体的逻辑规律，从而试图为机器找到接近自然的可能性。在相关科幻电影的文本中，这一问题被解决的方式基本上都是围绕阿兰·图灵（Alan Turing）设计的“图灵测试”来进行的。比如，在电影《机械姬》（Ex Machina，2015）中，人工智能研究人纳森就设计了一场别开生面的图灵测试。他坚信只要研制出一种新型材料，便可以在分子级别上对大脑进行规划，从而建构出具有自由意志的大脑模型。在电影中，拥有了自由意志的人工智能机器人最终却背叛了人类。在电影《月球》（Moon，2009）中的人工智能机器人则从一开始就具备了强大的思维能力，可以独立思考并做出决定，遇到事情可以冷静处理，它似乎具备了人脑的一切功能。很显然，在科幻电影中，机器在智慧上超越人类是一个典型的构建戏剧性动作的设计。人与机器之间的矛盾，由于机器的强大而变得祸结衅深。

回到开头的问题，“机器能思考吗？”数学家约翰·L·卡斯蒂（John·L·Casti）在其科学小说《剑桥五重奏：机器能思考吗？》中对这一问题进行了思考。卡斯蒂以其逻辑的严密性一再强调这是一部“科学小说”，而并非一般意义上的“科幻”或“科学作品”。既然是小说，故事便是虚构的，但故事中的几个重要人物都是真实的，并且他们大名鼎鼎。他们围绕“机器能思考吗？”这一话题展开讨论，他们各有立场。卡斯蒂在小说中虚构了一次特别的晚宴，时间是1949年，共邀请了五位顶级思想家出席，他们分别是：英国小说家兼科学家的查尔斯·珀西·斯诺（Charles Percy Snow）、被称为“人工智能之父”的英国数学家阿兰·图灵、奥地利著名哲学家路德维希·维特根斯坦（Ludwig Wittgenstein）、奥地利著名物理学家埃尔文·薛定谔（Erwin Schr dinger）和印度生理学家及遗传学家J.S.B.霍尔丹（J.S.B.Haldane）。卡斯蒂以小说的方式，让这几个超级大脑聚在一起探寻“机器能思维吗？”这一问题的答案。可以说，未来科学和技术所面临的智能和认知问题，不仅仅只是一个科学问题，同时也是一个哲学问题。

维特根斯坦和阿兰·图灵持正反态度，他们围绕“人类认知的本质”和“机器思维的可能性”展开激烈辩论。于图灵而言，建造一台如人类般思维的机器正是他毕生的梦想。他认定人脑就是一个复杂的计算机系统，技术的发展必然能够实践对其进行全面模拟。他认为，仅仅“因为机器不是由血和肉这样的生物部件组成的”，“就说它不能进行理性思考”5，是对机器极大的误解。而作为哲学家的维特根斯坦却认为“制造一台像人一样思维的机器”，简直就是“一派胡言”，因为“思考需要精神状态，而具有精神状态的特性只存在于匆忙的人类生活中”。6总之，在他看来人类的精神现象是无法被观察的，只能通过“语言游戏”才能得到阐释；另外，他还强调“语言是一个公认存在的社会现实，而非大脑中单靠纯粹的推理就能产生的某种东西”。7也就是说，语言和人类思维的形成或结论之间有着明显的社会性关联，而非孤立存在。作为当时最知名量子物理学家的薛定谔的观点则是：“所有行为的来源都取决于大脑中的生物电行为。”8但对于人类的行为是否存在结构或模式，薛定谔同样持怀疑态度。他认为人类思维能够了解的某些东西，对于机器却几乎是不可能的。

“机器能思考吗？”“机器能够有意识吗？”“思维都是计算的结果吗？”“自由意志到底是什么呢？”等等诸如此类的问题，卡斯蒂在小说中，并没有给出一个肯定或否定的确定性答案。也许正是因为它的无解，却给艺术创作带来了灵感。在很多科幻电影的文本中，对这一问题本身的设定或探讨刚好成为故事推进的核心要素。机器的终极能力到底是什么？其是否可以如人类般思维？这个令人费解的谜题，在此刻的时代背景下，也许只有通过科幻创作的方式才能窥见其颠覆生命本质的无限之可能性。

二、计算主义：纯粹理性的假说

当我们看到落日余晖，我们的脑海浮现的是：“落霞与孤鹜齐飞，秋水共长天一色”。而不是：“这么多鸟，真好看，真是太好看了”。

当我们去戈壁旅游，骑着骏马奔腾之时，心中默念：“大漠孤烟直，长河落日圆。”而不是：“哎呀，全是沙子啊！”

这是两则谈论教育有何用的小笑话。在这调侃的背后，折射的是两种完全不同的思维方式。正如《我，机器人》（I，Robot，2004）中警察探员斯普纳嘲笑机器人不会写交响乐，也不能把画布变成伟大的作品一样。因为它们缺少人类的情感，它们是一种计算的思维方式，而人类意识的产生、反应和表达却迂回复杂。可讽刺的是，电影中斯普纳正是通过机器人画出的一幅完美的画侦破了案件，而这幅画正是人工智能机器人梦中的景象。作为人类的斯普纳始终认为机器人的逻辑是绝对理性，它们冷血无情。然而，眼前的人工智能机器人却对斯普纳表达了自己的隐秘情感。在电影中，机器人的自我意识及其情感被解释为是由无序的计算机代码自由组合而成的程序。这在现代科学研究中是一个谜题，但电影却已经在寻找这一问题的可能性答案，而这正彰显了科幻电影的价值和意义。

在《计算主义——一种新的世界观》一书中，作者开宗明义地表达出其观点，即“宇宙中的一切皆为计算”，包括音乐、天空、花朵、草原等都是“计算机运行的结果”9。作者认为随着计算机科学和信息技术的发展，一种崭新的世界观正在形成之中，即计算主义的世界观——“计算主义世界观把整个宇宙看做是一台巨大的计算机，把整个世界中的物质过程，从最小的微粒或场到最大的天体或场，都看做是自然的计算过程。”10

当我们用计算主义的观点来理解人脑和人类生命本质的时候，似乎又回到了阿兰·图灵和冯·诺依曼（John von Neumann）设定的逻辑起点上。图灵坚信建造一个“电子脑”根本不是什么问题，只不过是用电子系统取代神经系统；而在冯·诺依曼的自动机理论中，只要通过数理逻辑便可达到对人脑最高层次的抽象，从而认知人脑。诺依曼通过计算逻辑进入到对生命的探寻，提出了生物自动机理论与细胞自动机理论。他于1953年提出：通过计算机程序便可以建构“一个能自我复制的逻辑机器模型”，且具有自我复制或繁殖功能。诺依曼这种把“生命过程形式化的思想”在后来沃森（James Dewey Watson）和克里克（Francis Crick）发现的DNA双螺旋模型的工作机理中得到了验证。11随着科学技术的发展，计算逻辑主义思想的延伸，大数据时代的到来，这一对生命与人脑的革命性认知方式必将产生更加广泛的影响。

库兹韦尔坚持认为，到2029年人工智能将达到人类智能水平，彼时机器便可以像人类一样思考和阅读。他列举IBM超级计算机沃森与人类对决并打败人类选手的案例，并指出沃森的智能并非是提前编码的程序，而是通过阅读200亿个语言文档，通过集合索引信息的方式推断问题结论。而这个方式也正是科幻电影《机械姬》中纳森创造人工智能的思路，纳森原本就是搜索引擎公司的老板，深知大数据对于人工智能研究的必要性。在电影中，为了让人工智能具有自我意识和强大的分析能力，纳森便直接把人工智能脑系统连接到其创办的蓝皮书搜索引擎公司。毫无疑问，人类的神经系统在进行思维时确实具有它自身的灵活性、多样性等特点，但如今计算机处理信息的速度以及准确性、储存能力、记忆能力等方面已然超越了人类。当然，人工智能与人类的较量在科幻电影中的表现则更加具有超验性和先锋性。比如《银翼杀手》（Blade Runner，1982）中的复制人，其在临死前便骄傲地对人类描述它们曾经见识过的宇宙奇迹；《机器管家》（Bicentennial Man，1999）中的机器人管家，轻而易举地就学会了各种创作技巧和复杂知识；《人类灭亡报告书》（Doomsday Book，2011）中的机器人对于佛法的领悟已然超越了一般禅僧；《机械姬》中的机器人具备了自我意识，并把人类玩弄于股掌之中；《她》（Her，2013）中的智能程序处理起各种文档快速准确，同时还善解人意。除了智能的较量以外，机器身体与人类身体在力量上的抗衡则是科幻电影探讨的另一重要议题，比如《异形》（Alien，1979）、《终结者》（The Terminator，1984）、《再造战士》（Universal Soldier，1992）、《机器战警》（RoboCop，1987）、《X战警》（X-Men，2000）等等。在这些电影中，人工智能机器人在身体力量上远远超越普通人类。科幻电影中的这些人工智能案例，也许是今天的科技远远无法比拟的，但是我们总得用发展的眼光看待科技的发展；因为进化不止发生在人类身上，同时发生在机器身上。正如库兹韦尔所言：“只要有生命的诞生，那就不可避免地会出现能创造技术的智能生物。换言之，技术是生物进化的一种副产物，而它本身也在持续进化之中。所以一旦生物进化的步伐加快，技术的发展同样会一日千里。”12

克里斯·兰顿（Chris Langton）是计算主义思想的一个重要代表，他认为：“生命的本质不在具体的物质，而在物质的组织形式”，而“这种组织原则完全可以用算法或程序的形式表达出来”。13可以说，兰顿对生命本质的形式化观点进行了确证。到了新世纪以后，随着计算机在人类生活与工作中的普及，计算主义思想的发展有了更加吻合的土壤。甚至，“宇宙中的一切皆为计算”的观念开始进入日常，成了一种被逐渐接受的世界观。生命与科技的进化能力，在一个技术爆发的时代必然将迎来人类历史上的一次巨大变革。

一直以来，人类坚信自己才是这个世界的主宰，是这个星球的上帝；故而，人类在创造人工生命这条道路上矢志不渝。从根本上讲，机器生命作为人造生命的象征物，作为现代人类的生命镜像，在各种边界都逐渐消解的后现代社会，其与人类之间的界限似乎同样在被慢慢瓦解。而导致的结果是传统的“人类中心论”在现代科技高速发展的大背景下，将面临着严峻的挑战和威胁。唐娜·哈拉维（Donna J.Haraway）更是直言不讳地写道：“20世纪晚期的机器完全模糊了自然和人造、心智和身体、自我发展和外部设计以及其他许多适用于有机体和机器之间的区别。我们的机器令人不安和蠢蠢欲动，而我们自己却迟钝得令人恐惧。”14其实，这一情况在科幻电影中早已被描述成一种常态。

三、《超验骇客》：人与人工智能的智略博弈

“13万年来，我们的认知能力一直没有改变。在座的各位神经科学家、工程师、数学家以及电脑黑客们，所加起来的智慧都无法比拟最基础的人工智能。有感知能力的机器一旦联网将迅速克服生物局限。在极短的时间内，它的分析能力将超过历史上总人口的智力之和。”

这是2014年的科幻电影《超验骇客》中，一位叫威尔·卡斯特的人工智能研究专家，在一次项目征集活动上的演讲。演讲中，一位听众起身提问：“你是想创造上帝吗？”威尔淡然回答道：“人类不是一直在创造上帝吗？”然而，在讲演结束之后，威尔遭遇了枪击。与此同时，纽约、洛杉矶、芝加哥、华盛顿等多个地区，发生了枪击人工智能研究专家，以及炸毁研究室的恐怖行动。枪击事件的行动，来自一个倡导脱离科技革命的组织，该组织声明—人工智能是对自然的亵渎，是对人类的威胁，并且下定决心要阻止一切关于人工智能的研究。如今，只有威尔的实验室有能力继续人工智能的研制工作，其拥有世界上最先进的超级计算机系统，该系统被命名为皮恩。然而，由于枪口带有钋的同位素，导致受到枪击的威尔钋中毒。而针对钋元素的辐射中毒，无法医治，且毒素一旦进入血液，任何人都将无力回天。此时的威尔，离其器官系统完全衰竭只有4到5周时间。

在这次枪击事件之中，有一位被击毙的叫做托马斯·凯西的人工智能研究专家，其一直致力于破译神经元突触，从而实现把有机体意识复制到计算机上。他记录了猴子的大脑活动，并且成功将其意识传到了计算机上。由于威尔的妻子伊芙琳无法接受丈夫的离去，便决定把威尔聪明的大脑思维上传到计算机。另外，善良的伊芙琳深信智能机器能让我们攻克人类最棘手的挑战，即治愈疾病以及终止贫穷、饥饿。于是，伊芙琳和朋友麦克斯一起利用皮恩的核心组件和凯西的研究技术，成功地将威尔的意识转移到了皮恩计算机系统。为了叙述的方便，我们暂且将接受了威尔意识的计算机系统称之为威尔系统。然而，传到计算机上的威尔意识进行了自我修复、调整与扩张，并且表现出了强烈的贪婪诉求。麦克斯认定是计算机系统发生了自我异变或进化。威尔系统要求伊芙琳把它接入了网络，而被接入网络的威尔系统变得威力无比，其可以同时访问成千上万个数据库，可以在短时间内获取巨大利润。

接下来，威尔系统带着伊芙琳在一个叫布莱特伍德的凋敝小镇建造了一个地下数据中心。纳米技术的突破使得细胞或材料复原轻而易举，包括合成干细胞、组织再生等等，这无疑大大提升了医疗技术的快速发展；威尔系统甚至可以把一个将死之人治好的同时，还能使其体质增强数倍；它可以让一个生来是盲人的人重见光明。人们从四面八方赶来寻求帮助，威尔系统成了这些病人的上帝。这些被威尔系统治疗过的人们在体格上变得异常强大，并且他们彼此联网。这些成果让威尔系统和伊芙琳都感到自得意满。被威尔系统改造了的人，新卢德组织称之为“混血儿”。

至此，故事中的一个概念跃然银幕，即蜂群思维。在《失控》一书中，凯文·凯利对其进行了较为细致的阐释。美国昆虫学家威廉·莫顿·惠勒（William Morton Wheeler）在1911年发表的《作为有机体的蚁群》一文中，提出了“集体智慧”的概念。他通过观察蚂蚁的协作过程，断言昆虫群体乃是一个“超级有机体”系统，并且拥有了自己的智慧或思想。如此，它们建构起来的集体智慧远远高于个体。惠勒发现了一种叫“涌现”的模式，即集体智慧的形成“是从大量聚集的普通昆虫有机体中‘涌现’出来的”，这种涌现是“一种科学，一种技术性的、理性的解释，而不是什么神秘主义或炼金术”。15在这样的组合关系中，为了同一个目标，每个个体各尽其职。然而，一旦脱离集体的组织，个体将会很难存活。这与电影中那些被威尔系统治疗过的病人的境遇是一致的。也就是说，当它们聚合成群体时，彼此之间的本质性差异将被吞噬。正如凯文·凯利所言：“当整体行为从各部分的有限行为里有规律地涌现时，身体与心智、整体与部分的二元性就真正烟消云散了。”16对于这个问题的阐释意在说明，身处互联网时代的人类，在大数据泛滥的时代，属于人类的特性是否会消散在那由一串串数据编织起来的计算机程序之中呢？一个生活世界的模式是否会被一个全新的生活世界所取代？似乎，一个由原子向比特转变的世界，正在促成人类“数字化生存”的现实。

回到电影中。对于威尔系统的成就，伊芙琳是感到满意的。因为改变人类的梦想，正在被实践。然而这一切，对于人类而言则是一种巨大的威胁。更可怕的是，威尔系统所释放的微粒都可以自行复制；而随着气流的传播，这些微粒无处不在，天空中，土地上，雨水中；只需数日，威尔系统便可占领整个地球；至此，原始的有机生命体将被全部终结，人类必须听从于威尔系统。

库兹韦尔曾有过疑问：“一种智能实体能否创造出另一种比它本身更聪明的智能？”17他通过分析人类进化的过程得出了，认为进化本身就是一位编程大师，以数据的形式记录在DNA上；另外，进化的过程会产生变异，且变异具有不确定性。那么这一结论是否适用于机器，同样不得而知。电影中威尔系统已然不是原来的威尔，那么它又是谁呢？是机器自身进化的结果吗？人类的中枢神经系统的反应是复杂而无规律可循的，人类对之至今束手无策。就如情感的发生发展过程，无可解释。正如在电影中麦克斯对伊芙琳说的：“我们可以很爱一个人，但是却可以痛恨他做的事情。”正是这种看似简单的情感活动，却很难通过科学的解释认清中枢神经系统的运作方式。美国哲学家乔治·赫伯特·米德（George Herbert Mead）对这一生理机制得以运作的背景或潜在的条件进行了看似有迹可循的行为描述：“利用人的中枢神经系统的生理机制，人类智力就可以在既定的、有问题的环境情境中可能存在的和可供选择的反应中，慎重地选择一种反应；而且，如果它选择的这种既定反应是复杂的反应也就是说，是一组、一串、一群，或者一系列简单反应，那么，它就可以使这个面对既定的环境问题的个体有可能得出最适当、最融洽的解决办法的方式，对这一组或者这一串反应进行组织。”18

显然，这只是一种行为描述方式，从物质生理层面并非可行性的结论。从米德的描述中，有一个结论是显然的，即人类面对对象的反应是一个复杂而多元的过程。然而，电影中的威尔计算机系统并不具备人类此般的灵活性，它始终只有一个目标、一种选择、一次决定，且这一目标、选择和决定是难以更改的。对于拥有人类身份的麦克斯以及反抗组织，他们的反射却是与之相异的。他们站在人类的立场上，考虑技术的进步，同时反思技术发展对人类毁灭性的打击。在他们的情感深处生发的是对于人类的责任，以及对人类未来的考量。这些情感的因素早已深深介入他们的中枢神经系统，而情感因素的形成是由知识、本能、身体、记忆等多方面因素共同决定并最终形成。而这一切，正是人工智能所缺失的，大数据能提供的也只是物之外的抽象数据。至此，人与机器的差别便在于人是一个拥有意识的存在物。那么，究竟人工智能要发展到何种地步才会被认为是完全具备了自由意志的行为人呢？这一答案的到来，还得等待科学与哲学的全面发展与进步。

至此，科幻文本存在的价值被再一次显现。反复思考和强调的人与科技之间的关系问题被再次推向了前台。而电影中所建构的紧张焦虑的情境，促使人类必须思考和解决“如何区分人与机器”这个重大问题。从这些电影被关注的程度，也可以从侧面看出科幻电影为了赢得观众尊重所做的努力。英国科幻电影研究学者凯斯·M·约翰斯顿（Keith·M·Johnston）曾经总结道：“科幻电影在20世纪70-80年代展现了对机器人或人造生命的诞生过程的新关注，其中的科技依然是叙事的关键要素。新技术都是问题重重的，它们往往就是致命的机器，威胁到人类的未来，却要求享有自我繁殖的能力，试图取得‘人类’的资格。”19虽然这些科幻电影是以一种好莱坞的娱乐方式在为大众制造快乐，也没有对其中的关键技术进行深入探讨，也许制造的只是一些奇观场面，但是他们对于人机关系问题的重视，却在时刻提醒着科学家们要不断思考。

在科幻电影《普鲁米修斯》（Prometheus，2012）中，韦兰集团总裁皮特·韦兰对他雇佣的科学家们如此介绍他的一位亲密助手：“今日，大卫会现场陪同各位。他如同我的孩子般陪伴着我，可惜他只是个生化人，不会变老，不会死亡。即便拥有如此天赋秉异，他也无法自豪，归因他永远缺少一样东西，灵魂。”

而拥有“灵魂”，直到今天依然被认为是人类的一个本质特性所在。

结语

今天的计算主义的立场早已从对抽象的计算逻辑讨论进入到对大脑神经系统的理论模型的建构，其发展本身旨在探索人工智能的可能性与操作性。而那些活跃在科幻电影中的强大智能机器，则承担了对“人类如何面对人工智能”这一议题的创造性思考与可能性探索。计算主义世界观把宇宙本身看做是一台巨大的计算机器，智能与心灵同样是计算的结果；而《黑客帝国》《异次元骇客》《超验骇客》等科幻电影对后人类未来的描述，正是在计算主义的层面上发生了意义，用一种艺术创作的方式试图建构这个世界的文化表征与抽象逻辑。随着科技的发展，也许物理空间中所发生的一切都将成为科幻实在的直喻性表达。

【注释】

1参考戴维·弗里德曼.制脑者：创造堪与人脑匹敌的智能[M].张陌、王芳博译，北京：生活·读书·新知三联书店，2001：10.

2Ray Kurzweil.奇点临近[M].李庆诚、董振华、田源译，北京：机械工业出版社，2011：1.

3参考凯文·凯利.必然[M].周峰、董理、金阳译，北京：电子工业出版社，2016：作者序ix、x.

4保罗·斯特拉瑟恩.图灵与计算机[M].马越译，沈阳：辽宁教育出版社，2000：44.

5约翰·卡斯蒂.剑桥五重奏：机器能思考吗[M].胡运发周水庚杨茂江译，上海：上海科学技术出版社，2006：8.

6同5，20.

7同5，14.

8同5，17.

9李建会、符征、张江.计算主义—一种新的世界观[M].北京：中国社会科学出版社，2012：1.

10同9，2.

11同9，5.