人工智能时代应如何改变思维：系统、关联和直觉——钱旭红院士访谈① 钱旭红，中国工程院院士、华东师范大学校长、华东理工大学原校长。

黄时进 成素梅

黄时进（以下简称“黄”）：钱院士，您好。2012 年您出版了《改变思维》，这本书在国内率先从自然科学的角度出发，强调科学思维的理性力量，强调逻辑思维重建的路径，受到读者的好评。当前人工智能发展迅猛，您认为会对人类的思维方式带来哪些新的冲击？需要人们做什么样的改变？这些改变和您《改变思维》中论述的核心思想是否一致？人工智能时代，应确立怎样的思维框 架？

钱旭红（以下简称“钱”）：《改变思维》一书的目的就是强调思维的多样性差异、集成与升华，强调全面而多样的思维、超越性思维、超限性思维，真正做到道法自然，以跟上或者引领发展。七年过去了，书中一些内容需要进一步充实增订，因此，我不敢讲此书能对发展人工智能有多少帮助，但对人们接受人工智能会有些许益 处。

首先声明，我不是研究人工智能的，我无权也无能力对人工智能作出判断。但我们的研究可能与人工智能有一定关联。我的专业属于绿色化学与分子识别，基于量子物理和量子化学基础之上的分子识别现象和机理，可能对我们理解人工智能会有所帮 助。

人工智能会在很大程度上改变人类思维，其中，最大的改变就是人们更能理解和运用数据科学（大数据）。以前在我们的习惯中起主导作用是确定性思维，那么在数字人工智能时代，不确定思维将发挥更大作用，规律和其呈现方式，取决于次序时间、数据的大小规模和涉及的条件范围。不确定思维，不是没有规律，它符合不确定的那种思维规则，不是像我们通常所讲的。我们通常认为的不确定，就是什么都没有，什么都随便，其实根本不是那么回事，它是在看似杂乱无章的不确定基础上形成新的规律，呈现出以前从未发现的并出人意料的非传统规 律。

比如说，我们的味觉，味觉是感受体感知对应的分子而产生的。我们以前喜欢强调选择性，相比选择性更高的叫专一性，什么叫专一性？比如说这是糖分子，对应的是糖的受体，糖受体认出糖以后，会给出个信号，它们相互结合，即表示认识；如果是酸的东西，糖受体几乎不认识，响应信号接近背景噪音。如果受体是专一性的，它对不对应的分子的响应信号就都为零。这就是我们通常喜欢的单一的、确定的方式。这样的分子识别效率高。并且人们会据此认为效率越高效果越好。但这就带来一个问题，自然界糖的分子各式各样，有果糖的、阿拉伯糖的，如此等等。如果我们要识别一个具体的糖，就得有一个对应的受体，因为它高度专一。所以，为了识别每一个糖，我们就要有无数种受体，为了识别酸，我们也要有无数个酸的受体，看似聪明无比的策略，最后物极必反，识别的负荷越来越大，这个系统最终必将走向崩溃。为什么崩溃？它承担不起这样高度专一、种类繁多的压力。这就是我们通常熟悉的一种思维方式，也是自然界存在的一种表达方 式。

但自然界还有另一类更高效的识别方式或者更有趣的思维方式，比如人的舌苔，人的舌苔上面有无数个受体，即味蕾，但并不是每个味蕾都非常聪明，它们做不到高度专一性地识别对象，只能具有一定的选择性。从传统的识别角度看，这些味蕾很笨，似乎分辨能力很弱，用途不大。其实这种认识是错误的。就识别单个受体而言，它们的能力很差，而一旦无数这样的水平一般、小有差异的受体集成起来互相配合，形成一个体系化的系统，就会有令人震惊、超凡脱俗的本事。这点和神经元与神经系统的作用有些相 似。

味蕾大概有感受酸甜苦辣之不同，每种味蕾不仅仅识别优先对象（如甜），也识别非优先对象（如酸），它们对优先对象的响应略微灵敏、略微快捷、信号稍强。味蕾的识别不具有确定性，每个味蕾不具备高度选择性，更谈不上专一性。但是它们集成在舌苔上，根据区域和对象来识别，然后，形成一个响应信号的图案，即模式识别。无数个识别能力弱小、相互有微小差异的个体，汇聚在一起，它遇到任何东西都会给出信号相应，而响应也会有大致的特定的信号响应图案。所以人们会觉得，有的东西是甜当中有点酸，或者苦中有点咸。无论对象千差万别，味觉都可以给出非常准确的判断，即几乎专一性的识别。即使看似愚笨、非专一性、甚至选择性都不强的味觉放在一起，通过相互配合、分工协调，经过模式识别，也可以产生高度专一性的效果，简单而便 捷。

在人工智能时代，只有那种单线性的确定性思维肯定是没用的，必须允许差异多样而灵活的思维方式。单一的只能做到每个方面性能最佳，有小聪明；而群体中虽然每个个体微弱，但集成后，性能独特而全面，会展现出大智慧。因此，单个数据，就像单个的个体，不一定能看出什么规律，但是在不确定基础之上，数据足够多，它会揭示或者呈现新的规律。所以，这就是人工智能可能呈现出的一种图景，这是我个人理解的，在人工智能时代将会出现的与过去的思维方式的重要区 别。

成素梅（以下简称“成”）：您的意思是说，人工智能能够基于无数不确定的数据，找出确定性的规律 吗？

钱：是的，就像计算机上无数个点数据，单看几个点根本没啥规律。但无数个点出来以后，你会突然发现它有规律 的。

成：但是，现在计算机的模式识别本身是非常单一的，还远远没有达到您所比喻的舌苔对味道的识别那么通用的程 度。

钱：这是目前的现 状。

成：那么，您认为未来会是什么样 的？

钱：未来一定会如此。在过去概念中的机器人和人工智能，没有大数据、没有网络，没有现代的技术和应用场景，只是一个一个笨笨的单元，作为个体，其竞争力永远比不上人，永远无法和人的能力相抗衡。而一旦这些笨笨的元素个体以适当的方式关联结合在一起，形成一个新的智慧系统，即人工智能2.0，新一代的人工智能就会横空出世！其强大就在于不是一个一个单元的简单加和，而是能力倍增的集成增效，形成了系统和系统的竞争 力！

人工智能2.0，将用计算机和机器人的方式切入，借助网络和大数据去模拟人的思维和言行，最后肯定逼近人的大脑思维，尽管其思维与人的大脑相比还是有重大区别，但正是在能力上而不是结构上，正逐步向人逼近。逼近到最后，容易实现的是对数据的收集和处理，现在人工智能可能的难题是对图像的处理能力比较弱一点，将来它会在图像、文字处理性能方面达到新的高度。比如说分析和采集数据，如消费数据，对个体而言，数据多与少意义不是很大，仅仅是一个记录或者描述。但当数据达到无限规模或者特别大的规模，意义就会越来越明显，规律性就会越来越强，不仅可以预测和把握群体趋势，而且可以预测个体行为。我举这个例子，就是说我个人理解的人工智能时代，就是数据科学（大数据）+网络+人，从而实现对原有的人和计算机以及机器人的超 越。

成：是指统计意义？也就是说，主要强调它的统计价 值？

钱：是的，越去统计，规律会越来越明显，当然统计包括经典的、量子的。在数据、统计、判断的基础上实现优化。这个时代最大的意义和基础就是海量数据，网络化地组织在一起，这非常有价 值。

黄：您在《改变思维》中强调思维自由和精神独立，那么在当下人工智能时代这方面有什么新的表现形 式？

钱：我在《改变思维》中强调，当一个人具有以质疑为第一要素的科学精神、以关爱为第一要素的人文精神、以使命为第一要素的信仰精神，这个人的精神就是独立的、完美的；当一个人具有逻辑思维能力、形象思维能力、系统思维能力，这个人的思维就是自由的、纯真的。因此，用三个不同的方面描述某个人或事物，就基本能描述得比较完整。所以，在我看来，“三”是认识人或事物的幸运数！人工智能也不例外，它就可以被描述为由三个部分组成的系统，即大数据+计算机网络+模拟 人。

老子讲“三生万物”，这话真的很正确，它包含了多样性、差异性、复杂性、创造性。当你遇到什么事情，或者进行分析，或者讲话，找三个不同的切入点或者支点，就能在一定程度上代表整体，此方法简单易行、融会贯 通。

老子强调的“大制无割”，即整体和相互关联的重要性、系统的重要性。这强调用一个模型去理解另一个模型，用一个整体去模拟另外一个整体，当然是好的方法，但在开始时，用三个不同的点作为起始的模拟角度，不失为一个便捷的开 端。

比如在描述一个人时，我在《改变思维》第一版中，只讲了思维自由、精神独立，但从“道法自然”的角度，这还不够，似乎还缺了点什么——缺少一个点。当我们只强调思维，只强调精神，最后的落脚点是什么？应该是能力！你的能力能否超出常人？能力如何能超出常人？并不是你真的能超出常人，而是你能最大程度尊重自然，符合真理，如此才能得道多助，犹如有神 助。

在修改增订版《改变思维》中，我将增加第三个和人有关的概念，即“超能善成”。为什么要如此？因为在《道德经》的“巧用章”中，老子讲“善行者无辙迹”。就是说一个人很有能力，他做出的事情是不会有纰漏、有后遗症、有痕迹的。老子在此篇中还讲：“善言无瑕谪；善数不用筹策；善闭无关楗而不可开；善结无绳约而不可解。是以圣人常善救人，故无弃人；常善救物，故无弃物，是谓袭明。故善人者，善人之师；不善人者，善人之资。不贵其师，不爱其资，虽智大迷。是谓要妙。”这正是通过“大数据+计算机网络+模拟人”三者融合的人工智能，有可能在能力集成的层面，超越自然人、超越数据和计算机、超越机器人。当然，尽管人工智能不可能代替 人。

成：您讲的落脚点，可以用德雷福斯所阐述的技能获得模型讲下去。德雷福斯是美国加州大学伯克利分校的哲学教授，以研究海德格尔而著名，早在20 世纪60年代，他就根据海德格尔的思想批判当时盛行的人工智能的符号主义范式。在这些研究的基础上，他提出了技能获得模型。这个模型把人的能力分成七个阶段：新手阶段、高级初学者阶段、胜任阶段、精通阶段、专长阶段、驾驭阶段、实践智慧阶段。您所说的做完事情以后不留痕迹，指的就是当学习者进入了高级阶段之后，才能达到的境界，初学者在做同样的事情时，比如开车，由于还没有掌握技能，因此一定是很笨拙的。在这个简单的等级模型中，前三个阶段属于低级阶段，第四个阶段是一个关键的转折点，达到了能够熟练应对的阶段，后三个阶段属于高级阶段，分别对应于专家、大师和实践智慧阶 段。

学习者对技能的掌握达到专长阶段之后，就达到了您所说的能够很圆滑和很漂亮地完成任务的阶段。因此，圆融和漂亮地做事，说起来容易，做起来难。如果学习者没有经过长期的训练过程，是做不到的，但也不是说经历了这个过程之后，就必然能做到。在这个技能获得模型中，从前三个阶段上升到后三个阶段，学习者发生了三个转变：第一个是情感转变，即从面对“突发情况”的一筹莫展和恐惧与无助的情感状态，转变为“享受和体验”情境变化带来的刺激感和满足感的状态；第二个是实践转变，即从处理情况的“手忙脚乱”和“应接不暇”的状态，转变为“得心应手”和“胸有成竹”的状态，具备了针对问题域的直觉应对能力，也能前瞻性地修改现有的技能训练程序或规则，形成独特风格，成为值得依赖的专家；第三个是认知转变，即从域境无关（context-free）的状态转变为域境敏感（context-sensitive）的状态，体现在思维方式上就是从理性思维上升到直觉思维。理性思维对应于技能的低级阶段和遇到无法进行常规处理问题的高级阶段，在这个阶段，理性的分析思维占主导，根据理性判断来采取应对措施；直觉思维对应于技能的高级阶段，在这个阶段，实践者与世界融为一体，直觉判断占主导地位。因此，我们可以说，不费劲的直觉思维是在理性思维的基础上成长出来的，这也揭示了实践技能的意向导向性在认知过程中所起的重要作用，即认知方式从“慎重考虑”的主客二分状态转变为“直觉应对”的身心一体化状态，也就是说，达到了应对自如的状 态。

钱：而且本身这两者是不能够完全区分 的。

成：对的，到了专长阶段的时候，专家的应对是由域境唤起的，不再是主客二分的了，我称之为“域境诱导”，用海德格尔的话说就是人们处于“寓居于世”的状 态。

钱：在酶催化和分子识别中，就有一个类似概念，叫“诱导契 合”。

成：就是说，专家处理事情的能力已经内化到身体之中了。这是身体哲学研究的主要内容之一。也就是说，专家处理问题的能力必须在具体域境中才能表现出来，离开特定的域境，就发挥不出来。比如说，打篮球的时候，运动员如何接球和传球是由球场的场景决定的，不是事先安排好的，运动员的应对技能是由变化莫测的球场激发出来的。到了大师阶段，专家的技能将从个体层面上升到社会层面，形成新的技能训练规则，打上自己特有的烙印，形成特定的风格或团队，而这些新的规则与应对技能进一步产生了更普遍的社会影响，当形成某种文化时，就进一步上升到了亚里士多德讲的实践智慧阶段，即内化为引导他人做事的一种行动向导，这是最高层 面。

钱：您解释得太好了！我用“超能善成”这四个字对应思维自由、精神独立，就是强调能力，而且不是普通的能力，这种能力就像老子讲 的……

成：直觉，即intuition。

钱：如果不叫“超能善成”该叫“能力直觉”，可以吧？人工智能应该具有这个能力，因为它有大量的数据分析会提供明确的、甚至便捷的导向。举个例子来讲，刚才你提到，为什么人们最初看到的问题是整体性的，要把很多数据采集过来加以判断——比如说怎么知道危险？假如一只老虎跑来，人们首先看到它的眼睛和皮毛，看了以后判断说这家伙是个危险东西，具有危险性。但是到了一定时候人们就对所见的东西加以抽象，不需要用所有特征比对，只需要简单几个特征的比对，这样判断和反应的速度大大加快，就是说进入比较高级的第二阶段了，这时他根本不看老虎的眼睛、形状，单凭直觉就能判 断。

成：对，是整体性的，不是看到某个部位或部分，而是看到某种神 态。

钱：我有个老朋友，A.P.de Silva，从事荧光分子识别，他用化学方法来阐明人们的眼睛是如何识别形状的，形状识别很重要，最初你不会这么做，见多了老虎，你就会筛选各识别要素，最后很可能集中于形状识别，看到老虎就会像看到简笔画，三两笔就能判断对面是不是老 虎。

人最初在认识对象时，是把所有信息全部收集过来，实际很多信息并没有必要。人们看到老虎一开始会害怕，记住老虎的所有特征，后来见多了，就知道该怎么办，然后代代相传，就抽象出最能代表它的关键部位的那些简单信息。这信息只要一出现，就会知道有危险了！第一个警告信号就出来了，它根本不需要经过很长时间的计算判断。这个到最后就是所谓的出神入化了，我想人工智能到这个境界一定会出神入 化。

黄：我们现在的科学家，实际上也是受近代以来牛顿力学方法论，即因果性思维的影响。而在人工智能时代，也就是在我们刚才提到特定的语境，相关性在一定程度上超过了因果性。作为科学家，您是怎么理解 的？

成：也就是说，科学家在进行研究时一定是信奉因果性思维的，某个结果必然是由某些或某种原因引起的，科学研究就是要寻找那些或那种原因，但是，随着大数据时代的到来，当数据具有了认知价值时，通常会用相关关系替代因果关系，比如，谷歌对禽流感发生地的预测，是根据对感冒药的查询结果来进行的，而不是研究引发禽流感的病因来进行的，这种预测方式不再关注寻找原因，只关注寻找相关 性。

钱：很有道理！世界上因果性和相关性是同时存在的。我们以前只关注了因果性，没关注相关性。此外，你在关注相关性的时候，有时候也要注意因果。比如说，因果性主要是时间次序，是跟时间次序有关的，所谓前因后果，两个东西同时发生，它就不存在因果，就像所谓的量子纠缠或者两个双胞胎间的心有灵犀。当一个人有这个想法，两人同时想到；当一个人没想到时，另一个人也没想不到；当这个想到了，那个同时也想到。这种状况应该说就不是因果性，它完全就是相关性。我们刚才举的因果性和相关性的例子，基本是极端，是两个极端，而我们大多数时候遇到的人或事物，都应该是这两者的结 合。

所以在大数据时代，你看到的是相关性，这是对的，规律必定有因果，或者说必定有一者与另外一者直接相关。我认为，在大多数情况下，这两者都重 要。

黄：您在《改变思维》中从工具和图腾两个维度重新定义“人”，您会不会觉得人工智能的兴起会重新定义“人”？

钱：我是这样想的，每个人都具有独特价值，每个人都是图腾，尊重每个人，是全人类自由本身的价值。同时，我们每个人又回避不了工具性，个人是社会的工具，是家庭的工具。过去，人的工具性色彩明显，但是如果进入人工智能时代，人的工具性角色以及很大部分工具性特征将会被人工智能所代替，这样，人的价值性应该有更大的体现。这是一个重大区别。人的价值更加得到体现，以后很可能凸显的主要是人的精神追求。因为人工智能时代到来以后，危险的、费时费力的、简单的技能劳动，将部分或者全部由人工智能代替了。那自然就留下一个重要问题：人将来干什 么？

黄：关于这点，您和成素梅教授的思维高度吻合。她就此提出：人工智能把人从很多的体力劳动中解放出来，但是人在闲暇时间该怎么 办？

成：我认为，就人类的发展而言，“人成之为人”有两个过程，第一次“人成之为人”的过程是人与自然界的分离，原始人是自然界的一部分，人靠自然而生，受制于自然，听天由命，所以，出现了图腾崇拜、宗教、神学等。当人从自然界中分离出来之后，自然界成为删除了人的场所，人与自然界的关系成为对象性关系，人依靠联合的力量来抗击自然灾害，走上了征服自然的征程，也为大力发展科学技术提供了社会土壤。比如，以前人们依靠祭拜或祈祷等仪式来祈求下雨，现在，我们可以通过技术手段来达到目标。现在，人工智能的发展将会为我们提供“人成之为人”的第二个过程。如果说，“人成之为人”的第一个过程，塑造了人类追求物质、追求控制、追求拥有来达到美好生活，那么，“人成之为人”的第二个过程，则有可能塑造人类去追求精神、追求合作、追求享有美好生活。因为人工智能的发展，将会使人类从繁重的劳动中解放出来，改变过去习惯于为生活而奔波的方式，真正拥有属于个人自由支配的时间，将会进入休闲时代。我们当下正处在这个时代的大门口。如何塑造这个时代的文明形态？人类会过怎样的生活？如何重新设计相关制度？这些都是人工智能向人类提出来的现实问题，原来我们思考最多的是如何发展经济，未来可能思考最多的是何为人类。这与钱校长刚才讲的观点相一 致。

钱：这就迫使人们往“神”靠近，就使你更提高一步，因为人能做的事，人工智能都能做，而且效率可能还比人更 高。

黄：就是人被人工智能所重塑 了。

钱：对，重塑。重塑以后，如果应对不佳，也可能你会更痛苦，因为你无事可 做。

成：这是因为，当人工智能变得越来越像人，做人所做的事情，而人变得越来越像机器，按机器的方式去做事与生活。这是一种颠倒。这种颠倒的思维会为人类带来无穷的灾难。因此，我们对人工智能的警惕，事实上是对我们自己的警惕，我们需要为人工智能时代的到来作好准 备。

钱：有多种可能性，人可能会变得更幸福，也可能变得更痛苦。痛苦的原因就是当人工智能代替人时，而人本身没有得到进一步升华和提高，没有充分的认识到他已处于新时代，那就很危险。无事就生非，以前要生非还没时间，每天要上班，朝九晚五；但现在时间多了，闲极无聊，就可能乐极生 悲。

成：现在有些社会问题的发生就与精神问题有关。只通过物质性的社会救助，根本解决不了精神问题。精神救助比物质救助更重要。所以说，人工智能的出现让人变得有闲以后，人类如何面对自己是一个很大的问 题。

钱：我们通常认为，人从繁重的劳动中解脱出来会变得更幸福，但这仅仅是解决了一瞬间的幸福，随后就会更痛苦——如果人不能进入到更高的精神境 界。

成：所以说，精神境界更重 要。

钱：有精神境界，或者说这个人非常有精神追求，他可以更幸福。某些人，就一个人、一杯茶，能坐两个小时不动，但他大脑在动，一直在思考，所以两个小时对他来就是十几秒钟！对一个大脑不动的人来说，让他静坐十几秒钟，简直就像无聊静坐两个小时一般，痛苦得要 死。

成：我翻译过一本书叫《人类思想中的休闲》，我非常赞成这本书的作者论证的一种观点。这种观点是：如果说，解决经济问题是人类面临的第一次挑战，那么，解决休闲的问题是人类面临的比解决经济的问题更大的挑战。因为有史以来，我们根本没有为解决休闲问题作好任何思想准备、教育准备、制度准备、社会准备等。追求经济最大化、追求物质利益最大化等思维方式已经根深蒂固，当物质生活不再成为人们追求的唯一目标时，我们就应该为如何提升精神境界作准备。反过来说，如果缺乏这方面的思想准备，我们在面对休闲时代的到来时，就会感到束手无策！所以，提高精神境界、倡导精神追求以及改变思维方式并不比解决经济问题更容 易。

黄：您刚才提到的恰恰是《改变思维》中很有前瞻性的一个预测，就是说在改变思维的过程中，需要走科学和人文融合之路，您认为这能帮助人类走出精神绝对贫困。但是，人工智能可能创造新的精神、新的精神贫困，如果有此危险，怎么破 解？

钱：人工智能可以帮我们解决很多的问题，基本上这些问题都是跟物质方面相关的。人工智能并没有在精神创造层面上有什么贡献，因为它现在的情形还是受人影响的。比如，我要给它设定哪个程序，告诉它数据如何进行采集、怎么分析，我如何思维，他就怎么思维，基本上人工智能不太会超过人的思 维。

问题就在于，人工智能主要解决物质层面的事情，那么精神层面，比如说人的大脑要拥有艺术享受，拥有音乐、美术的鉴赏力，包括体育锻炼和享受，这些都要自己亲自来，人工智能代替不了你。人工智能说我看到这幅画我很高兴，你会高兴吗？你也不会高兴。你必须亲身体验。人工智能可以说，危险的场所我帮你去检查一下，看工矿会不会发生瓦斯爆炸，它可以去，这是在真的代替你了。他说看到一幅画很漂亮，它能代替你吗？没法代替的。这个完全是精神层面上的事情。所以我们在精神层面还要更多地依赖人 文。

黄：您觉得破解之道还是在人 文？

钱：人文与科学结合，就是要防止走历史的老路，不能过度依赖科 学。

科学很重要的一点就是强调本质和共性。人文是非常个性化的，而科学强调有一个共同的认知基础，有一个参照系和坐标。可以有个性化，但前提是不能毁掉共同的基础。人文与科学结合，就是既要强调共性，也要强调个 性。

黄：成素梅老师认为现在的人工智能有诱导功能。比如说，在淘宝上买东西、携程订票，就自动有历史记录，那么下次当你打开网站时，网站就能自动推送相关内容。人工智能可以根据人的行为进行有针对性的引导或诱导。青少年电子游戏中也潜存着一种诱导，使玩者上瘾，这就是为什么网游、手游会如此火热的原因所在。对此，您是怎么看待和理解 的？

钱：对程序分析结果的运用，是有一定选择性和一定主观目的的。人工智能要从海量数据中提炼出其中的规律。我们知道，自然界存在各式各样的规律，有已知的规律和未知的规律，有主流的和支流的规律。受人控制的人工智能会把其他较小的可能性去掉，而忘却了的支流，有时会成为主流，也可能与其他支流汇合成主流；或者换一种算法和演化方法，某些支流实际是被忽视的或者潜在的主 流。

但是，如果人工智能在数据分析中将支流去掉，把所谓的主流保留下来，然后就会不停强化这一点；如果人工智能以盈利为目的，它就会抓住人的特征和嗜好，以及你当时的场景，以多种方式不停地强化，不停地给人以刺激，最后连人自己都认为自己真的就是这个主流了。然后，人的一些方面就开始退化，另一些方面就得到进化和强化，最后就成为其身体特 征。

黄：您觉得它有意识地抓住了 人？

钱：当然，人工智能能有意识地进行了数据的取舍，取舍是受人影响的。因为预先的初值或者条件是由人设定的。有人可能不赞成，认为是机器自身设定的，其实不对。机器可能设定某些规则，但它的初值或者条件也是人设定的，后期只是自动不停地复杂化而已。所以绝对不能说人工智能中的机器程序在筛选，它的源头还是人的筛选。很显然，人工智能是有预置值或者边界条件的。人工智能的预置值是谁提出来的？是人。我们是人工智能的上帝，是人工智能时代的上帝。就像宗教里说上帝创造了人，人创造了人工智 能。

黄：在《改变思维》中，您从形式和辩证的偏好出发分析了东西方思维的逻辑差异，那么您觉得人工智能是否能够帮助人们逐步地消解这种差异？如果您认为是，那么它是通过什么路径来消解 的？

钱：我觉得这种差异通过人工智能应该是能够消除的。为什么？很多计算都是通过形式逻辑，但大数据集成之后，则会出现所谓辩证逻辑。微小的变化积累到了一定程度，其性质可能发生突然改变。这在原先的小样本数据中并不明显，而在大样本数据中会非常明显。人工智能时代涉及形式逻辑与辩证逻辑两个方面，并且两者会更好地融合在一起，这是人工智能的一大优点。这两种思维方式，我们人本来就具有，但是与人工智能相比，我们人的运算速度实在太慢了，感受不会特别明 显。

黄：是不是存在一种通过人工智能——包括大数据——放大科学共同体的集体智慧的情 形？

钱：对智慧进行延伸式放大是可能的，进而可以改变习惯性思维，改变科学家群体的思维方式。但在大多数情况下，人工智能并没有超出人的思维方式范围。人工智能的运算速度非常快，人达不到，在计算速度相关的判断上，人是比不上人工智能的。但人工智能不可能创造出测不准原理、量子理论及其思维方 式。

黄：您在《改变思维》中有个非常创新的观点，就是通过论证知识的正负效应打破知识的神话。那么您觉得人工智能是否放大或缩小了知识的正负效应？或者，是放大还是缩小了知识的融合效 应？

钱：大部分情况下，在人类比较熟知的领域，人工智能是会缩小人知识的正负效应，因为它超越了单点的知识而看整体。我们传统的知识，就是某几个点的知识，它与整体知识相比差得很远。我们的许多失误就是因为误认为知识都是很准确的，不知道知识是否有效是有前提条件的。无数的知识、不同的知识在一起会形成一个新的图像，这方面人工智能会做得比较 好。

但问题在于，人工智能最初的很多东西，如条件、边界、阈值、预置值都是人给的，有一个设定范围。在人们熟悉的范围里，人工智能能很清楚地把控；但对于另一些领域，人类的了解本身就很有限，人工智能也就难以发挥，这时候人工智能导致的知识正负效应更明显。你原来还知道这仅仅是知识，现在人工智能判定说这就是规律，如果你轻易相信而不进行核实，就有可能被误 导。

发展人工智能要有一个先决条件，那就是要在科学技术的社会伦理学的引导下发展和提高人工智能。为什么要提这个条件？这是因为人工智能将会极大地改变我们的社会，超越以前所有的科学技术。过去自然科学技术和社会伦理是没有多少关联的。卡逊女士《寂静的春天》发表以后，人类才有了生态环境概念。但在此之前，人们都是用科学冲破伦理，不停地冲击伦理，进而重塑伦理。但科技的发展速度越来越快，对社会的冲击越来越大，社会和生态环境因之而改变的速度和程度也越来越让人瞠目结舌。人们因此想到在发展科学时必须要顾及社会和自然的伦理，所以就有了动物伦理、医学伦理等。这时候迟到的伦理还是在追赶先行的科学。然而发展到当代，情况有所改变，最新例子就是绿色化学，这时候就是真正产生了一门科学与伦理融为一体的学 科。

人们总结了过去的经验，发现了伦理的重要性，那么现在进入人工转基因时代，为什么有那么大的冲击？这是因为人在转基因出来之前没有任何伦理学准备。根据历史发展轨迹，我们现在进入人工智能时代，难道还要重复以前的故事吗？不能拿着伦理安全帽跟在快速进步的科学后面追赶。人工智能的冲击力比以前任何一个科学技术都要强，进展速度更快，影响面更 大。

人工智能几乎能达到和我们人类平起平坐的地位。我们现在是70 多亿人口，如果造70 多亿个人工智能2.0 的机器人，问题就大了。这个时候伦理学应该超前配置。先于问题出来之前，就要提出人工智能时代的伦理规范，控制负面效应。而不能像以前，化学化工材料制药行业出现时，是先污染，后治理。后治理的代价会很大。而且那个代价还算承受得起，因为污染的是环境生态，只是间接影响人类；但人工智能不同，会直接影响人 类。

成：也就是说，精神污染和环境污染还不一样，有时候根本无法治理，无法挽 回。

钱：是的，所以发展到这个阶段，科学技术与哲学和伦理的界限已经消失了。但是我们在做的时候，如果仍然还是按照以前的做法，先有科学上的发展，后有伦理跟随，或者伦理与科学同期而动，必将贻误战机，追悔莫及。我们需要未雨绸缪，在人工智能尚未充分发展起来之前，大力发展相关的伦理学，并适当超前。所以，如上海等科技发展比较好的富裕地区，应该首先开始研究伦理学和社会学问题，订立一整套人工智能的伦理规则，在促进科学技术的前提下，建立最基本的伦理规范。如果没有人工智能的伦理规范，就可能出现一系列的社会问 题。