关于人工智能的发展和挑战的思考

杨成义

广东理工学院

关于人工智能的发展和挑战的思考

杨成义

广东理工学院

人工智能是用电子计算机模拟和延伸人的智力活动的一门新的技术科学，文章在概念界定的角度上就人工智能与人类智能的区别说明自己的理解，并阐述人工智能现在或者未来可能对人类社会造成的影响和威胁。由此提出人类面临技术失控应采取的风险控制和应对措施。

人工智能 人类智能 技术失控 风险控制

1 引言

人工智能的英文含义是“Artificial Intelligence”。对其进行的解释的核心要点，就是用人为的方式在机械上实现人类所特有的生物智能行为：感知、学习、推理、决策。人工智能除了与计算机科学紧密联系外，还涉及生物学、心理学、信息论、数理逻辑、控制论和哲学等多门学科；其作为技术，它运用于各行各业，减轻了人们体力和脑力的劳动。哲学家们认为：人工智能不仅仅作为一种手段，它的发展逐渐沿着将肢体、器官的延长，直到大脑的延伸的目标轨道行进着。

人工智能从形式上分为Weak AI和Strong AI。其中，弱人工智能旨在研究和发展生物智能的理论，并通过模拟程序来进行测试。而强人工智能是人工智能的高级阶段，它的目标是创造出能够进行思考、拥有自我意识和人格感情的机器。

2 人工智能和人类智能的关系

要弄清楚人工智能与人类智能的区别，可以从哲学的角度上进行分析。哲学上认为，语言的界限即为人的可感识世界的界限。无法用语言表达的对象是不可能进入人的意识的，其是不可思维的。同理，凡是不能被形式化的任务，都无法转化为机器的动作，因而是不能实现能动的。由此可见，形式化圈定了可能存在的人工智能范围。语义的形式化是不能由机器自身完成的，所以机器无法摆脱对人的依赖而超过人类。科学家为人工智能提供了一个恒久适用的标准：“机器智能总可以无限逼近人类，但它永远不可能超过人类智能。

在现阶段，人工智能的发展普遍处于Weak AI的情况下，它和人类智能的区别主要体现在以下三个方面：

2.1 物质载体和运动过程不同

人脑中上千亿个神经突触之间存在着层次化、网络化的复杂连接，具有高度的协调性和自组织性。神经细胞之间依靠化学物质和生物电释放来传递信息，从而形成一个相对孤立的、能动的、完善的反映外部世界的精神功能世界。而人工智能则是依靠电子元器件、机械装置和连接线路组成的物理硬件，用预设的软件来控制和主导硬件的运行，再进行人的思维活动的模拟。

2.2 进化途径和本质属性不同

人脑除了进行生物进化，还经历了几百万年的社会进化，其同时受制于自然规律和社会规律的双重影响。人的本质属性是社会性，在人的意识中，蕴含着全部人类历史发展的逻辑结果。而人工智能只是技术和机器进化的结果，其本质属性是自然性。机器在执行具体指令时，并不探求选择和行动本身的社会意义，更不会评估结果的社会影响。

2.3 思维方式和实现机制上不同

人的思维方式包括经验逻辑推理、形象表象化、直觉或灵感判断等，具有连续性、辩证性、模糊性、和目的性等特征。而人工智能的机器思维方式却是离散的、机械的、精确的、和随机的；人的意识能够支配自我选择，明确行动的目的，理解任务的性质、意义和后果。而人工智能的机械性表现在实际问题描述的符号化、求解问题方式的程序化、解决问题过程的自动化，因而不可能具有人类那样的丰富想象力、能动创造力。

3 人工智能对人类的影响和威胁

随着科技的进步，人类在享受人工智能带来的便捷的同时，也面临着严峻的挑战。人工智能除了能够代替人类进行各种体力劳动，越来越多的脑力劳动者也感受到了来自于人工智能的竞争。然而，最引起哲学家和科学家担心的是技术失控的危险。任何新技术最大危险莫过于人类对它失去了控制，或者是它落入那些企图利用新技术进行反人类活动的危险分子手中。有人担心机器人威胁人类的安全。机器人能自动搜索网络，寻找需要的信息；电脑病毒能自我避险，无人制止；无人驾驶飞机，可以脱离人类的遥控，有自己的行动。智能体学习的进度令人震惊，可以承担从同交易方谈判到发动战争的各种社会工作，在未来有可能引起深刻的社会震荡。

最新研制的Asimo系列智能机器人，已经能够探测脑电波并绘制人脑的活动图，实验者在看到某张图片后，并想象某个动作，Asimo可以将侦测得到的数据进行分析，从而解读出你的想法，并随之做出相同的反应。这项研究可以看成是利用意念控制机器，也可以认为机器已经读懂人类的想法。那么人类还有所谓的秘密吗?万一类似的技术落入不法分子手中，人类社会毫无保密和隐私可言。

现有的例子包括从能够同病人进行交流的医疗系统、模拟人的情感的机器人，已经智能的机械“蟑螂”等。大众普遍认为我们距离科幻电影中完全智能体还有很长的距离，但科技进步正在打破平衡，未来，我们也许终将信任机器，即便我们完全无法理解它。

4 技术失控的应对措施

人类可以完全控制自己的创造物吗？相信每个人的答案都不同。人工智能的身影不处不在，给社会带来了深刻的革命变化。同时，人类自身也无法离开机器而单独存在。在人工智能崛起的过程中，必然存在着技术失控的风险，这是一个不可回避的问题。因此，人类应正视问题，并保持高度警惕，防止智能技术被用于反对人类和危害社会的犯罪。

4.1 尽快出台针对人工智能行为规范的相关法规

对于能够制造智能机器的学术研究组织和生产机构进行严格的管理和监控，从源头上防止智能犯罪。比如日本就制订的一个长达60页的《下一代机器人安全表现指南(草案)》，草案对机器人的行为进行了全面的规范。它指出风险评估包括使用机器人的危险和潜在的危险源。草案建议，制造商须在机器人身上安装伤人案例的记录工具；并创建风险事故的中央数据库，允许制造商和公众进行查阅。此外，还应组建一个由政府部门、专家学者、律师组成的特别研究小组，实时就机器人的研发提出可行性建议，正确引导人工智能研究方向，以便把技术应用于改善社会，而不是将社会推向技术灾难的深渊。

4.2 尽快让公众了解真相

政府和相关管理部门应该公开、透明相关信息，给出人工智能发展的相关报告和说明，并就“人类对人工智能失去控制”的可能性做出评估。同时，要让公众了解人工智能有关于社会、经济、法律和道德方面的问题，以及指导公众采取正确的应对措施。譬如，如何处理人与机器人之间的感情关系。

4.3 任何对未来的描绘都是基于文明积累历程中的现实逻辑

人与人工智能关系的处理问题，恰恰隐喻了人类社会自身的问题，无论是对异己力量的妖魔化，还是与异己力量的斗争，都是以自我道德标准作为评判他者的唯一依据，这种以输出人类价值观的方式来同化异己文化，反映了以自我为中心，对既有“人一机”关系进行强势定义和立法。怎样做到合理地开发和利用人工智能，使其发挥积极的作用，关键仍然是要有合理的社会制度，要有人类道德、文化、思想等多方面素质的全面提高，而不能仅仅取决于科技能力的片面增长。

5 结语

随着研究的深入和科技的发展，不论是仿生运动方面还是人工智能方面，都会发展到一个新的高度。我们的生活一定会因新型的人工智能形式而有所变化。那个时候，科幻电影将不再科幻，很多我们难以想象的场景将会发生。到时候，人工智能已经不再仅仅在线上陪我们打发时间，或者怂恿我们去买更多的东西，而是能够在我们意识之前预测我们的行为。我们避不开它们。因此相处的诀窍在于，我们没办法知道它们的选择因何做出，但要正确看待人工智能给出的这些选择：它们是建议，是数学上的可能性。这些选择的背后，不存在什么神谕。

当人们梦想着以自身为蓝本创造人工智能时，我们期待的是，以一种平等互信的身份，与这些会思考的机器相遇。然而，我们最终得到的人工智能。可能是个无法理解的异类，是一种我们之前不曾料想的智能形式。

[1]李锐锋.自然辩证法教程新编[M]．武汉：湖北人民出版社.2004.349-350

[2]刘西瑞，王汉琦．人工智能与意向性问题[J]．自然辩证法研究，2001，17(12)

[3]蔡曙山．哲学家如何理解人工智能[J]．自然辩证法研究，2001，17(11)：18—22

[4]胡增顺.人工智能的伦理学思考[J]. 开封大学学报，1998.3（12）

[5][美]约翰·卡斯蒂，胡运发译．剑桥五重奏—机器能思考吗[M]．上海：上海科学出版社。2006．124

[6]苏原．机器人操纵人类?[J]．科技潮，2002，(6)：12

杨成义（1985-）男，广东理工学院教师，研究方向为人工智能与群决策支持系统。