智能制造人机协同制造系统安全问题及其应对措施

卢光明

摘 要：智能制造系统是一种高度复杂的人机协同系统，协同问题和安全问题是该系统面临的主要问题，而有效的人机协同是保证智能系统安全和效率的重要保证。论文从人类智能和机器智能之间的差异角度，分析这种差异可能导致的智能制造系统的安全，说明了智能制造系统可能面临的安全问题，并提出了可能的应对措施。

关键词：智能制造系统安全；人机协同；人类智能；机器智能

中图分类号：120.5099 文献标识码：A

Security problems and Its countermeasures for human-machine-cooperative intelligent manufacturing system

Abstract： Security and coordination are key problems for human-machine-cooperative intelligent manufacturing system. From the difference between the Human Intelligent and Machine Intelligent， this thesis reveal the potential security problems and its countermeasures for human-machine-cooperative intelligent manufacturing system.

Key words： security problems for intelligent manufacturing system； human-machine-cooperative； human intelligent； machine intelligent

1 引言

信息技术的飞速发展及其在社会经济领域的广泛渗透不仅会极大地促进整个社会运行效率的提升，加速整个社会的创新发展进程，同时也会改变社会的风险分布格局，增加整个社会经济的整体运行风险。本文主要从信息技术在制造领域的应用，探讨信息技术应用在提升传统制造企业效率的同时，也极大地增加了未来人机制造系统的风险的情况下，分析未来人机制造系统的风险特征，以及如何应对智能制造时代，人机制造系统的各种可能风险。人类文明的所有成果都是需要付出相应的代价，而智能化时代，我们必须付出的代价可能就是各种风险的增加，以及在风险控制方面付出必要的代价。

2 智能制造的风险特征

2.1人机智能协同问题

智能制造从根本上来说就是要借助不断发展的现代先进技术改变传统制造环节的各个流程，以更经济的方式实现更高的客户价值，甚至创造出新的制造形态和模式，提升制造企业的整体竞争力。从操作层面来说，就是让传统制造环节中基于人与机器之间机械性能方面的协同，向以更高层面的人与机器智能之间智能方面的协同发展，减少人类智能的缺陷对制造环节的影响，而充分借助机器智能方面的优势来弥补人类智能的可能不足。因此，从根本上来说，智能制造就是要探索机器智能与人类智能之间的平衡和协同发展模式，创造出人类智能和机器智能之间相互促进、相互补充的新的人类制造文明形态。

2.2 智能交互安全问题

习惯于传统制造环节中人与人、人与机械之间相互作用所产生的风险，未来智能技术的发展和向制造环节的渗透，将改变这种传统的操作界面，以及操作界面的管理模式，从而产生出极大的制造安全风险，甚至会蕴藏着新的可能的社会风险。突破传统的人与人、人与机械之间的互动，未来智能制造时代，制造业更多地会是人与智能机器之间、智能机器与智能机器之间、智能系统与智能系统之间的交流，在车间层面人和人之间的交流会较少，生产流程的跟踪、改进和优化需要智能生产系统本身的演进来完成，诸多的质量检查工作，生产任务排程、供应链管理、客户关系管理，甚至为数不多的相关工作人员的绩效考核等工作都可能会借助智能技术来自动完成。

2.3 人机界面安全问题

在这样的智能系统中，智能制造系统的未来风险主要存在于人机界面层次，任何一个环节中人类智能与机器智能的脱节或不严谨的对接都会可能导致整个智能系统风险的产生和蔓延，并导致系统的崩溃。而这种人机界面方面的系统风险，不仅主要存在于人类智能与机器智能是两者不同性质的智能，两者的共同特征比较少。更困难的是这两种智能彼此缺乏沟通的经验和渠道，对于绝大多数人而言，人类智能还不能够很好地理解机器智能；而对于当前的大多数机器智能系统来说，还没有充分演化到可以轻松地理解人类智能的程度，还在自身的逻辑体系中进化，尽管其被称为“人工智能”，但是还是很难理解人类的行为，甚至很难与除专业人士以外的人类进行沟通。

3 机器智能与人类智能

3.1 人类智能

美国哈佛大學心理学教授霍华德·加德纳研究认为，人的基本智能可分为八种类型，即语言智能、逻辑数理智能、音乐智能、空间智能、运动智能、人际关系智能、自省智能和自然观察者智能[1]。但是，他认为人类的这些智能并不能够证明是先天就存在的，而是需要父母在日常生活中全面、细心地观察孩子方方面面的表现，从而挖掘出他的优势智力并适时地加以引导而出现的，也就是说人类智能与后天培养有紧密的关系。

从起源上来说，人类智能来自于遗传、来自于传统和习惯、来自于人类数亿年的进化，来自于人类的生存环境，以及人与周围环境的不断互动。超越个体的人，人类群体的复杂给人类智能产生了几乎无限试错的可能，以及无限的创新空间。而驱动人类智能发展的除了逻辑之外，更多还有各种感性的因素推动人类智能的发展。单纯从某项功能来说，个体人的智能可能有限，但是个体人是全面发展的智能，即使人在存储和运算能力方面不及计算机，但是确实当前的机器智能很难全面达到一个5岁小孩的智能水平。

3.2 机器智能

从目前来看，不管机器智能的表现形式如何，其基本都是基于特点的逻辑算法来实现的。其表现形式和应用领域还非常有限。不管未来机器智能会不会形成自身演进的机制，其归根结底还是来自于人类智能的创造，是人类理性的产物，只能按照人类原先的程序设计执行相应的活动，并达到预期的效果。这就导致机器智能缺少自身活动的自觉性，和自身的目标感和意义感，也缺少了推动人类发展的情感和意志在活动中的作用。

因此机器智能和人类智能的一个显著差异就是，缺少了人类的意志和意向。意向是人类智能的一个重要方面。人的活动是有目的的、自觉的活动，一刻也离不开自己意向性的主导。注意、需要、意图、情绪、意志、理想等都是人的意向活动形式。而思维是人类智能的核心，其特点主要是思想和思维。“人是一种思维的动物”，没有思维就没有人类的智能。有了思维，人类才能形成各种较复杂的意向，从而主导着人的活动，表现出人类所特有的自觉能动性。有了思维，人类才能发明各种技术，突破自己认识器官和行动器官的限制，大大提高改造世界的能力。

3.3 人类智能与机器智能对比

在未来一段时间，人类智能能够處理的环境要比人工智能面对的环境要复杂得多，人类智能是一个自治、自洽的和完备的系统。尤其在处理一些复杂的系统性问题方面，人类智能能够以超高的容错率在巨大的信息流中发掘出有价值的信息，能够准确做出判断。人的智能可以产生意识、感情和创新，这类几乎无法用逻辑解释的问题。这是人类智能的最显著的特点，也是目前区别于机器智能的主要方面，同时也是导致智能制造系统风险的重要原因。如果要解决未来智能制造中所面临的诸多安全问题，就必须要从此环节入手，从根本上解决未来智能制造系统中可能面临的诸多安全挑战。

4 人类智能的局限及新的表现形式

4.1 人类智能的局限

人类智能在相对于机器智能存在诸多优势的同时，这些优势从另外一个方面考察，则也是人类智能的局限。如人类在情感与意志方面的长处，从安全的角度考察则会发现人类智能会存在“捕获错误”“认知偏差”“心理波动”“环境暗示”等方面的智能路径依赖方面的问题。这些问题都有可能是导致未来智能制造系统发生安全问题的重要原因。

4.1.1“捕获错误”局限

在英国剑桥大学计算机实验室信息安全工程教授、英国皇家学会会员、皇家工程学会学院院士Ross Anderson所著的《信息安全工程》（第二版）中，认为人类操纵设备时所犯的错误主要归纳为三类，分别为技巧层面的疏忽与过失、规则层面的错误和认知层面的错误。而“捕获错误”就发生在技巧层面的疏忽和过失。它是指人在执行操作通常会形成一种技巧，但这也带来一种副作用，如果不小心，就会导致潜意识地执行熟悉的操作，而不去执行本该需要执行的操作[2]。黑客就利用人类的这些已经深入潜意识中的习惯，设计一些陷阱让人中其中的圈套，获得其所期望的攻击机遇。

4.1.2“认知偏差”局限

认知偏差是指人们根据一定表现的现象或虚假的信息而作出判断，从而出现判断失误或判断本身与判断对象的真实情况不相符合的现象。晕轮效应就是一种典型的认知偏差，当一个人陷入特定的心理模式的时候，就会人为某种行为，或者是某种态度就是好的，是对的，而对其他的情况则不闻不问，闭耳塞听。这其实是人心理方面的路径依赖所产生的一种心理情境，是人的偏执和倔强所产生的一种心理现象。这种问题如果不能够得到客观、理性的解决，则会对周围环境带来很大的破坏和冲击。

4.1.3“心理波动”和“环境暗示”局限

“心理波动”和“环境暗示”则是人类作为一种情感动物所体现出来的最显著的特征，情绪和心理在给人以明确的意向和意志的同时，也给人带来了先天的脆弱。人很难控制自己的心理波动和环境对人的情绪所施加的影响，而人类的这种脆弱性很容易被不法分子所利用。尤其是环境暗示方面，别有用心的人会设置特定的情境，让当事者在没有搞清楚具体情况的背景下就做出错误的决定，导致重大的信息泄露或者操作失误。传统的制造环节中，个体的力量还是有限的，但是在智能设备的辅助之下，个人的能力将获得空前提升，操作失误或者是别有用心的破坏都会对制造环节造成不可挽回的损失，

4.2 人类智能局限新的表现形式

当然人类作为万物之灵，具有比其他物种更多的优势。但是从安全的角度来看，在智能制造过程中，或许更大的安全问题来源于文化的冲突，是制度型的冲突。对于很多制造企业而言，如果不能够摆脱传统的企业问题和管理制度，则智能技术在制造环节的实施将会给企业带来难以预料的风险。这种风险还很难发现，被当下的文化所合法化包容，成为智能制造技术发展过程中的盲点。尤其是当人处于信息超载的情境之下，都会导致人失去自身的理性，而不假思索地遵循最强的制度和规则，或者是在特定的情境下通用的规则，内心遵从不求有功，但求无过的保守思路来处理可能出现的各种风险。

5 数据、程序和机器智能的局限

5.1 数据是当前机器智能的基础

尽管目前算法驱动的机器智能技术有了新的突破，但是在未来很长一段时间之内，数据依然是驱动机器智能发展的基础。而算法和程序依然主要是依据人类智能的逻辑理性发展出来的，所以算法和程序所产生结果的准确性，现在还主要取决于输入数据的准确性，以及获取数据的全面性。

当然这里谈数据的局限性，并不是要否定数据的价值。而是让人们在充分认识到当前数据利用方面的和不足之后，才能更加有效地对其进行采集、加工、应用，充分挖掘和发挥其价值，有效规避数据利用中可能存在的各种安全问题，真正发挥数据的价值。当然这里只是从制造各环节安全的角度分析数据对未来智能制造安全性能方面的影响。

5.2 数据噪音问题

首先是未来各行业都将不得不忍受各种数据噪声的影响，而制造业尤甚。因为制造业各环节不仅利用的数据多，而且生产的数据也不多，而且来源各不相同，格式也会不同。由于各子系统自身的目标可能会存在不一致，导致系统总体会出现相互矛盾的分析和判断。在这海量的数据中，并非所有的数据都是有用的，大多数时候，有用的数据甚至只是其中的很小一部分。随着数据量的不断增加，无意义的冗余、垃圾数据也会越来越多，而且其增长的速度比数据信息更快。

5.3 数据真实性判定问题

对数据真实性的分析和判断。未来随着个性化定制的发展，制造业各环节的信息会越来越对外开放，尤其是CRM系統和SCM系统的数据需要对大量的用户和供应商开放。而网络数据中存在着大量的虚假个人注册信息、假账号、假粉丝、假交易、灌水贴及其他虚假、甚至是恶意的信息和数据等都是未来制造环节中需要面临的安全问题。这种失真是由网络本身的特性决定的，比如说，绝大多数社交网站很难也不会对会员注册信息的真实性进行全面核查，电商平台也无法控制一人注册多账号，或账号与实际消费个体的非对应关系。同时各种通过原始方法采集的个人信息数据也无法保障其真实、准确。就拿电信运营商来说，即便推行了实名制，数据质量与期望仍然存在相当大的差距。

5.4 数据的误导与人类的误读

第三是警惕数据的可能误导，以及人类的可能误读。这是与所获数据的代表性、真实性、完整性、解释性等的局限性紧密相关。对统计现象只看结果不重解释，很可能导致错误甚至危险的结论。在二战时期英国与德国的空战中，工程师发现，每次战斗机回来机翼上都带有很多枪眼，因此认为机翼是最容易受到攻击的地方，需要进行特别防护。可是增加防护之后，飞机的损失率不但没有降低，反而提高了。这就是人类对数据误读而导致的结果。迈尔·舍恩伯格在《大数据时代》一书中认为大数据应该是全样本，不再依赖随机取样，这样的说法是一种理想的状态，而且即使获得了全样本的数据，程序的处理能力也未必能够对其及时进行正确分析[3]。现在制造领域中的社群营销，本身就会有很多所谓的“意见领袖”在主导着群体的消费偏好，所谓数据的“中性”问题，可能不得不面临人类社会现实中具体结构的左右。因此，数据的误导和人对数据的误读会在所谓“数据驱动”的时代显得更加突出。

5.5 数据的维度与时效问题

数据的维度和时效性也是从数据本身的角度可能引发相应的安全问题，而这些又与人认知的局限性有关。毕竟，数据获取的选择权还是集中在人的认知范围之内，如果有些数据源不在决策者当前的认知范围之内，则可能会导致不可预知的风险。这种数据维度缺失的风险可能会导致智能制造系统的失效，或者是达不到预期的效果。同时还有数据时效性问题，数据采集的时间间隔，对多久的历史数据进行分析才能够更加有效这些问题，也是在数据驱动的制造中必需要解决的问题。从特定的意义讲，数据应用是建立在全社会、全网设备共同的数据标准基础之上，应融合企业自身、上下游产业链企业、政府相关统计数据、科学研究最新进展等跨领域、跨行业、跨平台数据的集合，是社会化的数据应用和整合。

5.6 模型和程序设计者的局限

决定当前的机器智能智能化程度的除了数据之外，还有模型和程序方面的因素。模型和程序从目前来看，主要是由人类智能设计的，这就使得机器智能很大程度上由设计者的认知、智力，以及设计者所处的组织、社会环境所局限。当然在目前的环境下，技术，尤其是信息系统的计算能力、网络的传输能力，以及相关社会技术系统所决定的安全性也会直接或间接限制数据、模型和程序的设计和运行。但是，如果决策者如果忽略了这些局限性，过高地估计了机器智能的智能化程度，就会造成可能的决策失误，甚至会酿成灾难，最后对机器智能造成负面的评价。

6 人类智能和机器智能挑战的可能场景

人类智能和机器智能这两者之间本身各有其优势，也各有其特点，并且本身存在较大的互补性，如果能够实现彼此的优势互补，则会极大地提高人类社会的福祉。但是，由于机器智能是刚刚出现的智能，两种智能之间还没有“学会”优势互补的发展，就必然会带来相应的冲突、风险，并最终可能导致潜在的各种安全问题。

6.1 挑战传统思维原则的风险

对数据的解释性可能带来的冲突风险。机器智能是基于特定的逻辑程序，通过对输入数据的分析以发布各种数据之间的相关性。这种相关性正如舍恩伯格所言，“不是因果关系，而是相关关系”，只需要了解是什么或未来会发生什么，而不是需要知道为什么，或者是这些事情之间的因果关系[3]。

对于习惯于因果性思维的人来说，相关关系仅代表着过去和个案，对事物没有解释性，有时甚至是错误的，而且不能够上升为特定的规律。人类理性经过了数亿年的进化之后，认为只有掌握了事物之间的因果关系、原因机制和科学原理，才能举一反三，总结发生的规律，才能够推动整个制造系统的改善和进化。尤其是制造关键环节的改进方面，人类理性怕还是很难理解机器智能基于数据所谋划出来的最优算法。如在智能制造智能排程方面，人类智能怕很难发现机器智能排程的局限，也很难发现其中潜在的排程风险。

这种基于数据和算法的解释，缺乏人类智能的因果性判断，会造成人类智能在机器智能面前不知所措，即无法理解，又好像无法拒绝，也缺乏更好的替代方案。在社会智能化大转折的时期，人类这种即好奇，又不知所措的感觉会维持较长的一段时间。而在这种困惑的转型过程中，人类智能与机器智能之间的互动，会经历风险丛生的不停的试探过程，甚至是试错过程，人类智能也会经历不停的反思、调整、改造、进化和完善。而这个过程会充满风险，充满安全方面的挑战。因为这是在对人类智能基础层次方面的挑战，是对传统文明根基方面的挑战。

6.2“他者”智慧扩张的风险

就智能制造而言，尽管都在讲个性化定制给消费者所带来的“福利”，但事实是无所不在的媒体，以及无所不在的信息“感知”和“跟踪”对消费者个人信息的掌握，以及可能是对个体行为和消费层面的“控制”。而在这种“感知”和“跟踪”的背后，操纵者正是具有技术智能的“数据领袖”，或者是“智能领袖”，以及“舆论引导者”。所以，在机器智能的背后，隐藏着的是某个，或者是某一特定群体的价值取向、行为方式。因此在表面的“自由”背后，隐藏着的是某些特定的个体或群体智能对大多数人类智能的“洞察”、“操纵”和“控制”。如果这些具有极强操控能力的人，利用自身的操纵地位做一些有相对风险的操作，那么就会对社会产生极大的风险。

对于大多数人而言，这种具有直接或间接影响的智慧并不是来自于自身的思考，也不是来自于传统社会中人与周围环境的正常互动所产生，而是来自于特定人群有目的的操控，所以這种借助机器智能达到对别人影响的机器智能，事实上来自于“他者”，而且还可能是来自不同目标的“他者”，这就会给大多数的制造企业、给消费者带来影响和困扰。而随着机器智能由生产环节，向生活场景的渗透，以及借助机器智能将生产环节与消费环节的打通，这种借助机器智能的“他者”智慧会迅速扩张，通过网络社群，各种自媒体终端，各种带有营销性质的文章，甚至借助特定的对特定个体日常生产的技术干预来达到预期的目的。当然，这种“他者”智能的广泛入侵会对个体产生不适，从多层次上造成对个体的安全影响。

6.3 两种“智能”彼此挑战的风险

从目前技术发展趋势来看，机器智能是从人工智能产生出来的，但是机器智能确实又在一定程度上脱离人类智能的控制，或者是独立于人类智能发展趋势的风险。未来社会中两种智能之间不仅会产生彼此不熟悉而产生的摩擦，以及直接的碰撞，而且可能还会发生引领地位的争夺。这种争夺在人的意识层面发生，在未来人类的任何决策中发生，在未来人的任何一种选择的时候发生。对于智能制造企业而言，在制造各个环节都可能发生，因为在制造各个环节都会存在到底要依靠机器智慧，还是依靠人类智能的选择问题，以及当机器智能与人类智能发生冲突时，到底相信哪种智能方面的问题。现在，由人工智能发生所引发的关于未来“人工智能”是否会挑战人类生存就是这方面的集中体现，而事实上在微观层面，这样的挑战无时无刻地挑战人类群体和个体的选择。就拿最简单的出行导航来说，人在出行时到底是应该相信自己的经验，还是各种“导航设施”的指引，而且在这方面还是互有胜负，在目前的导航技术面前不分伯仲。而在未来无人驾驶，以及智能生产线之中，这样的选择就必需要微妙、甚至在更短的时间维度内做出决策，否则就有可能存在着重大安全事故的风险。

对于智能制造的未来发展来说，人类智能和机器智能在制造生产预测方面存在着可能的冲突与风险。在对未来的分析和预测方面，舍恩伯格也曾坦言，与大数据同行是有一定风险的，大数据有可能会把我们锁定在以往的错误当中，使我们堕入让过去决定未来的陷阱。因为从根本上讲，数据只是对过去和当前现实的归纳和总结，其虽然可以用于对趋势和方向的分析，但总体上来说决定未来发展趋势的是事物深层次的内在因素及相互作用，而表现出来的数据现象还不善于对这种趋势做出分析。如企业涉及战略层面的决策等还是需要诸多潜在的、非数据化的因素需要进行综合的分析，里面还有许多涉及企业文化、领导者气质和风格等多方面的因素要考虑。而在企业层面人类智能与机器智能之间的界限，还需要企业大量的实践来摸索，而这种摸索过程中本身就可能会存在大量的生产和运作风险。

6.4 整体智能与局部智能之间弥合的风险

从目前机器智能的能力来看，这种智能主要依靠深度学习获得，是由人类智能设计的模型、算法和程序来决定，但是机器智能的结果人又非常难以理解，给人与机器的互动带来各种风险和麻烦。对于智能制造系统来说，人理解方面的偏差、操作方面的失误、对机器表达方面的不精确都会造成重大的安全事故，而机器智能设计方面的问题、病毒的入侵、不恰当的系统更新、随机的系统调试，以及对人类不精准指令的容错能力的局限等都有可能造成机器智能系统的紊乱，对智能制造系统造成不可弥补的损失。

总体来说，由于受当前技术发展的限制，机器智能一般擅长于处理事务的局部特征，其智能主要集中的特定的、规则相对稳定的环境下对相关事务的处理，这方面的局部智能方面机器智能已经超越了人类智能，但是在整体情境的判断方面，机器智能与人类智能还不能相比。人类智能经过数千年的进化，在对客观和主观形势整体把握方面现在还远远超过机器智能。机器智能不管多么强大，其只是在有限的特征空间里去认识事物，根据算法得出的判断模式做出判断；而人对周围环境的认识是从语义空间中经过抽象的归纳和演绎做出判断，甚至依赖想象、类比、转换、同理心等更高级的思维形式。所以，人类思维具有较强的整体把握能力。机器智能在局部判断方面的优势，以及人类思维在整体把控方面的特点如何有效对接，是未来智能制造系统中面临的挑战，衔接不好就会酿成巨大的系统风险。

6.5 信息资产投入产出方面的风险

信息资产投入与产出的平衡是目前困扰大量制造企业的新问题。智能制造相关技术及发展前景被媒体做了很多正面的报道，但是必须要指出，智能制造相关技术及企业的相关数据资产应该是一种价值密度较低的资产，这些资产只有经过多年的积累，摸索出这些资产的准确的应用场景之后才能够发挥出其新的价值。在这些资产在被真正激活前需要进行大量的前期投资，而且还必须要有前期的有效规划，以保证这些前期投资的正确性和有效性，以及企业领导足够的战略耐性。数据资产的网络效应，或者是边际效用递增规律存在，可能会在产业层面导致产业集中度的上升，产业竞争程度的降低，甚至一定程度市场垄断。这也是产业层面制造产业可能面临的风险。

7 应对智能制造可能风险的对策

既然智能制造未来发展中面临的主要挑战是人类智能与机器智能之间彼此的不适应可能产生的冲突，以及由此而引发的各种风险。从目前来看，智能技术的发展导致的传统制造文明的危机，是对传统制造风险的重新定义。从人类社会文明的发展趋势看，这种风险更多的是由于人类还没有充分适应性的机器文明所引发的，因此应该主要从人类对新的机器文明适应的角度来更多地考虑当前和未来可能存在的智能制造方面的安全问题。

7.1 强调人类思维和行为的严谨性

智能制造系统设置时应在突出机器智能人性化发展的同时，更加要强调人类思维和行为的严谨性，适应未来“数据驱动制造”和“软件定义制造”带来的整个人机制造系统的逻辑化、紧密化和程序化的发展趋势。在可以预期的将来，人类智能需要适应这种机器智能发展所带来的影响，减少人类传统的不精确、情绪性和认知偏差可能对制造各环节可能带来的安全风险，学会与机器智能的协作和交流，促进制造过程的实现有序的人机协同。这就需要人类智能不断适应机器智能的发展，理解其运作机制，克服人类理性自身存在的不适应之处。

7.2 从人机协同的角度重新定义新的岗位及其职责

要从人机协同的角度来重新定义各种新的岗位，以及相关岗位的职责要求和人员的从业能力和资质。从微观角度来考察，目前建立在人与人、人与机器之间的传统制造企业组织和管理方式，已经不能够适应未来智能制造的发展要求。各行业，乃至各企业需要从各自发展的角度重新定义自身的岗位分配，并重新核定各岗位所需要的人员素质和能力。为消费者提供个性化定制的企业一定同时也是个性化的企业，面临个性化的安全问题和个性化的解决方案。目前很多企业内部建立自身的培训体系，主要针对内部员工进行培训，就是要从企业独特竞争力培养的角度来为建立自身的组织分工体系结构，以及员工独特的能力培养服务。

7.3 重新塑造新的工业文明和商业文明

机器智能的发展需要塑造新的工业文明和商业文明。从更深的层面来看待当前和未来人类智能与机器智能之间的关系，尤其是其在制造环节中的体现，还需要从文化的角度来看待这种变革，从商业文明和技术文明的角度来看待企业面临的这种新的安全挑战。当前，商业和技术都很重要，是推动现代和未来企业发展的动力，但事实上是商业和技术背后的价值观更重要，这种新的价值理念才是推动各种问题解决的最终动力。事实上，传统的价值理念与新的发展趋势之间的矛盾，才是导致当前和未来人类智能和迅速崛起的机器智能之间矛盾的根源，也是導致未来制造企业安全问题的关键。

7.4 智能制造系统要考虑两种智能之间的互补

在智能制造系统设计时要充分考虑到人类智能与机器智能之间的差异性和互补性，让人类智能和机器智能各自发挥其优势而弥补彼此的不足，让智能制造系统能够安全和高效地运行，这是对智能制造系统的基本要求。而当前我国企业在实施智能化改造时，更多地考虑制造系统的效率，而忽略了对安全性、易操作性的考量。按照功能安全的视角，智能制造系统应该是从整个系统安全属性的认知开始，在智能制造的全生命周期各阶段体现出对安全属性的认知、继承、实现、评估和反馈。在系统软件的不断演进的特点，实现智能制造系统人类理性和机器理性的协同，提升智能制造系统的安全性[4]。

7.5 人类智能依然是智能制造系统的核心

不仅是在制造领域，随着以人工智能等为代表的机器智能的兴起，人类智能与机器智能之间的碰撞会发生在经济社会生活的各个方面，机器智能会作为人类智能的助手和有益补充，与人类的生活工作如影相随，为人类带来诸多的便捷。但是如果两者之间不能够实现有效的协同，则不仅不会带来方便，而且还会引发诸如隐私泄露、操作失误，甚至造成不必要的伤害等安全事故。所以需要人类从行为层面、制度和规则层面，以及价值层面接受这种新的智能，并学会与其和谐相处的能力，才能彼此协同，克服各种可能的安全困扰，创造出新的人类智能与机器智能相互促进的新的人类文明时代。

参考文献

[1] 霍华德·加德纳（Howard Gardner），著；沈致襄，译.重构多元智能[M].北京：中国人民大学出版社，2008年3月.83页.

[2] Ross Anderson，著；齐宁，韩智文，刘国萍，译.信息安全工程（第二版）[M].北京：清华大学出版社，2012.17.

[3] 维克托·迈尔·舍恩伯格，肯尼思·库克耶，著；盛杨燕，周涛，译.大数据时代——生活、工作和思维的大变革[M].杭州：浙江人民出版社，2012年12月.25页、37页.

[4] 宋明秋.软件安全开发——属性驱动模式[M].北京：电子工业出版社，2016.5.16.