学会信任人工智能

柒奈

在2018年的世界人工智能围棋大赛中，柯洁再次对战人工智能。尽管柯洁吸取教训，奋力反抗，但依然被国产人工智能“星阵”击败。人类开始思考一个问题：“我们制造出的人工智能既然能战胜我们，那它们是否会对我们造成威胁？我们能信任它们吗？”在回答这个问题之前，我们先来看看目前的人工智能都能干什么。

人工智能“小助手”

当下的人工智能，正在不断地造福人类，并且已经成为了人类的智能“助手”。

在日常生活中，被数亿人使用的微信，采用了人工智能技术中的语音识别技术，即语音转换成文字，只需要长按加点击，语音就变成文字，免去不方便听语音的烦恼;被广泛使用的搜索引擎如谷歌、百度、搜狗等，都运用了人工智能信息检索技术，让我们不出家门却知天下;深受广大“抖友”们喜爱的抖音APP，其中的人脸识别和各类变脸功能同样采用了人工智能识别技术……

随着人工智能的发展，人们越来越享受到了人工智能带来的快捷与效率。近期，人工智能更是发挥出了极大的潜能。现代化工厂里的蛇形臂机器人，支持远程操作，能在极端环境下工作;人工智能领域专家和医院合作，利用人工智能辅助医生进行疑难杂症的诊断和管理病人;无人零售鼻祖Amazon Go商店，因为加入了人工智能，给消费者制造了全新的购物体验……人工智能得到了更加广泛的应用。

人工智能能够得到广泛应用，直接说明了人类需要人工智能，所以发展人工智能是大势所趋，但发展人工智能带来巨大可能性的同时可能也会给人类带来潜在危险。

可能存在的潜在危险

一方面，随着人工智能的升级，当它们可以承担部分工作时，相应工作岗位上的员工将面临失业的威胁。最常见的一个例子是市面上出现的各式各样的学习机，它们精通各门学科，似乎没有解决不了的难题。你只需要输入问题，点击按钮，就可以得到答案和解析，它们似乎可以取代人类老师成为学生的机器老师。

另一方面，人工智能的升级可能赋予人工智能可以独立管理信息的能力，当安装在手机和电脑上的人工智能程序获取人类的机密信息时，由于人工智能可以独立管理信息，我们将无法控制信息的传递和使用，尤其当人工智能被病毒信息感染时，病毒可能在人工智能程序的“引导”下，造成更大范围的传播和感染。

因此，随着人工智能的发展，我们需要给自己打预防针，预防人工智能成为像人类一样的智能生命体，并且预知可能出现的潜在危险。那么应该如何防止危险的出现呢？答案是建立HI社会。

建立HI社会成为必须

人类是通过建立一些规矩，才由野蛮进入文明的。而后通过健全建立道德规范和法律法规，才使社会进一步良性发展，进入了现代社会。

同样的，为了建立一个文明有序，人类和人工智能和平高效地共同成長的HI社会，即人类智能社会，首先就是要建立属于HI社会的规则，这个规则与人类社会的规则有所不同，它包括了对人工智能行为的约束和对人工智能设计者的要求。

一方面，对人工智能行为的约束主要是对其良好行为和错误行为的不同应对。在使用人工智能时，良好行为和错误行为都会被记录下来。对于良好行为如胜任工作、帮助人类取得成果等良好行为，人类通过编程代码，告知人工智能它可以得到升级;而对于错误行为如反程序，人类同样可以通过计算机语言，警告人工智能，让它停止此类行为，否则它将会被销毁。另一方面是对设计者的要求，设计者要给人工智能设定人类可控的程序，当工作中的人工智能失责时，人类可以对其严加控管。

除了建立规则外，还可以通过标记人工智能，将人工智能和制造商捆绑在一起。一个值得信任的制造商的商品往往也是值得信赖的。就像商品通过国家标准而可以销售给消费者一样，标记过后的人工智能技术代表已经通过人工智能标准，证明它可以无后顾之忧地在日常生活中使用。

如果能建立良好的人工智能社会，人工智能威胁论也许永远不会成真。