智能社会的设想与价值冲突的反思

吴思娴，夏雪晴，陈雪冬

1 智能社会发展方向

1965 年摩尔定律的提出，就揭示了信息技术进步的速度之快，而计算机的每一次更新换代也推动了智能化的发展[1]。以信息技术为核心的智能技术，在工业、农业、医疗、交通、国防以及航空等各个方面的应用，已经向我们揭示了智能社会未来发展的一些迹象。

通过人工智能的普遍应用，我们正在建设一个高度信息化、智能化的社会——人工智能在社会生产、生活方式的渗透；传统产业正在迅猛地智能化；发展智能产业为新的经济增长点等等。智能社会的发展不仅可以有效减少资源的闲置和浪费，还可以提供精准化智能服务。智能社会下，人类的生活会越来越便捷、舒适；社会运行会更加安全、高效；社会治理水平也能在人工智能的帮助下得到提升。

因此，从智能社会发展方向而言，智能时代的到来绝对是人类得到“解放”和全面发展的黄金时代。是以往任何时代都无法比拟的、人类智慧高度体现的时代。

2 智能社会的设想与价值冲突

2.1 人与人工智能（AI）

可以大胆猜测，在技术进步的层面来说，人工智能有一天会向人类靠近甚至超越人类。麦卡洛克和皮茨合著的《神经活动中思想内在性的逻辑演算》（A Logical Calculus of Ideas Immanent in Nervous Activity），为联结论AI 提供了来源。这种建立在统计分布规律之上的并行分布式非线性系统，包括对大脑神经网络的模拟，都对研究人工智能具有重要意义[2]。就目前为止，心理学、生物技术在AI 方面的应用，已经揭示出了AI 类人甚至超人的可能。就如何对人类大脑的模拟，无机体向有机体的靠近等等，这些科学上的努力都在预示着未来社会可能出现的方向。人工智能下的智能社会远远超过我们的想象，甚至有推翻原有的社会形态的可能。

库兹韦尔在《灵魂时代的机器：当计算机超过人类智能时》库兹韦尔谈到“Evolution moves towards‘greater complexity，gender elegance，greater knowledge，greater intelligence，greater beauty，greater creativity，and greater levels of subtle attributes such as love.”人工智能可以做得了很多人类做不了的事，甚至还能学会“爱”。库兹韦尔提出的可能性，从另外一个层面揭示了未来的挑战之一——未来是一场人与人工智能之间的力量的平衡。

我们可以从很多AI 题材的影视作品中，直观地感受到很多复杂的问题。例如，2016 年翻拍和2018 年续拍的《西部世界》（源于1973 年一部同名电影）从这几部作品对比来看，同样的题材，可是内容和想象根据时代迁移和科技的进步有了质的飞跃。可以想象在不远的未来，AI 一旦精通了情感和各种学习的能力，包括恶的方面，那么褪去了外表的识别性，人和人工智能将不可能和谐共存，这场较量比我们想象的要“智能”与高级得多。到底是智能社会为人类服务，还是人类社会成为了智能的牺牲品？这些猜想不仅对未来人工智能和智能社会进行了大胆的假设，而且已经向我们展示了潜在的危险。

2.2 智能社会下伦理冲突与思考

库兹韦尔在《奇点临近》一书中写道：“生物智能必将与我们正在创造的非生物智能紧密结合。”[3]这点在康复医学得到很好的体现，机械或者说智能机械义肢在康复医学领域的应用和发展，已经表明人体可以和机械体共生，甚至能借助机械义肢来具有人体不具有的优越性能。的确，人体与智能机器日益“共生”或一体化是未来人工智能的发展方向之一，甚至有朝一日，还会有智能改造大脑的出现或者有超越大脑的AI 存在。这些假设都是有可能的。这样来看，人类之间的差距被人为地、智能地缩小或者扩大，不再有统一公平的衡量标准，复杂的、被改造的“人”会使得以往的社会制度被智能社会的新的社会形态所瓦解，到那时，人类该如何面对人类自己将会是最大的问题。

库兹韦尔甚至断言：“未来的机器将会成为人类公民，即使它们不是生物有机体”不得不感叹，库兹维尔的假设有多么了不起的预见性——2017 年10 月26 日，沙特阿拉伯授予香港汉森机器人公司生产的机器人索菲亚公民身份。索菲亚作为人类历史上首个获得公民身份的AI 机器人，已经向人类证明了库茨韦尔的“预言”。那么未来的智能社会，人类公民和AI 公民的共存，也只是时间问题。当人工智能拥有公民身份之后，与人类的这样一种社会互动，无论从社会竞争、婚姻、法律还是伦理道德的角度去思考，都极其复杂和具有风险。例如，职位竞争的不平等怎么解决，人类可以自由的与AI结婚会造成什么样的后果？等等。这些问题无论从哪个角度思考，伦理和道德上的冲突和就会变得层出不穷。

2.3 “智能鸿沟”的出现

正如上文提到的，AI 和智能社会的发展有着多种多样的可能性，而这些可能性是建立在智力资产，或者笼统说是一种新的经济实力之上的。如同“数字鸿沟”一样，由于生产力和技术发展的不平衡，不同地区、不同人口之间的差异，产生的贫富差距和不平等的现象，进而导致越来越多的新鸿沟产生。不难理解，发展人工智能的成本是十分高昂的，这也意味着即使步入智能社会，那些尖端智能产品的价格也是普通人无法承担的。到那时起，由科技带来的“智能鸿沟”会从内向外地使得所谓的智能社会开始分层——拥有智能资产的人，同时也拥有了“智能遗产”，他们将占据金字塔的上层，而那些无法拥有智能资产的人，会因为本身智能的缺乏，而陷入更大的不公平竞争之中去。

从智能社会的发展来看，“智能鸿沟”的出现是必然的。因为人工智能作为一项智力密集型的技术，将会承载社会绝大多数的生产、生活的功能，这意味着社会的结构即将面临极大的挑战。站在技术前端的人属于社会的少数，同时拥有知能和资本的人更是少之又少，而普通百姓甚至可能还未开始“智能启蒙”，就会因为跟不上智能时代而被时代所抛弃。因此，对人工智能和智能社会带来的“智能鸿沟”的探讨具有现实意义，也有助于推动人工智能和智能社会的发展。

3 反思与对策

人工智能是和智能社会带来的挑战和风险是不可准确预估的，这事关人类社会的发展方向，因此，批判性的反思和建设性的意见显得尤为重要。

基于保护人类的立场，学界提出了各种建议，其中比较经典的是美国科幻作家阿西莫夫在《我，机器人》中提出的机器人三定律：机器人不得伤害人类个体或坐视人类个体受到伤害；在与第一定律不相冲突的情况下，机器人必须服从人类的命令；在不违背第一、第二定律的情况下，机器人有自我保护的义务。后来，阿西莫夫又补充了一条更基本的定律，即机器人必须保护人类的整体利益不受伤害。这些原则的提出，具有很强的人文的、道德伦理的色彩。除了上述研究提出的“人本原则”，笔者还想提出几点补充：

1）建立筛查机制：分级机制、危险排查等方法可以应用在人工智能研发上，对不同能力的AI进行分级管理、对存在危险和伦理问题的产品进行筛除。有选择性的发展，可以在生产的源头上减少危险的可能。

2）维护公平原则：阿西莫夫提出的机器人定律中人本的思考并不够深刻，忽视了人本身的道德缺陷，其中最突出的就是社会公正问题。未来智能社会应该是国家“基建”的项目之一，国家应该负起组织的责任，使每个人有平等接触和使用“基础智能”的权利。

3）完善法律制度和社会教育：智能社会将会带来新的社会形态，因此，制度要走在技术前面。制定完善的法律法规，规范AI 的社会发展方向，完善国民关于智能的社会教育，形成全民智能的良好社会环境，为即将到来的智能社会做好全面的准备。

最后，笔者想就“奇点临近”延伸出一些思考：如果有一天人工智能超越人类智能，将身体的“不朽”与最高智慧集于一身，人又有什么资格要求AI服从于弱小的人呢？放在亿万光年里，人类不过是历史的一粒尘埃。而人工智能的发展，既有可能是烧毁人类的一把火，也有可能是人类尘埃的延续。一切，就交给时间去验证吧。