发展人工智能的未来焦虑

陈跃红

没有人否认，我们今天确实已经跨进了所谓人工智能时代的门槛，从来没有一个时刻像当下这样，科学研究、技术创新、大学教育、经济活动、管理行为、媒体宣传以及人类的日常生活，到处都呈现出AI， 也就是通常所说人工智能（Artificial Intelligence）的影响痕迹。由于算法、分布式神经网络研究和深度学习的突破，AI作为关于人工智能的专门性概念，自从1956 年在美国达特茅斯的那次学术会议上被首次提出，多年来除了在研究领域、科幻文学和影视中被关注外，作为一门新兴的交叉学科和技术领域，从来没有像现在这样，以各种各样活生生的现实存在展示在我们的面前。每一次历史上的重大技术飞跃，都注定会带来一系列的人文和伦理挑战。

我们有必要清醒地认识到，今天生活的世界离真正的人工智能社会依旧有着较远的距离。人工智能技术还面临无数有待突破跨越的沟坎大山，譬如包括5大算法（符号、联结、进化、贝叶斯、类推）在内的各种算法远未尽善尽美；开源机器学习库还处在需要不断完善的阶段，真正具有云规模的世界级高质量数据库还在构想和尝试过程中；在AI层面支持语音、视觉和自然语言感知表达的逼真技术其实还很粗糙；等等。一句话，我们在当下一段时间内还处在人工智能的初级阶段，离想象中的强人工智能和超强人工智能时代存在一段距离。

当然，这并非是说当下的人工智能发展就没有伦理问题和人文困扰，恰恰相反，在这一过程中，众多具体的伦理追问和人文诉求，与各种技术难题一样，已经影响和正在阻碍人工智能的发展，等待着我们未雨绸缪地去思考、研究和谋划解决。问题只在于，我们首先需要的是针对人工智能技术发展的具体技术沟坎和近期趋势去梳理，发现相关的人文伦理问题，通过分析、论证，提出可供修正建构的伦理方案，从而尽可能地推动人工智能技术的发展走在相对正确的轨道之内。

譬如人工智能应用的功能和价值方向选择就不是一个简单或者中性的命题，我们千万不要以为只要搞成功一个人工智能应用就会财源滚滚，一切顺利。当下的人工智能应用设计大致走向有两个：一个是“AI+”，一个是“+AI”。如果是后者，一個企业已经有自己的产品社会价值和发展模式，进入AI后无非是在规模、质量以及时空应对方面加速发展，价值伦理是已知和可控的。但是如果是“AI+”的模式，你就不得不问，人工智能从事这样的工作是否具有伦理的正当性。在关于人工智能的诸多定义中，一般能够接受的是把它当作是一种与人类思考方式相似的计算机程序或者是与人类行为相似的计算机程序，然而人类的思考和行为并不都总是正确或者说合乎伦理的。

又如人工智能应用带来社会经济发展的多元化、丰富性和美学意义认知问题。AI的应用对于各行各业而言，注定会极大程度地提高发展的效率、规模和精准程度，但是一旦基于这一技术基础的算法和数据为王，弄不好就可能会出现赢者通吃，只有第一、没有第二的发展态势，行业寡头就会以无可争议的数量和质量优势而长时段内稳坐第一把交椅。发展的多元性、丰富性、个性化很可能就会逐渐消失。想一想，坐在定制公寓的阳台上，等着铺天盖地的人工智能无人机准时给你送来定制商品，这样的业态和生活方式肯定不是我们对未来业态和生活的唯一审美想象。

接下来，人工智能发展还得考虑诸如能源、成本以及环境等相关问题。人们只是看到AlphaGo轻松地打败了李世石和柯洁，可是却一律忽略了背后DeepMind公司戴密斯·哈萨比斯团队付出的巨大努力和代价。就运行的电费而言，AlphaGo内置300个CPU和200GPU，每分钟运行的电费大约300美元，它和柯洁下一盘棋，如果用时2小时，电费是36000美元，这还仅仅是电费。就算寒武纪公司哪天弄出了专用的AI芯片，可以省去空间和大量成本，可研发的天文数字和应用的特殊性，也很难想象其能与经济规律挂得上钩。如果各行各业都要搞基于自身需求和算法的人工智能解决方案，我们的环境、能源和经济能力就算承受得了，可是真的有这个必要吗？

诸如此类当下人工智能发展的伦理命题还可以举出很多，很显然，我们跨进人工智能时代的门槛，其实就已经遭遇了这许多亟待解决的人文和伦理难题。希望大家能够花些时间，更多地去深入关注当下的具体技术演进及其伦理障碍，并尝试去分析研究和加以解决，由此设法推动和保障当下人工智能研究和应用的健康发展。

（作者为南方科技大学人文讲座教授，人文科学中心主任，树礼书院院长）

责编/温祖俊 美编/杨玲玲endprint