人工智能的审视与展望

文_李 骏 郑剑瑾

李 骏

浙江工商大学网络与新媒体系主任、教授

郑剑瑾

杭州海康威视数字技术股份有限公司

【美】欧内斯特·戴维斯、盖瑞·马库斯著 龙志勇译 浙江教育出版社2020年5月第一版

美国OpenAI2022 年11 月推出ChatGPT 一石激起千层浪，仅两个月时间，活跃用户已突破1亿人次，成为史上用户增长速度最快的媒体社交平台。在中外新闻传播界，此轮ChatGPT 带来的影响远远超过了2016年的AlphaGo带来的震撼，因为它的出现不是局限在某个领域，而是人工智能应用在多领域突破，引发全球公众对人工智能领域的高度关注。

一、审视

关于人工智能的讨论总是甚嚣尘上，超级智能的时代渐行渐近，笔者不由想起一部著作：2020 年浙江教育出版社翻译出版的《如何创造可信的AI》。

作者盖瑞·马库斯（Gary Marcus）是新硅谷机器人创业公司AI 首席执行官兼创始人，心理学和神经科学教授，在神经科学、语言学、心理学、人工智能、计算机科学等多个领域都有深厚的学术功底；另一位欧内斯特·戴维斯（Ernest Davis）是纽约大学柯朗数学科学研究院计算机科学教授、人工智能领域科学家。他们用流畅的文笔和敏锐的洞察力解释了人工智能发展中的问题，清晰而深刻地审视了这一对社会秩序和知识文化产生重大影响的人工智能技术。

本书对人工智能的现状进行了清晰的阐述和客观的评估，分析了AI技术的设想与现实技术的差距，AI技术科学家的研究和工程师的应用之间的间隙，提出当前AI 技术的9 大风险，着重讨论了当前阶段深度学习技术的应用情况，指出AI研究领域中“常识引入”的重要性，描绘人工智能发展的蓝图。作者在人工智能高歌猛进、业界和学术界都高度乐观之时，对人工智能开发大潮进行深一度反思。他们合力揭示当前人工智能领域的诸多问题，冷静指出以深度开发为代表的主流人工智能技术的弊端和局限性，目前看来依然是很有远见的。针对这些局限性，作者充分发挥他们对自然语言处理、机器人和计算机视觉等领域的科研经验和深刻理解，对当前AI的场景应用和研究范式中的问题进行了分析，通过生动易懂的案例把问题和原因说清楚。对于一些学术界的主流观点提出了新的看法，从宏观角度探讨了真正获得可信任人工智能技术的长期发展思路。作者指出，要得到真正可信的人工智能，不是简单的统计分析数据，而是需要让系统能够掌握常识，常识才是深度理解的关键，才能提升人工智能分析问题的准确性。

机器深度学习并不同于人类日常说说的深度学习，其中的“深度”指的是神经网络中分层的数量，尚且存在若干明显的缺陷：首先，深度学习需要天量的数据。人工智能的准确性取决于其训练数据的质量，如果深度学习的数据不足，人工智能的水平就会急转直下，系统的可靠性降低，表现也就不如人意。必须确保数据集具有足够的样本量和代表性，数据是准确的、一致的，并且不受偏见和歧视的影响，数据质量足够好，才能保证人工智能系统的准确性和可靠性，掌控神经网络中的所有连接和变化。AlphaGo 下了3000多万盘棋，远远超过任何一个人终其一生所下的数量，存储了远超世界冠军的棋局变化，加上高速的计算能力，终于战胜了人类的世界冠军。

其次，深度学习存在过程不可控性。深度学习在某个场景中可能表现得很好，但在另一个场景中却可能出现非常低级的错误。人工智能系统的透明度还不够，影响了可解释性，无法追溯一些决策和行为的原因，用户和监管机构无法完全控制其运作方式和风险。学习某一个特定任务的神经网络，在某些测试中可能有90%的准确率，但很难找到10%出错的原因。因为目前神经网络在程序员看来如同“黑箱”，看不到推演过程，只显示结果，很难查找错误原因。

由此，作者指出人工智能中广泛采用的深度学习技术，只能在能够掌控所有变化的环境中进行。比如围棋，其规则是固定的，棋局看似变幻无穷，其实还是可以算出变化的总数，只要有足够大的存储空间和计算量极大的运算器，就可以存储所有的棋局变化，从而找出最优的步骤，在对局中获胜。但现实世界的许多场景会复杂得多，变化是不可测的，无穷无尽的，需要的技术远高于围棋。

没有深入探讨人工智能技术的局限性，就不能充分认识到这项技术可能带来的风险，盲目地开发人工智能应用是不明智的。为了帮助读者更方便地理解和判断这些风险，作者把这些风险详细分成了9 个类别，包括鲁棒性（指一个系统或算法对于输入数据或环境变化的变化或干扰能够保持稳定的能力）的缺失等。他们用了一系列具体案例和推理对深度学习技术提出疑问，指出深度学习并非机器学习唯一的方法，强调必须在此基础上探索新的技术突破，否则很难建立起具有人类认知能力的智能系统。以通用人工智能为发展目标，作者从认知科学中提炼出了11条对人工智能发展的启示，指出其发展方向和愿景。

二、展望

理想很丰满，现实很骨感。人工智能的发展也经历了一段不平凡的历程。作者考察认为，基于深度学习的人工智能技术在过去十多年有了长足的进步，为一系列商业化应用作出了重要贡献。当人工智能的应用场景从面向用户（To Consumer）走向面向业务（TO Business）的时候，就意味着要离开用户对错误容忍度较高的领域如内容推荐、语言识别等，走入自动驾驶、医疗诊断、金融决策等涉及人类切身利益的“深水区”。

不管今天的智能机器有多聪明、多有用，它们都不知道什么才是真正重要的。作者将基于深度学习、狭隘而脆弱的人工智能与永远难以捉摸的通用人工智能区分开来。要得到真正可信的人工智能，远比想象的要复杂得多。超级智能时代还远没有到来，因为人类固有的常识和信任成为这一领域的重大挑战。质疑当前主流的人工智能技术，是为了给学界和业界提醒，共同克服人工智能技术的局限性，探索新技术上的突破。可信的人工智能不仅要具备高效、准确、快速等优点，还要能够提供可追溯决策的过程，明确每个决策的依据，验证决策的正确性和合理性，保证其可靠性、安全性和透明度。

回望2012年，人们开始关注“自动驾驶汽车”，认为很快就能来到现实生活中。实验室里的无人驾驶汽车很快出现了，在可控制的环境中它游刃有余，但在变化万千的现实环境中，或者遇到恶劣天气就意外频发，实验中“自动驾驶”模式下的车辆三番五次地出现追尾和各种事故。如今十多年过去了，自动驾驶汽车还没有完全商业化。

2015年，Facebook启动“M计划”，希望打造人工智能驱动虚拟助手Messenger，一个能比苹果Siri 更优秀的机器人，具有自动聊天、新闻提醒、为手机游戏提供动力，甚至帮用户叫车、订餐厅，但仅仅3 年就被叫停了。

现实生活中，机器人医生也是人们追求的重要目标。沃森（Watson）是IBM 旗下开发的人工智能系统，曾在猜谜游戏中击败人类，还能帮助医生诊断病人，向人们推荐金融产品。2016 年，IBM 宣称沃森将在医疗行业掀起革命，解决从药理学、放射学到癌症诊断与治疗中存在的诸多问题，如今依然没能实现当初的设想。而ChatGPT的横空出现，恰恰印证了书中某些观点。ChatGPT 是由人工智能驱动的自然语言处理工具，拥有语言理解和文本生成能力，它通过海量数据训练模型，使其几乎无所不知。令人们惊讶和着迷的是，ChatGPT 还能根据聊天的上下文，模拟类似真实人类的聊天过程，完成撰写邮件、文案、翻译、代码等任务。ChatGPT正在开启人工智能的新时代，其对经济、政治、日常生活，乃至人类的自我理解、哲学思考、基本的价值信念、社会法则等方面都将带来深刻的挑战。ChatGPT还预设了某种道德准则，一旦判定用户的话语中包含恶意或犯罪意图，就会拒绝提供答案。ChatGPT 的横空出世标志着人工智能领域的重大发展，而随着用户积极地发现它越来越多的用途，它改变甚至颠覆既有生活方式、社会常规和政治经济秩序的可能性也在渐渐浮现。在解释人工智能决策时，还需要模糊化某些敏感信息，以保护用户的隐私和安全。

ChatGPT 深度学习的成功实践，激励了资本、学者、媒体、产业人士对人工智能的拥抱，有的不明其就，也有的一叶障目。在可预见的未来，机器会取代人类吗？马库斯和戴维斯用坚定的理念和优美的文笔阐述了他们的答案，以通俗易懂的方式讲解了人工智能必须解决的关键问题，将今天基于深度学习、狭隘而脆弱的人工智能与永远难以捉摸的通用人工智能区分开来。人类固有的常识和信任成为这一领域的重大挑战。如果你打算读一本书来跟上人工智能发展的步伐，拥抱人工智能，本书是一个不错的选择。细细阅读文本，本书为读者提供了一个了解人工智能技术当前状况及未来发展方向的窗口，作者提出了有价值的建议与愿景，指出了通往更少“人工”、更多“智能”的选择。