新技术带来的治理风险

文/ACCA（特许公认会计师公会）

机器人与人工智能领域的发展一日千里。而认知系统对财会专业人士而言又意味着什么？在未来，社交、移动和云技术的融合将会对财务产生更为根本的影响。CFO 必须准备好迎接这些挑战。

科幻故事与科幻电影对未来的描述往往是反乌托邦式的：机器人和其他类型的人工智能（AI）从最初人类的助手变成了一种威胁。正是有了类似电影《2001：太空漫游》中的HAL 9000、《我，机器人》中的VIKI、《黑客帝国》中的“特工”，以及《终结者》中的“天网”，我们才看到人工智能可能会背叛自己的人类创造者，控制人类社会，甚至对人类存亡构成威胁。

这种事情真的可能发生吗？2014 年，宇宙学家和物理学家斯蒂芬·霍金（Stephen Hawking）教授曾在《独立报》（The Independent）撰文：“成功创造出人工智能或许是人类历史上最重要的事件。不幸的是，除非我们知道如何避免风险，否则这或许也将是最后一件。”如果一个人工智能通过了“洛夫莱斯（Lovelace）测试”，我们或许还能尽量一搏，阻止最糟糕的情况发生。霍金说：“人类受到极其缓慢的生物进化的限制，无法与人工智能抗衡，最终将被其取而代之。”

我们能做点什么避免这种情况发生呢？“我越来越倾向于认为一些监管是很有必要的，可以在国家或国际层面上做点什么，为的就是确保我们不会做出任何傻事。”特斯拉汽车公司和Space X公司首席执行官、工程师埃隆·马斯克（Elon Musk）在麻省理工大学航空航天百年学术研讨会上这样说道。他说：“我们必须谨小慎微。在人工智能问题上，我们是在召唤恶魔。”

马斯克担心的问题之一就是国防承包商和由他们创造的自动化战争机器人。这类机器人的设计目的是杀死或者伤害人类。通过对比可以发现，人工智能的一些新近发展还是比较温和的。比如被技术行业称为“认知计算系统”的沃森机器人。IBM 设计它的目的是将其作为“人类能力极限的自然延伸”，更多的是一个辅助者，而不是威胁。

进化抑或革命？

2011年，沃森机器人在美国智力竞赛节目“危险边缘”（Jeopardy!）中战胜了两位知名的人类选手。它似乎能够听懂问题，还能抢在人类对手之前给出正确答案，就好像魔法一样。这引发了公众的联想。然而，表象有可能具有欺骗性。引用作家、未来学家亚瑟·克拉克（Arthur C Clarke）的话说：“任何足够先进的技术都容易与魔法混淆。”沃森不是魔法，它是计算机系统飞速进化的一种体现。

人类的进化经过了数百万年。而计算机系统这种非生物智能却无需如此费时，就能发展出无论从广度还是精妙度上都足以比肩人类的智能。几十年前摆满整整一个房间的电脑所具备的处理能力如今一部智能手机就可以搞定。随着处理器越来越小、越来越强大，软件开发者向产品中加入了更多规则驱动工具。这些“专家级”系统的速度越来越快，也越来越智能。

而这些还是早在2011年的时候，沃森机器人就证明一个计算机系统可以利用“自然语言处理”软件来听懂人类的话，几秒钟内就能搜索海量复杂信息，生成和评估假设，进行调整并从经验中学习。随后，沃森也不断升级并有更多认知计算机系统和所谓的人工智能加入其中。你的手机里或许就有一个。

话虽如此，这些系统真的“智能”吗？它们确实能做一些人类需要开动脑筋才能完成的事情；也确实能够让我们误将它们当做同类。然而，认知科学家道格拉斯·霍夫施塔特（Douglas Hofstadter）教授说：“沃森只不过是一种与数据库连接的正文检索算法，类似于谷歌搜索。它在搜索正文时并不清楚其中的意思。如此说来，它不算智能。”认知系统有其自身局限性。

和孩子一样，沃森和其它认知系统都需要教育。他们可以结合结构和非结构数据，再利用情景确定最恰当的回答。但如果是像“对我来说最好的药片/平板电脑（tablet）是哪个”这种问题，最佳回答取决于你是在药房还是在电脑店。认知系统需要接受训练才能正确回答这类问题；它们需要学习根据以往经验调整今后的回答。

相比持枪行凶的机器人和能够自我复制、拥有意识和渴望凌驾于上的软件实体，这听起来似乎威胁要小得多。但即便今天的认知系统（尚）不具备对人类的实质性威胁，对一些行业的知识型工作者来说已经是足够坏的消息了。其中就有会计行业。当前的争论主要集中在机器人流程自动化（RPA）究竟是夸大其词、大有裨益，还是令人惊恐。

不只是游戏

目前，沃森仍然在参加各种游戏。比如，EdgeUpSports正在开发一款虚拟橄榄球应用，采用沃森机器人分析大量现有的球赛数据。“利用沃森的技术，我们能够改变虚拟橄榄球的比赛方式，搭建一个平台，帮助球队老板进行分析，提高联赛胜率。”公司CEO、主教练Illya Tabakh 这样解释说。

2014年，IBM 的一个决定使这一切变成可能。他们在云端向普通商业用户开放沃森服务以及借此营利。只是，沃森并不仅仅可以用来玩游戏，它从来就不是为此而生的。千百个“沃森生态系统合作伙伴”正利用沃森的智能设计自己的应用。近期推出的软件工具让非IBM 商业发展更加便利，或许会鼓励更多开发者效仿，全面激励新产品的诞生。

IBM透露会将目标对准一些重点垂直产业，例如零售、保险和医疗保健。2015 年4 月，IBM 公布了官方在这方面进行的首个项目：IBM“沃森医疗”（Watson Health）和“沃森医疗云端服务”（WatsonHealth Cloud）。IBM 在随后陆续宣布的举措还包括：为波士顿儿童医院开发诊疗系统用于改善对罕见遗传病的诊断；将沃森机器人项目推广至印度，当地的马尼帕尔医院将采用这种机器人协助诊断肿瘤。

IBM和围绕“沃森生态系统”聚集起来的合作伙伴并不是唯一为人工智能的无限可能感到振奋的一群。就在IBM 探索认知系统可能性的同时，还有很多科技企业在做着同样的事情。

着眼于未来

IBM近期收购Merge Healthcare Incorporated，有望为沃森机器人安上眼睛。“沃森具备强大的认知和分析能力。再加上收购Merge 等公司的战略举措，IBM 得以同致力于改变医疗保健行业面貌的机构开展合作。”IBM研发部门高级副总裁John Kelly 博士这样说道，“为沃森机器人安上‘眼睛’，让它看见医学影像，无异于为这个行业开辟了全新的可能性。”

毫无疑问，IBM和围绕“沃森生态系统”聚集起来的合作伙伴并不是唯一为人工智能的无限可能感到振奋的一群。就在IBM探索认知系统可能性的同时，还有很多科技企业在做着同样的事情。从认知计算到人工智能，谷歌已然成为这场比赛的领先者。

还有很多家喻户晓的企业也热衷于开发人工智能的商业潜力。他们希望这类系统足够聪明到帮助人类，同时又不至于足够聪明到伤害人类。

去年10月，Facebook 宣布推出新一代虚拟助手“M”。Facebook为其加载认知计算引擎，训练它，并将其添加至Facebook Messenger app。这个虚拟助手可以替你搜索信息。在你的允许下，“M”很乐意为你效劳，协助你完成真实世界中的一些任务。例如预订出行或餐厅、在线购物并安排送货等等，目前来看还是很有帮助的。

苹果公司也在人工智能领域投入巨资。2015 年，苹果收购英国公司VocallQ 及旗下的认知计算品牌。他们的产品可以学习你的讲话方式，凭借对此前对话的“记忆”改进未来的每一次对话。听起来很熟悉是不是？苹果除了收购人工智能技术，改进机器对人类语言的处理，还收购了专注于图像识别的Perceptio 公司。认知系统和人工智能的可能性似乎是无穷无尽的。

认知系统能否成就人工智能，人类如何应对才能避免祸及自身，我们仍需拭目以待。IBM 董事长兼CEO吉尼·罗曼提（Ginni Rometty）表示乐观。“未来，人类每做出一个决定都需要沃森这样的认知系统提供信息。我们的生活会越来越好。”她说道。然而在1943 年，沃森机器人名字的由来、IBM 创始者托马斯 J 沃森（Thomas J Watson）却说过另一句著名的话：“我觉得全世界能卖出5台电脑就不错了。”