人工智能，是敌是友？

郭霁瑶

2023年最出圈、最具颠覆性的新兴科技是什么？人工智能（AI）一定是许多人心目中的答案。

今年以来，以AI 绘画、ChatGPT等为代表的人工智能应用带给全球一次次震撼。国内外互联网巨头纷纷进场，投身这场历史洪流，人类似乎已经正式开启人工智能时代。

同样，在今年的达沃斯论坛上，人工智能成为一大热门话题。生成式人工智能、人工智能辅助医疗两项技术不仅入围2023年十大新兴技术，且成为各个领域专家、从业者讨论的焦点。

当AI从幻想走向现实，人类社会将被如何改变？又该如何面对其带来的隐忧？

“这个世界与过去完全不同，所有游戏规则都要重写”

“几年前我们常常把第四次工业革命挂在嘴边，那时候AI刚刚起飞。如今我觉得这一场革命已经远远超过工业本身，很可能成为人类文明的下一次革命。”6月27日下午，达沃斯论坛期间，香港科技大学电子和计算机工程系主任教授冯雁在一场以生成式人工智能为主题的讨论会（以下简称“讨论会”）上如是说。

AI究竟发展得有多快，以至于专家认为它将改变人类文明？

“今天的AI和过去的AI已经不同。今天的AI建立在大规模的语言模型上，背后是海量数据。数据量足够大的时候，它就可以做非常多的各种各样的任务。所以，基于这样海量数据的AI系统非常有潜力，是一个多重任务的模型。”冯雁說。

“这个世界与过去完全不同，所有游戏规则都需要重新撰写。整个科技业有了颠覆性的翻转。”清华大学讲席教授张亚勤在讨论会上直言，“PC时代我们有Windows操作系统，手机时代有安卓、iOS等，AI时代应该有新的操作系统。”他认为，这种系统应该基于生成式人工智能，创造包括应用方面的一整套运营体系。

不管是冯雁还是张亚勤，提到当下与过去AI的区别，都谈到了一点——生成式人工智能 （AIGC）。而今年以来，给我们带来一次又一次震撼的AI相关技术产品，如AI绘画、ChatGPT 也都属于AIGC。

6月26日，达沃斯论坛发布的《2023十大新兴技术报告》给予了AIGC这样的定义：生成式人工智能是一种强大的人工智能，它可以通过学习数据中的模式，使用受人脑启发的复杂算法和学习方法来创建新的原创内容。

尽管目前AIGC主要用于生成文本、计算机编程、图像和声音，但业界广泛认为，这项技术将能应用于一系列目的，包括药物设计、建筑和工程等。例如，美国国家航空航天局的工程师目前正在开发人工智能系统，该系统可以建造轻型航天仪器，在提高结构性能的同时，大幅缩短开发时间。

“最近半年左右，许多新成立的中国企业都有生成式AI业务，有的是大模型，有的是搬运各种垂直模型。现在大部分的大型语言模型在美国，有的在中国，还有的在欧洲。这些大型语言模型很可能将是面向公众的下一个主要的互联网基础设施，并将产生很大的社会影响。”张亚勤说。

虽然与国际先进的人工智能技术力量仍有差距，但伴随着我国技术发展和许多科技企业试水，中国的人工智能发展迅速，与发达国家的技术鸿沟进一步缩小。

冯雁介绍，由于互联网上最多的仍是英文数据，因此这些语言模型的英语能力是最高的。但学者们在对标研究中发现，如今这些语言模型的中文水平也相当不错，背后原因是互联网出现了越来越多的中文内容材料。而在1997年，冯雁刚对中文进行自然语言处理方面的研究时，中文还是一个资源较少的小众语言。但今天已经完全不是这个情况了。

香港科技大学电子和计算机工程系主任教授冯雁

清华大学讲席教授张亚勤

斯洛文尼亚数字转型部部长Emilija Stojmenova Duh

IBM（中国）有限公司大中华区主席兼总经理陈旭东

“AI产生的数字鸿沟实在太大了，这就是为什么我们要谈全球的平等准入和参与。现在中文快赶上英语，我们还要让其他语言也能够赶上这两门语言。”冯雁说。

担忧不应阻碍创新的步伐

技术就像硬币，有正面也有反面。当人们为AI颠覆式的革新赞叹不已时，担忧技术被滥用的焦虑也在人群中扩散开来。

5月30日，350多位AI业界领袖和专家发表联合声明，认为“人工智能（AI）可能导致人类灭绝，危险程度不亚于大规模疫情和核战争”，称应当将AI危机视为全球优先事项，呼吁决策者认真对待即将到来的“AI革命”并制定相关法规。该声明由总部位于美国旧金山的国际AI领域非营利组织“AI安全中心”牵头发出，联署人中既有目前热度极高的AI顶尖企业OpenAI首席执行官山姆·奥特曼，也包括正大力开发AI技术的老牌科技巨头微软和谷歌高管，还有获得2018年图灵奖的三位“AI教父”中的两位——杰弗里·辛顿和约叔华·本吉奥。

这场由人工智能领域顶尖专家发起的声明折射出人类对新兴技术的复杂心态。在达沃斯论坛的讨论会上，来自政府、企业、学界的代表纷纷表达了对AI的担忧看法。

斯洛文尼亚数字转型部部长Emilija Stojmenova Duh直言：“当然，我们有担忧，但是担忧不应该阻碍创新的步伐，因为人工智能可以带来很多不同的潜力。如果我们畏首畏尾，将没有办法发挥AI的潜力。政府也应该从背后支持AI创新。对于公众担忧的部分，我们也建立了相关渠道和公众进行沟通。”

“公众的有些担忧是可以理解的。像很早之前IBM放弃人脸识别的应用也是基于这些类似的考量——担心这项技术被应用于邪恶的事。IBM很早就开始研究AI伦理了。”IBM（中国）有限公司大中华区主席兼总经理陈旭东说。

在这次ChatGPT大规模流行后，IBM 根据过去的积累，迅速推出了一款产品帮助企业内部建立自己的AI进程。“该产品的一个功能就是帮助企业训练数据和信息安全。因为最大的风险就是安全和合规。”陈旭东介绍说。

冯雁认为，当下AI语言模型存在不透明的问题，不只是对用户，对于研究人员也不透明。而这意味着人们无法预测它将生成什么答案。“AI可以提供很多新的想法，但是也会编造一个从没发生过的事件，比如生成一个不存在的虚假的图，但很多人就信了。而我们却不知道它什么时候对，什么时候错，我将它称为ChatGPT的幻觉。”

“当下我们依然前路漫漫，特别是在改善AICG方面，但现在已经看到了很多积极的成果。我自己很乐观，相信未来会有不同的应用和成果。”贝鲁特美国大学电气与工程副教授Joseph Costantine说。

责编：杨琳 yanglin@ceweekly.cn

美编：孙珍兰