掌控AI，人类能做到吗

张田勘

国际学术期刊《自然》杂志预计，位于美国旧金山的人工智能（AI）技术公司OpenAI将于2024年年底发布支撑聊天机器人的下一代AI模型GPT-5。与其前身GPT-4相比，GPT-5会拥有更多、更先进的功能。此外，GPT-4的竞争对手Gemini（另一个生成式AI工具，也是大语言模型）和其他AI工具也会推出新的版本。

《自然》杂志还预测，美国谷歌公司旗下的深度思维（DeepMind）人工智能公司将在2024年发布AI工具阿尔法折叠（AlphaFold）的新版本。此前，阿尔法折叠已经预测了高精度的蛋白质三维模型。新版本的阿尔法折叠将以原子级精度模拟蛋白质、核酸和其他分子之间的相互作用，将为药物设计和发现开辟新的可能性。

从这些预测可以看出，人类对AI的快速迭代既惊喜又担忧。我们惊喜于AI必然会改变人类的生活，并可能把人类文明推向新的高度；同时，令人们担忧的是，AI可能会脱离人类的监控，给人类社会带来意想不到的灾难。

AI的发展有两大主线：一是人类需要主动掌控AI，首先应制定关于AI的法律，并为AI的应用立下伦理准则；二是研发新的没有争议或争议性小的AI工具，如诊治疾病的AI工具，从而赢得社会的广泛接受和支持。

对AI的掌控首先体现在为其“定规则、立法则”。可以预料，2024年很多国家会推出比较全面的AI政策和法规。但是，这也可能是一个比较长的过程。

欧盟三大机构—欧洲议会、欧盟成员国和欧盟委员会已于2023年12月8日就《人工智能法案》达成协议。这一法案将成为全球首部AI领域的全面监管法规。然而，围绕欧盟《人工智能法案》的签署和实施，还有漫长的路要走。

2023年10月30日，美国总统拜登签署了美国首份关于AI的行政命令。美国参议院多数党领袖舒默希望在几个月内准备好AI立法。

欧美对AI的立法聚焦于推动技术突破，吸引全球投资，同时保护民众不受AI“野蛮生长”的影响。中国也发布了《生成式人工智能服务管理办法（征求意见稿）》和《互联网信息服务深度合成管理规定》等法规，以规范AI技术的发展和应用。

根据现实情况，人类主动监管和掌控AI可能需要较长的时间，也需要全球的合作，以制定趋于一致的AI标准和法规，从而有效地监管AI。目前，联合国已经表态，联合国AI高级别咨询机构将于2024年年中公布最终报告，为AI的国际监管制定指导方针。

对AI的主动掌控还体现在另一个维度，即对AI的发展和使用需要有前瞻性的思考。2023年11月，OpenAI公司上演的“权力的游戏”就体现了研究人员对人工智能发展方向的思考和担忧。

2023年11月18日，OpenAI公司官网突然宣布，创始人兼CEO山姆·奥特曼辞职，公司首席技术官米拉·穆拉蒂担任临时CEO。但是，11月22日，被“踢出群”的奥特曼又回归OpenAI公司，继续担任CEO。据说，此次“内斗”的起因是公司的几位研究人员向董事会发出一封信，称一款强大的AI模型Q*可能威胁人类。Q*模型能够解决某些数学问题，这一能力意味着AI将拥有类似于人类智能的推理能力。

一些OpenAI公司的AI专家担忧，先进的AI模型在商业化后可能会被滥用，奥特曼却并未采纳这些AI专家的意见。因此，这些“担忧者”要求解除OpenAI首席执行官奥特曼的职务。奥特曼曾公开表示：“在OpenAI的历史上已经有四次了，最近一次是在过去几周，当我们揭开无知的面纱并向前推进发现的前沿时，我已经在房间里了，能够做到这一点是一生的职业荣誉。”

对于AI产品的态度，奥特曼与ChatGPT的创造者伊利亚·苏茨克维之间存在分歧。苏茨克维对ChatGPT和其他AI产品的态度是比较保守的。他认为，如果人类无法有效控制生成式AI工具，它们有可能造成巨大风险和灾难。因此，苏茨克维正通过OpenAI的 “超级对齐”项目专注于控制AI系统。他认为，OpenAI和其他AI公司应将其代码和训练数据保密，从长远来看，封闭系统将避免居心叵测者制造出强大的AI，这是负责任的做法，“到了某个时候，AI的能力将变得如此巨大，以至于开源模型显然是不负责任的”。

显然，不同的理念会影响AI的发展和应用，谁的理念更适合社会的发展，需要时间和实践来检验。从科技发展的历史规律看，一些具有颠覆性的创新产品通常是在使用过程中出现了问题，才引发关注，立法机关才会制定法律法规对其进行监管。幸运的是，人类已经预感到AI可能会出现问题，甚至有可能发展为“人类成为AI的奴仆”，因而，世界各主要国家、国际组织正在积极协商，希望在AI制造出大麻烦之前为AI的发展和应用立法。

不过，加快研发新的AI工具，即工具性AI可能产生的争议较少，也会被人们广泛接受。工具性AI只是按照人类的设计完成某一特定任务，并不生成新的产品或作品，可以算作AI的初级产品。因此，这类工具性AI将会有突飞猛进的发展。

现在，深度思维公司已经研发了最新的工具性AI—GNOME，该程序使用现有文献进行机器学习，发现了超过220万个化合物的稳定结构。美国加利福尼亚大学伯克利分校团队研发了一种自动实验室系统（A-Lab），可对拟定化合物创造最多5个初始合成配方。这一工具性AI还可以用机器臂进行实验，经过17天的连续工作，A-Lab完成了355次实验，生成了58个拟定化合物中的41个。如果将这项任务交给人类研究员，则需要花费数月进行推测和实验。

这两个AI系统表明，AI不仅可以自动研发新材料，而且可以操作实验，相对于生成式大语言模型，人们对这樣的工具性AI并无太多争议。因此，工具性AI未来的应用前景极为广阔。

【责任编辑】张小萌