人工智能时代的社会思考

林兰

自1956年美国达特茅斯学院夏季研讨会上正式提出人工智能（AI）概念以来，历经60多年的发展，AI已经从一个婴儿成长为了青少年。人工智能的发展并不一帆风顺，其第一个具有里程碑意义的进步是1997年IBM“深蓝”计算机打败国际象棋世界冠军Garry Kasparov。自2006年算法取得重大突破以来，人工智能就以指数级增速发展着。

早在五年前，专用人工智能和通用智能的发展还很不平衡。以AlphaGo为代表的专用人工智能任务单一、需求明确、应用清晰、建模简单，在很多领域都取得了单点突破，下围棋、语音识别、医学诊断等局部智能水平超越人类。然而，随着OpenAI公司ChatGPT-4的横空出世，短短几个月的海量应用使得通用人工智能得到了极大的训练，推理、判断、计划等类似人脑的高级功能正在以不可阻挡之势加快形成。相应地，其广泛应用也必将给人类社会带来法律法规、道德伦理、社会治理等方面一系列的挑战。

关于人工智能究竟是“天使”还是“魔鬼”，已经引发了各方的热烈讨论。波拉尼悖论和莫拉维克悖论都支持了乐观派的想法，认为人类知识的大部分是隐藏的，是不能写成计算机指令的，特别是在一些最本能的反应和技巧方面。因为人们生活很多时候都是不需要用到智慧的，那这一部分生理功能和社會功能用人工智能怎么替代呢？目前当然是无解的。

悲观者设想了很多人类未来可能面临的人工智能社会困境，近在眼前的就是机器替代人工的失业潮。每一次大的科技革命都在很大程度上改变了人类社会的生产分工体系。农耕时代劳动和消费的人数比大约是9∶1，工业时代这一比例大致为1∶1。进入到人工智能时代，绝大部分的体力和脑力劳动都将被解放，劳动和消费的人数比大约是1∶9。直到ChatGPT-4诞生之前，人们担忧的方向还普遍局限于“黑灯工厂”和“无人商店”，认为早期智能对人工的替代只体现在体力劳动方面，但很快就发现，“黑灯办公室”也来得太快。GPT在短时间内替代了大量的编辑、文秘、客服等普通岗位工作，又咄咄逼人地对律师、程序员、财务分析师等高级岗位构成了威胁。人们渐渐意识到，人工智能社会会有很多失业者；但实际上，是不需要那么多劳动者。就像表面看是“脱钩”造成了全球化的解体，其实，是智能时代不需要扁平化的全球生产体系。

稍远一点的困境是人工智能社会的秩序和伦理问题。乐观派以“GPT还不具有逻辑思维能力”来获得片刻安慰，但实际上，GPT的开发任务是内容创建和自动转化，逻辑本来就不是它的长项。很多具体问题的解决并不需要逻辑，何况，如果人工智能掌握海量数据，计算能力又实现了飞跃，数据背后的逻辑一定会自然浮现。物理世界完全数字化以后，人工智能就一定有逻辑。事实证明，ChatGPT-4大模型分析、整合、评估和判断文本的能力要远胜于生成能力，这就是朴素的逻辑推理能力，是AI系统迈向通用人工智能（AGI）的第一步。

为什么要纠结于人工智能有没有逻辑呢？因为这直接关系到人工智能是否会发展为“人类智能”。如果真的激发了“自我意识”，成为了人类智能，碳基生命和硅基生命中谁才是地球的主宰呢？社会分工的改变、生产秩序的重塑，使得人类和人工智能的创造关系发生了颠覆性的改变。我们要培养什么样的技能？普通人还需要奋斗吗？生育还有没有意义？没有人能给出答案。但是我们所熟悉的社会形态将再也回不去了。

再远一点的思考是究竟谁因人工智能而得益？我们都知道，不是所有的技术都能惠及大众，也不是每个技术都能惠及所有大众，人工智能也不例外。人工智能依赖于算法、算力和数据，对发展的先期条件要求是非常高的。智能革命与能源革命是捆绑在一起的，因此，掌握先进能源利用技术的国家才能搭建大算力的智能社会架构，这就把穷国挡在了门外。智能社会的数据就相当于现实社会的钱，由于数字鸿沟的本质是经济鸿沟，又把穷人挡在了门外。智能社会早期，被动转型的阵痛会困扰每一个人；智能社会中期，生产力的释放能轻松解决人类的基本生存和发展需求；到了成熟智能社会，人类将可能被无情地淘汰。

（作者系市人大代表，上海社科院城市与人口发展研究所研究员）