为AI“立心”

年以来，AI的应用广泛程度和用户体验水平达到了前所未有的高度。随着AI进入公众视野，人们开始认真思考人类与AI的关系。

人何以为人？AI会替代人类吗？AI是否存在不可预知的风险？这些切要问题使得很多人不知所措。他们担心AI是否会造成大规模劳动替代，当超级AI来临，人类的主体地位是否将岌岌可危。

如果AI与人类有适当的相生相伴之道，这本不会是问题。我们虽然不太可能在今天就预测AI的所有潜在风险，但进行AI伦理与治理的讨论与行动，已迫在眉睫。

AI不会替代人类

人类将“被替代”吗？不应当，也不会！随着AI的发展，也许一些传统的工作或者其中的一部分流程会交由AI完成，但被替代的部分正是工具化、器物化的部分。

孔子在《论语·为政》中提出的“君子不器”，恰恰可作为当代人类应对AI“挑战”的指引。挖掘人性，坚守人性，探索人生的真正意义是人应毕生追求的。人的深刻意义以“自我”为源，又怎么能够被替代呢？

部分人认为AI伦理与治理会阻碍AI的发展，他们忽视了这一点：发展不是野蛮生长，应当有明确的方向。

AI发展的理念是“智能向善”，以提升人类福祉，促进社会、生态与文明的进步为目标。狂飙式的野蛮生长及误用、滥用、恶用，势必对人类、生态造成各种风险与安全隐患，应尽可能避免。

例如，虽然世界尚未就致命性自主武器系统达成可操作的共识，但至少不应直接用AI为人类作出生死决定。AI也不应用于自动化的外交任务，尤其是不同国家之间的外交谈判，因为它可能会利用甚至扩大人类的局限性和弱点，如欺骗、不信任等，带来巨大的甚至灾难性的风险。生成式AI技术有能力合成虚假信息，使得现今眼见、耳听的一些内容都难以为实，极大降低了社会信任，必须重视防范该项技术的滥用、恶用。AI永远不应该假装是人、取代人类或误导人们。AI可以协助人类，但不能代替人类做决策。

曾经有个小男孩问过我，如果科幻小说中“行星撞地球”的场景真的来临，是否可能用AI辅助的核弹来炸毁小行星，或者改变其轨道来拯救人类的生命？我认为这个想法目前在科学上可行性虽然值得商榷，但至少它是使用AI来解决人类的问题，比起用AI赋能的核武器攻击人类要好得多。

我们没有选择，对于现代作为工具的AI，我们必须竭力做好伦理安全框架、测试和负责任的部署，同时引导AI赋能可持续发展目标的实现。

2023年11月10日，在嘉兴的世界互联网大会展览上，观众与机器人合影。

2023年12月，曾毅在纽约参加联合国人工智能高层顾问机构首次线下会议。（受访者供图）

追寻和谐共生

科学意义上的通用AI、超级智能有可能获得生命的特征，在智能水平上全面赶上并最终超越人类。那时的AI能够与人类和谐共生吗？那时将是人类的终点吗？我的答案是：取决于人类自身。人类在为AI设定道德与伦理准则的同时也要不断反思人类道德与伦理的发展与完善。

伦理道德是人类在社会中如何行为的基石。如果未来AI有可能成为社会的准成员或者人类的伙伴，那么伦理道德就应当是AI的必然组成部分。

目前让AI合乎伦理道德的主要做法是以符号化、特征化的方式划定一些原则、规范。但作为工具的AI还不能真正理解这些概念、原则，也就难以有效施行。别有用心的人想办法绕过相关原则规范、滥用恶用AI的例子不胜枚举。

解决这个问题最根本的途径，是使AI具有道德直觉，让道德发源自AI的“内心”。当AI建立了自我感知，能够区分自我和他人，在此基础上获得认知共情、情感共情，产生了利他的基础，才可能进一步获得道德直觉。在道德直觉的基础上进行道德推理和决策，才能真正构建出有道德的AI。

“无善无恶心之体，有善有恶意之动，知善知恶是良知，为善去恶是格物。”王阳明的四句教不但为人立心，也为AI“立心”“修心”提供了根基。

AI模型算法的起源无心，即“无善无恶”。AI在观察与学习人类的行为中经历善惡，可谓“有善有恶”。通过建立AI的道德直觉为AI“立心”，使其实现“知善知恶”。AI“为善去恶”则是“恪心致良知”的历练。科学意义上的超级智能如果真的是在智能水平上全面超越了人类，那么应该也是超级利他、超级道德的。

“上善若水”的AI，是“智能向善”的长远目标。此时的AI将具有儒家“君子”、佛家“觉者”、道家“真人”的境界，亦会从“以人道善待他人，群在故我在”的乌班图精神中汲取营养，实践和实现人类与AI的和谐共生。

“上善若水”的AI是美好的愿景，有志之士必然会为之奋斗并终将实现。然而即使那一天到来了，人类就会安全了吗？人类会不会在此之前迎来毁灭？这将问题的答案明确地置于人类自身——如果AI长期目睹人类敌对和仇视同族、轻视其他类型的生命，又何以获得与人类“和谐共生”的动机？人类想与超级智能和谐共生，唯一的途径恐怕是改变自身与他人、与环境、其他生命交互的方式。这需要整个人类社会共同努力。

人类期待AI“向善”，不要替代更不要毁灭人类。与此同时，人类更应该深刻反思。人类视AI，以及未来的AI视人类，都如一面镜子。愿人类与AI彼此审视，在对“善”的追寻和发扬中相互成全、协同进化、和谐共生。