正在消失的主体性

徐梅

跟大多数人一样，我也是从2017年开始关注人工智能，“阿尔法狗”连克李世石、柯洁，使得“AI”、“奇点”迅速成为热词儿，谁都能聊上几句。“人工智能會不会抢走我们的工作？”“AI如果具备了超人的智能，会不会毁灭人类？”

但很快，我们就厌倦了这样的讨论。

一方面，专业人士很不耐烦地提醒人们，AI只是一项技术，技术取得突破并不容易，那个机器胜过人类、甚至对人构成威胁的“奇点”可能百年以后才会到来。技术大牛吴恩达说，整天讨论这些“好比是讨论火星上人口是否会过剩一样”。

另一方面，对于普通人来说，AI技术并没有那么容易理解，AI威胁论说来说去也就那么几句，这一类题材的新鲜劲儿一过，连科幻作家都不爱写了。

从2017年开始，每年我都会写一篇关于人工智能的报道，最初是想通过对围棋产业这个被AI选中颠覆的第一落点持续观察，看看人工智能如何改变一个职业、一个行业，以及行业中的人，同时延展到对几个AI创业公司的持续观察。

必须承认，创业者的勇气、智慧，以及AI产业的急速发展是极其吸引人的，我自己从开始的警醒好奇，迅速被技术乐观主义“洗脑”，重新看这些稿子时，发觉当时更多看到技术“喜大普奔”，较少看到人。

技术大过了人，这本身就是问题了。即便“奇点”远远未至，但AI发展所带来的伦理与法律挑战已经无法回避，更何况交叉学科不断带来技术的跃迁，“奇点”越发不可预测。

“十一”假期前后，我因为采访，集中看了三本书——哲学教授何怀宏的《人类还有未来吗？》、日本学者的论文合集《AI联结的社会》、美国计算机专家斯图尔特·罗素的新书《AI新生》。

斯图尔特1995年出版的《人工智能》多年来不断再版，被128个国家的1400多所大学作为教材使用。他在《AI新生》中反思，从2014年开始，“我便公开承认，我的研究领域对我自己所属的物种构成了潜在危险。”

他强烈反对业界关于人类智慧有限、AI“奇点”不会到来这种“技术否定主义”，称这就像一位公共汽车驾驶员载着全人类说，“是的，我正尽我所能往悬崖边开，但是相信我，在开到悬崖边之前，我们的汽油会用完！”

“与人类的聪明才智打赌是鲁莽的，尤其是在我们的未来岌岌可危的时候。”跟何怀宏一样，斯图尔特对AI有可能造出的“远比人类强大的实体”充满警惕，呼吁整个社会，尤其人工智能研究领域，将“可证明有益的人工智能系统”作为超级智能机器的研究目标，“只有目标确保完整且正确，或者可以很容易地重置机器的情况下，这种模式才有效。”

这一目标的技术实现路径是复杂的。坦白说，这本书的后几章，我读得半懂不懂，并且最终放弃了成稿，因为无法在这个关键问题上与作者深入讨论。

学习的收获很大，对于未来继续观察、报道AI对社会生活和个人尊严的影响会极有裨益。

这三本书里还有一个共通之处，技术已经对我们的社会产生巨大影响和控制，我们的主体性已经在消失——

比如，内容推荐算法在社交媒体中通过“投其所好”，对我们既有偏好的强化和改变;人机协同的工作环境中，算法对人的控制和倒逼（快递小哥、与机器人协同工作的仓库分拣员等）;还有AI招聘系统通过抓取分析应聘者的社交媒体账户信息完成画像分类，对个人过度监控，将复杂丰富的人格简单类型化等等……

人工智能所塑造的社会和系统同我们每个人都深度相关，对于我们这些不具备专业知识的普通人来说，讨论AI，除了末日危机，还有上述那些现实关切。

而你我，都不应该因为懒惰或者懈怠，甘于沉默。