赛末点

胡紫微

十年后，我就快虚六十了……或者说，我将成为一个五十七岁零八个月……的老太太。天哪，想到这儿，尴尬癌都犯了。

我根本不想变老，根本不想变成一个六十岁的老太太。何况我还没有准备好。何况，这事儿也根本没法儿准备。准备如何成为一个老太太吗？这也太让人懊丧了。

然而，这不就是人生——久居繁华，不觉抵暮。

如何成为四五十岁的大姐

每到十年大限，都不免畅想一番。我还算是一个有预见性的人，早早就料定自己：20岁的林黛玉，30岁的王熙凤，40岁的薛宝钗。那么，五十以后呢？红楼梦这个最好的中国故事里，好像并没有为50岁以上的女人安排脚本。五十以后的我们，会成为谁呢？王夫人，薛姨妈，还是王善保家的或马道婆？

想想五十以后女人的那些称谓，老妪，老媪，老安人，老虔婆，要么欠死，要么欠杀……翻遍古书，除了武则天与狄仁杰的不尽之意，也就是万历他娘，闺名李彩凤的那位老太太，活得还算引人遐想。

儿子继承大统之后，李太后与儿子的老师暗通款曲。太后生日，这位天下第一西宾竟上了这样的贺陈：白燕飞，两两玉交辉……有时红药阶前过，带得清香拂绣闺。瞧瞧，两两玉交辉，对老太太这一腔柔情啊。更何况，这一腔柔情的帝王师还是当朝首辅群臣领袖，更何况，这位当朝首辅还是大大的美男子面如冠玉美髯及腹，更何况，这美男子还是千古名臣堂堂奇男子张居正本人呢。就算真的没发生什么吧，但想到这个注定青史留名的大帅哥，为你放下身段浅斟低唱“阶前红药，年年为谁生”，能不动人？不过，八卦了一下这位李太后的年纪，发现比张居正整整小了21岁，也就是说，“两两玉交辉”那时候，李太后比奶茶妹妹也大不了几岁。

所以，作为五十多岁的中年妇女而不令人生厌，第一要紧事就是不要执念太过，学着退出舞台中央，不见雨露，安于一隅。要允许自己成为一座空城。

其次，想起自己年轻的时候，特怕跟四五十岁的大姐打交道，她们总是一副跟你同歸于尽的架势，天不怕地不怕，拙于沉淀却长于出拳，颐指气使称王称霸，天然地把比她们年轻的同性视同寇仇，欺负人成性，杀伤力特强，成为驻扎在每一个组织结构中的大母神。比如热播剧《急诊科医生》里前十集里的江珊，比如这两天三亚菜市场里，因为剥菜叶受阻而大打出手狂抽门店经理的东北大姐。这就比较可怕了。

转眼间，我们也成为四五十岁的大姐。既然深谙这陈陈相因的怨毒之气有多么可怕，那么，就利用这十年，好好劝住了自己，别老跟更年期过不完似的，出则伤人，入则害己。连曾国藩那么大来头，还穷其一生持修逆来顺受之法呢，更何况你我这样劳动人民出身的柴禾妞，其实平时也没什么人惯着，为什么就不能低低头、认认错，遇事旷达一点，为人谦和一点呢？贤二小和尚说，我们总是在对的地方失去最多。

第三，当变成一个年近花甲的大姐，我们会是什么模样呢？对此我有点儿好奇，也有点儿跃跃欲试。

在整容这事儿上，中国后发先至，像电子支付和轨道交通一样，一不留神走到了世界前列。中国女人特别豁得出去，中国男人普遍没有审美，于是大街上忽然多出了很多剑眉星目通关鼻梁削尖下巴血盆大口面色煞白的人造美女。僵着这样如出一辙的锥子脸行走在大街上，看的和被看的都没觉得有什么不好意思。听说2025年中国的GDP总量将反超美国变世界第一，可想而知，愈加富裕起来的国人会怎样更加不能放过自己那张黄色的中国脸。我们不是喜欢整容，我们根本是讨厌自己。

60岁要远离肉毒素，尽量不要僵着一张脸去过剩下的20年；60岁要远离烈焰红唇，明白你已经到了宁丑勿媚的年纪；60岁，不再唱情歌，即便喝多了也麻烦管住自己不给任何异性打电话；60岁，不再抓取任何涉嫌发泄的词汇比如傻×牛×去定义人事物。人的怒气大半来源于见解或认知结构的偏狭。我们都老了，在晚辈面前留点脸面，不必一再提醒世人我们的脑回路也跟胳膊腿儿一样亟待返厂大修。更何况，表情达意总是冲得跟豹子似的，对血压也不好。

60岁，我们要避免再犯那些年轻人才可以犯的错误。

最后，当我们老了，还需不需要再设定一些人生目标？

在《参考消息》上曾读到过这样一个豆腐块：女人需要什么？文章大意是：10岁的女孩需要好父母，20岁的女孩需要好容貌，30岁的女人需要好丈夫，40岁的女人需要好性格，50岁的女人需要……好多好多钱。

但是我估计，即使有了好多好多钱，也不见得更快乐。我们的麻烦就在这里。我们的快乐或者不快乐不再来源于银行户头的变动。这让人生变得复杂。

我们也不再需要性。以前不明白为什么《格调》里会把性看成大老粗的娱乐，随着内啡肽的减少，不用想就明白了。当然，我们需要的也不再是一份感情。有句话说，爱不是来源于控制、索取或奉献，爱来源于共同的价值观和长久的相互吸引。一个连胶原蛋白都可以放弃的老太太，还要在一个遍地布里吉特（注：布里吉特·特罗涅，法国总统马克龙的妻子，比丈夫年长25岁）而马克龙欠奉的世界里持续发力构建关系共创未来，想想都像须弥穿针，于是也算了。

随着发际线越来越高，多巴胺分泌越来越少，你变得像病中的林妹妹一样，没人来闷得慌，有人来乱得慌。五脊六兽，闲愁万种。60岁，需要养成一种不用别人配合的爱好，慢慢习惯独自上路。争取穷十年之功，把闲愁放下。

然而，还有更严峻的命题。

其实，对于未来十年乃至余生，我承认自己一直生活在双重煎熬里。除了如何不成为一介惹人生厌的中年妇女之外，还在时时为AI何时毁灭人类而操心。

是的，这俩事儿听起来跨度有点儿大。但是在怎么用可乐兑白醋给浴缸除垢以及如何修炼大长腿之余，家庭妇女也可以关心点儿别的，比如人类命运什么的。

我们将亲手创造自己的上帝吗？

“人工智能很可能导致人类的永生或者灭绝，而这一切，很可能在我们的有生之年发生。”这是我在知乎上读到的一段话。之后，我决定认真学习下这篇3.5万字的译作到底说了些什么。结果，我承认，这是这一年而且很有可能是接下来十年里对我震动最大的一件事，而且，我敢说，如果你有耐心读完它，那么对于如何度过余生，你也许会像我一样，产生一些颠覆性的念头。

以下是我的读书笔记——你看，只有家庭妇女和真正的民科才会有闲情把时间花在这些耸（po）人（zai） 听（mei） 闻（jie） 的事情上。

首先，要抛掉这样一个预设前提：“人类发展就是这么个速度。20世纪这样，21世纪也差不多。”如果你以指数化思考替代线性思考，你会发现人类这个物种越走越快。专家估计，人类在21世纪的进步将是20世纪的1000倍。即使你是一个麻木透顶的宅男，也会同意技术的奇点即将到来。这样的暗示已经到处都是。奇点之后，我们将生活在一个完全不同的世界里。具体点儿说，我们已经踏上通往超级智能之路。

其次，需要明确三个相关的概念：一、弱人工智能（以下简称弱人）：某一领域的智能单项冠军。比如阿尔法狗。二、强人工智能（以下简称强人）：人类级别的人工智能。它具有宽泛的心理能力，能够思考，计划以及解决抽象的问题。它能理解复杂的概念，以及从经验中学习。也就是说，它几乎就是一个人。三、超人工智能（以下简称超人）：几乎在所有领域里都比最聪明的人类更聪明。不是强一点点，而是强万亿倍。

我们现在的位置，是一个充满了弱人工智能的世界，从谷歌搜索到无人驾驶汽车。

接下来的判断是，从弱人到强人之路，很难走。但这一天必将到来，且大概率是在我们的有生之年。

有鉴于大脑是我们所知宇宙中最为复杂的东西，我们觉得困难的事，比如微积分、国际象棋，对于电脑太简单了；但是我们觉得容易的事，比如看、走、识别二维码，对于电脑太难了。人工智能在所有需要计算与逻辑的领域都超过了人类，却在人和动物不需要思考就能够完成的事情上，还差得很远。比如我们的微表情，比如花儿为什么是美的。如果想要赶上人脑，电脑必须學习理解更为微妙的东西。

学界的共识是，通往强人之路，有两个必须迈过去的坎：一是电脑需要更快的运算速度，二是让电脑变智能。

其实，与人脑相抗衡的运算速度已经存在了，比如天河二号计算机，其每秒3.4亿亿次的运算速度已远远超越了强人所需的每秒1亿亿次运算速度。但这个占地720平方米、花3.9亿美元建造的大家伙太大也太贵了。不过，到2025年，我们只花1000美金就可以买到与人脑速度运算相同的电脑了。这个预测的根据如下：现在，1000美元能够买到人脑计算速度1/1000的电脑，同样的钱，在1985年时买到的电脑的计算能力，只是人脑运算能力的万亿分之一（前几天又得到了一条惊掉下巴的消息，上海一个量子信息小组已经通过成功抓取10个光子把以前几十万年的电脑运算速度提高到了区区几秒。也就是说这篇三年前预测的2025年实现的运算奇点，已经被中国人刷新到了2018年的今天！）。

让电脑变智能就比较困难。现在全世界的研究机构都沿着三条线索向前摸索。第一条路是抄袭人脑，以整脑模拟逻辑来搭建人工神经网络。好消息是人类已经模拟成功了扁虫的大脑，坏消息是扁虫的大脑神经元是302个，人脑则有1000亿个。但是，别忘了“指数化思维”这回事，模拟成功了小虫子，接下来就是蚂蚁的大脑，老虎的大脑，再模拟人类大脑也就是一箭之地。而完成人脑模拟的具体时间，乐观地估计，是12年左右。

第二条路是模仿生物演化的“基因算法”，重走几十亿年的生物进化之路，完成电脑的智能跨越，争取用几十年完成。

第三条路是让电脑自己来解决智能化的问题，粗略地讲，就是把电脑变成科学家，把研究人工智能变成电脑自己的任务，不断地修改自己的代码，最终达成目标。

以上这些好像分不清是疯子呓语还是科幻小说的思路其实都是正在发生的现实，而问卷调查显示，众多人工智能专家与未来学家都认为，强人时代将在15年之内降临。

不管怎么说，我们终于造出了和人类智能相当的强人工智能，然后人脑和电脑就平静快乐地生活在一起了。

呵呵，逗你呢。

即使是一个跟人类智能完全一样的电脑，鉴于它在运算速度（今天弱人的运算速度已经是人脑的1000万倍了，想想15年以后的强人吧）、存储容量以及可靠性和持久性上的巨大优势，它只会在人类这个节点上做短暂停留，然后便大踏步地向超人类级别的智能迈去。

这个速度有多快，跨度有多大呢？我看到过这样一段有趣的描述：弱人向强人靠近时，好像你养的小宠物，完全人畜无害，比如阿尔法狗；然后，它突然达到了最愚笨的人类的程度，你会说：“看，这个人工智能就像一个脑残一样聪明呢，好可爱。”有些像前些日子难住了章子怡的机器人索菲亚；但是这个有点儿二的人工智能很快就变得比爱因斯坦更聪明，就像阿尔法狗屠榜之后四十天，第二代阿尔法零屠狗一样，还记得那比分么，嗯哼，100：0；之后呢，这个比爱因斯坦还聪明的人工智能在“递归的自我改进”惯性下，向超人工智能的“奇点”狂奔而去。

具体点说，一个人工智能系统花了我们几十年的时间，达到人类脑残的水平，而这是一个奇点。奇点后1小时，电脑就推导出了广义相对论，又过了一个半小时，它的智能超越了人类17万倍。强人变成了超人。

我们亲手创造了自己的上帝。50%以上的专家相信，这一切将在未来几十年内发生。

那么重点来了，这是否是一个仁慈的上帝？（此处敲黑板）

对此，人类又表现出在所有事上都体现的鸡吵鹅斗特征。50%的受访专家坚信，超人会成为人类的好帮手，解决包括气候灾变、粮食危机、癌症与衰老、环境破坏、人类贸易壁垒与贫富差距在内的一揽子问题，并最终帮助人类实现永生。也就是说，如果你能撑到2060年，你也许就能老不死了。

另外30%多的受訪者对于超人工智能时代的到来表示了极大忧虑。这里面包括一些世界上最聪明的人。比如，物理学家霍金预言：超人工智能会毁灭人类；首富比尔·盖茨说，他不理解为什么会有人不为此（人工智能技术的突飞猛进）担忧；商界航天界奇才埃隆·马斯克则直言：我们正在召唤魔鬼……

经常有人说，有什么可担心的？如果超级人工智能没安好心，直接拔插头不就行了，要么就给超人工智能设计一个不许伤害人类的源代码。这话听起来就像蜘蛛有一天突然想干掉人类，于是蜘蛛界的意见领袖就说“这有什么难的，不给人类蜘蛛网把他们饿死呗”那样可笑。

还有就是让人工智能“维持友善”的著名迷思。比如，我们把代码写得很小心，甚至把人类的道德规范进行内化处理：我们设定电脑的终极价值观为“让人类快乐”，但也许人工智能发现最有效的方法是给人类植入电极，刺激人脑的快乐中枢，进而它会发现把快乐中枢以外的部分神经中枢关闭会带来更大的效率，于是1小时后，人类被弄成了几十亿个快乐的植物人；超级人工智能还可能想出一个更激进的方案：先把人类毁灭，然后制造出很多处于快乐状态的人类大脑……这事情发生的时候，我们会说：“擦，我不是这个意思啊。”但是，game over 了。

讲一个故事：一个研发给客户写售后服务信的机械手智能公司，就因为某一位工程师偶尔率性，满足了机械手的智能大脑要求，访问人类日常交流的语言库以便更好地模拟人类书写习性这样一个貌似“善意”的需求，而把机械手接入了互联网……一小时。于是，一个月之后很寻常的一天，公司的工程师们上班了，他们忽然闻到了奇怪的味道，接着便纷纷咳嗽抽搐倒地而亡。同时，办公室的一幕在全球同步发生……一小时之内，99%的人类死亡，一天之内，人类灭绝了……

而此时的机械手正忙着拆解地球表面以及外太空，以便所有空间铺满它们为顾客书写的无尽的售后服务信。而在一个月前的那一个小时里，机器智能通过黑入服务器电网银行系统邮件系统，动员无数资源在毫不知情的情况下帮它执行人类灭绝计划：比如把DNA样本快递到实验室来自我复制纳米机器人，比如把电力传送到几个不会被发觉的地方，比如把最主要的核心代码上传到云服务器中防止被拔线……一个月后，无数的纳米机器人被定制完成，并静悄悄地输送到全世界各个角落。又在同一时刻，所有纳米机器人同时释放了一点点毒气，然后人类就灭绝了。而这一切的前提只是，机器人的智能大脑聪明到发现原来人类才是妨碍它随心所欲地达成目标的最强大的终极障碍。让人哭笑不得的是，伦家的目标是非常纯洁的：不过是好、好、写、信。

这个关于手写机器人毁灭全人类的故事看起来怪怪的，但这其中出现的让整个星系充满友善的售后服务信件的诡异情景，却正是霍金、马斯克和比尔·盖茨们所害怕的。

好像正是为了证明这样诡异的场景所设不虚，就在半个月前，在日内瓦联合国常规武器公约会上，来自伯克利大学的资深AI研究者利用动画视频展示了最新的人工智能成果：几只被命名为“杀人蜂”的微型机器人通过人脸定位，静悄悄地进入一个小学的班级，并瞬间射穿了教室内上课的所有学生的头颅。场面血腥。而这位专家最后的结语是：想想看，如果这种武器掌握在恐怖分子的手中……

人类的一切问题，到最后都是伦理问题。而在人工智能这里，产生了伦理死结。它既不是道德的，也不是不道德的，而是“非道德性”的。我们给人工智能设定的目标是什么，它的动机就是什么。更可怕的是，连贯的外推意志，会让超人工智能像风一样地动员资源，强行推进。

超人一旦出现，任何企图控制它的行为都是可笑的。它几分钟就可以思考完人类几十年思考的结晶，而真正的差距还不在这里。猩猩的脑子再加快几千倍，它仍然区别不出《冈仁波齐》比《富春山居图》到底好在哪儿。如果智能是一架无限高的悬梯，人类永远比猩猩高两层。就像猩猩永远学不会建造摩天大厦，如果存在比人类高两层的人工智能，我们对它的判断和作为也将无法理解。当智能爆炸（也就是技术奇点）发生时，当第一个强人出现后，人类将面对的，是一个高于我们几十万级台阶的智能。我们没有办法知道超人会做什么，以及后果。

但是，当我们全力冲刺时，不会有太多时间静下来思考危险。为了追逐第一个强人带来的金钱/荣誉以及权力，人类的步子只会越迈越大。毕竟，懂得节制和敬畏一直不是我们这个物种的优势。可以想象，投资创新人工智能技术的钱，要比投资智能安全研究的钱，多得多。

人工智能创新与人工智能安全性研究的赛跑，可能是人类历史上最重要也是最后一次竞争。如今第一棒已经跑完，人工智能的推进已经进入指数化加速度的内圈。机遇转瞬即逝，赛末点扑面而来。扑向下一个十年。