21世纪人类灭绝的风险水平是六分之一

托比·奥德

今天核武器造成的生存性风险很可能依然来自美国和俄罗斯庞大的核武储备。洲际导弹的研发使双方都有能力摧毁对方的大部分导弹，这一过程中的预警时间只有30分钟。因此两国都把很多导弹调整为“一触即发”的响应等级——10分钟内就能发射。处于这种响应等级的导弹非常容易误射，也可能因为误报警而被有意发射出去。正如我们将在第四章里看到的，冷战结束时还发生了一系列可怕的误报警事件。从更长的时间尺度来看，还会有其他风险出现：其他国家可能发展起庞大的核武储备，军事技术创新有可能削弱核威慑原则，地缘政治局势改变也许会再次引发大国之间的军备竞赛。

核武器不是人类面临的唯一威胁。只因为核武器是首个威胁到人类的风险，所以才会至今仍是我们的关注焦点。然而，其他风险也还是存在的。

工业革命带来的繁荣程度指数式上升的背后，是二氧化碳排放量的迅速增加。工业化进程的小小副作用，最后竟演变成对健康、环境、国际稳定的威胁，甚至可能危害到人类自身。

核武器和气候变化有明显的相似和不同之处。它们都会大幅改变地球温度，从而对人类造成威胁，但一个是使温度降低，另一个是升高。一个作为意料之外的科研突破产物横空出世，另一个则是旧有技术在数个世纪里持续扩大规模的结果。一个骤然加剧为灾难的风险程度较高，另一个则是持续渐进的过程，其影响迟迟才开始产生，但必然会造成某种程度上的灾难，主要不太确定的是会糟糕到何种地步。一个涉及机密的军事技术，由一小部分手握大权的实施者控制，另一个则牵涉到全世界每个人的选择所带来的微小效应的总和。

随着技术继续进步，前方出现了新的威胁。比起气候变化，这些威胁可能跟核武器更像：由意外的突破、骤然发生的灾难和一小批实施者采取的行动引起。我尤其关注两种新兴技术，本书第五章将谈到它们。

自农业革命以来，我们一直在改造周围动植物的基因以适应我们的需要。但是，遗传密码的发现，以及读写遗传密码的工具的发明，让我们为了新目标而重塑生命的能力出现了大爆发。生物科技将带来医药、农业和工业方面的重大进步，但它也会给文明和人类自身带来风险：不管是合法研究中的事故，还是经过基因改造的生物武器，都会带来风险。

我们还见证了人工智能系统能力的快速发展，人工智能在认知、学习、通用智能等传统上薄弱的领域产生了巨大进步。专家们认为，人工智能有可能在21世纪就在通用智能方面超越人类水平——具备克服各种困难以实现目标的能力，而不仅仅是在有限的领域里领先。把人类提升至掌控万物的地位的正是我们得天独厚的脑力，如果我们把这种能力传给我们的机器，那么占据这种独特位置的将会是它们。这种情况让我们不禁思考人类还能不能继续掌握主导权。我们必须学会如何让越来越聪明、自动化水平越来越高的机器和人类的利益保持一致，并且需要在这些机器变得比我们更强大之前做到。

人类面临的这些威胁，以及我们应对它们的方式，定义了我们这个时代。核武器在20世纪出现，带来了可能导致人类灭绝的真实风险。在技术持续加速发展的情况下，如果不为保护人类做出真正的努力，那么我们有充分理由相信风险在21世纪会更高，而在下个世纪里，随着技术不断进步，风险还会增加。人类自身造成的种种风险超过了所有自然风险的总和，因此，人为风险决定了人类还剩多长时间可以悬崖勒马。

我不认为科学进步必然导致人类灭绝，甚至说这并不是最有可能出现的情况。我要提出的是，在人类力量的增长中有一股强有力的趋势，当这股趋势到达某个节点时就会对我们的生存造成严重的威胁。我们如何应对这类风险取决于我们自身。

我也不反对技术。技术已经证明其本身对提升人类生存状况有巨大价值，而且，技术是人类实现长期发展潜力的基础。没有技术，我们会在小行星撞击之类不断累加的自然风险中滅亡;没有技术，我们将无法实现本有能力实现的高度繁荣。

真正的问题与其说是技术的泛滥，不如说是人类智慧的缺乏。卡尔·萨根说得很好：

我们面临的很多危险实际上源于科学与技术——但更根本的问题是，我们变得更强大，却没有相应地变得更有智慧。技术赋予我们改变世界的力量，手握这种力量的我们需要具备从前不曾有过的深思熟虑和高瞻远瞩。

甚至有位美国总统在任时也提倡这种理念：

人类这个物种特有的那些闪光点——我们的思维、我们的想象、我们的语言、我们使用工具的能力、我们独立于自然并根据自己意愿改造自然的能力，恰恰也是它们赋予我们造成最大破坏的力量…… 技术的发展若不伴随人类制度的相应进步，就会使我们遭遇灭顶之灾。有了能实现原子裂变的科学革命，也应该有一场道德革命。

我们必须获得这种智慧，进行这场道德革命，因为我们无法从灭绝中重生，我们不能坐以待毙——我们必须积极行动起来。而且，由于获得智慧和发起道德革命都需要时间，我们必须马上行动。

我认为我们可以渡过这个难关。不单因为这些挑战较小，还因为我们会奋起反击。正因为这些风险是人为造成的，所以人类也有办法应对它们。失败主义的情绪毫无必要，只会适得其反——让预言自我实现。相反，我们应当在需要保护的长期未来积极愿景的指导下，以清晰而严谨的思考正面迎接这些挑战。

这些风险到底有多大？很难给出精确的数字，因为这些风险是复杂的（因此无法应用简单的数学分析），也是空前的（因此无法通过长期频率来估计）。不过，至少有必要试着进行量化估算。“人类灭绝的严峻风险”这类定性说法代表的风险水平，可以理解为1%～99% 这个区间内的任何一个数字，这只会让人更加困惑。因此我将提供量化的估计，当然，估计不可能精准，有待进一步修正。

据我推测，20世纪人类灭绝或发生不可恢复的文明崩溃的风险水平是1%。根据我目前掌握的所有信息，我认为21世纪人类灭绝的风险水平大概是1/6：一次俄罗斯轮盘赌。如果我们不齐心协力，如果我们继续让自身力量的增长超过智慧的提升，我们在下一个世纪面临的风险会更高，而且还会不断增加。

这些是我们面临的最大风险。如果我对风险规模的测算大致没错的话，我们是不可能在这些风险中生存太久的。这是一种不可持续的风险水平。因此这段生存期无论如何也不可能持续超过若干个世纪。

人类要么掌控住风险并将其降低至使人类可持续生存的水平，要么自取灭亡。

若将人类历史比作一次穿越荒野的壮游，行程中必有误入歧路和艰难跋涉的时候，但也会有突飞猛进和邂逅美景的时候。20世纪，我们已翻越崇山峻岭，并且发现前面只有一条崖边小道：紧临摇摇欲坠的险境边缘。往下面的深渊望去，会令人头晕目眩。如果我们掉落下去，一切都将终结。我们不知道掉下去的概率有多高，但这是我们遇到过的最大危机。

在人类历史中，这段相对短暂的时期构成了特殊的挑战。我们的应对方式将定义我们的故事，未来的历史学者将为这个时期命名，学童们将学习这段过往。但我想我们现在就该给它一个名字，我称之为“危崖时期”。

危崖时期给我们的时代赋予了巨大意义。在历史的漫长过程中（如果我们能够存续那么久），这正是让后人铭记我们这个时代的东西：因为这个时代危机重重，也因为人类打开了视野，开始成熟起来并确保自身的长期未来能丰饶昌盛。这就是我们这个时代的意义。

我并不是在美化或抹黑我们的时代，我想表达的是，我们的行动事关重大。我们是伟大的还是可怖的将取决于我们如何利用这个机会。我希望我们能生存下来，告诉子孙后代我们没有袖手旁观，而是利用这个机会完成了历史赋予我们的任务。

保护人类免遭这些风险应当是我们这个时代的中心和首要任务。我并不是说全世界只有这么一个议题，人们应当放下其他一切重要的事情。但如果你发现自己能发挥某种作用，比如你有相关的技能，或者你年纪尚轻，可以塑造自己的道路，那么我认为保护人类度过这段危机岁月是你所能追求的最崇高的意义。

（责编：栗月静）

人们越来越清晰地认识到，人类活动是塑造环境的支配力量。科学家认为，人类不但就其自身而言很重要，也在客观上对生物、地质和气候等影响重大。如果在遥远的未来有地质学家的话，他们会辨别出我们这个时代的地质岩层和以往形成的岩层相比发生了根本性的变化。

因此，当代地质学家正在考虑正式命名这种变化——改變地质年代的分类方式，引入一个名为“人类世”的新世代。科学家提议作为这一世代开端的事件有巨型动物的灭绝、农业革命、穿越大西洋、工业革命、早期核武器试验等。

这个“人类世”和“危崖时期”一样吗？如何区分两者？

人类世是人类对环境产生深刻影响的时期，而危崖时期则是人类自我毁灭风险极高的时期。

人类世是地质年代，地质年代通常持续数百万年，而危崖时期是人类历史中的一个时期（类似于启蒙运动或工业革命），很可能在几个世纪内就结束了。

两者都可以用第一次原子弹爆炸试验作为开端，但这样划分的原因是不同的。人类世以核爆为开端主要是为了定年方便，危崖时期始于核爆则是因为核武器对我们的生存造成了威胁。