危崖：生存性风险与人类的未来

【核心广告语】

探讨人类面临的生存性风险的里程碑著作，关乎全人类共同命运的新思考架构。

引发全球热议和媒体报道。英国《卫报》《连线》2020年度重点选书。

彼得·辛格、赵汀阳、韩松、苟利军 倾力推荐。

【基本信息】

书名：危崖 : 生存性风险与人类的未来

原书名：The Precipice: Existential Risk and the Future of Humanity

作者： ［澳］ 托比·奥德（Toby Ord）

译者：韦斯琳

出版时间：2021年10月

出版社：中信出版集团

关键词：   危崖 危机 生存性风险 生存性灾难  生存性安全 自然风险 人为风险 未来风险 风险评估 概率测算 道德哲学 伦理学 公共益品 国际协作 技术进步 历史遗产 人类潜力

【图书在版编目（CIP）数据】

图书在版编目（ＣＩＰ）数据

危崖 : 生存性风险与人类的未来 / (澳) 托比·奥

德著 ; 韦斯琳译. -- 北京 : 中信出版社, 2021.10

书名原文: The Precipice: Existential Risk and

the Future of Humanity

ISBN 978-7-5217-3226-9

【内容简介】

我们正身处人类历史的ZUI关键时刻。20世纪核武器的横空出世，给人类带来可能导致灭绝的真实风险。人类第YI次发展出了足以毁灭自己的力量，并将自身推向一个史WU前例的“危崖时期”。

人类的力量急剧增强，而相应的实践智慧却没有同步增长，一些威胁到全人类生存和文明存续的风险变得越发明显和紧迫。核战争、气候变化、小行星撞击等起先让我们意识到人类有可能招致毁灭的风险只是个开始，而今蓬勃兴起的生物技术、人工智能、基因工程大流行病、反乌托邦社会等风险也与日俱增。这给我们的未来蒙上难以挥散的阴影，人类还有多少机会能安然度过本世纪和接下来的几百年？

新锐未来学家、牛津大学人类未来研究所研究员托比·奥德潜心十年专研，写就了这本全面、深度探讨生存性风险的书籍，并采用尖端的科学手段对自然、人为、未来等各类风险进行概率测算和比较分析。他指出，如何使人类免遭这些风险、确保拥有长期未来，成为我们这个时代的核心挑战和要务。他将这YI切放在更为宏大的人类历史叙事和道德框架中，指明人类努力和前进的方向，为人类如何抉择和行动提供战略指导。

全书分为三个部分展开论述。第一部分概述了人类所处的整体环境以及面临的困境，申明我们为何要重视避免生存性风险；第二部分对自然风险、人为风险和未来风险的种类、表现和发生概率进行了具体阐释；第三部分综合介绍了整体风险格局、保全人类的手段，并强调如何守护人类的长期潜力。文后的大篇幅附注呈现更多专业细节或具体说明，以期触达不同的读者需求。

这是一本恰逢其时、高瞻远瞩的书籍，它重新定义了我们这个时代以及我们应当在其中扮演的角色，并唤起我们对生存性风险的重视，做出保护未来所必需的选择。

【读者对象】

人文社科类大众读者

关心人类未来、人类命运重大议题的人

社会科学、人类学、宇宙学、生物学、历史学、经济学、计算机科学等前沿学科研究者

商界人士、政策制定者、政府和企业(NGO)智囊团

中产者、白领、大学生的智识进阶读物

【作者简介】

托比·奥德（Toby Ord）

澳大利亚哲学家，任教于牛津大学，是牛津大学人类未来研究所高级研究员。

托比·奥德的研究工作主要集中在人类面临的大局问题上。他早期研究的是探讨全球贫困的伦理问题，为此他创建了一个名为“尽我们所能”的组织，承诺一生中将共同捐出超过10 亿英镑，支持最有成效的慈善机构以改善世界。此外，他还协同发起了有效利他主义运动，拓宽这些理念。

他目前研究的是有可能造成人类灭绝或文明永久崩溃的风险，以及如何在这些危险中保卫人类，他认为这是我们面临的紧迫且容易被忽视的问题之一。

他曾为世界银行、世界经济论坛、美国国家情报委员会、DeepMind、英国内阁办公室和英国首相办公室等组织机构提供风险咨询建议。

【编辑推荐】

探讨生存性风险的里程碑著作，引发全球热议和媒体报道。英国《卫报》《连线》2020年度重点图书。

比肩尤瓦尔·赫拉利的新锐未来学家，堪比《人类简史》《当下的启蒙》《剧变》的大议题思考。

《纽约客》评价：“这本书正是为当下而写。”

彼得·辛格：“这是一本论证充分的书，提醒哪些可能是我们将面临的ZUI重要、而又ZUI容易忽视的问题。”

Foresight Institute联合创始人克里斯汀·彼得森称托比·奥德为“这个时代的卡尔·萨根”。

中国社会科学院哲学研究所研究员赵汀阳、中国科普作家协会科幻专业委员会主任和世界华人科幻协会会长韩松、中国科学院国家天文台研究员苟利军       倾力推荐

1.一本恰逢其时、雄心勃勃的书籍，探讨生存性风险的前瞻性著作。人类已进入一个风险社会，而我们所处的时代至为关键。物种灭绝、文明崩溃、反乌托邦社会的“锁定”，已然不是只出现在科幻电影和政治小说中的情节桥段，而是在我们可见的未来将确确实实面临的生存危机。核战争、气候变化、生物技术、基因工程大流行、反向污染等风险将在多大程度上摧毁人类？人类还有多少机会能安然度过本世纪和接下来的几百年？

2.  本书并不是关于核武器危机、气候变化等主题的老生常谈，而是站在全新视角、采用尖端数学模型来剖析人类面临的各种生存性风险。它深入探讨了人类面临的各种自然、人为和未来新型风险的发生概率，界定哪些属于生存性风险，哪些风险可暂时搁置一旁，哪些风险概率JI高、亟待解决，确定风险的优先级，进行风险格局和比较分析，重点放在未来一百年内JI大可能出现的人为风险上。同时针对国家政府、公民社会、学术界一直到我们个人如何发挥作用，提供了整体战略、政策参考和行动方案。

3. 比肩尤瓦尔·赫拉利的新锐未来学家，堪比《人类简史》《剧变》的大议题思考。作者托比·奥德是哲学家、牛津大学人类未来研究所研究员，专注于研究关乎人类的大问题。他潜心十年专研，写就了这本全面、深度探讨生存性风险和未来命运的书籍，提供了新颖的分析工具和框架来帮助我们厘清和应对这些风险，既有工具理性也有价值理性。他提醒我们这一代人务必重视危机和挑战，平衡力量和智慧，培养一种长期反思能力。

4. 涵盖多门人文学科和科学学科，融通宇宙学、物理学、历史学、道德哲学、生物学、经济学和政治学等跨学科研究，独特的架构安排以触达不同的读者需求。以大视野、高格局呈现引人入胜的叙事、博学自信的论述、深切的人文关怀，呈现这部论证扎实、高瞻远瞩的力作。正文清晰易懂、直抵人心，文后大篇幅附注呈现更多专业细节或具体说明，可以满足不同层次的读者需求。有助于培养每个人的历史感、科学素养和人文关怀。

5.英文版甫一出版，即引起全球范围内的媒体和学者讨论。《澎湃》《科学》《纽约客》《卫报》《连线》《标准晚报》《星期日泰晤士报》《旁观者》等纷纷报道。国内外学者包括彼得·辛格、泰格马克、安吉拉·凯恩、斯图尔特·罗素、赵汀阳、韩松、苟利军等不吝专门推荐。

【专家和媒体推荐】

一本论证充分的书，它提醒哪些可能是我们要面临的紧要而又容易忽视的问题。

——彼得·辛格

澳大利亚哲学家，《动物解放》作者

近数十年来，危机和风险成为人们普遍关心的问题，奥德的《危崖》对这一主题的论述足够新颖全面，而且采用了科学化的度量评估，很值得一读。不过和其他危机研究一样，有想法，没办法。这恐怕是人类更为恐怖的危机。

——赵汀阳

中国社会科学院学部委员，哲学研究所研究员

从人为风险和自然风险方面，这本书警告，人类当前已进入“危崖时期”，我们正面临跟恐龙一样的命运，再不采取措施很可能会走向灭亡！

——韩松

中国科普作家协会科幻专业委员会主任、世界华人科幻协会会长

人类何其幸运？在宇宙出现138亿年、地球诞生46亿年的最后20万年，人类出现在了这个星球之上，并且在短短几千年内发展成最强大的物种，俨然成为地球之王。人类未来将走向何方？6600万年前的小行星撞击让地球霸主恐龙几乎瞬间灭绝，人类是否会遭遇同样的厄运，抑或是在核战争、未来科技中自我毁灭，我们是否已经站在自我灭绝的悬崖边上而不自觉……这本书正是写对人类未来命运所面临的种种潜在危机的思考，非常值得一读。

——苟利军

中国科学院国家天文台研究员、中国科学院大学教授、《中国国家天文》杂志执行总编

托比·奥德是我们时代的卡尔·萨根。这本书清晰而鼓舞人心，让我们对人类繁荣的未来充满希望。

——克里斯汀·彼得森， Foresight institute联合创始人

《危崖》将科学与宣传噱头区分开来，在未来很长一段时间内，它仍将是关于生存性风险的QUAN威著作。

——马克斯·泰格马克，《生命3.0》和《穿越平行宇宙》的作者

《危崖》是一记警钟，提醒我们核武器和生物武器存在的严重威胁，以及采取行动的迫切需要。这是一本BI读之书，激励我们在应对这些风险方面发挥作用。

——安吉拉·凯恩，前联合国裁军事务高级代表

这本书精彩而有说服力地道出了ZUI重要的话题：我们这个物种将如何在我们制造的各种生存性风险中存活下来。

——斯图尔特·罗素，《人类兼容与人工智能：一种现代方法》的作者

《危崖》是一本引人入胜的书，它既展示了作者渊博的知识，也展示了他的人性。

——布莱恩·沃尔什

这本书正是为当下而写。

——《纽约客》

《危崖》可能就是未来学家一直在等待的《寂静的春天》。

——《洛杉矶书评》

奥德关于生存性风险的全景展现和分析非常令人触动，给想要了解这一至关重要的跨学科研究的读者带来新的阅读体验。

——《科学》

非常精彩……《危崖》是一本雄心勃勃的书，它以哲学家的眼光来明辨观点，非常具有前瞻性。奥德对人类的爱和对未来的希望充满感染力，他对我们离毁灭这些爱和希望有多近所感到的惊骇，同样也让我们感同身受。

—— 《旁观者》

最近发现，许多人想要阅读那类能够对人类生存问题提供宏大思考视角的书籍，比如《人类简史》……托比·奥德的新书对这一主题做出了惊人而严谨的贡献，值得被广泛地阅读。

—— 《标准晚报》

人类从未如此这般脆弱——一位极有影响力的哲学家认为，存在六分之一的可能性，人类文明将无法延续至本世纪末……奥德对这一主题的科学分析堪称典范，读起来激荡人心。

——《星期日泰晤士报》

《危崖》是一本里程碑式的著作，从气候危机和核战争到大流行病和人工智能，它向我们展示了人类未来将面临的最大风险，并为我们这个时代带来一种新的思考方式，

——《卫报》

【目录】

示意图列表

表格列表

第一部分：代价

引言

第一章 身处危崖

我们如何走到今天

我们将去往何处

危崖时期

第二章 生存性风险

认识生存性风险

审视当下

展望未来

回顾过去

文明的美德

人类在宇宙中的重要性

不确定性

我们对生存性风险的忽视

第二部分：风险

第三章 自然风险

小行星和彗星

超级火山喷发

恒星爆炸

其他自然风险

整体自然风险

第四章 人为风险

核武器

气候变化

环境破坏

第五章 未来风险

大流行病

价值未对齐的人工智能

反乌托邦社会

其他风险

第三部分：前路

第六章 风险格局

量化风险

风险结合和风险比较

风险因素

哪些风险？

第七章  保卫人类

人类大战略

没有先例的风险

国际协作

技术进步

生存性风险研究

我们可以做什么

第八章  我们的潜力

存续时间

时空尺度

生存质量

选择

资源

致谢

附录

延伸阅读

参考文献

文摘

第一章 身处危崖

这应该是个为人熟知的进程，发生在万千世界里——一颗新形成的行星平静地绕着它的恒星旋转，生命缓慢地形成，生物在千变万化的过程中进化，产生了某种程度上的智慧，为生存赋予巨大的价值，接下来是技术被发明创造出来，智慧生物开始意识到所谓自然法则的存在，这些法则可以通过实验来揭示，而且对这些法则的认识能够在前所未有的范围内拯救或夺走生命。他们认识到科学赋予的巨大力量，弹指一挥间，他们就可以创造能够改变世界的复杂事物。一些星球文明找到了正确出路，对可行以及不可行之事加以限制，因而平安度过危机，其他缺乏这种幸运和审慎的星球，则灰飞烟灭。

——卡尔·萨根

对人类的未来而言，我们生活的时代有着独一无二的重要性。要知道这么说的原因，我们需要从整体上回顾人类的历史，看看我们如何走到了今天，下一步将往何处去。

我们的主要焦点是人类不断增强的力量——我们既有力量来改善我们的生存状况，也有力量来造成伤害。我们会看到，人类历史的重大转变如何提升了我们的力量，使我们取得非凡的进步。如果我们可以避免灾难，那么我们可以谨慎预期进步将会持续：负责任的人类将拥有无比光明的未来。但是，这种不断增长的力量也带来了重要性不输以往的新转变——向我们身处的这个危机时代的转变。

我们如何走到今天

人类的故事中，只有很小的一部分得到了讲述，因为可以讲的实在不多。20万年以前，智人这个物种出现在非洲大草原上。在漫长得难以想象的时间里，我们经历了美好的爱与友情，承受艰辛与痛苦，我们探索、创造，也思索我们在宇宙中的位置。然而当我们想起人类在历史上的伟大成就，能想到的几乎都是在泥板、纸莎草或者纸上记录的事迹——这些记录只能回溯到差不多5 000年前。我们很少想到约7万年前第一个踏足澳大利亚这一新奇世界的人，很少想到第一个命名和研究人类所到之处的动植物的人，也很少想到人类历史早期的故事、歌谣和诗句。 但这些都是了不起的真实成就。

我们知道，在农业或文明诞生以前，人类就是世界上的一股新鲜力量了。利用航海、纺织、取火等简单却富有革命性的技能，我们比从前的任何哺乳动物都走得更远。我们适应了一系列更为广阔的天地，在全球开枝散叶。

是什么让人类在发展的襁褓阶段就如此出色？我们不是体型最大的、最强壮的或者最能经受磨难的。把我们与其他动物区分开来的不是身体因素，而是心智能力 ——我们的智力、创造力和语言能力。

然而，即使有了这些独特的心智能力，荒野中的人类个体也不算突出，他或她也许可以生存下去，毕竟智力可以弥补体力上的不足，但这样一个人是很难成为主宰的。从生态学的角度来看，了不起的不是人类个体，而是全体人类。

在大型动物中，人类个体与群体中其他人合作的能力是独一无二的。这一能力让我们创造出超越自身的事物。随着我们的语言表达更加丰富和抽象，我们得以充分利用群体的能力，来汇集我们的知识、想法和计划。

至关重要的是，我们不但能跨越空间协作，还能跨越时间协作。如果每一代人都不得不从头学起，那么以我们的技术能力，可能连一把粗糙的铁铲都造不出来。但我们可以向前人学习，加上自己的一点创新，再把这些传授给我们的下一代。我们有无数人通过世世代代的合作，在漫长的时间里保存和改进我们的想法，而不是只有几十人之间的互相帮忙。靠着一点一滴的累积，我们的知识和文化发展了起来。

***

在人类的漫长历史中，有好几个重大的转折：人类境况的改变加速了能力的累积，塑造了其后的所有事物。我将重点阐述其中三个转折。

第一个转折是农业革命。大约1万年前，在中东的肥沃新月地带，人们开始种植野生小麦、大麦、扁豆和豌豆，作为采集食物的补充。通过优先从长势最好的植物上获得种子再次种植，他们利用了进化的力量，培育出种子更饱满、产量更高的新品种。这套方法也可以用在动物身上，使人类可以更容易获得肉类和皮毛，还有牛奶、羊毛和肥料。人们利用役畜的体力来协助耕地或运输收成，这是自人类学会取火以来人类获得的最大功率补充。

新月地带常被称为“文明的摇篮”，事实上很多地区都是文明的摇篮。在世界上各个气候和本地物种适合的地方，发生了彼此完全独立的农业革命：东亚，撒哈拉沙漠以南的非洲，新几内亚，美洲南部、中部和北部，也许还有别的地区。新的农耕方式从这些摇篮地带向外扩散，让很多人的生存方式从采集变为耕种。

这极大地改变了人类合作的规模。有农业后，养活一个人所需的土地量是以前的百分之一，大型的永久定居点得以形成，渐渐地，定居点又结合成了国家。以采集为生的人类群落的规模或许也就是几百人，而最早出现的一些城市能容纳成千上万人。苏美尔文明在最繁盛的时期大约有100万人。 2 000年前的中国汉代，人口达到了6 000万——这是过去以采集维生的人群人口的差不多10万倍，是全世界食物采集者总人数达到最高峰时的约10倍。

随着越来越多的人能够分享他们的思想和发现，技术、制度和文化迅速发展起来。越来越多的人互相交易，于是人们可以投身于专门的领域，比如终生从事治理、贸易或者艺术工作，我们也得以更加深入地发展相关的思想。

在农业文明的头6 000年里，我们取得了翻天覆地的突破——包括书写、数学、法律、交通工具等方面的图片。其中，书写对增强我们跨时空协作的能力尤为重要：书写让更多的信息可以一代代传下去，使所传递的信息更加可靠，让思想可以传播得更远。

接下来的一次大转折是科学革命。人们从古代开始就在实践科学的早期形式，经验主义的种子在伊斯兰世界和欧洲中世纪学者的著作中已经埋下。但是，直到400年前，人类才发展出科学的方法并见证科学进程的起飞。这能让对自然界的细心观测替代对既有权威的依赖，为我们所见的事物寻找简明、可验证的解释。验证和抛弃错误解释的能力帮助我们脱离教条，第一次使关于自然界运行规则的系统性知识成为可能。

我们可以利用新获得的一些知识来改善周遭的世界。因此知识加速累积，技术创新加快随之而来，人类凌驾于自然之上的力量与日俱增。这种快节奏让人们在有生之年就能看到这些提升带来的变革性成果。“进步”这个现代概念由此兴起。以前，衰落或不断循环的叙事是主流，但现在，越来越多的人认同这个新的叙事：存在一个齐心协力共建更好未来的宏大计划。

此后不久，人类经历了第三次重大转折：工业革命。以煤和其他化石燃料形式存在的大量能源储藏被发现，使这场革命成为可能。这些燃料由史前生物的有机遗骸沉积而来，使我们可以从照耀地球数百万年的阳光的馈赠中获得一些。此前，我们已经利用从风、河流和森林中获得的可再生能源来驱动简单的机器，而化石燃料带来的能量则大得多，其储存形式更为集中和方便。

但是，能量如果无法转化为可用的功来实现我们想要的变化，便毫无用处。蒸汽机让煤炭蕴含的化学能转化为机械能。这种机械能可用于驱动机器，为我们完成大量劳动，使从原材料到制成品的过程比以往更为经济快速。而通过铁路，这些财富可以实现远距离的分配和交易。

生产力和繁荣度开始加速，一系列接踵而至的创新提升了自动化的生产效率、规模和种类，迎来了经济可持续增长的现代。

***

这些转折带来的影响并不都是正面的。农业革命之后的几百年里，人类总体上劳作得更多，得到的营养减少，疾病增加。 科学带来的杀伤性武器一直困扰我们至今。工业革命时代则是人类历史上最动荡不安的时期之一，繁荣成果分配不公以及劳动剥削导致了20世纪早期的革命动荡。

国与国之间的不平等大大加剧（这一趋势直至过去20年才有所扭转）。 在利用化石能源的同时，排放出了温室气体，而由化石能源驱动的工业则危及各个物种，破坏生态系统，污染我们的环境。    

然而，尽管面临这些现实问题，人类今天的生活总体上还是比以往各个时期都有了极大的改善。其中最突出的变化就是摆脱贫穷。在最近一千年的历史里，直到200年前，人类力量和繁荣程度的增长都是和人口增长齐头并进的。人均收入几乎没什么变化：在丰饶的时期稍高于维持生计的水准，在匮乏的时代则稍低于这个水准。工业革命打破了这一规律，使收入增长的程度领先于人口增加的幅度，带来了延续至今的前所未有的繁荣。    

我们经常从富裕社会的角度来思考经济增长，在已经很富裕的社会中，很难明确看出进一步增长是否还有改善生活的作用。但是，经济增长对极端贫困人群的影响最为显著。当今世界上，每10个人里有1个穷得只能靠每天不足2美元过活——这是公认的“极端贫困”的标准。这么多人生活得如此匮乏，这是我们时代面临的一个重大问题，也一直是我的关注焦点。然而，回望工业革命之前的时代，我们会惊讶地发现每20个人里竟有19个靠每天不足2美元糊口（即使在根据通货膨胀和购买力进行调整之后）。在工业革命之前，任何繁荣的成果只限小部分精英独享，极端贫困才是普遍现象。而在过去两个世纪里，有越来越多人摆脱了极端贫困，而且摆脱极端贫困速度比以往任何时期都要快。每天2美元远谈不上富裕，这个数字对那些仍陷于贫穷的人来说也提供不了什么宽慰，但改善的趋势是显而易见的。    

人们的生活并不只是在物质方面有所改善。我们来看一下教育和健康方面的情况。学校教育的普及极大提升了人们的教育水平。工业革命以前，世界上10个人里只有1个能够读写，而现在10个人里有8个可以做到。人类的预期寿命在农业革命后的1万年里徘徊在20岁至30岁之间，现在则增加了超过一倍，达到72岁。这些成果和读写能力一样惠及了全世界。1800年，预期寿命最长的国家是冰岛，那里的预期寿命只有43岁；而现在，各个国家的预期寿命都超过了50岁。工业时代的人类整体上比以往更加富裕、受教育程度更高、寿命更长。但是，我们不应该因这些惊人的成就而自满。人类在这么短的时间内取得了这么大的成果，更应该去积极们去解决剩下的苦难与不公。