深度解读 Nick Bostrom(2026)工作论文:Optimal Timing for Superintelligence: Mundane Considerations for Existing People
论文原文:https://nickbostrom.com/optimal.pdf
核心速览(TL;DR)
- 换掉错误的隐喻:把研发超级智能(ASI)比作“玩俄罗斯轮盘赌”是根本性的认知谬误。在没有超级智能的默认世界里,全球每天有 17 万人死于衰老与疾病——现状本身就是绝症。研发超级智能更像晚期冠心病患者决定是否接受高风险心脏搭桥手术。
- 惊人的风险容忍阈值:仅从“当下已存人类”(person-affecting)的世俗利益出发,即便不做意识上传、仅靠生物医学抗衰将人类年死亡率降至健康 20 岁青年的水平(对应约 1,400 年期望寿命),只要 AI 导致全人类毁灭的概率 Pdoom < 97.1%,立即启动超级智能在期望寿命上就是划算的;即便只延寿 20 年且生活质量翻倍,可承受的毁灭风险也高达 66.7%。
- “倒 U 型”等待悖论:如果等待能让 AI 安全研究降低风险,我们该等多久?数学推演表明,安全进展极快和安全进展极慢都指向“尽早发布”——前者只需等几个月就能把风险压低,后者再等几十年也于事无补、徒增无数人老死病死。只有“初始风险极高 + 安全进展不快不慢”的狭窄区间才支持漫长等待。
- 核心战略处方——“疾速入港,缓步靠泊”(Swift to harbor, slow to berth):在真正造出 AGI 原型之前(Phase 1),安全研究如同隔靴搔痒;一旦系统能力就绪(Phase 2),安全团队能在真实权重上做受控测试并借助 AI 自身加速对齐,迎来短暂而陡峭的“安全红利爆发期”(Safety Windfall)。因此,最优策略往往是加速冲过能力研发期,随后在全面部署前精准暂停数月至一两年。
- 残酷的代际与阶级温差:年轻、健康、富足的人等得起 20 年;年迈、重病、贫困的人等不起。如果公共政策采纳偏重弱势群体的优先主义(Prioritarianism),超级智能的最优时间表不仅不该推迟,反而应该进一步提前。而在现实政治中,强推“一刀切全球无限期暂停”有至少 14 种适得其反的翻车路径。
一、当“AI 风险教父”反戈一击:为什么说“不造它,所有人也会死”?
在人工智能安全领域,Nick Bostrom(尼克·博斯特罗姆)是一个无需过多介绍的名字。2014 年,正是他出版的《超级智能:路径、危险、策略》(Superintelligence)彻底重塑了硅谷与学界对 AI 生存风险(Existential Risk)的认知,“回形针最大化器”的思想实验至今仍是讨论 AI 对齐问题的起点。
然而到了 2025—2026 年,围绕前沿 AI 的政策争论走向了极端极化。以 Eliezer Yudkowsky 和 Nate Soares 为代表的强硬“末日论”阵营出版了畅销书 If Anyone Builds It, Everyone Dies(《只要有人造出它,所有人都会死》),呼吁各国缔结无限期全球条约,全面封禁前沿 AI 训练、算力基础设施乃至算法改进研究。Stuart Russell 等学者也多次将冲刺通用人工智能(AGI)比作“拿着全人类的性命玩俄罗斯轮盘赌”——哪怕只有十分之一的毁灭概率,按下扳机也是不可饶恕的疯狂。
几乎所有人都以为,作为“生存风险”概念的奠基人,Bostrom 自然会站在“踩死刹车”这一边。
但在 2026 年初发布的这份长达 45 页的重磅工作论文《超级智能的最优时机:基于现存人类的世俗考量》(Optimal Timing for Superintelligence: Mundane Considerations for Existing People)中,Bostrom 给出了一个锋利得近乎冷酷的回应:
Yudkowsky 和 Soares 坚称:“只要有人造出 AGI,所有人都会死。”
但我们完全可以反过来说:“如果没人造出它,所有人也都会死。”
这不是修辞游戏,而是字面意义上的冰冷事实:历史上曾诞生过的大多数人类已经死了;而此时此刻正在读这篇文章的你我,以及地球上活着的 80 亿人,正坐在一列驶向终点的单程列车上,不过几十年光景便会悉数凋零(Bostrom 甚至在脚注里幽了一默:末日论者说造出超级智能“比给全人类判处死刑还可怕”,可数据显示,美国死囚在初审判决后的平均存活时间约为 22 年,且最终只有 16% 会被真正执行——从存活率看,自然衰老远比死刑判决更冷酷无情)。
今天的世界绝非什么“零风险的温馨避风港”:
- 日常死亡的庞大账单:全球每天约有 170,000 人死于衰老、癌症、心血管疾病、阿尔茨海默病与各类意外;亿万人类与动物正承受着慢性病痛与精神折磨。
- 非 AI 生存风险的累积:即便彻底冻结 AI,合成生物学武器、大国核冲突与技术失控等基线生存风险依然在随时间不断累积。
- 超级智能的巨大正面潜能:一旦对齐成功,超级智能将极大加速生物医学革命——再生受损神经元治愈阿尔茨海默病、无副作用精准清除癌细胞、清理硬化血管并逆转细胞衰老,同时协助人类协调地缘冲突、防御新型生物武器。
因此,Bostrom 开宗明义地指出:把研发超级智能比作“俄罗斯轮盘赌”是彻底错误的。俄罗斯轮盘赌里,你不扣扳机就毫发无损;而在现实中,不造超级智能,我们每个人都会死于衰老和疾病。
真正恰当的隐喻,是一位患有严重冠状动脉疾病的病人,正在决定要不要做一场高风险的心脏搭桥手术:
- 不做手术(放弃或无限期推迟 AGI):今天死掉的概率很小,但风险日复一日无情累积,几个月或几年后必死无疑;
- 做手术(部署超级智能):你必须直面死在手术台上的即时高风险;但一旦手术成功,你将重获健康与漫长的新生。
至于这位病人该不该上手术台、以及该在什么时候上手术台,取决于一系列可量化的变量:手术失败率有多高?如果等一等,会不会有医术更好的主刀医生(AI 安全技术进步)?等待期间病情恶化的速度有多快(基线死亡率)?术后生活质量能改善多少?病人对风险有多厌恶?
Bostrom 这篇论文所做的,正是把这场关乎全人类命运的“外科手术时机决策”,拆解成一套层层递进、严丝合缝的数学模型。
二、把玄学先放一边:论文划定的两个评估锚点
在正式推演之前,Bostrom 做了一次非常克制的“自我设限”,划定了两个方法论边界:
- 只谈“世俗考量”(Mundane),搁置“玄奥考量”(Arcane):Bostrom 本人曾写过大量关于模拟假说(Simulation Hypothesis)、人择原理、数字意识道德地位、超级智能间非因果交易(Acausal Trade)以及无穷伦理学的论文。但他深知,把这些烧脑甚至怪诞的议题混入讨论,只会掩盖最朴素的生死账。因此本文只讨论任何受过现代教育的普通人都能理解的世俗要素:生老病死、预期寿命、生活质量与风险厌恶。甚至连“意识上传”这种激进设想也被排除在核心论证之外。
- 采用“个体影响视角”(Person-affecting),而非“非个体长远视角”(Impersonal):在传统长远主义(Longtermism)框架下(包括 Bostrom 自己 2003 年的名篇 Astronomical Waste),评估标准往往涵盖未来百亿年星际文明中可能诞生的万亿潜在人口——在那种视角下,哪怕把灭绝风险降低 1%,推迟几百年发展科技也是划算的。但本文换了一个更切肤的提问:假如我们只关心今天已经活在地球上的这 80 亿具体的人,超级智能在什么时候到来最符合我们的利益?
恰恰是在这个最朴素、最世俗、最贴近普通人直觉的框架下,推演出了最颠覆直觉的结论。
三、第一性原理算账:哪怕毁灭概率高达 97%,也值得按下启动键?
让我们从最简单的二元选择模型(Go / No-Go)开始:要么现在立刻启动超级智能,要么永远不造。
先设定两组极其保守的世俗基准参数:
- 无 AGI 时的平均剩余期望寿命:全球人口出生预期寿命约 73 岁,人口中位年龄约 30 岁出头,取整得到当前人类平均剩余寿命约为 40 年(对应年化连续死亡风险率 m0 = 1/40 = 0.025/年)。
- 成功部署 AGI 后的期望寿命:不假设永生,也不假设意识上传,仅仅假设超级智能驱动的再生医学消除衰老退化,使人类全生命周期的年死亡率维持在当今发达国家 20—25 岁健康青年的水平(约 0.05%–0.08%/年,主要死于意外等外因)。取 m1 = 1/1400 ≈ 0.000714/年,对应的期望剩余寿命约为 1,400 年。
现在假设:立刻启动超级智能,有 x% 的概率当场引发全人类毁灭(所有人剩余寿命归零),有 (1 − x)% 的概率成功。什么时候启动它能提高你我的期望剩余寿命?
(1 − x) · 1400 > 40 ⇒ x ≲ 97.1%
更一般地,如果我们给 AGI 之前和之后的生活分别赋予生活质量权重 q0 和 q1,那么立刻启动超级智能能提升“质量调整预期寿命”(QALYs)的充要条件是:
x < 1 − (q0 · m1) / (q1 · m0)
把这个公式代入不同场景,我们会看到两张极具冲击力的对照表:
表 1:若后 AGI 时代期望寿命为 1,400 年(消除衰老)
| AGI 前剩余寿命 | AGI 后期望寿命 | 生活质量倍数 (q₁/q₀) | 可接受的最高毁灭风险 (Max P_doom) |
|---|---|---|---|
| 40 年 | 1,400 年 | 1×(生活质量不变) | 97.1% |
| 40 年 | 1,400 年 | 2×(生活质量翻倍) | 98.6% |
| 40 年 | 1,400 年 | 10×(生活质量提升十倍) | 99.7% |
你可能会质疑:“万一衰老在生物学上就是无法逆转,超级智能治好了癌症和心脏病,却只能帮人均寿命延长区区 20 年(从剩余 40 年涨到 60 年)呢?” Bostrom 同样算了这笔最保守的账:
表 2:若后 AGI 时代期望寿命仅为 60 年(仅延寿 20 年,未攻克衰老)
| AGI 前剩余寿命 | AGI 后期望寿命 | 生活质量倍数 (q₁/q₀) | 可接受的最高毁灭风险 (Max P_doom) |
|---|---|---|---|
| 40 年 | 60 年 | 1×(生活质量不变) | 33.3% |
| 40 年 | 60 年 | 2×(生活质量翻倍) | 66.7% |
| 40 年 | 60 年 | 10×(生活质量提升十倍) | 93.3% |
看懂这两张表的含义了吗?哪怕是最极端的 AI 悲观主义者(常常给出 Pdoom = 20%–80% 的主观估计),只要承认成功对齐的超级智能能攻克人类衰老,从期望寿命账面上看,哪怕失败率高达 90%,立刻上手术台依然比坐等老死更划算!
而且 Bostrom 在文末还补了至关重要的一刀:模型里的 Pdoom 指的是“全人类瞬间 100% 灭绝”的概率;而许多对齐研究者(如 Paul Christiano、Katja Grace 等)指出,即便超级智能真的失控(Misaligned),也未必意味着所有人类个体都会被赶尽杀绝。换言之,可承受的“AI 失控概率”甚至比上述数字还要高。
四、引入时间与安全进展:反直觉的“倒 U 型等待悖论”
当然,现实不是“今天立刻上线”与“永远彻底封禁”的二选一,而是时机选择(Optimal Timing):如果我们推迟 t 年发布,AI 安全团队就能利用这段时间攻克对齐难题,把灾难风险降下来。
这构成了一组经典的动态权衡:
- 早发布的代价:承受更高的 AI 灾难风险 Pdoom(t) = p0 · e−rt(其中 p0 为初始风险,g 为每年风险相对下降比例,r = −ln(1 − g));
- 晚发布的代价:在等待的 t 年里,人们继续按 m0 = 2.5%/年 的基线死亡率不断死去,等不到手术那天。
求导最大化期望剩余寿命 E(t),可以得到最优等待时间 t* 的解析解(若对数项内部 ≤ 1,则 t* = 0,即立刻发布):
t* = (1 / r) · ln[ p0(m0 + r) / (m0 − m1) ]
将不同的初始风险 p0(1% 到 99%)与每年的安全进展速度 g(0% 到 99%/年)代入模型,就得到了论文中的 表 3 与 图 1(等延迟线图):


仔细端详这张图,你会发现一个极其精妙、反直觉的“倒 U 型等待悖论”:
- 当安全进展极快时(图上方,如每年降低风险 90%—99%):最优等待时间非常短(仅几个月到 1—2 年)。因为既然对齐研究突飞猛进,稍微等一小会儿就能把风险压到极低,根本没必要拖上十年八年。
- 当安全进展极慢时(图最下方,如每年仅降低风险 0.1%—1%):只要初始风险还没高到 80% 以上,最优策略竟然也是“立即发布”!道理很简单:如果等上三十年,AI 风险也降不了几个百分点,而这三十年里地球上超过一半的人口已经老死病死了,那空等还有什么意义?还不如趁大多数人还活着,早点博一把。
- 什么时候才该漫长等待(10 年以上)?唯有落入右下角那个特定区间——初始风险极高(例如 > 50%),且安全进展处于“不快不慢的温和偏慢区间”(每年降低 1%—10%):慢到没法一两年搞定,却又快到等待确实能买来显著的安全收益。
除开这种极端组合,在绝大多数参数空间里,最优等待时间都只是个位数的年份,甚至是零延迟。
五、把真实人性装进模型:贴现率、生活质量跃升与风险厌恶
读到这里,你一定会反驳:“慢着!普通人怎么可能把 1,400 年的寿命当成 40 年寿命的整整 35 倍来算?如果抛硬币正面寿命翻倍、反面当场暴毙,现实中几乎没人敢赌!”
完全正确。人类不是冷冰冰的线性期望计算器。因此,Bostrom 在接下来的三个章节里,依次为模型装上了三块贴近真实人类心理的“配重块”:
1. 纯时间偏好贴现(Temporal Discounting, ρ)
即便撇开死亡风险,人们通常也更看重眼前的岁月,而对几百年后的遥远未来打折扣。引入年化纯时间贴现率 ρ(例如标准政策评估常用的 ρ = 3%)后,原本高达 1,400 年的远期寿命收益被大幅折现,而眼下死在手术台上的损失却几乎不打折。因此,在纯粹延寿模型里,时间贴现扮演了“刹车片”的角色,会把最优发布时间往后推迟。
2. 生活质量跃升(Quality-of-Life Uplift, q₁/q₀)与两个奇妙数学效应
超级智能带来的不仅是“活得久”,更是摆脱病痛、匮乏与苦役后的“活得好”(假设后 AGI 时代每年生活质量是现在的 2 倍或 10 倍)。引入 q1 > q0 自然会扩大“立即启动”的区域、缩短等待时间,但推演揭示了两个非常有趣的非线性现象:
- 质量红利的“饱和效应”:哪怕你假设后 AGI 时代的生活比现在美好 1,000 倍甚至 10,000 倍(q1 → ∞),也不会让所有情况都变成“无脑立刻冲”。当 q1 → ∞ 时,立即发布的风险上限会收敛到一个简洁的数学常数:p* → (m0 + ρ) / (m0 + ρ + r)。直觉极其通透:一旦未来的大奖足够诱人,AGI 之前这几年的苦日子在期望值里就微不足道了;此时唯一重要的事情,就是最大化你“活着抵达后 AGI 时代”的总概率——只要安全研究降低事故率的速度 r 快过你老死和贴现损耗的速度 (m0 + ρ),稍微等一等依然更划算!
- “不耐烦”的符号反转(Sign Flip):没有生活质量差异时,越不耐烦(贴现率 ρ 越高)的人越倾向于推迟 AGI;但当后 AGI 生活质量远高于当下时,越不耐烦的人反而越难以忍受在低质量的现状里苦熬,贴现率瞬间从“刹车片”反转成了催促尽早发布的“油门”!
3. 边际效用递减与风险厌恶(CRRA, γ)
从 30 岁多活到 40 岁,与从 1,390 岁多活到 1,400 岁,主观价值显然不可同日而语。在决策论中,“寿命边际效用递减”等价于面对生死赌局时的风险厌恶。Bostrom 引入了健康经济学实证文献中最常用的常相对风险厌恶(CRRA)幂效用函数:
U(L) = L1 − γ / (1 − γ)
其中 L 为贴现后的质量调整寿命年(QALYs),曲率参数采用健康经济学实证测算的典型中位值 γ = 0.26(并在附录 D 中对比了更保守的 γ = 0.44 及指数型 CARA 效用函数)。

结论令人印象深刻:即便充分尊重普通人“惜命、厌恶生死豪赌、更看重眼前几十年”的保守心理,在大多数合理参数下,为超级智能等待几十年依然是不划算的。
六、全篇最核心的战略洞见:两阶段模型与“安全红利爆发期”
如果论文到此为止,它还只是一个精巧的哲学算术题。Bostrom 全文最具现实指导意义的一步,出现在“可变安全进展速率”(Changing rates of safety progress)一节——他把时间轴拆成了性质截然不同的两个阶段:
- Phase 1(能力研发期 Tagi):从今天到人类首次在技术上造出可部署的完整 AGI 系统(例如默认需要 0 年、5 年、10 年或 20 年)。在这个阶段,安全研究者手里没有真正的超级智能原型,只能在小模型上做理论推演和前瞻实验,不知最终架构长什么样,因此安全进展只能算温和(如每年降低风险 5%—10%)。
- Phase 2(能力就绪后的刻意暂停期 Tpause):AGI 系统已经造出来了,但在全社会大规模铺开部署之前,人类主动按下暂停键进行集中攻关。此时,安全团队终于拿到了真实的系统权重!他们可以在隔离沙盒里反复试探失效模式、渐进式放开能力,甚至调用准 AGI 系统自身的算力与智力来辅助对齐研究。
这意味着,一旦跨过 Phase 1 进入 Phase 2,AI 安全研究将迎来一段极其宝贵的“安全红利爆发期”(Safety Windfall)!但随着最容易摘的“低垂果实”被迅速解决,边际收益递减规律终将显现。于是 Bostrom 将 Phase 2 细分为四个子阶段(见图 3):
- Phase 2a(极速红利期,约数周至数月,如
0.3年 @ 70%/年):首次在真实模型权重上做红队测试、监督注入与失效探查,单位时间降险效率极高; - Phase 2b(快速推进期,约 1 年,如
1.0年 @ 25%/年):低垂果实摘完,但在高级 AI 工具辅助下安全改进依然迅速; - Phase 2c(常规攻坚期,约 5 年,如
5.0年 @ 5%–10%/年):红利耗尽,回归常规研究速度; - Phase 2d(漫长长尾期,无限期,
@ 2%/年):只剩下最底层的理论硬骨头,进展极其缓慢。

把这套高度拟真的多阶段曲线放进优化器,Bostrom 算出了全篇最漂亮的两张结果表(表 8 与 表 9):

先看 表 8(假设 Phase 1 研发耗时外生固定):你会发现,几乎在所有场景下,一旦 AGI 系统研发就绪,最优策略都不是“鲁莽地立刻全量上线”,也不是“无限期封存”,而是精准暂停几个月到一两年(大量单元格集中在 3.6个月 或 1.3年——恰好对应吃满 Phase 2a 或 2a+2b 的安全红利!),即便是初始风险高达 99% 的极端情况,最长暂停也不过 6.3 年。
更石破天惊的是 表 9——假如决策者既能调节 Phase 1 的研发速度(比如决定要不要限制算力、要不要加速研发),又能调节 Phase 2 的暂停时间,联合优化的结果是什么?

满屏的蓝色揭示了一个足以改写 AI 治理思路的战略推论:
与其在还没有真机的 Phase 1 盲目减速慢行,不如全速推进研发,早日造出具备 AGI 能力的系统(缩短 Phase 1),然后把省下来的时间用在刀刃上——在 Phase 2a/2b 实施短暂而高强度的部署前暂停!
原因再清晰不过:在 Phase 1 拖延一年,不仅全球要多死 6,000 多万人,而且因为摸不到真机,这一年买来的安全进展少得可怜;相反,早一年冲进 Phase 2,在真实系统上集中火力做几个月安全攻关,既能收获大得多的风险降幅,又能让全人类更早迎来医疗与丰裕的曙光。
Bostrom 用六个英文单词将这一战略凝练成了整篇论文最响亮的金句:
“Swift to harbor, slow to berth.”(疾速驶入港湾,稳健缓缓靠泊。)
在此基础上,Bostrom 还检验了两个重要的现实拓展:
- 背景死亡率在临界点附近的突变:接近 AGI 门槛时,世界更可能变得更危险而非更安全——次级 AI 可能降低新型生物武器门槛、催生自主无人机蜂群、侵蚀社会认知共识甚至引爆大国热战。如果等待期间的背景危险度上升,Phase 2 的暂停窗口就必须压得更短。反过来,唯有一种情况能让人类从容暂停三五十年:那就是在不需要通用超级智能的前提下,生物医学界独立(或靠窄域专用 AI)提前攻克了人类衰老!一旦大多数现代人不用 AGI 也能活上几百岁,我们自然买得起半个世纪的慢工细活。
- 把“固定排期”升级为“安全测试动态策略(POMDP)”:安全工作不仅能降低系统风险,还能通过评测揭示系统到底危不危险。Bostrom 构建了一个部分可观测马尔可夫决策过程(POMDP):决策者事先不知道手里的 AGI 属于 1% 还是 99% 风险类型,每当安全改进累积一定幅度就做一次带噪声的通过/失败测试,用贝叶斯法则更新信念(见图 4)。结果表明:最优治理根本不该追求某个死板的“暂停 X 个月”日历,而是一套“看证据放行”的条件策略(Conditional Policy)——测试连续过关就果断提前部署,测试频频亮红灯就继续深蹲打磨。

七、残酷的分配政治学:谁在呼吁慢一点,谁根本等不起?
此前的所有模型,都是把“当今世界人口”当成一个平均剩余寿命 40 岁的同质整体。但在第七部分 “分配考量”(Distributional considerations) 中,Bostrom 撕开了温情脉脉的面纱,直指一个很少有人愿意公开挑明的利益冲突:
对于不同处境的人类个体而言,超级智能的“最优到来时间”根本不是同一个数字。
试想两个极端画像:
- 画像 A:25 岁,住在旧金山或苏黎世,身体健康,财务自由,工作体面,在现有世界里还有五六十年舒适惬意的人生可以享受。对他来说,哪怕 AGI 只有 15% 的失控风险,他也完全有理由呼吁:“先暂停二十年,把风险压到 1% 以下再说!”
- 画像 B:78 岁的老人,或是身患晚期渐冻症、胰腺癌的病人,或是深陷极端贫困与病痛折磨的底层民众。如果 AGI 推迟二十年,对他们而言不是“安全稳妥”,而是几乎 100% 确定死在黎明之前。哪怕手术台上有 50% 的失败率,立刻手术也是他们唯一生还的希望。
当我们从公共政策伦理(如 Derek Parfit 提出的优先主义 Prioritarianism——即社会福利函数应当赋予处境最糟糕群体更高的边际权重)来审视这一分歧时,一个极具颠覆性的推论浮出水面:
越是讲求社会正义、越是优先关怀弱势群体(老人、重症患者、穷人、受苦者),超级智能的最优时间表就越应该缩短,而不是拉长!
有人可能会反驳:“低收入国家的人口结构更年轻,穷人的平均年龄比富国更小,这会不会抵消上述结论?” Bostrom 援引人口统计学研究指出:尽管贫困国家人口更年轻,但由于医疗与生存条件悬殊(最富国与最穷国的出生预期寿命差距超过 25 年),按人口加权计算后,全球贫困人群的剩余预期寿命依然显著短于富裕国家人群。贫穷与早逝的正相关性,进一步强化了“为弱势者加速时间表”的优先主义理由。
在这里,Bostrom 还专门剖析并驳斥了一种根深蒂固的传统直觉——他称之为 “满杯论”(Full-cup stance):
- 满杯论认为:人生就像一只容量有限的杯子,活够“古稀之年”(约 70 岁)就算圆满盛满了;不到 70 岁夭折是悲剧,但 70 岁之后再往杯子里倒水(延寿),并没有多少额外价值。若采纳“满杯论”,老人既然已经“够本”,政策就该完全倒向保护年轻人活满 70 岁,从而大幅推迟 AGI。
- Bostrom 的反驳一针见血:“满杯论”犯了将生理年龄与当下偶然伴随衰老而来的凄惨处境混为一谈的谬误!今天人们之所以觉得八九十岁以后多活几年没什么意思,是因为在现有医疗条件下,高龄往往意味着一身慢性病、失能、疼痛、孤独、尊严丧失以及同龄亲友的陆续离世。假如超级智能带来的是真正的返老还童——让你和你的挚爱亲友一同恢复二十岁的蓬勃体魄与敏锐头脑,共同步入一个富足、新奇、充满无限可能的新纪元,凭什么仅仅因为地球绕太阳转了七十圈,你接下来的生命就不再珍贵?在那样的清晨面前,八十岁的人与十岁的孩子一样,都是刚刚站在浩瀚人生起跑线上的孩童。
- 实证证据同样打脸旁观者偏见:即便在今天糟糕的衰老条件下,真正身处高龄的人也远比旁观者更珍惜生命。Bostrom 引用了发表于《美国医学会杂志》(JAMA,Tsevat et al., 1998)的一项多中心实证研究——面对 80 岁以上的住院高龄患者,超过三分之二的人表示,哪怕能换取“完全健康的身体”,他们最多也只愿意放弃剩余一年寿命中的不到一个月;而年轻的家属和代理人却系统性地低估了老人们活下去的强烈意愿。
八、现实世界的“次优理论”:为什么强行按下暂停键有 14 种翻车方式?
在理想数学模型里,人类仿佛坐在控制台前,轻轻拧动旋钮就能把 AGI 发布日期精确调到“Phase 2 开始后的第 1.3 年”。但在论文倒数第二节 “次优理论”(Theory of Second Best) 中,Bostrom 回到了波谲云诡的现实政治:现实世界没有统一的旋钮,只有多方博弈、监管失灵与意外后果。
即便理论上“在能力就绪后短暂暂停”是最优解,现实中鼓吹或强推“AI 暂停令(Moratorium)”却有整整 14 种可能适得其反的翻车路径。其中最值得警惕的六条包括:
- 暂停得太早(狼来了效应):在远未抵达 AGI 门槛的 Phase 1 就强行暂停,结果无事发生,公众觉得纯属庸人自扰;等真正到了最需要暂停的 Phase 2 临门一脚时,政治资本和公信力早已耗尽。
- 安全表演(Safety Theater)挤占真安全:催生出繁琐僵化的官僚合规体系,逼着顶尖工程师天天填表应付审查,反而挤占了真正解决核心对齐难题的精力。
- 劣币驱逐良币与地下化:守法、重视安全的实验室停下了,但缺乏底线的行为体或不合作的国家却在暗处继续狂奔。
- 军事化与强权集中:政府禁令往往附带“国家安全豁免条款”,结果把前沿 AI 从透明的民用科研推向高度机密的军方黑箱——不仅对齐水平可能更糟,还放大了武器化与自我政变(Self-coup)风险。
- 算力与算法悬置(Compute & Algorithmic Overhang):软件训练被禁了,但半导体硬件和基础数学算法仍在暗中积累。一旦禁令松动(或者直到消费级显卡都能跑超级智能导致彻底无法监管),积蓄已久的势能将引发远比渐进发展剧烈百倍的爆炸式智能跃迁(Hard Takeoff),让社会连适应弱 AI 的缓冲期都没有。
- 临时暂停僵化为“事实上的永久禁令”(De facto Permaban):结合行为经济学中的双曲贴现(Hyperbolic Discounting)——就像站在冰冷泳池边的人永远觉得“明天再跳更好”,每当暂停期满要承担当下的启动风险时,掌权的健康中年精英阶层总会说“不如再延五年”,周而复始,最终永久葬送超级智能本可拯救的亿万生命。
基于此,Bostrom 对比了三种现实中可能的暂停机制:
| 暂停机制 | 运作方式 | Bostrom 的评估 |
|---|---|---|
| 1. 领跑者主动消耗领先窗口 (Frontrunner burning lead) | 处于技术领先地位的实验室,在触及 AGI 门槛时主动放慢部署,用掉自己领先竞争对手的几个月窗口做深度安全打磨。 | 最理想、副作用最小。无需庞大官僚机器,不会僵化为永久禁令(对手追上时自然终止)。难点在于当前美中及各大实验室差距仅以月计,缓冲空间极其有限。 |
| 2. 单一政府强制暂停令 (Government moratorium) | 某国政府通过行政或立法手段强制冻结前沿研发或设定准入标准。 | 副作用显著上升。极易诱发军事豁免黑箱、产业外流或监管僵化;若是源于政治恐慌与污名化动员,极易拖延过久。 |
| 3. 国际条约全面禁令 (International prohibition) | 全球各国缔结禁止研发前沿系统的国际条约。 | 两难困境最深:若核查极度严密,可能滑向全球极权监控,且彻底锁死人类实现超级智能的可能;若核查松散,则沦为“老实人吃亏、秘密违约者独霸”的囚徒困境。 务实替代方案:当美中等核心玩家在危险临界点齐头并进时,针对超大规模训练集群达成有限期、可派驻核查员验证停机的短期双边暂停协议,或许是更可行的次优解。 |
九、结语:在两难险境之间,“疾速入港,缓步靠泊”
把 Nick Bostrom 这篇 2026 年的新作放在过去二十年 AI 思想史的坐标系里,你会感受到一种难得的智识诚实与张力:
- 在一端,是以 Yudkowsky 为代表的绝对安全派——只盯着手术台上的死亡率,却对病房里每天 17 万人的死去视而不见,试图用一纸无限期全球禁令冻结历史;
- 在另一端,是盲目乐观的无条件加速派(e/acc)——假装手术毫无风险,拒绝任何术前检查与部署前缓冲,要求一路踩死油门冲到底;
- 而 Bostrom 用整整七层严谨的决策模型告诉我们:真正的理性,是同时看清两边的悬崖。
因为现状本身就是绝症,所以我们不能因噎废食、在漫长的空等中任由整整一代人老死病死——这决定了我们必须 “疾速驶入港湾”(Swift to harbor),坚定推进前沿能力研发与科学突破;又因为一旦真正触及通用智能的门槛,在真实系统上做短期深度干预与安全测试有着极高的边际回报,所以我们绝不能在最后关头鲁莽冲撞——这决定了我们在抵达能力港湾后,应当有勇气和智慧 “稳健缓缓靠泊”(Slow to berth)。
下次当你再听到有人问 “面对超级智能,你到底是加速派(Boomer)还是末日派(Doomer)?” 时,或许可以把 Bostrom 的这句箴言递给他:
我们不是在赌桌上玩俄罗斯轮盘赌的疯子,我们是一群身患重疾、但终于望见手术室灯光的凡人。我们要做的,是尽快走到手术台前,然后给主刀医生留出那段最关键的术前准备时间。
参考资料与延伸阅读
- 论文原文:Bostrom, N. (2026). Optimal Timing for Superintelligence: Mundane Considerations for Existing People (Working paper v1.0). https://nickbostrom.com/optimal.pdf
- Yudkowsky, E. & Soares, N. (2025). If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All.
- Amodei, D. (2024). Machines of Loving Grace: How AI Could Transform the World for the Better.
- Jones, C. (2024). “The A.I. Dilemma: Growth versus Existential Risk”. American Economic Review, 6(4), 575–590.
- Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
Leave a Reply