摘抄：The AI Revolution——通往超级智能，以及人类的两种结局

这篇文章 2015 年刚发就被 Forbes 列入当年最佳科技故事；2026 年回看，它仍然是讨论 AI 分级与 AI 安全时绕不开的坐标系。

文章档案

作者：Tim Urban（Wait But Why 博主，火柴人插画 + 大白话解释复杂话题）
系列：The AI Revolution 两部曲
Part 1：The Road to Superintelligence，2015-01-22 → artificial-intelligence-revolution-1.html
Part 2：Our Immortality or Extinction，2015-01-27 → artificial-intelligence-revolution-2.html
一句话定位：把 Bostrom 等人书里的「超级智能」学术讨论，讲成普通人也上头的科普漫画。

Part 1 摘抄：通往超级智能的路

先看作者的野心

What’s happening in the world of AI is not just an important topic, but by far THE most important topic for our future.

核心警告：人是线性思维，世界是指数增长

文章用一个「1750 年人穿越到 2015 年会吓死」的思想实验开场：让古代人震惊到死的进步单位，狩猎采集时代要攒 10 万年，农业革命后约 1.2 万年，工业革命后只要两百年——人类进步的加速度本身就在指数增长。

It’s most intuitive for us to think linearly, when we should be thinking exponentially.

（直觉是线性外推，但真正该用的是指数外推。拿过去 30 年推断未来 30 年，是最容易被骗的思考方式。）

ANI / AGI / ASI 三分法（这套框架至今仍是主流）

层级	原文（已核对）	中文理解
ANI 弱人工智能	“AI that specializes in one area… it can beat the world chess champion in chess, but that’s the only thing it does.”	只擅长单一任务：下棋、导航、推荐算法。2015 年时所有 AI 都属于 ANI
AGI 通用人工智能	“a computer that is as smart as a human across the board”（原句续：能执行任何人类能做的智力任务——转述）	在所有认知领域达到人类水平，可跨领域学习与推理
ASI 超级人工智能	“AI that’s way smarter than any human, across the board.”	全方位碾压最聪明的人类，包括科学创造、社交技巧、哲学思辨

最反直觉的一步：AGI → ASI 可能不是几十年，而是几天

作者的关键论证：ANI → AGI 是硬骨头（要理解并复制人类大脑的复杂性，可能耗上数十年），但 AGI 一旦出现，它就能自己改进自己，改进得越快就越强，形成智能爆炸：

In an intelligence explosion—where the smarter a machine gets, the quicker it’s able to increase its own intelligence, until it begins to soar upwards—a machine might take years to rise from the chimp step to the one above it, but perhaps only hours to jump up a step once it’s on the dark green step two above us…

他把这称作进化路上的 tripwire（绊线/扳机）：智力缓慢爬升，直到某个水平足以造出机器超级智能，那一格就是触发点——一旦触发，就引爆一场改写所有生命未来的连锁反应。而科学界相当大一部分人相信：问题不是会不会踩到扳机，而是什么时候。

Part 2 摘抄：永生还是灭绝

Bostrom 的平衡木：灭绝与永生是两个「吸引子状态」

All species eventually go extinct… So far, 99.9% of species have fallen off the balance beam…
Bostrom calls extinction an attractor state—a place species are all teetering on falling into and from which no species ever returns.

历史上所有物种最终都掉下平衡木、落进「灭绝」这一端；但 Bostrom 认为平衡木有两端，另一端是物种永生（species immortality）——同样是一个吸引子状态，一旦到达就永远免疫灭绝。只是地球上还没有哪个物种聪明到能往另一端跳。

由此得出两个相当冲击的事实：

ASI 的出现将第一次让一个物种有机会落在平衡木的「永生」一侧；
ASI 造成的影响大到几乎必然把人类从平衡木上震落——掉向哪一侧，未知。

It may very well be that when evolution hits the tripwire, it permanently ends humans’ relationship with the beam and creates a new world, with or without humans.

人类之于 ASI，就像蚂蚁之于人类

正文里最接近「蚂蚁」意象的原句（能力差距论证）：

A machine on the second-to-highest step on that staircase would be to us as we are to ants—it could try for years to teach us the simplest inkling of what it knows and the endeavor would be hopeless.

注意：广为流传的「人类修高速公路时不会在意压过蚂蚁窝」「ASI 对人类的威胁来自漠不关心而非仇恨」，更接近文内配图漫画与 Bostrom《Superintelligence》一书的转述。正文里明确给出的关键问题是动机：

Who or what will be in control of that power, and what will their motivation be?

没人知道 ASI 会做什么——假装知道的人才危险

There is no way to know what ASI will do or what the consequences will be for us. Anyone who pretends otherwise doesn’t understand what superintelligence means.

专家到底怎么说：2013 年的两份调查

Müller & Bostrom 2013 年向数百名 AI 专家提问：高级机器智能（HLMI，文中视同 AGI）在哪一年达到 10% / 50% / 90% 概率，取中位数：

概率	中位年份
10%（乐观估计）	2022
50%（现实估计）	2040
90%（保守估计）	2075

同一批专家判断 AGI → ASI 的过渡：2 年内发生的概率中位数 10%，30 年内 75%；文章据此估算过渡中位数约 20 年，即 ASI 中位估计 ≈ 2060 年（距 2015 年约 45 年）。

James Barrat 在 AGI 大会上的另一份调查（「AGI 何时实现」，参与者投票）：

答案	比例
2030 年前	42%
2050 年前	25%
2100 年前	20%
2100 年后	10%
永远不会	2%

（合计 2050 年前约 2/3；只有 2% 认为 AGI 不属于未来。）

对「AGI 对人类的整体影响」，专家均值的判断是：52% 好或极好、31% 坏或极坏、仅 17% 中性——最懂行的一批人相当确信这会是件大事。

为什么 2026 年回头看仍然重要

ANI / AGI / ASI 三分法至今仍是讨论 AI 的主流坐标系；后来所有「AGI 什么时候到」的争论，都能在这篇文章里找到原型。
当年专家中位数预测 AGI 约在 2040 年；2026 年的大模型已经把争论从「AGI 会不会来」推到了「多快、多安全、怎么对齐」。
「平衡木两端 = 永生或灭绝」「蚂蚁/蚂蚁窝」是 AI 安全讨论里被引用最多的两个画面。
智能爆炸的思想源头可追溯到 I. J. Good 1965 年关于「第一台超智能机器」的论文；Tim Urban 是把它讲成大众常识的人之一（背景知识，非该文直接引文）。

对我自己的用处

判断任何新工具或新模型，先问它处在哪一级：是「单点更强的 ANI」（会下棋、会写代码的专用工具），还是「朝 AGI 逼近的通用能力」？对时间线的分歧，本质就是文章说的线性思维 vs 指数思维之争。这和我做 AI 自动化流程是同一把尺——先分清哪些环节值得等模型变强，哪些现在就能自动化。

来源与核对注记

✅ 已逐字核对（2026-09-04 打开原文确认）：

两篇标题、发布时间（2015-01-22 / 2015-01-27，与 Forbes「2015 最佳科技故事」列表一致）与两条 URL 均无误；
文中所有带引号的英文句子，均能在原文正文检索到。

⚠️ 常见转述 ≠ 原文逐字（流传版本常把这几点说成原文，实际更接近配图或背景）：

「人类修高速公路压过蚂蚁窝而不自知」：正文以认知阶梯图 + “to us as we are to ants” 表达能力差距，蚂蚁窝/高速公路的具体画面属漫画转述；
「ASI 毁灭人类不需要恨，只需要漠不关心（indifference）」：indifference 不是该文高频原词，正文对应的表述是控制权与动机问题（Who or what will be in control… what will their motivation be）；
「人类进步曲棍球棒曲线图」：文章以配图呈现指数加速，正文对应的是 Kurzweil 的 Law of Accelerating Returns（加速回报定律）与 S-curve 论述；
I. J. Good（1965）出处属背景知识链，不是该文直接引用。