我们不会被怀念We Won't Be Missed: Work and Growth in the AGI World

引言

本章研究一个经济体在开发出通用人工智能（AGI）、算力资源随时间增长的情况下，工资与增长的长期行为。AGI 允许经济体用计算系统完成一切相关工作。这些系统消耗算力资源，但执行任务不需要人类的输入、指导或努力。AGI 世界的经济问题是：如何分配有限（但不断增长）的算力资源与人类技能，去完成产出所需的工作。

本章引入瓶颈工作与补充性工作的区分：

• 瓶颈工作是经济增长不可或缺的任务。除非瓶颈任务的投入也扩张、或其价值涨到无穷大，否则产出无法无限扩张。
• 补充性工作对增长无关紧要。即使这些任务的投入保持固定，产出仍可无限扩张。

我的核心理论结论是：所有瓶颈工作最终都会被自动化，其中大部分由自主 AI 系统承担。一旦如此，生产从算力（算力资源存量）与人类技能之间的乘法关系转变为加法关系，经济的长期增长率取决于算力的增长率。

即便 AGI 承担了所有瓶颈任务，人们仍可能工作并获得正工资。有些技能可用于瓶颈工作，其贡献按其节省的算力来估值——能干这件事的 AI 系统存在，并不意味着工资归零，因为用算力替代人存在真实的机会成本。另一些技能可用于留给人类、未被自动化的补充性任务，这类工作也有正工资，但其上限是该工作自动化的算力成本。

AGI 从根本上改变了劳动的角色与定价方式。AGI 之前，人类技能是产出的主要驱动力，工资反映瓶颈任务所需技能的稀缺性；AGI 世界里，算力取代了这个中心地位，工资锚定于复现人类技能的计算成本。虽然人类工资保持为正——平均而言甚至高于 AGI 前世界——但其价值与 GDP 脱钩，劳动份额收敛于零，最终大部分收入归于算力。

此外，我将分析扩展到 AGI 可用于科学工作、加速技术进步的经济体。没有 AGI 参与科学时，技术进步受人口增长约束（如 Jones 1995、Kortum 1997、Segerstrom 1998 的半内生增长模型）。有了 AGI，所有科学瓶颈工作被自动化，技术进步速率由算力增长率决定。这可能在人口萎缩的情况下产生持续的指数增长，但不会导致奇点或无限增长爆炸。

本章结构：第 1 节分析 AGI 用算力完成一切生产工作的生产经济；第 2 节扩展到 AGI 应用于科学工作的半内生增长框架；第 3 节提供解读。

1　AGI 时代的生产与工作

经济体通过完成工作来生产产出 𝑌_t——即用人类或计算资源完成产出所需的任务。全部有价值工作的集合为 Ω，具体工作类型以 𝜔 标记。𝑡 时完成的工作量 𝜔 为：

工作可由人类劳动 𝐿_t(𝜔) 完成，或用算力资源 𝑄_t(𝜔) 完成。单位时间内每人完成的工作量归一化为 1；用计算机模拟或复现这一工作耗费 𝛼_t(𝜔) 单位算力。若 𝛼_t(𝜔) = ∞，则无法用计算机复现完成 𝜔 所需的人类技能。

产出为 𝑌_t = 𝐹({𝑋_t(𝜔)})，其中 𝐹 递增、光滑、可微、凹、规模报酬不变。存在不同的人类技能 𝑠 ∈ 𝒮，数量为 𝐻(𝑠)。技能 𝑠 的人可完成 Ω(𝑠) ⊆ Ω 中的工作，且各 Ω(𝑠) 对 Ω 构成分割——这刻画了技能的可迁移性：若 𝑠 与工作一一对应，技能就是专用的；若 Ω(𝑠) = Ω，则存在单一通用技能。

经济体可支配的算力资源总量为 𝑄_t——可理解为给定数据中心和芯片，经济体单位时间能执行的总计算量。经济体的算力约束为 Σ_𝜔 𝑄_t(𝜔) ≤ 𝑄_t。

前提假设

模型包含两种技术进步：算法进步（𝛼_t(𝜔) 的下降，可能从无穷大降到有限值）与算力扩张（𝑄_t 随时间增长）。目标是刻画一个 (i) 开发出 AGI 且 (ii) 拥有足够算力运行它的经济体的行为。

AGI 是把原始算力转化为一切有用工作的知识或技术。开发出 AGI 意味着我们搞清了如何训练或创造能完成人类目前所有工作的计算系统。这一定义把 AGI 与算力资源区分开：AGI 是如何使用算力（投入）完成任何工作（产出）的「配方」。

关于这一前提，三点澄清：

• 可行 ≠ 实现最优：AGI 的定义说，原则上投入足够算力就能复现人做的事。但依据计算成本 𝛼(𝜔)，把某些任务留给人类、把有限算力分配到别处，可能更划算。
• 体力工作：计算机系统可以在需要时控制机器与硬件完成体力工作。必要时可将 𝑄_t 重新解释为计算机用来承担认知与体力工作的能源+算力捆绑。
• 社会性工作：有人主张某些工作需要社会互动、必须由人完成——治疗师的「人情味」与共情可能无法复现。前提 1 背后的假设是量变引起质变：任何计算机相对人的 shortfall，都可以靠向任务投入足够多的算力来弥补。想象一个从功能上完美模拟世界顶级治疗师的 AI 系统，随时待命、完全了解你、从不疲倦、百分百全力帮你缓解焦虑——它可能贵到不实用，但当这样一个超人专家团队可用时，你还会坚持找人类治疗师吗？想象一个用海量算力诊断和治疗疾病的 AI 系统，你会因为坚持它缺乏「人情味」而不让生病的孩子获得这种医疗吗？若此论证成立，这类情形仍可用较高的 𝛼(𝜔) 表示——它刻画了补偿「人情味」所需的额外算力。

这由摩尔定律等历史规律支撑。自 1970 年现代计算机与晶体管诞生以来，算力大幅扩张：以 flops（经济体内所有计算机每秒可执行的浮点运算总数）计，1980–2007 年算力增长三个数量级（10¹⁵ → 10¹⁸ flops）；当前峰值产能约 10²¹ flops；长期估计可达 10⁵⁴ flops——增长空间巨大。作为参照，人脑估算为 10¹⁶–10¹⁸ flops，算力已在超越人脑算力若干数量级的路上了。

瓶颈与补充性工作

直观理解：瓶颈工作是持续增长所必需的工作——它必须扩张，否则其价格会膨胀到天价。潜在例子：供养与安置人口、能源生产、维护经济的生产性基础设施、推进科学、决策、物流配送、维护国家安全与治安。这些工作具有「任务关键性」——很难想象一个持续增长的经济体缺少其中任何一环。

补充性工作是瓶颈的反面：经济体可以在这类工作保持固定的情况下持续增长，其价格也不会过度上涨。潜在例子：工艺美术、文学、酒店接待、设计、客户支持、司法工作。甚至学术经济学家的工作也可能是补充性的——它不太可能变得日益珍贵。这些例子的共性：可以想象未来的人们视这些工作为有价值、可取的，但不会把其供给减少视为绝对危机。当然这只是例示——瓶颈与补充的边界取决于未来的偏好、生产结构、可用的替代方案，以及未来人类面临的生存性问题与态度。

1.1　极限行为

本小节刻画前提 1、2 下当 𝑡 → ∞ 时经济体的极限行为，采用竞争性均衡：算力与人类劳动的配置最大化产出，要素按边际产出获得报酬。

最后一个结论看似违背李嘉图比较优势原理——AGI 经济是与「数据中心里的天才之国」做贸易、用算力换工作的世界，为何最优解是 AGI 生产所有瓶颈？原因很有启发性：假设 AGI 专门生产一部分工作、人类专门生产其余部分，随时间推移经济会失衡——前一类工作产量持续扩张、后一类固定。这种失衡不可能最优：要保持经济增长，所有瓶颈工作必须以同一速率扩张。失衡仅当未自动化的工作是补充性时才是有效率的。

定义技能 𝑠 的算力当量单位（CEU）：

即复现技能 𝑠 的人所承担工作中、计算最复杂的那项任务所需的算力。前提 1 保证 CEU(𝑠) 对所有技能有限。长期看技能分两组：𝒜 组技能的 Ω*(𝑠)（其最高 𝛼 任务）被自动化，这些技能专业化于 Ω*(𝑠) 并与 AI 系统竞争生产；𝒩 组技能的 Ω*(𝑠) 是补充性且未自动化，这些技能生产未自动化的补充工作、或 Ω*(𝑠) 之外的自动化工作。

总生产可能性变为算力与人类技能的加法关系，𝒜 组技能以算力单位计量——这对任意初始生产函数 𝐹 都成立。例如若各工作按 Cobb-Douglas 方式组合，我们从算力与人力的「乘法」经济（AGI 之前）进入「加法」经济（AGI 之后）。

理解这一结果：AGI 允许我们用算力生产所有瓶颈工作。此时算力为工作定价：一个工人生产一单位工作 𝜔，等价于 𝛼(𝜔) 单位额外算力，等价于 𝐴·𝛼(𝜔) 单位产出。人能做的最好的事，是专业化于节省算力最多的工作，释放出能生产 𝐴·CEU(𝑠) 产出的算力资源。

先想象 AI 系统生产所有工作：人们仍会按复现其技能所需算力的价值获得报酬。这凸显一个重要区分：AGI 不使劳动冗余，而是使其可通过有成本的算力复现，永久改变其定价方式。人类技能仍有价值，因为它完成有用的工作、节省稀缺的算力资源。

再设想存在未自动化、由 𝒩 组技能承担的补充性工作——它能成为工资增长的来源吗？不能。做补充性工作的人工资低于 𝐴·CEU(𝑠)，否则自动化更划算。这类工作之所以留着不自动化，是因为干的人已经太多，工资低到不值得动用稀缺算力。关键结论：工资与产出增长脱钩——AGI 经济的产出增长完全由算力扩张驱动，劳动收入被复现它的算力成本封顶，随着经济扩张，所有收入最终归于算力。

人类劳动的价值被封顶、占产出份额萎缩，并不意味着 AGI 让社会与工人变穷。把算力与人类劳动的收入加总，社会变得更富（只要持续扩张算力就会持续变富）。即使不算归于算力的收入，从 AGI 前到 AGI 经济的转型也提高了人类劳动整体的价值：

论证要点：竞争市场在转型每一步都有效安排生产。取一小部分劳动力放进「无 AGI 区」复制转型前的生产方式，他们产出 𝑊_pre-AGI×𝑛，同时损失其 AGI 后边际产出 𝑊_t×𝑛；由于这种重排不可能提高产出，必有 𝑊_t ≥ 𝑊₀。AGI 的到来不可能让我们整体变得更糟——我们总可以划一个无 AGI 区、照老样子过日子。此论证假设算力与人类技能是仅有的稀缺资源；若经济还依赖其他有限资源则逻辑会打折扣，但 AGI 帮助扩张土地、能源等其他潜在约束因素的供给，使其拉低人类价值的空间有限。

1.2　向 AGI 的转型

从今天到 AGI 世界的路径取决于算力扩张（𝑄_t）与算法进步（𝛼 序列）的相对速度。两个极化情形：

• 算力约束型转型：工作 𝜔 要等经济积累足够算力、自动化划算之后才被自动化。
• 算法约束型转型：工作 𝜔 一旦可行（𝛼 有限）立即被自动化——算力充裕的世界。

算力约束时，向 AGI 极限的转型是平滑渐进的：工资总额一路上扬，每种技能的工资路径连续，只在部分任务被自动化的短暂区间出现下行——工人逐渐撤出被自动化的工作（由 AGI 全盘接管），直到只剩计算最复杂的工作（图 1 中的 𝜔₃）。当工资等于算力生产成本时，这最后的工作也被自动化，此后工人不再转移、持续赚取其算力当量。

算法约束时，转型是锯齿状的：一些人突然遭遇收入损失，另一些人突然获益。命题 8 描述的是算力充裕的世界——企业在后台试验，一旦应用成功立即采用、颠覆劳动力市场。新自动化任务的就业一次性跳水，若生产率增益小（用 Acemoglu & Restrepo 2018 的术语），该技能工人的工资可能下跌。自动化该技能最后一项任务必然导致工资从某个高位跳降至 𝐴_t·CEU(𝑠)——工人无处转移。自动化前的溢价反映技能 𝑠 的稀缺性（它是我们想自动化却不能的瓶颈工作的唯一生产方式）；一旦 Ω(𝑠) 全部自动化，溢价消失，工资落回算力当量水平。

2　科学工作

现在把分析扩展到科学工作——它不直接产出，而是扩展我们未来更高效生产的知识。产出变为 𝑌_t = 𝑍_t·𝐹({𝑋_t(𝜔)})，其中 𝑍_t 是经济体的技术水平，由完成科学工作提升。与半内生增长模型一致：

其中 𝜎 标记科学工作，Ξ 为其集合；𝐺 递增、可微、凹、规模报酬不变；弹性 𝛽 > 0 刻画「钓鱼效应」——越往前推进，点子越难找。科学工作可由科学家（技能 𝑠 ∈ 𝒮^𝑅）承担，也可用算力完成，且科学家的技能集与生产技能集不同。为清晰起见，假设所有科学与生产工作都是瓶颈。两个前提强化为：

与之前一样，总生产可能性变为算力与劳动的加法关系。更新颖的是，生产性知识存量 𝑍_t 随时间扩张并与算力资源成比例。标准半内生增长模型里 𝑍_t 与人口成比例——科学工作需要人脑，而人脑受人口规模限制。这里 𝑍_t 与经济体的算力资源 𝑄_t 成比例，因为算力可以自动化一切科学瓶颈。AGI 使科学工作可用算力完成，产生了复合增长效应：

与命题 3 的差别：没有其他科学进步来源时，产出与算力同速（𝑔_𝑌 = 𝑔_𝑄）。用算力做科学使增长率高出 𝑔_𝑄/𝛽——部分算力用于扩张生产性知识，而知识又提高所有生产算力的生产率，产生对算力的递增报酬。即使 AGI 能做科学，产出仍与算力成比例，不一定出现智能或增长爆炸——爆炸需要爆炸式增长的算力。

短期应优先科学工作——快速扩张科学知识；长期两类都要——该策略实现了产出随算力的最大扩展。全给科学：𝑔_𝑌 = 𝑔_𝑄/𝛽；全给生产：𝑔_𝑌 = 𝑔_𝑄；两者兼用增长率更高，因为它利用了生产与科学进步之间的递增报酬协同。

3　讨论

本章考察了 AGI 对生产、增长与劳动力市场的长期影响。AGI 是使一切有经济价值的工作都能用算力完成的算法进步。在算力充足时，瓶颈任务被完全自动化，而部分补充性工作可能留在人类手中。

这些发现同时挑战了对人类劳动未来的过度乐观与过度悲观。

一方面，补充性工作可能为人类提供稳定角色。模型打开了一个耐人寻味的可能：今天的很多工作可能对未来增长并非必需、也永远不会被自动化。算力会被导向对未来进步至关重要的瓶颈工作——降低生存性风险、防御小行星、掌握聚变能源——而劳动力市场的大部分保持不变。社会密集型工作——酒店、现场演出、娱乐——可能对增长无关紧要、用算力复现又很贵，从而留在人类手中，继续提供熟悉而有意义的工作。更根本地，AGI 不使人类技能作废，而是给它重新定价：因为算力稀缺，技能按复现它所需的算力机会成本估值。事实上，若算力与人类技能是仅有的稀缺资源，AGI 后世界的平均工资更高。

另一方面，劳动的相对角色萎缩。瓶颈被自动化后，一切工作的价值——无论瓶颈还是补充——都被复现它的算力成本封顶。工资与产出脱钩，劳动份额坍缩。干瓶颈工作的技能工人只赚到其节省的算力；补充性工作提供连续性，但不提供上涨的工资。转型的类型很关键：算力约束时调整是渐进的，工人随任务被自动化而缓慢转移；算法约束时转型是锯齿状、不确定、有风险的——不平等可能急剧上升：任务暂不可自动化的工人享受高额暂时溢价，任务被自动化的工人遭遇突然的工资跳水。核心政策问题是如何帮工人分担这些风险、穿越锯齿状转型。

分配是另一个核心问题。AGI 经济中大部分收入归于算力的所有者。一种思路是通过全民收入再分配这些收益；另一种是把算力当作公共资源——类似土地或自然资本——广泛分配其回报。

最后，AGI 提出意义与目的的问题。历史上，工作不仅提供收入，还提供「自己的努力改善了社会福祉」的认可——工作给了人们「自己会被怀念」的感觉。在 AGI 世界，这一联结被切断。人类技能不再以一种可感知的方式被需要来提高生活水平。今天，如果我们一半的人停止工作，经济会崩溃；在 AGI 世界，我们不会被怀念。

参考文献（节选）