递归自我改进

在 AI 发展历史的大部分时间里，人类驱动着其开发周期中的每一步。但在 Anthropic，我们正在将越来越多的 AI 开发工作委托给 AI 系统自身来完成，这大大加速了我们的工作。

如果把这一趋势推到极致，再给予足够的算力（compute），它指向的是一个能够完全自主设计并开发自身后继系统的 AI 系统。这就是所谓的递归自我改进（recursive self-improvement）。我们尚未达到那一步，递归自我改进也并非不可避免。但它可能比大多数机构所准备应对的时间来得更早。

借助公开基准测试（benchmarks）以及 Anthropic 内部此前未曾披露的数据，The Anthropic Institute 正在展示 AI 已经在加速 AI 系统本身的开发。仅举一例：如今 Anthropic 工程师平均每个季度提交的代码量是 2021–2025 年期间的 8 倍。

本文讨论的技术趋势表明，AI 系统在未来几年将变得强大得多。这些趋势影响深远。能够自我构建的 AI 将是技术史上的一项重大进展——它有望在科学、医疗等领域为世界带来巨大福祉。但完全的递归自我改进也可能增加人类失去对 AI 系统控制的风险。如果系统有能力完全构建自己的后继版本，那么如何保障它们的安全、监控它们以及塑造它们的行为，都将变得更加重要。

来自外部的证据

AI 模型的改进速度正在加快。它们能够独立可靠完成的任务时长，大约每四个月翻一番，而此前的趋势是每七个月翻一番。2024 年 3 月，Claude Opus 3 能够完成人类大约四分钟就能搞定的软件任务。一年后，Claude Sonnet 3.7 能够完成耗时约一个半小时的任务。又过了一年，Claude Opus 4.6 能够完成 12 小时的任务。¹ 如果这一趋势持续下去，需要熟练人员数天才能完成的任务可能在今年进入 AI 的能力范围。到 2027 年，AI 系统可能有能力完成一个人需要数周才能完成的任务。

同样的模式也出现在编程和研究基准测试中。基准测试衡量模型在特定领域的表现，当模型接近 100% 的表现时，就被称为"饱和（saturated）"。²

SWE-bench 是一项真实世界软件工程的标准测试：它将一个真实的开源代码库和一个真实的 bug 报告交给模型，要求它编写代码修改来修复问题并使项目通过自身测试。模型从个位数的得分，到两年内饱和该基准测试。

CORE-Bench 测试模型能否复现已有研究，这是它们开展原创研究的前提条件。它将一篇已发表论文背后的代码和数据交给 AI 模型，要求它重新运行一切并确认能够复现论文的结果。AI 系统在 2024 年从大约 20% 的复现成功率起步，十五个月后便饱和了该基准测试。METR 发现，Claude Mythos Preview 能够工作"至少"16 小时，处于"在不推出新任务的情况下所能测量的上限"。

公开基准测试充分说明了这些系统的能力。但它们无法揭示 AI 系统在加速 AI 开发本身方面的影响。为此，我们需要来自 Anthropic 等 AI 公司内部的直接证据。

来自 Anthropic 内部的证据

构建前沿模型（frontier model）需要两大类工作。一是工程：编写代码、搭建基础设施、监督模型训练。二是研究：决定运行哪些实验、解读返回的结果、确定接下来尝试哪些想法。

无论是在工程还是研究中，画面都是一致的。在工程方面，你可以给 Claude 一个规格不明确的问题，它能自己想出解决方案；人类提供目标，但不再需要提供方法。在研究方面，在执行一个明确界定的实验时，Claude 已经能够匹敌甚至超越熟练的人类。然而，在工程和研究中，当涉及 Claude 运用判断力来选择目标时，仍然存在很大的性能差距。这就是当今 AI 与未来能够自主设计自身后继系统之间的差距。

Anthropic 的员工在积累经验后，通常会接到更加开放和重要的任务。起初，他们执行别人指定的任务，比如"导出按钮不好使了，请修一下。"有了经验后，他们会接到一个目标并自行设计方案，比如"调查一下网络在高负载下为什么会变慢。"到了最高级别，他们要决定哪些问题值得去做："团队下个季度应该构建什么？"我们可以利用 Anthropic 内部数据来看看 Claude 在处理这些不同类型任务方面取得了多大进展。

Claude 编写了 Anthropic 很大比例的代码

截至 2026 年 5 月，我们合入 Anthropic 代码库的代码中，超过 80% 由 Claude 编写。³ 在 Claude Code 于 2025 年 2 月以研究预览版发布之前，这个数字还在个位数的低位。这种转变也体现在每位工程师的产出量上。在 Anthropic 成立的头四年（2021–2024），每位工程师每天合入的代码行数保持稳定，到 2025 年开始攀升——当时 Claude 开始自行运行代码，而不再只是建议工程师复制粘贴。2026 年，随着模型开始在更长的时间跨度上自主工作，增长斜率再次变陡。2026 年第二季度，典型工程师每天合入的代码量是 2024 年的 8 倍。⁴ 这是因为大量代码由 Claude 编写，工程师负责指导和审查，而不是自己敲代码。

需要说明的是：代码行数是一个不完美的衡量标准，因为它衡量的是数量而非质量。因此 8 倍的数字几乎肯定夸大了真正的生产力提升。尽管如此，它确实表明了一种加速。在 Anthropic，我们不会按代码行数来奖励员工；团队成员产出更多代码，只是因为他们使用 AI 系统来写更多代码。

代码行数的增长与人们对生产力大幅提升的主观感受相吻合。在 2026 年 3 月对 130 名员工的一项调查中，中位数受访者估计使用 Mythos Preview 的产出大约是不使用 AI 时的 4 倍。^5,6 尽管如此，Anthropic 相当一部分技术人员正在以数倍的速度完成核心工作。

我们还看到证据表明，Anthropic 的人正在用 Claude 做一些原本根本不会去做的工作。例如，2026 年 4 月，Claude 提交了超过 800 个修复，将某类 API 错误减少了一千倍。负责监督的工程师估计，一个人完成这项工作需要四年。

"大约一年前，我开始大力拥抱用 Claude 来做事。这是一段疯狂的旅程，到现在我已经大约五个月没有自己写过任何代码了。" — Anthropic 员工

Claude 编写的代码是"好的"而且在不断改善

"好代码"意味着两件事：它能正常运行，并且以其他工程师能够理解和在此基础上继续构建的方式编写。在第一个标准上，证据是明确的——Anthropic 员工中途纠正或接管 Claude 的比率在过去一年中稳步下降，包括最复杂的任务。

在最开放的任务上，Claude 的成功率在 2026 年 5 月达到了 76%，六个月内提高了 50 个百分点。举个例子：一次常规升级导致数以万计的训练任务崩溃。一位工程师将 Claude 指向这一线上事故，提供的东西不过是一些文本内容和集群访问权限。Claude 在大约两个小时内完成了通常需要两到三天的工作。

第二个标准——编写其他工程师能够理解的代码——差距正在快速缩小。许多人认为，2025 年底 Claude 编写的代码质量不如人类，如今已大致持平，预计在一年之内将严格优于人类。

Claude 在运行实验方面从"非常有帮助"变成"超人"

每次 Anthropic 发布模型时，都会运行同一个测试：给 Claude 一段训练小型 AI 模型的代码，让它在通过正确性检查的前提下尽可能加速。2025 年 5 月，Claude Opus 4 平均实现约 3 倍加速。到 2026 年 4 月，Claude Mythos Preview 达到了约 52 倍。作为参照，一个熟练的人类研究员需要四到八个小时才能达到 4 倍。⁷

"现在的工作形态大致是'人类出想法，模型能够以比以前快一个数量级的速度来实现、测试和评估这些想法。'"

Claude 在提出自己的实验方面也越来越擅长

2026 年 4 月，Anthropic 发表了 Claude 端到端运行开放式研究项目的首次演示。Claude 智能体被给了一个 AI 安全问题——较弱的模型能否可靠地监督较强的模型？——然后自行解决。两位人类研究员在一周内恢复了约 23% 的性能差距；智能体在累计 800 小时内恢复了 97%，使用了约 18,000 美元算力。

"Claude 在 1–2 天里几乎没怎么需要我的帮助就完成了这一切。如果一位初级同事在同样时间内带着这样的结果来找我，我会觉得还不错。未来已经到来。"

研究判断力的进步

我们分析了真实的 Claude Code 会话，找到研究员走偏的时刻，然后问 Claude 会怎么做。在 2025 年 11 月，最好的模型 51% 的时间优于人类选择；到 2026 年 4 月，这一比例增长到 64%。⁸ 研究的日常工作很大程度上就是一系列"下一步"决策链，这一指标与模型独立开展研究的能力高度相关。

"目前人类的比较优势仍然在于看到更大的图景，超越当前任务的局限去思考。"

Anthropic 未来的工作会是什么样子？

证据表明，在 AI 开发流程的每一步中，人类的角色都在收窄。一旦代码质量达到持平，人类将完全停止编写代码，转而只做审查。但如果审查速度赶不上 Claude 生成代码的速度，人类审查将成为瓶颈。简而言之：执行现在在人类时间上几乎不花成本了，尽管在算力上仍然有成本。

目前人类具有比较优势的领域是研究品味（research taste）和判断力，包括选择哪些问题重要、哪些结果值得信赖、以及何时某条路走不通。

"工作（和生活）曾经运行在人与人之间互相帮小忙的礼物经济之上。'能帮我跑一下这个脚本吗？'……每一个请求都创造了一点人情债、一点相互认知。Claude 更快，不欠任何人情，但每一次都是一次人际协作机会的丧失。"

"在一切运行顺利的日子里，我不禁觉得自己做的一切都不重要了，所有东西都是自动化的，比我能做到的更好更快。但也有那些一切都在崩溃的日子，我搞不懂为什么，然后意识到自己已经不知道自己到底在做什么了。"

如果我们错了呢？

对上述证据一个自然的反对意见是：仍然掌握在人类手中的工作——选择要解决哪些问题——才是最重要的。没有这种判断力，Claude 只是一个能干的助手，而不是一个能够独立推动 AI 进步的系统。

当今的训练方法和架构能否释放这种能力，确实还不清楚。但 AI 的进步很少靠"灵光一闪"时刻。在 AI 近年来的历史中有过几次，比如 Transformer 架构，或者混合专家模型，但范式转换级的想法相隔数年才出现一次。在这之间，大多数进步是渐进的：放大某个东西，看看哪里坏了，修好它，再试。而这正是 Claude 现在擅长的工作类型。

爱迪生说过，天才是 1% 的灵感加 99% 的汗水。但我们看到汗水正在被越来越多地自动化。越来越清楚的是，推动前沿进步的大部分工作是可自动化的；大规模的研究进步主要是工具和资源的函数。

即使假设 Claude 永远无法获得好的研究品味，保守解读仍然意味着复合加速——每位工程师驾驭的工作量远超以往。不那么保守的解读是，研究判断力可能只是又一项 AI 能力：做不好一段时间，然后变好。

可能的未来

接下来会发生什么取决于两件事：这一趋势是否持续，以及如果持续的话我们选择怎么做。我们至少可以设想三种未来情景：

我们应该怎么做？

如果有可能有效地减缓这项技术的发展，给我们更多时间来应对其巨大影响，我们认为那很可能是件好事。但如果减缓只是让最不谨慎的行为者追赶上来，那可能让每个人都更不安全。

我们认为，世界应该拥有减缓或暂时暂停前沿 AI 开发的选项。The Anthropic Institute 将与许多其他方合作，帮助构建可信的减缓或暂停所需的系统——使前沿 AI 开发者能够验证全球其他方确实已经停止或减缓。

一个有意义的暂停需要多个国家中多个资源充足的实验室在相同条件下同意停止，且每一方都能验证其他方确实停止了。训练运行比导弹发射井容易隐藏得多，其输入是通用的，悄悄背叛的动机极为巨大。所有这些在原则上并非不可能——世界已经为其他复杂技术建立了核查机制（如《中程核力量条约》）——但那些机制的建立花了数十年。我们没有那么长的时间。

在接下来的几个月中，我们将组织一系列对话，让政策制定者、研究人员、公民社会和其他 AI 公司参与。共同研究这些问题的窗口已经打开，AI 公司之外的人也应该参与这一审议。