文章作者、来源：华尔街见闻

一家估值接近万亿美元、正冲刺IPO的AI公司，突然公开呼吁全球暂停AI开发。

6月4日，Anthropic在官方博客发布了一篇题为《当AI构建自身》（When AI Builds Itself）的长文。文章由公司联合创始人Jack Clark和内部研究机构负责人Marina Favaro联合署名，首次罕见对外披露了一批此前从未公开的内部运营数据。

这些数据显示，AI正在以惊人速度加速AI自身的开发进程：截至2026年5月，Anthropic超过80%合并入代码库的代码由Claude撰写；与2024年相比，工程师每日合并代码量已增长8倍；在一项内部研究调查中，员工估计使用最新模型Mythos Preview后，自身产出约为不使用任何AI工具时的4倍。

更关键的是，Anthropic提出了一个令整个AI行业不安的概念警示：“递归自我改进”（recursive self-improvement）——即AI系统无需人类干预、自主设计并改进其继任者的能力。这一阶段尚未到来，但“可能在未来两年内发生，甚至更早”。

根据这些数据，Anthropic提出一个在AI行业颇为罕见的主张：全球应协调考虑暂停或放缓前沿AI的开发。在业务高速扩张之际，Anthropic却主动呼吁“踩刹车”——这一反常举动，正在华尔街和硅谷同时引发争议。

批评者认为，Anthropic此举不过是其一贯“监管俘获“策略的延伸——通过渲染AI风险来给监管部门施压，从而限制竞争对手，尤其是那些开源模型的发展空间。也有人将Anthropic对自家”Mythos“网络安全模型的限制性发布解读为一种营销手段：一方面炫耀能力，一方面又以“安全”为由拒绝全面开放。支持者则认为，Anthropic对AI风险的警示有其真诚的一面。宾大沃顿商学院教授 Ethan Mollick表示，AI 实验室往往不是单一主体：它既有万亿美元公司的营销、律师和资本逻辑，也有追求下一代模型的研究人员，还有真心忧虑未来的“哲学王“式人物。

数据本身已足够震撼：Anthropic年化营收从2025年底的90亿美元，将于2026年6月底飙升至500亿美元；公司已秘密提交IPO文件；其最新模型Mythos Preview可连续工作超过16小时，并在首批测试中发现了全球最重要系统中逾一万个高危软件漏洞。

在这场“加速“与“刹车“的悖论中，Anthropic的这篇博文或许是迄今为止AI行业最诚实也最矛盾的自白。

《当AI构建自身》（When AI Builds Itself）博文节选金句如下：

《当AI构建自身》（When AI Builds Itself）全文翻译如下：

构建第一代Claude（2021—2023年）

聊天机器人（2023—2025年）

编程智能体（2025—2026年）

自主智能体（当下）

闭合循环（20XX年？）

1. METR的核心衡量指标反映的是AI系统在一系列任务上达到50%可靠性的时间跨度，但在80%可靠性标准下，趋势线形态相同。
2. 尤其是当基准测试转向更具开放性的形式和更高难度的任务（如奥林匹克级别的数学题）时，由于题目和答案集中存在错误——如表述模糊的问题和无解的题目——基准测试往往在达到100%之前便已饱和。
3. Anthropic领导层曾公开估计，包括脚本和实验性代码在内，90%甚至更多的代码由Claude编写。我们的80%以上是指合并到生产环境中、可归因于Claude的代码行占比。这在两个维度上是更为保守的衡量方式：一是我们的归因流程存在一定缺口；二是未归因于Claude的代码行中，包含了自动生成代码及其他并非由人工手写的产物。
4. 代码产出量的激增，正在给大家共用的基础设施带来压力。GitHub——全球大多数软件赖以构建的平台——在整个2025年约有十亿次代码提交；而到2026年中，每周的提交量已达2.75亿次，按此速度全年提交量约为140亿次。该公司首席运营官表示，为了跟上这一步伐，公司正在”拼尽全力“扩容。
5. 本次调查方法的更多细节，请参阅Claude Opus 4.7系统卡的第2.3.5节。
6. 许多受访者可能未仔细考量如何在回答中处理各类偏差或问题界定中的细微差别；METR的近期研究也表明，开发者对AI生产力提升幅度的估计往往偏高。
7. 加速倍数的大小，在很大程度上取决于起始代码留有多少改进空间，不应将其解读为真实世界训练速度的提升倍数。因此，绝对倍数并非本处关注的核心数字。更具参考价值的是，这一实验设置所实现的同等条件比较——既可跨模型比较（过去一年从约3倍升至约52倍），也可与同等任务上的熟练人类进行比较（四到八小时达到约4倍）。
8. 作为对评判偏差的验证，我们在另一组127个时刻上进行了相同测试，这些时刻中人类的下一步选择已经很优秀（相对于原始组中人类决策有改进空间的时刻而言）。结果显示，在那些时刻，模型的建议仅约20%的情况下被判定为更优。