当AI开始造AI,Anthropic呼吁紧急刹车

2026-06-05 | 来源: MIT科技评论 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

今天凌晨，Anthropic 在官方博客发布了一篇长文，标题名为《When AI Builds Itself》（当 AI 开始建造自己）。目前浏览量已接近 700 万。

文章由公司联合创始人 Jack Clark 与内部研究机构 The Anthropic Institute 负责人 Marina Favaro 共同署名。核心观点可以用一句话概括：AI 正加速参与到自身的开发进程当中。如果这个趋势走到极端，AI 将能够在没有人类介入的情况下，自主设计、测试并训练出更强大的下一代 AI。基于这一判断，Anthropic 呼吁全球主要 AI 实验室考虑暂停 AI 开发，或者至少建立一套可以互相核查的减速机制。

这番表态之所以格外引人关注，不仅因为内容，也因为说这番话的是 Anthropic。

就在文章发布前几天，Anthropic 刚刚完成最新一轮融资，估值达到 9,650 亿美元，正式超过 OpenAI。同一周，公司向美国证券交易委员会秘密递交了 S-1 注册声明草案，启动 IPO 筹备流程。Anthropic 的年化营收正快速攀升，从 2025 年底的约 90 亿美元增长到当前的接近 470 亿美元，预计本月底将突破 500 亿美元。在公司即将冲击公开市场、商业势能最强的时候，却发出“请考虑减速”的信号，很难让人不疑惑其动机。

不过在讨论动机之前，不能否认的是，这篇文章确实拿出了实打实的内部数据。而这些数据之所以重要，是因为它们指向了一个越来越明确的趋势：AI 研发自动化。

AI 研发自动化正在成为行业共识

Anthropic 的文章主要围绕一个概念展开——“递归自我改进”（Recursive Self-Improvement，简称 RSI），指的是 AI 系统自主完成设计、测试、训练下一代 AI 的完整流程，人类不再扮演关键角色。这个概念并不新鲜，但过去一年里，它正从理论走向现实。几乎所有头部 AI 公司都在往这个方向投入资源。

以 OpenAI 为例，这家公司已经将“AI 参与 AI 研发”列入重点关注事项。其安全团队专门设立了“Recursive Self-Improvement Preparedness（递归自我改进准备）”相关岗位，用于研究当 AI 能够显著加速自身研发时可能带来的能力跃迁与风险。OpenAI 此前公开透露，其内部目标是在 2026 年前后打造达到“研究实习生”水平的 AI 系统，并在 2028 年实现能够独立承担研究任务的自动化 AI 研究员。

不藏了!Anthropic三张底牌,一口气全曝光

Anthropic三大模型接连曝光引热议 AI巨头竞赛再升温

登顶全球最值钱AI!Anthropic估值升至9650亿美元

Google DeepMind 走的是一条更偏算法发现的路线。它的 AlphaEvolve 项目让 AI 自主提出算法方案、运行实验、筛选结果，再将优秀方案反馈回系统继续迭代。这套系统已经被用于数据中心调度优化和 AI 训练效率提升等实际场景，据报道还找到了 56 年来首个对 Strassen 矩阵乘法算法的改进。从某种意义上说，这也是 DeepMind 对“奇点”判断的重要依据之一：当 AI 开始参与甚至推动新的科学发现和算法创新时，技术进步将进入加速循环。

头部公司之外，越来越多创业公司也开始围绕“自动化 AI 研发”布局。例如近期获得大额融资的 Recursive Superintelligence，以及将“构建擅长 AI 研发的系统”写入公司使命的 Mirendil，都是这一趋势的代表。虽然技术路径各不相同，但它们瞄准的是同一个目标：让 AI 从研发工具变成研发过程的参与者，并最终承担越来越多的研发工作。

正是在这个背景下，Anthropic 发布了这篇长文。它的立场是：RSI 还没有发生，也不一定会发生，但它到来的速度“可能比大多数机构准备好的时间更快”。

AI 已经在多大程度上接管了 AI 研发？

在文章中，它用三组此前未公开的内部数据支撑了这个判断。

第一组数据是关于 AI 的代码能力。截至 2026 年 5 月，Anthropic 合并到生产代码库中的代码有超过 80% 由 Claude 编写。2025 年 2 月 Claude Code 上线之前，这个比例还是个位数。与之对应，2026 年第二季度工程师人均每天合并的代码量达到 2024 年的 8 倍。文章专门补充说明：代码行数衡量的是数量而非质量，8 倍很可能高估了真实的生产力提升。但趋势是明晰的：工程师的角色正在从“写代码”转向“指引方向和审查结果”。