當AI開始造AI,Anthropic呼吁緊急刹車

2026-06-05 | 來源: MIT科技評論 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

今天凌晨，Anthropic 在官方博客發布了一篇長文，標題名為《When AI Builds Itself》（當 AI 開始建造自己）。目前瀏覽量已接近 700 萬。

文章由公司聯合創始人 Jack Clark 與內部研究機構 The Anthropic Institute 負責人 Marina Favaro 共同署名。核心觀點可以用一句話概括：AI 正加速參與到自身的開發進程當中。如果這個趨勢走到極端，AI 將能夠在沒有人類介入的情況下，自主設計、測試並訓練出更強大的下一代 AI。基於這一判斷，Anthropic 呼吁全球主要 AI 實驗室考慮暫停 AI 開發，或者至少建立一套可以互相核查的減速機制。

這番表態之所以格外引人關注，不僅因為內容，也因為說這番話的是 Anthropic。

就在文章發布前幾天，Anthropic 剛剛完成最新一輪融資，估值達到 9,650 億美元，正式超過 OpenAI。同一周，公司向美國證券交易委員會秘密遞交了 S-1 注冊聲明草案，啟動 IPO 籌備流程。Anthropic 的年化營收正快速攀升，從 2025 年底的約 90 億美元增長到當前的接近 470 億美元，預計本月底將突破 500 億美元。在公司即將沖擊公開市場、商業勢能最強的時候，卻發出“請考慮減速”的信號，很難讓人不疑惑其動機。

不過在討論動機之前，不能否認的是，這篇文章確實拿出了實打實的內部數據。而這些數據之所以重要，是因為它們指向了一個越來越明確的趨勢：AI 研發自動化。

AI 研發自動化正在成為行業共識

Anthropic 的文章主要圍繞一個概念展開——“遞歸自我改進”（Recursive Self-Improvement，簡稱 RSI），指的是 AI 系統自主完成設計、測試、訓練下一代 AI 的完整流程，人類不再扮演關鍵角色。這個概念並不新鮮，但過去一年裡，它正從理論走向現實。幾乎所有頭部 AI 公司都在往這個方向投入資源。

以 OpenAI 為例，這家公司已經將“AI 參與 AI 研發”列入重點關注事項。其安全團隊專門設立了“Recursive Self-Improvement Preparedness（遞歸自我改進准備）”相關崗位，用於研究當 AI 能夠顯著加速自身研發時可能帶來的能力躍遷與風險。OpenAI 此前公開透露，其內部目標是在 2026 年前後打造達到“研究實習生”水平的 AI 系統，並在 2028 年實現能夠獨立承擔研究任務的自動化 AI 研究員。

登頂全球最值錢AI!Anthropic估值升至9650億美元

Anthropic三大模型接連曝光引熱議 AI巨頭競賽再升溫

搶在OpenAI之前 Anthropic秘密提交IPO申請

Google DeepMind 走的是一條更偏算法發現的路線。它的 AlphaEvolve 項目讓 AI 自主提出算法方案、運行實驗、篩選結果，再將優秀方案反饋回系統繼續迭代。這套系統已經被用於數據中心調度優化和 AI 訓練效率提升等實際場景，據報道還找到了 56 年來首個對 Strassen 矩陣乘法算法的改進。從某種意義上說，這也是 DeepMind 對“奇點”判斷的重要依據之一：當 AI 開始參與甚至推動新的科學發現和算法創新時，技術進步將進入加速循環。

頭部公司之外，越來越多創業公司也開始圍繞“自動化 AI 研發”布局。例如近期獲得大額融資的 Recursive Superintelligence，以及將“構建擅長 AI 研發的系統”寫入公司使命的 Mirendil，都是這一趨勢的代表。雖然技術路徑各不相同，但它們瞄准的是同一個目標：讓 AI 從研發工具變成研發過程的參與者，並最終承擔越來越多的研發工作。

正是在這個背景下，Anthropic 發布了這篇長文。它的立場是：RSI 還沒有發生，也不一定會發生，但它到來的速度“可能比大多數機構准備好的時間更快”。

AI 已經在多大程度上接管了 AI 研發？

在文章中，它用三組此前未公開的內部數據支撐了這個判斷。

第一組數據是關於 AI 的代碼能力。截至 2026 年 5 月，Anthropic 合並到生產代碼庫中的代碼有超過 80% 由 Claude 編寫。2025 年 2 月 Claude Code 上線之前，這個比例還是個位數。與之對應，2026 年第二季度工程師人均每天合並的代碼量達到 2024 年的 8 倍。文章專門補充說明：代碼行數衡量的是數量而非質量，8 倍很可能高估了真實的生產力提升。但趨勢是明晰的：工程師的角色正在從“寫代碼”轉向“指引方向和審查結果”。