該盯的是蠟，不是高度：三大 AI 實驗室的 RSI 量測怎麼讀

10 月 30 日，《華爾街日報》專欄作家 Ben Cohen 把一張 Anthropic 的圖稱為「AI 圈最聰明的人眼中，世界上最重要的圖」：Claude 主導的 AI 研發工作，一年內從 0% 升到 26%。這是一張 高度計 。

我把這張圖的原始出處，連同 Google DeepMind 和 OpenAI 同期發布的報告全部讀完。三家都在量遞迴式自我改進（recursive self-improvement，RSI，指 AI 自主打造更強的下一代 AI）。結論先講：

原始出處是 Anthropic Institute 的〈Measurements for understanding the pace of AI development inside frontier labs〉。我逐項對過 WSJ 的重製圖和 Anthropic 原圖：

DeepMind 的做法最值得工程師細看，因為三者中只有它用 模型能力的進步斜率 ，當作端到端研發加速的代理量。它在 Gemini 4 Argon 的安全報告（§3.4.2）裡自建了能力指數 GCI v1：用 123 個模型在 92 個 benchmark 上的成績，擬合出每個模型的單一能力分數。接著對 Gemini 模型的分數序列，以 2026 年 4 月 1 日為斷點檢驗是否加速：

注意，點估計其實上升了約 30%（納入內部模型時約 10%），只是區間太寬。所以準確的說法是「 還量不出加速 」，不是「沒有加速」。

OpenAI 的 Preparedness Framework（v2）對「Critical」級自我改進定了兩條擇一的指標：領先指標是出現超越人類的研究科學家 agent；落後指標是以 2024 年 1/5 的時間完成一次世代級的模型進步（例如從 o1 到 o3），並持續數個月。兩條都不是「AI 做了多少工作」，而落後指標看的正是 產出變快 。

如果你正在團隊裡導入 coding agent，下面這三個數字比任何頭條都更值得參考。它們來自全世界最熟悉自家 agent 的團隊：

結論很直接：連前沿實驗室，agent 在長任務上都還是「高槓桿的助手」，不是「可以放手的同事」。如果你的導入計畫把數小時的任務預設為可以無人看管，請注意：即使在 成功完成 的樣本裡，也有過半曾經需要人工介入。

如果速度還沒失控，為什麼還要擔心？因為三家的報告裡，都有線索指向同一個缺口： AI 能做的事，和人類看得住的程度之間，差距正在擴大。

Anthropic 那篇文章其實也不只有一張圖。它提出的是三個儀表： 自動化 （26%）、 監督 （在其最常用的內部平台上，約 3 萬個 agent 同時運作，所有動作都經過監控，大約每 4.7 萬個決策攔下 1 個；這組數字只涵蓋該平台，上面那起事件就發生在監控範圍之外）、 算力分配 （AI 驅動的研發算力中，約 12% 用在安全上）。WSJ 只取了第一個，也就是高度計。

第一，警告的人和飛的人是同一批。 神話裡，是父親代達洛斯警告兒子。現在，WSJ 引述 Anthropic 執行長 Dario Amodei 說，RSI 必須「非常謹慎地」追求，「如果真的要做的話」；Pachocki 寫道：「我擔心沒有人準備好面對機器智慧持續快速提升所帶來的後果。」但他也寫道，OpenAI 把研究導向 RSI，「因為我們相信，這是未來維持 AI 研究前沿地位的唯一途徑」。

第二，代達洛斯的警告其實有兩半： 不要飛太高，蠟會融； 也不要飛太低 ，海水會浸濕羽毛。實驗室的論點正是這兩半：一方面必須建立夠強且對齊的 AI，來防禦其他 AI 帶來的威脅；另一方面，Pachocki 自己也說，「不惜代價向前競賽的想法荒謬至極」。

蠟還沒融，但正在變軟。值得注意的是，解方不必靠外人發明，三家的報告裡已經寫了。整理成四層，從最可行到最困難：

我的判斷是： 第 1 層是其他三層的前提，而第四節的算力數據說明了第 4 層為什麼繞不過去。 量不一致，就無法設門檻；而 OpenAI 的數據顯示，限制單一模型時，那組工作負載被削減的算力約有 85% 轉給了其他模型。剎車只裝在一個輪子上，車不一定會慢下來。

技術上的蠟也還在補。Pachocki 提到的方向包括：結合思路鏈監控與直接讀取模型內部的「活化監控」，以及讓模型主動「自白」。這些都還在研究階段， 尚未證實有效 。

伊卡洛斯的翅膀只有蠟，沒有操控。人類最後學會飛，靠的是把操控當成第一個要解決的問題。

1901 年 9 月，Wilbur Wright 在西部工程師學會演講，把造飛機的難題分成三類：機翼、動力，以及「飛行中的平衡與操控」。他說前兩者已經「在某種程度上解決了」：當時早就有引擎強到能讓機器離地的案例，卻因為「無法平衡與操控」而失敗。他的結論是：

「When this one feature has been worked out, the age of flying machines will have arrived, for all other difficulties are of minor importance.」 （這一項一旦解決，飛行機器的時代就會來臨，其他困難都是次要的。）

今天 AI 研發的處境，和 1901 年的飛機很像：動力已經有了，三家的自動化讀數都在上升；沒解決的，是操控。第六節那些「更好的蠟」，用萊特兄弟的話說，就是操控。對工程師來說，這不是哲學問題，而是工程順序的問題。

揭露：本文在 Claude（Anthropic 的模型）協助下完成研究與起草，而 Anthropic 是本文的分析對象之一。三家實驗室的數字均已對照其原始報告；WSJ 的表述則與該篇報導核對。發布前另經 OpenAI Codex 獨立審稿。