Anthropic 是否已跨越自家的 RSI 警戒線?| Parv Mahajan
Anthropic 是否已跨越自家的 RSI 警戒線?| Parv Mahajan
METR 的 Parv Mahajan 指出,Anthropic 自家資料顯示自 2025 年底以來 AI 研發加速約 1.97 倍,已逼近 2 倍門檻,但 METR 目前的方法仍無法確認是否出現雙曲線式成長,且原始資料仍遭遮蔽。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
METR 總裁幕僚長 Parv Mahajan 表示,若依 Anthropic 自己公佈的數字推算,其 AI 研發加速幅度約為 1.97 倍,剛好略低於其風險框架所設的 2 倍門檻;但在他看來,METR 應該會判定門檻已經跨過。整段訪談大部分時間都花在這項發現的極限上:METR 能測什麼、不能測什麼,證據為何大量被遮蔽,以及對於「AI 研究是否正在產生加速報酬」這個問題,外界其實幾乎無從斷言。
Mahajan 受訪的時間點,是 METR 發布一份針對 Anthropic 內部 AI 研發加速情況的「高存取許可權」試辦演練的隔天,同一時間還發布了對 Anthropic 2026 年 8 月風險報告中「自動化 AI 研發」章節的評析。讀者讀完應該能掌握:報告實際的主張、Mahajan 自己承認的具體方法論缺口,以及他視為本集最重要啟示的透明度論點。
Anthropic 自家數字落在 1.97 倍,剛好低於其 2 倍警戒線
METR 對 Anthropic 2026 年 8 月風險報告的評析指出,一般讀者讀公開版本後,會得出 Anthropic「明顯低於 2 倍」的結論。Mahajan 說,底層數字並不支援這種印象:依他的說法,視採用的衡量方式而定,算出來大約是 1.97 倍,也就是「非常接近 2 倍,對吧,而那就是門檻。」
Mahajan 的判斷是,這份報告誇大了 Anthropic 應該有的信心程度;若由 METR 人員檢視 Anthropic 掌握的全部證據,他們很可能會認為 2 倍門檻「非常可能、甚至也許算得上很可能」已經跨過。他對職責範圍拿捏得很謹慎:METR 的任務是評論證據並讓公眾取得,而不是替 Anthropic 的治理機制決定門檻跨過後該怎麼辦。
「如果這份報告是 METR 寫的,尤其是如果由 METR 人員檢視 Anthropic 能取得的全部證據,我們很可能會認為,2 倍門檻非常可能、甚至也許算得上很可能已經跨過。」
主持人提到,Anthropic 共同創辦人暨負責任擴充套件長(Responsible Scaling Officer)Sam McCandlish 首度在 X 上針對這份報告發文,表示 Anthropic 將在未來幾週公佈自家對研究進展的分析。Mahajan 對這份檔案的訴求很具體:公佈原始資料,說明訓練流程各環節的改進中,哪些是人類做的、哪些是 AI 做的,包括 METR 報告中被遮蔽的部分,讓外部人士能自行分析。
核心發現是 2025 年底以來進展速率達 2 倍,且主要歸因於 AI
METR 的核心結論是:從大約 2025 年底至今,AI 進展速率持續達到歷史水準的兩倍——「一年的時間,走出兩年的 AI 進展」。Mahajan 說,METR 認為這主要歸因於 AI,但他也強調證據非常不確定。
報告同時指出,並未觀察到瓶頸,也沒有明顯會造成強烈遞減報酬的成因,也就是說,看不出加速即將放緩的跡象。但這並不代表已排除快速加速的可能。Mahajan 把結論界定得很窄:METR 既無法排除快速加速,也無法證實它會發生。
| 發現 | METR 的立場 | 信心程度 |
|---|---|---|
| 進展速率 | 2025 年底以來約為歷史趨勢的 2 倍 | 以觀察到的事實陳述 |
| 加速成因 | 主要為 AI | 「非常不確定」 |
| 瓶頸(演算法、訓練算力、實驗算力、資料) | 未來 12 個月內沒有具說服力的瓶頸 | 整體信心偏低;報告作者對訓練算力不構成瓶頸有信心 |
| 快速加速 | 既未證實也未排除 | 不確定 |
| 雙曲線式(快於指數)成長 | 無證據,但方法也偵測不到 | 未知 |
測量難題:即使雙曲線成長存在,METR 也偵測不到
本集最尖銳的方法論自白,是關於加速報酬——也就是能力提升 1% 之後,要再提升下一個 1% 是變得更簡單還是更困難。Mahajan 說,METR 並未看到雙曲線成長,但即使真的發生,它現有的方法也沒有一項能篤定偵測到。
他提出三個理由。第一,資料涵蓋的時間視窗只有大約一年,且只涵蓋為數有限的內部模型。第二,許多重要證據被遮蔽,能公開描述的內容因此受限。第三,所採用的幾條證據線——研究員訪談、自陳的提效幅度、對訓練流程各環節中 AI 與人類貢獻的調查,以及 Anthropic Epoch Capabilities Index(ACI)——本身就不是為了偵測這種模式而設計的。
Mahajan 提出一個能一舉定案的具體訊號:如果 Anthropic 或其他公司 100% 的架構創新都來自 AI,雙曲線成長大概就已經在發生。他說,目前無論公開或非公開的證據,都不足以證實或排除這種情況。
ACI 的轉折是真的,但很脆弱,而且只衡量規格明確的任務
引發公眾最強烈反應的那張圖,顯示 ACI 在大約 2025 年 10 月之後開始加速。Mahajan 說,METR 做了大量穩健性檢驗,這個轉折站得住腳,主要原因是 METR 能對 Anthropic 的內部模型做基準測試,加上方法論上的調整。一旦拿掉這些條件——移除內部模型,或納入其他公司的公開模型——轉折就變得不明顯許多。他指向 Anthropic 的 Mythos 預覽版系統卡及後續的系統卡,指出在那些地方看不到這個效應,這也是 METR 想確認它是否能推廣到其他實驗室、以及是否會持續的原因。
更深一層的限制在於任務型別。ACI 涵蓋的是規格明確的任務。Mahajan 承認,目前的公開證據與「模糊、長跨度任務上幾乎沒有加速」是相容的——而這類任務可能正是 AI 研發加速或大規模遞迴自我改進所必需的。他確實看到一些「生命跡象」:自主的演算法改進,以及訓練流程中可能對遞迴自我改進(RSI)有重大意義的環節出現大幅改善,但他說這些證據非常不明確。
自陳提效幅度幾乎無法解讀,Anthropic 自家民調差距達 10 倍
Anthropic 內部針對自陳提效幅度所做的 Slack 民調,結果差距約達十倍,從大約 1.2 倍到 12 倍。Mahajan 並不把這種落差當成關於技術本身的訊號,而更傾向視為關於調查方法的訊號。
他引用 METR 2025 年的研究:當時研究員自認獲得約 20% 的提效,實際上卻是負提效。他說,METR 後期的方法論不確定性高得多,無法得出確定結論。問題格式與提問框架本就是問卷研究公認的難題,而在時間長、定義模糊的任務上更難處理——Anthropic 的機器學習研究員並不會鉅細靡遺地記錄時間。他的解讀是:自陳提效幅度快速上升值得注意,但具體數字不太值得採信,誤差範圍大到它只能算是眾多證據線中的一條。
證據被遮蔽,迫使公眾對 METR 付出過多的信任
Mahajan 點名透明度是本集最重要的啟示。在理想情況下,METR 應公佈原始證據,讓公眾能套用自己的模型、更新自己的時間軸預測。但由於大量證據被遮蔽,「公眾對 METR 的信任程度,被迫高於理想狀態。」
他把這個原則延伸到 Anthropic 即將發布的分析,也延伸到整個領域:不該由任何單一組織——包括 METR——來充當風險的仲裁者。個人、政策制定者和公眾都應該能自行分析。他將此連結到 METR 關於證據透明度的風險評估提案,並呼籲實驗室盡可能單方面釋出資訊。
被問到自己的時間軸預測有沒有改變,Mahajan 說沒什麼變。他主張,任何時間軸模型都該取決於兩個尚未解答的問題:模型在廣泛、定義模糊的任務上是否正在進步,以及這些任務對 AI 研發有多重要。這兩點都還不清楚。
非專業讀者該從這份報告帶走什麼
Mahajan 用對父母和妹妹說明的方式回答:在 Anthropic,AI 的進展快得多,公司似乎正在打造能加速自身的工具,而且這種情況至少從 2025 年底就開始了。這對未來意味著什麼非常不確定,成因和事件的確切順序也一樣不確定。遮蔽讓情況更糟,因為科學家和公眾無法從原始資料得出更確定的結論。他希望有更多像這次一樣的嵌入式演練,也希望實驗室更自願地揭露資訊。
未解的張力是結構性的。對 Anthropic 框架而言最重要的那個數字——1.97 倍對上 2 倍門檻——所處的誤差邊界,比 METR 自己對底層證據所加註的不確定性還要窄。METR 的評析說門檻很可能已經跨過;但 METR 自己的方法卻偵測不到那種會讓門檻真正關鍵的、快於指數的成長。接下來幾週,值得觀察 Anthropic 承諾的分析是否公佈訓練流程層級的人類與 AI 貢獻歸因資料;也值得觀察 ACI 的轉折是否在其他實驗室重現——Mahajan 說,這正是判斷這究竟是 Anthropic 一家公司的故事、還是整個產業故事的關鍵檢驗。