跳到正文
MTS(youtube.com)· Theo·· 7 天前品質評分58

AI 研究加速為何突然翻倍 | Eli Lifland 與 Brendan Halstead

AI 研究加速為何突然翻倍 | Eli Lifland 與 Brendan Halstead

重點導讀

Eli Lifland 與 Brendan Halstead 引用 METR 報告指出,AI 進展速度已翻倍,其中 80% 來自 AI 加速 AI 研究;但他們同時修正了對《AI 2027》起飛情境的看法,轉向更緩慢、更漸進的加速模式。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

AI Futures Project 研究員 Eli Lifland 與 Brendan Halstead(兩人也是 AI 2027 與 2040 的共同作者)表示,METR 近期一份報告顯示過去一年 AI 進展加速約 2 倍,這讓他們把時間表往前拉,認為 2027 年就會出現超人類 AI 研究員。本集大部分時間都在討論他們如何解讀 METR 這項發現、它打破了模型的哪些假設,以及他們與 Romesh Nom 這類懷疑論者仍有哪些分歧——標題裡的「翻倍」只是起點,並非整集的全部。

Lifland 與 Halstead 就是打造 AI Futures 模型的人,因此討論格外具體:AI 研發自動化的哪些子環節可能被他們低估(RL 環境生成、寫程式),為什麼漸進式加速同時是時間表縮短與起飛較慢的證據,以及要讓 2027 年這個判斷落空,必須成立哪些條件。讀者讀完應該能掌握這次更新背後的具體數字、產生這些數字的模型機制,以及作者自己點名的否證條件。

METR 的 2 倍加速、其中 80% 歸因於 AI,是這次更新的核心

AI Futures Project 修訂時間表的最大單一輸入,是本集播出前一週(2026 年 11 月初)發表的 METR 報告,評估的是 Anthropic 內部的 AI 進展速度。Lifland 總結其發現:過去一年 AI 進展平均加速約 2 倍,而 METR 估計目前這波加速中約有 80% 可歸因於 AI 加快了 AI 研究。在這段時期的較早階段,加速主要*不是*由 AI 驅動。

這一點之所以重要,在於 AI 2027 把同一個里程碑放在哪裡。在模型中,來自 AI 研究的 1.7 倍加速要到 2027 年初才會出現。Lifland 的解讀是:「直覺上來看,我們好像可能已經跑在 AI 2027 時間表前面了。」他補充,Anthropic 另外已宣佈,它認為自家近期模型已跨過 2 倍加速門檻。

Lifland 明確表示,這次更新建立在薄弱的證據基礎上。METR 團隊規模很小——他說「兩個人……大概在那邊待了六週之類的」——而且「他們沒辦法公開很多最重要的證據」。他也提到,METR 對 AI 歸因加速的歷史軌跡幾乎隻字未提,只給出「一張假資料圖」。如果加速最後證明不是真的,這次更新就是錯的。

第二項輸入:AI 系統現在能解非常難的數學題。Lifland 把這視為能力在不同領域之間具有相關性的證據,尤其證明在最佳化目標相對可驗證的 AI 研究領域(他舉預訓練研究為例)是可以取得進展的。

模型很可能低估了 RL 環境生成

被問到他們自己提出的哪個模型誤差假設最有可能成立時,Halstead 指向 AI Futures 模型完全沒有納入的一項能力:AI 生成 RL 環境。他認為這與一般寫程式自動化屬於不同類別,因為它直接回饋到訓練;他推測 RL 環境與 METR 所測量的 Anthropic ECI 指數上的分數之間可能存在某種關係。若這個連結成立,自動化這塊寫程式工作帶來的提升會比模型模擬的更大。

談到資料瓶頸,Halstead 對預訓練並不擔心:從早期到現在,進展「就算沒有加快也一直持續」,無論是靠合成資料還是資料效率提升,他不認為短期內會出問題。至於更廣泛的 RL,他認為真正的限制在於每次 rollout 本質上都很耗時的領域,樣本數因此受限——但他也指出,發明資料效率更高的學習演算法本身就是可驗證的任務,「這種事情可以累積大量練習次數,超人類 AI 研究員可以大幅加速」。

主持人根據他們自己的文章,向他們提出的其他可能解釋還包括:寫程式能力帶來的 AI 研發提升比模型假設更多;寫程式之外的能力與研究品味也會推動加速;以及模型把提升轉換為進展速度的換算過於保守。

模型裡的報酬遞減可能太強,而非太弱

Lifland 的回答顛覆了懷疑論者通常的擔憂。AI Futures 模型以標準經濟學方式納入了「想法越來越難找」的概念,而且它「在這次可能的 Anthropic 加速之前,其實對過去的預測相當準確」。問題在於,METR 的發現——進展出現一次躍升,而最初主要*不是*歸因於 AI——是模型無法解釋的。Lifland 的結論是:「如果真要說,我認為我們已經往報酬遞減沒那麼陡的方向更新了。」

至於更難的問題:研發中困難的部分是否比簡單的部分更久才被自動化,Lifland 說模型對寫程式確實有處理,因為寫程式是任務導向、自動化難度有光譜。但模型沒有明確地對研究品味——挑選實驗與研究方向——建立同樣的難度梯度。在新文章中,兩位作者各自做了調整,以反映研發更具多維性,但 Lifland 也承認「我們對於該做多大程度的更新,大概確實存在分歧」。

漸進式加速是雙面刃:時間表縮短,起飛更慢

Lifland 最有意思的結構性論點是:METR 的結果並非單純的看多更新。在 AI Futures 模型中,可觀的 AI 歸因加速通常需要研究品味大幅提升,光靠寫程式自動化不夠——至少要有接近人類中位數的研究品味,往往還要遠高於此。因此,如果六個月前已有明顯的加速在進行,而結果只帶來 1.7 倍、而非 5 倍或 10 倍,那就意味著 AI 的研究品味提升得比模型假設的慢。

「有可能整件事是同時往時間更短與起飛更快更新,因為兩者相關。但從這個……可能比我們想像更漸進的加速來看,也有一部分是往起飛更長的方向更新。」

他自己點出了但書:如果真正的解釋是寫程式自動化帶來的提升遠超模型假設,那麼關於研究品味的推論就不成立。

他們與 Romesh Nom 的分歧:兩個缺口,不是一個

主持人剛訪問過 Romesh Nom,他被描述為短時間表與 RSI 懷疑論者,提出了一連串缺口:OpenAI 在研發任務上的時間跨度,遠低於 ECI 在一般 METR 軟體工程任務上所隱含的時間跨度;擅長寫軟體與擅長研發之間還有另一個缺口;從具備研發能力到自動化全部研發(包括最難的部分)之間又有一個;再從那裡到完全的智慧爆炸,還有報酬遞減。

Halstead 承認第一個缺口確實存在並加以解釋:METR 的基準測試者背景脈絡較少——他們是為研究而聘的約聘人員,不像 OpenAI 任務那樣是嵌入在更大工作職責中的人——所以他們花的時間更長。他也指出,絕對時間跨度在不同領域間差異很大,而成長率衡量起來較為一致,他把這歸功於 METR 前一年的研究。AI Futures 模型已經用一個額外的乘數因子校正所需時間跨度。

關於報酬遞減,Lifland 的回應就是前述的顛覆——模型可能高估了報酬遞減。關於困難部分的缺口,他指向任務導向的寫程式模型,並承認研究品味沒有以同樣方式建模。

什麼情況會否證 2027 年這個判斷

被問到如果到了 2027 年底或 2028 年底明顯還沒有超人類 AI 研究員,最可能的原因是什麼,Lifland 提出兩個可能,而非一個。第一,METR 與 Anthropic 都高估了實際取得的進展,或高估了其中歸因於 AI 的比例——他指出這類估算目前沒有堅實的科學基礎。第二,研發涉及多種技能,其中有些落後,沒有像其他技能一樣快速提升。

起飛速度這個問題,是兩位作者最沒有定論的地方。Lifland 對這個張力的描述值得保留:讓時間表縮短的同一批證據,也暗示研究品味這個瓶頸卡得比模型假設更久,而這兩個效應對「終局看起來有多突然」的作用方向相反。

主張本集出處可信度訊號
過去一年 AI 進展加速約 2 倍METR 報告,經 Lifland 轉述作者高度依賴此報告;關鍵證據未公開
目前加速中約 80% 歸因於 AIMETR 估計,經 Lifland 轉述歷史軌跡未公開
AI 2027 中 1.7 倍 AI 研究加速於 2027 年初出現Lifland 描述自家模型模型輸出,非對現實的預測
Anthropic 認為已跨過 2 倍加速門檻Lifland 轉述 Anthropic 說法二手資訊
2027 年出現超人類 AI 研究員AI Futures Project 修訂後的看法作者自己更新後的判斷

貫穿整集而未解的疑問是:METR 這個數字反映的是真正的體制轉變,還是一份為期六週、只有兩人的研究造成的測量誤差。Lifland 自己的否證清單把測量誤差排在第一位,對提出看多更新的作者來說,把這扇門留開著相當值得注意。值得持續追蹤的是:METR 是否公開底層證據,以及 Anthropic 下一次模型發布是否顯示加速持續超過 2 倍或趨於平緩——若是後者,將支援「研究品味落後」的說法,即使時間表維持 2027 年,也意味著起飛更慢。

來源: MTS (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論