跳到正文
MTS(youtube.com)· Theo·· 6 天前品質評分58

AI 模型將自動化自身的研究工作|Ryan Williams

AI 模型將自動化自身的研究工作|Ryan Williams

重點導讀

MIT 的 Ryan Williams 認為,AI 很快就會自動化機器學習研究與自我改進,但可能撞上未知的理論極限;他預測千禧年難題中,Navier-Stokes 方程可能最先被攻克。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

MIT 電腦科學家 Ryan Williams 表示,AI 實驗室確實產出了一項真正新穎的數學成果——一份宣稱推翻指數時間假設(exponential time hypothesis)的證明——但學界至今仍說不清關鍵的新想法從何而來、又代表什麼意義。這場對談全長 25 分鐘,大部分時間都在討論這份證明如何被消化與驗證、實驗室該如何發布這類成果,以及 AI 目前能解與不能解哪些問題;標題所稱「模型將自動化自身研究」直到接近尾聲才短暫提及,Williams 對此表示認同,但附帶保留。

Williams 是協調社群審查 OpenAI 與 Anthropic 所生成證明的電腦科學家之一,這些證明宣稱推翻了指數時間假設——P 對 NP 問題的一種強化版本。他為非專業聽眾梳理背後的理論、說明審查進度,並以實務工作者角度剖析:AI 已攻克的問題與尚未攻克的問題,差別究竟在哪。讀者讀完應能具體掌握這份證明的現況、聽到對 OpenAI 發布方式的具體批評,以及 Williams 對 AI 驅動機器學習研究、以及此刻鑽研複雜度理論的看法。

AI 證明的內容大致已被理解,但有一個步驟無法解釋

Williams 表示,一群研究者現在已理解 OpenAI 證明的「幾乎所有環節」,而其中大部分環節都可追溯至既有文獻。唯一的例外是某個步驟——Anthropic 與 OpenAI 的解法中都出現——他稱之為「徹底新穎」:拆解開來仍可理解,但來源不明、意義也不明。他認為這份證明之所以被認為晦澀難懂,部分要歸咎於寫作品質不佳,而非本質上的困難:它違反了一般數學慣例,逼得專家讀者得來回翻找,才能想起某個變數代表什麼。

「我認為 Anthropic 和 OpenAI 的解法裡都有這麼一個環節,看起來徹底新穎……它就是個全新的東西,沒人清楚它從哪來、又意味著什麼。」

這些證明已在證明助理 Lean 中形式化,正因如此,連專家數學家都不易跟上的細節才得以確認無誤。Williams 認為,形式化正是這些不尋常步驟得以被信任的原因;但他也把「驗證」與「理解」分開來看——社群能核對證明,卻還無法解釋那個新穎步驟。

可解的問題是綜合問題,不是洞見問題

Williams 對 AI 在數學上能與不能做什麼的分析,是本集最具遷移價值的洞見。那些被攻克的問題——包括準多項式假設(quasi-polynomial hypothesis)相關研究——各自需要五、六個要素,而這些要素全都散見於既有文獻,只是沒有任何一個人同時掌握全部。AI 的優勢就在於把這些組合拼湊起來。至於仍未解的問題,很可能需要先開發並發表兩、三個全新的要素,模型才有辦法加以組合。

他也為這個極限給了具體數字:據他理解,OpenAI 在其嘗試過的題目中,解出的比例遠低於 20%。他指出,自己丟給這些系統的許多問題,都得不到任何有趣的結果。

問題型別所需條件Williams 眼中的 AI 現況
已解(如準多項式假設相關研究)巧妙綜合來自不同領域的 5–6 個已知要素已解出
未解兩、三個尚未見於文獻的全新要素仍搆不著
整體嘗試成功率—嘗試過的題目中解出不到 20%

未經整理的批次發布,拖慢了公眾理解

Williams 對 OpenAI 發布方式的批評是程式面的,而非技術面的。他表示,把成果一股腦倒出來、不做整理,會讓記者難以判斷該找誰談,公眾也就難以理解到底發生了什麼事。他偏好的模式是:OpenAI 知會一群數學家,再由這群人決定誰來協調發布、誰值得託付——因為他認為,企業利益未必總與學術界一致。

他指出,OpenAI 這次的案例是靠私人關係才理順的:相關人士「一隻腳在 OpenAI、一隻腳是教授」,而在理論電腦科學界,教授借調到 OpenAI 相當常見,所以他們知道該聯絡誰。他以此對照同一批大量發布中的其他成果——那些成果「就這麼擺著」,因為沒人確定誰會出面主導;他說,直到最近,才有一個 Discord 群組圍繞其中一個問題成立。他認為,由許多人各自獨立、缺乏協調地消化,相較於一群人協同合作,是「絕對更糟」的做法。

AI 很可能自動化機器學習研究,但硬性極限仍未知

被問到模型是否會從數學推廣到機器學習研究、進而加速 AI 進展時,Williams 的答案是肯定的——模型「相當可能」會自動化研究,產出更好的自己,而他認為機器學習研究的改善「很容易說得通」。他的保留是:可能存在無人察覺的硬性極限,類似機器學習領域的 P 對 NP 型定理。他表示,值得注意的是,擴充套件(scaling)至今尚未撞上這類瓶頸。

至於為何外界看不到這些進展,Williams 推測——並明言這只是假設——Anthropic 與 OpenAI 握有許多內部機密,用來提升模型的速度、範疇與技能,而數學上的進展也屬專有。除了進展的速度之外,他並未提出其他佐證。

Navier-Stokes 看來最接近被攻克,其餘難以預測

Williams 出席了 Clay 數學研究所 2025 年為千禧年大獎難題(Millennium Prize problems)25 週年舉辦的會議,會中逐一說明各題的未解狀態。他會後的感覺是 Navier-Stokes 可能最先被攻克,因為當時該題已有人藉助電腦輔助進攻,他把它視為某種特例。至於其餘題目,他拒絕預測。

針對 P 對 NP,他描述了幾個相互競爭的學派:一派認為只需一個天才級的洞見即可,另一派認為要花 500 年——而由於 AI,有些人現在把這個時程壓縮到約 10 年。他表示,時程非常難以預測。

複雜度理論即將面目全非,學生必須保持彈性

Williams 給踏入數學或理論物理的學生的建議,立基於他自己領域變動之快。他表示,計算複雜度向來以「未解問題看似毫無進展、甚至難以理解」而惡名昭彰,一整片問題地景上沒人有頭緒。但近幾年來,在 AI 加速之下,情況正在改變。

他的處方是保持彈性——這對研究生本來就是基本要求,但如今「或許重要 10 到 100 倍」。學生不該鎖定單一路徑、指望一路走到底,而應願意隨著地勢變動持續學習。

理論,用白話說

Williams 對背後問題的解說,是本集的教學段落。NP 是指「一旦拿到解答,就能快速驗證」的問題類別——他以數獨為例。P 則是能從頭快速解出的問題類別。P 對 NP 問的是:每個能快速驗證的問題,是否都存在一條快速找到解答的捷徑演算法。指數時間假設則強化了 P ≠ NP:對某些應用範圍極廣的 NP 問題而言,你無法比逐一嘗試所有解答好上多少——甚至連「中等程度」的削減都做不到。

他對實用性相當謹慎。理論結果可能與實務毫不相干:一個演算法可以有次指數或多項式級的擴充套件性,卻依然無法實際應用。目前找到的演算法,其隱藏的常數因子比宇宙基本粒子總數還大。對密碼學家而言,這個假設是有用的資訊,因為它顯示理論上的破解在未來是可能的。他表示,若 P 等於 NP 且存在有效率的演算法,世界將徹底不同——他的比喻是:欣賞好音樂的能力,將等同於創作好音樂的能力。

值得關注的重點

尚未解開的線頭,是 AI 證明中那個新穎步驟。一群研究者可以在 Lean 中驗證它、重現周邊論證,但還沒有人解釋這個想法從何而來——而真正能告訴學界這套技術能否推廣的,正是這份解釋,而非形式化本身。有兩項相關訊號值得追蹤:OpenAI 大量發布中那些無人認領的成果,是否會吸引到協調者;以及 Williams 關於實驗室內部機密的推測,是否會以可量測、有揭露的模型能力提升形式浮現,而非僅從數學成果反推。他那個「低於 20%」的解出率,則是日後面對「AI 已『解決』一批未解問題」這類說法時,該拿出來對照的數字。

來源: MTS (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論