跳到正文
MTS(youtube.com)· Theo·· 2 天前品質評分58

所有數學與物理之謎都將很快揭曉|Joshua Achiam

所有數學與物理之謎都將很快揭曉|Joshua Achiam

重點導讀

OpenAI 的 Joshua Achiam 主張,AI 的進展意味著多數困難的數學與物理問題如今都有了可解的途徑;但真正的近期風險是網路攻擊與美中協調,而政策制定者落後一到兩年。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

OpenAI 前首席未來學家 Joshua Achiam 主張,AI 解出黎曼猜想,意味著數學與物理領域中大多數尚未破解的難題,都將在「相對短的時間內」接連倒下——儘管人類要消化這件事的後果,得花上長得多的時間。本集以 2026 年 11 月這個里程碑為起點,延伸出佔據大部分節目時間的三大主題:數學與機器學習研究的突破,多快能轉化為現實世界的能力;美中 AI 護欄協議的雛形,以及其背後的出口管制兩難;還有 Achiam 對 AI 助長的網攻導致關鍵服務輪流中斷,抱持異常高的憂慮。黎曼猜想本身的結果,只在開頭簡短帶過。

Achiam 在 OpenAI 待了九年,最後擔任首席未來學家,現為 Future of Life Institute 旗下 FAI 與 Institute for Progress 的獨立研究員。主持人 Theo 與 Sofia 追問他時間表、市場對 AI 風險的錯誤定價,以及華府與北京能否在風險成真之前將其內化。讀者讀完應能掌握 Achiam 的具體預測(兩到三年內,突破性發現的成本降為十分之一)、他校準美中算力差距的框架,以及他的觀點:解決社會問題的關鍵限制在於協調與信任,而非單純的智慧水準。

AI 壓縮了數學與物理的難度,卻沒有壓縮因應的時間

Achiam 的核心論點是,黎曼猜想的結果並非孤立的奇聞,而是個指標,說明「我們過去認為很難的數學問題,如今大多都出現了幾條解法路徑」。他明確把這件事和快速起飛的敘事切開:全面更新認知,不等於假設某個超級智慧「明天就把世界變成 computronium(可計算物質)」。他說,數學理論與物理學的種種奧秘,很可能不久就會被揭開,但人類能否理解、消化這些發現並據以行動,是另一個緩慢得多的問題。

Theo 反駁他在社群動態上看到的過度更新,提出另一種解讀:黎曼猜想對這類心智而言只是比預期簡單,其他問題仍會長期卡關。Achiam 承認可能存在某種「隱而未顯的難度結構」,讓人類的校準嚴重失準,但他最終仍採較激進的看法。

他最尖銳的警告,在於發現與後果之間的延遲。就算一套完整的大統一理論「明天」問世,也不會隔天就生出顛覆性技術,因為知識必須先被內化、轉化為可操作的能耐。危險在於許多潛在後果悄悄堆疊而無人察覺,於是「世上什麼做法在戰略上最適,可能一夜之間改變」——無論是打造先進技術,還是投射武力——均衡在被打破之前,根本沒人意識到它有多脆弱。

「我確實認為,把認知更新到底,就意味著要理解:數學理論與物理理論中的所有奧秘,大概都會在相對短的時間內向我們揭曉。」

Achiam 也點出這個時刻的情緒基調:明明知道那些人們原以為得靠雙手攀登的高山,如今因為 AI 而能從觀景臺一眼望見,這種感覺很奇特;而未來幾年,這樣的時刻還會出現很多次。

機器學習研究的突破,代表能力更便宜,而非跨入另一個類別

Theo 提出複利論證:如果模型能橫掃數學,牠們可能很快也會橫掃機器學習研究本身;若瓶頸沒有報酬遞減,這意味著不到一年就能出現超級智慧,若有報酬遞減則是兩到三年。Achiam 不接受這個框架,呼籲大家對「超級智慧」這個詞少一點「FUD」(恐懼、不確定與懷疑),並把關鍵要素定義為樣本效率,以及產出非凡成果的推論成本。

他的具體預測是:兩到三年內,得出驚人技術創新的成本,大約會比 2026 年 11 月低十倍。他稱這「超級合理」,同時堅持這相對於今日世界並非類別上的躍變——只是同一個世界跑得更快、更便宜。

Achiam 的框架會改變的部分不會改變的部分
得出黎曼等級成果的算力/資料成本兩到三年內降約十倍(他的估計)底層世界仍可辨認為同一個世界
創新速度事情變快;每塊錢產出更多突破並非躍入另一種世界的斷裂
瓶頸假設瓶頸出現報酬遞減仍屬合理不押注一年內就出現超級智慧

協調與信任,比任何定理都難

Sofia 主張,超級智慧「應該解決」的是大規模的人類協調,而社會問題大概比補完標準模型這類智力成就更難。Achiam 強烈同意:社會其實早已知道許多理論上能解決自身問題的方法,但要讓人們真正關注,難如登天。少了能具體證明某個想法為何正確的擁護者,也少了信任鏈,「你哪兒也去不了」。

他把這點延伸到超級智慧問世之後的世界:超級智慧能否解決信任問題,並不顯然,因為一旦超級智慧出現,許多行為者都會拿它來推進自己的議程。當每個議程都有一場由人工超級智慧驅動的說服戰,哪一個會勝出「有點混沌」——最終取決於接收這些訊息的人如何反應,沒有任何特定政策構想或國家層級的謝林點(Schelling point)保證能勝出。

美中協議會在武器知識上找到共識,但碰不到更深層的風險

川普總統在本集播出當天宣佈,他與習近平已就 AI 護欄達成某種協議,他稱之為超級智慧護欄。Achiam 說,在沒看到文本、也沒有政策官員持續說明美中利益何處重疊之前,評斷都還太早。

他預期雙方在穩定與危險知識的不擴散上,會有真正的共識。中共高度重視國內穩定,因此會以自身的方式接受能保障穩定的標準。他預測兩國政府都會同意:消費級 AI 系統不應散佈製造先進武器的知識——或者用他極端的例子來說,不應散佈便宜到任何人花一萬美元、在地方五金行買齊材料就能觸發真空衰變事件的設計圖。

他擔心的是另一塊。從美中學者與研究人員的二軌對話中,他聽到的情況是:關於遞迴自我改進導致失準、極度高風險情境的想法,美方非常認真看待,中方也愈來愈能接受,但在中國尚未成為主流。他預期會有一段落差期,美方的優先事項在中國眼中顯得「有點陌生」——而他也把同樣一到兩年的落差,套用在華府決策者對 AI 後果的全面內化上。

Achiam 預期歷史還很長,因此早期的政策錯誤還有救

被問到「我們還有時間嗎?」,Achiam 說他不屬於認為大家會在一兩年內死光的那一派。他的猜測是,即使早期犯了嚴重錯誤,之後仍會有很長的歷史,也有很多修正路線的機會。他指出這在 AI 安全圈並非普遍看法——有些人認為必須一次做對,否則就是存亡問題——他說他尊重這種觀點,但不同意。

Theo 與 Sofia 補上歷史類比:二戰與新政迫使美國經濟全面轉向,配給券、戰時工廠作業,好幾年沒有新出廠的乘用車。Achiam 接著以羅馬陷落為例,說明既有法律與貿易慣例的喪失,主張人類一再從常態走向非常態,再適應新的常態。

網路服務輪流中斷是可信的近期未來,而市場尚未反映

這是 Achiam 與其他 AI 風險論者分歧最大的地方。他說過去兩週出現了「多條戰線前所未見地同時中斷」,同時還有與北韓有關的集團從 Binance 竊走五、六十億美元,以及烏克蘭戰事與臺海潛在衝突。他對成因不宣稱確定,但把 AI 助長的網攻癱瘓全球經濟與消費服務,視為需要準備的現實情境。

他舉出官方憂慮的訊號:幾週前英國發布宣告,要民眾囤貨準備;福斯新聞主播呼籲觀眾備貨;Costco 的發電機賣到缺貨。他把這種氛圍比作 COVID 初期。

「我認為在未來幾年內,網路消費服務出現輪流中斷成為常態,是在現實或可信範圍之內的。」

他提出的因應是營運持續規劃,而非末日論:維持資料的備援程式、保護消費者紀錄、在服務被打癱時讓商業活動照常運轉,並針對關鍵服務可能失效的時間尺度,保住物流與供應鏈。他對美國已有應變計畫感到樂觀,並說就算太陽閃焰燒壞所有電腦,也會「極度糟糕」但不致命——多數社群會在幾週內開始想辦法讓一切重新運轉。

Theo 點出市場的脫節:VIX 上週飆漲約 100%,但那是因為 AI 股下跌,不是因為投資人在為網攻災難定價。Achiam 的回答是,市場十年來一直沒把 AI 當一回事——十年前要為大規模 AI 投資募資,難得令人吃驚,而很少人預期黎曼猜想會在 2026 年底前被解出。「市場對指數型成長的定價很差。而這就是指數型成長。」

他也解釋為何網攻風險在安全圈較少被討論:以人類滅絕為主要情境的人,會專注在那件事上,把網攻災難當成「小事」,除非它能佐證更大的風險。Achiam 主張採取多管齊下的做法,同時涵蓋當下的外部性、近期未來與長期。

出口管制問題,本質上是「最適算力差距」的問題

Achiam 說美國必須維持對中國的戰略優勢,這點沒有妥協空間。他反對的是他在最近某週——黃仁勳被清算、出口管制收緊——所看到的倡議風格:他稱之為短視、「幾乎不在乎後果」的政策倡議。

他的推理以算力為萬事之基:幾年之內,所有科學與技術研究都會透過算力進行,因此一個國家的算力,決定它能開發多少、多先進的技術,進而牽動經濟實力,以及投射武力與嚇阻對手的能力。如果美國的技術進步速度遠遠超前中國,在「所有戰線上」一路絕塵,北京到某個時點將無法接受,並產生強烈的預防性行動壓力。

他引用 Dan Hendrycks 等人提出的「AI 失靈相互保證」(mutually assured AI malfunction)——對資料中心、以及對 AI 產出國力的手段進行暗中、有時公開的攻擊——作為整體影像的一部分,但不是全部。考量烏克蘭、中東乃至潛在的臺海等相互牽連的衝突,他預期衝突可能擴及 AI 基礎設施之外。他的處方是:出口管制與晶片限制應該存在,但管制程度應透過建模、模擬,以及審慎的戰略思考來設定,考量中國如何看待自身國家利益所受的威脅——而這種知識,他說 AI 社群目前並不具備。

值得關注的重點

貫穿這些線索的主軸,是 Achiam 反覆回到的同一個不對稱:能力的到來,快過制度與人類吸收它的速度。同樣的落差出現在數學(定理先倒下,社群才慢慢消化)、政策(北京與華府都落後一到兩年)與市場(指數型成長被錯誤定價)。他與主流 AI 安全圈的分歧,在於機率與先後順序,而非方向——他給近期滅絕的機率較低,相應地把更多權重放在網攻癱瘓、戰略突襲與算力差距校準問題上。尚未化解的張力來自他自己:他樂觀地認為歷史夠長,足以修正早期錯誤,卻又警告均衡可能在被意識到脆弱之前就被打破。具體可追蹤的專案包括:川習護欄協議的公佈文本、美中研究社群是否在遞迴自我改進風險上趨於一致,以及英國與美國媒體的官方囤貨指引,是否預示著針對網路服務的真正營運持續規劃。

來源: MTS (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論