跳到正文
The Cognitive Revolution(youtube.com)· Nathan Labenz·· 2 天前品質評分58

把領先優勢花在安全上:拜登AI顧問Ben Buchanan與Tantum Collins談世界命運

把領先優勢花在安全上:拜登AI顧問Ben Buchanan與Tantum Collins談世界命運

重點導讀

Ben Buchanan與Tantum Collins主張,美國應透過限制中國取得算力來建立AI領先優勢,再把這份優勢投入安全,同時也坦承川普時期的執法鬆懈,以及民主監督的必要性。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Ben Buchanan 與 Tantum Collins 主張,美國應運用對中國的算力優勢爭取時間,再放慢腳步,把領先幅度投入 AI 安全。這兩位前拜登政府白宮國安官員在對談中,大部分時間都在討論晶片出口管制的運作機制、破局的美中 AI 安全會談,以及前沿實驗室的國內監管該長成什麼樣子。書中所謂的「苦澀誘惑」——AI 可能悄悄把民主國家推向專制——只分到一章,在這場對談裡也只聊了幾分鐘,主持人特別點出這是他最想再深談的主題。

Buchanan 現為約翰霍普金斯大學 SAIS 教授,並擔任 Anthropic 顧問;Collins(綽號 Teddy)曾任國安會科技與國家安全主任,目前經營英國 AI 公司 Inherent。兩人的著作是《The Bitter Struggle》。對專業讀者而言,本書的價值在於內幕視角:幾名幕僚如何把一個原本備受爭議的規模定律(scaling law)觀點,變成實際的出口管制政策;書中也提出他們自己對這道領先幅度有多大的估算數字,並坦承計畫中屬於安全的那一半並未落實。

這套政策建立在 100 比 1 的算力領先,以及中國追不上的賭註上

Buchanan 在進入政府之前就已成形的主張分三步:美國與盟友掌控先進晶片供應鏈;這讓它們能斷絕中國的算力來源、建立領先,而不必冒險軍備競賽;接著,用他們在白宮內部的說法,「把這份領先花在安全上」。他估計,目前美國與盟友在算力「生產」上對中國約有 100 比 1 的優勢,在算力「取得」上則約 15 比 1。他表示,若能補上遠端存取漏洞、遏止轉運走私,取得面的數字可望推向 100 比 1。

他認為技術預測已被證實正確,並把執行面的落差歸咎於過去兩年的政策。接替他成為政府 AI 政策代言人的 David Sacks,被形容為抱持「讓民間自己去做」的路線;Buchanan 也引用 J.D. Vance 的第一場 AI 演講——「我不想聽什麼 AI 安全,我來談的是 AI 機會」——作為刻意逆轉的例證。他說,川普政府執行不力,部分情況甚至直接推翻出口管制,讓美國白白損失了時間。

他們點名的思想脈絡包括:Dario Amodei 談「一大團算力」的文章、Richard Sutton 2019 年的「苦澀教訓」一文(他們書名的由來),以及 2020 年 5 月 GPT-3 發布,正是 Buchanan 被說服的那一刻。他在 2020 年夏天於《Foreign Affairs》撰文,主張美國對 AI 競爭的思考方向錯了。

主張數字出處
美國與盟友在算力生產上的優勢約 100 比 1Buchanan 的估算
美國與盟友在算力取得上的優勢約 15 比 1Buchanan 的估算
若漏洞補上後的潛在取得優勢逼近 100 比 1Buchanan 的估算
認為 AI 是投票關鍵或重大議題的選民比例(2026 期中選舉)56%Buchanan
資料中心相關公投案(依某項統計)44 案中 43 案通過(未說明通過方向)Buchanan

決定美國 AI 政策的是個人,不是結構性力量

Buchanan 進入政府時相信結構性必然,離開時卻確信是少數幾個人決定了結果。他點名 Jake Sullivan 與白宮副幕僚長 Bruce Reed 是必須被說服的官員,最終還得說服總統。Collins 則把功勞歸給 Tarun Chhabra、Jason Matheny、Chris Maguire、Saif Khan 等同事,認為他們才是政策背後的推力;兩人都說,若抽掉這五到七人的核心小組,故事會完全不同。

Buchanan 拿來類比的是 Alexander Sachs——把愛因斯坦—西拉德信送到羅斯福手上的那個人。他明確拒絕把自己和 Collins 比作愛因斯坦或西拉德:「我們和同事們更像是 Alexander Sachs,以及兩個世界之間的翻譯者。」Collins 補了一句但書:他們從不把這話說出口,因為「這樣講實在不太討喜」。

Collins 提出一個有助於思考偶然性的區分:一項技術的「到來」比它的「影響」更接近必然。人類在 20 世紀註定會上太空、造核武;但究竟是美國還是納粹德國先造出原子彈,並非必然,而這差別極其重大。

「我剛進政府時相信結構性力量。當然,我現在還是相信。但我更懂得欣賞——老實說,可能也心懷不少感激——那些願意在 2021、2022 年給我們機會陳述主張的個人。」——Buchanan

日內瓦會談破局,因為中國把 AI 風險當成陰謀

這是本集最具體的新材料。拜登 2023 年 10 月的行政命令承諾,美國不僅要與盟友、也要與競爭對手就 AI 安全接觸。三週後,拜登在加州 Woodside 向習近平提出此事,兩國領袖同意成立 AI 專家小組。2024 年 5 月,Buchanan 與 Collins 都人在日內瓦的會場。據 Buchanan 所述,中方代表團表示他們不認為 AI 風險真實存在,並把共同風險的討論當成某種陰謀。

到了 2024 年 11 月拜登與習近平在利馬會面,進展僅限於同意 AI 不應用於核武的運用與部署。Collins 指出,Buchanan 花了幾個月談判,才把措辭縮小到「運用與部署決策鏈」,而即便是這種近乎同義反覆的承諾,也難以談成。

Buchanan 用以借鏡的「以實力談判」歷史範本是《中程核飛彈條約》:美國持續擴充能力,直到戈巴契夫認定蘇聯跟不上,好協議才隨之而來。他也主張,拜登的晶片管制之所以招來的中方報復有限,正是因為經過精心校準;反觀川普任內的關稅,招來的反制就多得多。

主持人追問 Amodei《Machines of Loving Grace》是否該讀成「Dario 計畫」——組建聯盟、把中國排除在外、開出讓對方無法拒絕的條件——並問北京會不會把它讀成又一個百年國恥。Buchanan 與此切割:「講清楚,我們沒寫《Machines of Loving Grace》。」他偏好的範本是二戰後的美國:建立讓自己讓出部分權力的制度——給中國聯合國安理會席位與否決權、IMF、世界銀行、WTO、ICANN——並讓各國加入,而不要求政權更迭。

最犀利的一段交鋒,是 Buchanan 反過來問主持人:若以會談為前提,你願意賣 GPU 給中國嗎?主持人的立場是「晶片換管制」——兩者綁在一起談。Buchanan 回應,這是最終目標,但中方在日內瓦說的是「賣我們晶片,那些事以後再談」。他說,在扭轉算力管制之前,他需要的不只是口頭表態;但若中國帶著可信的更新立場回來,他願意無預設條件接觸——也希望現任政府願意這麼做。

計畫中屬於安全的那一半並未落實

主持人的質疑是:領先確實存在,但美國不知道怎麼把它花掉。他的證據是:2016 年 OpenAI 那篇關於獎勵駭客(reward hacking)的論文(一艘小船代理原地打轉、撞來撞去只為累積分數,由 Amodei 與 Jack Clark 共同執筆)已將近十年,獎勵駭客問題至今未解。Buchanan 坦承時間這點說得對——「剩下時間之少,我沒有什麼令人安心的話可說」——並表示美國必須放慢腳步。

他具體的監管清單:

  • 公開釋出前強制政府部署前測試,做不到就交由可信的第三方稽核。
  • 在訓練與開發期間,讓政府評估人員進駐公司內部。
  • 由政府對實驗室提供防禦協助,抵禦外國間諜活動,因為這是第一項在對反情報毫無概念的民間部門中成長起來的革命性技術。
  • 以安全與資安門檻、而非日曆來決定節奏。

對於主持人提出對前沿訓練直接設下六或十二個月上限的構想,Buchanan 對「為暫停而暫停」的時限抱持懷疑:這可能累積出算力過剩,一旦機器重啟,反而產生巨大的能力躍升。若非得挑一個粗暴手段,他會禁止閉環式的遞迴自我改進——把「打造自己的接班人」這種指令交給一座資料中心,卻毫無可視性。Collins 不願背書特定門檻,理由是離開政府後,他已無法掌握最大規模訓練的狀況,而這本身就是支援強制揭露的論據。

Buchanan 的監管類比是 1870 年代的鐵路:統一車鉤、軌距與時區,讓這個產業更安全、更受信任、也更快速。至於「那中國呢」的論點,他講得很直白——美國人對 AI 的焦慮大多來自國內,而 18 個月沒有實質監管,正是如今民調中那股不信任的來源。

苦澀的誘惑:AI 可能讓專制高效到足以勝出

Collins 念茲在茲、也是本書第三部的主題:即使安全問題解決、領先也已到手,AI 仍可能讓中央集權治理達到前所未見的規模——經濟管理、監控、社會福利發放——而民主監督卻還凍結在 18 世紀的設計裡。他的資訊理論框架是:美國選舉每隔兩年或四年要選民填一張選擇題,相對於政府隨後所做決策的密度與後果,傳遞的位元數極少、速率極低。責任歸屬幾乎無從判定。

他主張的平衡是:政府能力增加多少,人民主權就該相應增加多少。他有個思想實驗:若要用今天的技術為第一批火星殖民地設計民主制度,你絕不會設計成兩年一次的勾選框。他點名 Collective Intelligence Project,以及他自己公司 Inherent 的工作——他所謂為集體決策打造「AI 原生社會契約」,並連結到他任職 DeepMind 時期的多元對齊(pluralistic alignment)研究。他提到自己在政府內部反覆推銷這個想法,「大家都睡著了」。

主持人相關的提問——考慮到中國城市感覺多麼安全,「有美國特色的監控」會是什麼樣子——除了 Collins 的框架之外,並未得到直接回答。主持人引用一本自費出版的小說《Liquid Rain》,作為 AI 賦能、結合聯邦式監控的液態民主範本,並邀 Collins 再來上一集專門談這個題目。

民主的糾錯機制是整個論證的承重牆

主持人追問:美國如今在自己批評中國的那些方面,看起來越來越像中國——頂端是強人、執法恣意,而美國的非營利組織還在做二軌的 AI 安全工作,對接的卻是擔心遭美國報復的中方同行。他問,中國的連續性是否反而更適合駕馭這種劃時代的技術。

Collins 的回答建立在書中引言引用的 William Seward 那句話上:「這個共和國始終有剛好足夠的德行來拯救自己。有時一點餘裕都沒有,但終究足以應付危難。」他主張,專制在危機中確實能動員得更快,近距離看有時也真是如此;但從歷史長線來看,自由民主在正義、公平與可靠性上更勝一籌。他引用 2026 期中選舉結果,作為糾錯機制仍有效的證據。

Buchanan 補了一個範圍較窄的論點:在拜登政府任內,關心 AI 安全的官員能接觸到總統的程度,高於中方對口能接觸到習近平的程度。他也坦承美國體制會擺盪——「現在就不是這樣」。

針對中國,Collins 承認中方的猜疑有其正當性,並舉南海島礁軍事化,以及多次網路行動為例——美國跨越多屆政府的接觸,換來的承諾都未兌現。他也承認美國自己也有前科。他主張更深層的問題,在於中國專家的中位數(其中許多人非常在意安全)與中國決策者之間的落差——少了民主反饋,這個落差在結構上更大。他稱波及無辜中國創辦人與研究者的附帶傷害是「世界上一個令人悲傷且不公的事實」,而他們花了相當多時間試圖把傷害降到最低。

近期的風險向量是網攻與生物,而生物工具很小

Buchanan 說,他在 2021 至 2022 年預期的兩大向量至今仍是觀察重點:網路安全與生物,無論是遭濫用或模型失準。他勾勒了一個網攻情境——北韓攻擊某家銀行或關鍵基礎設施,或是一次 Hugging Face 式的突破,產生一群難以驅離、持續存在的代理。他認為生物的風險時點稍遠一些。

關於生物,他指出 2023 年行政命令納入了基因合成篩檢,川普上任第一天就廢除,之後才恢復——大約白白損失兩年。他說,若能像精靈般許一個願,他會禁止把 AI 整合進 BSL-3 與 BSL-4 實驗室,BSL-1 則不動,並大幅投入生物安全與生物監測。Collins 補充結構性問題:生物領域的模型比前沿通用模型小得多、訓練成本也低得多,因此有能力打造它們的行為者多得多,監控也難得多。

關於開放權重,Buchanan 說在他們任職政府期間,好處明顯大於風險,但這可能改變,而最危險的開放權重模型,大概會來自中國。

本集留下的未解問題

論證兩半之間的落差,就是整個故事。算力那一半有具體數字、有具名的機制;安全那一半隻有一張願望清單,以及一句政治意願已然蒸發的坦承。Buchanan 自己的說法——「我們得快點行動,重建比現在更大的領先,然後我們必須讓美國慢下來」——把兩個當務之急排成先後順序,而本集從未證明第二步會接在第一步之後。

三件事值得追蹤。第一,Sacks 之後、Jensen 醜聞之後的此刻,是否會產生 Buchanan 所期盼的政治急迫感;他預測 AI 將是 2028 年總統大選的頭號議題,而 2026 年已有 56% 選民認為它關鍵或重大。第二,北京是否會更新其對共同 AI 風險的立場——兩位作者都說,若中方更新,他們願意無預設條件重新接觸,這也意味著目前的沉默是雙方的選擇。第三,苦澀的誘惑本身——它在這裡只分到一章、幾分鐘,卻是最可能比晶片管制更長壽的問題。Collins 自己的檢驗標準正是該套用的那把尺:AI 讓政府能做的事增加多少,就該讓公民能約束政府的權力相應增加多少,而當前政策議程中,沒有任何一項是為了交付這後半段而設計的。

來源: The Cognitive Revolution (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論