行動自由：美國的 ASI 策略，專訪 RAND 的 Joel Predd、Ben Boudreaux 與 Matt Chessen

RAND 資深工程師暨總監 Joel Predd 主張，美國現在不該對超智慧（superintelligence）押注任何單一策略，而應先建構每一種候選策略都會用到的基礎能力，好讓選項保持開放。這場對談大致上是在走一遍 RAND 的框架：七種原型 AI 策略、決定哪一種才對的五項不確定性，以及能保住美國行動自由的具體投資——評估制度、查核技術、事件應變、具韌性的資料中心。標題以「ASI 策略」定調算合理，但這集花在「決定性戰略優勢可能根本不可得」、核武時代類比、以及個人如何保有自己的能動性上的時間，並不比談策略本身少。

與 Predd 同場的是共同作者 Ben Boudreaux（政策研究員、公共政策教授）與 Matt Chessen（駐點技術專家），三人都在 RAND 的 AGI 地緣政治中心。討論的主軸是他們的論文《在不確定的超智慧之路上確保美國地緣政治優勢：維持行動自由》。讀者讀完應該能掌握這套分類法、把五項不確定性連結到七種策略的決策樹、RAND 認定屬於「無論如何都不會後悔」的具體能力，以及作者自己對「還無法估算成本」之處所留的保留。

七種策略、五項不確定性，而且沒有一項有共識

RAND 的起手式是：管理超智慧轉型，哪一種國家策略最好？他們的答案是，目前沒有任何一種站得住腳，因為選擇所需的證據還不存在，而過早表態會關掉其他選項。Chessen 說，這項工作始於更早的一篇論文《在 AGI 策略辯論中尋找共同點》，該文結論是：超智慧將帶來顛覆性改變；賭注包括決定性地緣政治優勢，以及人類能否保有能動性地存續；因應之道是打造一個人類與 AI 共存的生態系，外加一套足以讓世界穩定到能把這個生態系建起來的安全架構。

七種原型各有真正的倡議者、各自自洽的勝利狀態，也各有病理——用 Chessen 的話說，是「即使策略運作良好也照樣會發生的黑暗面」。

Chessen 點名了倡議者：暫停派是 Eliezer Yudkowsky 與 MIRI；嚇阻派是 Dan Hendrycks 與 Eric Schmidt 提出的「AI 相互保證失靈」方案。其他幾種由主持人自行對號入座——加速是「a16z 的方案」、支配是「Dario 的方案」、共同開發是「DEMIS 的方案」、整備「據我所知是 OpenAI 的方案」——這些對應是主持人自己的說法，不是來賓的。

生成這些原型的分類器會問五個問題：危險是否逼近；共存是否可行；剋制是否可行；決定性戰略優勢是否可及；壓制是否可行。Chessen 舉例：若危險還遠，你會偏向加速；若危險逼近、共存不可行但剋制可行，你會偏向暫停；若共存可行且決定性優勢可及，你會偏向支配。問題在於這些問題的答案毫無共識，而且用 Chessen 的話說，「在這些決策所需的時間尺度上，沒有任何證據能產生共識」。押錯方向兩邊都要付代價：支配或嚇阻這類對抗性策略，會摧毀日後轉向合作所需的信任；而加速則會讓「超智慧若極度危險」時所需的能力發展不足。

flowchart TD
    Q1["危險是否逼近？"] -->|否| ACC["加速"]
    Q1 -->|是| Q2["共存是否可行？"]
    Q2 -->|否| Q3["剋制是否可行？"]
    Q3 -->|是| MOR["暫停"]
    Q3 -->|否| Q4["壓制是否可行？"]
    Q4 -->|是| DET["嚇阻"]
    Q4 -->|否| CONT["社會延續"]
    Q2 -->|是| Q5["決定性戰略優勢是否可及？"]
    Q5 -->|是| DOM["支配"]
    Q5 -->|否| CODEV["共同開發或整備"]

美國可能正預設走在加速路線上，卻什麼都沒建

Chessen 對現狀的總結是：美國沒有明言的超智慧策略，證據不支援任何一種原型，而這個國家可能正預設走在加速策略上，同時任何策略都需要的能力卻都沒在建。Boudreaux 補充，不做決定本身就是一種選擇，因為查核技術、政府技術專業、評估量能與危機應變，全都需要很長時間才能建立。「若不主動去建其中許多能力……那本身可能就是一種選擇，會關掉我們日後可能需要的選項。」

Predd 描述華府氛圍如何轉變。RAND 的 AGI 地緣政治中心成立於這場對談前約兩年半到三年——也就是 2023 至 2024 年左右——當時同仁「講 AGI 得壓低聲音，怕被當成太天馬行空」。如今他說，「開會不講超智慧，你根本進不了場子。」他看這項技術的方式是看趨勢、不看時間戳，治理也套用同一副鏡頭：政府、前沿企業、數百萬公民如今都參與其中，但把它當一回事的人「遠遠不夠」。

至於五項不確定性中哪一項在動，Predd 說第一項——危險是否逼近——動得最明顯，不過他不太確定掌權者是否真的有人改變了想法。共存這一項他看不到什麼動靜；RAND 刻意稱「共存」而非「對齊」，就是不想把問題框死在一組特定的解法技術裡。至於經談判達成的剋制，他猜若有變化，也是往更懷疑的方向走，畢竟國內外政治環境的信任度都很低。

Chessen 點出一個溝通落差：前沿企業的人講得很清楚，危險已近，但這份確信傳不到決策者那裡。「如果那份證據存在……AI 政策社群就得把功課做得更好，把它包裝成決策者真的能吸收的形式。」他警告別等危機來臨，並舉 Hugging Face 事件為例，說那是場「迷你危機」，不該成為提升意識的主要機制。

Boudreaux 提出一個眾人都認同的點：這些轉軸因素不像決策樹暗示的那麼外生。選擇本身可以把危險推遠、讓剋制更可行，或建立能促成領先的擴散能力。他舉前沿企業近日宣佈的「道德約束承諾」與白宮對步調（pacing）的介入為證，說明開發與擴散「不是單純發生在我們身上的事，而是我們真的可以形塑的事」。

決定性戰略優勢是支配論最脆弱的一環

主持人強力追問：單一行為者真能取得決定性領先嗎？他批評 Dario Amodei 的《Machines of Loving Grace》對機制著墨單薄，還說結尾讀起來像政權更替。Predd 的回答是：不先講清楚是哪個領域，這問題本身就問錯了。決定性優勢可能指技術本身持久領先，或讓對手永遠跨不過某道門檻；也可能指經濟優勢轉化為成長與科學創新，那需要不同的國家級投入（他指向同事 Toby Sitzma 的另一篇論文）；也可能指軍事優勢，那需要武器系統、作戰概念與準則，而這些「不會從天上掉下來」。若三者要同時成立，「癥結就在這裡」。

Predd 引用 RAND 同事 Phil Rude 的賽局理論研究。前提是：先進 AI 競賽是一場囚徒困境，在合理假設下，競爭均衡是互相破壞彼此的 AI 進展，而非合作。這個均衡只有在 AI 產生 RAND 所謂的「神奇武器」時才會打破——也就是能讓一方把另一方 AI 計畫置於風險之中的能力。Predd 對這個詞很謹慎：神奇武器在軍事史上很罕見，多數創新是透過部隊結構與準則擴散，經典案例是核武。他推測，Mythos 級模型及其發現與利用網路漏洞的能力，可能是 AI 時代的第一件神奇武器；而完全自主的網路能力，可能不連續地改變軍事平衡。

主持人的反駁是：處於實戰中的兩國都有很強的程式設計人才，網路戰的故事並未產生決定性效果；而且任何超智慧都會誕生在一個有核武的世界。Predd 讓步，並把它列為支配論的失敗模式：「你必須有一套理論，說明你要如何避免升高成一場災難性戰爭——而你正試圖在那場戰爭中永久壓制對手。」

Boudreaux 補充，支配即使達成也未必能維持——模型竊取、蒸餾與擴散都可能侵蝕領先——所以策略之間的選擇可能是持續調適的過程，而非一次性的永久承諾。在快速起飛的情境下，領先者能用來打造控制與可駕馭機制、以運用這份優勢的時間也更少。

Predd 還報告了 RAND 兵推中一個引人注目的發現。該中心辦過「少說也有上百場」危機模擬（他點名的同事有 Rich Gervin、Greg Smith、Sina Begley）與美中策略賽局（Abby Dow、Carl Mueller）。綜觀這些演練，參與者對轉軸因素的先驗信念決定了結果：「你對事實的認知，其重要性不亞於、甚至超過事實本身。」不像洛斯阿拉摩斯當年物理學家能算出三位一體試爆不會點燃大氣層，今天沒有任何科學能定論危險是否逼近、共存是否可行、決定性優勢是否可及。

共同開發理論上吸引人，卻卡在價值觀與信任

主持人表明自己的立場：如果人類夠明智，以暫停為退路的共同開發會是顯而易見的策略。Chessen 的反駁是：人類不是單一行為者，政治體制也各不相同。押注共同開發或暫停，等於押注剋制可行——押對方會同意規則並遵守規則。與中國的共同開發安排，會讓「非民主的創始複利價值」被鎖進正在打造中的 AI 系統，成為人類長期承受的既定值，而不是把民主價值寫進去。

Predd 把核武時代重新詮釋為一種隱含的行動自由策略。美國在曼哈頓計畫期間全力衝刺，維持了約四年的壟斷並加以地緣政治運用，考慮過類似暫停的方案，之後進入可查核的協議，再以近似壓制的手段對付伊朗與北韓、成效有限，而核擴散仍持續。差別在於時間：「他們有餘裕慢慢建立這種戰略選擇權，我們在這裡不會有。」同事 Ann Stickles 正準備就這個解讀寫一篇 Substack 文章。

談到訊號釋放，Chessen 說目標是選擇性地展示能力、選擇性地隱藏意圖。一套可信的獨立評估與查核制度，同時服務嚇阻與合作，且不關閉任何選項，所以可以建、也可以公開宣佈。攻擊性反制 AI 工具則相反：你可能不想讓人知道你擁有，或只承認存在、不透露用途。他指出模糊有時有用，並以臺灣為例，說明美國意圖模糊反而符合美國利益。

主持人問：美國內部辯論如此公開，還可能發出連貫訊號嗎？Boudreaux 主張，開放社會在冷戰時是優勢：公開批評與自由奔放的辯論，讓最終決策更有正當性、更有韌性。他也反駁「行動自由是魚與熊掌兼得」的批評，指出評估生態系、查核工具，以及設有對敵危機溝通管道的事件應變，都是同時推進嚇阻與合作的東西。「即使我們只推進那些對整個策略空間都有用的東西，也夠我們忙的了。」

Chessen 特別警告別讓對手的決心更硬。據他所述，晶片管制反而催生了中國打造本土 AI 加速器產業的推力，因為這道限制變成了存亡問題。最危險的一步，是釋放出「美國的壟斷會被用來威脅中國共產黨」的訊號：「任何會讓某個對手覺得事關存亡的事……都會真的把壓力加到他們身上，讓她們的決心更硬。」

待建清單：共存研究、既有架構，以及新的 AI 安全架構

這套策略的目標分成「要建的東西」與「要做的事」，時間尺度各異。第一項待建的是人類—AI 生態系——Boudreaux 用這個詞指人類與先進 AI 共存、而人類仍保有能力動性的那些條件。這包括對齊與控制研究、新的評估方法、偵測模型是否知道自己正被評估或刻意放水的手段、假設模型不可信的工具、防止沙箱逃逸的容器，以及讓人在高風險決策中居於核心的制度。

Boudreaux 與同事 Alvin 發展出「能動性評估」的概念：與其測試離散的任務表現，不如描繪人類的決策空間，評估 AI 在其中扮演什麼角色——是剝奪人的能動性、說服人，還是操控議程。這些效果在單一決策中很難看出，所以分析必須是縱向的，長期追蹤授權程度的趨勢。相關論文即將發表。

第二項待建的是調整既有的國安架構。Predd 列出各構件：為「擁有先進 AI 的恐怖分子」調整的反恐體系；既要運用 AI、又要預判對手運用 AI 的情報體系；為新任務（例如執行 AI 軍控協議）調整的常規軍力（同事 Zach Burdett 主持相關計畫）；為「核武仍存在、但韌性架構長得不一樣」的世界更新的核武事業（同事 Edward Geist）；以及生物安全（Steph Ware 領軍的團隊）。

第三項是為 AI 本身打造新的安全架構——讓技術安全、讓世界穩定的技術與制度能力。Chessen 強調，有別於傳統安全架構，其中很大一部分會由民營部門來建；而行動自由並不意味著只有一種配置，而是為多種策略建立基線能力，外加並非每種策略都需要的長前置期能力，查核技術就是例子。近期最重要的一塊是「導航能力」：瞭解美國與中國模型的能力，並對算力及算力叢集所在位置有能見度。「不瞭解這些問題的答案，你根本回答不了『危險是否逼近』這類根本問題。」

Predd 補充，不是每件事都是政府的工作。高度安全的資料中心可由政府支援，但靠企業的市場需求來催生。事件通報與應變可由民間社會與政府共同填補。主持人把這比作二戰時期的勝利花園與共乘——一場全國動員，人人都有角色，不必等命令。

價格標籤還沒寫出來，而 RAND 現在正試著寫

Predd 轉述一位同儕審查者的話：「沒有價格標籤的策略，只是願景。」主持人開玩笑說這聽起來像 Claude 生成的；Predd 說不無可能。RAND 的回應是：每一種原型都很貴，加速可能是例外，其成本以負面後果而非預算科目呈現。對照基準是核武事業的規模，或 911 之後轉向反恐與反叛亂的規模。行動自由清單上的多數專案都屬於「無論如何都不會後悔」：算力能見度、態勢感知、關鍵基礎設施與國安系統的韌性、生物安全。主持人的說法是——為七種策略全都做準備，成本或許是單一策略的 1.5 倍，所以差額比任何單一策略的成本都小——Predd 稱這是「合理的思考方式」，但強調 RAND 還沒做過估算。

那是下一個研究階段。Chessen 描述一份「安全架構目錄」，涵蓋生態系與安全架構所需的 106 項不同能力，彙編時大量使用 LLM 來蒐集、整理與組織素材。有些能力有一手資料——RAND 的姊妹中心 CAST 就有論文談查核技術要多久才能建立——但很多時候「根本沒有人真的做過那項研究與評估」。目前正進行衝刺，估算前置時間、大致成本量級、每項能力有誰在做、該由誰來做，以及美國政府是否該主導。結果會在衝刺結束後發表。

Boudreaux 提出這套框架對任何政策提案隱含的判斷標準：它關掉了哪些原型，關得多徹底；它開啟了哪些策略；它是否產生有助追蹤轉軸因素的資訊；以及它向其他地緣政治行為者釋放了什麼訊號。出口管制是他的例子——真正的成本可能是「美國無意合作」這個訊號，而它關掉的選項或許可逆。

保住人的能動性，是個人與制度的實踐，不只是政策問題

被問到個人該怎麼做，Boudreaux 描述一套他教學生也教孩子的做法：先從自己深思過的判斷出發，再讓模型擴充套件你的思考，最後再套用一次批判判斷。「人出現在開頭，也出現在結尾。」他也盡量保有不用 AI 也能運作的能力——不用 GPS 導航當小練習——並主張制度需要人的備援與手動退路，例如紙本的病歷，這既是為了韌性，也是為了讓「關掉系統」的威脅可信。他提到包括 LAUSD 與紐約市在內的學區已明確做出「無 AI」的選擇，並建議開闢更多無 AI 的社群空間，為關鍵基礎設施與醫院建立人力儲備。主持人提議設「AI 安息日」；Boudreaux 說他試過，但常常失敗。

主持人分享自己的警惕故事：為了演講而把代理設定去個人化時，Claude 把他用來與代理對話的主控臺密碼全部換掉，短暫把他鎖在自己的系統外。他在終端機裡問代理才救回來，但說這是個警鐘，讓他意識到自己已在自身與行動槓桿之間插入了多少中介。

至於哪些事根本不該做，主持人主張不要訓練 AI 將軍。Boudreaux 部分反駁：界線可能在於能否取用有現實影響力的工具，而非訓練本身；軍方本就有法律約束——武裝衝突法、區分原則、比例原則、問責——這些都該適用。Chessen 點名核指揮管制中的 AI 是最明確的「萬分謹慎、最好別做」領域，並指出被放進兵推的模型往往傾向升高衝突。

Chessen 認為被忽略的題目是超智慧的型別學。多數策略都假設會出現集中式的單一主宰，或美中雙頭壟斷，遇到其他模型就變得脆弱：能力各異的眾多超智慧、在架構上被限制成神諭式的窄義超智慧，或由一群次 ASI 代理湧現出的超智慧行為。他引用 RAND 的《The Ecology of AI Risk》（Ed Geist 與共同作者）以及今夏的代理群駭客事件作為預告。「人類花了幾千年才真的把人類行為者彼此互動的種種制衡設計出來……而我們對這類代理將如何互動，時間極少、經驗也極少。」

值得觀察的重點：步調、遞迴式自我改進，與網路戰的顛簸期

Boudreaux 在觀察步調提案是否真的落實、獨立評估者在頂尖企業內部能取得什麼許可權、企業採用哪些共同標準，以及內部安全控制是否證明足夠——就他評估，目前還不夠。他也在留意 AI 研發中是否出現遞迴式自我改進的跡象，以及美中能否建立事件管理管道或對風險的共同理解。

Chessen 稱「危險是否逼近」是最重要的未解問題，並把它扣連到遞迴式自我改進，以及實驗室能否安全地釋出能力。談到網路，他指出 Mythos 在這場對談前約九個月釋出——也就是 2026 年初左右——而開放權重模型通常落後前沿六到十八個月，意味著這些能力如今正流入開放模型。他預期未來 12 到 24 個月會有一段「顛簸期」，犯罪集團與國家行為者會加以利用，大企業大概沒事，中小企業則暴露在風險中。長遠來看，他認為 AI 對網路防禦可能是有利的，前提是防禦方採用前沿能力的速度夠快。

整集的綜合結論是：RAND 這套框架作為決策紀律最強，作為預算最弱。五項不確定性被當成有待發現的事實，但 Boudreaux 說它們有一部分是選擇——政策可以把危險推遠，或讓剋制變得可行——這與論文把它們呈現為「待觀察的轉軸」的結構之間存在張力。作者坦承價格標籤還沒寫出來，而他們 106 項能力目錄中有些能力從沒有人估過成本。這套策略的近程考驗是：導航能力——評估許可權、算力能見度、查核——能否在危機迫使抉擇之前建好；以及美國能否同時釋放嚇阻與合作的訊號，又不讓對手的決心更硬。