國會有 60% 機率通過 RSI 禁令 | Peter Wildeford
國會有 60% 機率通過 RSI 禁令 | Peter Wildeford
預測專家 Peter Wildeford 估計,國會有 60% 機率通過 RSI 禁令,約 98% 機率會有人提出相關法案;同時他指出,規模達 100 億美元以上的網路事件,以及 AI 全面取代研發工作,各有三分之一到五成的機率,時間點約在 2028 年 3 月。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
AI Policy Network 政策主管 Peter Wildeford 預測,國會在 2027 年底前通過某種形式的遞迴自我改進(recursive self-improvement)禁令的機率為 60%,而這類法案被提出來的機率則高達 98%。這項預測是一場涵蓋廣泛的政策對談中最受矚目的焦點,但整場對話多數時間其實都在談別的事:新成立的兩黨「AI 安全與創新黨團」、眾議員 Jacobs、Beyer 與 Malloy 提出的聯邦 AI 評估框架、加州積極的新 AI 安全建議,以及一連串服務中斷事件——Wildeford 認為這些中斷是 AI 發現的漏洞迫使企業倉促修補所致。
Wildeford 被介紹為全球頂尖的預測專家之一,實際從事 AI 安全立法工作,對於 2026 年哪些事情在政治上已經可行,帶來第一線立法者的視角。讀者讀完後應能掌握他具體的機率估計、他對 Anthropic 與 OpenAI 在 AI 研發自動化進展速度上的判讀,以及目前正在認真討論的具體政策機制——駐點審查員、具約束力的聯邦標準、強制事故通報。
國會正朝具約束力的標準與駐點審查員靠攏
Wildeford 對新宣佈的兩黨「AI 安全與創新黨團」相當振奮。該黨團由 George Whitesides、Don Beyer 與 Nathaniel Moran 領軍,成員中包含共和黨人。他將黨團定位為非正式場合——有別於委員會——成員在此瞭解還有誰關心同一議題、共同腦力激盪,並預期這個黨團將影響下一屆國會在 AI 上的作為。他指出的實質轉變,是擺脫現狀:目前一切由企業自行決定,包括揭露什麼、何時放慢或加快、如何處理安全事故。
具體的立法載體是《安全且可問責的聯邦人工智慧評估法》(Safe and Accountable Federal Evaluations Artificial Intelligence Act),這是 Jacobs、Beyer 與 Malloy 三位眾議員提出的框架,AI Policy Network 表態支援,作為討論基礎。Wildeford 說明其核心機制:
| 機制 | 作用 |
|---|---|
| 具約束力的安全與資安標準 | 由政府某個部門訂定企業必須達到的最低標準 |
| 駐點審查員與評估人員 | 進駐 AI 企業內部,擁有實質的查核權力 |
| 事故通報 | 發生安全事故時須及時通知政府 |
Wildeford 對現行自願性評估做法毫不留情,直言企業找來評估人員,卻又掌控對方能看到什麼、發現會被如何處理:
「他們很愛找評估人員進來,但接著就開始指揮對方:喔,那邊不要看,看這邊。還有,喔,不要跟那個人講話,那個人不在你的允許名單上。然後,喔,謝謝你的報告,我們現在要把整份塗黑,自己留著。而且他們還可以完全無視你所有的建議。」
他以銀行與金融服務業作類比——那裡的審查員會真正查核業者——並直白點出原則:「你不能讓同一批負責把利潤極大化的人,同時也來做所有的安全與資安決策。」
從難以想像到行政命令,只花五個月
Wildeford 用最清楚的例子說明 Overton 視窗移動得多快:2026 年 1 月,他自己那個「讓聯邦政府單純評估 AI 模型的國安能力」的目標,還被視為「激進到有點難以想像」——任何政府涉入 AI 的想法在政治上都不成立。到了 2026 年 5 月,在他稱為 Mythos 的模型發布後,川普總統簽署行政命令,建立 AI 模型部署前評估制度。同一項政策從不可能變成正式落地,只花了五個月。
他將國會反應的落後部分歸因於議程安排:國會在選舉前後休會三個月,幾乎沒時間消化 Hugging Face 事件與「失控 AI 攻擊」等發展。如今議員回到崗位,他說,大家正圍繞聯邦評估、對企業實務的強力可見度,以及確保 AI 模型維持可控,凝聚共識。
加州的建議遠遠超出 SB 53
州長 Gavin Newsom 的 AI 安全專家小組回傳的建議,包括緊急關閉權、強制持續第三方評估,以及州政府有權對遞迴自我改進設下上限。Wildeford 認為落實的機率「比大家想的高很多」,並將這套方案解讀為時代的訊號:SB 53 這類透明法案讓企業自行訂規則再自行遵守,當時看似有力,但「跟加州政府現在想做的比起來,真的不算什麼」。
他對 Newsom 的判讀是:州長非常關注 AI,感受到政治風向對自己有利,也願意在卸任前強硬表態以鞏固政治遺產。Wildeford 希望加州議會儘早通過與這份報告非常相近的立法。
談到管轄權,他主張加州不同於其他 49 州,因為 AI 企業實體就設在當地——不過他也點出一個複雜之處:有些公司(例如 SpaceX)官方總部設在德州,營運核心與工程師卻留在加州。工程師外流到其他州會削弱執法,但只要技術樞紐還在加州,加州就握有籌碼。他明確表示,自己不希望加州變成「一個決定科技未來的強大超級州」,但認為加州有權辨識並預先防範危險做法——同時他也樂見聯邦政府強勢介入,訂出一套適用全美 50 州的明確規則。
服務中斷是修補危機,不是攻擊潮
Wildeford 認為,近期 FAA、NSA、United、Chase Bank、Apple 等服務的中斷,沒有證據顯示是網路攻擊,並表示若真是攻擊,政府會對外說明。他的解釋是:AI 一直在大量發現資安漏洞——他舉了一個 PHP 漏洞和一個 Java 漏洞為例,並推估大約還有十個嚴重程度相當的漏洞,正由關鍵基礎設施業者掌握、尚未揭露、等待修補。由於漏洞武器化的時間已從數個月縮短到數小時,業者承受必須立刻修補的龐大壓力,根本來不及做盡職調查。結果就是修補程式反而讓系統當機。
「有時候修補程式本身,可能比原本的資安漏洞還糟。」
他形容這是怎麼做都倒楣:補太快會造成服務中斷,補太慢則讓攻擊者有機可乘。供應鏈攻擊——攻擊者先攻破供應商,再藉此觸及眾多服務業者——更讓情況雪上加霜。被問到未來一年內發生造成 100 億美元損失的資安事件機率,他說以基準發生率來看,這門檻不算太高——多起勒索軟體事件接連爆發就可能達到——他最後給出大約三分之一到五五波。他點名開放權重模型是值得觀察的變數,關鍵在於攻擊能力還是防禦能力擴張得更快。
RSI 禁令:幾乎篤定會提出,60% 會通過
Wildeford 預期禁止遞迴自我改進的法案幾乎一定會被提出——他給 98%——因為有興趣的議員人數眾多。他提到參議員 Van Holland 與 Hickenlooper 都呼籲禁止,甚至 David Sacks 也可能傾向支援禁止這種做法。他認為這個構想之所以有市場,是因為「AI 打造下一代 AI、下一代 AI 又打造更聰明的 AI,人類卻完全不瞭解發生了什麼、也控制不了」這樣的情境,在議員眼中「就是很瘋狂」。
他預測禁令在 2027 年底前完成立法的機率是 60%。他提醒,這類法案的內容至關重要——他不想禁止單純使用 AI 或生產 AI——並表示他的組織仍在釐清將支援禁止哪些形式的失控遞迴自我改進。他也指出,法案通常不會通過,因此 60% 已算是相當大膽的判斷。
在 AI 研發自動化上,Anthropic 看得比 OpenAI 更前面
Wildeford 說明他對「AI 完全取代 AI 研發研究員」的時間預測如何變動。在 Meter 加速報告之前,他一直追蹤 Anthropic 的揭露資料——一份「當 AI 打造 AI」的報告、五級自動化拆解,以及 AI 在多大程度上替代機器學習工程師與研究員的指標,包括實驗選擇。這些指標看起來呈爆炸性成長。Meter 報告讓他更往前推:據報導,工程師覺得有 AI 協助後速度快了 12 倍;Anthropic 據稱有遠比公開版本強大的內部模型;內部 AI 支出也比他原本以為的高。
| 階段 | 他對 AI 完全取代 AI 研發研究員的中位數估計 |
|---|---|
| Meter 加速報告之前 | 2028 年 4–5 月 |
| Meter 加速報告之後 | 2027 年 12 月–2028 年 1 月 |
| OpenAI 研究加速報告之後 | 約 2028 年 3 月 |
OpenAI 的報告讀起來像「反向更新」——沒有預期那麼爆炸性——把他的中位數拉回大約 2028 年 3 月,但仍然很近。他提出兩種解讀:一是進展略微停滯,二是 Anthropic 真的破解了 OpenAI 還沒破解的東西,而 OpenAI 那種較慢但穩定的步調,「絕對來說仍是快如閃電」,只是相對落後。他對這些自報資料保持應有的謹慎。
他從中得出的政策意涵是:仰賴自願揭露並非他最樂見的狀態。即使沒有 RSI 禁令,國會也可能要求企業就這些指標做更多通報,讓政府對安全、資安與可控性有可見度,並能要求企業證明自己有能力駕馭這項技術。
國安框架正在取代「創新 vs. 安全」框架
Wildeford 的結尾論述把各條線索串起來:如果這些模型真的處於地緣政治核心,政策就負有雙重任務。第一,確保我們不會失去控制——而這「聽起來可能比想像中更早發生」。第二,確保中國無法竊取或竄改美國模型,或拿來對付美國。他描繪一種失敗情境:美國暫停,中國偷走模型、自己跑 RSI,他稱這同樣可怕、甚至更可怕。
「我們需要這些企業像守護國安資產一樣投資資安……而不是像軟體即服務新創那樣投資。」
另外,他點名國家網路總監 Sean Cairncross 去職是一大損失。在當前政府倚重國家網路總監辦公室、而非拜登時期較受青睞的 CISA 之際,Cairncross 正是協調白宮網路應變的核心人物。Wildeford 指出網路攻擊正處於歷史高點,希望繼任者能儘快到位,並表示以當時的情況來看,他不怪 Cairncross 求去。
整集節目貫穿未解的張力,是速度與控制之間的拉扯:同一股加速力量,既讓 RSI 禁令在政治上受到重視,也讓倉促修補變得危險、讓自願性評估失去可信度,並在讓聯邦規則更有正當性的同時,壓縮了國會寫法案的時間。值得追蹤的重點包括:任何被提出的 RSI 法案條文、Newsom 專家小組的建議是否成為加州立法,以及 Anthropic 內部的加速究竟會反映在 OpenAI 的數字上,還是僅止於一家公司的現象。