前沿 AI 需要如航太產業般的飛行中止機制|聯邦眾議員 Whitesides
前沿 AI 需要如航太產業般的飛行中止機制|聯邦眾議員 Whitesides
聯邦眾議員 George Whitesides 主張,國會應把 CAISI 的預算提高到 8,000 萬至 1 億美元,並對前沿 AI 開發比照航太產業的做法,在事故後暫停一個月;他引述遞迴式自我改進的風險,以及學生學習能力下滑的現象作為理由。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Podcast 專家音訊節目
收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情
眾議員 George Whitesides 主張,前沿 AI 實驗室應採行航太業的做法:發生重大事故後先停機,直到釐清肇因、寫下安全作業程式,才恢復運作。本集節目大致上是在巡覽他手上的 AI 立法清單——監測自我改進模型、研究 AI 對學生的影響、禁止野火賭盤、為政府的 AI 安全機構爭取經費——而「航太式停機」這個構想直到接近尾聲才出現,是他個人的處方,而非整場對話的主軸。
Whitesides 代表加州第 27 選區,是眾議院科學、太空與技術委員會及軍事委員會成員,此前曾任 NASA 幕僚長,並擔任 Virgin Galactic 執行長約十年。讀者讀完應能掌握:哪些跨黨派 AI 法案正在推進、經費攻防卡在哪裡,以及一位議員如何界定 2028 年的政治利害。
國會想緊盯自我改進模型,但還沒打算立法監管
Whitesides 最具實質內容的 AI 法案是《自我改進 AI 監測法案》(Self-Improving AI Monitoring Act),於本集播出前約兩個月(約 2026 年 9 月)提出,有共和黨議員共同提案。他把遞迴式自我改進(recursive self-improvement, RSI)講得很直白:「我們正在用 AI 來改進 AI。」他引用 Anthropic 公開報告指出,代理程式自行開發的能力已創新高,藉此佐證業界「即使還沒完全進入 RSI 時代,也已經逼近了」;並表示研究過「起飛」(takeoff)或「奇異點」(singularity)時刻的人「有非常正當的理由擔憂」,因為「他們基本上不知道那個時刻會發生什麼事。」
這項法案的機制刻意保守。它要求 CAISI——Whitesides 稱之為「監督 AI 的主要政府機構」——追蹤業界在可自我改進、無需人工監督的前沿模型上的進展,並責成該機構與各實驗室建立自願協議,共享自動化研發的指標與估算。他稱這是「相當有限的一項法案」,也是「非常務實的第一步」。
他對國會的專業落差直言不諱:許多議員「對 AI 不算特別專精」,但有些人天天在用,也正努力給同僚補課,因為「這可以說是未來幾年的重大議題,或至少是重大議題之一。」
CAISI 的經費只有同儕機構的零頭,兩黨都想補救
本集最犀利的一個資料,就是經費落差。Whitesides 表示,CAISI 每年只分配到 1,000 萬至 1,500 萬美元,遠不及英國 AI 安全研究所等機構。「我覺得這很離譜,也認為這是錯的,我們應該改善,」他說。至於為何維持現狀,他的解釋是:「國會多數黨不想調高。」
他說,兩黨都支援把這個數字至少提高到 8,000 萬至 1 億美元,理由是「不管你對 AI 有什麼看法,我們都需要一個有能力、有經費的政府監管機構,能看懂現在發生了什麼事。」在科學委員會就一籃子 AI 法案進行逐條審查時,他說自己曾試圖以修正案提高 CAISI 的經費數字。除了「希望很快」,他沒有給出時間表。
| 專案 | Whitesides 所述的現況 |
|---|---|
| CAISI 目前年度經費 | 1,000 萬至 1,500 萬美元 |
| 兩黨共同目標 | 至少 8,000 萬至 1 億美元 |
| 障礙 | 眾議院多數黨不願調高 |
| 嘗試的補救 | 在科學委員會 AI 法案審查中提出修正案 |
前沿模型停飛一個月,借鏡航太業
本集標題的由來就在這裡,而這是 Whitesides 自己的提案,不是法案。他曾呼籲前沿模型開發暫停一個月,並指出 OpenAI「在 Hugging Face 事件後基本上就這麼做了」——但他主張「沒有某種形式的政府推力,這種暫停不會發生。」
他的推理明確類比自己的航太職涯。在 NASA 和 Virgin Galactic,「發生重大事件或事故時,我們就停飛,設法瞭解發生了什麼、徹底弄清楚,寫下今後如何安全運作,然後才恢復飛行。」他說,「非常明顯,AI 開發領域可以向那些一向把人類健康與安全視為核心的產業多學幾招」,並點名航空、航太與核能。
「這些模型的能力正以驚人的速度增強。我認為我們必須走在它前面,而不是一直跟在後面追,而我認為現在多數美國人對國會的印象,就是我們在後面追。」
野火賭盤禁令的立論是因果關係,不只是道德問題
《禁止野火賭盤法案》(No Bets on Wildfires Act)是一項跨黨派法案,禁止在預測市場上對野火下注。主持人追問:預測市場能為風險定價、讓人像買保險一樣避險,這點怎麼說?Whitesides 給了兩個答案。
第一個是操作面的:「人可以放火,所以他們可以先下注,再靠放一把新火去影響那個賭局。」他認為野火在所有自然災害中獨一無二,因為「只要一個人,選在風大、濕度低、灌木乾燥的日子點火,就能釀成大火。」第二個是道德面的:「人不應該拿別人的不幸與苦難來下注。」
他把這項法案扣在自己的選區,也就是洛杉磯郡北側。2025 年他宣誓就職三天後,Eaton Canyon 與 Palisades 兩場大火燒毀了洛杉磯郡 1 萬 6,000 戶住宅。他說:「有超過 100 萬美元被拿去賭、被押在那些毀滅性的洛杉磯野火上。」
課堂法案是研究授權,不是政策處方
《理解 AI 進課堂法案》(Understanding AI in the Classroom Act)將責成美國國家科學基金會研究 AI 如何影響學生。Whitesides 有一名 14 歲和一名 16 歲的孩子,他轉述從家長那裡聽到的情況:老師出的書面作業變少,因為學生會用 AI 代寫,然後再「用不同的 AI 把自己寫的東西弄得不像 AI 寫的」,結果更多工作被推回課堂上完成。他主張,大腦的發展需要對一篇文章或一道題目「有時花上好幾個小時」思考。
他列出的研究範圍包括:注意力持續時間與學習自主性;認知、社交與情緒行為發展;學生是否過度依賴 AI;以及不同型別的學生各有什麼反應。他明確表示:「第一步是先了解人們怎麼使用這些工具。」
被問到初步結果可能顯示什麼,他不願預測,但提出一個資料:智商已被測量超過一個世紀,20 世紀大部分時間全球智商都在上升,而「我們把這條曲線扳彎了,現在全球智商正在下降。」他沒有斷言 AI 是原因——「是 AI 嗎?還是智慧手機?我不確定」——但把這份憂慮連結到國家安全:國力的根基在於「一群懂得獨立思考、能分辨事實與錯假訊息的人民。」
民主黨大勝也過不了否決權,而「推翻否決」已被搬上檯面
主持人把期中選舉說成「明天」就要投票(即 2026 年 11 月 4 日),並預期民主黨大勝。Whitesides 的解讀是:「我們有一位加速主義的總統,對吧,他認為幾乎任何對 AI 的護欄都不必要。我不認為他真的懂這項技術,也不認為他懂起飛或奇異點這類概念。」
Trump 還有兩年總統任期,握有否決權,因此 Whitesides 的策略是爭取跨黨派共識,必要時再推翻否決。「這個議題太重大了,我認為國會有能力推翻否決,」他說,並表示期待這件事「不只在這個領域,也在其他領域發生,因為確實存在跨黨派的憂慮。」
他點名幾位他認為認真看待此議題的同僚:民主黨的 Sam Liccardo 與 Don Beyer,共和黨的 Nathaniel Moran 與 Pat Harrigan。他認為最容易先過關的法案是:
- 針對前沿實驗室的監測法案(他參與過好幾項)
- 與 Moran 共同提出的《AI 事故通報法案》(AI Incident Reporting Act)
- 關於 AI 如何用於國防的法案
- 課堂研究法案
他也提到,一旦發生重大的 AI 相關事故——不論是資安或其他方面——「都會成為重要的背景脈絡。」
到了 2028 年,就業與網攻會讓 AI 成為頂級選舉議題
Whitesides 預期 AI 在 2028 年會是「天大的事」,遠超過它在 2026 年的熱度。他認為屆時主導的憂慮會是:「AI 會不會搶走他們的工作,又會如何影響他們社群的健康。」他也預期針對金融機構,或電網、電力與供水基礎設施的大規模網攻,將迫使政府採取行動。
他舉一家加密貨幣公司被盜 60 億美元為例——「這大概算得上世界史上最大的竊案」——但也承認不知道 AI 是否涉入,並指出「有人推測是北韓人所為。」
觀察重點
這裡的故事,是企圖心與工具之間的落差。Whitesides 的法案是研究授權、自願資料共享協議,以及範圍狹窄的賭盤禁令;他更具份量的訴求——8,000 萬至 1 億美元的 CAISI 預算,以及由政府觸發的前沿開發暫停——一個是在逐條審查中失敗的修正案,一個是沒提到提案人的構想。他描述的推翻否決算術,取決於一場錄音當下只剩一天就要投票、結果未定的民主黨大勝,也取決於他點名的共和黨盟友,而非任何已排定的表決。近期可觀察的具體訊號是:CAISI 經費能否挺過下一個撥款週期、與 Moran 共同提出的《AI 事故通報法案》能否推進,以及是否有任何實驗室在政府推力介入之前,自願採行事故後停機的規範。