跳到正文
MTS(youtube.com)· Theo·· 12 天前品質評分58

AI 安全不需要更多機器學習研究員 | Dewi Erwan

AI 安全不需要更多機器學習研究員 | Dewi Erwan

重點導讀

Blue Dot Impact 的 Dewi Erwan 認為,讓 AI 發展走上正軌的瓶頸在於人才進入政府、溝通與創業領域的管道,而非技術研究;他主張透過倡議以及對 AI 實驗室施壓來爭取時間。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Blue Dot Impact 共同創辦人暨執行長 Dewi Erwan 主張,如果超智慧真的只剩一到兩年就會出現,那優先事項就該轉向:向政府倡議,並對 AI 實驗室施壓,要它們解釋為何一邊說自己打造的技術可能殺死所有人,一邊還拼命往前衝。本集節目大致上是在導覽 AI 安全的人才培育管道——Blue Dot 如何把人從「有興趣」帶到「全職投入」、哪些技能組合最稀缺、瓶頸卡在哪裡——超智慧時程的討論只佔對談最後三分之一。

Erwan 回顧自己從氣候、替代蛋白領域一路走到 AI 與生物安全風險的歷程,並說明他正在打造什麼樣的基礎設施,好讓別人不必再經歷他當年的挫折感:每月開課的 cohort 課程、讓人辭掉工作或離開大學的獎助金,以及一座住宿式園區。主持人 Theo 追問:策略真的有辦法事先寫好嗎?AI 安全這股熱潮是否排擠了其他議題?Erwan 以核武嚇阻的類比回應,並批評社群媒體是史上第一個「目標錯位」的演算法。

管道本身就是產品:課程、獎助金與園區

Blue Dot 的模式是一層層的漏斗,而 Erwan 講得很明白:真正的限制是「進入這個領域要花多久」,不是「有沒有興趣」。第一步是一系列線上、以 cohort 進行的入門課程,每個月都開。旗艦課是 AGI 策略課,大約在本集錄製前一年(也就是 2025 年底左右)由 Erwan 打造——他當時從 Blue Dot 的日常工作抽身六週,去訪談各方人士「到底要怎樣才能讓 AI 走上正軌」,再把答案彙整成課。對於已經準備好全職投入的人,Blue Dot 提供獎助金,讓他們能辭掉工作或離開大學、全職學習。最新的拼圖是劍橋(英國)近郊的一座園區,任何時刻可容納 50 到 100 人,進行一到兩個月的結構化學習,之後再推他們去選擇一個組織或一項研究計畫。

Erwan 對「為什麼進入這麼慢」的診斷是:像 MATS 或 GovAI 這類 fellowship 一年只開兩、三梯,一個有動機的人可能得等五、六個月才等到開訓日,整個轉換過程「往往要花上一到兩年」。他發獎助金就是要壓縮這段時間。他描述理想中的互動流程:某人得知 AI 風險、收到相關資源、兩天後再談一次,然後拿到 5 萬美元獎助金離開現職,自行建立對這個問題的理解,再被接去盡快轉軌。

階段Blue Dot 提供什麼頻率/規模
初次接觸線上 cohort 入門課程,含 AGI 策略課每月開課
全職轉換辭職或離開大學的獎助金舉例:5 萬美元
深度沉浸劍橋近郊的住宿式園區每梯 50–100 人,為期 1–2 個月
指出的瓶頸外部 fellowship(MATS、GovAI)一年 2–3 梯,需等 5–6 個月

技術研究人才供過於求,政府、溝通與創業人才卻嚴重不足

Erwan 把問題拆成兩半:「怎麼讓 AI 發展得好」與「人才實際上被分配到哪裡」,並直言兩者嚴重錯配。該做的工作橫跨政府教育與倡議、社會防禦(強化關鍵基礎設施、建立生物防禦),以及技術對齊研究。但流入的人才卻以數學與機器學習背景為主,因為他們是最早看到模型能力進展的一群人。他們一頭鑽進技術研究計畫,「全都想去 Anthropic 或 OpenAI 上班」。Erwan 說這條管道「非常非常強」,但產出「也許好、也許不好」。

他真正想補的是那些弱管道:把優秀人才送進政府,以及送進溝通與公眾教育領域——他點名像本集這樣的訪談節目,就是供給不足的工作型別。他具體的訴求是:同時具備技術背景與溝通能力的人,不要再繼續做技術工作,而是把溝通能力用在政府與公眾溝通上。

他也點出創業是罕見且被低估的技能。多數新進者想自己鑽進某個技術專案,而不是去想「怎麼建立槓桿、放大自己的技能」。結果就是,在他看來,有些該存在的組織並不存在:替關鍵基礎設施強化防禦、抵禦攻擊的公司、新的倡議組織,以及那些進入政府、真的帶出能達成目標的團隊的創業型人才。

「同時具備技術背景與溝通能力的人,我真的會很希望看到更多這樣的人不要去做技術工作。」

核武類比:制度花了幾十年才建立,我們未必有那些時間

Theo 質疑「策略可以事先寫好」這個前提,指出過去沒有哪一次技術革命有先寫好的策略,而事情「大致上都還過得去」。Erwan 的答案是核武。1940 年代打造原子彈的科學家,害怕自己造出了會毀滅世界的東西;據說 1940 年代末到 1950 年代,RAND 的許多人連退休金都不繳,因為他們認定大家都會死。他們當時完全沒有「相互保證毀滅」的概念,也沒有推匯出穩定終局狀態的賽局理論。要好多年才想通嚇阻可以穩定,之後又花好幾年才建立條約與制度——包括刻意不建強大的反洲際彈道飛彈防禦,好讓先發制人無法消滅對手的反擊能力。這花了幾十年,「而我們熬過了冷戰」。

他的反事實假設就是論證本身:如果世界從第一顆原子彈問世後兩年內,就變成 50 個國家各持有上千枚彈頭,「我認為我們會處理得糟得多,甚至可能根本活不到今天」。他謹慎地不宣稱存在單一總體計畫——「我不認為有哪一套策略能讓所有人照著做」——但言下之意是:制度這一層需要時間,而時間未必等得到。

若超智慧只剩一到兩年:爭取時間,並向實驗室施壓

Erwan 自稱是「慢速起飛派」,並說一到兩年的情境他自己也還看不清楚;但若真是如此,「這會是非常可怕的情況」。他表示,自己更希望有多一點時間,先想清楚我們到底要什麼,免得「人類史上最具顛覆性的事,就在幾乎沒有預警的情況下落到我們家門口」。逐字稿中他並沒有背書 Theo 引用的 METR 報告或 Anthropic 內部關於研發加速的發現;他把快速時程當成一個仍在驗證中的假設,而非已成定論的預測。

在這個假設下,他的優先事項有兩個。第一,讓遠更多的人投入向政府倡議的工作,好讓政府瞭解正在發生什麼事,並能就保護公眾做出明智決策。第二,向那些「很多很多年來一直告訴我們,他們正在打造的技術可能殺死所有人」的 AI 公司施壓,要它們反思為何還在拼命把它造出來。任何能爭取時間的事——建立制度、讓更多人進入這個領域、做更多策略工作——他都「強烈支援」。

「你們為什麼還在拼命打造一個你們從公司創立以來就說可能殺死所有人的技術?」

社群媒體是我們早已忽視的「目標錯位 AI」警訊

Theo 提到社群媒體公司在安全相關實務上落後,Erwan 也同意,對社會結構的風險可能比其他風險更早報到。他引用 Sam Altman 一句他記得不太完整的話——社群媒體演算法是「第一批目標錯位的 AI」——並形容自己每天都在努力抵抗 YouTube 和 Twitter,過程「慘不忍睹」。他的說法是:「我知道我被駭了,我的大腦被這些社群媒體演算法駭了。」他在朋友身上、在社會大眾身上都看到同樣的情況。他得到的教訓是程式性的:一項威力極強的技術深深滲入人類大腦、形塑行為,卻沒有任何人認真思考過它該怎麼開發、兒童與社會該如何與它互動。

他為何離開氣候領域,而那條管道為何依然重要

Erwan 2015 年上大學時想投入核能與再生能源,後來開始擔心工廠化養殖,考慮過培養肉與替代蛋白。2018 到 2019 年間,他更深入瞭解 AI、生物安全,以及生物學可能被用來造成傷害的種種方式。他說,每一次他都「非常非常卡關」——卡在一個個人到底能做些什麼,而「竟然這麼難做出任何有用的貢獻」令他「氣憤」。這份挫折感正是 Blue Dot 的起點:打造人才基礎設施,讓人能認識這些問題,並找出自己能怎麼貢獻。

對於 Theo 說頂尖人才現在都流向 AGI、而非氣候或糧食,Erwan 反駁這個前提——就絕對人數來看,投入氣候的人遠多於投入 AI 安全的人——但也承認在菁英圈裡確實如此。他指出,氣候轉 AI 這條管道之所以強,正是因為它篩選出的是對重大問題有責任感的人:2015 年他覺得自己關心氣候變遷像個「怪咖」;到了 2019 年,他所有朋友都在關心,而他能把這股能量轉向更大的問題。

值得觀察的重點

尚未化解的張力,在於 Erwan 的兩個答案之間。他想要更多時間、更多制度,同時也承認沒有人有一套好的總體策略能讓這場轉型順利進行——而這正是核武類比所說、花了幾十年才補上的缺口。具體該追蹤的是:Blue Dot 的園區與獎助計畫是否真的可測量地縮短那一到兩年的進入延遲;政府與溝通這兩條管道是否真的吸收了他正在招攬的技術型溝通人才;以及對談中被點名的實驗室是否回應了「你們為什麼還在拼命往前衝」這個問題。本集也沒有檢驗快速時程這個主張本身:Erwan 既未背書、也未反駁 Theo 引用的 METR 與 Anthropic 加速證據,因此讀者應把「一到兩年」這個框架理解為來賓據以規劃的情境,而不是他做出的預測。

來源: MTS (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論