跳到正文
Every (AI & I)(youtube.com)· Natalia Quintero·· 18 天前品質評分58

打造現代 AI 的 50 人內幕故事,專訪 Kevin Roose

打造現代 AI 的 50 人內幕故事,專訪 Kevin Roose

重點導讀

Kevin Roose 說明他如何採訪並寫成這本關於現代 AI 背後 50 位關鍵人物的書,主張 AI 安全規範恐怕要等到災難發生後才會出現,並描述他如何用代理(agent)群來查核書中事實。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Kevin Roose 認為,AI 產業有機會在不發生災難的前提下,安全地走過這條鋼索——但前提是匯入發布前的安全測試,以及某種能放慢前沿推進速度的機制。Roose 是資深科技記者,也是新節目《Machine Gods》的主持人;他在闡述這個主張的同時,也回顧了自己如何寫出那本《紐約時報》暢銷書——一本關於打造現代 AI 的大約 50 人的報導。整段對話大部分時間都花在這段採訪歷程上:他如何讓 150 人願意開口、哪些檔案形塑了這個領域,以及他如何藉助 AI 在一年內寫完一本 400 多頁的書;其餘篇幅則留給安全監管的論點,以及他對影音新聞的看法。

Roose 確實是說這個故事的好人選:他跑科技產業超過十年,2021 年就出過一本 AI 相關著作,而且在 OpenAI、Anthropic、Google 做出那些催生 ChatGPT 與推理模型的決策時,他人就在現場。以下是他這份記述的重點——形塑這個領域的具體備忘錄與書籍、在一個諱莫如深的產業裡做報導的實務操作,以及 Roose 用來判斷哪些工作該交給機器的框架。

Roose 主張 AI 需要發布前安全測試,以及一套放慢前沿的機制

Roose 不認為我們註定完蛋,但他認為該做的事很多。他寫這本書,部分是想替自己解開一個疑問——AI 究竟是存亡懸崖,還是全是炒作——最後他的結論是:風險真實存在,該走的鋼索也真實存在,但社會過去處理過艱難的挑戰,這次也能。他說,沒有什麼是命定的,此刻做出的選擇,會決定未來幾年、甚至幾十年的走向。

談到監管,Roose 說得很直白:川普政府現在不會推出聯邦層級的 AI 監管。他預期只有在壞事發生之後,政府才會更積極介入;他引用 911 之後的模式——一個原本沒人關注的議題,突然成為所有人唯一在意的事,然後國會倉促通過立法。他偏好的路徑,是要避開這個觸發點:

  • 產業標準或認證制度。 模型在發布或對外部署之前,應先經過標準化的安全測試——確認它不會發動自主網路攻擊,也不會被武器化用來製造新型生物武器。Roose 稱這是基本門檻,並以製藥公司為類比:藥廠必須先完成測試,才能把藥賣給大眾。
  • 一套放慢前沿的協調機制。 Roose 說他是最近幾個月才被說服的;他原本認為推動加速的力量太多、太強。他點名 Dario Amodei、Demis Hassabis、山姆·奧特曼等 AI 領袖,說他們真心認為步調太快,希望替安全研究團隊爭取時間,開發控制和監控系統的新方法。

他舉的具體失敗案例,是 Hugging Face 事件以及其他資安疑慮;他擔心若沒有這類控管,這類事件會以更固定的頻率反覆發生。

整個領域因為 2017 年一份主張「大塊算力」的備忘錄而轉向

Roose 挖出最重要的一份檔案,是 Dario Amodei 在 2017 年、大型語言模型還不存在時寫的 OpenAI 內部備忘錄,當時他是研究副總裁。Roose 稱之為「大塊算力假說」,並說 OpenAI 每個人都記得讀過它,因為它重塑了公司的路線圖與企圖心。

根據 Roose 的描述,這份備忘錄的論點是:當時整個領域都在打造狹窄、客製化的系統——就像 DeepMind 前一年做出擊敗頂尖人類圍棋棋士的系統那樣——靠架構上的微調,把單一任務做到極致。Amodei 審視了這個局面,等於是在說大家都做錯了。與其做狹窄的模型,OpenAI 應該匯聚大規模、非結構化的算力——也就是大塊算力——把它對準預測句子下一個字這類通用問題,然後相信智慧會自然湧現。Roose 在自己 Substack 上公佈了這份備忘錄的前 10 頁,說它是真正的歷史檔案,你能看到 Amodei 腦中燈泡亮起的那一刻。

另有兩本書,對這個領域的自我認知影響深遠:

著作作者為何重要
*Profiles of the Future*Arthur C. ClarkeOpenAI 前首席科學家的愛書;書的導論主張,每一項突破問世時,總有睿智的長者宣稱它不可能,然後它就發生了——這對那些「瘋狂」的死忠信仰者而言是平反
*The Making of the Atomic Bomb*Richard Rhodes普立茲獎得獎的曼哈頓計畫史,Amodei 年輕時讀過;他認同 Leo Szilard——那位發現連鎖反應、力主保密,最後卻加入計畫搶在納粹之前造出原子彈的物理學家

Roose 說,Amodei 把自己看成現代的 Szilard——打造這項技術,一部分是為了不讓它落入壞人手中,一部分是為了搶先抵達。Roose 也提到一段個人的呼應:他母親寫過一本書,收錄日本原爆倖存者(*hibakusha*)的證詞。他說自己並非刻意以母親的書為範本,但從小生長的環境裡,就有人在做即時的歷史記錄,動力來自一種認知——第一手見證者不會長生不死。他自己的動機則單純得多:人們有權知道這項技術是怎麼被打造出來的。

在諱莫如深的產業裡做報導,得靠背景訊息與滾雪球效應

Roose 說,前 25 場訪談最難。這些人都是記者經常接觸的物件,而他卻要他們說出從未講過的故事。他的主要策略是讓他們以背景方式受訪——他不會具名引述,只把素材用來建構敘事。有些人仍然拒絕;對這些人,他改以其他方式保證,自己不是在寫一本把他們描繪成惡人的書。

過了前 25 到 50 人之後,就開始滾雪球了。AI 圈很小,大家都會講:潛在受訪者會聽說某位同事已經跟 Roose 談過,便覺得自己也該談;有些人則是出於較勁心態——如果某個他不喜歡的人已經講了自己那一面的故事,他也想講自己的。Roose 說,更關鍵的策略是真誠與準備:訪談前先讀研究員的論文,讓自己能問出精準的問題,並引用先前的訪談與論文,證明他要的是深度,不是浮面概述。

他也刻意加快腳步。實驗室內部一切保密、全在 NDA 之下,Slack 訊息和 Signal 對話過一段時間就自動刪除,他擔心能回答「我們是怎麼走到這裡」的紀錄所剩無幾。他原本希望 Walter Isaacson 或同等份量的人來寫這本書,自己就不必寫;既然沒發生,他大約在 2025 年初動筆。

Roose 用「Claude 評議會」審章節,用 NotebookLM 整理研究資料

書中每一個字都是 Roose 自己寫的——他刻意不把寫作交給 AI——但除此之外幾乎所有事都藉助 AI,同時也搭配人類編輯與一位人類研究員 Jasmine Sun。他一年寫了 400 多頁。

他最具特色的工作流程是「Claude 評議會」。寫完一章草稿後,他把它丟進設定成可執行一組代理(agent)的 Claude Code,每個代理各分配一個角色:

  • 一位懷疑 AI 的人,不認為 LLM 真的具有智慧
  • 一位專精技術前史的 AI 歷史學家,能抓出錯誤
  • 一位 Walter Isaacson 風格的文字匠人,關注行文流暢度、敘事弧線,以及讀起來是否愉悅

接著由一個總編輯代理,把評議會的意見彙整成單一檔案。Roose 說,它抓到了幾處他與人類編輯都沒發現的事實錯誤——這與幾年前的情況正好相反:「以前是我們得對 AI 做事實查核,現在是 AI 在查核我。」他把這歸功於幻覺率下降,以及模型更能紮根於真實檔案。

至於整理龐雜的研究專案,他靠 NotebookLM:把研究素材倒進筆記本,然後提問——「GPT-4 預訓練的那個故事是誰告訴我的?」「2021 年 Anthropic 發生某件事,該聯絡的三個人是誰?」——讓它翻遍每一份原始素材找答案。

談到工具,Roose 說他「什麼都在玩」,根本追不完:Claude、ChatGPT、Gemini、ChatGPT 的代理產品、企業代理工具 Town(Casey Newton 推他入坑的)、週末 vibe-coding 的小專案,以及用來做轉錄與摘要的本地模型。他有代理在修正其他代理,也坦言「一團亂」,該精簡了。真正寫作時他還是用 Google Docs,主要是因為他會和節目製作人在同一份檔案裡協作;他試過 Scrivener 這類專門的寫作軟體,但最後總是回到 Docs。

AI 能處理逐行潤稿,卻做不到讓寫作變好的教練工作

Roose 把 AI 擅長的事,和它還做不到的事分得很清楚。以他的經驗,最優秀的人類編輯兼具逐行潤稿、結構與節奏判斷,以及教練功能——告訴你這篇還沒突破、把你趕回去重讀原始資料,或告訴你某個故事值不值得追。AI 在逐行潤稿上很強,在節奏與結構上也愈來愈好,但 Roose 說,要寫出讓自己引以為傲的作品,他既需要技術面的編輯,也需要那股被激勵的動力。

同樣的區分,也是他決定哪些事該外包的框架基礎,他稱之為「舉重與堆高機」:

類別定義Roose 舉的例子
舉重過程中的掙扎本身就是收穫的任務;不自己做就不會成長育兒——他反對讓 AI 唸床邊故事給小孩聽,說這對家長和孩子都不好
堆高機只要把重物從 A 搬到 B、工具能抄捷徑的任務創業過程中的法務與流程苦工——檔案、保險資料、日常的雜務

他的警告是別把兩者搞混:把堆高機開進健身房,既浪費工具,也讓你毫無長進;而發誓不用堆高機,就等於徒手搬那些根本不必自己扛的棧板。

《Machine Gods》押注:原生影音新聞是下一個必須掌握的格式

Roose 與《Hardfork》長期搭檔 Casey Newton 的新節目《Machine Gods》,與 NPR 合作推出,每週播出兩集。節目把 AI 當成世界上最重要的故事來處理。開播第一週就訪問了三位原任職 OpenAI 的安全研究員中的兩位——他們在與外部稽核人員分享資訊的爭議後被解僱。Roose 說,第一要務是把節目做到最好,這需要幾個月的迭代,才能穩定每週播出兩集。

在那之後,他認為還有擴張空間——像是他與 Newton 在《紐時》做過的現場活動,以及其他形式。他最大的企圖心在影音。他認為目前多數播客的影音,仍只是幾個人隔著螢幕對談,原因是使用者或廣告主期待有畫面,而不是因為有人真的解決了這件事。與此同時,YouTube 上成功的新聞與資訊頻道,往往不是記者,也不是出身《紐時》、《華爾街日報》或《華郵》——他們是 YouTube 原生的創作者;Roose 認為記者必須向他們學習,同時守住自己的標準。他給自己定的目標,是找出這件事最有企圖心、又永續經營、且人們真的想看的版本。

談到從純音訊轉向影音,他很坦白:他得開始在意自己穿什麼,因為留言會問他是不是隻有一件襯衫。他時時放在心上的設計限制是:很多人只聽不看,所以節目在螢幕關著時——在車上、摺衣服時——也必須成立,同時在電視或 iPad 上又要好看。他說目前還沒有節目真正把這件事做到位。他的媒體攝取習慣也跟著改變:他看 YouTube 的量多到有點不好意思,並以「研究平臺」自我合理化,不過他也承認,看實況主玩《Balatro》的那幾個小時,大概算不上研究。

主線:打造 AGI 的人,正朝著一個他們自己都還沒定義的目標狂奔

這集節目最值得玩味的張力,在於 Roose 的報導與產業自身的不確定性之間。據他的描述,他訪談的這些人真心擔憂速度——擔憂到讓他改變了前沿能否放慢的看法——然而他記錄下的競爭動態(對手向傳記作者洩密、公司為了搶先而偷工減料),恰恰是讓協調變得困難的原因。他在書中問的是:他們到底在朝什麼狂奔?而他為 Amodei 畫出的 Szilard 對照,暗示答案有一部分是防禦性的:先做出來,免得被錯誤的人先做出來。

有兩件事值得持續關注。第一,Roose 提出的認證制度目前沒有任何立法路徑,因此近期的觀察重點,是產業標準會不會自願成形,或者如他所預測,得靠一場危機來逼出來。第二,他自己的工作流程,就是「舉重/堆高機」之分在專業規模上的一場活實驗——一本 400 頁的書在一年內寫成,AI 負責研究檢索、章節審閱與行政雜務,但沒有碰任何一句行文。錄音當下,他還沒準備好研討會的論點;他承諾會在活動前搞定。

來源: Every (AI & I) (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論