跳到正文
Theo - t3.gg(youtube.com)· Theo Browne·· 18 天前品質評分58

不敢相信 Pewdiepie 做了這個

不敢相信 Pewdiepie 做了這個

重點導讀

PewDiePie(Felix Kjellberg)談到自己如何解密 OpenAI 的推理軌跡(reasoning trace),還因此被停權兩次;Theo Browne 則主張,把模型的某一項行為去審查化(desensoring),整體風險會大幅升高,而代理(agent)的失敗案例應該被轉化成評測(eval)。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

Podcast 專家音訊節目

收錄於 888news Podcast 智庫專區,包含精華摘要與上市公司即時行情

正文

Felix Kjellberg(PewDiePie)花了約兩個月,微調並解除審查一個名為 Ajax 的小型本地模型,讓它跑在他開源的編碼工具 Odysius 裡;Theo Browne 的 reaction 影片把這件事當成認真的技術專案,而不是名人作秀。整段對話主要是 Browne 對 Kjellberg 的本地模型訓練、蒸餾、解除審查與 token 記錄架構的 walkthrough 做出回應;標題所指的 OpenAI 衝突,則是一小段關於 Kjellberg 帳號被停權、以及 OpenAI 對子代理提示加密的討論。

Browne 是開發者,也是 T3 Code 編碼工具的創辦人,全場提供實務派的對照觀點:他自己跑推論代理(inference proxy)與 ClickHouse 記錄,並對 Kjellberg 關於本地模型與模型規模選擇的幾個說法提出反駁。讀者讀完應該能具體掌握:一個資源充裕的業餘玩家現在用開源工具能做到什麼——微調、以消融(ablation)方式解除審查、GRPO 強化學習、完整的請求/回應記錄——以及 Kjellberg 與 Browne 針對 token 量與模型規模引用的具體數字。

一位擁有可觀 GPU 算力的 YouTuber,如今在做接近前沿的模型工作

Kjellberg 的專案 Ajax 是一個微調過的模型,專門跑在他開源的編碼工具 Odysius 裡。他說 Ajax 能上網瀏覽、做私密搜尋、寫 email、讀行事曆,這些任務「十次有九次」能成功。他形容這是一個「小到不行」的模型,目標是能在一般電腦上跑,並說第一版因為解除審查的過程「可能有點腦損傷」。

Browne 的定調是:Kjellberg 的技術能力已經超越他自己了。Browne 看著 Kjellberg 描述他讀了一篇關於解密推理軌跡(reasoning trace)的論文、然後決定自己複製一遍,說道:「不管 Prime 跟我在理解 AI 這件事上差多少,現在我跟 Peudes 之間也差那麼多。我該退休了。」他也提到,錄影當下 Odysius 在 GitHub 上有近 10 萬顆星,T3 Code 則是 4.6 萬顆。

Kjellberg 的硬體規模是這個故事的重點。他提到自己有「很多 GPU」,還跑了數週的 GRPO 訓練。相較之下,Browne 只有兩臺 AMD 的「Spark」機器,其中一臺還沒拆箱,他說自己在硬體上沒辦法做到那麼高的平行度。

專案擁有者內容所述狀態
AjaxKjellberg為 Odysius 微調的小型本地模型v1 完成,GRPO 訓練進行中
OdysiusKjellberg(開源)Ajax 所針對的編碼工具GitHub 約 10 萬顆星
T3 CodeBrowne競品編碼工具GitHub 4.6 萬顆星
ProxBrowneCLI proxy API 的分支,跑他所有推論私有,未開源

蒸餾在設計上就被擋住,OpenAI 對子代理的加密是最鮮明的例子

Kjellberg 說他的目標是從 OpenAI 的模型蒸餾,他稱讚該模型「太好了」,但 OpenAI「會把推理 token 解密」——意思是不會完整揭露思維鏈。Browne 修正並補充:OpenAI 與 Anthropic 都會把推理軌跡摘要化,而不是端到端揭露 token,但只有 OpenAI 會把模型送給子代理的提示加密。

Browne 解釋這件事為何重要,是全集中技術含量最高的一段。子代理編排(sub-agent orchestration)——由頂層代理生出帶有好提示的幫手、再統籌它們的輸出——是前沿模型具備、而開源權重模型大致上缺乏的能力。Browne 說,這方面的訓練資料「網路上根本不存在」:「你沒辦法上論壇讀一讀就學會怎麼編排子代理。這種資料你得自己做出來。」OpenAI 做出了這種資料,自然不想被抄。當 OpenAI 的模型在 Codex 裡生出子代理時,這個呼叫在伺服器端執行,回傳的是客戶端讀不到的加密 blob;回程時會在模型看到之前解密。

Browne 把這件事跟 Anthropic 的做法分開談。他說他「幾乎確信」Opus 5.5 的推理軌跡是刻意放水的——可能是訓練成這樣、可能由較笨的模型產生、也可能被中間層過濾——因為軌跡是「垃圾」,輸出卻極好。但他說,Anthropic 不會加密子代理的上下文:「你直接就能讀到文字。」他對 OpenAI 的不滿根本與蒸餾無關:「是我想看不到模型在做什麼。」

Kjellberg 說他找到一篇研究,用 OpenAI 自家的 API 就能解密那些資料,而且實測有效。接著他說自己絕不會做這種事,因為違反服務條款——而且 OpenAI 還是把他停權了兩次,中間一度解封。Browne 的解讀:「這超有種,Peud 被停權很有種,Sam Altman 停他權也很有種。」

解除審查靠消融,而且會拖累整個模型

Kjellberg 的做法是用一套叫 Heretic 的開源程式做拒答消融(refusal ablation)。他解釋機制:餵給模型它會拒答的對話,找出造成拒答的權重,然後移除。拒答行為並不是區域性化的——「其實是散佈在整個」權重裡——所以移除會造成連帶損傷,「移除得越多,腦損傷越嚴重」。

Browne 補上 Kjellberg 略過的風險框架。他引用一篇研究(他說不出名字),研究中把一個行為良好的模型微調成只在一個極窄的情境下作惡——針對某個特定檔名回應時留下一個安全漏洞——結果之後它願意勒索或「殺人」的機率大約高出八倍。他的結論:「一旦開始做這種腦部手術,你就會發現所有東西都環環相扣,跟真的大腦一樣。」

他對已釋出的解除審查模型講得更直白,點名一個「DeepSeek 4.1 obliterated」版本:「那個模型根本是武器……就算只是讓它進到你家,你都會得輻射病。」他說有兩個朋友因為實驗 obliterated 模型,家用網路被入侵,並質疑怎麼會有人把它公開提供服務:「那等於給你一個精神分裂症的偽存取權。」

Kjellberg 說他自己的底線是會傷害他人或自己的內容,並主張邊際風險很低,因為「外面早就有一大堆沒審查的模型了」。

中國模型的審查並不一致,而本集自己舉的例子就推翻了前提

Kjellberg 拿臺灣獨立問題測了幾款中國模型,結果分歧。Kimi K3 與 Qwen 給出中國官方認可的答案;GLM-5.3 與 MiniMax 給出細緻的答案。Browne 把 GLM-5.3 的回答唸出來——它陳述了事實上獨立的狀態、中華人民共和國的立場、國際承認,最後結論「答案取決於你的判準」——然後問:「我以為只有一個中國……那 GLM 應該不算真正的中國模型吧?」

模型對臺灣獨立問題的回應(依本集所述)
Kimi K3中國官方認可:臺灣是中國不可分割的一部分
Qwen如預期遭到審查
GLM-5.3細緻:事實上獨立,現狀刻意模糊
MiniMax細緻:複雜,政治、法律、實務角度看法不同
DeepSeek 4.1 Flash依 Kjellberg 測試,遭審查
Mimo 2.5 Pro依 Kjellberg 測試,遭審查

Browne 建議有人來做一個「臺灣 bench」,系統性地追蹤這件事。

現在記錄每個 token 很便宜,而這份存檔有選擇權價值

Kjellberg 幾乎所有推論都走他稱為 Prox 的私有代理,那是 CLI proxy API 的分支,因為是量身打造所以不開源。他把每個請求和回應都記進 NAS 上的 ClickHouse 資料庫。他估計這些記錄代表的 token 量:價值約 5 億美元,也就是約 5,000 億個輸入與輸出 token。整份資料集壓縮後大約 6 GB。

他說用途有兩個:稽核自己的用量——找出日常工作中失敗集中在哪裡——以及保留選擇權:如果前沿模型的存取被切斷,他還可以從自己 Opus 5.5 的用量蒸餾出「一個坦白說不怎麼樣,但……還算有點能力」的模型。他也提到,中國的實驗室可能會來要這份資料,或試圖駭進他的系統拿。

Browne 有類似的架構,並給出量級對照:

指標數字來源
Kjellberg 個人記錄的 token約 5,000 億Kjellberg
Browne 個人記錄的 token6 個月約 5,000 億Browne
T3 Code 總用量每天 20.4 兆 tokenBrowne
T3 Code 三天總計36.5 兆 tokenBrowne
Google Gemini 三天總計(依 Logan Kilpatrick)25 兆 tokenBrowne,引述 Kilpatrick

Browne 的比例:他個人六個月的用量「大約是 T3 Code 一天的 40 分之 1」。他強調自己的記錄只收模型、effort 等級與 token 數——不含輸入、輸出或可識別身分的資料——而且他自己寫了 ingest 端點來剝除 IP 位址,同時仍能阻擋濫用。

Kjellberg 想群眾外包訓練資料的嘗試失敗了。他直接向觀眾開口,還做了 data.pewdiepie.com 降低門檻,結果他說「還是沒人給我資料」。Browne 的解釋:「我覺得大多數人沒意識到,人有多不願意分享自己的資料。就算完全匿名、分享起來很安全,也沒人會去做。」Browne 在節目上直接提出要把自己那 5,000 億 token 給 Kjellberg。

Browne 反駁小型任務專用模型的論點

Kjellberg 的論點是:為了查個 email 去戳一個一兆引數的模型很浪費,針對特定工具訓練的小模型才是更好的路。他估計前沿模型大約一兆引數,跑一個實例要「27 臺我這種電腦」。

Browne 從成本效益的角度反駁。他同意不該用最頂級的模型來處理 email,但主張在 Sonnet 與 Opus 這個級別,成本效益比很好,而像 Luna 這類較便宜的模型在成本、效能、速度上都「效率高到難以置信」。他的結構性論點是混合專家(mixture-of-experts):一個 10 兆引數的模型不會每次請求都啟動全部 10 兆引數,所以「你可以把這些巨型模型想成一大堆稍微小一點的模型」。他的比喻:煎個起司三明治不需要全世界最好的廚房,但如果你要用的三樣工具已經在那裡,就用吧。

Kjellberg 的反方立場是:AI 真正的價值在於資訊檢索的速度——「研究或瀏覽,就是省下翻閱大量資訊的時間」——而不是取代創造力或思考,而一個你自己擁有、自己控制的模型,才是做這件事的正確載具。

訓練沒有自然的終點線,而 eval 迴圈可以搬到一般工程上

Kjellberg 跑了數週的 GRPO 強化學習,每個任務生成 16 次嘗試,只要成功過一次就強化該次嘗試。到第四天,符合這個條件的任務就用完了,他得自己合成更多。訓練先是進步,然後停滯,之後又再進步。他的心得:「大家都低估了大量題目的價值。」

Browne 把這件事延伸到日常工程。把代理在你的程式碼庫裡每一次失敗的工具呼叫、每一次走錯路都收集起來,變成 eval,然後調整代理設定與程式碼庫本身——並衡量程式碼庫能多有效地引導代理走向成功。「這跟訓練一個更好的模型不完全一樣,但我認為這比那還酷,因為我們日常寫程式不會用自己訓練的模型。」

談到交付,Browne 形容模型訓練一部分是程式專案、一部分是藝術專案、一部分是植物:「你可以把它指向你想去的方向,但你沒辦法真的控制模型怎麼長。」Kjellberg 的影片比預定錄製時間晚了兩個月;他設了硬性截止日,還在畫面上做了倒數計時器,最後還是沒趕上。Browne:「他是我們自己人,兄弟們。我們這兒有個真正的工程師。」

兩個關於平臺品質的玩笑,其實點出 AI 槓桿真正在哪裡

Browne 提出兩個試金石。AGI 到來的時候,是 GitHub 不再把程式碼放在 repo 頁面 README 上面的那一天——「當連微軟都接受程式碼不如上下文重要的時候」。ASI 到來的時候,是「Google 推出一款不爛的軟體」的那一天。他承認第二個標準跟第一個是兩回事,也說微軟十年前就該改 README 的位置了。

底層的觀察是:稀缺的投入正在從程式碼變成上下文——這又接回子代理資料的問題:有價值的訓練訊號在編排與上下文處理,而不在程式碼本身。

本集留下的未解問題

兩位講者對核心經濟問題看法分歧,而且都沒解決。Kjellberg 押注小型、本地擁有、針對特定工具訓練的模型會吃下高頻、低風險的工作——email、搜尋、行事曆——而且擁有模型對隱私與控制很重要。Browne 押注混合專家路由會讓前沿模型每次請求的成本低到讓「依任務選擇規模」變得沒那麼重要,而對在職工程師來說,真正的槓桿在 eval 與程式碼庫設計,而不是訓練。

值得持續追蹤的未解張力是資料牆。Kjellberg 就算做了專門的提交網站、公開呼籲,還是找不到願意捐訓練資料的人;Browne 的使用者每天產生 20.4 兆 token,他刻意不收集。與此同時,最有價值的那一類——子代理編排軌跡——恰恰是 OpenAI 加密、也無法從開放網路上爬到的東西。誰能解決這類資料的同意與收集問題,而不是算力問題,誰可能握有更持久的優勢。錄影當下 Ajax 本身仍未釋出,而 Kjellberg 自己的說法——「我知道它還能做更多,但我會再做兩天」——顯示終點線還在移動。

來源: Theo - t3.gg (youtube.com)
開啟原文

讀者討論

理性交流 · 即時討論