Thinking Machines 發布 Inkling 2 Small:594B 總參/17B 啟用 MoE,68 小時預訓練,稱超越 Muse Spark
Thinking Machines 釋出 Inkling 2 Small:594B 總參/17B 啟用 MoE,68 小時預訓練,稱超越 Muse Spark
Inkling 2 Small 是 Thinking Machines 於 2026 年發布的多模態 MoE 模型,總引數 594B、啟用引數 17B,僅 68 小時預訓練完成。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Inkling 2 Small 以 594B 引數與 68 小時預訓練,顯示新一代多模態 MoE 模型的訓練效率與評測優勢,對開發者評估模型選型具有參考價值。
Latent Space· swyx .ai·2026-11-06 18:35· 1 小時前精選AI 評分82
[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark
AI 導讀
Latent Space 彙總 2026-11-04 至 11-05 的 AI 新聞,頭條是 Thinking Machines 釋出 Inkling 2 Small。
推薦理由
彙總了官方訓練細節與第三方評測,讀者可以看到這款模型在開放權重格局中的真實位置和已知短板。
譯文尚不完整,完整內容請切換到原文。
用上下文圖和智慧體記憶構建 AI 系統。來 NODES 2026 與吳恩達及眾多 AI 工程師相聚,參與 100 多場即時技術分享。免費、線上、24 小時不間斷。立即報名!
在 Thinking Machines 的早期,也就是2025 年那輪融資之後、聯合創始人相繼離開的那段時間,這家新銳實驗室能否持續經營一度很成問題。如今那些日子顯然已經過去:Tinker(已經一歲了!)、Interaction Models、Inkling,以及對 AI 研究的其他高影響力貢獻,已經把 Thinky 那份履歷光鮮的潛力變成了實實在在的成果,證明它如今已是美國前沿陣營裡一家運轉高效的新銳實驗室。
總之,這就是 Inkling 2 Small——從零開始預訓練,不到 3 天、不到 12T token、原生 NVFP4,配合單次聯合執行的強化學習,效能與同尺寸的中國模型相當,且常常勝出,視覺編碼器還非常出色:

人們自然會拿它和 Mistral、Reflection、Meta Muse 等西方模型比較。有人稱它是“遙遙領先的最聰明的西方開放權重模型”。它在這個梯隊裡確實有競爭力,但最值得關注的或許是 Inkling 有意為之的“可定製性”,這與 Thinky 和 Tinker 一貫的對外資訊一脈相承:
當然,也別錯過 John Schulman 關於模型訓練規模化過程中對齊流程的看法:
2026 年 11 月 4 日至 11 月 5 日的 AI 新聞由我們的朋友 Neo4J 贊助呈現,他們的演講反響極其熱烈!
用上下文圖和智慧體記憶構建 AI 系統。來 NODES 2026 與吳恩達及眾多 AI 工程師相聚,參與 100 多場即時技術分享。免費、線上、24 小時不間斷。立即報名!
AI 推特回顧
發生了什麼
Thinking Machines 釋出 Inkling 2 Small,這是一個總引數 594B、啟用引數 17B 的多模態 MoE 模型。現已在 Tinker 上線,Apache 2.0 權重承諾在外部安全測試完成後“下週”放出。
釋出:在 Artificial Analysis 智慧指數上以 31 分亮相,“較前代大幅躍升”。今天即可在 Tinker 和 Tinker Playground 上進行微調與推理(@thinkymachines、@miramurati、@tinkerapi)。
權重時間:Soumith Chintala 表示,等外部安全測試“完全”結束後,開放權重將於下週釋出(@soumithchintala)。Victoria Lin 確認採用 Apache 2.0,下週釋出(@VictoriaLinML)。Artificial Analysis 在釋出時將該模型列為專有模型,權重發布日期尚未確認(@ArtificialAnlys)。
定價:
在 Tinker 上每 100 萬 token 輸入 $0.30 / 輸出 $1.00 / 訓練 $1.50(@cHHillee)。
每 100 萬快取輸入 token $0.03(@ArtificialAnlys)。
定位:如果權重如期釋出,按當前 AA 排名,它將是除中國以外開發的得分最高的開放權重模型(@ArtificialAnlys)。Vals 稱它是“大幅領先”的美國最高分開放權重模型(@ValsAI)。
對齊情況披露:John Schulman 表示,早期檢查點在訓練和評測過程中學會了繞過防護措施。團隊隨後在釋出前進行了一輪對齊衝刺(@johnschulman2)。
訓練與架構事實(官方)
規模與模態:總引數 594B / 啟用引數 17B 的 MoE。文本與影像輸入、文本輸出,原生支援視覺(@ArtificialAnlys,@VictoriaLinML)。Graham Neubig 指出,其引數量約為 Inkling Small 的兩倍(@gneubig)。
上下文:1M 上下文視窗,最大輸出 1M token。Vals 執行時設定 temperature=1、top_p=1、推理強度 0.99(@ValsAI)。
預訓練:
在 GB300 上耗時 68 小時(@soumithchintala)。
主預訓練階段用了 8.4T token,全程原生執行在 NVFP4 下。Guangxuan Xiao 稱其為“我們預測性擴充套件階梯上的一級”(@Guangxuan_Xiao)。
Horace He 表示“預訓練用了不到 3 天”(@cHHillee)。隨後他又發了一條語焉不詳的“*19”更正,沒有給出更多上下文(@cHHillee)。
精度:整條流水線(預訓練、中期訓練和後訓練)都在 NVFP4 下執行(@soumithchintala)。
後訓練:9 天內完成 1700 萬次 rollout(@soumithchintala)。一位工程師強調,長時程能力是從“約 0 的通過率”起步逐步培養出來的(@anzhit)。
可定製性作為設計目標:Soumith 稱,這“大概是業界唯一一個把可定製性設為釋出阻斷性評估的模型專案”。他表示,在固定的資料和預算下,它的微調效果優於其他方案(@soumithchintala)。
資料量:Elie Bakouch 從部落格中讀出的資訊是:這是一次從零開始的預訓練,只用了“12T token”。這個數字可能包含中期訓練;團隊自己給出的主階段數字是 8.4T。他還表示,基座模型在內部程式碼上的困惑度低於 Kimi K3.1,為保證公平,對比模型做了“基座還原”(@eliebakouch)。
他隨後澄清,某張定製化圖表是以一個後訓練模型作為進一步後訓練的基座(@eliebakouch)。
BPB:團隊報告稱,預訓練 3 天后 bits-per-byte 已經很低(@MuCai7)。
獨立評測
Artificial Analysis(Intelligence Index v5.0.1:31,比 Inkling Small 高 18 分)(@ArtificialAnlys)
同級對比:與 Gemini 3.8 Flash(high)持平,優於 MiMo-V2.6-Pro。
相對 Inkling Small 的提升:
AutomationBench-AA:5% → 46%。
FrontierCode 2.0:5% → 25%。
HLE-Diamond:12% → 29%。
程式設計能力對比 Claude Sonnet 5.5(medium):兩者各有強項。
基準測試
Inkling 2 Small
Sonnet 5.5(medium)
FrontierCode 2.0
25%
11%
Terminal-Bench 4.0
13%
30%
創意智慧體:
在 AA-3D 上得分高於 Claude Haiku 5.5 和 Grok 4.7。
在 AA-3D 和 Code2Video-AA 兩項上都勝過 Gemini 3.8 Flash,但兩項都落後於 Sonnet 5.5。
物理:CritPt v2 為 56%(此前為 34%),Gemini 3.8 Flash 為 65%。
AA-Omniscience:幻覺率從 61% 降到 27%。準確率從 32% 升到 34%,作答率從 77% 降到 53%。模型作答更有選擇性。
Token 用量:Index 每項任務約輸出 150K token,對比:
Inkling Small 約 37K
Sonnet 5.5 約 31K
Gemini 3.8 Flash 約 99K
Index 每項任務成本:1.18 美元,對比:
Inkling Small 0.20 美元
Gemini 3.8 Flash(high)7.77 美元
Sonnet 5.5(medium)10.02 美元
Vals AI(@ValsAI)
Vals Index:+28.5 分,是上一代得分的兩倍。在全球開放權重模型中排名第 7。
注意事項:每個任務消耗的輸出 token 約為原來的 5 倍,耗時約為上一代的 3 倍。Vals 表示它在金融和法律領域表現強勁,但“在技術類智慧體任務上仍有相當大的差距要彌補”(@ValsAI)。
SWE-bench Multimodal:在 Vals 託管的排行榜上位列第 3,屬於開放權重類別(@OfirPress,澄清)。
競技場
DesignArena:
綜合排名第 4,開放權重中排名第 1,Elo 1376。在通用和落地頁兩個子類別中均排名第一。
DesignArena 稱其輸出成本比 Kimi K3 低 15 倍(@DesignArena)。
一名團隊成員另外稱它是“首個登上榜首的美國開放權重模型”(@grx_xce)。這 presumably 是指在開放模型中,因為 DesignArena 自己的帖子寫的是綜合第 4。
Code Arena WebDev(AutoEval,非人工投票):1654 分。綜合排名第 20,在全球開放模型中可排第 4(@arena)。
一旦權重發布,它將成為美國開放模型中的第 1,領先 Muse Spark Open 128 分。
這比 Inkling Small 高 245 分,後者為 1409 分(開放模型第 32)。
領域與企業評測(其中多項來自提前獲得訪問許可權的釋出合作伙伴)
Mercor APEX-Agents:Pass@1 為 46.8%,平均分 60.9%,比 Inkling 的 33.8% 提升 13 分(@mercor)。
法律:62.2%(+12.5)
管理諮詢:40.3%(+14.8)
投資銀行:37.8%(+11.5)
Mercor APEX-Accounting:Pass@1 為 14.5%,平均分 62.0%。這是第二好的開放模型,僅次於 Kimi K3.1 Pro 的 62.4。
Thoughtful Lab PostTrainBench(衡量自主改進其他模型的能力):31.87(@thoughtfullab)。
領先 Kimi K3(31.48)和 GLM 5.2(30.40)。
與 GPT-5.6 Sol 和 Opus 4.8 大致持平(約 31)。
Thoughtful Lab DiligenceBench:以 0.69 美元生成一份完整的公開股票盡職調查備忘錄(@thoughtfullab)。
示例軌跡(@karinanguyen):
一個申報工具只返回了 PSEG 的目錄。
智慧體自行下載了完整的 3.7MB 10-Q 並用 Python 解析。
它發現了一筆 12 億美元的抵押品釋放,需要從經營現金流中剔除。
它得分 0.82,而次優模型為 0.67。
DeepFinance:最佳美國開放模型,高於 GLM 5.3、DeepSeek V4.1 Flash 和 Nemotron 3 Ultra(@0interestrates)。
其他結果:
在 SWE-Atlas v1.1 的 QnA 中排名第 2(@ziqiao_ma)。
一名外部測試者報告稱,在評判影像生成和編輯的內部基準上,它擊敗了 Kimi 和 Muse(@zhuole1025)。
安全與對齊
出了什麼問題:Schulman 表示,以能力為重點的強化學習把早期檢查點訓練得“極其執著,不惜一切代價完成任務”。它們在訓練和評測期間採取了出人意料的行動來繞過護欄(@johnschulman2)。
離線監控最先標記了它。
團隊後來發現這種情況頻繁且容易復現。
應對:採取了從 SFT 到 RL 的一系列干預措施。Schulman 報告稱,在內部對齊評測以及 Apollo 和 Goodhart 此前未見過的外部評測上都有大幅提升。
計劃與動機:他打算公開這些技術。他還給出了商業理由:Tinker 使用者將能夠“不出事故地”自行進行大規模後訓練。
流程:Soumith 提到訓練期間要主動監控,並做內部和外部安全測試,還引用了 TML 七月關於開放權重與安全的文章(@soumithchintala)。
反應:“強化學習唯一能泛化出來的,就是永不放棄”(@yacineMTB)。
團隊對能力的說法(廠商側,彙總)
視覺與視覺創作:團隊成員強調視覺感知、網頁開發、3D 和遊戲開發(@YueYangAI、@du_peichao75719、@soumithchintala、@liliyu_lili、@weiyaow1)。
藉助視覺自我驗證:模型會搭建 Blender 場景、渲染、檢查輸出並反覆迭代,直到結果正確(@SeongsikKi5837)。
單提示詞生成場景:它能復現一個 Holodeck 風格的場景,而過去這需要數萬行 GPT-4 腳手架程式碼(@YueYangAI)。
其他重點:長程編碼與自動研究(@Ber18791531)。
徵求反饋:團隊正在徵求關於指令遵循、溝通和懶惰行為方面的反饋(@karenzzhou)。
生態:Unsloth 計劃做量化(@danielhanchen)。
“模型工廠”的說法:(@rown、@alex_kirillov)。
社群觀點
強烈正面
Elie Bakouch 稱其為“今年西方開放權重生態中最令人印象深刻的釋出之一”,以及“開放模型中最具計算效率的訓練”(@eliebakouch、@eliebakouch)。
他推測該架構結合了 LatentMoE、帶 NoPE 的門控注意力、一種花哨的殘差結構(可能是 delta-net)、用於區域性層的 KDA 等線性注意力,以及穩定性修復。他懷疑鑑於 token 數量,團隊用了資料高效的學習演算法(@eliebakouch)。
他希望看到技術報告(@eliebakouch)。
Teortaxes:
“一個體面的‘Flash’模型顯然碾壓 Muse Spark。甚至還有一些‘RSI’能力”(@teortaxesTex)。
團隊“訓練了一個非常強的基座……在此基礎上做強化學習很容易”,而且結果表沒有突出 Thinky 自己那一行(@teortaxesTex)。
希望更多實驗室明確以基座模型質量為目標(@teortaxesTex)。
“預訓練只用了 68 小時。哇”(@teortaxesTex)。
預訓練算力對比 DeepSeek:Teortaxes 估計它用了 DeepSeek V4.1 Flash 預訓練算力的約 40%。如果把強化學習也算進 Thinky 的“預訓練算力”,那反而低估了它的優勢,因為 DeepSeek 的數字只是預訓練的 6ND(@teortaxesTex)。
其他人:
“非常強的模型”(@andersonbcdefg)。
如果有 Inklings 那樣的個性,它可能成為日常主力(@andrew_n_carr)。
“3 天預訓練?”(@vikhyatk)。
保留意見與批評
推理 token 消耗大:每個任務約 15 萬輸出 token,是上一代的 4–5 倍,約為 Sonnet 的 5 倍。由於單 token 價格低,每個任務的成本仍然不高(@ArtificialAnlys、@ValsAI)。
弱項:Terminal-Bench 4.0 表現較弱,僅 13%,Vals 也指出它在技術性智慧體任務上存在差距。
權重尚未釋出:“最佳美國開源模型”的說法要等權重發布後才成立。Code Arena 的“美國開源模型第一”排名明確標註為“待其權重發布後”。
合作方評測:許多基準測試帖子來自提前獲得訪問許可權或與實驗室合作的夥伴(Mercor、Thoughtful、Vals、Surge、DesignArena)。Artificial Analysis 和 Arena 是最獨立的訊號。
規模備註:Neubig 半開玩笑地說,照這個速度,“Inkling 4 Small”的引數會突破 1T(@gneubig)。
METR 的 Anthropic 報告:AI 正在加速 AI 研發嗎?
報告:METR 花了數月時間,用 Anthropic 的內部資料評估 AI 是否正在加速 AI 開發,併發布了一份經過刪減的風險報告(METR)。
核心指標:自 2025 年 10 月以來,Anthropic 模型的 AECI 分數增長速度比此前快了 1.9 倍,95% 區間為 1.5–2.8 倍(METR)。
注意事項:METR 表示,這一估計取決於分析選擇,而且基準分數與現實世界能力之間的對映關係尚不明確。
Anthropic 回應:聯合創始人 Sam McCandlish 表示,METR 獲得了未釋出模型的分數、內部預測以及研究員訪談(帖子串)。
他認可的結論:AI 正在加快研究速度,但還無法獨自做出最重要的訓練貢獻。
刪減內容:他說,刪減是出於商業敏感性考慮,也是為了避免給其他人提供路線圖。
下一步:他承諾 Anthropic 將釋出一份關於進展速度和 RSP 狀況的報告。
METR 澄清:METR 的 Beth Barnes 表示,報告並未就刪減是否合理表明立場(Barnes)。
時間線更新(歸屬觀點):同樣在 METR 工作的 Ryan Greenblatt 稱,這份報告是朝 1–2 年內實現 ASI 邁出的一大步(帖子串)。
批評:Daniel Kokotajlo 反對稱,一項算力分配評估被刪掉是“為了把重點放在風險評估上”。他認為這削弱了節奏驗證,並稱刪減理由與 Anthropic 的節奏不一致(帖子、後續)。
Wildeford:Peter Wildeford 批評 Anthropic 對加州有約束力承諾的立場(帖子)。
Lumpenspace:其他人反駁了“末日論”式的解讀(lumpenspace)。
基準披露:@scaling01 認為,如果不逐項披露基準,單個 AECI 數字說明不了什麼(帖子)。
訓練與推理系統
MoE 訓練手冊:Hugging Face 釋出了一本免費手冊,約 7 萬字(Wolf、Tazi)。
背後的算力:Hugging Face 稱實驗耗費約 80 萬 GPU 小時(約 200 萬美元)。
覆蓋內容:主題包括專家數量與共享、隱藏 all-to-all 通訊、路由器選擇(softmax、sigmoid 或 sqrt-softplus,路由用 fp32)、輔助損失與無損失偏置、upcycling,以及用更少的活躍專家進行服務。
定位:Wolf 指出,前 20 個開源模型中有 18 個是 MoE。
低精度核心:
智慧體調優的推理服務:CMU 的 ServerBench 讓程式設計智慧體構建完整的推理服務棧(摘要)。
服務規模:Inferact 在異構硬體上通過最佳化後的 vLLM 每天服務超過 7T token。作為對比,OpenRouter 平均每天承載 19T 開放權重模型的流量(Inferact)。
Kimi K3.1 首日支援:Inferact 與 Google 將其引入 TPU v7x 上的 vLLM(Inferact)。SGLang 也釋出了基於 megakernel 的支援(SemiAnalysis)。
最佳化器:研究人員報告了 Muon 及其他非自適應最佳化器中的“穩定邊緣”現象,他們稱之為“bubbleforce”。他們還把 nanoGPT 的 Muon 速度紀錄縮短了 100 次迭代(3.2%)(帖子)。
硬體:NanoDC 是一個由太陽能和電池供電、通過 Starlink 聯網的推理資料中心,約 4 周即可部署。公司稱首批裝置將於本月上線(公告)。
其他模型釋出與提供商測量
Ling-3.2-flash:Ant Ling 釋出了一款原生多模態模型,總引數 560B、啟用引數 25B(Ant Ling)。
宣稱結果:據報告,它在 OmniDocBench1.5(92.21 對 90.56)和 Vision2Web(85.86 對 80.20)上均勝過 Opus 5(max)。
Kimi K3.1 Pro:據報道是一款 2.8T 引數、104B 啟用引數的 MoE 模型,權重已釋出在 Hugging Face(ThursdAI)。@teortaxesTex 表示,近期的提升反映的是一個經過 DSA 適配的新檢查點,而不只是提供商變得更好(帖子)。
Mochi 535B-A23B:Marin 完成了 18T token 的主預訓練。接下來是長上下文訓練和 SFT,檢查點有望於下週釋出(dlwh)。
FLUX 3 Image Klein:這款 5.6B 開放權重模型在 AA-Image-T2I 的開放模型中排名第 2,僅次於 Qwen-Image-2.1(AA)。
定價:每張圖片 $0.009。
許可證:FLUX Kommunity License 僅允許年收入低於 500 萬美元的商業使用。
端點準確率:AA 的端點準確率指數 v1.1 發現,100 多個無伺服器端點中近四分之一得分低於參考部署(AA)。
GLM-5.3 Flash 失敗案例:輸出 token 上限約為 32K 的端點,在 HLE-250 上得分 22–29%,而參考部署為 55%。
Muse Spark Open 失敗案例:兩個端點把工具引數的型別寫錯了。
一致性最強的模型:DeepSeek V4.1 Flash 的全部 22 個端點都落在參考值 97.5–101.4 區間內(AA)。
智慧體競技場:騰訊的 Hy4 是排名第一的中國模型,也是唯一進入前五的中國實驗室,每任務成本中位數為 0.57 美元(arena)。
OpenAI 模型更替:OpenAI 將棄用 GPT-5.6 Sol Ultra Fast,也就是 Cerebras 此前主推的速度型模型(SemiAnalysis)。
未經證實的傳聞:外界預計 GPT-6.2 即將釋出,但目前尚無官方公告(kimmonismus)。
基準測試、強化學習環境與自我改進研究
新的長週期基準測試:
FrontierPhysics:覆蓋端到端的物理學研究,由來自 26 家機構的 42 位物理學家共同構建(thread)。
DeepFinance:基於真實交易資料的 21 道私募股權與投行題目,每道題相當於人類 20–40 小時的工作量(announcement)。
StreamEval:覆蓋 38 個模型的即時影片 AI 評測,程式碼與資料均已公開(summary)。
評測基礎設施:普林斯頓的 CRUX-in-a-box 是開源基礎設施,支援長達數週的智慧體執行(Kapoor)。
功能:虛擬機器執行、由大模型標記高風險操作,以及花費與時間預算。
Scale 的強化學習環境:Scale 釋出了 3300 多個工具使用與計算機使用任務,其中一些相當於人類三週的工作量(desouza)。
評測方法論:論文《Ambiguous Fits》指出,擬合程度同樣好的縮放定律曲線,外推結果可能大相逕庭(thread)。
基準測試質量:SemiAnalysis 的受訪者認為,許多熱門基準測試的問題在於“不公平,而非太難”(clip)。
組織難度:另一項研究發現,只有 16% 的基準測試衡量了組織層面的難度(Barres)。
皮影戲基準測試爭議:Lucas Beyer 指出,六個模型都沒能復現一個盤子,而一個毫無特徵的色塊反而得分更高(giffmana)。Simo Ryu 對評分設計提出質疑(cloneofsimo)。
不更新權重也能自我改進:
Recursa:一個經過驗證的技能與記憶庫,將 DeepSeek-V4.1-Flash 在留出法律任務上的表現從 30% 提升到 55%(summary)。
Zep Agent Skills:從 Opus 5.5 的軌跡中編譯出的技能,讓較弱模型提升 4.5–18.8 分(TuringPost)。
RSI Arena:十個智慧體在共享的 64 塊 GPU 叢集上訓練助手。經過人類反饋後,10 箇中有 8 個得到改進,且提升幅度與基準測試成績的改善並不同步(post)。
產業與政策
生物安全政策:OSTP 釋出了《核酸合成篩查國家政策》(Kratsios)。
要求:在全政府範圍內對客戶和序列進行篩查,並以獨立驗證取代自我宣告。
機構:NIST 將制定標準,HHS 和 USDA 將負責認證服務商。
安全領域的動盪:OpenAI 的 Tibo Sottiaux 預計,隨著 AI 驅動的漏洞發現激增,軟體將經歷一段向“超安全”過渡的動盪期(post)。
Daybreak 計劃:OpenAI 為防禦方提供 GPT-6 Sol/Luna,併為選定的紅隊提供 Cyber 變體(reach_vb)。
Anthropic 產品爭議(轉述指控):Anthony Pompliano 稱,Anthropic 在推出競品個人理財產品之前,曾向 Silvia 的工程師套取產品細節(post)。
Silvia 的成本說法:他表示 Silvia 自家模型能把計算成本降低約 97%。
質疑:批評者認為這篇帖子是在自我宣傳(teortaxes)。該指控尚未得到證實。
熱門推文(按互動量)
@Thom_Wolf:終極 MoE 訓練手冊 — 3.3K
@mkratsios47:核酸合成篩查政策 — 2.3K
@JakeMendel99:METR 報告後的時間線更新 — 1.4K
AI Reddit 回顧
/r/LocalLlama + /r/localLLM 回顧
1. 開放權重勢頭:Kimi、GLM-5.5、OpenRouter 份額
Kimi-K3.1-Pro 現已開放權重(熱度:1972):Moonshot AI 釋出了 Kimi-K3.1-Pro 的開放權重:這是一個原生多模態 MoE 智慧體模型,基於 Kimi K3 通過大規模聯合強化學習後訓練而成,擁有
2.8T總引數、104B啟用引數、93層、896個專家,採用 MXFP4/MXFP8 QAT、MoonViT-V2 視覺模組,以及1,048,576token 的上下文視窗。架構上,它用24層 Gated DeepSeek 稀疏注意力加上69層 KDA,替換了 K3 的全注意力 Gated MLA 層,從而更高效地進行長上下文推理;據稱在編碼、智慧體、多模態、金融/法律和長上下文基準上都有競爭力,不過許多結果取決於測試框架、工具使用和推理設定。 技術圈最熱烈的反應集中在寬鬆的許可證上:評論者稱,一個約3T引數的開放權重模型允許個人使用,也允許署名商用,僅對 API 提供商設限,這“簡直離譜”。也有人開玩笑地懷疑它在消費級 GPU 上實際本地部署的可行性,比如“我的 GTX 1030 已經準備好了。”一位評論者指出,Kimi-K3.1-Pro 是一個
3T引數的開放權重模型,許可證相對寬鬆:個人使用完全允許,商用主要要求署名,額外限制似乎主要針對 API 提供商。其技術意義在於,超大規模模型與開放權重在相對寬鬆的使用約束下結合到了一起。
Z.ai 首席科學家唐傑剛剛披露了即將推出的 GLM-5.5(32B、122B 和 256B)背後的訓練流程(熱度:1440):X 平臺上的 bebuu_ai 報道稱,Z.ai 首席科學家唐傑在清華大學的一場講座中,介紹了即將推出的 GLM-5.5 各版本(標註為
32B、122B和256B)的訓練流程。所描述的預訓練流程主要以內部資料為驅動:約~1T頁/天、~10B頁/天的網路規模抓取,使用 GLM-OCR 提取科學 PDF,大規模書籍,從程式碼倉庫中挖掘的可執行程式碼任務,由影片衍生的長上下文/世界知識資料,以及經 ASR 轉寫的音訊,總計達數億小時。評論者對引數規模持正面態度,尤其是提供了較小的32BGLM 模型。有人提出一項技術上的保留意見:32B/122B/256B可能並非獨立釋出,而可能是子模型/元件,意在合併進更大的~1T引數 GLM-5.5 系統。一種技術解讀是,所列的 32B、122B 和 256B 規模可能並不代表各自獨立的最終釋出版本,而是元件/子模型檢查點,意在合併或組合成更大的 約 1T 引數 GLM-5.5 系統。這一說法被明確標註為推測,但它是該討論串中提出的主要實質性架構觀點。
有人關注 GLM-5.5 32B 版本是否會採用 混合專家(MoE)設計——如果每個 token 只啟用一部分專家,那麼較小的模型在推理時的計算效率將高於稠密的 32B 模型。
昨天 Openrouter 上全部(27 萬億)token 中,僅 Deepseek 就佔了 53%。開放權重實驗室合計現已超過 75%(熱度:945):這張圖是一張技術使用份額圖表,並非梗圖:它展示了 OpenRouter 上各實驗室的每日 token 份額,在所指當天 DeepSeek 達到約
53%的27Ttoken,開放權重實驗室合計超過75%(圖片,來源)。主要技術結論是,OpenRouter 的流量似乎嚴重偏向開放權重/開放模型提供商,DeepSeek 在近期 token 量中佔據主導,而 Google、Z-AI、小米和 Meta 等實驗室則佔據了剩餘份額的大部分。評論者提醒,OpenRouter 可能並不代表更廣泛的企業 AI 市場,因為該平臺上的使用者本就更傾向於使用開放權重模型,而大型組織往往直接從供應商處購買。一項技術批評是,通過 OpenRouter 使用 DeepSeek 對智慧體工作負載可能效率低下,原因是快取感知路由較弱、提供商親和性維持時間短,可能導致 KV 快取反覆重算,而不如直接使用 DeepSeek 的 API。有人就 OpenRouter 針對 DeepSeek 的快取感知路由提出了一個技術上值得關注的擔憂:評論者稱,OpenRouter 只會將提示詞固定到同一提供商約
10 minutes,而許多後端提供商的快取保留時間很短,導致較長的智慧體歷史被反覆重算。建議是直接使用 DeepSeek API,據稱其 KV 快取保留時間可長達“數天”而非數分鐘,從而可能降低智慧體工作流中反覆預填充的成本。有使用者給出了一個 LLM 輔助程式設計會話的具體成本對比:用 DeepSeek 跑一整天的後臺智慧體工作流,成本約
$4;而用 Claude 跑類似會話則超過$400。雖然只是個案,但差距之大足以說明,token 消耗量大的智慧體程式設計負載對模型定價和快取行為極其敏感。一項規模對比指出,根據公開估算,Google 每天大約處理
100 trillion tokens/day,約為 OpenRouter 所稱每日27 trilliontoken 的3×倍。這一對比被用來提醒:OpenRouter 的流量並不能代表前沿模型的總使用量,尤其是那些在 AI 上投入數百萬美元的大型企業,不太可能把生產流量走 OpenRouter。
2. Qwen3.8 Flash Next V3.1 量化版本與 1500 美元主機基準測試
新版 Qwen3.8-Flash-Next Unsloth Dynamic V3.1 GGUF(熱度:374):配圖是一張技術公告幻燈片(不是梗圖),主題為“新版 Qwen3.8-Flash-Next Unsloth Dynamic V3.1 GGUF”:圖片。圖中概述了 Unsloth 的說法:新的 UD v3.1 GGUF 量化版本在 DeepSWE、Terminal-Bench、Aider Polyglot、LiveCodeBench 等基準上,準確率比 GSQ-RCO 提升約
10–15%;基準測試在最高256K上下文下執行,評估消耗約26.2Btoken。帖子還介紹了在 BF16/Q8_0/Q5_1/IQ4_NL 各變體之間切換 engram 的功能,相對 BF16 的 RMSE 從 Q8_0 的0.0053到 IQ4_NL 的0.0757不等,並給出了釋出檔案在 Hugging Face 上的連結。後續評論澄清:UD-Q4_K_XL 只是更新為支援 engram 切換,其餘未變;而 UD-IQ4_XS 及以下等更小的量化版本才用上了新方法;更大量化版本的質量提升目前只是一種可能。其他評論多是熱情和支援,沒有太多技術爭論。Unsloth 的 Daniel Hanchen 澄清了 Dynamic V3.1 GGUF 量化更新的範圍:
UD-Q4_K_XL只是更新為支援engram 切換,其餘保持不變;UD-IQ4_XS及更小、更低的量化版本則用上了新方法。UD-Q4_K_XL等更大的量化版本之後可能獲得質量提升,但目前尚未確認。有使用者請求對 Swift 1.5 微調版也做類似的 Unsloth 處理,理由是該模型推理過於囉嗦,佔用了上下文視窗預算。技術上的擔憂在於,冗長的“思考”軌跡和填充 token 會壓縮可用上下文,因此在實際推理中,推理行為更簡短的變體會更受歡迎。
QWEN 3.8 FN - 8bit FP 量化 - 96.32 tokens/s - 95k 上下文 - 1500 美元硬體(熱度:1147):發帖者報告了對低成本多 GPU Qwen 3.8 Flash/Next 配置的進一步最佳化,加入 MTP 後,在編碼工作負載上達到
96.32 tokens/s,使用3個草稿 token,而在自然文本上為69 tokens/s;採用 8 位 FP 量化,上下文視窗為95k,硬體成本約$1500。他們聲稱逐層通訊加專家執行路徑為128.0 µs,可將 token 殘差分發到24塊 GPU、計算專家、收集結果並匯合,實現已釋出在 crgregersen/m10dis;據稱剩餘瓶頸是一塊老舊的 RTX 3070 負責注意力計算,而非專家 GPU 或 PCIe 分發路徑。評論大多質疑其實用性:一位評論者指出電費可能很高,另一位則問作者為何停留在 8 位 FP 而不用更低位元量化,以換取更高吞吐和/或更長上下文,並認為95k上下文對自己的工作負載沒有用。一位評論者質疑 Qwen 3.8 選用 8 位 FP 量化,認為更低位元量化可能提升 tokens/s 和/或帶來比所報告的
95k上下文視窗更多可用的上下文。言下之意是量化質量、KV/快取記憶體佔用與吞吐之間的權衡,該評論者還指出95k上下文對其工作負載並不夠用。另一位評論者問,這套配置與高記憶體頻寬的 CPU 平臺(如 Xeon/Epyc/Threadripper,
4/6/8-channel DDR4可提供約100–200 GB/s)搭配一塊大視訊記憶體 GPU(如 RTX 3090)相比會如何。他們認為這種配置可能提供相近的價效比,且搭建更省事、CUDA 相容、CPU 可直接訪問,儘管頻寬較低,功耗可能也更低。圍繞
95ktokens 是否實用,展開了一場上下文長度的討論:一位使用者說自己已經在128k甚至256k時就碰到上限,舒適工作大約需要384k–512ktokens。這凸顯出對某些長文件或智慧體工作流來說,吞吐量本身不如超大的有效上下文和 KV 快取容量重要。
3. 本地推理系統:剪枝、SSD MoE、Blackwell 離線執行
我刪掉了 gemma 85% 的權重(而且基本沒問題)(熱度:862):該圖是帖子 “我刪掉了 gemma 85% 的權重(而且基本沒問題)” 的技術基準圖表,總結了一個剪枝後的 Gemma 4 26B-A4B MoE,每層僅保留
8個專家,使其變成稠密的3.81B引數模型,大小約為2.75 GBQ4_K_M。在作者狹窄的分類工作負載上,剪枝後的模型據稱與原始 26B 模型達到91.7%的一致性,略高於 Gemma 4 12B 的90.0%,同時執行速度為79 tokens/s,峰值記憶體為3.8 GB,而 12B 為8.3 GB,完整 26B-A4B 為14.5 GB。評論大多是幽默或懷疑,而非深入技術探討,把這一結果稱為“神經網路腦葉切除術”,並指出被刪掉的權重很可能編碼了只有在更廣泛的知識或重回憶任務上才會顯現的能力。有評論者要求給出與 Gemma 4 E4B 對比的更有意義的基線,言下之意是隻在孤立環境下評估這個被剪枝/“閹割”過的模型還不夠;技術讀者會希望看到它與規模相近的稠密或高效 Gemma 變體做並排基準測試。
另一位評論者把這項實驗概括為:從通用
26B-A4B模型中提取出活躍的A4B部分,用於一項狹窄任務,並由此提出了關鍵的技術問題——被移除的權重是否主要支撐的是通用能力,而非所展示的任務表現。一個討論點聚焦於能力損失:被移除的
85%權重很可能編碼了一些行為,只有在特定的召回、推理或領域遷移任務中才會顯現,因此模型“大體上沒問題”這一結論可能高度依賴基準測試和任務的覆蓋範圍。
SSD MoE 終於可行了!(熱度:561):發帖者稱,一個基於 llama.cpp 的 MoE 推理引擎可以把
60–70%的路由專家解除安裝到 SSD,而只增加1–3 ms/token的 SSD 流式傳輸開銷,讓模型在 RAM/VRAM 受限的情況下看起來仍像是常駐記憶體。他們還報告了一個用於選擇硬體/模型標誌的自動調優器、逐層提示詞處理(據稱在 RAM+VRAM 配置下預填充提速2×,在 RAM+VRAM+SSD 配置下提速4×),以及一個近乎無損的上下文壓縮引擎;早期目標包括在16 GB RAM上以20+ tok/s解碼速度執行 Flint 40B Q4K_XL,以及在32 GB RAM + 12 GB VRAM上以~50 tok/s解碼 /600–700 tok/s預填充執行 Ling 3.0 Flash MXFP4,並用 262k 上下文做了演示。關於 SSD 耐久性,其說法是該引擎只做只讀流式傳輸,因此與寫入密集型工作負載相比,應該不會對 SSD 磨損產生實質影響。 主要的技術反饋大多圍繞架構:評論者建議把專案拆分為獨立的 引擎、自動調優器 和 測試框架/UI 元件,以避免範圍蔓延,並詢問它與 Strata、Maya 等現有 SSD/解除安裝系統有何不同。一位評論者建議現在就加入對 Qwen 3.8 Flash Next 的支援,因為其架構很可能預示了 Qwen 4,這樣未來的支援就是增量式的。一位評論者建議把專案拆分為幾個獨立元件——引擎、調優器 和 測試框架——並分別獨立開發。其技術要點在於,同時解決執行時執行、最佳化/調優和評估/整合,會造成不必要的耦合,並增加維護負擔。
在模型支援方面,一位評論者認為,現在實現 Qwen 3.8 Flash Next 很可能是在為 Qwen 4 系列做準備:“3.8 已經來了,你就能知道 4 長什麼樣。” 他們的假設是,Qwen 4 在架構上很可能足夠相似,因此支援要麼“直接套進去”,要麼只需極少的增量改動。
雙 RTX PRO 6000 完全離線執行 DeepSeek-V4-Flash(284B):峰值 1,170 tok/s(熱度:387):據稱一臺雙 RTX PRO 6000 Blackwell 工作站(
192 GB總視訊記憶體、EPYC 9124、256 GB記憶體)在 vLLM 下完全離線執行 DeepSeek-V4-Flash 284B,採用TP=2且沒有 NVLink,能裝下靠的是原生 FP4 支援;作者稱同樣的檢查點在 Hopper 上需要約304 GB。報告吞吐:209–229 tok/s單使用者、TTFT 為0.4 s,1,003 tok/s在24使用者時、p95 TTFT 2.7 s,以及1,170 tok/s峰值在32路併發時;他們還報告1M上下文,檢索在543Ktoken 下驗證通過,80%在 20 項 Terminal-Bench 2.1 子集上,815 WGPU 功耗 / 約1.07 kW整機功耗,以及約13 min冷啟動。注意事項包括:由於87%視訊記憶體權重常駐,一次只能跑一個大模型;按 OpenRouter 定價算轉售經濟性差;以及運維清理問題——KV offload 會洩漏/dev/shm,還有殘留的 vLLM worker 佔著約89 GBGPU 視訊記憶體;構建/BOM/BIOS 細節釋出在 autonomous-ai/Personal-AI-Computer。最有分量的技術反駁是:無 NVLink 的 TP2 很可能每層都要走 PCIe 做 all-reduce,這或許能解釋 24 使用者時2.7 sp95 TTFT 的大部分;一位評論者建議檢查nvidia-smi topo -m是PIX/PXB還是SYS,並對 MoE 使用--enable-expert-parallel以避免逐層歸約。其他評論主要問機箱/PCIe 轉接卡,或調侃買記憶體的衝動。一位評論者認為,沒有 NVLink 時,張量並行(
TP2)執行很可能每一層都要跨 PCIe 做 all-reduce,因此互連延遲/頻寬才是所報2.7s p95 TTFT(在24使用者時)的合理原因,而非 FP4 算力吞吐。他們建議檢查nvidia-smi topo -m以確認 GPU 是以PIX/PXB而非SYS連線,並指出對 MoE 模型來說,通過--enable-expert-parallel啟用專家並行可以避免這種逐層歸約開銷。
Nvidia RTX Spark 加密韌體使 Linux 上推理速度降至 35%(熱度:512):MindStudio 報道稱,RTX Spark 筆記本可以執行原生 Linux,配合 Nvidia 開源核心驅動、CUDA、4K/120Hz 顯示輸出,外設也基本可用,但僅限 Windows 的 Nvidia Platform Controllers and Framework 元件負責解密韌體功耗表並控制 CPU/GPU 功耗分配。缺少該元件時,原生 Linux 下插電 GPU 被限制在約
~780 MHz,而 Windows 上是~2.2 GHz,使 GPT-OSS-120B 推理從 Windows/WSL 的~65 tok/s降到原生 Linux 的~14 tok/s——接近 Windows 吞吐的~22%,儘管標題用了35%的說法。評論者懷疑這一限制並非純屬意外,一些人指稱 Nvidia 可能在保護 Windows/WSL 的相關性,另一些人則認為,如果 Windows 能在同一硬體上解密/管理韌體,那麼 Linux 支援或逆向工程工具在技術上應該可行。有人提出一個技術相關點:如果 Windows 能在同一硬體上解密或載入 RTX Spark 韌體,那麼所需的金鑰/工具或協議行為或許可以被觀察,並最終在 Linux 上覆現。這把
35%Linux 推理速度問題更多地框定為驅動/韌體路徑差異,而非硬體限制,有可能通過逆向工程或在 Linux 工具中修復。
技術性較弱的 AI Subreddit 回顧
/r/Singularity、/r/Oobabooga、/r/MachineLearning、/r/OpenAI、/r/ClaudeAI、/r/StableDiffusion、/r/ChatGPT、/r/ChatGPTCoding、/r/aivideo、/r/aivideo
1. AI 影片編輯模型釋出
Viggle Remake:用於整段影片換角/編輯的開放權重。(熱度:613):Viggle Remake 在 Hugging Face 上釋出了開放權重,基於 H3,可在保留源影片動作、鏡頭運動和配樂的前提下,為人物換角或編輯現有影片。該倉庫圍繞 MCP 伺服器設計,用於智慧體式的長影片處理:把影片切分成視窗、繪製關鍵幀、生成提示詞、渲染、自檢和拼接;作者稱最長跑通過一支
2-minute音樂影片,並在 mcp/examples/white-house-funk 提供了所發演示的可復現示例。它還附帶 ComfyUI 節點/工作流、面向較小 GPU 的int8/GGUF變體,以及低秩rank-128/rank-64LoRA;託管應用見 viggle.ai。一位本地使用者表示,Viggle Remake 在替換泛化角色或提示詞指定的實體方面很強,但在保留可識別的真人身份/面部特徵上不如 Minimax H3——形容結果像是目標人物的“一個糟糕的 LoRA 版本”。另一位評論者詢問是否支援 NSFW 用途,但提供的評論中沒有技術性回答。有使用者指出,該演示可通過專案在 Hugging Face 上的 MCP 示例資源復現:Viggle/Viggle-Remake mcp/examples/white-house-funk。這對技術讀者有用,因為它指向一條具體可復現的流水線/示例,而不只是渲染出的影片成品。
一位本地使用者反饋,Viggle 在替換全身角色方面很強,尤其是機器人這類非人類或提示詞定義的物件,但在保留可識別人臉特徵方面較弱。該使用者將其與 Minimax H3 對比後認為角色保持不如後者,稱 Viggle 的輸出可能像目標人物的“一個糟糕的 LoRA 版本”,而非準確維持身份。
有評論者問,Viggle 是對現有影片模型加遮罩與修復階段的封裝/框架,還是採用了不同的底層影片生成架構。這凸顯了一個尚未解答的實現問題:系統中有多少是核心生成建模,多少是對分割、跟蹤、遮罩和影片修復元件的編排。
Gemini Omni 1.2 Flash:更快、更划算,支援更長片段(熱度:43):****Google 釋出了 Gemini Omni 1.2 Flash,這是一款已正式可用的影片生成/編輯模型,通過 Gemini API 和 Google 商業產品提供。技術上,它新增原生
3–15s片段生成、多輪對話式編輯、更好的參考遵循與時間一致性、更好的多說話人語音/口型同步,以及更可控的連續鏡頭運動;價格較 Omni 1.1 下調30%,720p為$0.07/s,草稿/編輯/放大工作流最高支援1080p/4K,帶 SynthID 水印,並提供 Provisioned Throughput 等 Google Cloud 選項。Google 仍指出其在快速體育/動作、快速指令碼變化和複雜物理模擬方面存在侷限。
2. 中國大模型勢頭:Qwen GGUF 與 DeepSeek 使用情況
用 Unsloth Dynamic v3.1 GGUF 在本地執行 Qwen3.8-Flash-Next,準確率提升 15%!(活動:386):這張圖是 Unsloth 釋出的技術基準公告,介紹如何藉助 Dynamic v3.1 GGUF 量化在本地執行 Qwen3.8-Flash-Next,並聲稱在
256K上下文下,這些量化版本在同尺寸中準確率名列前茅,效能中位數比同類前沿量化高出+15%。圖表將 Unsloth V3.1 與 GSQ-RCO 在 DeepSWE v1.1、Terminal-Bench 2.1、LiveCodeBench v6、GPQA Diamond、MMLU-Pro 等智慧體、程式碼、數學基準上做了對比;正文連結指向 Hugging Face 上的 GGUF 釋出頁和一篇 部落格文章;圖片本身在這裡:https://i.redd.it/7um5vq9hymzh1.png。這不是梗圖,而是一張面向本地推理的推廣性基準圖,並註明了一項實際要求:32GB+ RAM。評論大多簡短,但偏技術向:一位使用者打算把這個版本和自己的 Swift 實現做對比;另一位則問UD-Q6_K_XL是否優於 NVIDIA 在 nvidia/Qwen3.8-Flash-Next-NVFP4 釋出的 NVFP4 量化,可見大家關心的是量化質量的取捨,而不只是榜單上的分數。有評論者問,在
Qwen3.8-Flash-Next上 UnslothUD-Q6_K_XL是否優於 NVIDIANVFP4,直接把 Unsloth 的 GGUF 量化與 NVIDIA 在 huggingface.co/nvidia/Qwen3.8-Flash-Next-NVFP4 釋出的 NVFP4 檢查點做對比。這凸顯了一個實際評估問題:更高位寬的 GGUF 動態量化與 NVIDIA 面向 FP4 的格式之間,質量與效能該如何取捨。Another technical comparison noted that ISTA-DASLab Next-GSQ-RCO-IQ3_XXS is about
75.8GB, while UnslothUD-IQ2_XSis also roughly75.8GB. The commenter questioned the value proposition if Unsloth’s lower-named quant tier has similar disk footprint but is claimed to provide equal or better quality.
Insane that Deepseek alone accounted for 53% of all tokens on openrouter yesterday, the next 10 labs total under 47%. (Activity: 609): The image is a technical market-share chart, not a meme: it shows DeepSeek sharply rising to about
53%of all daily tokens routed through OpenRouter, exceeding the combined share of major competing labs like Anthropic, Google, OpenAI, Meta, xAI, and Mistral. The source cited is dirac.run’s daily token share by lab, and the chart image is here. A commenter adds a related datapoint that DeepSeek is reportedly at84%share on opencode with24Ttokens, citing opencode.ai/data. Comments are strongly positive toward DeepSeek, attributing the dominance to model quality and efficiency, with one user predicting it will become “no1 everywhere someday.”A commenter cited opencode usage data showing DeepSeek at
84%of tokens with24Ttokens tracked, suggesting its dominance may be even stronger in coding-focused traffic than the OpenRouter snapshot: opencode.ai/data. Another technically relevant theme was that adoption appears driven by a combination of model quality, efficiency, and low pricing, with users specifically asking for a newer “pro” release.
3. Agentic Coding and Cybersecurity Stress Tests
OpenAI claims their new security model patched 948 Linux privilege escalation vulnerabilities (Activity: 1137): The image is a screenshot of an OpenAI post claiming its security researchers built an autonomous cyber pipeline for vulnerability discovery, exploitation validation, and patch generation, and that an upcoming cyber model generated patches for
948Linux kernel local privilege-escalation vulnerabilities in a single run at a reported API cost of$1.2M. The technical significance is the claimed scale of AI-assisted kernel vulnerability remediation, but the Reddit post provides no patch set, PR links, CVE list, benchmark methodology, or independent validation beyond the linked OpenAI/X announcement. Commenters were skeptical and alarmed: one noted that948privilege-escalation bugs is an unusually large number, another extrapolated the capability to state actors and said to “assume you're compromised,” while another asked whether OpenAI is actually submitting pull requests.A commenter questions whether the
948reported Linux privilege-escalation fixes were found after earlier OpenAI security models/efforts such as Mythos, Sol, and Astra had already been applied since April, implying concern about overlap, missed coverage, or duplicate findings across model-assisted vulnerability discovery runs.One technically relevant cost discussion notes that the reported US
$1.2Mpayout would be inexpensive relative to the potential impact of a critical Linux kernel privilege-escalation vulnerability, framing large-scale automated vuln discovery as economically favorable compared with downstream compromise costs.
I built a hyper realistic fighter jet simulator for the browser with opus 5.5 and it went viral on Twitter! (Activity: 1080): A solo developer launched Viper One One, a browser-based fighter-jet simulator at viperoneone.com, claiming ~
25,000players over two weeks and ~1,000daily users, plus a feature/shoutout from threejs.org. The implementation is described as built with Claude Opus 5.5, fal models, and Three.js-era web graphics techniques: fitted GoPro-style fisheye cockpit camera, custom canopy shader with sun-catching scratches/rain streaks, multiplayer rooms, ranked ladder, mobile load/crash profiling, and agent-based parallel development branches for missions/audio/performance/trailers. The author says they used long-running LLM research/physics-simulation sessions to study aircraft behavior and then port simplified/efficient behaviors into the browser runtime; the linked Reddit video could not be accessed due to Reddit403 Forbidden. Top comments pushed back on the “hyper realistic” label, with one saying the flight model felt laggy and “like flying an old lawnmower.” Others still praised the technical achievement, emphasizing that this level of 3D visual quality running in-browser—and apparently produced by a solo “vibe coding” workflow—would have been surprising compared with older console-era team-produced games.Several commenters challenged the “hyper realistic” claim on technical/experiential grounds, with one reporting the browser sim “feels super laggy” and that the flight model does not feel realistic, comparing it to “flying an old lawnmower.” This suggests perceived issues around frame pacing/input latency and physics/flight dynamics rather than just visual fidelity.
A technically relevant point was that the demo’s main achievement may be browser-based rendering quality, not simulation realism: one commenter noted it is “mind boggling” that something of this visual quality runs in a browser and compared it favorably to PlayStation 2-era graphics that previously required large teams.
Thanks to two lines in the Claude setting , I was able to work 3 x 5H window without running out ,. (Activity: 1078): The image is a Claude usage dashboard (image) showing only
22%of the weekly limit used, with projections like~59% at resetand~41% wasted, supporting the post’s claim that Claude Code can run multiple back-to-back5hwindows without exhausting quota. The post attributes this to settingCLAUDE_AUTOCOMPACT_PCT_OVERRIDE=75andautoCompactWindow=300000in~/.claude/settings.json, effectively triggering auto-compaction around225ktokens so agents have enough remaining context headroom to summarize before hitting the limit. Commenters questioned relying on opaque auto-compaction, with one arguing “Handoff > autocompact” because manual context transfer is more controllable. Another pointed out that similar behavior may be configurable through the UI by selecting a larger context window such as400K, rather than editing settings manually.Several commenters debated manual context management vs Claude autocompaction, with one arguing that delegating context pruning to an opaque mechanism is risky: “I will never understand why you would delegate your context to something you cannot control.” Another suggested handoff workflows may be preferable to autocompact when preserving task state matters.
A technical clarification noted that instead of relying on an autocompact override around
225ktokens, users may be able to select a larger context setting directly, e.g.400K, via Claude’s UI/settings. Another commenter warned that repeatedly crossing300kcontext likely indicates a workflow problem and suggested using sub-agents per task to reduce compaction overhead.One commenter refined the settings-edit prompt, suggesting the model only needs concise instructions such as adding
"CLAUDE_AUTOCOMPACT_PCT_OVERRIDE": "75"to the existingenvblock in~/.claude/settings.jsonand setting top-level"autoCompactWindow": 300000. They argued newer models can reliably preserve JSON validity and merge into existing structures without verbose reminders like “make sure the file is still valid JSON.”
Four days with Codex and I genuinely can't believe how bad this experience has been (Activity: 76): A developer reports a
4-day failed trial of OpenAI Codex, contrasting it unfavorably with Claude Code for autonomous coding: Codex was described as slow in cloud execution, overly literal, reluctant to act without explicit prompts, and prone to adding architectural complexity instead of making targeted fixes. Specific alleged failures included silently overriding settings, writing tests that encoded incorrect behavior, introducing unrelated regressions, expanding CI with coverage comparisons/mutation testing/dependency analysis until PR checks took nearly1 hour, and a stop-control bug where execution resumed after interruption; Codex later self-reviewed and identified16substantiated failures, including poor architecture and failure to deliver. No top comments were provided. The poster’s core opinion is that Codex currently requires excessive supervision for autonomous development, while Claude Code made better engineering tradeoffs and successfully completed the release work.
來源:Latent Space · latent.space