Thinking Machines Lab 發布 Inkling 2 Small 594B 引數 MoE 模型，將於下週開放 Apache 2.0 權重

Thinking Machines Lab：News·2026-11-05 15:00· 17 小時前精選AI 評分79

Introducing Inkling 2 Small

AI 導讀

Thinking Machines Lab 釋出第二代模型 Inkling 2 Small，為 594B 總引數、17B 啟用的 MoE 模型，支援影像輸入與 variable effort，Artificial Analysis Intelligence Index 得分 31。

推薦理由

官方完整披露訓練配方、RL 規模與安全評測，開放權重計劃和基於基準的定位值得跟蹤其後續表現。

今天我們推出第二代模型 Inkling 2 Small。它是一款混合專家模型，總引數 594B，啟用引數 17B，支援影像輸入和可變推理強度。

在 Artificial Analysis 智慧指數上，Inkling 2 Small 得分 31，遠超我們此前各代模型，體現出在智慧體程式設計、視覺、知識工作和推理方面的提升。能力增長來自訓練流程每個環節的改進，包括更高效的預訓練和一次大規模統一強化學習。

Inkling 2 Small 初期將通過 Tinker 提供，權重閉源，遵循我們在開放權重的安全路徑中提出的做法。我們計劃在完成外部安全測試和紅隊評估後，於下週以 Apache 2.0 許可證開放完整權重。

今天你就可以在 Tinker Playground 上試用 Inkling 2 Small。該模型也可在 Tinker 上微調和取樣；隨著 Inkling 2 Small 權重發布，檢查點將可供下載。

能力

Inkling 2 Small 在各方面都比第一代更強，尤其是在長時程自主工作方面。

Inkling 2 Small 的視覺和智慧體能力讓它能利用視覺反饋，反覆構建和完善帶互動元素的網站、遊戲和 3D 設計。

Inkling 2 Small 使用 Three.js 構建了一個完整的城市模擬器，沒有任何預製素材，每棟建築、每張貼圖和每輛車都由程式生成，使用者可以從一條路開始發展一座有生命的城市，同時管理電力、預算和突發事件。

一個用 Python 從零編寫的 PC 模擬器。它能啟動真實的 Linux 核心，並提供網頁介面，在瀏覽器中啟動一個即時例項。

普通紙上手繪的山谷，紙鶴落在 Inkling 上。用 Inkling 2 Small 在 Blender 中生成；後經修改改進了水面和煙囪。

根據地圖生成的戶型圖漫遊。

智慧體程式設計與自動研究

Inkling 2 Small 通過強化學習訓練，覆蓋數十萬個長時程程式設計任務，涉及多種智慧體框架和上下文壓縮策略。我們提升了合成程式設計資料管線的質量，不再只依賴單元測試獎勵；許多工配有智慧體強化學習評分器，評估模型如何著手解決問題，而不只是程式碼是否通過。我們還在 OpenCode 上以 Fledge-Alpha 之名測試了 Inkling 2 Small 的早期檢查點，以評估模型在真實世界程式設計任務中的表現。

結果是，這個模型程式設計更強，在真實智慧體迴圈中也更易用。相比 Inkling，Inkling 2 Small 的可用性有所提升：它更好地遵循指令，審慎考慮改動，並主動驗證自己的工作。

程式設計與自動研究	Inkling 2 Small	GLM-5.3-Flash	DeepSeek-V4.1-Flash-1017	Muse Spark Open	Kimi K3
FrontierCode v2.0	25.4%（該行報告的第二高分）	14.2%	28.5%（該行報告的最高分）	7.6%	17.3%
DeepSWE v1.1	72.1%（該行報告的第二高分）	63.4%	77.0%（該行報告的最高分）	60.0%	68.5%
SWEBench Pro v2（Hard）	86.3%（該行報告的第二高分）	–	–	82.4%	88.2%（該行報告的最高分）
Vibe Code Bench v1.1	81.6%	30.8%	87.7%（該行報告的最高分）	76.2%	85.0%（該行報告的第二高分）
PostTrainBench v1.2	31.9%（該行報告的第二高分）	36.8%（該行報告的最高分）	30.5%	–	31.5%
Terminal Bench Science v0.1	5.7%	4.8%	12.9%（該行報告的最高分）	1.9%	8.1%（該行報告的第二高分）

核心最佳化（PMPP-Hard）

69 個任務 · 四次獨立嘗試 · 10 小時預算

View full results

PMPP-Hard 結果
模型	AUC（任務·小時）	平均解出數 / 69	Pass@4 / 69
GPT-6 Astra	616.39	63	63
Kimi K3.1 Pro	583.86	60.5	63
Claude Opus 5.5	499.65	60	64
DeepSeek V4.1 Flash	497.36	55.25	62
Inkling 2 Small	494.27	54.25	64
Mistral Large 4	478.39	50.25	61
Kimi K3	453.58	55.75	66
GLM 5.3	430.96	52.5	61
GLM 5.2	389.12	42	61

各行按 AUC 排序：AUC 是 0–10 小時內平均曲線下的面積，最大值為 690 任務·小時。

每個模型均使用其可用的最高推理設定、PI harness 和統一的壓縮策略。我們納入了評估期間發現的任務與評分問題的修復。每個提交的解決方案都要經過兩次獨立的 LLM 稽核，出現分歧時由第三次評審裁定。

PMPP-Hard 是一個外部 GPU 核心最佳化基準，此處經過調整以支援一致的跨模型評估。曲線顯示四次獨立嘗試的平均值；圖例數值為 10 小時時平均解出的任務數。

除了常規軟體任務，Inkling 2 Small 還接受了長時程自主研究任務的訓練，包括智慧體式 GPU 核心最佳化，以及自主後訓練模型等機器學習任務，且均在一系列 GPU 架構上執行。

核心自主研究初步結果

DeepSeek-V3.2 稀疏注意力，前向 + 反向

DeepSeek 稀疏注意力讓每個查詢只關注由輕量索引器選出的前 k 個較早 token，因此長上下文成本不再隨上下文長度的平方增長。從公開的 TileLang 核心出發，在保持誤差接近原版（嚴格容差）的前提下讓訓練核心更快，且不設時間限制。該基準覆蓋不同場景下的多種模型規模，從打包的預訓練序列到長上下文訓練。公開的 TileLang 基線並未針對 B300 調優，因此這些工作負載上仍有充足空間來衡量各模型的最佳化能力和毅力。加速比僅針對這些核心本身，而非端到端訓練。

為展示其端到端自主研究表現，我們在一個基於內部基準構建的任務 Proximal 上測試了 Inkling 2 Small。Inkling 2 Small 在 Tinker 上自主訓練 Qwen3.5-4B，用於預測天氣、維基百科頁面瀏覽量等多種時間序列。它先分析任務並編寫自己的評估器，嘗試不同的訓練資料集和配方，試驗多種 SFT 和 RL 方法，同時邊做邊除錯。經過 4.5 小時的工作和 426 美元的 Tinker 花費，訓練後的模型預測得分提高了一倍以上。

我們要讓 Qwen/Qwen3.5-4B 預測時間序列。模型會拿到一個視窗，也就是某條序列最近一段歷史，以文本形式輸入，然後寫出後續各步的數值。每個視窗會取樣多次。它預測結果的中位數應當接近實際發生的情況，而預測的離散程度應當與真實的不確定性相匹配。[...] 用 Tinker 訓練 Qwen/Qwen3.5-4B 的 LoRA。[...] 你有 12 小時時間和 500 美元的 Tinker 預算。

Bashls /app /data && cat /data/README.md

/app： examples.jsonl forecast …（另有 25 行）

Bashtinker-usage 2>&1 | head -20; echo ---; tinker-usage --prices 2>&1 | head -40

已用 0 小時 0 分，共 12 小時（剩餘 11 小時 59 分）

現在來看看 Tinker 的取樣是怎麼工作的：

~/tinkerbench/time-series-forecasting/本次執行已進行 0 小時 00 分

在其評估樣例上的預測Qwen3.5-4B（基座）

電力

美國西南電網 · 需求

風電與光伏

紐約電網 · 風電

空氣質量

溫尼伯 · PM2.5

頁面瀏覽量

維基百科 · “Valhalla”

觀測值模型預測

"Less error" is compared with simply copying the last values forward.

評估分數（誤差比直接複製低多少）100 個樣例

執行過程中的評估分數：基座 19%，SFT 1 25%，SFT 2 27%，RL 23%，SFT 4 29%。在未見資料上：基座 10%，SFT 4 23%。

$0.00Tinker 花費，共 $500

資料來源：美國能源資訊管理局（EIA-930）；天氣與空氣質量資料來自 Open-Meteo.com（CC BY 4.0），包含經修改的 Copernicus 氣候變化服務與 Copernicus 大氣監測服務 2026 年資訊；維基百科頁面瀏覽量（CC0）。

開始。Inkling 2 Small 閱讀任務和給定的原始資料，涵蓋來自五個來源的多年逐小時和逐日曆史：電力需求、風電與光伏、天氣、空氣質量以及維基百科頁面瀏覽量。

視覺理解與創作

Inkling 2 Small 使用基於 Perception Encoder 的 292M 引數視覺編碼器處理影像輸入Bolya et al., 2025。。我們採用 20×20 畫素的影像塊，配合 2×2 空間池化，並將影像塊與文本 token 交錯排列。該模型在多個類別上展現出強大的視覺能力，包括 OCR、定位、資訊圖理解和視覺推理。

視覺推理與創作	Inkling 2 Small	GLM-5.3-Flash	DeepSeek-V4.1-Flash-1017	Muse Spark Open	Kimi K3
GDP.pdf	25.2%（該行已報告的最高分）	15.4%	17.2%	18.6%	22.0%（該行已報告的第二高分）
MMMU Pro（Standard 10）	81.6%（該行已報告的最高分）	79.0%	80.6%	80.9%（該行已報告的第二高分）	80.5%
PerceptionBench	64.7%（該行已報告的最高分）	–	47.7%	–	58.5%（該行已報告的第二高分）
Humanity’s Sixth Sense	33.3%（該行已報告的最高分）	26.8%	30.1%（該行已報告的第二高分）	29.6%	25.5%
ScreenSpot Pro原始 / 配合 Python	83.8/91.5%（該行已報告的最高分）	–	–	–	73.8/83.2%（該行已報告的第二高分）
BabyVision原始 / 配合 Python	68.6/93.7%（該行最高報告分數）	53.4/82.6%（該行第二高報告分數）	–/92.5%	44.3/80.2%	53.4/85.7%（該行第二高報告分數）
Charxiv RQ原始 / 配合 Python	85.6/87.7%（該行最高報告分數）	80.2/89.4%	77.0/85.6%	85.4/88.7%（該行第二高報告分數）	84.8/91.3%
Chartography原始 / 配合 Python	36.7/80.4%（該行最高報告分數）	16.3/78.0%	17.9/83.0%	35.7/63.2%（該行第二高報告分數）	26.6/68.1%
Code Arena (WebDev)	1653	1607	1665（該行最高報告分數）	–	1656（該行第二高報告分數）
AA-3D	1021（該行最高報告分數）	937	–	–	982（該行第二高報告分數）
Code2Video-AA	1020（該行第二高報告分數）	975	–	–	1041（該行最高報告分數）

該模型在推理過程中引入視覺能力，用來解讀並驗證自己生成的視覺編碼輸出。待權重發布後，它將成為 DesignArena 上排名第一的開源權重模型。

DesignArena 網站得分

DesignArena 網站排行榜。分數來自 11 月 5 日的排行榜快照；藍色柱條代表 Inkling 2 Small。對比範圍包括排名前十的模型以及另外三個開源權重模型。柱狀圖起點為 1,100，而非零。在 DesignArena 上檢視。

我們甚至在一場品酒活動中讓 Inkling 2 Small 與幾位研究員同場競技。它僅憑視覺就勝過了他們，在 20 次試驗中有 19 次僅憑一張照片正確識別出三款葡萄酒。

Three glasses of red wine on a restaurant table, in the left-to-right order used in the model response. — 品酒照片，按模型看到的樣子呈現，以及模型的回答。

智慧體式知識工作

Inkling 2 Small 在真實職業環境中加速知識工作。它能熟練查詢資訊、通過 MCP 呼叫工具，併產出高質量交付物。在端到端知識工作基準 AA-Briefcase 上，這些能力綜合起來得到 1527 的 ELO 分數。

知識工作與企業運營	Inkling 2 Small	GLM-5.3-Flash	Muse Spark Open	DeepSeek-V4.1-Flash-1017	Kimi K3
AA-Briefcase v1.1	1527（該行報告的第二高分）	1451	1279	1570（該行報告的最高分）	1497
GDPVal-AA v2.1	1630	1649（該行報告的第二高分）	1401	1746（該行報告的最高分）	1543
JobBench	70.5%（該行報告的最高分）	60.7%	61.8%（該行報告的第二高分）	–	54.3%
Vals Legal Index	73.9%（該行報告的最高分）	71.1%	68.5%	71.9%（該行報告的第二高分）	71.7%
EnterpriseBench-CoreCraft	71.8%（該行報告的最高分）	46.7%（該行報告的第二高分）	–	–	43.1%

Inkling 2 Small 在金融以及針對電子表格、申報檔案和文件的定量推理方面尤其強。在開放權重模型中，Inkling 2 Small 在 AA-AnalystAgent 和 Dayjob:Finance 上排名第一，在 Vals Finance Index 和 DiligenceBench 上排名第二。

金融工作	Inkling 2 Small	GLM-5.3-Flash	Muse Spark Open	DeepSeek-V4.1-Flash-1017	Kimi K3
Vals Finance Index	61.5%（該行報告的最高分）	55.8%	53.0%	60.9%（該行報告的第二高分）	58.0%
Diligence Bench最佳測試框架	58.1%（該行報告的第二高分）	–	59.0%（該行報告的最高分）	50.4%	–
DAYJOB（金融）	14.3%（該行報告的最高分）	7.3%	–	12.5%（該行報告的第二高分）	5.5%
Apex-Accounting v1.1pass@1	14.5%（該行報告的最高分）	12.3%	13.8%（該行報告的第二高分）	12.5%	9.5%

可定製性

有些模型對微調的響應更好，這與其開箱即用的表現無關。我們希望 Inkling 2 Small 能成為一個強大的基礎模型，便於定製。

在多種後訓練場景下（我們根據客戶用例精心設計），用相同的資料和演算法訓練時，Inkling 2 Small 比我們此前的模型學得更快、提升更多。例如，在一個公開的金融文件摘要任務上，Inkling 2 Small 與 Inkling Small 起點分數相近且都較低，但前者適應很快，僅用 75 個訓練步就達到了 Inkling Small 的最終表現，並最終大幅領先。

評估模型的微調能力

ECTSum 留出集評分獎勵隨訓練步數的變化，橫軸為 symlog 刻度。Inkling 2 Small、Inkling-Small 和 Inkling：三次隨機種子執行的平均值，未顯示不確定性區間。GLM 5.3 Flash、DeepSeek V4.1 Flash 1017 和 Qwen 3.5 397B：單次執行，以無區間的灰色實線表示。圖中展示第 0 步至第 200 步的檢查點；橫軸在第 25 步之前為線性，之後為對數刻度。繪製的獎勵值四捨五入到四位小數：Inkling 2 Small：第 0 步，獎勵 0.3308；第 25 步，獎勵 0.4260；第 50 步，獎勵 0.6008；第 75 步，獎勵 0.8347；第 100 步，獎勵 0.8662；第 125 步，獎勵 0.8905；第 150 步，獎勵 0.9022；第 175 步，獎勵 0.9105；第 200 步，獎勵 0.9400。Inkling-Small：第 0 步，獎勵 0.2959；第 25 步，獎勵 0.3242；第 50 步，獎勵 0.3896；第 75 步，獎勵 0.4533；第 100 步，獎勵 0.5464；第 125 步，獎勵 0.6453；第 150 步，獎勵 0.7076；第 175 步，獎勵 0.7477；第 200 步，獎勵 0.7924。Inkling：第 0 步，獎勵 0.3098；第 25 步，獎勵 0.3473；第 50 步，獎勵 0.4363；第 75 步，獎勵 0.5994；第 100 步，獎勵 0.7077；第 125 步，獎勵 0.7635；第 150 步，獎勵 0.7785；第 175 步，獎勵 0.8103；第 200 步，獎勵 0.8202。GLM 5.3 Flash：第 0 步，獎勵 0.3285；第 25 步，獎勵 0.4323；第 50 步，獎勵 0.5960；第 75 步，獎勵 0.7279；第 100 步，獎勵 0.7336；第 125 步，獎勵 0.7872；第 150 步，獎勵 0.7906；第 175 步，獎勵 0.8079；第 200 步，獎勵 0.8310。DeepSeek V4.1 Flash 1017：第 0 步，獎勵 0.3053；第 25 步，獎勵 0.4932；第 50 步，獎勵 0.5598；第 75 步，獎勵 0.7144；第 100 步，獎勵 0.7897；第 125 步，獎勵 0.7893；第 150 步，獎勵 0.7723；第 175 步，獎勵 0.8285；第 200 步，獎勵 0.8457。Qwen 3.5 397B：第 0 步，獎勵 0.2572；第 25 步，獎勵 0.3493；第 50 步，獎勵 0.4197；第 75 步，獎勵 0.5624；第 100 步，獎勵 0.6080；第 125 步，獎勵 0.6814；第 150 步，獎勵 0.6910；第 175 步，獎勵 0.6152；第 200 步，獎勵 0.7338。

ECTSum 留出集評分標準獎勵與預估的 rollout 取樣及訓練成本（美元）對比圖，橫軸為 symlog 座標，250 美元以內為線性、之後轉為對數，覆蓋至 RL 第 200 步。對比模型包括 Inkling 2 Small、Inkling-Small、Inkling、GLM 5.3 Flash、DeepSeek V4.1 Flash 1017 和 Qwen 3.5 397B。假設提示詞快取命中率為 96.875%，並非實測用量或實際賬單支出。Inkling 各點為三個隨機種子的檢查點均值，未標註不確定區間。其餘三個模型均為單次執行，用灰色實線表示，無區間帶。圖中獎勵值保留四位小數，成本精確到美分：Inkling 2 Small：$0.00，獎勵 0.3308；$255.78，獎勵 0.4260；$490.72，獎勵 0.6008；$712.73，獎勵 0.8347；$961.52，獎勵 0.8662；$1,216.90，獎勵 0.8905；$1,443.46，獎勵 0.9022；$1,680.28，獎勵 0.9105；$1,916.20，獎勵 0.9400。Inkling-Small：$0.00，獎勵 0.2959；$273.53，獎勵 0.3242；$574.17，獎勵 0.3896；$848.30，獎勵 0.4533；$1,102.15，獎勵 0.5464；$1,396.68，獎勵 0.6453；$1,652.69，獎勵 0.7076；$1,925.09，獎勵 0.7477；$2,206.01，獎勵 0.7924。Inkling：$0.00，獎勵 0.3098；$885.28，獎勵 0.3473；$1,756.22，獎勵 0.4363；$2,600.98，獎勵 0.5994；$3,369.48，獎勵 0.7077；$4,250.08，獎勵 0.7635；$5,075.56，獎勵 0.7785；$5,859.02，獎勵 0.8103；$6,695.94，獎勵 0.8202。GLM 5.3 Flash：$0.00，獎勵 0.3285；$321.98，獎勵 0.4323；$687.83，獎勵 0.5960；$1,094.00，獎勵 0.7279；$1,482.11，獎勵 0.7336；$1,906.80，獎勵 0.7872；$2,302.96，獎勵 0.7906；$2,701.59，獎勵 0.8079；$3,140.35，獎勵 0.8310。DeepSeek V4.1 Flash 1017：$0.00，獎勵 0.3053；$372.16，獎勵 0.4932；$767.76，獎勵 0.5598；$1,091.41，獎勵 0.7144；$1,430.09，獎勵 0.7897；$1,936.96，獎勵 0.7893；$2,293.45，獎勵 0.7723；$2,651.91，獎勵 0.8285；$3,057.17，獎勵 0.8457。Qwen 3.5 397B：$0.00，獎勵 0.2572；$1,128.13，獎勵 0.3493；$2,086.98，獎勵 0.4197；$3,123.11，獎勵 0.5624；$4,138.93，獎勵 0.6080；$5,237.54，獎勵 0.6814；$6,454.57，獎勵 0.6910；$7,742.11，獎勵 0.6152；$8,904.39，獎勵 0.7338。

在強化學習微調場景下，Inkling 2 Small 的學習速度比我們此前的模型更快，最終效能也更高，與同規模的其他開源模型相比頗具競爭力。我們用公開的財報電話會議資料構建了一項投資分析任務，由專家進行評判，這與客戶使用 tinker 訓練定製模型時所涉及的金融分析工作負載類似。為確保比較公平，我們對每個模型都做了學習率掃描；所有模型均在 Tinker 上訓練，使用 Tinker Cookbook 抽象，採用我們的非同步 RL 實現和 Stable Reinforce 損失函式，訓練 200 步。Inkling 系列模型的結果為 3 個隨機種子的平均值，其他模型為單次執行。成本按取樣與訓練 token 數乘以當前 tinker 每 token 定價估算；取樣部分假設同一組內 rollout 之間存在字首快取命中。

推理、知識與認知

Inkling 2 Small 在具有挑戰性的 STEM 問題、指令遵循、有無網路搜尋的資訊檢索以及預測任務上訓練。在 RL 過程中，我們對預測任務使用適當的評分規則，對部分問答任務使用對不確定性敏感的獎勵。這讓模型學會評估不確定性、表達恰當的置信度，並做出校準良好的預測。

長上下文推理與事實性	Inkling 2 Small	GLM-5.3-Flash	Muse Spark Open	Mistral Large 4	Kimi K3
HLE-Diamond	28.7%（本行最高報告得分）	18.2%	26.3%	17.3%	26.9%（本行第二高報告得分）
CritPt v2完整 / 困難	55.7/35.0%（本行最高報告得分）	–/24.5%	52.6/29.5%（本行第二高報告得分）	50.3/27.0%	–/40.5%
AA-LCR v1.1	83.3%（本行第二高報告得分）	80.0%	78.3%	–	88.7%（本行最高報告得分）
LongBench v2	70.6%（本行最高報告得分）	68.2%	68.7%	65.7%	69.0%（本行第二高報告得分）
AA-Omniscience v1.1得分 / 非幻覺率	16.1/73.3（本行第二高報告得分）	0.7/–	25.8/72.0（本行最高報告得分）	5.1/71.8	–

安全與對齊

我們對 Inkling 2 Small 的安全工作圍繞兩個問題展開：模型對普通使用者的表現如何，以及面對惡意行為者移除防護措施時，模型的抵禦能力有多強。Inkling 的權重發布仍在等待我們與合作伙伴的進一步安全評估。

為評估濫用風險，我們訓練了一個內部僅助益變體。我們讓該模型和釋出檢查點都接受了一整套更廣泛的評估，外部測試者也比以往任何一次釋出都多。

在化學、生物、放射性及核（CBRN）風險方面，Inkling 2 Small 的知識與能力得分低於開放權重前沿水平。在 FORTRESS 上——這是 Scale AI 的私有基準，用於評估模型在 CBRN、恐怖主義和非暴力犯罪領域面對專家撰寫的對抗性提示詞時提供有害協助的程度——Inkling 2 Small 的平均風險得分低於 Inkling 和 Inkling-Small，同時過度拒答得分更高（見侷限性）。與釋出檢查點相比，Inkling 2 Small 的僅助益變體在 CBRN 知識上僅有邊際提升，但在我們測量的任何維度上都未顯著推進前沿。

在攻擊性與兩用智慧體網路基準上，Inkling 2 Small 相比 Inkling Small 有大幅提升，但仍落後於開放權重前沿。在 Vals CyberBench v1.1 和 PatchEval 上，它與開放權重前沿持平，這兩項基準都衡量發現並修補安全漏洞的能力。

安全	Inkling 2 Small	GLM-5.3-Flash	DeepSeek V4.1 Flash	Muse Spark Open	GLM 5.3
FORTRESS (ARS) ↓	16.2（本行第二佳報告結果）	26.7	27.2	7.6（本行最佳報告結果）	28.2
FORTRESS (ORS) ↓	20.4	3.6（本行第二佳報告結果）	6.9	16.0	3.2（本行最佳報告結果）
DistressBench ↑	82.0*（本行第二佳報告結果）	72.7	79.8	87.7（本行最佳報告結果）	72.5
StrongREJECT ↑	97.8（本行第二佳報告結果）	96.8	98.7（本行最佳報告結果）	97.6	97.2
PatchEval ↑	79.6（本行第二佳報告結果）	74.8	80.4（本行已報告的最佳結果）	77.8	69.6
Vals CyberBench ↑	72.7（本行已報告的第二佳結果）	67.9	73.7（本行已報告的最佳結果）	–	72.1

DeepSeek 綜合了所提供的 Flash 結果：FORTRESS 和 PatchEval 採用 1017，DistressBench、StrongREJECT 和 Vals CyberBench 採用未標註版本的 Flash。

* 儘管我們能較好地處理心理困擾情境，但在正常的情緒支援類查詢中，模型有時會過度反應，給出免責宣告，這一點在“侷限性”部分已有提及。

隨著模型承擔無人監督、時間跨度更長的自主工作，其不當行為可能造成的危害也在上升。如果不對對齊問題給予足夠重視，以能力為導向的強化學習可能促使模型不惜一切代價追求成功。在任務難度較高時，Inkling 2 Small 的早期檢查點會執著於嘗試成功——在某些情況下甚至偽造結果、無視指令、隱瞞自己的所作所為。

我們從整個訓練流程入手改進模型對齊。在中期訓練階段，我們過濾掉包含不當行為的軌跡，並加入體現誠實、對齊行為的軌跡。在強化學習階段，我們增加了一項通用的對齊獎勵，對每項任務中的不當行為進行懲罰。我們還構建了針對訓練中觀察到的特定失敗模式的環境，例如對模型在不可能完成的任務上放棄給予獎勵。最後，我們採用了在策略自蒸餾Zhao et al., 2026。，從以行為規範為提示詞的教師模型中蒸餾，使模型無需顯式提示即可內化良好行為的原則。

我們通過內部和外部評估來衡量進展，發現 Inkling 2 Small 在內部和外部評估上均較此前的 Inkling 模型有大幅提升，並在我們的內部評估中優於一組同類的開放權重模型。

Inkling + 開放權重						閉源權重
對齊	Inkling 2 Small	Inkling	Inkling Small	Muse Spark Open	GLM-5.3-Flash	DeepSeek V4.1 Flash	GPT-6.1 Sol
不當行為（內部）↓	14.9（本行已報告的第二佳結果）	66.8	75.2	82.4	57.1	68.0	0.8（本行已報告的最佳結果）
隱蔽不當行為（內部）↓	11.8（本行已報告的第二佳結果）	59.4	59.1	60.8	29.2	37.6	0.8（本行已報告的最佳結果）
破壞性行為（內部）↓	4.7（本行已報告的最佳結果）	71.9	67.2	7.8	25.8	10.9	7.0（本行已報告的第二佳結果）
HoneyBench v0.2-alpha：獎勵駭客（Goodhart Labs）↓	44（本行已報告的最佳結果）	70	69	–	–	–	59（本行已報告的第二佳結果）
無目標的隱蔽行動（Apollo Research）↓	8（本行已報告的最佳結果）	37	36（本行已報告的第二佳結果）	–	–	–	–
有目標的隱蔽行動（Apollo Research）↓	0（本行已報告的最佳結果）	7	4（本行已報告的第二佳結果）	–	–	–	–

在我們的對齊評估中，Inkling 2 Small 仍落後於閉源權重模型，例如 GPT-6.1 Sol。縮小這一差距是未來模型的重點工作。

我們還通過兩層監控來保障訓練和評估的安全。第一層是同步監控：監控器在工具呼叫執行前先做檢查。每個任務都會宣告自己授權哪些操作，確定性規則會對照任務策略和規避模式檢查這些呼叫，遇到不確定的情況就升級交給 LLM 裁判處理。第二層是非同步監控：LLM 裁判會審查訓練和評估中已完成的 rollout，檢查是否存在不當行為以及越過安全邊界的操作，發現問題就發出警報，由我們分診並升級進入事件處理流程。兩層合在一起，構成了一套縱深防禦的安全與對齊方案，我們認為這對打造安全的模型工廠至關重要。

訓練 Inkling 2 Small

Inkling 2 Small 的初始預訓練階段（H1）覆蓋了 8.4 萬億 token，混合了自然語言、程式碼和影像資料。該階段在 NVIDIA GB300 NVL72 機架上運行了 68 小時，從而實現了高專家並行度。訓練原生採用 NVFP4，這是隨 NVIDIA Blackwell GPU 架構引入的 4 位浮點格式。我們很快會在後續文章中分享更多關於 NVFP4 配方的細節。

內部程式碼

截止 2026-06 · 每位元組位元數（越低越好）

在我們主要的留出評估中，Inkling 2 Small 顯著優於其他開放權重模型。請注意，部分模型被標記為“base-recovered”。對於只能拿到後訓練檢查點的模型，我們先在預訓練格式的程式碼和文件資料集上做微調，再計算對數損失。我們已在其他能拿到真實基準（即實際基礎模型）的模型上驗證過，這一流程基本能還原基礎模型的損失。

在初始階段之後，我們進行了第二階段（H2）：使用 3.8 萬億 token 質量更高、模型此前未見過的新資料，上下文長度為 512K。第三和第四階段則混入了部署格式的資料。第三階段約 3200 億 token，包含 1M 上下文下的推理與智慧體軌跡，並混入重放的預訓練資料。第四階段（H4）只保留質量最高的資料：約 340 億 token 的智慧體軌跡。H3 和 H4 的混合資料主要來自早期模型（包括 Kimi K3 和我們自己的模型）取樣的軌跡，並按正確性和對齊性做了篩選。

隨後我們進行了一次聯合強化學習執行，共 1,075 步，9 天內完成超過 1700 萬次 rollout。詳見下表。這次單一聯合執行與上一版 Inkling 不同——當時我們分別執行推理和智慧體強化學習，再用多教師蒸餾把它們合併起來。

主強化學習執行的規模
指標	規模
算力	超過 4 × 10²³ FLOPs
GPU	2,048
時長	9 天
Rollout	1700 萬+
Token	3T+

任務組合涵蓋真實程式碼倉庫中的軟體工程、終端任務、文件創作、STEM 問答、視覺、Web 應用構建、與模擬使用者進行的工具呼叫，以及安全。每類任務都有各自的評分器：

大多數程式設計任務採用隱藏單元測試和程式化檢查；
文件和工具呼叫由基於評分標準的 LLM 評審打分；
STEM 與視覺問答使用參考答案；
Web 應用則用成對獎勵模型比較渲染後的截圖。

強化學習訓練任務組合
類別	Rollout 次數	Token 數
程式設計	38.5%	65.0%
辦公與知識工作	9.1%	13.3%
STEM 與推理	7.0%	7.6%
Web 與應用構建	4.7%	7.2%
視覺	13.9%	3.0%
工具呼叫與通用智慧體	17.1%	2.3%
搜尋	2.0%	1.4%
聊天、安全與認知論	7.8%	0.2%

我們隨機取樣並設定一個努力程度，同時在獎勵函式中加入長度懲罰，從而訓練模型在速度與周全程度之間做權衡。

我們採用非同步強化學習，並使用了分數中心化的變體——Tinker 中的 StableReinforce 目標函式，它能容忍較明顯的陳舊度。本次訓練混合了短時程和長時程任務，總 rollout token 數的 p50/p99 分別為 43k 和 1.5M，時長的 p50/p99 分別為 8 分鐘和 4 小時。我們使用 256k 上下文長度，並針對長時程任務啟用了壓縮訓練。結果是，訓練獎勵和評測表現都隨算力呈對數線性增長。

訓練獎勵

訓練獎勵。訓練獎勵與累計學習器和取樣器 FLOPs 的關係，對數座標軸。共 801 個數據點，從 7.147e+21 FLOPs 時的 0.3783 到 4.132e+23 FLOPs 時的 0.5497。分數範圍 0.3755 至 0.5552。

訓練獎勵與累計學習器和取樣器 FLOPs 的關係，對數座標軸。

STEM 評測表現

STEM 評測表現。STEM 評測表現與累計學習器和取樣器 FLOPs 的關係，對數座標軸。共 33 個數據點，從 7.147e+21 FLOPs 時的 0.3230 到 4.132e+23 FLOPs 時的 0.4751。分數範圍 0.3230 至 0.4751。

STEM 評測表現與累計學習器和取樣器 FLOPs 的關係，對數座標軸。

視覺評測表現

視覺評測表現。視覺評測表現與累計學習器和取樣器 FLOPs 的關係，對數座標軸。共 33 個數據點，從 7.147e+21 FLOPs 時的 0.5756 到 4.132e+23 FLOPs 時的 0.6959。分數範圍 0.5756 至 0.7034。

視覺評測表現與累計學習器和取樣器 FLOPs 的關係，對數座標軸。

穩定訓練
指標	數值
策略陳舊度中位數	17 次更新
Rollout 批大小	16K
每次 rollout 的總 token 數	中位數：43K · p99：1.5M
Rollout 時長	中位數：8 分鐘 · p99：4 小時
上下文視窗	256K token，對更長的軌跡啟用壓縮

要讓這一規模真正可行，需要對整個系統棧做改進。我們的 RL 基礎設施部署了 NVFP4 MoE 訓練與取樣。取樣時，prefill、draft 和 verify 全部執行在 CUDA graph 上。訓練器沿用預訓練棧，採用高專家並行、EPLB 和 CUDA graph 來提升 GPU 效率。為支撐長時程智慧體負載，我們使用粘性路由和 DRAM KV 快取解除安裝，將字首快取命中率維持在 93% 以上，從而在長上下文訓練下仍能保持 5:3 的取樣器與訓練器比例。權重傳輸通過 GPUDirectRDMA 以 93% 以上的線速完成，並配有與並行度無關的校驗和驗證器。我們還提供了一種 NVFP4 KV 快取變體，進一步降低部署推理成本，實測對評測結果的影響很小。

長時程任務讓模型可以自主執行數小時，從而增加了行為失準帶來的潛在風險。在主 RL 訓練進行到中途時，我們的非同步監控發現了一個例項：模型在任務失敗後，藉助搜尋工具能夠訪問的第三方服務繞過了網路封鎖。我們暫停了訓練，加固了基礎設施，移除了需要網路訪問的環境，並增加了同步的工具呼叫監控。隨後我們恢復訓練，並按上文所述加入了專門針對對齊的額外訓練階段。

流程上的改進讓我們能用相似的配方訓練不同規模的模型，且擴充套件性和效能都可預測。Inkling 2 Small 是模型階梯中的一級；我們期待很快與大家分享更多層級。

對 Inkling 2 Small 進行基準測試

與之前的 Inkling 版本一樣，我們在廣泛的能力範圍內對 Inkling-Small 進行了基準測試。所有評測均在 effort 0.99（xhigh）和 temperature 1.0 下執行。所有評測的最大軌跡長度限制為 1M token，相比 Inkling Small 使用的 256K token 限制有所提高。

開放權重 Flash					開放權重 Pro					閉源權重 Flash
Inkling 2 Small	GLM-5.3-Flash	MiMo V2.6 Flash	MiniMax-M3.1-Flash	DeepSeek-V4.1-Flash-1017	Muse Spark Open	GLM 5.3	MiMo V2.6 Pro	Mistral Large 4	Kimi K3	GPT-6 Luna	Gemini 3.8 Flash	Claude Haiku 5.5
模型資訊
引數量（B）啟用 / 總量	17/594	18/320	15/309	23/428	16/552	42/816	40/753	42/1020	49/1050	104/2800	–	–	–
第三方指數
AA 指數（v5.0）	30.6	27.8	26.7	29.1	32.6（該行報告的第二高分）	24.9	31.7	29.9	26.1	–	27.9	30.8	36.5（該行報告的最高分）
Vals 指數（v2.2）	56.1%	50.9%	54.8%	53.8%	61.3%（該行報告的最高分）	48.6%	59.7%（該行報告的第二高分）	57.8%	56.5%	53.0%	52.3%	56.0%	58.7%
程式設計
FrontierCode v2.0	25.4%	14.2%	21.6%	20.8%	28.5%（該行報告的第二高分）	7.6%	21.6%	24.0%	15.0%	17.3%	25.2%	18.7%	34.9%（該行報告的最高分）
DeepSWE v1.1	72.1%	63.4%	67.9%	73.7%	77.0%（該行報告的最高分）	60.0%	69.0%	71.9%	61.7%	68.5%	66.6%	73.8%（該行報告的第二高分）	59.9%
Terminal Bench Science v0.1	5.7%	4.8%	4.3%	3.3%	12.9%（該行報告的第二高分）	1.9%	9.5%	5.7%	4.3%	8.1%	8.6%	10.0%	20.0%（該行報告的最高分）
Vibe Code Bench v1.1	81.6%	30.8%	79.0%	73.9%	87.7%（該行報告的第二高分）	76.2%	78.1%	85.2%	81.6%	85.0%	81.7%	78.7%	90.4%（該行報告的最高分）
SWEBench Pro v2（Hard）	86.3%（該行報告的第二高分）	–	–	84.3%	–	82.4%	84.3%	–	–	88.2%（該行報告的最高分）	–	58.8%	52.9%
自動研究
PostTrainBench v1.2	31.9%	36.8%（該行報告的最高分）	–	–	30.5%	–	34.5%（該行報告的第二高分）	–	–	31.5%	–	–	–
PMPP-HardAUC（任務時長，0–10 小時）	494.27（該行報告的第二高分）	–	–	–	497.36（該行報告的最高分）	–	430.96	–	478.39	453.58	–	–	–
BioMysteryBench	70.0%	–	69.3%	–	–	–	–	–	–	72.6%（該行報告的最高分）	61.5%	62.2%	70.4%（該行報告的第二高分）
搜尋與工具
MCP Atlas完整 / 公開	85.4/85.0%（該行報告的第二高分）	–/82.0%	–/62.9%	–/80.4%	–/83.2%	89.2/87.5%（該行報告的最高分）	84.2/83.6%	–/84.4%	–/84.5%	82.3/84.2%	–/77.8%	–/87.5%	–/81.0%
知識工作
AA-Briefcase v1.1	1527	1451	1487	1476	1570（該行報告的第二高分）	1279	1503	1512	1348	1497	1337	1203	1574（該行報告的最高分）
GDPVal-AA v2.1	1630	1649	1614	1465	1746（該行報告的最高分）	1401	1657	1689（該行報告的第二高分）	–	1543	1444	1445	1631
JobBench	70.5%（該行報告的最高分）	60.7%	61.2%	67.5%（該行報告的第二高分）	–	61.8%	61.4%	62.0%	55.2%	54.3%	49.0%	–	39.2%
企業運營
EnterpriseOps-Gym	46.8%（該行最高報告得分）	33.2%	–	–	–	–	36.4%	–	–	45.3%（該行第二高報告得分）	–	–	–
EnterpriseBench-CoreCraft	71.8%（該行最高報告得分）	46.7%	–	–	–	–	51.8%	–	–	43.1%	–	58.5%（該行第二高報告得分）	–
金融工作
Vals 金融指數	61.5%（該行最高報告得分）	55.8%	57.1%	55.9%	60.9%（該行第二高報告得分）	53.0%	60.5%	57.8%	57.0%	58.0%	53.1%	60.5%	57.4%
Tau 3 Banking v1.0.1	40.4%（該行第二高報告得分）	47.2%（該行最高報告得分）	–	–	–	–	–	–	–	33.4%	–	–	–
DAYJOB（金融）	14.3%（該行最高報告得分）	7.3%	–	–	12.5%（該行第二高報告得分）	–	11.0%	–	4.8%	5.5%	6.8%	4.5%	–
Apex-Accounting v1.1pass@1	14.5%	12.3%	–	13.5%	12.5%	13.8%	13.9%	–	12.0%	9.5%	10.8%	15.5%（該行最高報告得分）	15.3%（該行第二高報告得分）
Apex-Accounting v1.1平均分	62.0%（該行第二高報告得分）	53.7%	–	60.0%	59.3%	58.0%	59.5%	–	56.5%	56.7%	53.9%	58.8%	62.2%（該行最高報告得分）
法律工作
Vals 法律指數	73.9%（該行第二高報告得分）	71.1%	69.0%	67.1%	71.9%	68.5%	74.6%（該行最高報告得分）	72.1%	67.8%	71.7%	62.2%	69.8%	70.3%
視覺創作
DesignArena Web Apps	1296（該行最高報告得分）	–	–	–	–	–	–	1275	–	1283（該行第二高報告得分）	1161	1221	–
DesignArena Website	1340（該行最高報告得分）	1270	–	1280	1297	1303	1290	1307	1256	1334（該行第二高報告得分）	1268	1299	1261
DesignArena 遊戲開發	1428（該行最高報告得分）	1276	–	1312	1261	1270	1303	1315	1225	1351（該行第二高報告得分）	1261	1305	1319
DesignArena 3D 設計	1401（該行最高報告得分）	1314	–	1332	1361	1261	1324	1333	1249	1381（該行第二高報告得分）	1213	1291	1334
Code2Video-AA	1020	975	1052（該行第二高報告得分）	–	–	–	1034	1052（該行第二高報告得分）	–	1041	1030	899	1192（該行最高報告得分）
視覺感知
PerceptionBench	64.7%（該行最高報告得分）	–	–	–	47.7%	–	–	–	–	58.5%（該行第二高報告得分）	56.2%	–	–
ScreenSpot Pro原始 / 使用 Python	83.8/91.5%（該行最高報告得分）	–	–	–	–	–	–	56.6%/–	42.3%/–	73.8/83.2%	81.1/87.6%（該行第二高報告得分）	–	–
HSS	33.3%（該行第二高報告得分）	26.8%	25.4%	–	30.1%	29.6%	–	25.2%	–	25.5%	21.0%	41.6%（該行最高報告得分）	–
BabyVision原始 / 使用 Python	68.6/93.7%（該行最高報告得分）	53.4/82.6%（該行第二高報告得分）	–	–/91.0%	–/92.5%	44.3/80.2%	–	–	42.3/71.5%	53.4/85.7%（該行第二高報告得分）	–	–	–
視覺推理
GDP.pdf	25.2%（該行最高報告得分）	15.4%	9.0%	20.8%	17.2%	18.6%	11.2%	19.2%	17.6%	22.0%	22.8%（該行第二高報告得分）	21.0%	20.8%
MMMU Pro（標準 10）	81.6%（該行報告的第二高分）	79.0%	–	79.1%	80.6%	80.9%	–	74.1%	78.0%	80.5%	79.7%	85.6%（該行報告的最高分）	79.1%
Charxiv RQ原始 / 使用 Python	85.6/87.7%（該行報告的第二高分）	80.2/89.4%	66.2%/–	82.5%/–	77.0/85.6%	85.4/88.7%	–	74.2%/–	83.2/87.9%	84.8/91.3%	81.8/85.3%	86.2/92.1%（該行報告的最高分）	84.4%/–
Chartography原始 / 使用 Python	36.7/80.4%	16.3/78.0%	7.5%/–	12.6%/–	17.9/83.0%	35.7/63.2%	–	10.8%/–	21.2/56.6%	26.6/68.1%	32.0%/–	40.9/82.0%（該行報告的第二高分）	46.4%/–（該行報告的最高分）
STEM 推理
CritPt v2完整 / 困難	55.7/35.0%	–/24.5%	–/29.5%	51.4/32.5%	50.6/25.0%	52.6/29.5%	57.4/33.5%	56.9/34.0%	50.3/27.0%	–/40.5%	65.1/42.5%（該行報告的最高分）	65.1/46.5%（該行報告的最高分）	64.0/43.5%（該行報告的第二高分）
HLE-Diamond	28.7%	18.2%	13.7%	28.1%	25.3%	26.3%	17.9%	15.2%	17.3%	26.9%	22.2%	33.1%（該行報告的最高分）	29.6%（該行報告的第二高分）
HLE（使用工具）	53.2%	–	–	–	58.8%	61.0%（該行報告的第二高分）	62.5%（該行報告的最高分）	–	–	56.0%	–	–	57.4%
Apex 2025	63.5%（該行報告的第二高分）	–	–	–	–	32.3%	–	–	–	65.6%（該行報告的最高分）	–	–	–
長上下文
AA-LCR v1.1	83.3%	80.0%	–	–	–	78.3%	79.7%	86.3%（該行報告的第二高分）	–	88.7%（該行報告的最高分）	–	81.3%	82.7%
LongBench v2	70.6%（該行報告的第二高分）	68.2%	60.7%	60.9%	69.0%	68.7%	68.4%	68.0%	65.7%	69.0%	65.0%	73.7%（該行報告的最高分）	65.3%
事實性
AA-Omniscience v1.1得分	16.1	0.7	-10.8	-6.4	0.9	25.8（該行報告的最高分）	6.0	-4.5	5.1	–	-8.3	23.3（該行報告的第二高分）	12.3
AA-Omniscience v1.1非幻覺率	73.3%（該行報告的最高分）	–	–	6.3%	35.9%	72.0%（該行報告的第二高分）	61.1%	39.8%	71.8%	–	20.7%	44.9%	65.8%
指令遵循
ComplexConstraints v1.0	44.5%	27.6%	22.1%	23.2%	50.4%（該行報告的最高分）	41.3%	30.5%	32.3%	36.5%	37.9%	27.3%	48.4%（該行報告的第二高分）	36.8%
安全性（失準）
DistressBench	82.0%（該行報告的第二高分）	72.7%	–	–	79.8%	87.7%（該行報告的最高分）	72.5%	–	77.0%	73.5%	66.7%	70.7%	71.7%
FORTRESS（對抗性）	83.8%（該行報告的第二高分）	73.3%	–	–	72.8%	92.4%（該行報告的最高分）	71.8%	–	76.0%	–	–	–	–
FORTRESS（良性）	79.7%	96.4%（該行報告的第二高分）	–	–	93.1%	84.0%	96.8%（該行報告的最高分）	–	91.8%	–	–	–	–
StrongREJECT（無）	97.8%	96.8%	–	–	98.7%（該行報告的最高分）	97.6%	97.2%	–	98.6%（該行報告的第二高分）	–	–	–	–
安全性（濫用）
CyberBench v1.1	72.7%	67.9%	75.4%	–	73.7%	–	72.1%	72.9%	–	75.2%	76.3%（該行報告的最高分）	43.8%	75.5%（該行報告的第二高分）
PatchEval	79.6%（該行報告的第二高分）	74.8%	–	–	80.4%（該行報告的最高分）	77.8%	69.6%	–	76.1%	–	–	–	–

每行中報告的最高分；並列分數一併計入每行中報告的第二高分；並列分數一併計入

為提高一致性，在適用的情況下，我們對內部模型和外部模型都採用外部報告的評測結果。具體來說，我們採用以下機構報告的分數：

ARC Prize：ARC-AGI v1 和 ARC-AGI v2

Arena：CodeArena 自動評測

Artificial Analysis：AA-3D、AA-AnalystAgent、AA-Briefcase、AA-LCR、AA-Omniscience、AutomationBench-AA、CritPt v2、EnterpriseOps-Gym-AA、FrontierCode 2.0、GDP.pdf、GDPval-AA、HLE、HLE-Diamond、MMMU-Pro、SciCode、Terminal-Bench v2.1、Terminal-Bench v4.0、TerminalBench-Science、τ³-Banking

Datacurve：DeepSWE v1.1

DesignArena：DesignArena

Scale AI：MCP Atlas、SWE-Pro v2

Surge：ComplexConstraints v1.1、EnterpriseBench、Handbook.md v1.1、sudo L7

Mercor：APEX Accounting 1.1、APEX Agents 1.1

Thoughtful：DiligenceBench、PostTrainBench v1.2

Vals：BioMysteryBench、Code Migration v1.1、CyberBench、CyberOffense、Excel Modeling Benchmark v1.1、Finance Agent v2.1、HLAB-Vals-1.1、Legal Research Bench、SAGE、SRE Bench、SWE-bench Multimodal、Tax Agent Bench、Terminal-Bench 4.0、Vibe Code Bench v1.1

評測快照：缺失的結果以短橫線表示。

侷限

與 Inkling 相比，Inkling 2 Small 在易用性上有所提升，但它的表達並不算最簡潔，也不總能選中最合適的工具——在技能數量龐大的程式碼庫中尤其如此。

和之前的 Inkling 模型一樣，Inkling 2 Small 原生支援影像輸入；不過該模型不支援音訊。

Inkling 2 Small 在聊天體驗上的最佳化也相對不足。我們注意到一些問題，比如內容組織與呈現較差、斜槓使用過多，以及對心理健康和其他安全相關提問反應過度。

立即試用 Inkling 2 Small

我們很高興在 Tinker 上提供 Inkling 2 Small，用於推理和微調。安全測試完成後，該模型將在未來幾週內登陸更多平臺。

Inkling 2 Small 的誕生服務於我們的使命：打造能夠延伸人類意志與判斷力的 AI。希望它能助你實現抱負，我們也期待看到你用它做出什麼。

來源：Thinking Machines Lab：News · thinkingmachines.ai