Cognition 發布編碼模型 SWE-2 Flash，Terminal‑Bench 4.0 從 0.9% 提升至 20.0%

Cognition 模型 / Devin 部落格·2026-11-04 00:00· 1 天前精選AI 評分61

Introducing SWE-2 Flash

AI 導讀

Cognition 釋出編碼模型 SWE-2 Flash，稱其在主流評測上超越所有美國開源權重模型，包括部分大 3 倍的模型。

推薦理由

Cognition 自述訓練細節與基準數字，讀者可據此比較 SWE-2 Flash 在低價高速編碼場景下的實際定位。

我們推出 SWE-2 Flash，這是一款完全在美國打造的程式設計模型，在低成本、高速度的前提下，把智慧水平推向了新高度。我們在訓練配方中首次於強化學習之前加入了一箇中期訓練階段。相比基座模型 Thinking Machines 的 Inkling-Small，這一改動帶來了顯著提升：Terminal-Bench 4.0 從 0.9% 提升到 20.0%，FrontierCode 2.0 從 3.2% 提升到 24.0%。

在主流評測中，SWE-2 Flash 的表現超過了所有美國開放權重模型，甚至包括體積大 3 倍的模型。為了在透明訪問與網路安全風險之間取得平衡，我們正在制定一項計劃，與行業合作伙伴和研究人員安全地共享模型權重。

隨著模型能力不斷提升，我們除了繼續拓展能力邊界，也始終專注於降低日常工程工作的成本。如今，較小的模型已經能夠承擔軟體智慧體所做的相當一部分工作，例如自動化、程式碼審查、功能開發和文件更新。

我們開發 SWE-2 Flash 正是為了滿足這一日益增長的需求。它今天已在 Devin Desktop 和 CLI 中上線，價格只有體積大得多的同門模型 SWE-2 的五分之一，速度則是它的 3 倍。

訓練

我們首先在 Inkling-Small 之上進行大規模中期訓練。該模型總引數 276B，啟用引數 12B。一個關鍵挑戰是確定合適的資料配比：納入哪些來源，以及各佔多大比例。為指導這些決策，我們整理了一個高質量的留出程式設計資料集，用來反映模型在真實軟體工程場景中的智慧水平。

隨後，我們用 token 效率曲線來評估不同資料來源，找出最有效的配比。我們從一次基線訓練開始，測量每種候選資料配比需要多少 token 才能達到與基線相同的驗證損失。把這一 token 數量的比值畫在 y 軸、基線 token 數畫在 x 軸，就能直接比較不同配比的訓練效率。

我們反覆調整中期訓練資料的構成，最終確定了一個由數萬億 token 組成的資料集，涵蓋高質量科學文章、部落格、程式碼及其他來源。訓練分三個階段進行，讓模型在訓練後期才接觸到最稀缺、質量最高的資料。在每個階段中，留出驗證損失都以穩定的對數線性速率改善。

中期訓練期間的驗證損失

中期訓練階段之後，我們進行了大規模強化學習。雖然我們對 SWE-2 的強化學習配方做了一些調整，但大部分提升來自質量更高、多樣性更豐富的強化學習任務。

在質量方面，我們仔細審查了任務的指令、環境配置和驗證器。在多樣性方面，我們設計了幾種新的任務型別，覆蓋的能力範圍遠超以往，以培養 Devin 實際工作所需的通用推理和問題解決能力。用這些資料訓練後，我們測得的幾乎每一項基準都取得了顯著提升。

強化學習過程中 rollout 得分與基準平均分的對比

起源與網路安全

對於敏感、關鍵任務型的工作，客戶需要的不僅僅是一個藏在 API 背後的強大模型。隨著網路安全逐漸成為一大主要應用場景，風險也隨之升高。企業和政府需要可觀測性，以便在自己的基礎設施上（包括本地部署）託管和控制部署。學術界和產業界的研究人員則需要研究模型的行為方式，以及模型可能被如何濫用。

SWE-2 Flash 的目標之一，是為行業合作伙伴和研究人員提供一個選項：既能透明地訪問模型權重，又能對模型進行微調，並在敏感環境中執行。為了幫助防禦方，我們在訓練中重點針對網路安全工作，將模型的 ExploitBench 得分從 11.3% 提升到 34.8%。這些能力同樣可能被惡意攻擊者利用，近期網路攻擊激增就是明證，因此我們暫不公開權重。作為兼顧透明度與安全性的潛在方案，我們正在制定一項計劃，與可信的行業合作伙伴和研究實驗室安全地共享權重。更多細節將在幾週後公佈。

11/30 前免費立即在 Devin Desktop 和 CLI 中試用獲取 SWE-2 Flash

來源：Cognition 模型 / Devin 部落格 · cognition.com