跳到正文
MarkTechPost(marktechpost.com)· Asif Razzaq·· 2 天前精選品質評分78

NVIDIA 推出 Nemotron-Labs-Sigma,包含 14 個連續擴散語言模型檢查點

NVIDIA AI Releases Nemotron-Labs-Sigma, a Continuous Diffusion Language Model with 14 checkpoints at 3B/8B

重點導讀

文字生成模型通常一步步預測文字,Nemotron-Labs-Sigma 則用連續擴散的方式生成文字。

  • NVIDIA 推出 3B 和 8B 兩種大小、共 14 個開放權重檢查點,包含基礎、指令、精簡步數和自我推測版本。NVIDIA 自行評測中,Sigma-8B 基礎版在六項測試平均為 71.16,略高於 NLD-8B 的 70.22。
  • 自我推測版在指定測試環境下,平均速度比自回歸解碼快 3.46 倍。模型需要支援 bfloat16 的 NVIDIA GPU,基礎版上下文長度為 4,096 個 token。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

Sigma 把文字生成放進連續的向量空間,文章也比較了它與離散擴散及自回歸模型的評測結果,呈現新做法的表現差異。

信源出處marktechpost.com

NVIDIA AI Releases Nemotron-Labs-Sigma, a Continuous Diffusion Language Model with 14 checkpoints at 3B/8B

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: MarkTechPost (marktechpost.com)
開啟原文

讀者討論

理性交流 · 即時討論