NVIDIA Nemotron 3.5 Super 與 Bolt 0.40.5 版發布

v0.40.5

AI 導讀

NVIDIA Nemotron 3.5 Super 與其緊湊版 Nemotron 3.5 Bolt 於 0.40.5 版正式發布，提供 1M token 上下文、工具呼叫及雲端決策模型支援。

推薦理由

此版本新增 1M token 上下文、工具呼叫等功能，適合需要大規模文件理解的場景。

正文 · AI 翻譯

NVIDIA Nemotron 3.5 Super

NVIDIA Nemotron 3.5 Super 是一個視覺-語言模型，支援編碼、推理、工具使用及檔案理解。它結合 120B 引數的混合 Mamba-2/Transformer 多專家混合骨幹（每個 token 12B 活躍）與 C-RADIO 視覺編碼器，並支援工具呼叫、開/關思考模式，以及最多 1M tokens 的上下文。

ollama run nemotron-3.5-super

更緊湊的同級，Nemotron 3.5 Bolt 將 Super 降至 74B 引數（9B 活躍），調校以適配 24 GB NVIDIA GPU，適用於日常代理任務，並透過內建編寫器進行投機性解碼。

變更內容

決策模型現在可於雲端使用 — 使用 clef:cloud 與 clef-flash:cloud 在 ollama.com 雲端執行決策模型，而不需本機拉取。
繼續包含自訂工具呼叫的 OpenAI 相容回應對話不再產生錯誤。
雲端存取失敗時顯示更清晰的錯誤訊息：登入問題、桌面應用程式的付款問題，以及來自 ChatGPT 閘道的上游存取錯誤，現在會說明出錯原因。
已更新 llama.cpp（新增 Nemotron 3.5 支援）以及 MLX。

新貢獻者

@willietran 首次貢獻於 #18986。

完整更新日誌：v0.40.4...v0.40.5。