vLLM 宣佈首發支援 NVIDIA Nemotron 3.5 Lightning 模型
Announcing Day-0 Support for NVIDIA Nemotron 3.5 Lightning on vLLM
重點導讀
vLLM 官方部落格宣佈推出對 NVIDIA Nemotron 3.5 Lightning 的 Day-0 支援，這是一款專為全天候智慧體（Agent）設計的可自訂開源混合式 MoE 模型，並透過多種推論加速技術提升吞吐量。
推薦理由
vLLM 宣佈首發支援 NVIDIA Nemotron 3.5 Lightning 模型，讀者可透過內文提供的配置指令與架構最佳化方案評估高吞吐量部署。
信源出處vllm.ai
Announcing Day-0 Support for NVIDIA Nemotron 3.5 Lightning on vLLM
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： vLLM Official Blog (vllm.ai)
開啟原文