Ollama 新增模型排程系統
New model scheduling
重點導讀
導語:Ollama 於 2025 年 9 月 23 日發布了全新的模型排程系統,透過精準記憶體測量提升 GPU 產能並降低 OOM 失敗。
- 精準記憶體測量:新引擎在執行前測量實際記憶體需求,避免過度分配。
推薦理由
Ollama 透過精準記憶體測量,降低 OOM 失敗並提升 GPU 產能,對多 GPU 佈署者帶來實質效能提升。
信源出處ollama.com
New model scheduling
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Ollama Blog (ollama.com)
開啟原文