vLLM Official Blog(vllm.ai)· Ranran Haoran Zhang, Lik Xun Yuan, Chao Ju Chen, Eric Curtin, Michael Goin·· 2026-09-22精選品質評分86
發布 vllm-metal：在 Apple Silicon 上實現高併發服務
Announcing vllm-metal: Concurrent Serving on Apple Silicon
重點導讀
vllm-metal v0.28.0 釋出，提供在 Apple Silicon 上的高併發 LLM 服務，相容 OpenAI API 並支援 MTP、GGUF、混合模型與 NAX 預填。
推薦理由
本篇說明 vllm-metal 如何在 Apple Silicon 上實現高併發推理，為 Mac 上部署 LLM 的工程師提供可直接套用的效能最佳化與配置指引。
信源出處vllm.ai
Announcing vllm-metal: Concurrent Serving on Apple Silicon
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論，請前往原始網站。
來源： vLLM Official Blog (vllm.ai)
開啟原文