跳到正文
vLLM Official Blog(vllm.ai)· AMD and Embedded LLM·· 15 天前精選品質評分86

在 AMD Instinct MI355X 上拓展 Kimi K3:AgentX 吞吐量與效能最佳化解析

Scaling Kimi K3 on AMD Instinct MI355X: Matching NVIDIA HGX B300 Throughput per GPU on AgentX

重點導讀

本文探討在八張 AMD Instinct MI355X 系統上利用 vLLM 執行 Kimi K3 的各項核心最佳化技術,達成超越 NVIDIA HGX B300 的吞吐表現。

推薦理由

原文給出能力變化與開放入口,讀者可據此評估如何整合至現有工作流程。

信源出處vllm.ai

Scaling Kimi K3 on AMD Instinct MI355X: Matching NVIDIA HGX B300 Throughput per GPU on AgentX

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: vLLM Official Blog (vllm.ai)
開啟原文