Phoronix 實測 AMD HRX Loom,3 到 4 天把 50 個大型語言模型移植到使用者端 GPU
AMD Leverages AI + HRX Loom In Experiment For Quickly Porting 50 LLMs To Client GPUs
重點導讀
把新模型搬到不同硬體上,常要花不少時間處理相容問題。
- AMD 團隊用 HRX Loom 搭配 AI 助理工作流程,在 3 到 4 天內將 Hugging Face 上的 50 個模型移植到 AMD 使用者端 GPU,涵蓋 18 種架構。
- 測試中,32K token 提示詞處理速度比 Llama.cpp 的 ROCm 後端快 1.5 到 2.1 倍,比 Vulkan 後端快 1.9 倍。
- HRX Loom 目前仍是實驗性專案,也支援 CPU 和 NPU 執行。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處phoronix.com
AMD Leverages AI + HRX Loom In Experiment For Quickly Porting 50 LLMs To Client GPUs
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Phoronix (Linux HW & Benchmarks) (phoronix.com)
開啟原文