跳到正文
Phoronix (Linux HW & Benchmarks)(phoronix.com)· Michael Larabel·· 9 天前品質評分74

Phoronix 實測 AMD HRX Loom,3 到 4 天把 50 個大型語言模型移植到使用者端 GPU

AMD Leverages AI + HRX Loom In Experiment For Quickly Porting 50 LLMs To Client GPUs

重點導讀

把新模型搬到不同硬體上,常要花不少時間處理相容問題。

  • AMD 團隊用 HRX Loom 搭配 AI 助理工作流程,在 3 到 4 天內將 Hugging Face 上的 50 個模型移植到 AMD 使用者端 GPU,涵蓋 18 種架構。
  • 測試中,32K token 提示詞處理速度比 Llama.cpp 的 ROCm 後端快 1.5 到 2.1 倍,比 Vulkan 後端快 1.9 倍。
  • HRX Loom 目前仍是實驗性專案,也支援 CPU 和 NPU 執行。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

信源出處phoronix.com

AMD Leverages AI + HRX Loom In Experiment For Quickly Porting 50 LLMs To Client GPUs

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文

讀者討論

理性交流 · 即時討論