跳到正文
Berkeley AI Research·· 2026-07-29精選AI 評分65

從 CUDA 到 MLX:K-Search 如何將數十年核心最佳化經驗引入 Apple Silicon

From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon

AI 導讀

研究團隊擴充套件了 K-Search 進化核心搜尋框架併為其增加了 MLX 後端,通過結構化 CUDA 到 MLX 翻譯層將 NVIDIA 生態的核心最佳化經驗自動遷移至 Apple Silicon。

實驗表明,該方法在注意力核心上實現了接近專家的效能,在 Mamba SSM 核心的預填充階段取得了約 20 倍的吞吐量提升。

推薦理由

研究展示瞭如何通過結構化翻譯層將 CUDA 最佳化經驗遷移至 Apple Silicon,為異構硬體的高效能核心開發提供了可複用的方法。

來源:Berkeley AI Research · bair.berkeley.edu