Berkeley AI Research·· 2026-07-29精選AI 評分65
從 CUDA 到 MLX:K-Search 如何將數十年核心最佳化經驗引入 Apple Silicon
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 導讀
研究團隊擴充套件了 K-Search 進化核心搜尋框架併為其增加了 MLX 後端,通過結構化 CUDA 到 MLX 翻譯層將 NVIDIA 生態的核心最佳化經驗自動遷移至 Apple Silicon。
實驗表明,該方法在注意力核心上實現了接近專家的效能,在 Mamba SSM 核心的預填充階段取得了約 20 倍的吞吐量提升。
推薦理由
研究展示瞭如何通過結構化翻譯層將 CUDA 最佳化經驗遷移至 Apple Silicon,為異構硬體的高效能核心開發提供了可複用的方法。
來源:Berkeley AI Research · bair.berkeley.edu