重點導讀
DeepSeek V4.1 Flash 1017 的智慧表現與 GLM-5.3 相當,成本約為 ⅓,速度快 4 倍。以下說明我們如何讓它和其他 Flash 模型更快。
我們拆解三項最佳化:kernel fusion、Programmatic Dependent Launch (PDL) 和 host loop minimization。這包括反覆調整 80 多個 kernels,例如開源的 mHC megakernel,現在執行速度快了 30%。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
Baseten@baseten
·18 天前
DeepSeek V4.1 Flash 1017 matches GLM-5.3 intelligence at ~⅓ the cost and 4x the speed. Here’s how we make it (and other Flash models) even faster.
We break down three optimizations: kernel fusion, Programmatic Dependent Launch (PDL), and host loop minimization. That includes iterating on 80+ kernels, like the open-source mHC megakernel, which now runs 30% faster.
推文來源 · X (Twitter)在 X 參與討論