Mamba‑3 發布:更高效的 SSM 方案提升 1.5B 模型推理速度
Mamba-3
重點導讀
Mamba‑3 是一款新型 SSM,專為推理效率設計,於 1.5B 模型層級下,預填+解碼延遲均優於 Llama‑3.2‑1B、Gated DeltaNet 及 Mamba‑2。
推薦理由
Mamba‑3 以高效的 SSM 方案,提升 1.5B 模型預填解碼延遲,並提供 Triton/TileLang/CuTe kernels,為線性模型推理競爭力提供基礎。
信源出處together.ai
Mamba-3
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Together AI Official Blog (together.ai)
開啟原文