跳到正文
熱點事件持續更新

LFM2.5-24B-A2B釋出

1 篇報導1 個報導來源4 小時前更新

先了解這件事

AI 綜述

LFM2.5‑24B‑A2B 是一個 24B 引數、每個 token 只啟用 2B 引數的推理模型,專為本機快速私有代理設計。

  • 推理速度:在 Apple M5 Max 上 184 tok/s,單張 NVIDIA B300 GPU 可達 21 000 tok/s,速度比同類 MoE 模型快 1.7 倍。

AI 根據報導生成 · 3 小時前更新

報導時間線

沿著報導,瞭解事件的不同面向。

10月14日
  1. Hugging Face Blog精選
    LFM2.5‑24B‑A2B 推出可於本機快速執行的私有代理模型

    LFM2.5‑24B‑A2B 是一個 24B 引數、每個 token 只啟用 2B 引數的推理模型,專為本機快速私有代理設計。 - 推理速度:在 Apple M5 Max 上 184 tok/s,單張 NVIDIA B300 GPU 可達 21 000 tok/s,速度比同類 MoE 模型快 1.7 倍。

本事件熱度趨勢

當前熱度 9·可比範圍峰值 10(10月14日 02:00)·近 24 小時可比範圍變化 –

02.557.51010月14日02:0010月14日03:0010月14日04:0010月14日05:00

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指標或點選圖表檢視每小時熱度;鍵盤可用左右方向鍵切換。