跳到正文

#DeepSeek

RSS
今日 3 則
11月11日週三
11月10日週二
  1. LMSYS Org Blog69

    DeepSeek-V4.1-Flash 如何在 H200 上加快分離式 Prefill 與 Decode

    處理長提示詞時,DeepSeek-V4.1-Flash 的 Prefill 會排隊,等待時間也拉長。Ant International AI Infra Team 在 8 張 H200 上用 SGLang 分開處理提示詞和逐字生成,並調整索引器計分、Prefill 分塊與 MoE 資料傳送,也讓有限重播能搭配 CP 和 DSpark。合併設定的 8 個測試案例中,E2E 延遲降低約 15%–64%,但每個輸出 token 的時間增加 3%–52%;GSM8K 準確率則從 96.74% 降到 95.38%。文章提醒,整體結果包含多項改動,不能把改善歸功於單一調整;有限重播也會省略部分區域性運算,可能影響答案品質。

    推薦理由:文中把各項加速分開測量,也列出合併設定的延遲與 GSM8K 變化,呈現輸入處理變快和逐字生成變慢之間的取捨。

11月9日週一
  1. Dev.to Top Tech77

    Darwin-180B-RSI-R3 在 SuperCLUE 數理推理排名第二,超越 Gemini 與 Grok

    Darwin-180B-RSI-R3 在 SuperCLUE 2026 年 11 月數學與科學推理測試中獲得 73.68 分,排名第 2,並列開放權重模型第 1。

    推薦理由:Darwin-180B-RSI-R3 在 SuperCLUE 數理推理維度排名第二、開放權重模型排名第一,但五維綜合排名為第九,呈現其能力集中於特定評測專案的差異。

  2. iThome (臺灣)84

    Acronis 揭露 BossAI 攻擊系統鎖定臺灣緊急應變服務

    Acronis 揭露,名為 BossAI 的自動化攻擊系統在 12 天內鎖定 11 個國家的數百個組織,臺灣是攻擊最密集的地區,緊急應變服務為主要目標。

    推薦理由:BossAI 在 12 天內鎖定 11 個國家的數百個組織,臺灣緊急應變服務遭密集攻擊,報導並列出已遭存取的資料型別與系統弱點。

11月8日週日