跳到正文

#評測/基準

RSS
今日 14 則
11月11日週三
  1. Hacker News (official RSS)41

    Show HN:研究者用自己的血糖資料訓練 15 種預測模型

    血糖會隨時間變化,研究者想知道能不能用自己的資料預測接下來的血糖。他用自己的資料和公開資料測試 15 種模型,其中自己做的 T1DMAI 是小型 Transformer,會預測未來 2 小時的血糖;再用少量真實資料微調後,在自己的資料測試中,60 分鐘預測的分數接近表現最好的 XGBoost。可是換到公開資料時,結果就不一樣,也有模型很難抓到低血糖。這些測試目前只適合研究和教學,模型沒有經過臨床驗證,不能拿來決定用藥或治療。

  2. Perplexity76

    Perplexity 開放 Gemini 4 Carbon 供 Pro 和 Max 訂閱者在 Perplexity Computer 使用,Max 訂閱者也可在 Search 使用。 WANDR 基準:得分 0.857,每項任務成本 $5.86。 成本比較:Perplexity 表示,Gemini 4 Carbon 的分數與 Claude Fable 5.2 相同,成本為其 40%。

    推薦理由:Perplexity 提供 WANDR 分數與單次任務成本,並和 Claude Fable 5.2 比較,呈現 Gemini 4 Carbon 的效能與成本資訊。

  3. Tom’s Hardware AI & Computing86

    AMD Zen 6 EPYC Venice 深度解析與基準測試

    AMD 的 EPYC「Venice」是首批採用 Zen 6 架構的處理器;Tom’s Hardware 測試 EPYC 9996 與 9686F,並比較其架構及伺服器工作負載表現。

    推薦理由:文章以雙路伺服器實測比較 Venice 與前代及 Vera,並拆解架構、記憶體與工作負載差異,呈現不同 EPYC 型號的效能取向。

  4. Phoronix (Linux HW & Benchmarks)88

    AMD EPYC 9996 基準測試:256 個 Zen 6C 核心展現效能

    Phoronix 實測 AMD EPYC 9996 雙路配置,評估其在多種 Linux 工作負載下的效能與每瓦效能。 - 測試配置:每顆處理器有 256 核心、512 執行緒;雙路合計 512 核心、1024 執行緒。

    推薦理由:文章以 Phoronix 的實測比較 EPYC 9996 雙路配置與前代 EPYC、Intel Xeon 旗艦處理器,呈現 512 核心平臺在多種 Linux 工作負載下的效能與每瓦效能。

  5. LMSYS Org Blog83

    SGLang 團隊用 megakernel 讓 Muse Spark Open 在 Blackwell GPU 上達到每秒 1,109 個 token

    GPU 執行模型時,工作被拆成許多小步驟,步驟之間的等待會讓部分晶片閒著。LMSYS 團隊為 Muse Spark Open 寫了一種叫 megakernel 的大型 GPU 程式,把每一層的多項工作合在一起,讓不同部分能趁空檔先處理下一件事。在 Blackwell GPU 上,單次請求的解碼速度從每秒 517 個 token 提升到 1,109 個 token;團隊也把草稿模型的執行步驟從 175 次減到 8 次。這種做法目前只支援搭配猜測解碼的單一請求,團隊接下來打算擴充到多個請求。

    推薦理由:文章拆解 megakernel 如何合併 GPU 工作、減少等待,並以 Muse Spark Open 的實測展示效能變化,能看出低延遲推論的工程取捨。

11月10日週二
  1. Dev.to Top Tech79

    Claude Fable 5.2 定價分析:20% 降價對比 Fable 5.1、Opus 5.5 與 GPT-6 Astra 的任務成本

    Claude Fable 5.2 的標準 API 價格比 Fable 5.1 低 20%,但不同快取使用方式與工作負載會改變各模型的成本差距。 - 標準定價:每 1M 輸入 token 為 $8、輸出 token 為 $40;快取讀取為 $0.20。

    推薦理由:文章以標示的 token 工作負載試算多款模型成本,並對照 Anthropic 提供的基準分數,呈現價格差距如何隨快取使用與任務型別改變。