熱點事件觀察中
RTX 5090 KV cache sharing
1 篇報導1 個報導來源2 天前更新
先了解這件事
AI 綜述
兩臺 RTX 5090 主機透過乙太網路共享 KV 快取，作者在不同網路連線下測試此功能，觀察會話熱度與延遲變化。
- KV cache 共享流程：儲存、傳送（僅傳送 delta，約 247 MiB）以及匯入，傳送時間在 1 GbE 為 3.24 s，10 GbE 0.81 s，直接 0.55 s。
AI 根據報導生成 · 2 小時前更新
最新進展10月28日 00:09
兩臺 RTX 5090 主機透過乙太網路共享 KV 快取報導時間線
沿著報導，瞭解事件的不同面向。
10月28日
- Hacker News (official RSS)兩臺 RTX 5090 主機透過乙太網路共享 KV 快取
兩臺 RTX 5090 主機透過乙太網路共享 KV 快取，作者在不同網路連線下測試此功能，觀察會話熱度與延遲變化。 - KV cache 共享流程：儲存、傳送（僅傳送 delta，約 247 MiB）以及匯入，傳送時間在 1 GbE 為 3.24 s，10 GbE 0.81 s，直接 0.55 s。
本事件熱度趨勢
還沒有足夠的連續觀測資料，暫不繪製趨勢。