Mooncake 整合進 Miles,加快 AI 訓練資料交接
大型語言模型做強化學習時,產生回答的工作和訓練工作分開執行,零碎的資料要在兩邊傳送,可能讓訓練端等資料。Mooncake 整合進 Miles 後,會把多種格式的資料整理成較大的資料塊傳送,再依原本的格式重建;使用者仍透過 Miles 原有的介面交接資料。這次測試中,Mooncake 的遠端 GET 比 Ray 快約 10–14 倍,PUT 快約 1.2–1.6 倍。這些數字只反映資料傳送與重建,不代表整體訓練速度也提高相同比例;作者也表示,接下來會用更多模型和工作負載驗證。