Modal 如何實現真正無伺服器 GPU

Modal 在其最新的技術部落格中說明，透過四項關鍵最佳化，將 GPU 推理伺服器的啟動時間從數千秒縮短至數十秒，實現真正無伺服器 GPU。

• 四項關鍵技術：雲端緩衝、內容定址檔案系統、CPU 記憶體檢點/恢復、GPU CUDA 記憶體檢點/恢復。