跳到正文
熱點事件持續更新

SageMaker supports GPU partitioning

1 篇報導1 個報導來源1 小時前更新

先了解這件事

重點綜述

SageMaker Inference 透過 NVIDIA Multi‑Instance GPU (MIG) 允許單一 GPU 分割成多個獨立分割槽,使用者可為每個模型指定分割槽型別,從而在同一例項上部署更多模型並節省成本。

根據報導自動生成 · 1 小時前更新

報導時間線

沿著報導,瞭解事件的不同面向。

11月7日
  1. AWS Machine Learning Blog精選
    SageMaker Inference 透過 NVIDIA MIG 支援多例項 GPU,提升模型端點 GPU 利用率

    SageMaker Inference 透過 NVIDIA Multi‑Instance GPU (MIG) 允許單一 GPU 分割成多個獨立分割槽,使用者可為每個模型指定分割槽型別,從而在同一例項上部署更多模型並節省成本。

本事件熱度趨勢

還沒有足夠的連續觀測資料,暫不繪製趨勢。

讀者討論

針對此事件的各方觀點與即時反饋