跳到正文

#多模態訓練管線

RSS
今日 0 則
10月10日週六
  1. AI Engineer🎙️ Podcast85

    GPU 使用率從 15% 拉到 90%:該修的是資料管線,不是模型

    最佳化多模態訓練吞吐量最難的部分,從來不是 kernel 最佳化,而是如何讓 GPU 不餓肚子。這正是 Tarun Sunkaraneni 在這場 16 分鐘演講中的核心主張。他以一套基於 Qwen3-VL 的多模態監督式微調(supervised fine-tuning)流程,逐步示範一場工程演練:不動模型,只修資料路徑,就把 GPU 使用率從 15% 的基準拉到約 90%。標題的定調相當準確:整集幾乎都在談資料管線,開場那句提到的「vision tokens」與「GIL」只是輔助細節,並非獨立主題。 Sunkaraneni 的方法是一套受控的消融階梯(ablation ladder)。他先建