vLLM 支援 NVIDIA GPU 硬體解碼,實現多 GPU 影片字幕加速
Scaling Multi-GPU Video Captioning with PyNvVideoCodec and vLLM
重點導讀
vLLM 透過整合 NVIDIA GPU 的硬體解碼(PyNvVideoCodec)\,將影片字幕任務的解碼工作從 CPU 移至 GPU,實現多 GPU 伺服器的吞吐量提升。
推薦理由
本次更新將硬體解碼與多 GPU 伺服器結合,提升影片字幕任務吞吐量,對 AV 研發與資料標註流程有直接效益。
信源出處vllm.ai
Scaling Multi-GPU Video Captioning with PyNvVideoCodec and vLLM
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: vLLM Official Blog (vllm.ai)
開啟原文