vLLM-Omni 支援 MiniMax H3-Image,Vera Rubin 4K 生成中位數延遲 0.87 秒
H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin
重點導讀
vLLM-Omni 將 MiniMax H3-Image 部署至 NVIDIA Vera Rubin,四張 GPU 在短提示詞服務測試中生成原生 4096×4096 影像的中位數延遲為 0.87 秒。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
文章比較不同 GPU 配置下的 4K 生成延遲與吞吐量,並交代測試條件差異,便於理解數字適用的服務情境。
信源出處vllm.ai
H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: vLLM Official Blog (vllm.ai)
開啟原文