跳到正文
vLLM Official Blog(vllm.ai)· vLLM-Omni team·· 11 天前精選品質評分76

vLLM-Omni 支援 MiniMax H3-Image,Vera Rubin 4K 生成中位數延遲 0.87 秒

H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin

重點導讀

vLLM-Omni 將 MiniMax H3-Image 部署至 NVIDIA Vera Rubin,四張 GPU 在短提示詞服務測試中生成原生 4096×4096 影像的中位數延遲為 0.87 秒。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章比較不同 GPU 配置下的 4K 生成延遲與吞吐量,並交代測試條件差異,便於理解數字適用的服務情境。

信源出處vllm.ai

H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: vLLM Official Blog (vllm.ai)
開啟原文

讀者討論

理性交流 · 即時討論