跳到正文
LMSYS Org Blog(lmsys.org)· MOSI, OpenMOSS Team & SGLang-Omni Team·· 2026-06-17精選品質評分66

SGLang-Omni 開始支援 MOSS-TTS Local Transformer v1.5 語音生成

MOSS-TTS Local Transformer v1.5 on SGLang-Omni: Serving Native-Streaming 48 kHz Speech

重點導讀

語音生成要先處理參考音訊,再逐步產生語音,最後解碼成聲音;把這些工作塞進同一個模型流程,容易遇到速度和記憶體管理問題。

  • MOSI、OpenMOSS Team 與 SGLang-Omni Team 把 MOSS-TTS Local Transformer v1.5 拆成音訊前處理、文字轉語音生成和聲音解碼三個階段,支援邊生成邊輸出音訊。作者也測試了重用參考音訊、加快短音訊解碼等做法。
  • 在 SeedTTS 英文測試中,非串流平均每秒處理 5.976 個請求,串流則為 2.909 個,兩種模式的 WER 分別是 1.75% 和 2.14%。這些數字來自特定測試設定,文章也說不同最佳化測試的結果不能直接相加。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章拆解語音生成服務的三個階段,並以快取、CUDA Graph 與記憶體配置的測試結果,呈現各項調整如何影響速度與串流表現。

信源出處lmsys.org

MOSS-TTS Local Transformer v1.5 on SGLang-Omni: Serving Native-Streaming 48 kHz Speech

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: LMSYS Org Blog (lmsys.org)
開啟原文

讀者討論

理性交流 · 即時討論