在 SageMaker AI 上使用 vLLM-Omni 構建即時語音應用

本文介紹瞭如何在 Amazon SageMaker AI 上使用 AWS vLLM-Omni 深度學習容器部署 Qwen3-TTS 模型，並通過雙向 WebSocket 連線實現文本輸入與流式語音輸出。

文章給出了完整的程式碼示例、例項池配置方法以及 Gradio 客戶端的部署與測試步驟。