延遲是預算,像人才是目標——LiveKit 的 Jesse Hall
LiveKit 這家即時基礎設施公司的開發者推廣者 Jesse Hall 主張,語音 AI 產業對原始延遲的執迷是搞錯了方向。他說,真正的目標是做出行為舉止像人的語音代理——一邊說話一邊聆聽,能分辨對方是講完了還是隻是停頓,並在來電者改變心意時隨之調整。單靠速度,這些一樣都做不到。做得到的是底層模型管線的選擇與配置。 這場演講是實戰派打造即時語音代理的指南,內容主要圍繞模型選擇、延遲預算、輪替偵測(turn detection)、非同步工具呼叫與基準測試。標題的框架——把延遲當預算、以擬人為目標——是整集的貫穿主軸,不是隨口一提。Hall 逐一拆解三種具體的失敗模式(排行榜陷阱、量錯延遲、忽
推薦理由:原文指出,單靠速度無法打造像人般的語音代理,重點應放在模型管線與配置上,對實務開發者提供可落地的設計思路。