Perplexity 推出 Orchestrator API,讓模型故障時自動切換供應商
Perplexity Launches Orchestrator API for Failover and Model Routing
重點導讀
團隊接入多家模型時,常得管理不同 API;供應商出錯時,也可能讓請求失敗。
- Perplexity 推出 Orchestrator API,讓開發者用一個入口呼叫多家公司的模型,遇到供應商錯誤、限流或逾時時,會改由另一個部署提供相同模型。每次請求仍按實際回答的模型費率計費,失敗且未產生輸出的請求不收費。另一項 perplexity/auto 路由功能還在預覽,會依對話內容和開發者寫的路由說明選擇模型。
- 文中測試也顯示,加入路由後,Claude Fable 5.2 在 63 項 Terminal-Bench 4.1 任務中的完成數從 38 項增加到 41 項,但每項任務的估計成本較高。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
Perplexity Orchestrator 把多家模型與供應商放在同一個 API 入口,文章也比較了故障切換、路由方式與收費差異。
信源出處marktechpost.com
Perplexity Launches Orchestrator API for Failover and Model Routing
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: MarkTechPost (marktechpost.com)
開啟原文