Hugging Face 改用 OpenRouter 分派模型請求,可選最快或最便宜的供應商
Hugging Face now routes model requests through OpenRouter for the best price or speed
重點導讀
開發者使用語言模型時,常要自己挑供應商,也可能遇到服務中斷。
- Hugging Face 現在透過 OpenRouter 分派模型請求,預設會依價格、速度和可靠度挑選供應商,遇到中斷時也會自動改用其他供應商。
- 原有程式碼不必修改。開發者可用「:fastest」選吞吐量最高的供應商、用「:cheapest」選價格最低的供應商,也能直接指定供應商。OpenRouter 表示,採用新路由後,容量錯誤減少 46%,首個 token 出現時間改善 16.9%,吞吐量增加 16.3%。Hugging Face 會代為處理帳單,語言模型供應商的自備 API 金鑰不再適用,但圖片和影片服務仍可使用。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
Hugging Face 改由 OpenRouter 按價格、速度與可靠度分派模型請求,文中也提供切換供應商的方式與效能變化,能看出路由調整對開發者使用體驗的影響。
信源出處the-decoder.com
Hugging Face now routes model requests through OpenRouter for the best price or speed
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: The Decoder (the-decoder.com)
開啟原文