跳到正文
LangChain Blog(langchain.com)·· 9 天前精選品質評分69

LangSmith LLM Gateway:代理模型的執行時控制

LangSmith LLM Gateway: Runtime Controls for Agents

重點導讀

LangSmith LLM Gateway 於公開測試階段推出,提供一站式治理介面,協助開發者在代理模型中實現成本、流量、回退與資料安全等執行時控制。

  • - 核心功能:支援組織、工作區、API 金鑰、使用者等多層級支出上限、速率限制與模型回退規則。
  • 可偵測並遮蔽 PII 與機密資料。
推薦理由

LangSmith LLM Gateway 讓開發者能在單一介面下統一治理代理模型,提升成本控制、流量限制與資料安全,減少手動編寫控制邏輯的風險。

信源出處langchain.com

LangSmith LLM Gateway: Runtime Controls for Agents

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: LangChain Blog (langchain.com)
開啟原文