Amazon Bedrock 開放權重模型支援明確提示詞快取
Introducing explicit prompt caching with open-weight models on Amazon Bedrock
重點導讀
每次請求都重送很長的背景資料,會增加處理時間和輸入費用。
- Amazon Bedrock 的開放權重模型現在支援明確提示詞快取,開發者可以標出要重複使用的內容,讓後續請求直接讀取快取。
- 也能使用自動快取,或同時使用兩種方式。文章用產品手冊問答和 OpenCode 寫程式的例子,示範如何檢視快取讀取與寫入用量。把不常變的指示和參考資料放在前面,有助於重複使用。
- 實際支援方式、最低長度和儲存時間則依模型而異。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
推薦理由
文章比較自動與手動標記快取字首的做法,並示範如何檢視讀寫用量,方便估算重複使用長提示詞時的費用與延遲變化。
信源出處aws.amazon.com
Introducing explicit prompt caching with open-weight models on Amazon Bedrock
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: AWS Machine Learning Blog (aws.amazon.com)
開啟原文