跳到正文
cloudflare blog(blog.cloudflare.com)· Celso Martinho·· 9 天前精選品質評分71

Cloudflare 推出支出管理,Workers 和 Durable Objects 可設定花費上限

Introducing Spend Management: Spending limits and alerts for Cloudflare

重點導讀

雲端用量突然增加,可能讓開發者收到超出預期的帳單;只有花費通知,無法阻止費用繼續增加。

  • Cloudflare 推出測試版 Spend Management,讓隨用隨付的客戶為 Workers 和 Durable Objects 設定花費上限與提醒,達到上限時會自動暫停會產生費用的操作。
  • 使用者可以在儀錶板、cf CLI 或 REST API 管理限制,並檢視接近即時的費用和修改紀錄。
  • 暫停後可提高上限、停用限制,或等到下一個帳單週期恢復。
  • Cloudflare 表示,之後會把支出限制擴充套件到更多產品。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

Cloudflare 說明支出計算與限制如何從用量彙整一路傳到全球節點,呈現成本控制在大型分散式平臺上的設計取捨。

正文 · 中文翻譯

支出控管長期以來一直是使用我們開發者平臺的開發者最常要求的功能之一。如今,已有超過 1,000 萬名開發者 在 Cloudflare 上建置服務,這項功能比以往更加重要。

雖然我們已為付費方案提供用量通知 和預算警示 一段時間,但這些功能無法徹底解決問題;通知不等於控管。

現在,您可以設定支出門檻,並選擇在達到上限時讓 Cloudflare 暫停活動,避免因未預期的用量而產生意外帳單。今天,我們推出支出管理 Beta 版,供所有隨用隨付(PayGo)客戶使用,初期支援 Workers 和 Durable Objects。

您可以搭配 AI Gateway 支出上限使用支出管理,控管應用程式的運算和 AI 推論成本。AI Gateway 已支援為 Workers AI 和其他 AI 供應商設定每位使用者和每個模型的預算,並套用至經由閘道器路由的請求。

運作方式

您可以透過儀錶板、cf CLI 或 REST API 開始使用支出管理。

在儀錶板中,前往「管理帳戶」 >「帳單」 >「支出上限」 ,然後啟用您要控管支出的產品。

啟用產品的控管功能後,您可以設定支出上限、指定接收通知的電子郵件地址,並設定一個或多個警示門檻。

如果您設定了接收通知的電子郵件地址,Cloudflare 會在評估支出達到任一門檻或支出上限時寄送通知。達到上限時,系統會套用封鎖政策並自動暫停該產品。

前往儀錶板後,您可以近乎即時(10 分鐘內)檢視各項支援產品在目前帳單週期的費用,並在此管理設定和門檻。總覽面板會顯示哪些產品已設定門檻和上限。此範例中,Workers 在達到硬性上限前觸發了兩次警示。

請注意,帳單週期從付費訂閱開始時起算,而非從部署 Worker 或設定支出上限時起算;10 月 10 日開始的訂閱,其週期通常為 10 月 10 日至 11 月 10 日,而非一個日曆月份。

儀錶板也會顯示稽核記錄,讓您檢視誰在何時變更上限,或何時達到上限。

和 Cloudflare 的大多數服務一樣,支出管理也提供 API,可供您以程式方式使用;相關檔案請參閱開發者檔案。以下是使用 API 的範例:

curl --fail-with-body --request POST \
  "https://api.cloudflare.com/client/v4/accounts/${CLOUDFLARE_ACCOUNT_ID}/billing/spend-policies" \
  --header "Authorization: Bearer ${CLOUDFLARE_API_TOKEN}" \
  --header "Content-Type: application/json" \
  --data '{
    "name": "Workers spending cap",
    "product_id": "workers",
    "enabled": true,
    "threshold_cents": 10000,
    "action": "usage_block",
    "notification_email": "me@example.com"
  }'

當然,您也可以使用cf,適用於整個 Cloudflare API 的 CLI:

cf billing spend-policies list
cf billing spend-policies create
cf billing spend-policies get
cf billing spend-policies update
cf billing spend-policies delete
cf billing spend-policies audit list
cf billing spend-policies activity list

cf billing spend-policies create --body '{
  "name": "Workers spending cap",
  "product_id": "workers",
  "enabled": true,
  "threshold_cents": 10000,
  "action": "usage_block",
  "notification_email": "me@example.com"
}'

套用上限封鎖後,該產品的新呼叫都會遭到拒絕。請注意,我們只會暫停會產生費用的客戶程式碼呼叫;例如在 Workers 中,Cron Triggers 和 Queue 消費者呼叫會暫停,但靜態資產仍會繼續提供服務。

若要恢復服務,您可以:

  • 將上限調高至目前週期累積支出的金額以上。
  • 停用或刪除封鎖政策。
  • 等到下一個帳單週期,屆時現有封鎖就會失效。

就是這樣。你現在就可以開始使用 Workers 和 Durable Objects 的支出管理功能,其他產品也會很快陸續推出。

請繼續閱讀,瞭解我們如何打造這套系統,以及接下來會發生什麼事。

我們如何打造支出管理功能

這套系統表面上看似簡單直觀,但要以 Cloudflare 的規模打造,絕非易事。從分散式網路中任一位置發出的呼叫,到必須在全球套用的阻擋決策,打造支出管理功能需要與多個團隊合作、修改現有系統中的程式碼,並從零建立新系統。

先來看看有上限的計費事件全貌:

現在讓我們深入探討。

在接近來源處收集並彙整

每次呼叫都會產生用量測量值,依產品而定,可能是請求數、CPU 時間、執行時間或儲存作業。但若要將如此大量的原始資料一路從來源傳輸並處理到計費引擎,既無法擴充,也缺乏效率。

因此,我們會使用兩階段計量管線,盡可能在接近來源處收集並彙整測量值,將事件合併為用量彙總資料,讓引擎看到累積用量,而不必逐一處理所有事件。

來看看示意圖。

第一階段會在解析附近將原始事件量縮減至一分鐘的時間區間。每個計量解析器會將原始事件轉換為用量測量值,再將相符的測量值合併至通常為一分鐘的區間中。不過,描述相同帳戶和時間區間的記錄仍可能有多筆。

第二階段由獨立服務依照相同的分組規則,合併第一階段產生的部分彙總資料,時間區間通常為五分鐘,並在交由下游 Usage Engine 處理前進一步減少資料量。我們也會在此封存整合後的彙總資料,為日後的分析與核對保留持久資料集。

這套兩階段管線的優點在於能及早減少原始事件量,讓下游引擎只需處理計算支出和採取行動所需的彙總用量。這讓整套做法能在 Cloudflare 的規模下實際運作。

Usage Engine:依帳戶分割槽處理

Usage Engine 會將彙總測量值轉換為用量記錄。這些標準化記錄包含帳戶、用量時間區間、指標、數量及相關維度。換句話說,它會將各產品專屬的計量專案對應至支援的用量指標。

我們依帳戶分割槽處理,讓同一帳戶的用量和訂閱資訊能在同一處匯合。如此一來,我們便能維護帳戶的累積用量,並套用包含的用量額度,而不必在每次更新時跨定價處理器協調。

如你所見,我們會平行執行不同分割槽,藉此將工作分散至各個帳戶,同時讓每個帳戶的定價狀態維持在一起。另請注意,每個分割槽都會保留本機狀態以快速存取,並在磁碟上維護持久的預寫式記錄(WAL)變更日誌。這帶來以下優點:

  • 減少跨分割槽協調: 每個帳戶的用量和訂閱狀態都會維持在一起。
  • 定價一致:用量更新會共用相同的額度與累積支出狀態。
  • 平行處理:不同分割槽會各自計算支出。
  • 可復原性:持久化狀態可讓替代處理器在故障後視需要重建並繼續運作。

最後,使用量指標會送入 Rating Engine。

Rating Engine

Rating Engine 是 Spend Management 中最重要的區塊;它會將使用量轉換成金額,並能回答這個問題:「根據這個帳戶的使用量、訂閱方案和定價,到目前為止花了多少錢?」

以下說明其運作方式。

簡單來說,Rating Engine 會整合三項資料:

  • 使用量記錄:例如請求數量和 CPU 毫秒數。
  • 訂閱資訊:帳戶的計費週期和方案變更。
  • 定價規則:費率、內含額度和計費進位規則。

使用量資料和訂閱資訊是獨立的資料流

使用量和訂閱更新會以獨立資料流送達,因此我們無法假設它們會依序抵達 Rating Engine。此外,我們必須能從資料處理失敗或訂閱資訊遺失的情況中復原,例如 webhook 失敗所造成的問題。

如果使用量先於計價所需的訂閱資訊抵達,我們會先將它保留為待處理資料,等訂閱資訊到齊後再處理。這讓我們能容忍暫時延遲,而不會把尚未計價的使用量視為免費。

追蹤累計支出

最後,我們會計算並追蹤累計支出。Rating Engine 會使用產品目錄資料庫來定義使用量指標,包括額度、費率和進位規則,並搭配帳戶的訂閱資訊。使用一百萬 CPU 毫秒不一定會產生額外費用:引擎會先套用帳戶內含的 CPU 額度,再為超出額度的部分計價。它會對累計使用量計價,而不是將每個請求分別進位並收費。

計算出累計支出後,接著會進行兩個步驟:

  • 政策評估:判斷是否已達到一個或多個警告或封鎖門檻。
  • 報告:我們會透過 API 在儀錶板顯示預估使用費用,並視需要透過 Cloudflare Email Service 寄送電子郵件警示。

非同步套用上限

Rating Engine 不會處於請求處理路徑中,也不會直接拒絕請求。相反地,政策服務會將上限傳送至執行階段組態服務和 Quicksilver。Quicksilver 是我們內部的鍵值儲存系統,專為在全球規模下快速複製和低延遲存取而開發。上限會以非同步方式傳播至所有節點。

上限傳至 Quicksilver 後,執行階段會在定期重新整理時取得該上限,並開始拒絕超出上限的呼叫或操作。

換句話說,執行限制時會使用本機狀態,因此請求不必等待 Rating Engine。藉由沿用現有的執行階段帳戶限制架構,我們讓評價作業不進入請求處理路徑,同時將上限分發至全球網路。

接下來的計畫

任何隨用隨付客戶今天都可以開始使用 Spend Management。這雖然是我們產品路線圖上的重要里程碑,但也只是個開始。以下分享我們未來幾週和幾個月的部分計畫。

更多產品

我們一開始會為 Workers 和 Durable Objects 設定支出上限,但很快你就能為 Cloudflare 的許多其他產品和基礎功能衡量支出並設定上限。我們打造的系統讓各項產品能輕鬆且熟悉地接入,因此產品目錄還會持續擴大。

更接近即時

雖然 10 分鐘內近乎即時已是很好的基準,但我們並不滿足於此。身為一群固執的工程師,我們已經有不錯的點子,可以進一步縮短所需時間。未來我們會逐步縮短衡量支出與執行限制之間的時間差,希望能降到一分鐘以下。

以代理程式和應用程式為基礎的預算

目前我們依產品和基礎功能衡量支出,但在控管成本時,還有其他值得探索的面向。例如,開發人員可能會想監控特定應用程式的成本,例如使用 R2 或 Workers AI 等其他基礎功能的 Worker 指令碼。要如何衡量整個應用程式的總成本並暫停該應用程式,而不是停用所有客戶應用程式共用的底層基礎功能?

成本控管另一個很有說服力的應用情境是 AI 代理程式。我們都看過一些令人心驚的案例:失控的代理程式陷入不受限制的遞迴推理迴圈,試圖以暴力方式解決問題,透過高頻率、高成本的 API 呼叫產生數千美元的費用,還可能導致資料庫和其他服務發生阻斷服務 (DoS) 問題。AI Gateway 已可讓你為經由它轉送的 AI 請求設定代理程式預算。一項工作也可能耗用運算、資料庫和儲存資源。我們希望能讓你為跨產品的這類廣泛資源使用情況設定預算。

你可以為代理程式發出的呼叫加上標籤,我們的處理管線會將這些中繼資料從執行階段一路傳遞至 Rating Engine。如此一來,我們就能將支出歸屬至特定應用程式或代理式工作,並跨產品暫停它們,同時不影響其他不相關的應用程式。

開始使用

這次推出是第一步,目標是讓支出控管成為在 Cloudflare 上建置服務時的日常環節,就像部署程式碼和監控應用程式一樣。

如需更多資訊,請參閱 帳務開發人員說明檔案 。立即開始使用 Spend Management,並告訴我們哪些功能有用、還缺少什麼,或哪些地方需要更細緻的預算設定。

歡迎加入我們的 Discord 或追蹤社群媒體帳號,和我們交流。我們會留意大家的意見!

來源: cloudflare blog (blog.cloudflare.com)
開啟原文

讀者討論

理性交流 · 即時討論