跳到正文
Google Developers Blog(developers.googleblog.com)·· 6 天前精選品質評分74

Google 教你依 AI 助理的工作時段配置 GKE 節點

Agents are sessions, not requests: size GKE node pools for AI agent sessions

重點導讀

AI 助理的工作空間可能整天開著,卻只在收到提示詞時工作;如果每個工作階段都一直佔著機器,等待時間也要付費。

  • Google 說明如何用 Agent Substrate 和 AX 把閒置的工作環境暫存到物件儲存,空出機器,等下一次提示詞來時再恢復。以 100 個程式開發 AI 助理為例,每小時 2 次提示詞並設定 2 分鐘閒置時間,節點費用可省 40%。
  • 每小時 4 次提示詞時,節省幅度降到 4%。文章也提醒,工作池要依最忙時的需求配置,並和提供相同 CPU 保證的做法比較。

AI 伴隨問答

自備 Key 深度分析

針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:

推薦理由

文章用提示詞頻率和閒置時間比較 GKE 節點成本,並說明工作池滿載與 CPU 保證會怎麼影響停放效益。

信源出處developers.googleblog.com

Agents are sessions, not requests: size GKE node pools for AI agent sessions

本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。

開啟原文
來源: Google Developers Blog (developers.googleblog.com)
開啟原文

讀者討論

理性交流 · 即時討論