InApp 分享 AI 助理工具如何減少每次請求的耗能
Green receipts taught me that energy budgets are API design — what agents shipping compute-heavy tools should learn
重點導讀
檔案轉換每次要花多少電,光看速度或架構圖很難知道。
- InApp 為每次轉換記錄耗能後發現,系統先解析整個網頁、最後才刪掉多餘內容,讓沒人讀的部分也耗掉運算。
- 把長度限制提前處理後,平均每次耗能約少了三分之一,輸出品質沒有改變。作者也發現,小檔案若每次都啟動新容器,啟動耗能可能比實際工作還多。
- 把小工作交給已啟動的工作程式,則能改變成本。記錄中分開列出排隊與運算時間,也讓作者看出速度和耗能不是同一回事。
AI 伴隨問答
針對這篇報導有疑問?可直接點選快捷問題或向 AI 追問背景脈絡與技術細節:
信源出處dev.to
Green receipts taught me that energy budgets are API design — what agents shipping compute-heavy tools should learn
本文為 888news 精選之重點導讀。若需閱讀作者完整原文、技術細節與官方討論,請前往原始網站。
來源: Dev.to Top Tech (dev.to)
開啟原文