跳到正文

#部署/工程

RSS
今日 43 則
11月22日週日
  1. Dev.to Top Tech57

    Alyven Music 作者示範用 Next.js 處理 AI 音樂生成逾時與扣點

    AI 音樂生成可能要花 30 秒到 2 分鐘,讓伺服器一直等著回覆容易碰上逾時,也可能在重試時重複扣點。Alyven Music 作者分享一套 Next.js 做法:先確認點數並建立工作,再立刻回傳工作編號;生成完成後由服務商透過 Webhook 回報結果,網頁每 3 秒查一次進度。若生成失敗就退回點數,重複收到通知也會先檢查工作狀態,避免重複退款。文章也提醒,可備份音訊、處理卡住的工作,並清楚顯示進度。

11月21日週六
  1. Dev.to Top Tech67

    Hexagon 教你檢查 AI 助理的工作區刪除後,還能找回哪些資料

    工作區刪除後,AI 助理做過什麼、檔案是否留下,以及外部操作是否完成,可能是不同問題。Hexagon 的教學實測在工作完成後關閉工作階段,確認已匯出的檔案仍可下載,但原本的即時預覽已無法使用;這項結果只適用於正常關閉,不能代表中途當機也能復原。文章也建議分開測試任務送出後失去回覆、執行中斷,以及外部服務完成操作卻沒收到確認等情況,並記錄保留下來的證據和仍無法確定的事。

  2. Dev.to Top Tech52

    每日謎題網站如何用靜態檔案部署與快取

    每日謎題網站在更新時流量會突然增加,其他時間則少很多;如果每次有人開網頁都查資料庫,可能多做了不必要的工作。作者分享一種靜態網站做法:先在建置時產生當天的謎題和答案頁,再由排程工作在每日更新時間部署。謎題資料檔用日期命名,發布後不必更換;網頁外殼則短時間快取,更新時不必清除整個網站的快取。作者也提醒,答案頁可能在當天開始前就被發布,因此會等更新時間到了才部署完整內容。

  3. Dev.to Top Tech66

    AWS Lambda durable functions 如何在服務故障時暫停執行

    付款服務商故障時,正在處理訂單的 Lambda durable functions 若繼續重試,可能白白消耗資源;直接停止又得等服務恢復後手動整理。作者整理了暫停與恢復單筆執行的方法,並示範如何用 TypeScript 批次處理。暫停不會阻止新工作開始,因此還要先停用觸發來源或呼叫端;正在執行的步驟則要等到下一個檢查點才會停下。暫停期間,等待時間和回呼仍會繼續,儲存資料也仍會計費,適合事先寫進應變手冊並在測試環境演練。

  4. Dev.to Top Tech57

    vx 如何用 DTE 排程器取代 20 個猜測常數

    CI 工作常比預期晚結束,任務時間也會隨每次執行而變動。vx 作者把原本由多條規則和約 20 個猜測常陣列成的排程方式,換成由同一套引擎決定任務分配與何時呼叫工作者,並用記錄下來的實際執行時間回放測試。作者的 CI 原本比工作者所需時間晚 40 秒左右;改用新排程器後,晚 9 到 19 秒。回放也顯示,把任務時間的落差算進規劃,能讓一次測試從 78.9 秒縮短到 72.4 秒。

  5. Dev.to Top Tech59

    Ganji 如何用兩套狀態流程,安全處理分階段託管付款

    分階段付款容易讓工作進度和款項狀態對不上,甚至在網路回應不明時重複付款。Ganji 把每個里程碑各自放進 Lightning 託管,客戶先付款,款項暫時鎖住;交付內容送出後,客戶審查,核准才會放款,再進入下一階段。作者也把所有放款入口集中到同一條流程,先留下付款紀錄,再處理網路付款,遇到逾時就暫停,不猜測結果。若客戶提出異議,款項會先凍結,交由獨立審查決定放款或退款;文章也列出部分爭議同步與逾期處理仍未完成。

  6. Dev.to Top Tech51

    Go 如何按賽道距離比對 Russell 與 Hamilton 的 F1 遙測資料

    只看衝線時間差,知道誰贏了,卻看不出兩位車手在賽道哪一段拉開差距。作者用 Go 重播 Russell 和 Hamilton 在 Silverstone 排位賽的歷史遙測資料,把兩人的速度與時間都換算到每隔 1 公尺的賽道位置,再逐段比較。比對結果在終點算出 0.2560 秒差距,和官方的 0.1710 秒相差 85 毫秒;作者追查後發現,兩條位置軌跡長度不同,光是比較到同一個距離,就會讓結果偏差。這個專案使用公開歷史資料,不連線賽車即時訊號,也不是賽事策略工具。

  7. Dev.to Top Tech54

    如何把影像生成模型縮到 50 MB 以下並放進瀏覽器執行

    想讓老舊或沒有獨立顯示卡的裝置也能生成圖片,模型就得夠小,還要能在瀏覽器裡運作。文章說明一種做法:用 GAN 生成固定型別的圖片,把較多運算留給低解析度部分,再縮減高解析度部分,並透過 ONNX Runtime Web 讓模型在瀏覽器執行。它也建議使用 FP16 減少模型大小、把模型留在瀏覽器快取,並先試 WebGPU,無法使用時改用 CPU。這種方法適合範圍明確的圖片;若要依提示詞生成各種內容,就得用更大的擴散模型,壓縮後品質也可能下降。

  8. Dev.to Top Tech67

    MTM4WEB 分享如何把 Laravel 11 的 TTFB 從 1,277ms 降到 85ms

    流量大的 Laravel 網站如果伺服器回應太慢,使用者要等更久,搜尋引擎也較難順利讀取網頁。MTM4WEB 團隊分享他們在 Nginx 和 PHP 8.3-FPM 上的調整方式,包括讓 Nginx 直接提供圖片、樣式表等靜態檔案,預先準備 PHP 工作程式,並開啟設定、路由和頁面快取。他們也減少不必要的資料庫訪客紀錄,並讓網站在有 WebP 圖片時自動使用新版圖片。文章表示,正式環境的 TTFB 中位數從 1,277ms 降到 60–120ms。

  9. Dev.to Top Tech58

    NVIDIA Dynamo v1.6.2 為何把超長提示詞錯誤改成 HTTP 400,並新增 GC 凍結選項?

    超過引擎可處理長度的提示詞原本會被當成伺服器錯誤,讓部分使用者端不斷重送。NVIDIA Dynamo v1.6.2 把 TensorRT-LLM 非串流 /v1/messages 的這類錯誤改為 HTTP 400,工作程式也會繼續運作;若使用者端把 400 設為不重試,就能減少無效請求。另一項更新是 SGLang 工作程式可選擇啟用 GC 凍結功能,目標是減少長時間執行時的串流停頓,但預設關閉,官方建議先和未啟用的工作程式比較記憶體用量。文章也提醒,SGLang 映像檔更換了 Python 版本,可能影響依賴 cuda-gdb Python 指令碼的除錯流程。

  10. Dev.to Top Tech48

    Harness-S 如何藉助不同執行方式訓練出能回到原本環境工作的 AI 助理

    AI 助理在某種執行環境裡做不好任務時,換一種執行方式有時能幫它找到解法,但這些解法未必能帶回原本的環境。Harness-S 會讓同一個 AI 助理在 AppWorld、SWE-Gym 和 DBBench 裡,嘗試幾種不同的執行方式來完成原本失敗的任務,再把學到的做法帶回原本的 H0 環境。就像練習時換不同方法解題,考試時仍要回到原本的規則。 研究在 Qwen3.5-4B 和 Qwen3.5-9B 上測試,結果顯示,回到 H0 評估時,Harness-S 的表現勝過只訓練 AI 助理本身;但提供的內容沒有列出實際分數。這項做法的重點,是讓 AI 助理學會能帶回原本環境使用的技巧,而不是隻讓某種執行方式變得更好。

  11. Dev.to Top Tech38

    Bun、Elysia.js 和 Hono 如何用 KVDock 快取資料,減少資料庫壓力

    網站流量一大,路由每次都查資料庫或遠端快取,回應就可能變慢;熱門資料的快取一過期,許多請求還會同時湧向資料庫。KVDock 提供多層快取,也能搭配 Elysia.js 和 Hono 使用:資料先放在記憶體裡,遇到多人同時查詢時,只讓一次請求去查資料庫;資料更新後,也能一次清除同一類的快取。例如商品資料改了,就能清掉標記為「products」的快取,避免大家繼續看到舊資料。

  12. Dev.to Top Tech46

    ramrom.io 遇上 API 故障後,學會別把整個網站押在同一家服務上

    ramrom.io 是一個影片下載網站,原本 TikTok、Instagram、Facebook 和 YouTube 都靠同一家 API 處理;那家服務一齣狀況,四個平臺的下載就全都停了。網站一開始只看 HTTP 200,以為請求成功,沒發現回覆裡其實寫著「服務忙碌」。後來作者讓程式先讀回覆內容,最多重試三次,並在等候 15 秒後就停止,直接告訴訪客服務目前忙碌。接著,他把 Facebook 和 YouTube 分給各自的 API,TikTok 和 Instagram 則繼續共用原本的服務。這樣其中一家出問題時,只會影響它負責的平臺,網站也能清楚說明狀況,不再讓人一直等著轉圈圈。

  13. Dev.to Top Tech37

    vLLM、SGLang 和 TensorRT-LLM 上線比較:速度、延遲與 GPU 成本

    同一批 AI 請求交給不同系統處理,等候時間和 GPU 花費可能差很多。這篇文章比較 vLLM、SGLang 和 TensorRT-LLM 在 4 張 A100、同時處理 64 個請求時的表現:SGLang 會重複使用大家共用的提示內容,vLLM 部署比較彈性,TensorRT-LLM 則先為特定硬體做好準備,讓執行更快,但改模型或硬體時得重新建置。 在這組測試裡,TensorRT-LLM 每秒產生 88k 個 token,SGLang 是 72k,vLLM 是 45k;請求等最久的那一小部分,TensorRT-LLM 的延遲也最低。簡單說,追求速度和較低成本時,TensorRT-LLM 表現較好;常重複使用相同提示時,SGLang 有優勢;需要支援不同模型、方便部署時,vLLM 較合適。

  14. Dev.to Top Tech57

    delay.run 作者分析 webhook 亂序時,該重排事件還是讓處理順序不影響結果

    webhook 可能晚到、重複或漏掉;如果系統照收到的順序更新資料,已取消的訂閱就可能又被改回啟用。作者比較兩種做法:先把事件存起來再排序,或讓處理方式不受先後影響。排序可能得等很久,而且時間戳不一定可靠;另一種做法是查詢服務商目前的資料,或用版本資訊擋掉較舊的更新。作者建議,訂閱、訂單這類有目前狀態的資料要避免舊資料蓋掉新資料;付款失敗、退款等單次事件則按事件 ID 去重。若要寄出訂閱啟用通知,應在自己的資料狀態改變時觸發,避免同一事件重試時重複寄送。

  15. Dev.to Top Tech39

    如何用 Dynatrace OneAgent 收集 Linux 的 journald 系統記錄

    Linux 的 journald 會把系統記錄留在主機裡;主機故障或被換掉時,記錄也可能跟著消失,出問題時還得逐臺登入檢視。Dynatrace OneAgent 可以透過 systemd 讀取這些記錄,再送到 Dynatrace 集中檢視。設定時要同時開啟 Journald 收集功能和收集規則;例如先用測試記錄確認資料有送到,再改成只收 kubelet.service 等需要檢視的服務,避免把所有記錄都收進來。文章提到,Linux 主機上的 OneAgent 版本須為 1.307 或更新版本。

  16. Dev.to Top Tech53

    Jenkins 教學:如何在 AWS EC2 設定固定 Agent,讓建置工作離開 Controller

    所有建置都跑在 Jenkins Controller 上時,工作負載可能會和排程、管理工作搶同一臺機器的資源。這篇教學在 AWS EC2 加上一臺固定的 Jenkins Agent,讓 Controller 負責安排工作,Agent 負責執行 Pipeline;再用標籤指定工作要在哪種 Agent 上執行,並把 Controller 的 Executor 設為 0,避免建置退回 Controller。文章也說明用 SSH 連線、透過 IAM 執行 AWS 工作,以及如何確認建置確實在 Agent 上完成。固定 Agent 能隔開建置和管理工作,但沒工作時仍會持續運作,也需要手動擴充與維護。

  17. Dev.to Top Tech64

    Webhook 逾時怎麼處理?先驗證、儲存事件,再回覆成功

    Webhook 送來事件時,伺服器要在限定時間內回覆;超時後,對方可能重送,讓同一件事被處理兩次。文章整理各家服務公開的時限,從 LINE 的 2 秒到 SmartHR 的 60 秒,並示範先驗證簽章、把事件存進佇列或資料表,再立刻回覆成功,交由背景工作處理。這樣能減少逾時和重複工作;若背景處理失敗,仍要自行安排重試和提醒。

  18. Dev.to Top Tech57

    作者分享如何加快 3D 玻璃作品集,讓中階筆電跑得更順

    這個 3D 作品集把五個產品展示頁放在會持續更新的 WebGL 背景上,中階筆電一度只有約 46 fps。作者用效能分析發現,拖慢畫面的主因是覆蓋在背景上的模糊與混色效果、捲動時會移動的模糊光球,以及載入方式不佳的指令碼。他拿掉大部分模糊和混色、讓光球固定,並讓畫面在 fps 連續兩秒低於 45 時逐步降低畫質;指令碼也改為延後執行。調整後,中階筆電在首頁主視覺約為 60 fps,頁面中段則在 50 多 fps。文章也提醒,裝飾圖層若蓋住按鈕,外觀看起來正常仍可能無法點選。

  19. Dev.to Top Tech68

    作者實測 Kubernetes 搭配三組 Ceph,關閉一個可用區會發生什麼事

    儲存裝置如果集中在同一個故障範圍,出問題時可能連帶影響整個平臺。作者做了一套概念驗證,讓 Kubernetes 的三個可用區各自使用一組互不連通的 Ceph,並用同一個 StorageClass 按照工作所在區域建立磁碟。關掉一區後,無狀態服務約 80–90 秒能在其他區域恢復;有磁碟的服務則會等原區域回來,資料不會自動搬到別區。測試也發現,節點重新加入時,etcd 位址變動和卡住的 RBD 裝置會拖慢復原。作者提醒,這只是單一虛擬機器上的概念驗證,真實多機房環境仍需另外測試。

  20. Dev.to Top Tech72

    如何用架構差異檢查 AI 程式助理改了哪些程式依賴

    程式測試都通過了,程式之間的依賴方式仍可能被改亂,讓之後更難修改。作者建議比較合併前後的架構,列出哪些模組新增或移除了依賴、是否跨過禁止的界線,以及需要哪些測試或負責人審查。這份簡短紀錄應從程式碼分析產生,並依風險決定只記錄、要求補證據,或讓 CI 擋下變更。文章也提醒,靜態分析可能漏掉動態呼叫,架構檢查應和行為測試及安全審查一起使用。

  21. Dev.to Top Tech45

    定期檢查每次排程執行,揪出 5 次沒被發現的失敗

    Windows 工作排程器跑部落格發布工作時,就算工作失敗,也可能顯示完成,看起來和成功執行一樣。42 次排程執行中,有 5 次失敗,卻都沒有自己跳出通知。作者現在會在檢視部落格狀況時,用 Get-ScheduledTaskInfo 檢查最近幾次執行紀錄;例如,有次工作因 DNS 逾時失敗,例行檢查才發現。這個動作只要幾秒,就能及早找出漏發的文章,但仍是人工檢查,電腦若一週沒人檢視,失敗還是可能悄悄發生。

  22. Dev.to Top Tech58

    MariaDB 2026–2029 支援期限整理:伺服器該用哪個 LTS 版本?

    MariaDB 改了版本支援方式,伺服器管理者得留意每個版本何時停止支援。這份指南整理各版期限,也列出 cPanel 和 DirectAdmin 能安裝的版本,並建議只在正式伺服器使用 LTS 版,且至少還有 18 個月支援期。依文中整理,10.6 已停止支援;cPanel 暫用 11.8,DirectAdmin 和獨立伺服器可用 12.3。管理者也要定期更新維護版本,因為安全修補會放在這些更新中。

  23. Dev.to Top Tech52

    Kubernetes 多租戶怎麼選?比較 Namespaces、Capsule 和 vCluster

    多個團隊共用 Kubernetes 叢集時,怎麼避免彼此影響,又不讓維運成本太高?文章比較三種做法:Namespaces 用設定把團隊分開,適合工作內容彼此信任的內部團隊;Capsule 集中管理配額和網路規則,讓團隊能在限制內自行建立名稱空間;vCluster 則為每個租戶提供自己的 API 伺服器和設定空間,隔離更強,但會多用 CPU、記憶體,也讓問題排查更複雜。文章建議依安全需求、租戶數量和預算選擇,並指出不少組織會混合使用不同做法。

  24. Dev.to Top Tech46

    Kubernetes 邊緣運算怎麼選?K3s、MicroK8s 輕量版比較

    工廠、外勤車輛和小型邊緣裝置的記憶體與網路都有限,直接安裝完整 Kubernetes 可能太吃資源,也需要穩定的儲存空間。文章介紹 K3s 和 MicroK8s 兩種輕量版本:K3s 把主要功能裝進不到 100 MB 的單一程式,閒置時記憶體用量低於 512 MB;MicroK8s 則保留較多原版 Kubernetes 功能,但約需 600 MB 記憶體,並依賴 Snap Store。像是網路不穩、裝置又只有 1 GB 記憶體的場域,選用較省資源的版本,能讓應用程式有更多空間運作。

  25. Dev.to Top Tech58

    作者示範如何用 128 MB 記憶體監控 Shopify 價格與補貨

    監控 Shopify 商店的價格和庫存變化,若用瀏覽器和逐筆計費,可能很吃記憶體,也會拖慢大量商品更新。作者用 Node.js 的 HTTP/2 讀取商品資料,並把每次監控結果存成精簡快照,方便找出價格或庫存變化;初次建立資料不收變動費用,之後沒有變化也不收費。遇到大量變動時,每 50 筆一起處理計費,文章稱這讓計費速度提升約 50 倍,也能在預算用完時停止送出未計費資料。

  26. Dev.to Top Tech64

    OpenPipeline pipeline groups 教學:Dynatrace 如何統一管理遙測資料流程

    二十個團隊各自複製資料處理規則,容易讓規則走樣,也可能漏掉安全檢查或成本標記。作者依據 OpenPipeline 檔案與 Dynatrace 公告,說明 pipeline groups 如何把共用的基本流程排在團隊流程前後,並限制團隊能調整的步驟;各團隊仍可保留自己的處理邏輯。這項功能適用於 Dynatrace SaaS,公告提到 SaaS 版本 1.332 已正式推出,未說明 Dynatrace Managed 是否支援。作者沒有在租戶環境實測,並提醒套用設定前先核對實際環境的欄位格式。

  27. Dev.to Top Tech50

    小型企業打造 AI 助理前,先用這份工程檢查清單想清楚需求

    小型企業想在網站或 WhatsApp 加上 AI 助理時,先別急著寫程式:要先決定它只負責哪一件事,例如回答商品常見問題或查訂單,再說清楚客人輸入什麼、AI 助理要回什麼。商品價格和庫存等即時資訊,應從公司現有系統查詢,不能讓模型猜;也要先安排轉交真人、遇到答不出來時怎麼處理,以及如何記錄和檢查對話。先讓少部分客人試用,觀察答對多少、多久回覆和花費,再定期更新資料與檢查紀錄,才容易讓服務穩定又不超出預算。

  28. Dev.to Top Tech50

    remove.ac 如何修好瀏覽器去背與雲端 GPU 的 4 個速度瓶頸

    用高畫質相機照片去背時,remove.ac 遇到 4 個問題:大圖轉成 WebP 會失敗、iPhone Safari 還沒開始處理圖片就記憶體不足、桌上型電腦的 WebGPU 無法順利啟動,以及雲端 GPU 冷啟動太慢。開發者調整大圖的圖片壓縮方式、讓 Safari 逐步分配記憶體,也修正 GPU 程式碼;若 GPU 啟動逾時,就關掉整個背景工作,再改用 WASM 處理。雲端部分改用 CPU 記憶體快照,並把後續處理移到 GPU,讓暖機後的 4K 去背約需 1.5–2.0 秒,冷啟動約 8.4 秒。remove.ac 也提供每天 5 次免費雲端 GPU 預覽,讓使用者先確認效果,再決定是否花點數下載完整尺寸圖片。

  29. Dev.to Top Tech72

    作者實測 Docker Compose 搬到 Swarm 單機執行會遇到什麼問題

    把 Docker Compose 搬到 Swarm 後,設定檔可能得先修改,單臺主機也未必能用上多個副本和安全更新。作者用一個 Python 網頁服務和 Redis 快取做實測,發現 Swarm 不支援原本的部分設定;這臺主機缺少 IPVS,讓多個副本雖然都顯示正常,對外連線卻失敗。改用直接繫結主機連線埠後,多個副本又會搶同一個連線埠。作者也發現,Swarm 在服務被強制停止後會重新安排工作,但單機環境的連線埠限制讓多副本更新難以發揮作用。

  30. Dev.to Top Tech54

    ArchiMate 教學:用不同架構圖,幫主管決定試辦範圍、讓第一線處理預約延誤

    架構圖常把太多資訊塞在一起,主管找不到決定試辦範圍的重點,第一線人員也不容易知道預約延誤時該找誰。作者用假想的安裝預約平臺說明,先問每個人要做什麼決定,再從同一份 ArchiMate 模型整理出不同視角:主管看試辦條件和門市準備情況,營運人員則追查預約狀態、例外事項和負責角色。模型裡的元素有共同身分,改動後也能找出哪些圖需要檢查。文章還示範用簡單的 Python 程式檢查圖中引用的元素和關係,並提醒這類檢查無法取代團隊對實際影響的判斷。

  31. Dev.to Top Tech51

    如何找出並修正 API 的 N+1 查詢問題

    API 明明只要列出書籍和作者,卻可能每列一本書就再向資料庫查一次,讓回應變慢。這種情況叫 N+1 查詢問題:例如列出 50 本書,原本 1 次查詢就能取得書籍,讀取每本書的作者時又多查 50 次,總共變成 51 次。文章示範先用查詢紀錄找出重複查詢,再用 ORM 預先載入相關資料,讓書籍和作者一次取回;也建議用測試限制查詢次數,避免日後改程式時問題又出現。

  32. Dev.to Top Tech76

    如何管理伺服器韌體:盤點版本、監看變更並隔離 BMC

    伺服器韌體常藏在 BIOS、BMC、網路卡和硬碟控制器裡,管理者未必清楚每臺機器跑的是哪個版本。作者整理五個做法:先盤點韌體和處理器微碼,再用 TPM 記錄開機時的變化,透過 Keylime 比對紀錄;更新時固定版本、先在測試機確認,並把 BMC 放到獨立的管理網路。沒有 TPM 的機器也要記在清單裡,因為它無法記錄開機變化。這些做法不會讓封閉韌體變得透明,但能幫忙發現它何時改變。

    推薦理由:文章把容器管理的盤點、量測、遠端驗證、版本固定與隔離方法延伸到韌體,並說明各步驟能看見什麼變化。

  33. Dev.to Top Tech35

    為什麼鋁合金外殼鬆開虎鉗後,薄壁會變形?

    鋁合金外殼的薄壁在虎鉗裡量起來合格,鬆開後卻可能彎掉,讓上蓋無法平貼。作者曾遇到約 2 毫米厚的外殼,因為夾得太緊,鬆開後偏了約 0.04 到 0.05 毫米;再用刀具多切一刀,反而可能是在修正量測時被夾彎的零件。改善方式是用較軟的夾爪、增加接觸點,並在鬆開後再量一次。 溫度也會讓尺寸改變:鋁料吸收切削熱,早上粗加工、下午精加工,量起來可能不同。加工廠可以讓零件在兩道工序間休息,或一次裝夾完成加工並讓冷卻液帶走熱量。買家可詢問加工廠怎麼夾、何時量;這些答案能幫助判斷薄壁尺寸是否可靠。

  34. Dev.to Top Tech47

    umwayi-os 讓排程和本機網頁共用同一套安全檢查

    新增排程或網頁操作時,如果各自有一套安全規則,兩邊可能不一致。umwayi-os 讓兩種入口都呼叫原本的指令功能,沿用相同檢查與紀錄。排程使用 Linux 的 systemd user timers,只能執行工作或流程;例如,它可以在主人睡覺時整理資料、寫草稿,但最後需要人核准時就會停下來,不能自行發布。網頁則只能連到本機伺服器,請求也要通過安全檢查。作者提醒,瀏覽器測試還沒做,伺服器的聊天和資料匯入功能也尚未完成。

  35. Dev.to Top Tech54

    Duck 分享如何找出 Go 服務中的 4 個並行程式錯誤

    Go 服務裡的背景工作如果沒妥善關閉或等待,可能在部署時中斷;遇上 Redis 故障時,也可能不停重試、吃滿 CPU。作者檢查自己寫的醫療預約 API,找出 4 個問題:HTTP 伺服器沒有配合關閉程式、主程式沒有等背景工作完成、Redis 出錯時立刻重試,以及 ticker 沒有停止。文章示範如何用逾時關閉伺服器、WaitGroup 等工作結束,並在重試時逐步拉長等待時間。作者也說明,在 Go 1.25 中,沒停止的 ticker 實際上不會造成原先那種記憶體洩漏,但明確停止仍能表達程式意圖。

  36. Dev.to Top Tech56

    平臺工程師打造 SanVi,讓 Kubernetes 上的 AI 服務能控管預算與緊急停用

    團隊把 AI 接進服務後,常會遇到費用失控、金鑰散落和需要緊急停用的問題。平臺工程師打造開源工具 SanVi,讓應用程式透過同一個 OpenAI 相容端點呼叫模型,每組團隊都有自己的金鑰、模型許可權、預算和流量限制;每次呼叫也會記錄團隊、模型、token 數和費用。金鑰放在 Vault,輪替時不必重新部署;管理者也能用指令暫停某個團隊的存取。SanVi 還會在 CI 檢查模型評估結果和安全控管專案,讓團隊能在部署前發現預算或品質問題。

  37. Dev.to Top Tech47

    如何監看 Pydantic AI 和 Google ADK 打造的 AI 助理

    AI 助理出錯時,只看單次執行紀錄,常常不知道是哪位使用者的哪段對話出了問題。Pydantic AI 和 Google ADK 都會留下 OpenTelemetry 紀錄,可以送到監看工具;只要替每次執行加上使用者和對話資訊,就能把同一段對話的紀錄串起來。例如 Agnost AI 會依照白話規則檢查整段對話,發現問題時用 Slack 或電子郵件提醒;Pydantic Logfire 適合檢視 Pydantic AI 的執行過程,Google Cloud Trace 則能檢視 Google ADK 的紀錄。選對工具,就能更快找出 AI 助理在哪段對話或哪次工具呼叫出錯。

  38. Dev.to Top Tech49

    為什麼縮短網頁搜尋結果,反而讓小型模型答錯更多?

    網頁搜尋結果常把不重要的內容放在前面,小型模型可能看到一個像答案的線索,就直接作答,不再開啟網頁確認。作者用 12 個問題比較完整網頁文字和只顯示標題、連結及前 200 個字的搜尋結果:完整文字答對 22 題,縮短版答對 20 題。像是問題問團隊方案的每人價格,縮短版先露出個人方案的 $8,模型就答了 $8;正確答案 $12 藏在網頁更下面。 縮短版每題用的 token 較少,但模型更常重新開啟網頁,到了第三輪,提示內容反而比完整文字更長。這次測試只做到三輪,不能直接代表更長的工作流程;不過結果顯示,縮短搜尋結果只有在它保留答案時才有幫助。答案可能藏在下方時,模型得先開啟網頁確認,不能只看前幾個字就作答。

  39. Dev.to Top Tech78

    HTTP 快取教學:用 ETag、Cache-Control 和 304 減少重複下載

    網站可能每次都重新傳送同一份檔案,也可能讓使用者在更新後還看到舊內容;HTTP 快取標頭能處理這兩種問題。作者用實際請求示範,伺服器可用 Cache-Control 說明資料能留多久,再用 ETag 判斷內容有沒有改變。內容沒變時,回傳不含本文的 304,讓瀏覽器沿用手上的副本;測試中,重驗請求沒有傳送 179,500 位元組的本文。文章也提醒,no-cache 仍允許儲存,只要求使用前先詢問伺服器;若要避免快取敏感資料,應使用 no-store。

    推薦理由:文章用實際請求比較完整下載與 304 回應,並拆解快取標頭常見錯誤,能協助開發者減少重複傳輸並避免使用者看到過期內容。