跳到正文

#部署/工程

RSS
今日 58 則
11月19日週四
  1. Dev.to Top Tech78

    2026 年 AI 助理沙箱評比:E2B、Daytona 等 7 種服務怎麼計費

    AI 助理常有不少時間在等模型回覆,但沙箱服務可能仍按整段開啟時間收費,讓帳單差很多。Yusuf 用 2 vCPU、4 GB 記憶體的程式助理情境,比較 7 種沙箱跑 1 小時及 100 人每月使用的費用;依他的估算,每小時從 Upstash Box 的 $0.017 到 E2B、Daytona 和 Blaxel 的 $0.166。差異主要來自 CPU、記憶體是否按實際使用量計費,以及等待時是否仍收費。文章也提醒,執行使用者提供的程式碼時要留意隔離與網路存取,並先用自己的工作流程實測一天再估算費用。

    推薦理由:這份比較把七種沙箱放進同一個會等待模型回覆的程式助理工作情境,呈現計費方式如何影響每小時與每月費用。

  2. Dev.to Top Tech47

    用咖啡店示範 OpenTelemetry:開源監控工具和 Dash0 怎麼選?

    系統一變慢或出錯,線索常散在不同地方,很難知道問題出在哪。作者做了一間叫 The Daily Grind 的咖啡店,讓 3 個 Python 服務處理點餐、備料和煮咖啡,再用 OpenTelemetry 收集追蹤、指標和紀錄,搭配 Pyroscope 檢視程式用了多少 CPU 和記憶體。比方說,客人點卡布奇諾後,可以沿著追蹤紀錄檢視訂單經過哪些服務、各花了多久;如果還想知道是哪段程式特別耗 CPU,就看效能分析資料。這套示範把多種線索放在一起,讓工程師更容易找出訂單變慢或失敗的原因。

  3. Dev.to Top Tech65

    教你在同一臺 Ubuntu VPS 部署 n8n 和 Evolution API

    把 n8n 和 Evolution API 裝在同一臺伺服器時,網址、網路和資料庫設定很容易弄混。這份實測教你用 Docker Compose 架好兩套服務,再由 Caddy 負責對外連線和 HTTPS;Evolution API 透過內部網址把 WhatsApp 事件送給 n8n。測試確認 QR 碼事件能進入工作流程,但手機還沒掃碼配對,因此送訊息只收到錯誤,並沒有真正傳到 WhatsApp。文章也提醒,公開的工作流程網址沒有驗證,備份資料與保護金鑰同樣重要。

  4. Dev.to Top Tech62

    教學:如何在同一臺 VPS 部署 n8n 和 Evolution API

    把 n8n 和 Evolution API 放在同一臺 VPS,容易碰到網址設定、連線安全和資料備份等問題。這份實測教人用 Docker Compose 部署兩套服務,讓它們在主機內互相傳送 WhatsApp 事件,再由 Caddy 提供 HTTPS 連線。測試沒有配對手機,因此 QR code 和連線事件有送到 n8n,但傳送文字會因 WhatsApp 尚未連線而失敗。文中也提醒,公開的 n8n webhook 若沒有驗證,任何人都能送出請求;備份時要保留資料庫、加密金鑰和相關檔案。

  5. Dev.to Top Tech62

    n8n Webhook 顯示 localhost:5678?用正確設定讓外部服務收到事件

    n8n 架在反向代理後,Webhook 卻顯示 localhost:5678,外部服務照著呼叫時會連到自己的電腦,事件就送不到。作者在 n8n 2.48.6 和 Caddy 的環境逐一測試設定,發現只設主機名稱和 HTTPS 仍會留下 5678 埠號;加入 N8N_WEBHOOK_URL=https://n8n.example.com/ 後,網址才會改成網域開頭且不帶埠號。N8N_PROXY_HOPS=1 則用來設定信任一層代理。改完後要重建容器,並確認工作流程已發布;測試網址只會在編輯器正在監聽時使用。

  6. Dev.to Top Tech49

    第 4 篇:資料庫查詢怎麼跑?從索引、快取到交易一次看懂

    資料庫查詢不是找到一筆資料就立刻拿回來:資料庫會一頁一頁讀取,常用的資料若已在記憶體裡,就能少讀硬碟;索引則像查詢捷徑,但會佔空間,也會讓新增或修改資料多一道工作。查詢時,資料庫會先檢查指令、規劃做法,再執行;即使有索引,資料庫也可能覺得直接掃過整張表更省事。 以電商訂單為例,建立訂單、扣庫存和記錄付款需要一起處理,避免其中一步失敗後資料對不起來,這時就會用到交易。PostgreSQL 和 MongoDB 的資料整理方式不同,各有適合的情況;選哪一種,要看資料彼此的關係和程式怎麼使用。

  7. Dev.to Top Tech68

    n8n Webhook 顯示 localhost:5678,作者實測用環境變數修正網址

    n8n 網站能透過網域開啟,Webhook 卻可能顯示 localhost:5678,讓外部服務把請求送到自己的電腦,工作流程收不到事件。作者用 n8n 2.48.6 和 Caddy 實測發現,N8N_HOST 和 N8N_PROTOCOL 會改網址的網域與開頭,但網址仍會帶著 5678;設定 N8N_WEBHOOK_URL 才能換成外部使用的網址,N8N_PROXY_HOPS 則用來告訴 n8n 前面有幾層反向代理。文中也示範如何重啟服務、確認正式 Webhook 網址,並提醒工作流程必須先發布,正式網址才會接收事件。

  8. Dev.to Top Tech52

    如何在 Ubuntu VPS 安裝 Coolify,並設定防火牆與 HTTPS

    在 VPS 上裝好 Coolify,不代表防火牆就會擋住所有對外連線;沒有設定網域時,HTTPS 也還沒準備好。作者在 Ubuntu 24.04 VPS 上實際安裝 Coolify 4.7.5,並記錄如何建立管理員帳號、檢視服務是否正常,以及用 ufw-docker 管理 Docker 發布的連線埠。測試發現,ufw 單獨使用時,Docker 發布的連線埠仍可能從外部連上;設定 ufw-docker 後,才可按需要放行面板與 Proxy 使用的連線埠。沒有網域時,80 和 443 會回傳 503,並使用 Traefik 預設憑證;網域指向 VPS 並在面板設定後,Proxy 才能申請憑證。文中也提醒要把含有金鑰與密碼的 .env 檔另存到安全位置。

  9. Phoronix (Linux HW & Benchmarks)36

    Mesa 26.3.1 更新,修正 Intel Jay 編譯器與 RADV 驅動程式問題

    Mesa 26.3.1 是 Mesa 26.3 推出後的第一個小更新,修正了 Intel Jay 著色器編譯器的多個小問題,也替 Radeon RADV 驅動程式調整條件式繪圖、改善 memcpy 效能,並修正 RDNA2 顯示卡的 VRS 問題。Zink 驅動程式則會先確認對方支援 VK_EXT_conditional_rendering,再使用條件式繪圖;這能避開某個未具名專有驅動程式不支援該功能時可能出現的錯誤。更新也包含 D3D12 Dozen(Dzn)驅動程式的修正。

  10. Phoronix (Linux HW & Benchmarks)66

    Valkey 9.2 加入 Zstd 壓縮,降低記憶體用量並提升效能

    資料庫要存放大量資料時,記憶體用量和資料複寫速度都會影響運作。Valkey 9.2 加入 B+ 樹排序集合,降低記憶體額外用量,也支援用 Zstd 壓縮資料檔和複寫內容;文章指出,Zstd 的壓縮率比原有的 LZ4 更高。這次更新還加入 DELEX 指令,可依字串鍵的值是否符合條件來刪除資料,並支援不使用 fork 的快照與完整同步。

  11. Dev.to Top Tech69

    Kubernetes 匯出 Pod 為何在 Node.js heap 只有 210 MB 時仍被 OOMKilled

    匯出工作一直被系統殺掉,Node.js 的 heap 卻只有 210 MB,乍看像是找不到原因。作者追查後發現,Pod 把 /tmp 設成用記憶體的暫存空間,S3 上傳失敗時檔案沒有刪除,留下的檔案也算進容器的 1 GiB 記憶體上限;容器重啟後,這些檔案仍留在 Pod 裡。團隊改用磁碟暫存、清理每次工作的檔案,並在啟動時清掉舊檔。這個案例提醒排查 OOMKilled 時,也要檢視容器共用記憶體和暫存檔。

  12. Dev.to Top Tech67

    提示詞快取不一定省錢:OpenAI、Anthropic 和 Google 的寫入費怎麼算

    提示詞快取的讀取費率很低,但把內容存進快取時也要付費;如果之後沒再用到,帳單可能比不開快取更高。文章用 100,000 個 token 的提示詞說明,短時間快取要重複讀取 1 次才划算,較長時間快取則要讀取 2 次。像是隻送出一次的大型檔案、兩次請求間隔太久,或每次都改動提示詞開頭,都可能讓內容反覆寫入,只有費用增加、沒有省到讀取費。作者建議分開記錄寫入和讀取用量,再依實際流量計算省下多少;快取儲存時間也要配合請求間隔。

  13. Dev.to Top Tech57

    如何用 Tailscale 替小團隊的 LLM 閘道設定每人用量上限

    小團隊共用模型服務金鑰時,一次失控的 AI 助理呼叫就可能讓帳單快速增加。作者分享用 Tailscale 建立只讓團隊裝置連線的閘道,再由代理程式辨認每位工程師、估算請求用量,超過每日上限就先擋下;供應商金鑰只放在閘道主機,也不儲存提示詞。這種估算不是精確帳務,並發請求可能同時通過上限檢查,請求內容也可能在檢查前佔用記憶體,因此還需要限制請求大小並留意計數誤差。

  14. hackernews10067

    作者如何用 smoltcp、DPDK 和 AF_XDP 在一臺虛擬機器跑 1,500 萬個網頁伺服器

    Linux 的網路功能會替每個連線保留不少記憶體,讓一臺只有 10GB 記憶體、1 個 CPU 核心的虛擬機器很難跑大量網頁伺服器。作者用自訂執行環境和 smoltcp,把網路處理移到使用者空間,並比較 DPDK 與 AF_XDP 直接收送封包的做法。實測中,使用 smoltcp 時每個閒置伺服器約佔 620 bytes,最多跑到 1,600 萬個;DPDK 的效能最好,AF_XDP 緊跟在後。這展示了自行管理網路堆疊能節省記憶體、提升效能,但要做成相容 Linux 的完整執行環境仍需更多工作。

  15. Dev.to Top Tech37

    貨運 UAV 如何整合感測器,讓 AI 助理看懂周遭環境並避開障礙

    貨運 UAV 要安全飛行,不能只靠一種感測器:衛星定位可能受幹擾,攝影機也可能因灰塵或光線不足而看不清楚。這一章說明如何把慣性測量、衛星定位、攝影機、LiDAR、雷達和高度感測器的資料整合起來,並校準位置、方向與時間,讓它們描述的是同一個時刻、同一架飛機的狀況。像是攝影機看出前方有障礙物,LiDAR 提供距離和形狀,雷達則能在能見度差時補上資訊。系統也會檢查感測器是否故障或彼此矛盾,必要時改用仍可信的資料並降低飛行能力,讓貨運 UAV 更能應付感測器失靈的情況。

  16. Dev.to Top Tech54

    nginx 反向代理和正向代理有什麼不同?一次看懂它們的工作

    代理伺服器都會替別人傳遞請求,差別在於它替誰出面:正向代理替使用者連上網路,讓網站看到代理伺服器;反向代理則替伺服器接收請求,讓使用者不必知道後端有幾臺伺服器。文章也說明 nginx 常放在應用程式前面,負責依網址轉送請求、處理 HTTPS、提供圖片和程式檔、快取回應、壓縮資料,也能把流量分給多臺伺服器。這些工作讓應用程式不用自己處理所有對外連線的雜事。

  17. Dev.to Top Tech67

    AmneziaWG 如何用兩臺 VPS,讓俄羅斯與海外流量走不同路線

    使用 VPN 時,俄羅斯的銀行或購物網站可能把海外伺服器的 IP 當成可疑來源;連到海外的路線也可能不穩。作者整理 AmneziaWG 的兩臺 VPS 設定:用俄羅斯伺服器當入口,連到海外出口,依目的地 IP 決定流量走哪裡,所有裝置共用同一套分流規則。作者在測試伺服器上觀察到,某次從西伯利亞直連海外機房會掉 30–50% 的封包,先經莫斯科則沒有掉包。這套設定需要手動維護,而且不是斷線保護開關;作者也說明如何檢查路由、更新俄羅斯 IP 清單,以及出口被封鎖時更換伺服器。

  18. Dev.to Top Tech58

    如何用精簡的基礎設施打造事件驅動架構

    服務彼此直接呼叫時,常得互相知道對方怎麼運作;改用事件傳遞可以減少這種牽連,但一開始就架設大型訊息系統也可能增加維護負擔。文章建議從最簡單的方式開始:單一程式內用事件匯流排;需要跨服務傳送或保留訊息時,再使用 Redis Streams。由於訊息可能重複送達,處理程式要先用固定事件 ID 避免重複執行;遇到多次處理失敗的訊息,則可移到另一個串流,方便檢視和重新處理。文章也說明,事件量、儲存時間或跨團隊資料格式管理需求提高時,才考慮 Kafka 等大型訊息系統。

  19. Dev.to Top Tech78

    如何用差異測試檢查 LLM 路由器改版

    LLM 路由器改版後,即使使用者收到一樣的成功回應,背後也可能多試了幾次、換了服務目標,或在串流開始後才出錯。文章教你讓新舊路由器處理相同測試案例,再比對回應、實際送出的請求、重試順序和狀態變化,確認哪些差異會影響使用者或營運。像是第一次連線收到 503、改由備援服務完成時,測試就要檢查實際嘗試順序,而不能只看最後的 200。先固定版本與測試環境、用可重現的假服務測試各種分支,再確認結果穩定,能在切換前找出改版造成的問題。

    推薦理由:文章把路由器升級前的差異測試拆成可操作步驟,並說明為何只比對最後回應會漏掉重試、備援切換與串流中斷。

  20. Dev.to Top Tech54

    如何把靜態部落格一次建置,再發布到五個免費平臺

    想把同一篇部落格放到不同平臺,若每個地方都要重新整理和部署,會多出不少工夫。作者示範先把文章建置成一份網站,再發布到 GitHub Pages、Cloudflare Pages、Netlify、Render 和 InfinityFree;有些平臺可用指令或 API 上傳,有些則從 GitHub 自動部署,InfinityFree 得透過面板上傳。每個站點的網址也要分別設定,確保站內連結、網站地圖和 RSS 指向正確位置。這套做法能減少重複建置,但要先整理好內容格式和網址。

  21. Dev.to Top Tech61

    Next.js 路由處理程序裡沒等完的寫入,為什麼會在 Vercel 消失?

    在 Vercel 上,Next.js 路由處理程序回覆後,沒等完的背景寫入可能被中斷,讓稽核紀錄或 AI 成本資料消失。作者在正式環境測試時,發現一筆稽核紀錄晚了約 18 秒才出現,另一筆始終沒出現,成本紀錄也都沒有寫入。Next.js 的 after() 能讓 Vercel 等傳入的工作完成後再結束這次執行。作者把它包進共用函式,套用到稽核、成本紀錄、寄信與 webhook 等工作,部署後再次測試,稽核紀錄就立即寫入。

  22. Dev.to Top Tech41

    Android MediaPipe LLM 如何保留對話記憶,讓 AI 助理回覆更順

    如果每次聊天都重新開啟模型,之前看過的對話就得再讀一次,回覆也會變慢。這篇教學用 MediaPipe 的 LlmInference API 做出能記住多輪對話的 ConversationEngine:把同一個工作階段留著,雖然每次仍傳入完整對話,模型卻能沿用已讀過的部分,只處理新內容。對中階手機,對話內容最好控制在約 512–768 個 token;太長時,回覆可能超過 1 秒。切換 LoRA 也會讓快取失效,因此最好把同一種模式的對話集中處理。

  23. Dev.to Top Tech61

    小型團隊如何讓 n8n 自架自動化流程更好維護

    自動化流程一多,大家可能忘記每條流程的用途,也會把同一段通知設定複製到很多地方,改一個 API 金鑰就得逐一更新。作者分享小型團隊管理自架 n8n 的做法,例如用固定格式替流程和節點命名、把重複工作拆成共用子工作流程,並集中管理憑證和設定。正式流程也應設定錯誤通知,留下簡短說明,定期把流程匯出到 Git,並將測試和正式環境分開。這些做法不必一次全做,先整理命名和常用的共用流程,就能減少日後查詢與修改的麻煩。

  24. Dev.to Top Tech57

    LLM 吞吐量怎麼看?搞懂每秒 Token 數、併發與批次處理

    評估大型語言模型能服務多少人時,只看「每秒產生多少 Token」很容易誤判,因為這個數字可能是單一請求的速度,也可能是整臺伺服器同時處理所有請求的總量。文章用每位使用者每秒收到 40 個 Token、50 位使用者合計每秒 2,000 個 Token 為例,說明併發和批次處理能提高整體產能,但也會拖慢每個人的回覆,並受到記憶體與運算能力限制。持續批次處理會在請求完成、空出位置時立刻補上新請求,減少等待和閒置。容量規劃時,批次工作可偏重總產能,互動式服務則要顧及回覆速度。

  25. Dev.to Top Tech61

    AI 助理上線前該記錄什麼,才能查出故障原因

    AI 助理出錯時,光看最後的回答,常猜不出問題出在哪裡。作者建議替每次執行記下流程版本、使用的模型和工具,以及每個步驟收到什麼、選了什麼工具、工具是否成功和接著發生什麼事;也要遮掉機密資料和個人資料。除了服務是否正常,還要留意重試、工具錯誤、逾時、人工接手和完成時間等狀況。從一個重要流程開始記錄,再刻意測試依賴服務故障,團隊就更容易找到問題並安全恢復。

  26. Dev.to Top Tech65

    AI 工作流出錯時怎麼處理:一份實用的事故應變指南

    AI 工作流出錯時,團隊得先弄清楚它做過什麼,避免重試時又造成損害。作者整理了一份應變流程:先停用可能重複執行危險操作的觸發條件或工具許可權,再記下故障時間、工作流版本、模型或提示詞變更,以及受影響的服務。若工作流已對外寫入資料,要先和正式紀錄核對,再決定是否重跑;修好後則先用故障案例和相近情況測試,再逐步恢復流量。這份指南也提醒團隊安排事故負責人、回復條件和對外聯絡視窗。

  27. Dev.to Top Tech43

    Signal #138:Java4Shell 影響部分 JDK,OpenAI 推出 GPT-6.2 Astra 和 Sol

    這期 Signal 整理了幾則科技訊息:Java4Shell 漏洞會受 CPU 型號影響,文章建議所有 JDK 17+ 都安排修補,並先盤點服務使用的版本;暫時也可用 -XX:-UseBASE64Intrinsics 關掉受影響的程式,但每個 Java 程式都得重新啟動。OpenAI 推出 GPT-6.2 Astra 和 Sol,開發者可透過 Vercel AI Gateway 使用;Astra 每百萬個輸入 token 收 $8、輸出 token 收 $40,文章提醒效能和品質說法仍應用自己的程式測試。 另外,Vercel Sandbox 的 Python SDK 升到 1.0,eve 也以開放原始碼形式推出;Amazon SageMaker 則新增 KV cache-aware 路由。這些工具各有適用情境,像是讓 Python 執行程式時自動清理隔離環境,或讓多輪對話更有效利用快取。實際匯入前,仍要先確認需求並在測試環境試跑。

  28. Dev.to Top Tech36

    從按下電源到看到 Windows 登入畫面,電腦中間做了哪些事?

    按下電源後,電腦會先檢查記憶體、主機板和顯示卡等零件;如果檢查沒過,開機就會停住,這時可從嗶聲、指示燈或燈號閃爍找出問題。檢查通過後,UEFI 會讀取硬碟上的分割區地圖,找到用 FAT32 格式存放開機檔案的分割區,再啟動 Windows Boot Manager。它接著載入讀取 NTFS 的功能,找到 Windows 所在的分割區並啟動系統。簡單說,電腦是一步步把控制權交給下一個部分;瞭解這個順序,也能在開不了機時更有方向地檢查。

  29. Dev.to Top Tech41

    Azure DevOps Server 網路搜尋結果很多,得先確認是不是真正的伺服器

    網路搜尋到 Azure DevOps Server 的名稱,不代表找到的就是實際執行它的伺服器;也可能只是檔案、錯誤頁面或反向代理上的文字。一次搜尋中,頁面標題含有這個名稱的結果有 5,642 筆,網頁內容含有名稱的有 6,151 筆,但直接標示為 Azure DevOps Server 的結果是 0 筆。要判斷服務是否真的對外開放,必須再核對網址、主機、專案集合、登入方式和網路路徑。公開的專案頁面可能是預期用途,管理頁面則應有更嚴格的存取限制。

  30. Dev.to Top Tech64

    EKS 延長支援費用高 6 倍,教你檢查叢集並安排升級

    EKS 叢集的 Kubernetes 版本太舊,控制平面每小時費用會從 $0.10 增至 $0.60;作者整理了查詢各區域叢集狀態和避免意外增加費用的方法。還在標準支援期間的叢集,可把升級政策設為 STANDARD,讓 AWS 在支援期結束時自動升級;已進入延長支援的叢集,則要升級到仍在標準支援期的版本,才能回到較低費率。升級前先檢查升級提示、附加元件和節點,再逐一升一個小版本。文中也提醒,自動升級依 AWS 時程進行,工作負載應先做好測試。

  31. Dev.to Top Tech55

    DNS 變更為什麼常不用等 48 小時?Creebs 說明 TTL 怎麼影響等待時間

    改了 DNS 設定後,常聽到要等 24 到 48 小時,但一般紀錄變更通常不必等這麼久。DNS 解析器會先記住舊地址,等它的有效時間 TTL 到期後才重新查詢;所以改完設定才調低 TTL,無法縮短已經開始計時的舊資料。文章建議在變更前一天先把相關 TTL 調到 300 秒,等舊的 TTL 完整到期後再改地址。若要確認結果,可以用 nslookup 查詢 1.1.1.1 和 8.8.8.8。更換網域名稱伺服器則可能花上一天或更久,不能和一般紀錄變更混為一談。

  32. Dev.to Top Tech73

    Firecrawl Local 和自架版差在哪?功能、限制與選擇方式

    想在自己的電腦抓取網站,有些人不想為此安裝資料庫、佇列和多個容器。Firecrawl 新推出的 Firecrawl Local 是一個 Rust 執行檔,可在本機抓取、整理和列出網站網址,也提供 v2 API;它不需要資料庫或容器,但工作資料只保留在記憶體,服務重啟或超過一小時就無法接續。搜尋、被擋住的網頁和 Alexandria 會依設定送到 Firecrawl Cloud,若不希望資料離開電腦,可以關閉雲端連線,但這些功能也會停用。需要長時間工作、JSON 或摘要格式,或讓搜尋留在自己的伺服器上,則應使用自架版。文章也提醒,Firecrawl 宣稱 Local 快 37 倍、記憶體用量少 230 倍,但沒有公開測試方法,建議用自己的網址比較。

  33. LangChain Blog58

    LangChain 推出 LangSmith Alerts,及早發現 LLM 應用程式問題

    LLM 應用程式會用到模型服務、API 和資料庫等外部工具,服務變慢或回答品質變差時,可能影響使用者。LangChain 推出 LangSmith Alerts,可依錯誤數量與比率、平均延遲或平均回饋分數設定提醒,也能篩選特定模型、工具呼叫或執行型別,並選擇 5 或 15 分鐘的統計區間和提醒門檻。通知可接到 PagerDuty,或透過自訂 webhook 傳送到 Slack 等地方,讓團隊更快發現需要處理的狀況。

  34. Dev.to Top Tech37

    Supabase、Neon 和 PlanetScale 怎麼選?比較資料庫分支、速度與實際花費

    Supabase、Neon 和 PlanetScale 都能用來存資料,但各自適合的工作不一樣。Supabase 像一套附有登入、API 和檔案儲存功能的工具箱;Neon 用 Postgres,能快速複製資料庫分支,適合常開測試環境的團隊;PlanetScale 用 MySQL,擅長把大量工作分散到多臺伺服器。作者測試後發現,Neon 建立 10 GB 資料庫分支約 0.9 秒,Supabase 用備份還原約要 14 分鐘。 不過,速度快不一定最省錢:Neon 暫停後重新啟動會等一下,分支開太多也可能增加儲存費;PlanetScale 遇到大量資料掃描時,費用可能變高;Supabase 的運算費用較好預估,但沒有內建快速分支功能。挑選時,可以先想清楚自己需要完整應用工具、快速開測試資料庫,還是能分散大量 MySQL 工作。

  35. Dev.to Top Tech67

    Linux 記憶體告警看錯指標,讓閘道服務的記憶體問題被漏掉

    Linux 把暫時用不到的記憶體拿來存檔案快取,所以 MemFree 很低,不一定代表快要沒記憶體。作者管理的檔案閘道器原本用 MemFree 設告警,夜間備份後常常誤報;團隊調低門檻後,服務有一次被系統因記憶體不足而停止,告警卻沒響。改看 MemAvailable 後,他們發現可用記憶體曾在 11 天內從 70% 一路降到零,便加上低於 10% 持續 15 分鐘的告警,也用六小時趨勢預測是否會在一天內耗盡。

  36. Dev.to Top Tech77

    決策模型怎麼挑?這份指南比較 Jev、OpenAI、Google 等選項

    AI 助理常為了選工具、檢查指令或判斷工作是否完成,就呼叫大型語言模型,花時間等答案,再把文字轉回程式判斷。作者整理 Jev 推出後,多家公司的決策模型和開源專案怎麼做,並比較它們的價格、速度、輸入內容與能否自行執行。這類模型只從預先設定的選項中挑答案或給分,仍可能判斷錯誤;作者建議先拿真實案例測試,也和原本的模型及簡單基準比較,再決定哪些結果要交給大型模型或人確認。

    推薦理由:文章比較多種決策模型的速度、價格、輸入方式與開放程度,也整理了把它們接進 AI 助理流程時可先測試的做法。

  37. Dev.to Top Tech45

    updatecli 如何避免 homelab 更新映像檔與 Helm 時挑錯版本

    homelab 用 Flux 自動更新映像檔和 Helm 套件時,版本規則如果寫得太寬鬆,可能跳過安全更新,也可能把穩定版換成測試版。像 1.37.5-alpine 這種尾巴帶有 -alpine 的標籤,會被只認數字的比對規則漏掉;版本比較若把字元一個個排序,也可能把 1.37.5-alpine 誤排在 1.37.10-alpine 前面。 文章建議把不同更新範圍的規則分開設好上下限,並明確處理版本尾巴,再確認每條規則挑到的版本,避免錯誤寫進 Git。自動更新也可改用許可權較小的 GitHub App,讓每次變更更容易追查。這樣能減少人工改檔,也降低服務一直正常運作、映像檔裡的安全問題卻沒被更新的風險。

  38. Dev.to Top Tech58

    MyBusinessMate 如何打造能接續對話、轉交真人的 WhatsApp AI 助理

    WhatsApp AI 助理如果每收到一則訊息就立刻呼叫模型,可能重複回覆、增加費用,也容易漏接連續傳來的內容。MyBusinessMate 分享實際建置經驗:先把訊息放進佇列,等 3 秒收齊連續訊息再一起處理,並保留近期對話和客戶重點。遇到預約等需求時,系統會先執行真正的查詢或預約,再回覆結果;超過 Meta 的 24 小時訊息時限,則改用預先核准的訊息範本。客戶生氣或要求真人時,也會暫停助理並通知人員接手。作者稱,合併訊息後 OpenAI token 費用減少 45%。

  39. Dev.to Top Tech36

    如何讓 AI 成為每位員工每天都能安心使用的工具

    AI 試用時看起來很厲害,真正要給員工天天用,大家卻會擔心它看錯資料、洩漏客戶資訊,或回答錯了該由誰負責。作者建議先替 AI 設好四道關卡:只讀該看的資料、依照使用者許可權辦事、用工作上的真實問題檢查答案,並記錄結果;遇到退款承諾這類重要問題,就先交給真人確認。 例如客服可以先讓 AI 根據公司規定草擬回覆,附上資料來源,再由員工修改後寄出。先從一個團隊、一件工作開始,也要留下一份大家認可的好答案清單;每次更換模型或資料,都用同一份清單重新檢查。這樣大家看得出 AI 用了哪些資料、哪些地方需要人把關,才比較敢放心使用。