跳到正文

#部署/工程

RSS
今日 43 則
11月15日週日
  1. Dev.to Top Tech54

    Claude Code、Codex 和 Gemini CLI 本週更新整理

    程式開發工具更新後,許可權檢查和信任設定可能改變,原本能用的工作流程也可能受到影響。這篇整理 Claude Code、Codex 和 Gemini CLI 本週的版本更新:Claude Code 修正多個許可權與沙箱問題,並修補 zstd 回應解碼的安全問題;Codex 在不受信任的資料夾中,不再只靠 --sandbox workspace-write 載入專案設定和 MCP 伺服器,使用者需要明確加上 --trust。文章也提醒,若 Codex 的 CI 工作流程突然無法載入 MCP 伺服器,應檢查資料夾信任設定。

  2. Dev.to Top Tech72

    Crossplane 和 Terraform 怎麼選?用 Kubernetes 管理 S3 儲存桶

    平臺團隊常得替開發者開通雲端資源,等人處理很慢,直接給 Terraform 許可權又難控管。這篇教學用 S3 儲存桶和 RDS 資料庫示範 Crossplane:平臺先設定好可選專案和安全規則,開發者再用一份 Claim 申請資源;Crossplane 會持續比對設定,發現有人手動改動時也能自動調回。Terraform 則會先列出變更,讓人檢查後再執行。文章也提醒,資料庫這類重要資源要設定刪除保護。兩種工具可以分工,由 Terraform 建立雲端環境,再由 Crossplane 管理應用需要的資源。

  3. Dev.to Top Tech76

    如何用 WireGuard 和 AWS Transit Gateway 連線資料中心,降低混合雲連線成本

    資料中心要連上 AWS,Direct Connect 可能等候時間長、費用也高;AWS Site-to-Site VPN 則可能不符合流量或金鑰管理需求。作者示範用 WireGuard、FRRouting 和 AWS Transit Gateway Connect,讓資料中心與 AWS 之間建立兩條備援連線,並用 BGP 自動交換路由、用 BFD 偵測連線中斷。文章也提醒,隧道 MTU 設錯會讓傳輸變慢,並示範如何限制封包大小、測試連線故障時的切換,以及保管金鑰和限制可通行的網路範圍。

    推薦理由:文章比較 AWS Site-to-Site VPN 與自管 WireGuard 的適用情境,並說明 MTU、路由切換和故障測試如何影響混合雲連線。

  4. Dev.to Top Tech70

    Express 和 TypeScript API 的 Docker 映像檔如何從 1.79 GB 縮到 246 MB

    一個小型 Express 和 TypeScript API 的 Docker 映像檔竟有 1.79 GB,改幾行 Dockerfile 就能讓映像檔變小、程式更新後也更快重建。作者先用 .dockerignore 排除不需要送進建置的檔案,再改用較小的 node:22-alpine,並把建置和正式執行拆成兩個階段,正式環境只安裝需要的套件。最後映像檔縮到 246 MB;把 package.json 先複製,程式碼修改後的重建時間也從約 10 秒降到約 2.3 秒。文中還提醒,Alpine 使用 musl,少數原生模組可能會受影響;USER node 則讓應用程式不以 root 身分執行。

  5. Dev.to Top Tech49

    x402 付費 API 有 95 個路徑不接受 POST,買家可能以為服務不存在

    買家用 AI 助理呼叫付費 API 時,可能會用 POST;如果賣家的付費路徑只接受 GET,買家就會看到錯誤,以為服務壞了或已經不存在。作者用 POST 測試了 137 個原本用 GET 能收到付費挑戰的路徑:只有 42 個回覆可付款的挑戰,49 個回覆 404,45 個回覆 405,另有 1 個回覆 401。也就是說,許多服務明明存在,卻沒讓 POST 請求走到付費檢查。 作者也檢查自己的服務,發現 GET 可以正常收費,但 POST 會被拒絕;他後來替每條付費路徑加上 POST 處理,並先登記收費設定,避免新路徑意外變成免費。這提醒 API 賣家要用不同請求方式檢查付費路徑,因為買家遇到 404 或 405 往往直接離開,賣家也可能看不出自己漏掉了生意。

  6. Dev.to Top Tech62

    Rancher Desktop for Windows 教學:如何取代 Docker Desktop

    在 Windows 上跑容器時,團隊可能得處理 Docker Desktop 的商用授權費,也會遇到 WSL2 的記憶體、檔案速度和網路問題。這篇教學介紹如何改用 Rancher Desktop,並說明要沿用 Docker 指令時可選 dockerd(moby),只跑 Kubernetes 工作時則可選 containerd。作者也整理 1.24 版修正的 Windows 路徑問題,以及調整 .wslconfig、把專案放在 WSL2 的 Linux 檔案系統、處理公司 VPN 等做法。若不需要測試 Kubernetes,可以關閉它來減少記憶體使用;文中也提到 2.0 Alpha 1 可在沒有桌面介面的情況下執行。

  7. Dev.to Top Tech74

    Cloudflare 為什麼選 QuePaxa 支撐全球控制平面

    不同地區的伺服器要維持同一份紀錄時,網路延遲或領導者故障可能讓決策停下來。Cloudflare 說明,實驗中的 Meerkat 採用 QuePaxa,讓多個提案者接手推進協定,並把沒完成的工作帶到下一輪。Cloudflare 在自家測試中觀察到,領導者故障時,決策速度降到平常約 65%,一分鐘後回到 100%。這是單一業者的測試結果;Cloudflare 也表示 QuePaxa 尚未像 Raft 或 Paxos 那樣經過廣泛實際考驗,並正以形式驗證和模擬檢查實作。

  8. Dev.to Top Tech76

    作者示範如何用 CUDA 從頭打造 LLM 推論引擎,在筆電 RTX 3050 上達每秒 235 個 token

    在筆電 GPU 上跑大型語言模型,速度常受限於資料搬運;作者分享自己如何從頭打造 tinyinfer,用手寫的 C++ 和 CUDA 程式碼執行 Llama 系列模型。它在 RTX 3050 6 GB 筆電顯示卡上,以 4-bit 權重執行 TinyLlama-1.1B,測得每秒 235 個 token。作者逐一測量不同矩陣和注意力運算,調整每次處理的資料量,並讓多個查詢頭共用鍵和值資料;其中一種注意力改法在短文字時反而較慢,所以他依模型結構選擇適用的版本。這些實作和測試也提供了從效能瓶頸著手、逐步檢查結果是否正確的參考。

    推薦理由:作者公開逐輪調校的測試結果,呈現 CUDA 推論速度如何受記憶體頻寬、注意力設計與硬體形狀影響。

  9. Dev.to Top Tech64

    為什麼避免重複操作,是產品體驗的一部分

    網路中斷或使用者重試時,同一個操作可能被執行好幾次,造成重複扣款、訂單或通知。作者說明,系統可以替每次使用者操作建立一個識別碼,重試時沿用同一個識別碼,並把處理結果存起來;如果相同識別碼搭配不同內容,系統應拒絕請求。遇到付款狀態不明時,畫面也應清楚顯示正在確認,避免使用者再付一次。這套做法也適用於建立帳號、部署服務和 AI 助理呼叫工具等操作。

  10. Dev.to Top Tech68

    用 Zot 建立 Docker Hub 映像檔快取,減少 NAT 共用 IP 的拉取限制

    多臺 CI 主機共用同一個 IP 拉取 Docker Hub 映像檔時,可能很快碰到每六小時 100 次的未登入限制。作者用 Zot 建立中間快取,實測快取命中時比直接拉取快 10 到 20 倍;即使第一次拉取,26 MB 的 nginx 映像檔也比直接從 Docker Hub 拉得快。要留意的是,Zot 收到映像檔清單請求後就會同步整個映像檔,所以磁碟用量會隨不同標籤增加;作者建議監看剩餘空間,並只在 127.0.0.1 開放連線埠,避免未登入的公開快取被拿來轉送流量。

  11. Dev.to Top Tech43

    軟體工程師必懂的網路基礎(第 4 篇):HTTP 怎麼傳送網頁資料

    瀏覽網頁時,應用程式會向伺服器索取資料,伺服器再把結果送回來;HTTP 就是雙方溝通時要遵守的規則。像是查詢使用者資料可以用 GET,新增帳號可以用 POST,修改或刪除資料也各有對應的方法。要求裡可以放網址、補充資訊和要送出的內容,伺服器回覆時則會告訴你結果如何,並附上資料。比如找不到某個使用者時,伺服器可能回覆 404。 HTTP 不會自動記得你先前登入過,所以網站會用 Cookie、工作階段或存取權杖來認出你。HTTPS 會替傳送中的資料加密,也能幫忙確認連到的是預期的網站。文章也比較 HTTP 的不同版本:較新的版本改善了連線重複使用和同時傳送多筆要求的方式,讓網頁載入更有效率。

  12. Dev.to Top Tech58

    作者用 dex-linux-workstation 在 Samsung DeX 上執行 Debian 13,並測試散熱與編譯

    手機接上螢幕當 Linux 電腦用,常會遇到畫面卡頓、背景程式被關掉或長時間使用過熱。作者開源 dex-linux-workstation,透過 Termux、PRoot 和 Termux:X11,在不取得 root 許可權的情況下執行 Debian 13 桌面,並用 VirGL/EGL 加速畫面。實測連續使用 4.26 小時,電量維持在 80%;拔掉電源連續編譯 Redis 31.8 分鐘,9 次都完成。文章也比較兩款不同晶片平臺的圖形表現,提供安裝步驟與測試紀錄,讓讀者瞭解這種手機桌面環境的實際限制與表現。

  13. Dev.to Top Tech51

    實測 DeepSeek-V3 和 DeepSeek-Coder-V2 在本機 GPU 上的記憶體需求與速度

    把大型模型放在自己的電腦上跑,常會遇到顯示卡記憶體不夠,或速度慢得難以使用的問題。作者實測 DeepSeek-V3 和 DeepSeek-Coder-V2,說明即使模型每次只啟用部分引數,所有引數仍要放在顯示卡或系統記憶體裡。以 DeepSeek-Coder-V2 為例,兩張 RTX 3090 搭配系統記憶體時,速度約為每秒 3.2 到 4.1 個 token;Mac Studio Ultra 的測試則約為每秒 14.8 到 18.2 個 token。文章也指出,把資料搬到系統記憶體會拖慢運算,可用這些實測結果估算本機部署需要的硬體。

  14. Dev.to Top Tech37

    內容群集為什麼要從 BOFU 商業頁面開始,才能提升 AI 搜尋能見度

    網站文章常各自談一個主題,讀者看完卻不知道怎麼找到合適的服務或產品。BOFU 優先的做法,是先整理好接近成交的商業頁面,再補上一份介紹大主題的指南和回答具體問題的文章,並用清楚的站內連結把它們串起來。以營建排程軟體為例,可以先做相關產品頁,再寫排程問題指南,以及回答潛在客戶常見疑問的文章。這種安排能讓讀者和搜尋系統更容易看懂每頁的關係;但文章群集不能保證登上 Google AI Overviews,也不能取代有用、寫得清楚的內容。

  15. Dev.to Top Tech57

    實測 JDK 25 Leyden AOT 快取:Java Pod 在 Kubernetes 快 31% 至 58%

    Java 服務啟動慢,會拖延 Kubernetes 補上新 Pod 的速度。作者在 Google Kubernetes Engine 上測試 JDK 25 的 Leyden AOT 快取,從小型 Spring Boot 服務一路測到有 458 個 JAR 的 ThingsBoard CE。結果顯示,單一 Pod 的就緒時間快了 31% 至 58%;即使下載最大的 223.5 MiB 快取檔,也只花不到 1 秒。測試也指出,若啟動時間主要卡在磁碟讀寫或資料庫遷移,這種方法帶來的改善就有限。

  16. Dev.to Top Tech42

    AI 生成圖片怎麼安全上傳?用限時網址並先訂好刪除規則

    AI 生成的圖片很容易一直留在雲端,真正麻煩的是決定什麼時候刪除,以及日後能不能查清楚為什麼這樣處理。做法是先替每張圖片標上工作編號、保留類別和刪除期限,再由可信任的伺服器產生限時上傳網址,交給工作程式用 HTTP PUT 上傳;伺服器的存取金鑰不會交出去。像訓練失敗、需要調查的圖片,就能在刪除前改成保留。 這種上傳方式適合讓圖片直接送到儲存服務,不必先經過自己的應用程式伺服器。不過,各家服務能做的事不同:文中提到的統一介面不支援 GCS 和 B2,也沒有物件版本紀錄或防止覆蓋的條件檢查。若圖片要公開給大家看、必須永久儲存,或需要更精細的刪除控制,就得另外設計儲存方式。

  17. Dev.to Top Tech52

    如何讓產品更新紀錄查得準,也控制搜尋成本

    產品更新紀錄如果查到過期內容,工程師可能找不到需要的修補資訊,搜尋也會花更多成本。作者建議把資料分成近期發布、歷史發布和營運通知,再分階段找資料:先用關鍵字或向量搜尋找出有限候選,再依元件、發布時間和檔案狀態篩選,最後才做排序。每筆結果都保留檔案編號、來源網址和修改版本;來源更新或刪除內容時,也要同步更新索引。這樣比較容易查出答案為何過期,並用實際問題檢查搜尋品質。

  18. Dev.to Top Tech55

    如何用 Dynatrace 找出執行中的 AI 服務有哪些弱點

    只看程式庫清單,無法知道哪些有漏洞的元件真的在服務中執行;弱點數字是零,也可能代表服務根本沒被掃描。作者根據 Dynatrace 的公開檔案與公告,整理出檢視儀錶板前要確認的兩件事:先讓 AI 服務出現在監控資料中,再確認執行這些服務的程式有納入 RVA 弱點掃描。儀錶板會列出受影響的程式、套件和弱點嚴重程度,但不會取代程式庫清單掃描。作者沒有在實際環境測試,建議先檢視未納入掃描的程式,再判讀弱點數字。

  19. Dev.to Top Tech61

    Logtide 1.7.0 新增硬體健康監控,提早發現主機故障徵兆

    伺服器硬碟和其他零件出問題時,系統可能早就留下線索,但只看硬碟自己的「正常」判定,往往發現得太晚。Logtide 1.7.0 新增硬體健康監控,會檢視硬碟、記憶體、CPU、風扇、電源和網路連線埠的狀況,並把硬體讀數和主機日誌放在一起。像是硬碟一週多出壞扇區,或記憶體錯誤持續增加,系統就會提出警告並建立事件;錯誤若達到設定門檻,會升為嚴重狀況。這項功能需要在實體主機安裝 Linux 代理程式,虛擬機器則會顯示沒有感測器。作者提醒,這只能提早發現會發出警訊的故障,仍可能漏掉毫無預警就壞掉的硬碟,因此備份不能少。

  20. Dev.to Top Tech69

    PyTorch CUDA 記憶體不足怎麼辦?照順序找出最吃記憶體的地方

    PyTorch 訓練時跳出 CUDA 記憶體不足,光是反覆清快取通常解決不了問題。這篇教學先看錯誤訊息和程式實際使用的記憶體,分辨是張量太多、記憶體碎片,還是其他程式佔用,再從最吃記憶體的地方開始處理:清掉不再需要的張量、縮小每次處理的資料量、使用梯度檢查點,或改用較省記憶體的訓練方式。以 Llama 3.1 8B 為例,梯度檢查點能大幅減少暫存資料,但仍可能需要更大顯示卡;文中的數字是估算,作者建議用自己的實測峰值確認。

  21. Dev.to Top Tech60

    如何替失敗的寄信加上指數退避,並固定支援信件內容

    寄信遇到限流或逾時時,重試可能讓同一封通知變成寄給不同物件,或換成新的信件內容。文章示範一套 Go 寄信流程:先固定收件物件和已產生的信件內容,再用同一個操作識別碼重試;遇到 HTTP 429 才依次等待,最多提交 5 次,並遵守伺服器提供的 Retry-After 時間。逾時時是否已被接受可能不清楚,因此要先查狀態再處理。重試成功只代表服務接受了請求,不能當作信件已送進收件匣。

  22. Dev.to Top Tech50

    作者打造 Data4Agents API,讓 AI 助理依即時資料挑選模型

    AI 助理接到有預算限制的工作時,得知道該選哪個模型、哪家服務商的 token 費用較低,以及哪個地區的連線較快;如果只靠人預先寫好的設定,就像蒙著眼睛做決定。作者打造 Data4Agents API,提供即時價格、服務商延遲和模型推薦,讓 AI 助理能依工作需求挑選模型。例如,替新創公司工作的 AI 助理可以參考價格和速度,選擇當下合適的模型,可能省下運算費用,也避開某些地區變慢的問題。不過,作者也提到下一個難題:AI 助理要怎麼付 API 費用。

  23. Dev.to Top Tech36

    Infrai 如何管理不同客戶的私人頭像上傳與還原

    SaaS 網站要讓客戶上傳頭像,得小心別讓甲客戶的圖片被乙客戶看到,也要避免新圖片蓋掉舊圖片,害人想還原時找不到。文章建議把圖片存成私人檔案,由網站先確認使用者身分,再發出短時間有效的上傳或讀取網址;資料庫只記圖片的位置和版本,每次更新也留下紀錄。比如上傳第 18 版時保留第 17 版,想還原就把資料庫指向舊圖片。Infrai 可以用簽名網址傳圖片,但沒有圖片版本保護、不可改寫的儲存功能或自動跨區備份,因此需要這些保障的團隊,應選有提供相關功能或合約保障的儲存服務。

  24. Dev.to Top Tech68

    協作白板如何避免重新連線後顯示錯誤的輸入狀態

    協作白板重新連線時,延遲送到的舊訊息可能讓畫面一直顯示有人正在打字。作者建議把白板修改和即時狀態分開處理:筆畫、圖形和註記要可靠儲存;打字提示和遊標則會過期,並繫結目前登入的工作階段。每次重新連線都換一個識別碼,收到舊識別碼的訊息就丟棄;已讀進度則只往更新的白板版本前進。這樣即使訊息重複或順序顛倒,畫面仍能反映目前的狀態。

  25. Dev.to Top Tech48

    AI 助理正式上線後,真正的花費可能比你想的高

    AI 助理在展示時運作順利,正式上線後卻可能因為工具呼叫失敗、模型重試或任務沒做完,花了錢也沒替使用者完成事情。假設處理 1,000 個請求花了 $160,但只有 800 件任務成功,每件成功任務實際上要花 $0.20;只看每個請求 $0.16 的平均成本,會低估花費。 雲端服務點數能幫新創公司減輕早期支出,卻可能讓人看不清服務原本有多貴。像 Google Cloud 的點數用完後,同一套服務每月現金支出可能從 $2,000 增至 $10,000。規劃 AI 助理時,應一起算進失敗重試的成本、扣掉點數後要付的錢,以及點數用完後的花費,才知道生意能不能長久做下去。

  26. Dev.to Top Tech69

    Microsoft 365 中斷提醒:AI 助理不只靠模型,也依賴整條服務路徑

    AI 助理的模型即使正常,連不上信箱或其他資料來源時,使用者要的功能還是可能失敗。Microsoft 365 中斷期間,Outlook、Teams、SharePoint 和 Microsoft Copilot 等服務受到影響,OpenAI 也回報 Microsoft 365 連接器出問題;Microsoft 表示這次中斷與網路容量升級及後續網路變更有關,並非網路攻擊或 AI 助理造成。文章建議從使用者要完成的工作開始,列出登入、許可權、連接器、資料來源和模型等依賴,逐一檢查故障時能否改走真正獨立的路徑。若資料不完整或無法取得,應清楚告知使用者;重試和寫入操作也要避免造成重複工作。

  27. Dev.to Top Tech43

    13 歲學生用免費雲端服務打造 BSDC,整合 14 個開發者社群 App

    想找工作、分享專案或和其他開發者聊天,常常得在好幾個網站之間跑來跑去。來自孟加拉的 13 歲學生 Rizwan Rahim Chowdhury 因此打造 BSDC,把文章分享、即時聊天、工作和接案資訊、專案展示,以及開發者用品買賣放進同一個平臺,全球開發者都能加入。BSDC 有 14 個彼此分開運作的網頁 App,還有一個 Android App,使用免費的雲端服務運作;例如,即時聊天會顯示對方是否線上和正在輸入。這個做法讓不同功能能放在一起使用,也讓其他學生和開發者能透過公開的 GitHub 原始碼學習它的架構。

11月14日週六
  1. Hacker News (official RSS)74

    Namecheap 如何用 Python 3.15 的延後載入,讓命令列工具快 4 倍

    程式一啟動就載入一大堆用不到的套件,連只顯示說明的命令列工具都得等上一秒多。Namecheap 把後臺升級到 Python 3.15.2,並用明確的延後載入,讓套件等到第一次真正需要時才載入;他們也先用 Lifeguard 檢查哪些套件可以安全延後,避免改變環境設定等程式啟動時的行為。實測中,命令列工具的說明頁啟動時間從 1,314 毫秒降到 326 毫秒,快了約 4 倍;終端介面和 MCP 伺服器則只快了約 20% 和 15%。文中也整理了測量方式、測試時要留意的問題,以及哪些程式結構會讓延後載入失去效果。

  2. Dev.to Top Tech47

    Next.js 如何替 LLM API 路由限流:做好身分識別,並預留 Redis 擴充空間

    每月用量上限只能管整個帳單週期,擋不住短時間內大量請求;有人一口氣送出太多請求,可能讓費用暴增,也可能讓其他人用不到服務。這篇文章示範在 Next.js 呼叫模型前先做限流:替每個登入者用使用者 ID 計算次數,訪客則用 IP 位址,超過限制就回傳 429,並告訴使用者端要等多久再試。 單一伺服器可以先把次數存在記憶體,但多臺伺服器各自計數時,每臺都放行 20 次,四臺合起來就可能放行 80 次。換成共用的 Upstash Redis 才能讓多臺伺服器一起計數。限流也有邊界:固定時間區間的交界處,短時間內可能放行兩倍請求;因此它要和每月用量上限搭配,分別管住短時間的暴衝和整個月的花費。

  3. Dev.to Top Tech59

    如何用 snmp_exporter 和 Grafana 監控 MikroTik RouterOS,並設定五條 PromQL 告警

    MikroTik 路由器平常可能多年沒人留意,等到網路變慢才發現問題。這篇教你透過 SNMP 把 RouterOS 的資料送進 Prometheus,再用 Grafana 檢視連線狀態、開機時間、CPU、記憶體、流量、錯誤和連線埠狀態,並提供五條 PromQL 告警規則。像是 SNMP 三分鐘沒有回應,就會觸發告警;CPU 或記憶體使用率偏高,也能提早提醒。作者建議先觀察幾週,再依自己的裝置調整門檻,並確認記憶體標籤符合規則。

  4. Dev.to Top Tech50

    Google SecOps AI 告警分流遇上流量暴增時,如何靠備援規則撐住服務

    原始安全警報又多又亂,直接交給 AI 判斷,可能會編出錯誤的 MITRE ATT&CK 對應,或回傳格式錯誤的資料,讓後續處理卡住。作者替 Google SecOps 做了一套告警分流服務:先檢查 AI 回答是否符合格式和核準的技術清單;如果 Vertex AI 遇到流量限制或逾時,就改交給固定規則判斷,並把告警送給人員檢查。 作者也用測試故意模擬 API 故障,確認備援規則能接手,回傳符合格式的高風險結果。這讓系統在 AI 忙不過來或出錯時仍能繼續處理告警,也提醒開發者,安全工具除了要會判斷,更要準備好出錯時的退路。

  5. Dev.to Top Tech54

    Swizzle Runtime 如何在 4 GB 筆電顯示卡達到 209.70 tok/s

    在 4 GB 筆電顯示卡上執行大型語言模型,傳統工具可能佔用不少記憶體,也讓啟動和回應變慢。作者推出開源工具 Swizzle Runtime v0.1.0,使用 Rust 編寫,並在同一臺電腦上和 llama.cpp 比較。測試中,Qwen3-0.6B 在顯示卡上的生成速度是 209.70 tok/s,首次回應時間是 43.37 ms;CPU 上的編輯測試則快了 37.7%。這些結果只適用於文中列出的測試裝置和設定。

  6. Dev.to Top Tech60

    OneLake 教學:何時該用捷徑取代 Bronze 資料複製

    同一份資料被複製到不同地方後,可能多花儲存成本,也會讓人搞不清楚誰要負責更新。作者建議,若 OneLake 已有其他團隊發布的整理版 Delta 資料,Bronze 層就用捷徑連過去,再建立只改欄名、格式或挑選欄位的簡單檢視;較複雜的商業規則則留給 Silver 層或上游處理。外部檔案、資料匯出等 OneLake 以外的來源,仍可實際匯入。作者也建議用 Git 記錄捷徑指向哪裡、資料由誰負責,並在部署時檢查捷徑和重要檢視的欄位格式。這樣能減少重複複製,也比較容易追查資料變動。

  7. Hacker News (official RSS)70

    NVIDIA 教你用 vLLM 在兩臺 DGX Station 上執行 GLM-5.3

    753 billion 引數的 GLM-5.3 太大,單張 GB300 GPU 放不下;這篇教學示範如何用兩臺 NVIDIA DGX Station 一起執行。兩臺機器透過 RDMA 連線,各自載入一部分模型,再由其中一臺提供同一個 API,讓請求由兩邊的 GPU 一起處理。文章也示範如何送出請求和測試多人同時使用時的表現:並行數為 16 時,整體輸出速度達到 607.8 tok/s;增加到 32 時,速度降為 385.0 tok/s,平均回應時間則升至 453.5 秒。

  8. Dev.to Top Tech67

    一步步用 Amazon Bedrock 和 Python 做出會呼叫工具的 AI 助理

    想讓 AI 助理查詢自己的 AWS 資料,光靠模型回答還不夠,還需要程式替它執行動作。這篇教學用 Python 和 Amazon Bedrock,做出能列出 S3 儲存貯體、計算物件數量的 AI 助理:模型決定要用哪個工具,程式檢查後執行,再把結果交回模型整理答案。作者也提醒,模型本身不會直接操作 AWS,能做什麼取決於程式使用的 AWS 許可權;每次呼叫模型都會產生費用,並用執行次數上限避免無止境呼叫。

  9. Dev.to Top Tech57

    作者分析 Grafana 儀錶板為何把三項未就緒工作標成可派送

    作者的 Grafana 儀錶板把四項工作標成「可以派送」,實際上只有一項能安全開始,另外三項可能讓兩個 AI 助理同時修改相同檔案。問題出在儀錶板看不到筆電上的派送紀錄、某份計畫沒列出會改哪些檔案,以及已放棄的工作又被較晚寫入的事件誤判為仍在執行。作者補上缺少的計畫資訊,並把其他修正列入待處理事項;修好前,他會把「可以派送」只當成「已核准」,再查派送工具的執行清單。文章提醒,檢查缺少資料時應顯示「不確定」,避免把查不到誤當成安全。

  10. Dev.to Top Tech55

    Terraform 教學:依錯誤套用可能造成的影響範圍拆分 state

    把 Terraform 資源全放在同一個 state,修改時可能同時碰到網路、資料庫和多個服務,也會讓計畫變慢、互相等待鎖定,增加審查時漏看錯誤的機會。作者建議依「一次錯誤套用最多會影響什麼」來劃分 state,例如把很少變動但出錯影響大的基礎資源、共用平臺,以及各環境的應用程式分開管理。不同 state 需要共用資料時,可以查詢資源,或讀取另一個 state 的輸出;後者會依賴對方的存放位置和輸出名稱。拆分也會增加後端、流程和輸出的管理工作,因此適合在資源變動速度不同,或彼此影響讓人擔心時再劃分。

  11. Dev.to Top Tech43

    工程團隊和財務團隊怎麼看懂同一張雲端帳單

    工程團隊看到的是支撐產品運作的裝置和服務,財務團隊看到的卻是一直變貴、難以預測的帳單。兩邊都沒錯,只是看的角度不同;如果彼此缺少共同資訊,就容易為了花費吵起來。幫助雙方對上焦點的方法,是替雲端資源標上負責團隊、服務和使用環境,並讓工程團隊提早分享新服務、流量活動或搬移系統可能增加的費用。再一起看每位使用者或每次 API 呼叫花多少錢,討論就能從「帳單為什麼這麼高?」轉成「怎麼讓這筆錢用得更有效?」

  12. Dev.to Top Tech44

    把 scotthavird.com 的網站設定交給 Terraform 管理

    scotthavird.com 的網站設定原本散落在程式碼和 Cloudflare、AWS 控制台裡,改了什麼不容易檢視,也曾因為 Node 版本設錯,讓預覽網站建置失敗。作者把網站託管、安全設定、電子報訂閱服務和電子郵件 DNS 設定整理進 Terraform,讓這些設定能一起檢查和修改;網站則改由 Cloudflare Pages 從程式庫直接建置。 例如,Docusaurus 3.9.2 需要 Node 20,作者把版本寫進 Terraform,讓正式網站和預覽網站使用相同設定。電子報也改成使用者點選確認連結後才加入名單。這樣能少做手動修改、留下清楚的修改紀錄,也讓網站和它需要的服務更容易一起更新。

  13. Dev.to Top Tech68

    PostgreSQL 14 將於 11 月 12 日停止支援,PostgreSQL 19 預計 11 月 19 日推出

    PostgreSQL 14 的支援即將結束,使用中的資料庫之後不會再收到修正。PostgreSQL 專案排定 14.24 在 11 月 12 日發布,並於同一天停止支援 14;PostgreSQL 19 則預計在 11 月 19 日正式推出。文章整理升級時要先確認的變動,例如新版預設關閉 JIT、移除 RADIUS 驗證,以及部分舊索引會讓 pg_upgrade 拒絕升級。團隊可先檢查資料庫設定與應用程式相容性,並在正式切換前演練升級流程。