跳到正文

#部署/工程

RSS
今日 48 則
11月21日週六
  1. Dev.to Top Tech51

    如何在服務啟動前確認租戶子網域使用正確的 DNS 區域

    如果 staging 服務拿到 production 的 DNS 區域 ID,就可能把租戶網域記錄寫到錯的地方。作者建議把區域 ID 和預期網域分別放在各環境的設定裡,服務啟動時先查出該 ID 對應的網域;只要和預期不符,就停止啟動,不讓服務接收流量。文章也比較每個服務自行查核與由共用 DNS broker 集中管理:前者適合少數團隊,後者適合多個團隊共用 DNS 規則。

  2. Dev.to Top Tech70

    Anil Prasad 示範如何在 Databricks 保護 AI 治理評測資料

    如果評分用的標準答案被偷偷修改、外流,或日後找不回來,AI 治理儀錶板上的分數就不可靠。Anil Prasad 示範如何用 Databricks 的 Unity Catalog 管理這些評測資料:限制能修改的人、檢視資料被誰讀取或複製、記錄許可權變更,並把每次評分連到特定資料版本。文章也說明如何儲存發布快照、遮蔽個人資料,以及追蹤資料是否過期,讓團隊能查清楚每個分數是怎麼來的。

  3. Google Developers Blog71

    Google 教你安全連線 Gemini Enterprise 與內部 Cloud Run MCP 服務

    企業把內部系統接到 Gemini Enterprise 時,得避免 MCP 服務暴露在公開網路,也要確認每次呼叫來自哪個服務和使用者。Google 說明如何用 Egress Agent Gateway、Private Service Connect 和精確網域的 Private Cloud DNS,讓 Gemini Enterprise 私下連到 Cloud Run;DNS 只套用在指定的 MCP 網址,避免影響共用 VPC 裡的其他 Cloud Run 服務。文章也說明兩層驗證的分工:Cloud Run IAM 確認呼叫服務的身分,MCP 程式則檢查使用者的 OAuth 2.0 權杖。文中附有參考程式和設定步驟,並介紹如何用 Cloud Logging 確認連線狀況。

    推薦理由:文章整理 Cloud Run 內部 MCP 服務的私有連線與雙重驗證做法,也說明如何避免 DNS 設定影響共用 VPC 中的其他服務。

  4. vLLM Official Blog75

    vLLM 支援 Thinking Machines 的 Inkling 2 Mini 迴圈模型

    模型把部分中間層重複運算,會讓推論時的快取和訊息傳遞更難處理。vLLM 宣佈支援 Thinking Machines 的 Inkling 2 Mini,並在 NVIDIA Blackwell、Hopper 和 DGX Spark 上提供 Day-0 支援。Inkling 2 Mini 的 12 個核心層會對每個 token 運算三次,每次各自保留 KV cache,並讀取前一次運算傳來的訊息;模型有 26B 總引數、3.5B 啟用引數,支援最多 1M tokens 的上下文。vLLM 也支援可調整運算次數的研究檢查點,讓團隊能測試速度、記憶體用量和品質之間的取捨。

    推薦理由:Inkling 2 Mini 的迴圈層會讓每個核心層重複運算三次,vLLM 透過分開管理快取並融合訊息讀取來支援這種架構。

  5. Vercel Blog49

    Vercel Functions 開放接收最大 20MiB 的請求資料

    Vercel Functions 現在在 Public Beta 中可接收最大 20MiB 的請求資料,原本上限是 4.5MB。要使用較大的上限,必須設定環境變數 VERCEL_SUPPORT_LARGE_REQUEST_BODY=1,並讓專案的函式使用 4GB 效能記憶體設定;功能適用於 Node.js、Python、Bun 和 Routing Middleware。Edge runtime 仍維持 4.5MB 上限,超過會回傳 413。啟用後,Routing Middleware 看得到請求標頭和其他資料,但收不到請求本文;處理大檔案時也要盡快讀取,避免記憶體和傳輸壓力。

  6. Dev.to Top Tech49

    小型 SaaS 如何調整錯誤追蹤 API,分清結帳失敗和重試成功

    結帳出現錯誤時,錯誤紀錄只能說明程式哪裡出問題,不能單靠錯誤筆數判斷顧客有沒有買成功。這篇文章用物流 SaaS 的情境示範:把每次結帳結果分成完成、預期中的拒絕和意外失敗,再保留錯誤堆疊方便工程師查原因;重試後成功的結帳仍可留下紀錄,但不能算成失敗。接著用同一批範例比較 Sentry、Rollbar 和 Bugsnag,檢查分組、重複紀錄和通知規則是否符合需求。重點是先用結帳結果判斷影響,再用錯誤紀錄找原因;如果還需要瀏覽器畫面重現或服務追蹤,就要評估更完整的工具。

  7. Dev.to Top Tech45

    NGINX 的 CVE-2026-121810 漏洞:別只看版本號確認是否修補

    NGINX 的版本號看起來夠新,不代表實際執行的程式已經修好;有些套件會把修補補進舊版本,容器也可能用新標籤包著舊程式。CVE-2026-121810 會在處理 HTTP/3 串流時,讓程式用到已經釋放的資料;受影響的程式可能讓工作程式當掉,成功利用時還可能以工作程式的許可權執行程式碼。研究者已展示利用方式,但公告發布時沒有確認它已在實際攻擊中被利用。修補後的版本包括 NGINX 1.30.7 和 1.31.9;若暫時無法更新,可關閉 HTTP/3。確認是否安全時,要檢查套件、正在執行的程式和容器映像,不能只看版本字串。

  8. Dev.to Top Tech54

    作者分享如何用 IPv6 整理家中網路與虛擬機器

    家中裝置和虛擬機器一多,IPv4 的位址衝突、NAT 和轉送設定就容易讓人頭痛。作者整理自己的 IPv6 網路,把實體區域網路、虛擬機器和各項服務分成三個網路,每個網路各用一個 /64 網段;另外也替它們配置 ULA 私有位址,讓家中裝置之間使用的位址不會因為 ISP 更換對外網段而改變。作者也分享了預設閘道和網路轉送的設定方式,並提出幾個仍不確定的地方,供讀者檢視。

  9. Dev.to Top Tech62

    Node.js 如何安全復原雲端檔案備份

    雲端硬碟能收到檔案,不代表備份完整,也不能保證復原時拿到的是正確學校的資料。文章比較 Amazon S3、Azure Blob Storage 和 Google Cloud Storage,建議先依現有的雲端帳號與管理方式選服務,再用資料庫儲存每份備份的租戶、檔案清單、大小和檢查碼。復原時,Node.js 程式要先確認備份屬於這個租戶而且狀態正確,再核對下載檔案的大小與檢查碼。短時間有效的下載連結只負責傳送檔案,不能證明備份正確;先下載到暫存區檢查,也能避免不完整的檔案直接取代現有資料。

  10. Dev.to Top Tech69

    如何避免一段錯誤堆疊追蹤被算成 40 筆紀錄

    有些記錄平臺會把錯誤訊息的每一行都算成一筆,因此一段 Java 堆疊追蹤可能變成 40 筆以上,增加費用,也讓工程師難以一次找到完整錯誤。文章建議把錯誤和堆疊內容一起寫進同一筆 JSON 紀錄;若暫時不能改程式,也可以請收集工具先把多行接回一筆。文中也提醒,AWS CloudWatch 的記錄群組預設不會自動到期,可設定保留期限,例如 30 天。

  11. Dev.to Top Tech52

    Go DNS 切換監控教學:同時檢查網域解析和郵件是否被接受

    更改網域設定後,紀錄看起來正確,不代表使用者已連到新主機,寄出的郵件也不一定已被接受。文章示範用 Go 檢查網域是否解析到預期的 IP,並提醒郵件接受狀況要另外測量;兩種結果不能混為一談。切換前先記下舊主機和郵件測試結果,切換後按照預先訂好的觀察時間檢查,期間保留舊主機以便回復。這套做法能幫團隊看出設定與實際結果的落差,也讓回復時有明確依據。

  12. ollama release46

    Ollama 發布 v0.40.17-rc3,改善多個 AI 工具的使用方式

    Ollama v0.40.17-rc3 加入多項更新:Claude Code 需要工具時才載入 MCP 工具;Apple silicon 上的 Ollama 現在能同時處理多個請求。更新也修正了部分顯示卡載入模型或配置記憶體失敗的問題,並讓 API 傳遞工具設定時保留原有的 JSON 格式規則。這次更新還調整了多行輸入、模型推理設定和 ChatGPT 設定檔切換等操作,讓使用過程少一些卡關。

  13. The New Stack55

    OpenSearch 的 Bianca Lewis 說明,為什麼 AI 助理走錯路時看起來仍像成功

    AI 助理可能呼叫了不合適的 API,卻收到正常回應,讓儀錶板仍顯示一切正常。OpenSearch Software Foundation 的 Bianca Lewis 說,團隊可以搭配 OpenTelemetry 追蹤 AI 助理呼叫了哪些服務和 API,再加上成本資料,檢視哪一步走偏、哪裡花費較高。這些線索能幫開發者找出答案看似合理、實際上卻不符合使用者要求的原因。她也提到,團隊可用同一套 OpenSearch 技術處理搜尋和觀測,並把轉換平臺的成本納入整體考量。

  14. Dev.to Top Tech70

    Goliat Cloud Inventory 把 Azure 資源、訂閱和成本放進同一個面板

    Azure 的資源、訂閱、標籤和費用分散在不同地方時,要回答一個簡單問題也可能得花不少時間。作者做了 Goliat Cloud Inventory,把這些資料放進可自行架設的面板,讓人搜尋和篩選資源、檢視成本,也能管理資料收集工作。資源清單會先整理成快照再匯入資料庫;成本則另外向 Azure 查詢。內建預覽使用虛構資料,不會讀取你的 Azure 訂閱;要檢視真實費用,則需要設定訂閱和相應許可權。文章也說明,這個版本不會預測費用或自動建議省錢方式。

  15. Dev.to Top Tech49

    金融預約資料清理教學:用限速工作者安全處理過期保留

    金融服務裡的預約可能代表付款授權或商品保留;如果清理工作做到一半中斷,隨手刪掉資料就可能讓付款紀錄和實際狀態對不起來。作者建議把每筆過期預約變成可重試的工作指令,分批挑出資料,再由有速度限制的工作者處理;每一步都留下狀態和紀錄,重複收到同一項工作時,也不會再次釋放不同預約。 例如,付款服務回覆「請稍後再試」時,工作者應放慢速度並安排重試;遇到爭議中的預約,則先送交人工檢查。正式啟用前,先觀察完整的保留期限,再小量分批推出。這樣即使工作中斷或重跑,也能查清每筆預約為什麼被處理,以及哪些還需要確認。

  16. Dev.to Top Tech56

    WooCommerce 網店備份常漏掉什麼?作者整理 5 個檢查重點

    網店明明每天都有備份,故障後卻可能還是少了訂單或檔案。作者根據維護 WooCommerce 網店的經驗,整理出五個常見問題:備份和網站放在同一個主機、舊的自訂備份沒有收進 HPOS 訂單資料表、還原時漏掉備份之後收到的訂單、從未實際測試還原,以及圖片檔案太大。文章建議把另一份備份放在不同供應商,確認訂單資料表有備份,還原前保留備份後新增的訂單,也定期在測試環境試著還原。這些檢查能讓店家更清楚故障時會少掉什麼,以及網站要多久才能恢復。

  17. Dev.to Top Tech47

    零售商該怎麼先訂好事故發生時由誰決定

    庫存資料對不起來時,零售商可能還在接新訂單,團隊卻不確定誰能喊停。文章用一家虛構零售商的促銷活動當例子:十二家門市的庫存有落差,團隊要在活動開始前決定是否暫停部分門市的新配送承諾。作者建議事先寫清楚誰整理方案、誰提供資料、誰拍板、誰執行,以及負責人不在時由誰接手;也要訂好時間到了仍缺資料時怎麼做,並演練恢復營運的條件。這樣出事時,大家能更快找到有權決定的人,也知道哪些訂單和門市會受影響。

  18. Browser Use75

    Browser Use 拆解瀏覽器 AI 助理變慢的原因,兩項設定讓航班搜尋快 10 秒

    AI 助理搜尋航班時,等網頁載入、呼叫瀏覽器和模型回覆都可能拖慢速度;如果只看總時間,也容易把不同設定的結果混在一起。Browser Use 用 Google Flights 找蘇黎世到倫敦最便宜的 3 班單程航班,逐項檢查慢在哪裡,並把模型改用 priority、取消每次都經過住宅代理這兩項設定調整。搜尋時間從 30.7 秒降到 20.7 秒,example.com 的測試則從 10.3 秒降到 6.5 秒。作者也提醒,速度比較要確認任務正確率相同;有些看似更快的做法,會讓答對率下降。

    推薦理由:這次實測拆出代理瀏覽器搜尋變慢的多個原因,也比較兩項設定調整前後的耗時,並提醒速度比較必須維持相同的任務正確率。

  19. Phoronix (Linux HW & Benchmarks)42

    Intel 調高 Linux 7.5 的顯示卡記憶體對映上限,讓多張大顯示卡更好運作

    多張顯示卡一起使用、而且每張卡的 VRAM 都很大時,Linux 可能會用完分配給顯示卡資料的位址,讓資料建立或交換失敗。Intel 提出把 Linux 7.5 核心的相關範圍從 1TB 調高到最多 8TB。這項改動是為了因應多顯示卡系統:位址空間變大後,就比較不容易因為用完空間而出錯。本文也提到,這項改動可能是為 Intel Crescent Island 顯示卡做準備;該卡每張最多有 160GB LPDDR5X。

  20. Dev.to Top Tech67

    Node.js 如何安全清理過期工作階段與權杖

    定期清理過期工作階段和權杖時,若工作中途失敗或重跑,就可能重複刪除,也難以向客服交代刪了什麼。文章建議用 cron 發出有範圍的清理工作,交給佇列逐批處理,再由 PostgreSQL 記下完成收據;工作者必須先完成資料庫交易,才確認佇列訊息已處理。Redis TTL 可以讓工作階段較快失效,但不能取代可查明清理範圍與原因的紀錄。文章也建議先只記錄候選資料並比對,再啟用刪除,並測試工作者在提交後當機時,重送是否安全。

  21. Dev.to Top Tech61

    eMondrian 加入 JSON REST API,讓更多工具查詢語意模型

    過去,程式想從 eMondrian 查數字,通常得處理較難使用的 XMLA;這讓 Python、Node.js 和自動化工具不容易直接接上。Community 2026.11.20 起,eMondrian 也能透過 REST API 接收 MDX 或 DAX 查詢,並用 JSON 回傳表格資料。網站、筆記本或低程式碼工具因此能讀取模型裡的業務數字,例如銷售額,不必各自重寫計算方式。查詢仍會依使用者角色套用資料列許可權;API 只能讀取資料,不能修改模型或寫回資料。

  22. Dev.to Top Tech66

    EveryInfra 說明如何打造 App 發布管理工具,從建置狀態追蹤到分階段推出

    App 更新分批推出時,商店頁面上的版本號和評價不一定能告訴你哪些人已經更新,也不適合拿來即時判斷要不要暫停。EveryInfra 實際查了多款 App 的商店資料,整理出公開資料能看到什麼、有哪些限制,並說明如何搭配 Apple 和 Google 的開發者 API 管理建置檔、審核狀態與發布進度。文中也比較兩邊的分階段發布方式:Apple 依固定天數增加比例,Google Play 則要自行調整。作者建議事先訂好停損規則,並用當機率和自家使用資料監控新版;公開評論較晚才出現,適合日常檢視,不能當成即時煞車訊號。

  23. Dev.to Top Tech48

    WordPress 兩次改寫網址規則,讓所有文章頁面都變成 404

    網站想修好分類頁和作者頁的網址,結果兩次修改都讓所有文章頁面打不開。原因是文章網址本來就以 /blog/ 開頭,再把分類網址的開頭也設成 blog 後,WordPress 分不清兩種網址該套用哪條規則。後來作者加了三條自訂規則,文章頁又全變成 404;逐條重新啟用檢查後,發現兩條沒問題,分類規則則根本不需要,因為 WordPress 原本就能處理分類網址。文章提醒,網址規則會互相影響,寫好一條規則不代表它不會撞到別條;出問題時,先全部撤回,再一條一條測試,並把還沒查明的原因說清楚。

  24. Dev.to Top Tech67

    為 30 到 40 個 WordPress 網站規劃監測架構後,作者決定改用 Grafana Cloud

    替 30 到 40 個 WordPress 網站監測效能,團隊原本打算自架整套系統,但把維護時間也算進成本後,決定改用 Grafana Cloud。作者指出,自架每月約要 €110 的主機費和 €300 的維運工時;以原先估算來看,約 600 個網址設定檔、也就是 100 個網站左右,自架才可能划算。後來實作時又發現服務的檢查次數和計費方式會改變估算,重新分組後每月約 €61。文章提醒,這類比較要把自己的工時列入,也要寫明未來在哪些條件下重新評估。

  25. Dev.to Top Tech38

    SitePulse 如何監看網站是否正常運作

    自由工作者和小型工作室要顧很多客戶網站,很難隨時知道網站有沒有出問題。作者做了 SitePulse,會從歐洲和亞洲檢查網站:網站要在 10 秒內回應,若兩地連續檢查都連不上或收到錯誤,才會判定網站故障並發出提醒;使用者也能設定網頁必須出現指定文字。免費方案可監看 5 個網站,每 5 分鐘檢查一次,保留 7 天紀錄。這讓小團隊更容易掌握網站狀況,但目前還沒有 SSL 憑證到期檢查和簡訊或電話提醒,Pro 方案也尚未開放升級。

  26. Dev.to Top Tech49

    AI 寫作工具斷網時,使用者還能做什麼?

    用 AI 改寫檔案時突然斷網,使用者可能不知道剛才的修改有沒有存好、AI 還會不會回覆,也不確定能不能繼續工作。好的設計要保留原文和手動修改,並清楚說明資料是否已存在裝置上、還在等著同步。若使用者已經改過同一段文字,重新連線後就該讓他用目前的文字重新要求改寫;如果收到根據舊版本產生的結果,也要標明來源,避免和新修改混在一起。這樣就算模型暫時連不上,使用者仍能自己完成工作,也知道 AI 的要求目前進行到哪裡。

  27. Dev.to Top Tech61

    JIT 和 AOT 編譯怎麼選?程式啟動速度與長時間執行效能的取捨

    程式可以在啟動前先編譯,也可以一邊執行一邊編譯;兩種方式的差別,會影響啟動速度、記憶體用量和長時間執行的效能。AOT 在程式啟動前就做好編譯,適合常常重新啟動的命令列工具、雲端函式或手機 App;JIT 會觀察程式實際怎麼跑,再為常用部分做最佳化,適合長時間運作的服務。代價是 JIT 啟動較慢,也會在執行時佔用額外資源;AOT 則需要事先知道要支援哪些平臺。文章也提醒,公平比較要同時看第一次回應要等多久,以及程式穩定執行後有多快。

  28. Thomas Wolf59

    一般 CDN 擅長把許多小檔案送給各地使用者,但下載 AI 模型時,常是少數大型檔案被大量機器抓取,舊的做法就不太合用。Hugging Face 表示,他們從今年夏天起自建 CDN,每月傳送近 1 exabyte,實際流量約為每秒 420 GB、每秒 80,000 次請求。新的快取設計是為大型檔案、發布日流量暴增,以及多個熱門模型和大型資料集同時下載而打造,團隊也做了即時流量地圖。

  29. Dev.to Top Tech47

    Salesforce 整合要先算好 API 額度、資料怎麼放,以及真正的成本

    Salesforce 整合最容易卡住的,往往不是連線方式,而是整個組織共用的每日 API 額度,還有資料一開始放錯位置。程式寫入資料時,也可能觸發其他人設定的程式;如果那些程式一次處理太多資料,整批工作就可能失敗。文章建議從一開始就把多筆資料打包處理,並先談好用什麼資料辨認同一筆紀錄。 例如,新增 5,000 筆聯絡人,一筆一筆送會用掉 5,000 次 API 呼叫;每次打包 200 筆,只要 25 次。這能省下額度,但也要先確認 Salesforce 裡原有的程式能不能一次處理這麼多資料。整合前先查清楚額度、資料安排和既有設定,才能減少上線後才發現問題、再花時間補救的機會。

  30. Dev.to Top Tech68

    Kubernetes 1.40 將移除 kube-proxy 的 IPVS 模式,團隊需提早規劃遷移

    Kubernetes 預計在 1.40 移除 kube-proxy 的 IPVS 模式,平臺團隊若沒先確認節點設定,升級時可能影響服務流量。IPVS 模式早在 1.35 已標示淘汰;使用 Linux 核心 5.13 或更新版本的節點,可改用 Kubernetes 1.36 起提供的 nftables 模式,較舊的節點則可改用 iptables 模式,並在設定變更後重新啟動每個節點。文章中的測試顯示,nftables 在 5k、10k 和 30k 個服務的首個封包延遲略低於 IPVS,但只測了特定情境。遷移前應確認各叢集實際使用的模式、節點核心版本,以及代管服務的設定方式。

  31. Dev.to Top Tech44

    雲端開發者學 Supabase:哪些經驗用得上、有哪些新東西,以及 30 天學習計畫

    熟悉雲端開發的人轉學 Supabase,許多基本功都能直接派上用場:像是用程式設定基礎設施、操作 PostgreSQL、管理金鑰、檢視紀錄、設定資料存取許可權,以及用 CI/CD 部署。Supabase 也提供指令和管理介面,處理資料庫、登入驗證與儲存等工作;例如,可用 supabase db push 套用資料庫變更,並用 RLS 政策限制誰能讀取資料。 文章也提醒,學 Supabase 不必從頭忘掉原本的雲端經驗,但要熟悉它自己的指令和設定方式。現有內容提到 Supabase Edge Functions,以及自動產生的 /rest/v1 和 /graphql/v1 端點;不過正文在比較手動建立資料庫與使用 Supabase 的範例中途就結束,沒有提供完整的 30 天計畫。

  32. Dev.to Top Tech58

    HPC 評估不只看 FLOPS:AI 助理如何加快科研迴圈

    超級電腦跑得快,不一定代表研究者能更快得到答案;資料搬移、排隊和分析也會拖慢整個研究流程。作者根據 SC26 的案例,主張衡量從提出想法到拿到結果一天能完成幾輪,而不只看單次運算速度。文章也談到 CPU、GPU 和量子處理器如何由排程工具協調,以及網路延遲和本機小型模型對研究工作的影響。文中的硬體效能數字多來自廠商,作者提醒研究團隊應用自己的程式實測。

  33. Dev.to Top Tech53

    如何用短效簽名連結安全還原私有備份

    管理員要下載私有備份時,讓伺服器代傳檔案會增加負擔,也可能讓大型檔案拖慢服務。作者建議先確認備份存在並檢視大小,再由只有管理員能使用的路由產生短效下載連結,讓瀏覽器直接向儲存服務下載;連結本身就像通行證,持有的人在期限內都能下載,因此要記錄誰申請、檔案位置和到期時間,不能把連結寫進紀錄。文章也提醒,刪除期限要由儲存層的刪除工作落實;還原時先複製到暫存位置並確認成功,再切換使用中的資料,避免兩次還原互相覆蓋。

  34. Dev.to Top Tech58

    Prisma 全平臺實測:作者分享部署 Sellary 的卡點、延遲與費用

    把現有網站搬到新的資料庫和主機,可能遇到設定衝突,也不能拿正式資料冒險。作者在獨立測試環境中,把 Sellary 接上 Prisma Postgres 和 Prisma Compute,並用測試金鑰跑完註冊、建立商品和讀取商品頁的流程。過程中,他記下 Prisma ORM 6 和 Compute 部署工具的衝突,以及建置時缺少設定值造成的問題和處理方式。商品頁延遲約 742ms、資料庫寫入約 749ms,兩者都只測量一次。作者也比較了 Prisma 的方案費用與原本每月 $0 的架構,決定讓正式服務留在原處,繼續用 Prisma 測試環境評估。

  35. Phoronix (Linux HW & Benchmarks)39

    AMD 為 GNOME 加入依畫面調整背光的功能

    筆電螢幕在顯示暗色畫面時,可以調低背光來省電,但顏色準確度可能會受影響。AMD 替 GNOME 的 Mutter 加入配合這項功能的支援,讓系統能依畫面內容調整背光,並在下一個畫面更新時套用設定。舉例來說,畫面較暗時可降低背光,減少耗電。這項改動讓支援功能的 AMD 筆電更容易使用省電顯示功能,但調整背光也可能讓畫面顏色不那麼準確。

  36. Dev.to Top Tech61

    AI 電話助理接上真實電話後,哪些地方出問題、又是怎麼修好的

    AI 電話助理接上真實電話後,可能答錯營業時間、讓客人以為預約成功,或在工具執行時沉默太久。作者分享自己替居家服務公司打造電話助理時遇到的問題:把營業時間交給 n8n 計算,只有確認客人聽到預約時間並回應後才寫入行事曆;工具成功才讓助理說「已預約」。他也把等待上限從 120 秒縮短到 25 秒,改用真實電話測試新版,並重播實際收到的資料,避免測試格式和正式來電不同。重複來電時,系統還會檢查並移動同一電話號碼的既有預約。

  37. Dev.to Top Tech61

    Node.js AI 圖片應用的儲存做法:保護原圖、縮圖與到期清理

    多人共用的 AI 圖片應用,若只靠檔案路徑區分學校,可能讓不同學校的圖片被讀取或刪除。這篇指南建議把原圖和縮圖分開記錄,放在私有物件儲存空間,並由伺服器檢查使用者是否有許可權,再發出短時間有效的下載連結。上傳和縮圖處理也要依資料庫裡的學校與圖片資料決定存放位置,不採用瀏覽器或工作佇列傳來的路徑。刪除時先標記狀態,再由工作程式重試清除,確認沒有檔案後才完成;定期比對資料庫與儲存空間,也能找出遺留檔案。

  38. Dev.to Top Tech52

    如何在正式服務環境中調整推測解碼,讓 vLLM 推論更快

    推測解碼不一定能讓模型在所有流量下都變快,草稿 token 太多或同時處理的請求太多,都可能抵銷加速效果。文章建議先依模型和工作負載選方法,再根據草稿 token 的接受率調整數量,並在低、中、高流量下比較開啟與關閉推測解碼的結果。評估時要看每個 token 的延遲和吞吐量,不能只看第一個 token 出現的時間。vLLM 的標準拒絕取樣在硬體數值精度範圍內不改變輸出分佈;會放寬驗證的方式則可能改變結果。