跳到正文

#部署/工程

RSS
今日 58 則
11月17日週二
  1. Dev.to Top Tech35

    PraxisAI 如何把 AI 諮商練習變成有根據的回饋

    只讓學員和 AI 對話、最後給個分數,很難知道哪裡做得好、接下來該怎麼練。PraxisAI 讓諮商學員和 AI 扮演的個案練習,再根據指定的諮商方法,找出對話裡看得到的行為,對照能力專案給回饋。像是學員聽到個案說自己很孤單後,馬上又問下一題,系統可以說明這讓對方少了談談感受的空間,並指出可以先回應那份情緒。若對話裡沒有足夠線索,系統也能不評分。這樣的設計讓學員知道分數從哪裡來,也能看出哪些能力還需要練習。

  2. Dev.to Top Tech44

    Wi-Fi 顯示已連線卻不能上網?照順序檢查路由器和網路

    Wi-Fi 顯示已連線,只代表裝置連上了路由器,不代表路由器已連上網際網路。可以先確認裝置有沒有拿到 IP 位址和預設閘道,再依序測試能不能連到路由器、外部 IP 位址,以及 DNS 是否查得到網站名稱。像是能連到路由器,卻連不上外部 IP,問題可能出在路由器的外網連線或 ISP;若外部 IP 通得了、網站名稱查不到,才該檢查 DNS。 如果家裡每臺裝置都上不了網,要檢視路由器的外網狀態,以及 PPPoE 帳密或 ISP 要求的 VLAN 設定;只有一臺裝置出問題,則先檢查那臺裝置的網路設定。重設路由器前,先記下原本的外網設定,並依照該型號的說明操作,因為「30-30-30 重設法」不適用於所有現代路由器。

  3. Dev.to Top Tech56

    Kubernetes GitOps 第 6 篇:如何用 FluxCD 的 Webhook 讓變更立即部署

    FluxCD 平常會照設定的時間間隔檢視 Git 程式庫,有變更時可能得等下一輪才開始更新。這篇教學示範如何設定 webhook,讓 GitHub 在程式庫有變更時通知 FluxCD,並接上公開的 Ingress 端點。作者也用調整範例程式的 CPU 限制來確認通知送達後,FluxCD 會立即開始同步;另外還示範如何接收新的容器映像事件,讓映像更新也能觸發同步。

  4. Dev.to Top Tech64

    Since 作者復盤:錯誤紀錄顯示零錯誤,MCP 呼叫卻一再失敗

    服務的錯誤紀錄一片空白,AI 助理的工具呼叫卻接連失敗,讓 Since 團隊一度以為問題在使用者端。作者改查每個請求的狀態碼,發現 MCP 呼叫總是先收到 400,接著重試才得到 200;伺服器不支援使用者端採用的新協定版本,又沒有記下拒絕原因,因此這些失敗被當成一般資訊略過。團隊也找到掃描工作佔住主執行緒、拖慢健康檢查的問題。兩種缺陷都可能造成當天的故障,作者無法確定各自的影響;修正後,呼叫不再先遭拒絕,掃描時的執行緒佔用也縮短了。

  5. Dev.to Top Tech66

    Terraform 如何把現有雲端資源安全匯入管理

    手動建立的雲端資源若沒有記在 Terraform 狀態裡,就很難和其他基礎架構一起管理;匯入時若設定不合,之後套用變更還可能改掉或刪除資源。文章整理多種匯入方式,建議用匯入區塊,先看 terraform plan,再透過程式碼審查和 terraform apply 匯入;計畫應顯示只有匯入,新增、修改和刪除都是 0。作者也說明如何用 for_each 一次匯入多個資源、產生設定草稿,以及用 removed 區塊讓 Terraform 停止管理資源而不刪除它。匯入後再跑一次計畫,確認顯示「No changes」,才能知道設定已對上現有資源。

  6. Dev.to Top Tech73

    阿里推出 Qwen4-Max,但只提供封閉 API,沒有可下載的模型權重

    團隊想用更省成本的模型,又希望能在自己的伺服器上部署;Qwen4-Max 在這兩件事上帶來不同取捨。阿里推出的 Qwen4-Max 有 2.4 兆個引數,每個 token 啟用 710 億個引數,支援 1M-token 上下文視窗,但只能透過封閉的 QwenCloud API 使用,沒有可下載的模型權重。文章指出,它在指定測試中的 token 用量減少 48%–49%,Work360 平均任務成本從 $4.43 降到 $1.67;不過,想用自家 GPU 執行模型的團隊無法自行部署,也少了改用本地模型的退路。

  7. Latent Space65

    Cloudflare 為何自稱 Neolab,從網路基礎設施走向自研模型

    大型語言模型有時會把資料中的數字看錯,也可能輸出格式不合用的答案。Cloudflare 開始推出自己的小型 System One 模型:Clef 參考 TypeSafe AI 的 Jev,Clairic 則用來從零散資料中擷取或估算指定的值,例如從發票讀出訂單號碼。這類模型希望用更快的方式處理部分工作,減少每個請求都交給大型語言模型的需要。文章也指出,Cloudflare 已有大量營收,和一般所說的「Neolab」條件不完全相同;公司把自研模型視為從基礎設施、運算和模型服務一路延伸而來的下一步。

  8. Dev.to Top Tech36

    SynapCores 把模型、資料庫和 AI 助理需要的功能放進同一個服務

    用 Ollama 在自己的電腦跑模型很方便,但要讓模型查自家檔案,常得再裝向量資料庫、接上其他工具,還要想辦法讓同事安全使用。SynapCores 把模型推論和資料庫放在同一個服務,也提供 Ollama API;每次呼叫都要帶金鑰,還能設定金鑰可讀哪些資料。像客服資料寫著 Orbit Pro 可在購買後 45 天內申請退款,模型就能根據資料回答期限,並附上答案來源;也能用一段 SQL 替資料列寫摘要。只想在終端機跑模型的人用 Ollama 就很合適;需要模型直接處理資料的人,則可考慮 SynapCores。

  9. Dev.to Top Tech62

    Kubernetes AI Conformance 清單不等於驗收,營運者仍要確認證據

    Kubernetes AI Conformance 的清單列出廠商申報的專案,但營運者還得判斷證據是否足以支援自己的工作負載。作者檢視 Kubernetes v1.35 的 24 份申報,發現所有必備專案都標成「已實作」,但這不代表每一項都經過獨立測試;選填專案則有空白、不適用和未實作等不同狀態。文章建議營運者核對證據是否符合實際平臺、硬體與 Kubernetes 版本,並在升級後重新檢查,才能留下有根據的驗收紀錄。

  10. Databricks Blog50

    Databricks Lakebase Postgres 如何靠快取,避免查詢直接讀取物件儲存

    一般人會擔心,Postgres 把資料放在物件儲存裡,查詢就得等很久。Lakebase Postgres 的做法是先找電腦裡的快取,找不到再問 pageserver;只有兩邊都沒有,才去物件儲存找資料。實際上,約 99.46% 的頁面讀取都由電腦本機快取處理,物件儲存平均每秒只收到約 39 次請求。比較少見的情況,是很久沒使用的資料庫剛醒來,或有人還原舊資料;第一次讀取可能較慢,資料放進快取後,後續讀取就會走較快的路徑。這讓 Lakebase Postgres 能把資料放在物件儲存,同時維持快速查詢。

  11. Dev.to Top Tech47

    內部開發平臺架構解析:用 5 個分工清楚的層面避免拼裝式平臺

    有些團隊把入口網站、雲端工具和一堆 bash 指令碼硬湊在一起,結果開發者得自己改又長又複雜的設定檔,服務出問題時也看不到原因;這種拼裝式平臺反而讓工作更難做。文章介紹一種分成 5 個層面的內部開發平臺架構:開發者只要說明服務需要什麼,其他層再負責部署、準備雲端資源、把關安全規則,以及回報成本和服務狀況。舉例來說,開發者可以只寫明服務需要 PostgreSQL,平臺就依規則準備資料庫,不必自己指定雲端環境細節。這樣能讓每一層各做各的,也讓開發者及早看到服務花費,減少平臺變成難以維護的一團。

  12. Dev.to Top Tech70

    作者實測 11 款 Linux 監控代理程式:最省記憶體的最耗 CPU

    在 Linux 伺服器裝監控代理程式,會佔用多少記憶體、CPU 和磁碟空間?作者把 11 款代理程式裝在同樣規格的伺服器上,以預設設定量測,並公開原始資料和測量工具。結果顯示,最省記憶體的 HetrixTools agent 平均只佔 9 MB,但閒置時會用掉約 17% 的單核心 CPU;node_exporter 的 CPU 用量最低,不過它只提供指標,還需要在別處執行 Prometheus。作者也說明測量工具曾漏算或算錯資料,修正後重新測量,因此比較時要看記憶體尖峰和其他資源用量,也要記得結果只適用於這次的伺服器、系統和預設設定。

  13. Dev.to Top Tech61

    Node.js 如何建立可靠的提醒工作佇列

    提醒通知遇到逾時或工作者關閉時,很難知道訊息到底有沒有送出。這篇指南說明如何讓提醒工作安全重試:每次嘗試都保留狀態紀錄,先記下觀察到的結果,再確認工作完成;如果通知結果不明,就留待核對,不要直接當成已送達。關閉工作者時,先停止接新工作,讓手上的工作完成或釋出,之後再檢查逾期工作。若通知服務無法用識別碼避免重複通知,就要用寄送紀錄核對結果。這些做法能讓團隊在程式中斷後,判斷哪些提醒要重試、哪些需要人工處理。

  14. elvis53

    自動改進 harness 時,如果換了模型或測試資料,原本有效的修改可能不再有用。Google 的研究提出一套記憶系統,會替每次修改記下原因、預期結果、實際結果和測試情境,讓系統在提出或挑選新修改前先參考。研究指出,這套方法在 4 種領域的跨資料集與 Opus 到 Gemini 測試中,都比只沿用原本的 harness 表現好;10 次程式測試平均增加 2.36 分。研究也舉例,一套為 Opus 調整的 harness 換到 Gemini 後,分數低於未調整的版本。

  15. Phoronix (Linux HW & Benchmarks)47

    Valve 提出 AMDGPU Linux 驅動程式修改,盼減少 Steam Play 遊戲卡頓

    有些 Windows 遊戲透過 Steam Play(Proton)在 Linux 上執行時,會因為頻繁更新顯示卡記憶體中的資料而卡頓;每次更新還得分開處理,增加處理器的負擔。Valve 的 Linux 顯示卡驅動程式團隊提出 AMDGPU 驅動程式修改,把多項更新集中處理,也讓部分更新可以同步進行。作者表示,這有機會明顯減少大量使用這類記憶體操作的遊戲卡頓,但目前沒有提供實際改善數字;這批修改是否能趕上 Linux v7.5,還要看後續進展。

  16. Dev.to Top Tech73

    如何避免 AI 助理長期持有 S3 金鑰

    把長期有效的 S3 金鑰放在 AI 助理手上,一旦金鑰外洩,別人可能持續使用它,直到有人發現並撤銷。文章整理了幾種降低風險的方法:透過 AWS STS 發出會自動失效的短效憑證,或讓 ECS、EKS 等執行平臺提供角色憑證;再把許可權限制在助理真正需要的資料夾和操作。只要讀取或寫入單一檔案時,也可以改用有期限的預簽名網址。若助理會自行啟動,則可由憑證中介服務驗證身分,再發出限時、限權的憑證。文中也提醒,RustFS 沒有內建 STS 式的短效憑證服務,需要自行處理發放。

  17. Dev.to Top Tech35

    修正 Pezzo 寫入 ClickHouse 時的時間格式錯誤,只要加一項設定

    Pezzo 的報表服務把帶有毫秒和 Z 的時間資料寫進 ClickHouse,資料庫卻讀不懂,測試提示詞時就會出現錯誤。修正方式是在這次寫入資料時加上 date_time_input_format: "best_effort",讓 ClickHouse 能辨認這種時間格式,不必依賴伺服器原本的設定。這項修改已合併,也關閉了相關問題;它讓報表資料能順利寫進資料庫。

  18. Dev.to Top Tech41

    免費節點訂閱連不上?用四個指令找出問題在哪一層

    免費節點訂閱突然不能用,可能是訂閱網址回傳錯誤網頁、節點連不上、連線設定不合,或通往節點的路上塞車;一直刪掉重訂,未必能解決問題。作者建議照順序檢查:先看網址送來的是不是節點清單,再測節點能不能連上,接著檢查連線設定,最後才查網路路線。例如網址若回傳 HTML 錯誤頁,軟體可能會把它當成空清單匯入,讓人誤以為訂閱壞了。定期從自己平常使用的網路測試,並隔幾小時再測一次,才能挑出比較穩定的節點。

  19. Lobste.rs (Engineering Discussion)57

    PAW 把自然語言規格變成可離線執行的小型程式

    像是挑出重要的日誌、修補格式錯亂的 JSON,這些工作很難只靠固定規則做好,交給大型語言模型 API 又會花錢,也得連網。這篇研究提出 PAW:先把自然語言寫的工作規格編譯成小型模型配件,再交給較小的模型執行。研究中的 0.6B Qwen3 執行 PAW 程式時,表現可媲美直接提示 Qwen3-32B,推論記憶體約少 50 倍,並能在 MacBook M3 上以每秒 30 個 token 執行。這種做法讓大型模型先負責建立工具,之後反覆使用時可以離線執行。

  20. Tom’s Hardware AI & Computing59

    Phison Pascari X201P 評測:15.36TB SSD 的 PCIe 5.0 寫入表現

    企業伺服器要快速儲存大量資料,也得讓硬碟在長時間忙碌時維持穩定。Tom’s Hardware 實測 Phison Pascari X201P 15.36TB SSD,並拿它和 Kioxia CD9P-R 比較;X201P 持續寫入約 12 GB/s,隨機寫入也能連續一小時維持超過 600,000 IOPS。在 AI 模型訓練的檢查點測試中,X201P 把模型狀態存到硬碟的時間少了 39%。不過,它在較輕的寫入負載、資料庫交易紀錄和部分 8K 讀取測試中較慢,寫入檢查點時也會讓其他讀取工作變慢。它較適合常存檔或大量寫入的伺服器,實際選擇仍要看工作內容。

  21. Dev.to Top Tech71

    Cloudflare 為什麼不快取 HTML?用 Cache Rules 找出原因

    網站明明設定了快取標頭,Cloudflare 卻可能仍回覆 DYNAMIC,讓人以為設定出了錯。原因是 Cloudflare 預設不快取 HTML 和 JSON,光有 s-maxage 還不夠,必須先用 Cache Rule 讓網頁符合快取條件。作者檢查兩個網站的回應標頭,並說明 DYNAMIC 代表請求一開始就沒進入快取流程;BYPASS 則是已符合條件,但網站回傳的內容不能快取。文章也示範如何讓網站依照來源標頭設定快取、排除登入頁面與使用者 Cookie,並用 curl 重複檢查結果,避免把個人化頁面送給其他訪客。

  22. Dev.to Top Tech55

    TapixAi 實測 100 多種模型,發現 API 帳單不只看標價

    只看每百萬 token 的標價,常會算不準實際帳單。TapixAi 實測自家 API 轉接服務上的 100 多種模型,指出回答越長、請求重試,以及提示詞變大,都可能拉高費用;有些服務還會把推理 token 算進帳單,卻不一定回傳內容。團隊用固定提示詞測試前後帳單差額,並依回報的 token 數計算成本。作者也提醒,不同服務商可能用不同帳戶方案提供同一模型,買方最好拿自己的常用問題實測帳單,並確認流量來自哪個方案。

  23. Dev.to Top Tech43

    軟體團隊為什麼要這樣設計?ADR 如何幫程式碼留下決策紀錄

    軟體改了好幾輪,當初為什麼這樣設計,常常也跟著沒人記得。ADR 是放在程式碼專案裡的簡短文字紀錄,寫下重要決定、當時的原因,以及可能的好處和代價,讓新加入的開發者也能瞭解來龍去脈。就像老房子拆牆前先查修繕紀錄,才不會拆掉藏著電線或撐住樓上的牆;文中的例子則記錄了 Express API 為 MySQL 使用連線池的決定。團隊遇到類似問題時,可以查舊紀錄,少走冤枉路,也比較不會誤刪有原因留下的程式碼。

  24. Dev.to Top Tech57

    如何用 macOS LaunchAgents 讓內容流程故障後自動恢復

    排程程式可能默默停止,讓人以為內容流程還在運作,實際上卻沒有產出。這篇教學用 macOS 的 launchd 和 LaunchAgents 安排工作,並設定 KeepAlive,讓失敗的工作重新啟動;再加上定時檢查的監看程式,找出未載入或太久沒有成功的工作。程式也會留下成功時間和錯誤紀錄,方便檢視狀況。由於故障後可能重跑,作者提醒要讓發布流程能安全重試,例如用固定內容識別碼避免重複發布。

  25. Dev.to Top Tech65

    Sentinel 在 Jetson 上做即時監控的經驗:慢模型別替快速決策下結論

    監控攝影機重新連線後,慢速模型可能才回傳舊畫面的結果,讓系統誤以為現在發生了事件。Sentinel 是作者團隊在 Jetson Orin Nano Super 上製作的實驗性專案:它替每筆觀察記下畫面時間、開機編號和串流版本,過期或來自舊串流的結果不能觸發即時決策,但仍可留作歷史紀錄。系統也把事件和待送出的通知存進 SQLite,重開後仍能接著傳送。臉部辨識和本機視覺語言模型尚未完成驗證,因此預設關閉;大部分測試則可在沒有攝影機、GPU 或模型的電腦上執行。

  26. Dev.to Top Tech70

    mtop 1.6 即時顯示本機模型請求速度與變慢原因

    本機模型回答變慢時,光看最後的速度數字,很難知道問題出在哪裡。mtop 1.6 會在請求開始後,就顯示已等待多久、目前產生多少 token 和即時速度;符合條件時,也會標出模型有多少比例在記憶體執行、上下文快滿了,或請求正在排隊。GPU 面板也會提示 NVIDIA 顯示卡是否因過熱或耗電而降速。這些資訊能幫忙找出常見瓶頸;檢視每筆請求的數字需要讓使用者端經過 mtop 的本機代理程式。

  27. Dev.to Top Tech48

    Home-lab.net 如何用 CloudFront 展示網站,同時讓家中主機不開任何對外連線埠

    想展示家裡架的網站,常得在「開家用路由器的連線埠」和「把所有東西藏在 VPN 後面」之間選一邊。這套 home-lab.net 設計讓同一個網域依使用者所在位置,連到公開網站或家中服務:外面的人看到放在 S3 和 CloudFront 的靜態展示頁;人在家裡或透過 WireGuard 連線時,才會進到 Proxmox 上的私人服務。家中主機會主動連到 AWS 東京的 WireGuard 中繼站,信件也先存在 S3,再由家中主機透過 HTTPS 取回,因此網路連線都是從家裡往外開始,家用路由器不用開對外連線埠。 不過,文中描述的家中服務、WireGuard 中繼站和郵件流程都還是預計中的架構;目前已上線的只有 S3 和 CloudFront 上的公開網站。這種做法讓外人能看到架設成果,家中服務則留給自己使用;代價是多了 AWS 中繼站和郵件轉送等設定工作。

  28. Dev.to Top Tech62

    NovaSolver Studio 用 187 次模擬找出 10 種公式偏差

    工程公式通常只在特定條件下準確,離開那些條件後,結果可能差不少。作者用 Claude Code 操作開源工程模擬軟體 NovaSolver Studio,完成 187 次模擬,並挑出 10 組與公式或外部資料的比較。例如在 Re = 200 時,Stokes 公式算出的阻力係數是 0.12,模擬結果則為 0.780,與標準阻力曲線相差 0.6%。文章也比較薄壁壓力管、彎曲梁和有孔薄片等案例,說明被簡化掉的慣性、形狀或厚度可能造成差距。這些比較指出公式假設可能是原因之一,但不能單獨排除建模或網格造成的誤差。

  29. Dev.to Top Tech42

    DAF 如何先設好審核流程,再讓 AI 助理組裝企業系統

    公司常常為每個新需求從頭打造系統,久了就有一堆難以維護的帳號和許可權設定。DAF 想把常用功能做成共用底座,再用一份藍圖組出不同系統;AI 助理可以提出組裝方式,但必須先經過檢查、沙盒預覽和人工核准,才能發布。像是藍圖要刪除欄位時,系統會列出哪些頁面或流程會受影響,並擋下這次修改。一次自動演練也測到審核、阻擋和回復舊版等流程。不過 DAF 還沒有正式上線的客戶,這些結果是測試演練,不代表已在實際營運中驗證。

  30. Dev.to Top Tech35

    科技專案為什麼常卡在溝通不清?

    科技專案有時不是程式寫不好,而是大家沒說清楚要做什麼、為什麼要做。有人把意見講得像命令,卻期待別人當成討論;有人只說「這很糟」或「網站壞了」,沒交代問題在哪裡、怎麼發生,讓同事只能猜。把需求、個人偏好和建議分清楚,說明理由,也講明成功的樣子,能讓團隊少花時間猜心思,更快找出問題、做出決定。作者提醒,溝通也是工程工作的一部分。

  31. Dev.to Top Tech68

    Azure Monitor 教學:Workbook Reader 為什麼看不到圖表資料

    在 Azure Monitor 裡,只給使用者 Workbook Reader,雖然能開啟工作簿,圖表卻可能讀不到資料。作者用測試帳號實際操作後發現,工作簿本身和它查詢的 Log Analytics 工作區各有一層許可權:要看圖表,還得在工作區授予 Log Analytics Reader;要儲存工作簿修改,則需要另一種寫入許可權。測試也顯示,進入編輯畫面不代表有權儲存,Azure CLI 同樣會檢查使用者對資源的許可權。作者另外按計費專案查出,一條每 15 分鐘執行的警示規則產生了 $0.35 費用。

  32. Dev.to Top Tech40

    SLAM 如何把 GNSS 位置和機器人地圖對在一起

    GNSS 用經緯度記錄位置,但機器人需要用公尺計算移動距離和路線,兩種座標直接混用,地圖和位置就可能對不上。文章說明,系統可以把 GNSS 的位置一步步換成適合機器人使用的座標:WGS84 用來表示地球上的位置,UTM 方便處理較大區域的地圖,ENU 則以附近的固定地點為中心,表示東、北、上方向的距離。舉例來說,機器人在工廠園區移動時,可以用 ENU 記錄它離起點幾公尺,再把 GNSS 位置和 SLAM 地圖接起來。座標基準、區域和高度若設定不一致,位置仍可能出錯;把轉換方式說清楚,才能讓機器人和地圖保持對齊。

  33. MarkTechPost76

    Sarvam 推出 Token Factory,讓 8 款開放權重模型在印度提供推論服務

    把模型放在海外雲端,印度團隊可能會遇到連線延遲;Sarvam 推出 Token Factory,讓開發者透過同一個 OpenAI 相容 API,使用部署在印度 GPU 叢集上的 Sarvam 與開放權重模型。平臺也提供企業在自家環境部署的選項。Sarvam 表示,部分測試中首個 token 等待時間較短,Kimi K3.1 Pro 的每張 GPU 每秒輸出量是 InferenceX 的 1.9 倍;但在 DeepSeek V4.1 Flash 的測試裡,Together 的串流速度較快。文中的效能數字都來自 Sarvam 自行測量。

    推薦理由:Sarvam Token Factory 把多款模型放在印度的 GPU 叢集上提供服務,報導也比較了自家測試結果與其他平臺,能看出速度優勢並非每項都領先。

  34. MarkTechPost76

    NVIDIA 開源 NVKE 和 NVKR,管理 GPU 伺服器上的 Kubernetes

    要在自己的 NVIDIA GPU 伺服器上管理 Kubernetes 叢集,需要準備叢集管理工具和它依賴的系統映像檔。NVIDIA 開源了 NVKE 和 NVKR:NVKE 負責建立及管理叢集,NVKR 則建置叢集會用到的作業系統映像檔、容器映像檔和套件。兩者目前都在公開預覽階段,文章指出 NVKE 安裝後的 API 預設使用未加密的 HTTP,而且沒有開啟驗證;管理系統的升級與備份流程也尚未提供,因此目前不適合用在正式環境。

    推薦理由:NVKE 管理 GPU 伺服器上的 Kubernetes 叢集,NVKR 負責建置相關映像檔與套件;文中也整理了預覽版的安全與維護缺口。

  35. Dev.to Top Tech38

    雲端什麼都包,反而讓簡單工作變貴:把檔案處理留在使用者裝置上

    旋轉 PDF、簽名或壓縮圖片這些簡單工作,有時得先把檔案傳到遠端伺服器,還要經過登入、排隊和付費流程,速度變慢,也讓人擔心資料外流。文章介紹 HandleMyFile:使用者在瀏覽器裡處理檔案,資料留在自己的裝置上,載入網站後還能離線使用;Web Workers 也能讓處理工作在背景執行,避免畫面卡住。像合併 PDF 時,瀏覽器會直接讀取檔案、合併頁面,再讓使用者下載結果,不必把檔案送上雲端。這種做法能減少等待和伺服器開銷,也讓敏感檔案少經手第三方;但實際速度仍要看使用者裝置的運算能力。

  36. Dev.to Top Tech72

    Meta 如何安全遷移資料管線,作者整理面試回答與 Airflow 3.4 升級提醒

    資料管線換新時,即使工作顯示成功,也可能把資料寫錯,事後才發現。作者整理 Meta 遷移大量資料工作的方法:先讓新舊系統同時運作,把新系統的結果寫到另一張表,持續比對資料筆數、校驗碼、延遲和資源用量;切換後仍保留舊系統運作,出問題就能快速切回。資料異常時,也能只處理有問題的分割槽,不必停掉整條管線。文章把這套做法整理成資料工程師面試時可用的回答架構,並提醒升級 Airflow 3.4 時,除了比對資料,也要檢查工作觸發次數與事件是否被消耗。

  37. Dev.to Top Tech45

    HTTP/3 API 除錯:在協定結束的地方觀察,找出問題在哪一站

    HTTP/3 的資料走 QUIC 和 UDP,封包裡的內容受到保護,所以只看網路封包或使用只懂 TCP 的代理工具,通常看不到完整的 HTTP 請求。作者建議在真正接收 HTTP/3、結束 QUIC 連線的邊緣裝置記錄請求,再把紀錄和後面的閘道、服務資料串起來。像是使用者收到 200,不代表 HTTP/3 一定成功,因為連線可能已改走 HTTP/2;而閘道沒有紀錄,也可能是請求在邊緣裝置就被擋下。這樣分段檢視,才能知道問題出在連線、閘道規則,還是應用程式。

  38. Dev.to Top Tech64

    llama.cpp 和 vLLM 怎麼選?依使用人數與硬體挑本機推論引擎

    在自己的電腦上跑 AI 模型,要選 llama.cpp 還是 vLLM,得先看有多少人會同時使用,以及手邊的硬體。作者實測兩種引擎,整理出簡單選法:單人使用、沒有 GPU,或模型放不進顯示卡記憶體時,可選能跑量化 GGUF 模型的 llama.cpp;伺服器要同時服務多人時,則可考慮 vLLM。兩者都能提供相同格式的 /v1 API,因此更換引擎時,程式通常只要改網址和模型名稱。作者也提醒,vLLM 可能因顯示卡記憶體不足而無法啟動,可調低記憶體使用比例和上下文長度,再用相同模型與提示詞比較速度。