跳到正文

#部署/工程

RSS
今日 54 則
11月20日週五
  1. Dev.to Top Tech39

    Astral UV 如何加快 KVM VPS 上的 Python 建置並減少記憶體用量

    在記憶體不多的 KVM VPS 上建置 Python 服務,pip 和 Poetry 可能要花很久整理套件,也會吃掉不少記憶體,讓伺服器因記憶體不足而中斷。作者改用 Astral UV 管理 Python 版本和套件,並透過共用快取重用已下載的資料。以一個有 48 個直接依賴套件的 FastAPI 服務為例,沒有快取時,安裝時間從 pip 的 84.2 秒降到 4.1 秒,記憶體用量則從 410 MB 降到 42 MB。作者表示,整個 CI/CD 建置流程也從 4.5 分鐘縮短到 22 秒,讓部署更快,也減少 VPS 因記憶體不足而當機的情況。

  2. Dev.to Top Tech41

    gemma3:12b 用自己的機率打破搜尋排序平手,12 題有 11 題把正確文章排第一

    搜尋系統用 AI 幫文章打分時,常會遇到好幾篇分數一樣,結果靠原本的排序把不對的文章放到前面。作者比較三種做法:維持原本的 0 到 10 分、改用 0 到 100 分,或讓模型在分數相同時,再看它對各個分數有多確定。結果發現,分數改得更細也沒用,gemma3:12b 常常還是給出相同分數;但看它對分數的把握度後,12 題有 11 題把正確文章排第一,修正了原本被平手影響的兩題。代價是每題約要 95 秒,適合批次整理或夜間報告,未必適合即時搜尋。

  3. Dev.to Top Tech65

    Fluency Lab 教你建立會自動更新的 TTS 發音字典

    診所的電話問候就算能正常播放,姓名、藥名或地名念錯,還是會造成困擾;要改發音,往往得請開發者更新設定。Fluency Lab 範例讓員工用簡訊送出更正,由每間診所專用的程式角色檢查內容、更新發音字典,再重新產生問候音訊。遇到多人同時修改時,它會先讀取最新內容再重試,避免漏掉別人的更新;系統也會定期產生音訊並比對檔案是否改變。不過,比對結果只能看出音訊是否不同,不能判斷念得好不好,面向病患的發音仍應由合適的人員確認。

  4. Dev.to Top Tech46

    WebAssembly 和容器怎麼隔離不信任的程式?比較速度、安全與相容性

    外來程式可能藏在外掛、雲端函式或別人寫的程式碼裡,放進自己的系統執行時,得先想好怎麼避免它亂動。容器像是替程式準備一套獨立的 Linux 環境;WebAssembly(Wasm)則把程式放進受限制的空間,只有主機明確開放的檔案或網路功能才能使用。 兩者各有適合的工作:容器能直接執行大多數 Linux 軟體,工具也成熟;Wasm 啟動快、佔用空間較少,適合短時間執行的小程式和外掛。例如每次收到請求才啟動的雲端函式,Wasm 可能只要幾微秒,容器通常要數十到數百毫秒。不過,Wasm 能不能安全隔離,還得看主機開了哪些許可權;要跑大型或既有軟體時,容器通常更方便。

  5. Dev.to Top Tech42

    用 AMD 和 DGX Spark 打造在地 RAG 系統,搜尋實驗室筆記與簡報

    實驗室的筆記和簡報散落在許多檔案裡,找到答案後也常得再花時間確認出處。作者做了一套在地 RAG 系統,能搜尋 Markdown 筆記和 PowerPoint,也會標出答案來自哪個檔案、哪一行或哪張投影片。簡報裡的圖表會先由 Gemma 4 31B 寫成文字說明,讓系統也找得到圖上的內容。 測試時,研究人員用日文和英文問兩個問題:CSV 檔放在哪裡,以及某個磁碟目前還有多少空間。系統都找到了相關資料;回答第一題時附上能支援答案的出處,第二題則沒有亂猜空間數字,因為筆記無法證明目前的容量。這讓研究人員不只拿到答案,也能回到原始資料查證;圖表說明則能幫忙找到投影片,細節仍要開啟原圖確認。

  6. Together AI Official Blog65

    Tencent Hy4 登上 Together AI,可讀圖片並用來寫瀏覽器遊戲

    想讓 AI 助理看懂圖表,還能照著要求做出簡單遊戲,可以試試 Tencent Hy4。Together AI 現在提供這個模型的雲端服務,可用文字和圖片輸入,也支援工具呼叫與 JSON 輸出。文章測試它讀取圖表數字並重畫成 HTML,也讓它用單一提示詞寫出瀏覽器遊戲;作者實際開啟遊戲,確認能玩到結束並重新開始。Together AI 列出的價格是每 1M 輸入 token $0.83、輸出 token $2.50,快取輸入 token $0.042。

    推薦理由:文章用讀取圖表、重畫圖表和製作瀏覽器遊戲的實測,呈現 Hy4 在 Together AI 上的圖文輸入與程式生成表現,並列出使用價格。

  7. Dev.to Top Tech61

    作者找出 Mac 因 555 個閒置 MCP 伺服器卡住的原因與解法

    Mac 跑起程式開發用的 AI 助理後變得很卡,作者原以為是 npm exec 沒有正常關閉伺服器,查過程式後才發現,真正原因是 94 個仍開著的工作階段各自啟動 MCP 伺服器,總共留下 555 個程式。作者建議把伺服器設定移到各專案,工作完成後關閉工作階段;他也用 Prismor 列出伺服器的使用情況,清掉閒置專案。清理 373 個程式後,他的 Mac 交換空間從 38.3 GB 降到 17.2 GB,開著的工作階段仍可繼續使用。

  8. Dev.to Top Tech51

    RedLine 用 Flutter 打造 ERPNext 外勤銷售手機 App

    外勤業務常在網路不穩的地方工作,連不上 ERPNext 時,仍得處理訂單、客戶拜訪和其他日常工作。作者分享開源手機 App RedLine,使用 Flutter 開發,讓業務能把部分工作先存進手機,等 ERPNext 連得上時再依序同步,也能檢視哪些工作待處理、失敗或已完成。建立銷售訂單、登記客戶和提交費用申請等工作可離線排隊;收款和會立即改變庫存的操作則需要連線驗證,避免資料過期造成帳務或庫存不一致。RedLine 目前只有阿拉伯文介面。

  9. Dev.to Top Tech40

    PostgreSQL 大型資料清理怎麼做?用排程發工作、讓工作者分批刪除

    一次刪掉大型資料庫裡的資料,可能花太久,讓排程工作卡住;如果中途失敗,從頭重跑也會浪費資料庫資源。這篇文章建議讓排程只負責開始工作,再把工作切成有固定範圍的小任務交給工作者處理;每個任務完成後記錄結果,失敗時只重試那一小段。 例如,清理某家付款服務商的資料時,可以按商家和日期範圍分批處理。即使同一批工作重送,系統也能認出已完成的部分,不必整張資料表重跑。這種做法能控制資料庫負擔,也讓換排程或佇列服務時比較容易保留原本的清理流程;但如果工作有很多前後依賴,文章建議改用 Temporal 或 Airflow 這類工作流程工具。

  10. Dev.to Top Tech61

    Node.js 客服知識庫為什麼用追蹤比只看記錄更容易找出問題

    客服知識庫明明搜尋速度很快,卻可能把已過期的退款規定放進答案;只看分散的記錄,很難查出是哪一步出了問題。作者在 Node.js 服務中比較兩種做法:每一步各寫一筆記錄,或讓同一張客服單的資料處理和搜尋步驟連在一條追蹤紀錄裡。這樣可以沿著文章版本、索引、篩選和排序,查出舊資料在哪裡被選中。追蹤資料也要遮蔽客服訊息、限制存取,並留意儲存成本;小型單機原型用記錄和少量指標可能就夠了。

  11. Dev.to Top Tech55

    金融研究儀錶板如何避免翻頁時重複或漏掉資料

    金融研究儀錶板更新索引時,分析師可能在下一頁看到重複資料,或找不到剛才看過的檔案。作者建議每次搜尋固定使用同一份索引快照,並用遊標記住分頁位置;索引更新期間,新搜尋可使用新版,進行中的搜尋則繼續讀舊版。搜尋時先多找一些候選資料、去掉近似重複項,再依遊標分頁。這樣能重現當時的結果並查明問題來源,但保留舊索引和額外排序會增加儲存需求與延遲。

  12. Databricks Blog75

    PostgreSQL 19 已在 Lakebase 上線

    資料庫升級常要等託管服務跟上,還得處理查詢變慢、資料表膨脹或讀取副本落後等問題。Databricks 宣佈 PostgreSQL 19 已可在 Lakebase 使用,並介紹這版新增的實用功能:例如整理資料表時,大多數過程仍可讓讀寫繼續;讀取副本也能等到指定的資料更新後再回應,減少剛寫入卻讀不到的情況。升級前應先測試自己的工作負載,並確認依賴的擴充套件已支援 PostgreSQL 19;新版本也調整了部分預設值。

    推薦理由:PostgreSQL 19 把資料表整理、查詢計畫調整和副本讀取同步等工具納入核心,文章也說明瞭升級前要留意的限制與相容性變更。

  13. Dev.to Top Tech67

    Nvidia 與 Microsoft 擴大開放模型部署,EY 稱成本降低 15 倍

    企業想降低 AI 成本,也希望能在自己的資料和裝置上使用模型。Nvidia 與 Microsoft 在 Microsoft Ignite 宣佈擴大開放模型的使用方式,涵蓋 Azure、企業自有裝置、工廠系統和 Windows 雲端電腦。EY 用 Microsoft Foundry 的 Programmed Training 調整 Nvidia Nemotron 開放模型,分類企業採購紀錄;EY 表示,在自己的評測資料上準確度提高 55%,成本比專有前沿模型低 15 倍。這是 EY 對特定工作的結果,不能直接代表其他用途也會有相同表現。

  14. Dev.to Top Tech56

    遠端工程師報到前,如何準備裝置、帳號和許可權

    遠端工程師第一天卡住,常是因為 VPN、程式碼存放庫或雲端許可權還沒準備好。作者整理了一套報到前的做法:先指定裝置、帳號和各種許可權的負責人,再把電腦設定好、依工作需要開通帳號,並在新人登入前實際確認 VPN、存放庫和必要許可權都能使用。最後,把硬體資訊、登入方式、第一天要做的事和求助物件放進一份簡短檔案。每次新人報到後再補上遇到的問題,能減少等待,也避免一開始就給太多許可權。

  15. iThome (臺灣)71

    研究發現 Docker Hub 映像檔中的 API 金鑰最快 7.86 秒就遭濫用

    把 API 金鑰放進公開的容器映像檔,可能很快就有人拿來呼叫服務。研究團隊在 Docker Hub 等 8 個儲存庫放入 300 個蜜罐映像檔,記錄到超過 14 萬次使用 AWS 測試金鑰呼叫 API 的活動;Docker Hub 上的 100 組測試金鑰全在發布後 15 分鐘內被使用,最快只隔 7.86 秒。研究人員推測,自動化工具可能直接檢查映像檔內容,不必執行容器。團隊建議在 CI/CD 流程中檢查金鑰;若發現外洩,應撤銷或輪替憑證,光刪除映像檔並不足夠。

  16. Dev.to Top Tech53

    Marketplace 如何在正式流量下安排定期資料清理

    定期清理資料時,排程器準時啟動,不代表工作一定順利完成;大量刪除也可能拖慢顧客使用的服務。文章以 Marketplace 每週摘要的過期資料為例,建議把清理工作切成有限大小的批次,並讓重複執行也不會多刪資料。若工作只需在單一資料庫執行 SQL,可先把排程放在資料庫旁;若要使用應用程式規則、跨服務協調或獨立管理重試,再考慮應用程式工作者或外部排程器。比較時要同時觀察工作延遲、資料庫負載和維運成本,並在顧客流量與延遲補跑時一起檢查。

  17. Dev.to Top Tech73

    Claude Code 2.1.328 讓 Bedrock、Google Cloud 和 Microsoft Foundry 預設使用自動模式

    用雲端平臺執行 Claude Code 時,互動工作階段原本可能常跳出許可權提示;Claude Code 2.1.328 把自動模式擴大到 Amazon Bedrock、Google Cloud's Agent Platform 和 Microsoft Foundry。這些平臺若沒有設定許可權模式,現在會直接以自動模式開始;Plan 模式和 Bash 提示也能使用自動模式,並可用 disableAutoMode 關閉。作者提醒,使用別人管理的雲端帳號時,工作階段可能不會先詢問你;透過這些平臺付費,也要留意分類器會增加 token 費用。另一項變更是 /code-review 現在只找錯誤和違反 CLAUDE.md 的情況,整理與效率建議改用 /simplify。

  18. Dev.to Top Tech61

    遊戲付款提醒怎麼寄才可靠?用佇列控管寄送速度與重試

    夜間一次找出大量到期付款提醒時,如果直接寄出電子郵件和簡訊,可能撞上服務商的速度限制,也難以確認哪些通知真的送到。作者建議先由排程找出到期專案,再分批放進佇列,讓工作者依服務商和租戶的限制逐筆寄送,並記下每次嘗試的結果。若請求逾時,系統應標記為結果不明,不能當成已送達,也不能直接重寄;要先查核服務商紀錄,避免玩家收到重複通知。文章也提醒,佇列收到工作不代表服務商已接受通知,必須留下可追查的紀錄,才能安全處理失敗與重試。

  19. Dev.to Top Tech59

    如何用 Amazon Bedrock AgentCore CLI 部署第一個 AI 助理

    遇到服務問題時,常得先查清楚是自己的系統出錯,還是 AWS 某個區域出了狀況。作者帶著讀者用 Amazon Bedrock AgentCore CLI 做一個簡單的 AI 助理,查詢 AWS Health Dashboard 的公開資訊,並可依區域篩選事件。文章從建立專案、在本機執行到部署上線,也示範如何檢視追蹤紀錄,瞭解模型何時呼叫工具、傳了什麼內容。作者提醒,AWS 資源會依使用量計費,部署前要準備好帳號許可權,完成後也要清理資源。

  20. AWS Machine Learning Blog74

    Amazon Bedrock AgentCore 讓 AI 助理透過 AWS 帳單購買 Marketplace 產品

    AI 助理要使用付費搜尋或其他線上服務,開發者過去得先處理付款方式和 API 金鑰。Amazon Bedrock AgentCore payments 現在可讓 AI 助理透過 AWS 帳單,按次購買 AWS Marketplace 上支援 x402 的軟體、API、資料和內容;開發者也能設定每次工作可花的金額和核準賣家。文中示範的研究助理會先搜尋並挑選工具,收到價格報價後確認預算,再付款取得搜尋結果;交易會記錄在 AWS CloudTrail 和 AWS Cost Explorer。

    推薦理由:這項更新把 AWS Marketplace 的付費流程接進 AI 助理工作流程,文章也示範如何用支出上限、核准賣家與交易紀錄管理採購。

  21. Dev.to Top Tech58

    FastAPI 如何整合不同 DNS 服務,並在變更前確認核准內容

    管理多個 DNS 服務時,最怕漏掉紀錄,或照著過期的核準內容直接修改。作者示範一套 FastAPI 後端的變更檢查流程:先儲存目前紀錄和預計修改的內容,套用前重新讀取資料,確認現況仍和核準時相同;修改後再比對完整紀錄。例子中,連 DMARC 郵件紀錄也要保留,少了一筆或 TTL 被改動,都會擋下流程。文章也提醒,DNS 服務回報的內容不等於外部實際查到的結果,兩者要分開確認。

  22. Dev.to Top Tech41

    財務研究儀錶板如何分階段搜尋資料,並限制查詢範圍

    財務研究儀錶板要找資料時,常得同時顧到資料夠不夠新、查詢會不會做太多工作,以及答案能不能找到來源。文章建議先用篩選條件找出一小批相關段落,再把較好的結果交給第二階段排序,最後附上原始來源。像是第一輪最多找 40 段,再挑 8 段重新排序;每個答案也要能追到段落、網址和日期。 資料新不新,不能只看它什麼時候被放進系統:檔案可能今天才匯入,內容卻是舊的;也可能談的是較新的訊息,匯入時間反而較早。把來源日期和匯入日期分開記錄,並限制查詢數量與答案可用的文字,研究人員才容易檢查答案、找出資料錯誤。

  23. Dev.to Top Tech47

    AI 產生的圖片怎麼儲存和刪除?先看用途、誰能看,以及還有沒有報告在用

    AI 產生的圖片可能是草稿、客戶報告的一部分,也可能是稽核紀錄;如果只看檔案建立時間就自動刪除,可能讓客戶看不到報告圖片,也可能一直留著已經沒用的私人圖片。文章建議先記清楚圖片的用途、所屬客戶與報告、誰能讀取,以及哪些報告資料還用到它,再決定何時停止提供或刪除。 例如,報告撤回後,系統應停止讓客戶讀取圖片,但圖片仍可能要為稽核保留一段時間;等相關資料都處理好,才進行刪除。這些決定也要留下紀錄,讓人查得到誰或哪個工作流程做了什麼。如此一來,系統比較不會誤刪重要圖片,也能避免無用資料一直留下來。

  24. Dev.to Top Tech51

    adqproxy 如何用 Rust 和 Pingora 打造反向代理

    自己架反向代理時,除了把請求送到正確的伺服器,安裝、設定和服務啟動也得一起運作。作者說明 adqproxy 如何以 Rust 的 Pingora 為基礎,加入網站設定、路由、設定檢查和 systemd 服務;他也比較 Pingora 與 NGINX 的定位,並修正了預設網站沒有後端時服務無法啟動,以及不同路由可能送到同一個後端的問題。文章還介紹安裝後的健康檢查、HTTPS 設定與更新時保留既有設定的做法,並說明這項工作沒有進行同條件的效能比較。

  25. Dev.to Top Tech64

    Accelerate 訓練只用到一張 GPU?教你找出設定問題

    租用多張 GPU 訓練時,工作可能看起來正常,實際上卻只用到一張,其他 GPU 閒著,讓訓練變慢,也白白增加費用。原因可能是 Accelerate 設定檔中的 num_processes 設成 1;它會照設定啟動程式,不會自動用上所有 GPU。作者建議先用 nvidia-smi 檢視 GPU 數量,再檢查設定檔,也可以在啟動時用 --num_processes 指定數量。ComputeFence 目前會提醒找不到設定檔,但還不會檢查設定的程式數是否和 GPU 數量相符;有些工作本來就會刻意少用 GPU,仍要依實際需求判斷。

  26. Dev.to Top Tech48

    HashiCorp Vault 如何降低管理密碼和金鑰的工程成本

    密碼和 API 金鑰散落在程式碼、設定檔和各種工具裡,工程師就得一再搬動、更新和檢查;出問題時,還要追查並重新部署。把掃描工具當成主要做法,只能在秘密外洩後抓出線索,不能省掉這些反覆處理的工作。文章用 HashiCorp Vault Community Edition 當例子,說明集中管理後,服務可以按許可權取得需要的密碼,也能定期更換;部分系統還能拿到有期限、到期可撤銷的帳密。文章舉的試算是:每月省下約 $2,505,扣掉基礎設施費用後,約 2.7 個月回本。這些只是示範數字,實際值會依團隊情況改變;重點是把省下的工程時間和維運費用一起算進去。

  27. Together AI Official Blog74

    Together AI 推出免費資料快取工具,讓 GPU 叢集更快讀取資料

    GPU 叢集如果每次都要從遠端下載模型或資料集,運算工作就得等資料到齊,還可能遇上費用和流量限制。Together AI 推出 Together Storage Accelerator(TSA),會把首次讀取的資料放在叢集節點的 NVMe 儲存裝置中,之後由叢集內的快取供其他節點讀取,原有程式也不必改寫。官方在 H100 節點測試,從 Cloudflare R2 讀取 2 GiB 資料,快取後約需 0.6–0.7 秒;200 臺節點下載同一份 70 GB 檢查點,來源只需傳送一次。TSA 現已免費提供給 Together GPU Cluster,實際速度會依資料來源和網路路徑而不同。

    推薦理由:實測比較冷資料與快取讀取速度,也呈現多臺 GPU 共用同一份檢查點時,快取如何減少重複下載與資料傳輸。

  28. Together AI65

    GPU 叢集從雲端物件儲存讀取資料時,下載速度可能拖慢工作。Together AI 推出免費的儲存加速器,會把 S3 相容儲存空間和 Hugging Face 的資料快取到叢集的 NVMe。每個叢集只需從來源下載一次,之後暖讀取速度最高可達 3.4 GB/s,約比跨雲端下載快 20 倍;原文也表示不用修改程式碼。

    推薦理由:原文提供了暖讀取速度與跨雲端下載的比較,可用來瞭解快取對 GPU 叢集讀取資料速度的影響。

  29. AWS Machine Learning Blog56

    BMW Group 如何管理數百個 AI 助理,讓上千名工程師一起開發

    數百個 AI 助理由不同團隊開發時,許可權、安全和品質標準很容易各做各的。BMW Group 分享一套管理方式:先把 AI 助理拆成可重複使用的工具、技能和工作流程,再用中央登入表讓團隊查詢、審核並避免重複開發。每次部署前,系統會檢查許可權、安全設定和測試結果;上線後也會追蹤品質變化,必要時交由人員調查。團隊仍能自行試作,但共同的檢查流程會在 AI 助理進入正式環境前把關。

  30. Rohan Paul67

    一般網站的服務常假設工作幾秒內就會完成,但 AI 助理可能要跑上好幾個小時、等人回覆,也可能做到一半出錯。Kong 推出雲端平臺 Volcano,讓開發者用 Claude Code、Cursor 或 Codex 建立 AI 助理,並直接部署;平臺已備有資料庫、登入、儲存空間、沙盒和長時間工作流程。另一項功能 LavaFlow 會檢視正在運作的網站和程式碼,找出出錯原因,再透過 GitHub 提交修補建議,讓開發者可以直接檢視修改內容。

    推薦理由:一般網站常假設每次工作很快就會結束,Volcano 把長時間執行、等待人工回覆與中途失敗的情況納入部署環境,LavaFlow 還能提出修補程式。

  31. Dev.to Top Tech42

    定時工作該用 UTC 還是使用者的時區?各有什麼問題

    伺服器用 UTC 安排工作,時間清楚又好查,但「每天早上 8 點寄摘要」就可能因為季節和地區不同,變成使用者眼中的早一小時或晚好幾小時。若是備份、清理這類沒人直接感受時間的工作,用 UTC 就很合適;若是提醒或每日報表,則應記住使用者的時區和當地時間規則,每次執行後再算下一次時間。像夏令時間開始時,凌晨 2:30 可能根本不存在;結束時,凌晨 1:30 可能出現兩次,因此要先決定怎麼處理,也要在紀錄裡同時顯示 UTC 和使用者當地時間。

  32. Dev.to Top Tech43

    Node.js 旅遊行程規劃器如何管理檔案版本與查詢新鮮度

    旅遊資訊有些很少變,例如簽證指南;有些卻可能隨時改變,例如航班異動。行程規劃器若只查舊檔案,可能會給出過時答案;只查網頁,又得確認資料是不是可靠。文章建議把兩種查詢方式分開:穩定的政策資料儲存版本、來源網址和生效時間,容易變動的資訊則即時查詢;每個答案也要附上它根據的來源。 例如,行李規定從 8 kg 改成 10 kg 時,系統應找出目前適用的版本,不能引用舊規定。用一小組標好答案的問題,檢查版本、資料新不新,以及答案有沒有附來源,就能比較不同做法。這樣出錯時比較容易找原因,也能避免把過期資訊當成最新訊息。

  33. Dev.to Top Tech35

    Redis 分散式鎖定實用指南:避免 Webhook 逾時重送,造成重複處理

    外部付款服務送出 Webhook 後,如果等不到回應,常會自動重送;系統若沒認出這是同一筆請求,就可能重複扣款或出貨。這份指南用請求內容算出固定的辨識碼,再用 Redis 鎖住正在處理的請求:第一筆取得鎖後才能執行付款,重送的請求則會被擋下。鎖設有 30 秒期限,處理完也會先確認鎖還屬於自己才刪除,避免誤刪別的程式新取得的鎖。不過,文中的程式碼沒有完成驗證:測試環境因缺少 redis 套件,程式連啟動都做不到。

  34. Dev.to Top Tech53

    如何修正 Google Search Console 的 Sitemap 抓取與讀取錯誤

    Sitemap 在瀏覽器裡打得開,Google Search Console 卻顯示「Couldn't fetch」或「Sitemap could not be read」,常讓人不知道問題出在哪裡。作者整理了一套排查清單:用 curl 模擬 Googlebot 從外部讀取檔案,確認回應狀態、內容型別和 XML 格式,再檢查防火牆、robots.txt、重新導向、檔案大小與回應速度。檔案能讀取後,也要確認裡面的網址可正常開啟且沒有被設為不索引;修正後重新提交,並檢查 Sitemap 索引檔列出的每個子檔。

  35. Dev.to Top Tech57

    多個 AI 助理協作時,錯誤常出在任務交接

    把工作拆給多個 AI 助理,個別測試看起來都正常,合起來卻可能交出錯誤答案,因為任務在交接時漏掉了條件。作者整理多 AI 助理系統常見的失誤,並示範為每次交接記下交辦內容、傳過去的資料與許可權,以及接手者如何理解任務。比如原本只要查歐洲企業客戶的流失率,接手者卻漏了「歐洲」這個條件;比對前後說法,就能找到偏差開始的步驟。作者建議一路保留使用者的原始要求,並讓接手者先用一句話重述任務,方便檢查工作有沒有走樣。

  36. LMSYS Org Blog74

    Ant International 團隊如何加速 DeepSeek-V4.1-Flash 在 H20-3e 上的推論

    DeepSeek-V4.1-Flash 在 H20-3e 上處理長提示時,等待第一個回答的時間佔了很大一部分。Ant International 團隊調整分開處理提示與生成回答的部署方式,也改進了多個運算步驟;在 8 張 GPU 的測試中,平均完成時間從 13.63 秒降到 4.70 秒,每秒輸出量從 847 個 token 增至 2,465 個。團隊也測試了 4 張 GPU 同機處理的配置,平均完成時間從 18.62 秒降到 7.96 秒。這些結果顯示,不同部署方式的速度和吞吐量各有差異,適合用來比較實際工作負載下的取捨。

    推薦理由:這組測試比較 DeepSeek-V4.1-Flash 在 H20-3e 上的分拆與同機部署,呈現延遲和吞吐量如何隨配置改變。

  37. Dev.to Top Tech56

    Python Docker 映像檔怎麼選?Alpine、Slim 與 Distroless 的差別

    Python 專案換用 Alpine 後,pip 可能因找不到合用的預先編譯套件而改從原始碼編譯,讓安裝失敗或等上好幾分鐘。文章說明,Alpine 使用 musl,許多套件提供的 manylinux 版本則是給使用 glibc 的系統;可以用 pip install --only-binary=:all: 檢查自己的套件清單有哪些裝不起來。作者建議多數服務先用 python:3.x-slim,並在多階段建置中把虛擬環境複製到相同基礎映像檔的執行階段,讓編譯工具不必放進最終映像檔。等服務在 Slim 上順利運作後,再依安全需求考慮 Distroless,但要接受沒有 Shell、較難直接除錯的限制。

  38. Dev.to Top Tech54

    Cloudflare 的 520、521、522、523、524 錯誤怎麼查?先確認問題在哪一步

    網站接上 Cloudflare 後出錯,訪客看到的錯誤碼會提示問題出在哪一段。這篇教學整理 520、521、522、523 和 524 的差別:有的是主機拒絕連線,有的是連不上,也有的是連上後回覆內容出錯或等太久。作者建議從伺服器外部直接連到主機測試,再依結果檢查網頁伺服器、防火牆、DNS 或執行太久的請求。監測網站時也要檢查公開網址是否回傳 200,避免把 Cloudflare 的錯誤頁誤當成網站正常。

  39. Dev.to Top Tech35

    狀態頁該讓監控自動更新,還是由人來判斷?來聊聊兩種做法

    網站出問題時,狀態頁如果要等人發現、登入再更新,可能慢了好一會兒;但監控偶爾也會誤報,太常自動公告又會讓大家不再相信它。作者建議兩種做法搭配:多個地點的監控連續幾分鐘都發現問題,而且檢查的是使用者真的會做的事,例如登入或結帳,才自動把狀態頁改成黃色,表示團隊正在檢視。單次檢查失敗只通知工程師,重大故障則由人決定是否公告。這樣能更快讓客戶知道出了狀況,也能減少小問題或誤報被當成大故障。

  40. llama.cpp Releases43

    llama.cpp b12552 改善 OpenVINO 效能並修正模型相容問題

    llama.cpp 的 OpenVINO 支援在不同提示詞長度或輸出數量改變時,可能得重新編譯模型,或重用不合適的舊模型,造成速度變慢甚至執行失敗。這次更新調整 GPU 的 KV 長度、改善提示詞處理階段的模型重用方式,也讓系統確認輸出數量相符才沿用編譯結果;模型快取也會把輸出設定納入檢查。更新還修正多種模型在 GPU、NPU 和靜態形狀設定下的問題,並加入 Falcon-H1 的 OpenVINO 驗證資料。