推薦理由:內容說明如何用單張 GPU 檢查分散式訓練中的當機、記憶體不足與數值錯誤,呈現大型訓練前可先採用的測試方法。
#教學/實務
RSS 訂閱#教學/實務
RSS
PyTorch@PyTorch精選品質評分6161
AWS Machine Learning Blog品質評分5757 AWS 如何以 23 個可重用開源資產加速生成式 AI 開發
AWS Frontier AI Engineering & Services 整理了 23 個開源生成式 AI 資產,涵蓋 RAG、檔案處理與AI 助理開發,提供經驗證的基礎元件與部署指南,協助團隊減少重複建置。
LangChain Blog精選品質評分7575 LangChain 如何讓 GTM Agent 持續產出一致且高品質的銷售素材
LangChain 說明其 GTM Agent 如何運用業務流程、客戶資料與品牌規範,產出銷售素材並配合交易階段推送給業務代表。 - 使用成效:過去 12 週產出 1,540 份素材;有寄出素材的交易中,47% 進入後續階段,配對比較組為 16%。
推薦理由:LangChain 的案例拆解了銷售AI 助理如何結合流程知識、客戶資料與品牌規範,並以人工回饋和使用資料持續調整產出。
Amazon Science精選品質評分6464 Amazon Web Services 以 Tiros 驗證 Cloud WAN 網路組態
Amazon Web Services 說明如何使用 Tiros 分析 Cloud WAN 網路組態,檢查各網路區段是否符合隔離政策。這種靜態驗證會分析模型中的所有路徑,不必依賴封包抽樣。
推薦理由:文章說明如何把 Cloud WAN 設定轉成邏輯命題,再檢查所有模型化路徑是否違反分段政策,呈現靜態驗證與封包抽樣的差異。
DuckDB Official Blog品質評分5858 DuckDB 如何支援不需資料庫伺服器的本機分析
DuckDB 可在瀏覽器或使用者的電腦上執行分析查詢,讓 Flowmap City、SQLRooms 與 Foursquare Spatial Desktop 等應用在不連線遠端資料庫伺服器的情況下處理資料。 SQLRooms:開源 React 工具包,提供載入資料、撰寫 SQL、顯示表格與視覺化等元件,也支援 AI 助理;資料集可留在本機,資料庫結構與選取的查詢結果則可分享給 AI 服務商。 動態地圖切片:Spatial Desktop 使用 DuckDB 的 spatial extension,按需從本機資料集產生地圖切片,並依縮放層級簡化幾何資料;正式實作也會處理無效幾何、過小圖徵與切片快取。 其他應用:Cosmograph 以 DuckDB-Wasm 在背景載入資料及執行 SQL,支援探索包含數百萬條邊的圖形資料集。
Meta Engineering品質評分5353 Meta Intelligent Delivery 如何排程算力以提升廣告排序效能
Meta 說明 Intelligent Delivery 如何在廣告服務系統中,依請求、模型、硬體與排序階段動態配置算力;自 2017 年以來,該系統在模型與系統改進之外,額外提升約 10% 的廣告排序效能。
AWS Machine Learning Blog精選品質評分6161 AWS Quick 如何以六個 AI-PDLC AI 助理串起產品開發前期流程
AWS Machine Learning Blog 說明如何在 AWS Quick 設定六個 AI-PDLC AI 助理,協助團隊從分散的客戶訊號走到經驗證的產品原型,並在每個階段保留人工核准。
推薦理由:文章以六個 AWS Quick AI 助理串起探索、決策、設計與原型階段,並說明各階段如何保留決策依據與人工核准紀錄。
Databricks Blog品質評分5151 Bright Machines 如何在不開放工廠入站連線下提供即時工廠儀錶板
Bright Machines 說明如何在不開放工廠入站連線的情況下,將受治理的工廠資料提供給客戶查詢。 - 資料流程:在工廠端以 Debezium 擷取 PostgreSQL 變更,寫入 Apache Iceberg,再透過單一可稽核的對外路徑傳送;Databricks 透過 Unity Catalog 聯合目錄讀取資料。
cloudflare blog精選品質評分7676 Cloudflare 為何選擇 QuePaxa 共識演演算法
Cloudflare 說明其全球控制平面系統 Meerkat 選用 QuePaxa 共識演演算法的原因,以及演演算法如何在網路延遲與連線波動時持續處理請求。
推薦理由:文章拆解 QuePaxa 如何以提案協作與選擇性領導因應全球網路延遲,並說明這些設計如何影響 Meerkat 的可用性與吞吐量。
Hugging Face Blog精選品質評分6969 多向量嵌入模型的 Token Pooling 感知訓練
Hugging Face 示範如何透過 Token Pooling 感知訓練,讓多向量嵌入模型在壓縮檔案向量後保留較佳的檢索品質。 - 方法:以 Sentence Transformers 訓練模型,同時使用未壓縮與約四分之一向量數的檢索目標,讓模型學習保留合併向量後仍有用的資訊。
推薦理由:文章以可重現的 Sentence Transformers 範例,說明如何把向量合併納入訓練目標,並比較不同壓縮預算下的檢索品質與儲存量。
vLLM Official Blog精選品質評分8484 vLLM 如何以 EPD 分離多模態服務中的編碼、Prefill 與 Decode
vLLM 說明如何以 Encoder/Prefill/Decode(EPD)分離多模態推論流程,並整理中繼資料轉送、編碼器執行、嵌入傳輸、快取與路由的工程進展。
推薦理由:文章整理 vLLM EPD 的媒體中繼資料、遠端嵌入傳輸與跨編碼器快取,並以不同工作負載的測試資料呈現效能差異。
AWS Machine Learning Blog精選品質評分6868 AWS 教學:在 Amazon Bedrock 使用 Kimi K3.1 Pro Highspeed
AWS介紹如何在 Amazon Bedrock 使用 Kimi K3.1 Pro Highspeed,並透過 Flex 層級、提示詞快取與 OpenCode 設定,調整成本及整合至程式開發流程。
推薦理由:文章整理了在 Amazon Bedrock 呼叫模型、降低 Flex 用量成本及設定提示詞快取的方法,並提供 OpenCode 串接範例。
OpenRouter Announcements精選品質評分6262 OpenRouter 解讀 LLM 量化對模型品質與價格的影響
OpenRouter 說明 LLM 量化如何影響模型端點的品質與價格,並以 Qwen3.8 27B 測試 fp8、fp4 與 fp16 的表現。
推薦理由:OpenRouter 以 Qwen3.8 27B 的端點測試比較精度與價格,並說明樣本限制及路由篩選方式,可供評估不同端點的選擇策略。
OpenRouter Announcements精選品質評分6464 OpenRouter 教你排除 OpenAI 與 Claude API 的 429 速率限制錯誤
OpenRouter 說明如何辨識 LLM API 的 429 速率限制來源,並以等待重設時間、切換備援模型及改由其他供應商提供服務三種方式處理。 - 等待重設時間:範例中的 60 筆請求使用預設重試時有 23 筆失敗;依 Retry-After 或 X-RateLimit-Reset 等待後,60 筆皆完成,Python 範例耗時 89 秒。
推薦理由:文章以 60 筆請求的實測比較等待重設時間與模型備援,呈現完成率、耗時和成本差異,並說明各自適用的限流情境。
PyTorch Core Releases品質評分3535 PyTorch 檔案說明:GitHub 原生 PR 堆疊部分合併後如何繼續操作
PyTorch 在 CONTRIBUTING.md 補充 GitHub 原生 PR 堆疊底部分支合併後的操作方式,並在 CLAUDE.md(及其符號連結 AGENTS.md)加入指引,避免已合併的 PR 被 gh stack 重新提交、變基或移出堆疊。
AWS Machine Learning Blog品質評分5757 如何用 LangGraph 與 Amazon Bedrock AgentCore 網頁搜尋建置每日依賴專案監控
AWS 示範如何用 LangGraph 與 Amazon Bedrock AgentCore Web Search API 建置每日依賴專案監控,平行搜尋 npm、PyPI 與容器基礎映像的安全公告,並檢查來源後只回報新發現。
AWS Machine Learning Blog精選品質評分6262 Amazon Bedrock AgentCore 評估指南:比較內建、DeepEval 與 AutoEval 評估器
AWS 說明如何在 Amazon Bedrock AgentCore Evaluations 中,依代理的業務成果選擇內建、DeepEval 與 AutoEval 評估器,檢查任務完成、工具使用、對話品質與安全等行為。
推薦理由:文章以客服、研究與專業領域代理為例,說明如何從業務成果拆解可觀察行為,再選擇追蹤或工作階段層級的評估器。
n8n Blog品質評分5252 n8n 如何以三種模式擴充套件工作流程的批次處理
n8n 說明如何透過分塊、速率限制與逐筆錯誤處理,控制大型批次工作流程的負載與失敗重跑。 - 分塊與速率限制:將資料拆成較小批次,並在請求或批次間加入等待與重試,降低記憶體壓力並配合 API 配額。
n8n Blog品質評分3535 每位自動化工程師都該掌握的微服務最佳實務
微服務架構將應用程式拆分為各自負責特定功能、透過 API 溝通的服務;文章整理設計與維運微服務時降低連鎖故障、隔離問題的實務做法。 - 服務邊界:以明確的業務能力劃分服務,並透過領域驅動設計界定各自的業務規則、語言與資料;例如,訂單服務負責建立訂單與追蹤狀態,付款服務處理扣款與退款。
AWS Machine Learning Blog品質評分4545 Trovata 如何在 Amazon Bedrock 與 AgentCore 上打造自主財務代理
Trovata 將自主 AI 代理整合進其企業財資管理平臺,透過 Amazon Bedrock 與 Amazon Bedrock AgentCore 執行持續性的工作流程,協助財資團隊監控活動、分析差異、偵測異常並自動提供更新。
Meta Engineering精選品質評分8181 Meta 如何打造 TLX,讓工程師更容易安排 GPU 工作
GPU 硬體進步很快,但工程師常得在容易寫的程式工具和能細部控制硬體的寫法之間取捨。Meta 打造 TLX,讓工程師沿用 Triton 寫運算,再安排不同工作群組如何搬資料、計算和同步,讓資料搬移與運算能重疊進行。Meta 分享的案例包括推薦系統訓練、推論,以及大型語言模型訓練;其中一項推薦系統推論最佳化,讓特定模型的計算延遲最多降低三分之二。這些案例呈現 TLX 如何把新款 GPU 的功能用在實際工作中。
推薦理由:TLX 的實際案例說明,讓工程師直接安排 GPU 工作與資料搬移,如何改善推薦系統推論和大型語言模型訓練。
AWS Machine Learning Blog品質評分5858 Amazon Bedrock 呼叫觀測資料湖:跨帳戶查詢提示詞、Token 用量與成本
AWS 示範如何建置集中式 Amazon Bedrock 呼叫觀測資料湖,讓團隊跨帳戶查詢每次呼叫的提示詞、回應、Token 用量、模型與 IAM 身分。
AWS Machine Learning Blog精選品質評分6262 TCS 如何運用 Amazon Bedrock AgentCore 建構 AI 助理測試協調平臺
TCS 說明如何運用 Amazon Bedrock AgentCore 建構多租戶測試協調平臺,將需求轉為可執行測試,並串接執行、修正與報告流程。
推薦理由:文章拆解需求建構、分租戶隔離、專用執行環境與受控修正流程,並以約 100 個測試情境的內部比較呈現人工作業變化。
Wiz Blog & Research精選品質評分6464 Wiz 說明如何評估 AI 助理的資安能力
Wiz 說明如何設計資安AI 助理基準,評估AI 助理在真實資安任務中的表現,並提出任務設計、評分與測試環境的原則。 - 基準規模:Wiz Cyber Model Arena v3.9 涵蓋 26 個模型、4 種通用 harness、59 個AI 助理與 327 項挑戰;每項挑戰提供 3 次嘗試,時限為 1,000 秒。
推薦理由:文章以 Wiz Cyber Model Arena v3.9 說明如何設計貼近實務的資安AI 助理基準,涵蓋任務取樣、程式評分、隔離環境與成本衡量。
openrouter blog精選品質評分7171 如何從任何 LLM 取得結構化輸出:JSON Schema、工具呼叫或決策模型
OpenRouter 比較 JSON Schema、工具呼叫與決策模型三種結構化輸出方法,說明如何依模型端點支援情況取得可供程式處理的結果。
推薦理由:文章以多模型測試比較 JSON Schema、工具呼叫與決策模型,並整理端點不遵守 Schema 時的驗證與路由處理方式。
openrouter blog精選品質評分7171 OpenRouter 教學:如何用 Python 建置語音 AI 助理
OpenRouter 示範如何用 Python 建置餐廳訂位語音AI 助理,串接語音轉文字、LLM 工具呼叫與文字轉語音,並逐句產生語音回覆。
推薦理由:文章以餐廳訂位流程示範語音AI 助理的建置,並比較延遲、成本與轉錄表現,呈現串接工具時的實作取捨。
Hugging Face Blog精選品質評分7474 Hugging Face 解說決策模型及其統一介面
Hugging Face 介紹決策模型如何接收狀態與問題,直接輸出帶有機率的結構化決策,並說明其與分類模型及零樣本分類的差異。 - 三種決策原語:choice 從選項中擇一,score 對有序尺度評分,noul 估計是非命題為真的機率。
推薦理由:文章比較傳統分類、零樣本分類與決策模型,並以 choice、score、noul 三種輸出說明其如何將選項機率整合為可供軟體使用的統一介面。
OpenAI News品質評分3737 OpenAI Academy 攜手照護組織舉辦 ChatGPT 照護者 AI 技能工作坊
OpenAI Academy 與 Caregiver Action Network、Alzheimer’s Association 及 American Diabetes Association® 合作,於 11 月 10 日在美國 5 座城市舉辦免費實體工作坊,協助照護者實際、安全地使用 ChatGPT 處理日常照護事務。
DuckDB Official Blog精選品質評分6060 DuckDB 欄式查詢與 Parquet 資料整理實務教學
DuckDB 官方文章以鴨類觀測資料示範欄式查詢,涵蓋直接查詢檔案、SQL 欄位操作、聚合、視窗函式,以及 Parquet 寫入與效能檢查。 - 讀取資料:可直接查詢 CSV、Parquet、HTTPS 或 S3 路徑;Parquet 查詢可只讀取指定欄位,並利用分割槽與統計資訊略過部分檔案或 row groups。
推薦理由:文章以完整 SQL 範例串起 DuckDB 的欄式查詢與 Parquet 寫入,說明分割槽、排序和選取欄位如何減少讀取與整理資料的工作。
AWS Machine Learning Blog品質評分5959 AWS Quick 中的技能與AI 助理如何協作
AWS Quick 以AI 助理、技能、資料來源與連接器協作,讓使用者用自然語言處理任務、查詢資料並在已連線的應用程式中採取行動。 - 技能結構與載入:技能遵循 Agent Skills 規格,以根目錄中的 SKILL.md 為核心;AI 助理先讀取技能名稱與描述,遇到相符任務時再載入完整指示。
LangChain Blog精選品質評分6767 Stripe 如何在 1 週內以 Deep Agents 打造 Kai
Stripe 以 Deep Agents 為基礎,在 1 週內打造公司內部生產力AI 助理 Kai,供員工透過單一介面處理資料分析、檔案撰寫與跨部門協作。
推薦理由:文章拆解 Kai 的分層架構、檔案系統與沙箱中介軟體,以及技能載入方式,呈現 Deep Agents 如何支援企業內部AI 助理落地。
ClaudeDevs@ClaudeDevs品質評分3939Google Research品質評分5252 Google Language Explorer 以互動視覺化探索全球語言多樣性
Google Language Explorer 是一個互動式網路平臺,讓研究者、教育工作者與語言愛好者探索並視覺化全球語言多樣性。 - 資料來源:平臺整合數千種語言的資料,並以開源 LinguaMeta 資料集為基礎,屬於 Google 1,000 Languages Initiative 的一部分。
AWS Machine Learning Blog品質評分5252 CrossnoKaye 如何以 Amazon Bedrock AgentCore 為工業 AI 提供裝置脈絡
CrossnoKaye 說明如何將 ATLAS 工業自動化平臺與 AURA AI 系統部署在 AWS,讓AI 助理依據工廠裝置拓樸、控制邏輯與感測資料調查問題,並以隔離的 Python 執行環境驗證計算結果。
AWS Machine Learning Blog精選品質評分6565 AWS 提出 Amazon Bedrock AgentCore 七層可組合企業AI 助理參考架構
AWS提出 Pluggable Agentic AI Framework,以七層可組合參考架構協助多AI 助理應用從原型走向正式環境,涵蓋資料與知識、模型與推論、編排、安全防護、應用、可觀測性及AI 助理營運。
推薦理由:文章以七層參考架構拆解多AI 助理從原型走向正式環境的設計,並用零售客服實作呈現各層如何協作與替換。
Meta Engineering精選品質評分7676 Meta 擴充 LLDB,以單一偵錯工作階段除錯跨 CPU 與 GPU 的應用程式
Meta 建立 lldb-server 加速器外掛架構,讓 LLDB 在同一個偵錯工作階段中協調分別表示 CPU 與 GPU 的兩個 target。架構保留兩者各自的架構、執行緒、暫存器與記憶體空間,並由硬體專屬後端連線裝置偵錯 API。
推薦理由:文章說明如何以兩個獨立 LLDB target 表示 CPU 與 GPU,並透過 lldb-server 外掛協調偵錯,呈現跨硬體共用偵錯流程的設計取捨。
LangChain Blog精選品質評分7171 LangChain 說明如何以評測驅動開發改善 AI 助理
LangChain 說明如何透過評測驅動開發(EDD),在修改 AI 助理前先定義成功條件、建立評測,並比較每次變更的結果。 - 三個步驟:定義AI 助理應有的行為、先寫評測再開發,以及修改後比較實驗結果。
推薦理由:文章以新增 IT 工單工具為例,示範如何先定義行為、建立評測並比較實驗,找出平均分數掩蓋的回歸問題。
NVIDIA Newsroom Press Releases品質評分5252 NVIDIA Dynamo 推出韓國主流開放模型的部署配方
NVIDIA 發布針對韓國多款開放模型的 Dynamo 部署配方,協助將模型部署至多節點環境中的 NVIDIA GPU。 - 涵蓋模型:SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2,以及 Motif Technologies 的 Motif-3。
Guillermo Rauch@rauchg品質評分6666導語:WebGL2 與 Web Audio 共同打造一個逼真的唱盤物理模擬,能將音樂轉換為溝槽形狀,並以 384,000 次/秒的速度模擬針尖移動,產生真實的噪音與音訊。

n8n Blog品質評分4848 使用 n8n、TurboDocx、Slack 與 SharePoint 進行合同電子簽署
summary_zh: 在本範例中,n8n 與 TurboDocx 搭配 Slack 與 SharePoint,實現從 Excel 佇列到簽署完成並自動檔案上傳的全流程自動化。