跳到正文

教學與實務

拿來就能用的實操內容:提示詞技巧、工作流搭建、工具用法與踩坑經驗。

最新精選

第 481–500 條 · 共 557 條
10月19日週一
10月17日週六
  1. AWS Machine Learning Blog75

    打造 AI 代理信任:Amazon Bedrock AgentCore 的生產級評估框架

    AWS 透過 Amazon Bedrock AgentCore 建立了一套完整的多階段評估框架,協助團隊在部署前即時檢測 AI 代理品質。 - 九個階段:從「定義」到「反饋迴圈」,涵蓋品質、安全、效能、成本與運營控制。

    推薦理由:此框架提供可量化的多階段評估流程,幫助團隊在部署前即時發現品質下降,提升 AI 代理的可靠性。

10月16日週五
  1. vLLM Official Blog72

    vLLM 中 Kimi K3 高效最佳化:快速且負責任的推進

    vLLM 團隊利用代理協助開發,為 NVIDIA GB300 上的 Kimi K3 建構統一的 CuTe DSL 解碼路徑,實現 842 tokens/s 的解碼速率(比原版快 1.73 倍)並提升 P90 互動性至 403.2 tokens/s。

    推薦理由:本文說明如何利用代理開發加速 Kimi K3,並提供可複製的驗證流程,對想提升 GPU 端推理效能的工程師具有實務參考價值。

10月15日週四
  1. LangChain Blog75

    Agent 評估最常見問題說明

    Agent 的評估方法與實務流程,LangSmith 以範例說明如何設計測試集、執行離線與線上評估,並提供自動化迴圈提升品質。 - 離線評估:以固定資料集跑測試,檢查新提示、模型或工具是否回歸;可用 Terminal‑Bench 等基準。

    推薦理由:此篇說明如何以 LangSmith 進行 Agent 評估,對開發者設計測試流程與迭代最佳化具有實務參考價值,並能快速定位失敗點、建立自動回歸測試,提升 Agent 可靠度。

  2. GitHub Engineering76

    GitHub 如何將 Star 歷史查詢從 2,500 次請求降至 24 次

    GitHub 工程團隊分享了重構專案 Star 歷史查詢 API 的技術細節,透過移除不必要的使用者身份資料並改進查詢邏輯,大幅降低資料庫負擔。 - 核心改動:移除了舊端點回傳的詳細使用者身份,改為直接回傳不含身份的每日 Star 數量,解決隱私與濫用問題。

    推薦理由:文章剖析從舊 API 的大量請求到新聚合端點的效能最佳化過程,讀者可藉此學習 API 設計中以時間範圍過濾取代全量掃描的工程方法。

  3. AWS Machine Learning Blog73

    使用 Amazon Bedrock AgentCore 建置自學習式檔案處理系統

    本篇教學示範如何利用 Amazon Bedrock AgentCore 建置自學習式檔案處理系統,透過多代理即時學習與驗證,快速部署、無需手動模板,提升準確率,為企業節省人力與成本。

    推薦理由:本篇教學示範如何利用 Amazon Bedrock AgentCore 建置自學習式檔案處理,透過多代理即時學習與驗證,快速部署、無需手動模板,提升準確率,為企業節省人力與成本。

10月14日週三
  1. vLLM Official Blog85

    vLLM 官方推出強化學習訓練與推論位元級一致性方案與開源 Agent 技能

    vLLM 團隊與開發者發布全新技術方案與開源 Agent 技能,透過讓訓練端直接呼叫推論核心並修正數值路徑,實現強化學習訓練與推論在取樣 Token 上的位元級一致(diff = 0),以解決因數值差異導致訓練不穩定甚至崩潰的問題。

    推薦理由:原文公開實現強化學習訓練與推論位元級一致的方法與開源 Agent 技能,讀者可藉此降低跨模型實現一致性訓練的工程成本。

  2. vLLM Official Blog72

    vLLM 引入基於推送的 KV 傳輸機制以改善分散式推理效能

    vLLM 團隊介紹了全新基於推送(Push-based)的 NIXL 傳輸連接器,透過將預填與解碼階段的 KV 快取傳輸協調移出關鍵路徑,改善大規模分散式推理(Disaggregated Inference)效能。

    推薦理由:文章詳述 vLLM 推出的 push-based NIXL 傳輸機制原理與設定步驟,讀者可透過遷移設定有效降低大規模分散式推理的首字延遲。

  3. LangChain Blog77

    LangChain 透過 Deep Agents CLI 讓檔案範例自動化測試

    LangChain 透過 Deep Agents CLI 讓檔案範例自動化測試,將內嵌程式碼抽離成可執行檔並在 CI 內驗證。 - 流程概述:將 inline code 轉為獨立檔案,加入 setup/teardown,標記 :snippet-start: / :snippet-end:,再用 Deep Agents CLI 執行遷移。

    推薦理由:本文說明如何利用 Deep Agents CLI 自動化檔案範例的可測試化,降低維護成本,對需要持續更新 API 文件的團隊具有實用參考價值。

10月13日週二
10月12日週一
  1. vLLM Official Blog74

    vLLM 推出雙向 KV 傳輸以改善多輪代理工作負載的 TTFT

    vLLM 官方部落格介紹了一項雙向 KV 快取傳輸機制,旨在解決多輪對話與代理工作負載中,預填(prefill)節點因重複計算上下文而導致首字延遲(TTFT)升高的問題。

    推薦理由:文章詳細說明如何在 vLLM 中配置雙向 KV 傳輸以降低多輪對話延遲,讀者可藉此瞭解如何減少重複的 prefill 計算並最佳化推理效能。

10月9日週五
10月8日週四
  1. AWS Machine Learning Blog81

    使用 Lambda Durable Functions 與 Bedrock 自動化處理 DevOps Agent 事件,縮短 MTTR

    AWS DevOps Agent 事件調查完成後,系統利用 Lambda Durable Functions、EventBridge 與 Amazon Bedrock 建立自動化修復工作流,將調查摘要轉成可執行的修復方案,並在必要時透過人工批准完成變更。

    推薦理由:如何結合 Lambda Durable Functions 與 Bedrock,處理 DevOps Agent 事件,縮短 MTTR。

  2. AWS Machine Learning Blog81

    超越節省時數:打造代理式自動化的商業案例

    本文說明如何利用 AWS Quick Automate 建立代理式自動化的商業案例,並提供四維度價值模型與實際部署範例。\n- 四維度價值模型:時間節省、例外處理、決策品質、變更韌性與維護成本,並以實際數值說明如何計算。

    推薦理由:本文提供完整框架,協助企業量化代理式自動化價值,並示範實際部署案例,助其制定可衡量投資回報。

10月7日週三
  1. vLLM Official Blog86

    DeepSeek‑V4.1‑Flash 在 vLLM 上自發布日起實現 5 倍 Agentic 推理吞吐量

    DeepSeek‑V4.1‑Flash 與 vLLM 結合後,三週內在 AgentX benchmark 上達到 5.3 倍 的吞吐量提升,低併發下 1.9 倍速度。

    推薦理由:本文說明結合 DeepSeek‑V4.1‑Flash 與 vLLM 的 SWA bounded replay、CUDA graphs 等最佳化技巧,並展示實際 TTFT 減少 30–40% 的效果,幫助讀者提升推理效能。

  2. AWS Machine Learning Blog73

    在 AgentCore 與 OpenClaw 上構建具備上下文感知的 AI 助手

    AgentCore 與 OpenClaw 的結合,讓開發者能以單一 CloudFormation 模板在 AWS 上快速部署具備長期記憶的 AI 助手。

    推薦理由:本文示範如何利用 AgentCore 與 OpenClaw 建構可持續記憶的 AI 助手,並說明成本與部署方式,對想在 AWS 上快速落地個人化助手的開發者具有參考價值。

  3. AWS Machine Learning Blog72

    使用 Amazon Bedrock AgentCore、Nova Sonic 與 Managed Knowledge Base 建置語音旅遊管家

    Amazon Bedrock AgentCore、Nova Sonic 與 Managed Knowledge Base 共同打造的語音旅遊管家,可讓旅客透過語音改簽、查延遲、查詢政策並連線真人客服。

    推薦理由:示範如何利用 Bedrock AgentCore、Nova Sonic 與 Knowledge Bases 建構可擴充的語音旅遊管家,並提供完整部署指令碼。

10月6日週二
  1. AWS Machine Learning Blog77

    使用 Amazon Bedrock AgentCore 評估多代理系統的可解釋性與協助性

    本文示範如何使用 Amazon Bedrock AgentCore 評估框架,結合內建與自訂評估器,驗證多代理系統在協助性、準確性與可解釋性方面的表現。

    推薦理由:本文示範 Amazon Bedrock AgentCore 評估框架,教你如何結合內建與自訂評估器,驗證多代理系統的準確性、協助性與可解釋性。

10月5日週一
  1. DuckDB Official Blog72

    使用 Java 表函式匯入資料至 DuckDB

    DuckDB 使用 Java 表函式匯入資料,可將 48 萬筆複雜檔案在 1 分 27 秒內完成匯入,並支援 1 秒內執行分析查詢。 - 匯入方式:三種實驗—JDBC executeBatch、Appender、Table Function;Table Function 最快 1 分 27 秒。

    推薦理由:示範三種 Java 匯入方式,最終表格函式達 1 分 27 秒,適用於大規模資料管線。