跳到正文

#教程/實踐

RSS
今日 2 則
今天10月1日週四
  1. AWS Machine Learning Blog62

    在 Amazon Bedrock AgentCore Runtime Instances 上構建多智慧體音樂製作管線

    AWS 介紹瞭如何使用 Amazon Bedrock AgentCore Runtime Instances 部署一個三智慧體協作的音樂製作管線,實現 GPU 音樂生成、音訊處理與合規篩查。文章詳細講解了容量提供者配置、共享會話的多智慧體同機協作、多日持久化儲存以及各智慧體的獨立部署流程。

    推薦理由:文章給出了基於 Amazon Bedrock AgentCore Runtime Instances 部署多智慧體音樂製作管線的具體步驟與架構設計,讀者可以據此瞭解長週期持久化與多智慧體協同的實現方式。

  2. AWS Machine Learning Blog61

    如何使用 Amazon Bedrock Knowledge Bases 以自然語言查詢理賠資料

    本文介紹瞭如何使用 Amazon Bedrock Knowledge Bases 構建具備自然語言查詢、後設資料過濾、對話記憶和上下文安全護欄的理賠助手。文章詳細給出了將 S3 中的理賠文件與後設資料同步至託管知識庫、呼叫 AgenticRetrieveStream API 處理多步問題、渲染引用以及配置防護欄的具體實現步驟與程式碼示例。

    推薦理由:文章提供了構建帶有引用和後設資料過濾的智慧檢索助手的完整程式碼與架構,讀者可以據此在實際工作流中實現可追溯的文件查詢。

9月30日週三
  1. AWS Machine Learning Blog54

    使用 Amazon Nova Act 實現合成監控

    本文介紹瞭如何使用 Amazon Nova Act 和 Amazon Bedrock AgentCore 實現基於智慧體的合成監控,通過自然語言動作替代脆弱的 DOM 選擇器來驗證關鍵使用者流程。文章闡述了架構設計、部署流程以及如何結合 Amazon EventBridge Scheduler 與 Amazon SNS 進行告警。

  2. AWS Machine Learning Blog47

    如何在 SageMaker AI 上使用 vLLM-Omni 生成影像和影片(第二部分)

    本文介紹瞭如何在 Amazon SageMaker AI 上使用 vLLM-Omni Deep Learning Container 部署 FLUX.2-klein-4B 即時影像生成端點與 Wan2.1-VACE-1.3B 非同步影片生成端點。工作流通過傳送文本提示詞生成靜態影像,隨後將其作為條件輸入並結合運動提示詞傳輸至影片端點,最終從 Amazon S3 獲取生成的 MP4 影片。

  3. AWS Machine Learning Blog24

    Amazon Quick 的提示詞工程基礎指南

    Amazon Quick 平臺的提示詞工程通過明確具體性、提供業務背景以及採用示例教學等核心原則,幫助使用者獲得更高質量的 AI 響應結果。該方法通過減少反覆除錯並實現複雜工作流程的自動化,從而提升團隊在各種 AI 功能上的協作效率。文章作為系列的第一部分,詳細介紹了適用於所有 Quick 元件的通用原理與結構化框架。

  4. AWS Machine Learning Blog42

    如何用 Amazon Quick 和 Amazon Bedrock AgentCore 構建 AI 驅動的合同智慧平臺

    AWS 介紹了一種結合 AI 智慧體、多模型驗證與嵌入式分析的合同智慧平臺架構,可解決傳統 RAG 無法處理的大規模合同跨文件聚合查詢難題。該平臺利用 Amazon S3 儲存合同 PDF,通過 Claude Sonnet 提取欄位、Claude Haiku 驗證結果,並以 Amazon Aurora PostgreSQL 儲存結構化資料,實現秒級處理與精準問答。

9月29日週二
9月26日週六
  1. GitHub Blog · AI & ML62

    GitHub Copilot 如何使用 canvases 構建自定義工作流

    GitHub Copilot app 推出了 canvases 功能,允許使用者通過 /create-canvas 技能與自然語言描述,免編碼生成支援雙向互動的自定義工作流介面。畫布可作為共享白板即時更新,支援團隊共享或儲存為個人擴充套件,使用者也可直接安裝 Awesome Copilot 中的現成擴充套件進行定製。

    推薦理由:文章介紹了 GitHub Copilot app 中使用 canvases 自定義工作流的方法,讀者可以學習如何通過描述直接生成雙向互動介面。

  2. AWS Machine Learning Blog65

    AWS 詳解基於 Amazon Bedrock 構建生產級大語言模型質量保障體系

    AWS 團隊詳細介紹了面向生產環境的大語言模型質量保障架構,通過自適應管道編排、跨賬戶多模型故障轉移、即時流式評估、複合評估框架以及資料準確性驗證五項技術,在 Amazon Bedrock 上實現了約 99% 的數值準確率並支援即時流式響應。文章重點闡述瞭如何通過三階段自適應處理、獨立配額空間網格、生產者消費者併發模式及兩階段級聯驗證來解決模型幻覺、API 限流和驗證延遲等工程挑戰。

    推薦理由:文章詳細拆解了五項用於保障大語言模型生產環境質量的技術實現,幫助開發者在實際業務中平衡準確率與響應延遲。

  3. AWS Machine Learning Blog49

    如何在 Amazon SageMaker AI 上部署 Qwen3-TTS 實現即時個性化語音克隆

    阿里雲千問團隊開發的 Qwen3-TTS-12Hz-1.7B-Base 語音模型現已上線 Amazon SageMaker JumpStart,支援通過託管的即時推理端點實現語音克隆與流式生成。該模型僅需數秒的使用者音訊片段與文本,即可在保持說話人聲音特徵的同時跨語言合成目標語音,並允許使用者在 AWS 環境中控制成本與資料安全。

9月25日週五
  1. AWS Machine Learning Blog70

    Amazon SageMaker HyperPod 與 Qumulo 實現多區域訓練

    本文介紹瞭如何使用 Amazon SageMaker HyperPod 與 Qumulo 的 Cloud Native 解決方案,在不同 AWS 區域間進行大規模 AI 模型訓練,並給出了跨區域訓練的效能驗證結果。

    推薦理由:文章詳細說明如何使用 SageMaker HyperPod 與 Qumulo 進行跨區域訓練,並給出驗證結果,幫助讀者評估跨區域訓練的效能與成本。

  2. AWS Machine Learning Blog67

    WhisperX 在 SageMaker AI 上實現說話人標註轉寫

    本文介紹了 AWS WhisperX Deep Learning Container(DLC)的使用方法,演示如何在 Amazon SageMaker AI 上部署即時和非同步端點,實現詞級時間戳和說話人標籤的轉寫。

    推薦理由:本文展示瞭如何在 SageMaker 上部署 WhisperX,實現精準的詞級時間戳和說話人標籤,幫助使用者快速構建可搜尋、可稽核的音訊轉寫系統。

9月16日週三
9月12日週六
  1. GitHub Blog · AI & ML62

    Marketing ops as code:在 GitHub 上將活動從規劃到跟進全流程自動化

    GitHub 營銷負責人分享瞭如何利用 GitHub Copilot、GitHub Actions 及 API/CLI 工具將亞太區的活動運營流程實現程式碼化與自動化。通過將執行手冊轉化為 Markdown 技能並結合 Issue 觸發器,系統能夠自動生成落地頁、分發 UTM 連結、每日篩查註冊名單以及在活動後執行跟進。

    推薦理由:作者通過自身實踐展示瞭如何用自然語言和平臺原生功能自動化營銷運營,為非技術背景人員提供了可複用的工作流改造方法。

9月11日週五
9月10日週四
  1. Hugging Face Blog73

    基於 Hugging Face Jobs 與儲存桶跨節點非同步訓練 LoRA

    Hugging Face 官方介紹瞭如何使用 TRL v1.14 中的 AsyncGRPOTrainer 在不同機器上非同步訓練 LoRA 介面卡並同步至 vLLM。通過將兆位元組大小的 rank-1 介面卡寫入儲存桶並藉助代理路由 KV 快取字首,該方案省去了 NCCL 跨節點通訊,使 500 步訓練耗時縮短至原來的四分之一。

    推薦理由:文章展示瞭如何在不同機器上執行訓練與推理,通過儲存桶同步 LoRA 介面卡,為分散式強化學習提供了可複用的工程方案。

9月9日週三
  1. Mistral AI65

    Mistral AI 用 AI 代理完成 Fortran 77 遷移至 C++

    Mistral AI 幫助一家歐洲能源運營商將 40,000 行 Fortran 77 程式碼遷移至 C++,通過 AI 代理完成語法轉換、架構重構和測試。文章詳細闡述了構建數值一致性驗證 harness、文件化流程、以及人機協同的結構化工作流,並給出遷移經驗。

    推薦理由:案例展示瞭如何用 AI 代理完成 Fortran 77 到 C++ 的遷移,並給出可複製的工作流程與經驗。

9月3日週四
  1. Hugging Face Blog66

    如何用 TRL 和 OpenEnv 訓練程式碼模型繪製水彩畫

    作者基於開源方案復現了讓大語言模型通過編寫 JavaScript 程式碼繪製水彩畫的強化學習流程,並公開了參考影像池、強化學習環境、訓練指令碼及訓練好的模型。文章對比了不同美學獎勵權重配置下的多項實驗結果,詳細記錄了基礎設施搭建及訓練調優過程中的發現。

    推薦理由:文章復現並開源了使用強化學習訓練程式碼模型繪製水彩畫的完整流程,為讀者提供了基於美學偏好進行對齊的具體實現與多重實驗對比。

  2. Hugging Face Blog62

    如何微調 350M 模型以在 100 個 GRPO 步驟中實現更好的結構化輸出

    本文介紹了使用 TRL 庫和 GRPO 對 LFM2.5-350M 模型進行輕量化微調的開源教程,展示了僅需約 500 個樣本和 100 個訓練步驟即可將模型在 IFStruct 基準測試中的整體表現從 22.6% 提升至 29.7% 的具體方法。

    推薦理由:文章提供了在免費 GPU 環境下用 GRPO 最佳化小模型結構化輸出的完整開源配方,讀者可以藉此評估低成本對齊對模型輸出合規性的實際提升效果。

8月26日週三
  1. Hugging Face Blog77

    使用 Sentence Transformers 訓練和微調多向量嵌入模型

    Sentence Transformers v6.0 版本引入了多向量檢索模型和完整的訓練方法。作者以醫療檢索領域為例,展示瞭如何在一塊消費級 GPU 上微調出一個超越各大通用檢索模型的領域專用模型。微調方法涵蓋了模型選擇、資料集格式、損失函式、訓練引數以及評估器等核心元件。

    推薦理由:文章給出了多向量嵌入模型的完整訓練與微調步驟,讀者可以據此在特定領域獲得超越通用檢索模型的效果。

8月14日週五
  1. Hugging Face Blog65

    使用 Strands Agents、LeRobot 與 Hugging Face Storage Buckets 實現錄製、訓練與部署一體化

    本文介紹了 Strands Robots 中的流式資料閉環方案,展示瞭如何通過自然語言指令錄製機器人示範資料、將其同步至 Hugging Face Storage Buckets 並進行基於 Xet 的位元組級去重。隨後,開發者可以直接從 Hub 流式讀取資料集來訓練策略,並將訓練好的檢查點重新部署到硬體上。

    推薦理由:文章介紹了基於 Strands Agents 和 LeRobot 的機器人流式資料閉環方案,讀者可以據此瞭解如何通過雲端儲存桶實現無本地下載的高效訓練。

7月16日週四
  1. Hugging Face Blog31

    Newer Models, Same Advantage:DharmaOCR 如何憑領域專注度擊敗更新的模型

    儘管架構更新,但憑藉領域專注度和針對性訓練,DharmaOCR 在巴西葡萄牙語處理上依然表現優於 Mistral OCR4 和 Unlimited-OCR。在葡萄牙語專屬評估基準中,DharmaOCR 取得了 0.925 的分數,而 Mistral OCR4 為 0.798,Unlimited-OCR 為 0.7587。這種效能優勢源於其引數資源完全集中於單一語言領域,而非分散在多語言空間中。

7月10日週五
7月6日週一
  1. Hugging Face Blog47

    PRX 第 4 部分:資料策略

    PRX 團隊公開了 7B 模型的預訓練資料策略,詳細闡述了結合公共與內部資料集、利用 VLM 重新加長文本標註以及通過 Mosaic Streaming(MDS)和 Lance 格式進行分散式訓練的完整資料流水線。該團隊放棄了預計算文本潛變數,轉而在訓練迴圈中動態執行 Qwen3-VL 文本編碼器,僅帶來約 3-4% 的吞吐量成本。

1月22日週四
  1. Mistral AI66

    Mistral AI:排查 vLLM 中的記憶體洩漏

    Mistral AI 團隊詳細復盤了在 vLLM 分離部署測試中發現並解決隱蔽記憶體洩漏的完整過程。通過結合 pmap、BPFtrace 與 GDB 自動化指令碼,團隊最終定位到根源在於 UCX 記憶體管理模組的 mmap 鉤子機制與註冊快取佇列。通過設定環境變數 UCX_MEM_MMAP_HOOK_MODE=none 或限制未釋放區域數量,成功解決了該記憶體洩漏問題。

    推薦理由:文章詳細記錄了排查 vllm 分離部署中隱蔽記憶體洩漏的過程,讀者可以學習如何通過 pmap 與 GDB 組合定位底層系統呼叫問題。

8月1日週五
4月9日週三