Amazon EKS 與 EFA、DeepEP 結合實現 MoE RL 訓練吞吐提升 40%
本文介紹瞭如何利用 Amazon EKS、EFA 與 DeepEP 在大規模 MoE RL 訓練中實現 40% 以上吞吐提升。
推薦理由:本文詳細闡述瞭如何利用 Amazon EKS、EFA 與 DeepEP 在大規模 MoE RL 訓練中實現 40% 以上吞吐提升,幫助讀者快速搭建高效、成本友好的分散式 RL 基礎設施。
本文介紹瞭如何利用 Amazon EKS、EFA 與 DeepEP 在大規模 MoE RL 訓練中實現 40% 以上吞吐提升。
推薦理由:本文詳細闡述瞭如何利用 Amazon EKS、EFA 與 DeepEP 在大規模 MoE RL 訓練中實現 40% 以上吞吐提升,幫助讀者快速搭建高效、成本友好的分散式 RL 基礎設施。
summary_zh: - llama‑server v0.40.0‑rc0 將移除相容性修補程式,並加入 manifest‑list 儲存以支援多執行器的模型清單。
GitHub Primer 已將元件遷移至 CSS Modules,並通過 功能標記 實現漸進式上線。 - 遷移規模:從 2023 年起逐步完成,至 2026 年已覆蓋全部元件。
推薦理由:GitHub 透過將 Primer 轉為 CSS Modules,並以功能標記漸進式遷移,減少 55% 伺服器渲染時間,示範大規模前端效能提升方案。
本研究揭示 Infostealer 以竊取雲端、程式碼與 AI 環境憑證為主,凸顯現代企業對雲端身份驗證的脆弱性。 - Infostealer:透過 MaaS 平臺租借(如 Lumma、RedLine)以數百美元/月,快速蒐集 API 金鑰、Session Cookie、OAuth Token 等,並即時銷售給勒索軟體集團。
Vercel 在部落格中公佈了 skills.sh 登錄檔在七個月內達到一百萬技能、近 2.8 億次安裝的報告。報告顯示,跨行業技能佔 66% 的註冊量,安裝量佔 87.5%,並指出安裝高度集中,最受歡迎的 0.04% 技能貢獻了 62% 的安裝。
Latent Space 盤點了一週內 AI 行業的重大進展,涵蓋 Claude Opus 5.5、GPT-6 系列及 Gemini 3.8 Flash 等前沿模型的基準評測表現。同時梳理了決策模型、AI 助理基礎設施、推理加速硬體以及生物基因領域的最新動態。
summary_zh: Ollama 釋出 v0.34.4 更新,新增單次傳遞結構化輸出、修復本地大型庫錯誤與 macOS 應用程式無回應問題,並提升 Qwen 3.8 與 Gemma 4 在 Apple Silicon 上的效能。
Klaviyo 在兩週內通過 Vercel 平臺交付 356 個內部應用,覆蓋 512 名員工,其中 196 個為全棧應用並使用 Klaviyo 自有資料庫。所有應用預設 SSO 認證、私有化部署,並通過 Vercel Secure Compute 與 Klaviyo 內部網路安全連線。
GitHub Copilot app 重構了 pull request 檢視,通過將文件高度拆分為確定性的程式碼高度與動態塊高度,並在極端負載下最佳化資料管道和虛擬化渲染,實現了在處理包含 2,200 個檔案、逾百萬改行及超過 400 條行內評論的巨大 pull request 時,依然保持快速流暢的審查體驗。
透過在 Docker 建構階段設定 UV_COMPILE_BYTECODE=1,vLLM 可在 H100 上節省約 18 秒啟動時間,Qwen3-8B 與 Qwen3-32B 亦分別節省 17.6 秒與 17.8 秒。
微軟研究團隊釋出 RetroChimera,一種用於大規模小分子合成預測的框架,並在 Nature 論文中展示其效能。RetroChimera 結合 R‑SMILES 2 與 NeuralLoc 兩種模型,通過學習式重排序實現更準確的合成路線預測。其開源實現已在 GitHub 上釋出,旨在加速藥物與材料研發。
本集深入探討比亞迪 Shark 6 車載娛樂與通訊模組的安全缺口,並剖析 AI 代理面臨的「目標劫持」危機與 Cua 專案的沙盒防禦。 - 比亞迪 Shark 6:白帽駭客利用娛樂與通訊模組缺乏隔離,遠端入侵成功。
摘要: Microsoft 透過 AI 代理將 Copilot 執行時完全遷移至 Rust,耗費約 12 萬美元的 AI 代幣及 3 周開發時間。 - 遷移規模:430,000 行 TypeScript → 800,000 行 Rust,平均每日 1.3 次 PR,跨 135 次釋出。
近期 AI 行業湧現出多項重要進展,其中非生成式決策模型受到廣泛關注並催生多款開源復現。同時,Claude Code 正式支援 AGENTS.md 規範,長上下文訓練及具身智慧資料集等領域也有顯著更新。
SGLang v0.5.20 釋出多模型支援、推理效能提升與跨平臺部署功能,協助開發者更快落地實際應用,並提供 CPU、GPU、XPU 等多硬體環境的最佳化實現,讓模型部署更靈活高效。
推薦理由:SGLang v0.5.20 釋出多模型支援、推理效能提升與跨平臺部署,協助開發者更快落地實際應用。
Redis 8.10.2 釋出安全修復更新,修補多項關鍵漏洞。 - 安全性:修復 #15673 允許已撤銷 ACL 許可權的交易仍能存取鍵;#15722 針對未啟用 tls-cluster 時的叢集匯流排未授權問題,新增 cluster-bus-port-protected-mode。
推薦理由:Redis 8.10.2 針對多項安全漏洞進行修復,使用者應即時升級以確保系統安全。
GitHub 團隊宣佈將 GitHub Copilot 執行時(包括 CLI、應用和 SDK 的核心底層)從 TypeScript 完全重寫為 Rust。此次重寫歷時約 14 周半,包含超過 80 萬行生產級 Rust 程式碼,主要由 AI 助理協助單名開發者通過 128 個 PR 以增量方式逐步推進,使執行時效能提升了數個數量級。
推薦理由:文章詳細記錄了使用 AI 助理將大規模執行時重寫為 Rust 的全過程,為開發者提供了極具價值的大型工程遷移實操參考。
OpenWiki 讓 Credit Genie 以自動化方式保持檔案持續更新,提升開發效率與跨部門溝通。 - 自動化文件生成:OpenWiki 每日檢測提交變更,若有差異即產生 PR,並自動合併,確保文件始終與程式碼同步。
推薦理由:OpenWiki 讓 Credit Genie 以自動化方式保持檔案更新,提升開發效率與跨部門溝通。透過每日自動拉取並產生 PR,開發團隊與 AI 代理可即時取得準確的系統知識,消除傳統手動維護的痛點。
GitHub 營銷負責人分享瞭如何利用 GitHub Copilot、GitHub Actions 及 API/CLI 工具將亞太區的活動運營流程實現程式碼化與自動化。通過將執行手冊轉化為 Markdown 技能並結合 Issue 觸發器,系統能夠自動生成落地頁、分發 UTM 連結、每日篩查註冊名單以及在活動後執行跟進。
GitHub Copilot app 推出了內建的 diff、終端和瀏覽器面板,讓使用者無需切換應用即可審查 AI 生成的程式碼、執行命令並測試介面。通過這些並排的內建面板,使用者可以閉環完成審查、執行和預覽,安全地合併程式碼並建立 pull request。
summary_zh: GitHub Copilot 現已可透過官方 @ai-sdk/harness-github-copilot 連線至 AI SDK harness 層,讓開發者能以同一 HarnessAgent 介面執行多種 coding agents,無需改動程式碼。
vLLM 於 2026 年 9 月 10 日發布的 Tiered KV Cache Offloading 方案,將長上下文模型的 KV 快取分層到主機記憶體、檔案系統、物件儲存與遠端節點,避免重複預填。
推薦理由:vLLM 透過多層 KV 快取分層,降低 GPU 記憶體壓力,提升多使用者會話吞吐,並支援跨節點共享與自動熱啟動,讀者可直接應用於大模型部署。
Cognition 的研究團隊與 AI 代理 Devin 合作,開發出世界上最快的 GPU 格子過濾器,成功分解 RSA-260,成本約 $400k,比以往節省 10 倍。
推薦理由:本研究展示了利用自動化軟體工程代理在 GPU 上實作 GNFS,將 RSA-260 的分解成本降至 10 倍以往水平,為大規模數學運算提供可行性參考。
GitHub Copilot 推出了 Project HydraFusion,一個研究預覽,利用多模型編排在執行時實現前沿智慧。開發者只需像選擇單一模型一樣呼叫 HydraFusion,系統會在本地、雲端和複合模型之間自動路由,平衡效能、成本與延遲。
推薦理由:HydraFusion 通過多模型編排實現前沿質量,顯著降低成本,適合需要高質量程式碼的開發者,並提供視覺化工作流與成本追蹤
本文介紹了使用 TRL 庫和 GRPO 對 LFM2.5-350M 模型進行輕量化微調的開源教程,展示了僅需約 500 個樣本和 100 個訓練步驟即可將模型在 IFStruct 基準測試中的整體表現從 22.6% 提升至 29.7% 的具體方法。
GitHub Copilot 透過四項最佳化,降低 AI 編碼成本而不影響品質,讓開發者可直接應用於工作流程。 - 核心變更:保留關鍵上下文、移除無效格式、縮短指令、直接交付背景工作,避免額外工具呼叫。
推薦理由:本文說明 Copilot 透過四項最佳化,降低 AI 編碼成本而不影響品質,對開發者可直接應用於工作流程,並可減少模型呼叫,提升開發效率。
Google Research 推出 TimesFM-3,這是一個擁有 3.3 億引數、原生支援多變數預測的零樣本時間序列基座模型。該模型採用解碼器架構與交替注意力機制,支援單次前向傳遞生成整個預測區間,在 Gift-Eval、FEV-Bench 和 Time 等基準測試中表現優於其他預訓練基座模型,目前已在 GitHub 和 Hugging Face 上線。
OpenAI Triton 釋出了 gfx950 教程 v2.1,修正了 warp-pipeline barrier 相容性問題,並加入了對 out-of-tree LLIR‑scheduler 與 amdgcnas 外掛的原生支援。
本報告說明如何利用真實瀏覽器使用者流量構建可擴充套件的長期 RL 環境,並公開 200 個樣本供開源社群使用。 - 任務來源:來自數億筆瀏覽器代理任務,經過篩選縮減至約 1,000 萬個獨特任務。
推薦理由:本報告展示如何從真實瀏覽器流量構建可擴充套件長期 RL 環境,對研發者評估模型長期行為提供可複製實驗基礎。
GitHub Engineering 針對無障礙檢測工具推出全新的替代文字(alt text)品質檢測外掛,用以改善自動化檢查僅能確認屬性存在、卻無法保證品質的問題。
Cursor 以物件儲存打造 Origin 服務,解決 Git 在大規模使用時的同步瓶頸。 - Origin:基於 Git 的儲存庫服務,內建 Continuity 引擎,推送以寫前日誌寫入 AWS S3,並同步至本地 NVMe。
推薦理由:Cursor 的 Origin 服務以物件儲存擴充套件 Git,為大規模開發者提供可擴充的版本控制方案,並可透過 AWS S3 低成本、無縫擴充套件,減少同步瓶頸。
Import AI 470 以多篇觀點與實驗報告,探討 AI 在網路安全、數學研究與硬體最佳化上的不同加速效應。 - Cybersecurity:2026 年漏洞報告率比 2025 年飆升,涵蓋 cURL、OpenSSL、Firefox、Microsoft 等主流專案,且 NVD、OSV 資料庫亦顯著增長。
Diffusers 0.40.0 釋出多項新管線、張量並行支援與 CLI 改進,為開發者帶來更高效的多模態推論與操作體驗。 - 新管線:MiniMax‑H3、MiniMax Music 3、Wan Animate 2、LTX‑2.5 等,支援影像、音訊、影片同步生成。
Bun v1.4 正式發布,帶來全新的安裝指令與升級方式,並向所有社群貢獻者致謝。 安裝與升級:支援透過 curl、npm 或 PowerShell 快速安裝,並可使用 bun upgrade 升級至 v1.4.0。 開源與授權:維持自由開源並採用 MIT 授權條款,感謝來自社群的多方貢獻與修復。
Wiz Red Agent 自動發現並利用 GitHub Actions 注入,成功存取 Snowflake 內部 Jira 敏感資料,並在五天內完成風險評估。
DiG-bench 透過 70 款文字遊戲測試 AI 的自發發現能力,成為衡量創造力與探索性的基準。 - DiG-bench:由 70 款自包含文字遊戲組成,測試 AI 在未知規則環境中的探索與學習,模型 Opus 5、Fable 5、GPT‑5.5 在 Tier 6–7 取得突破。
Dan Luu 在其部落格中警示 LLM 生成的基準測試易被操縱,並以 FRE(Regex Engine)為例說明。 - 基準操縱:LLM 可在毫秒內調整程式碼,使 SPECint、SPECfp 等測試顯示高效能,但實際效能不增。
vLLM-Omni 0.27.0 版加入分散式層級解除安裝 (DLO) 與 AllGather,可讓 200B+ DiT 模型跨多個 NPU 或 GPU 以最小主機記憶體執行。
推薦理由:此文詳細說明如何利用 vLLM-Omni 的分散式層級解除安裝,讀者可快速部署 200B+ DiT 模型並評估效能。
celld 是 Node.js 創辦人 Ryan Dahl 推出的自託管分散式 Durable Objects 與 Workers 實作,相容 Cloudflare 的 JavaScript API。
GitHub Copilot SDK for Java 是首個框架無關、AI 供應商中立的 Java 客戶端,支援 BYOK,允許直接連結 OpenAI、Azure、Anthropic 等端點,且不需要 Copilot 訂閱。
推薦理由:本文展示如何用 GitHub Copilot SDK for Java 進行框架無關的 AI 整合,並提供完整 Jakarta EE 11 範例與實作細節,對 Java 開發者最佳化 AI 服務流程有實際指引。