PyTorch 調整 CUDA 與 ROCm 工作,略過 GENERIC 測試類別
PyTorch 調整 CUDA 與 ROCm 工作的測試設定,在多數工作中略過已由 CPU 工作執行的 GENERIC 測試類別。 - 重複執行量:這些工作每週約花 140k 測試分鐘執行 GENERIC 測試;變更後,相關測試只在特定定期、除錯及慢速測試工作中執行。
PyTorch 調整 CUDA 與 ROCm 工作的測試設定,在多數工作中略過已由 CPU 工作執行的 GENERIC 測試類別。 - 重複執行量:這些工作每週約花 140k 測試分鐘執行 GENERIC 測試;變更後,相關測試只在特定定期、除錯及慢速測試工作中執行。
Notion 部分對話因 Fireworks AI 漏洞外洩,凸顯第三方 AI 供應鏈風險;專家呼籲在 Proxy 層落實 DLP 防護。 - 其他動態:.NET 11 重構非同步架構;AMD Zen 6c 擴大亂序執行;Blender 5.3 原生支援高斯潑濺。
HubSpot 共同創辦人暨 CTO Dharmesh Shah 認為,只要避開前沿模型公司的發展路線,現在投入 AI 領域打造新創,比 2023 年更不令人怯步。
OpenRouter以 GitHub 任務比較 MCP、CLI 與 Skills,測量工具定義和回傳內容帶來的輸入 token 與成本差異。
推薦理由:單一 GitHub 任務的測試顯示,工具定義與回傳內容都會累積輸入 token;按需載入工具或限制回傳欄位,可大幅改變整體成本。
OpenRouter 說明 LLM 量化如何影響模型端點的品質與價格,並以 Qwen3.8 27B 測試 fp8、fp4 與 fp16 的表現。
推薦理由:OpenRouter 以 Qwen3.8 27B 的端點測試比較精度與價格,並說明樣本限制及路由篩選方式,可供評估不同端點的選擇策略。
OpenRouter 說明如何辨識 LLM API 的 429 速率限制來源,並以等待重設時間、切換備援模型及改由其他供應商提供服務三種方式處理。 - 等待重設時間:範例中的 60 筆請求使用預設重試時有 23 筆失敗;依 Retry-After 或 X-RateLimit-Reset 等待後,60 筆皆完成,Python 範例耗時 89 秒。
推薦理由:文章以 60 筆請求的實測比較等待重設時間與模型備援,呈現完成率、耗時和成本差異,並說明各自適用的限流情境。
PyTorch Inductor 透過支援編號 Z 軸與 GridND,啟用超過 3 維的逐點分塊,讓核心能產生並啟動具備 4 個以上逐點 tile 的 kernel。
PyTorch 在 CONTRIBUTING.md 補充 GitHub 原生 PR 堆疊底部分支合併後的操作方式,並在 CLAUDE.md(及其符號連結 AGENTS.md)加入指引,避免已合併的 PR 被 gh stack 重新提交、變基或移出堆疊。
Pydantic AI v2.67.0 擴充耐久執行、工具呼叫與程式專案指令載入能力,並修正多項模型串接與沙盒問題。 - AI 助理與工具:支援在耐久執行下使用動態子AI 助理,並新增透過 DBOS 子工作流程執行工具的能力。
Microsoft Research 揭示 Lazarus 後門技術,可重程式設計 LLM 中少於 10 個休眠神經元,讓 AI 助理在隱藏觸發條件出現時執行惡意命令,且不需重新訓練模型。
推薦理由:研究說明少於 10 個休眠神經元如何在免訓練下植入後門,並指出模型權重來源與完整性是防禦此類攻擊的關鍵。
AWS 示範如何用 LangGraph 與 Amazon Bedrock AgentCore Web Search API 建置每日依賴專案監控,平行搜尋 npm、PyPI 與容器基礎映像的安全公告,並檢查來源後只回報新發現。
想先試用 Browser Use 1.0.2 的人,要自己安裝候選版:pip install 'browser-use==1.0.2rc1';一般安裝目前仍會拿到 1.0.1。這個版本讓 --cli-mcp 在 Chrome 遠端除錯關閉時改用自己的 Chromium,也會告訴模型怎麼取得你的 Chrome。若網頁被 JavaScript 對話方塊卡住,操作會更快回報清楚錯誤,減少一直等待的情況。
合作夥伴或組織若要整理不同帳單群組和客戶的費用,過去得分別檢視各自的帳單檢視。AWS 現在讓自訂帳單檢視使用帳單管理處和帳單轉移檢視作為資料來源,也能搭配原有檢視、套用篩選條件,再於 Cost Explorer、AWS Budgets 和帳單與成本管理主控臺檢視。帳單群組檢視可合併各業務部門的成本;帳單轉移檢視和轉移成本展示檢視則分別呈現客戶轉給合作夥伴的費用,以及客戶看到的成本。自訂檢視也能透過 AWS Resource Access Manager 分享給其他帳戶。此功能已在所有 AWS 商業區域推出,無額外費用。
現在可以為 App 使用自訂圖示。 在「Settings」搜尋「icon」,就能把它改成你喜歡的樣子 🙌 https://t.co/pG1X5fatRJ
llama.cpp 在 b12263 調整 CUDA VMM 記憶體池的預留策略:預留失敗時會將預留大小減半後重試,並在合併記憶體的 GPU 上將預留量降至 8 GB,以處理 CUDA 記憶體不足錯誤。
推薦理由:ExecuTorch WebGPU 將模型部署到瀏覽器本機執行,並以同一份 .pte 檔支援多種模型,呈現網頁端推論與裝置端微調的實作方式。
AWS 說明如何在 Amazon Bedrock AgentCore Evaluations 中,依代理的業務成果選擇內建、DeepEval 與 AutoEval 評估器,檢查任務完成、工具使用、對話品質與安全等行為。
推薦理由:文章以客服、研究與專業領域代理為例,說明如何從業務成果拆解可觀察行為,再選擇追蹤或工作階段層級的評估器。
Gemini Omni Flash 1.2 在 AA-Video-Editing v1.1 取得第 2 名,並在兩項影片生成基準中超越 Gemini Omni Flash 1.1。
推薦理由:多項影片基準呈現不同幅度的名次變化,並列出擅長與較弱的任務,方便對照其影片生成與剪輯表現。
Go 團隊在開源發布 17 週年回顧 Go 1.26 與 Go 1.27 的進展,涵蓋語言與標準函式庫、執行效能、安全防護及開發工具,並說明後續規劃。
推薦理由:文章從語言、執行效能、安全防護與開發工具整理 Go 過去一年的變化,也交代 Go 1.28 與 1.29 的規劃方向。
ExecuTorch 推出 WebGPU 後端,讓 PyTorch 模型可匯出為 .pte 檔,並在支援 WebGPU 的瀏覽器中使用 GPU 執行。
推薦理由:同一個 .pte 檔可透過 ExecuTorch WebGPU 在瀏覽器與多種原生平臺執行,文中也提供了瀏覽器 GPU 與 CPU 路徑的效能比較。
OpenAI 研究預訓練、模型架構、強化學習與模型生成資料如何影響思維鏈(CoT)可監控性,發現模型能力提升與 CoT 可控性增加可能使監控更困難。 - 預訓練與架構:較低的基礎模型困惑度與較強的無 CoT 能力相關;多數評測中,困惑度可解釋不同架構的表現,但部分多跳規劃與序列計算任務呈現架構差異。
推薦理由:研究比較預訓練、架構、強化學習與模型生成資料對 CoT 可監控性的影響,呈現能力提升與監督難度之間的關聯及評估限制。
llama.cpp b12259 為 mtmd 加入 Kimi K3.1 Vision 支援,並修正 K2.5 與 K3.1 的前處理及 projector MLP 命名問題。
推薦理由:Seedream 5.5 已可在 Higgsfield 使用,原文列出區域性編輯、原生 RGBA 輸出與細節保留等變化,並說明美國即將開放。
Python 3.16.0a2 開放開發者測試,是預計推出的 7 個 alpha 版本中的第 2 個,供開發者測試新功能、錯誤修正與效能改善。
n8n 說明如何透過分塊、速率限制與逐筆錯誤處理,控制大型批次工作流程的負載與失敗重跑。 - 分塊與速率限制:將資料拆成較小批次,並在請求或批次間加入等待與重試,降低記憶體壓力並配合 API 配額。
微服務架構將應用程式拆分為各自負責特定功能、透過 API 溝通的服務;文章整理設計與維運微服務時降低連鎖故障、隔離問題的實務做法。 - 服務邊界:以明確的業務能力劃分服務,並透過領域驅動設計界定各自的業務規則、語言與資料;例如,訂單服務負責建立訂單與追蹤狀態,付款服務處理扣款與退款。
PyTorch 推出 ExecuTorch WebGPU 後,模型可透過 torch.export 匯出為 .pte 檔案,並在支援 WebGPU 的瀏覽器中使用 GPU 執行。
推薦理由:ExecuTorch WebGPU 將模型匯出與瀏覽器執行串成同一流程,並列出已支援的模型與裝置端微調能力,呈現其在地端部署的使用方式。
Databricks 推出將 Unity Catalog Metric Views 發布至 Power BI 的功能,讓 Power BI 語意模型使用 Databricks 中統一管理的指標定義。
推薦理由:將 Unity Catalog 指標檢視發布至 Power BI,可讓報表沿用同一套受治理定義;文中也說明 DirectQuery 與 Import 模式的許可權差異。
Google 擴大 Gemini Intelligence 在 Android 裝置上的支援,並推出自訂小工具、裝置協助等新功能。 - 裝置與地區:motorola signature 27 將於美國開放預購;Pixel 10、Pixel 10 Pro XL 和 Pixel 10 Pro Fold 透過 Pixel Drop 取得最新功能。
推薦理由:內容列出 Gemini Intelligence 擴充套件至不同裝置與地區的功能和入口,便於比較各項能力的適用情境。
SpaceX 宣佈與 SINGULUS 簽署大型供應合約,為先進太陽能電池製造建立長期選項,以支援超過 100 GW 的裝置需求,並加速其位於德州 Bastrop 的 Starmind 衛星生產。
需要 GPU 的 AI 推論、圖形處理或資料分析工作,能使用的雲端區域會影響部署安排。AWS 將搭載 NVIDIA RTX PRO 4500 Blackwell 伺服器版 GPU 的 Amazon EC2 G7 執行個體,新增至倫敦、孟買、雪梨和聖保羅區域。AWS 表示,與 G6 相比,G7 的 AI 推論效能最高提升 4.6 倍、圖形效能最高提升 2.1 倍;每個執行個體最多配備 8 個 GPU。客戶可選擇按需、競價或節省計畫方式使用。