跳到正文

#產品更新

RSS
今日 1 則
10月10日週六
  1. AWS Machine Learning Blog81

    AWS 9 月推出 Bedrock、AgentCore 與 Strands 新功能

    AWS 於 9 月推出 Bedrock、AgentCore 與 Strands 新功能,擴大模型選擇、提升代理效能與成本效益。 - Bedrock Managed Agents:公開預覽,支援 OpenAI 模型,保持資料在 AWS,提供 IAM 許可權、CloudTrail 審計與人類審批流程。

    推薦理由:AWS 於 9 月推出 Bedrock、AgentCore 與 Strands 新功能,擴大模型選擇、提升代理效能與成本效益,對 AI 應用開發者與企業決策者具參考價值。

10月9日週五
  1. Microsoft ONNX Runtime Releases83

    ONNX Runtime v1.31.0 發布

    ONNX Runtime v1.31.0 正式發布,帶來核心 API 穩定化、CPU 模型載入與量化 MoE 推理加速,並擴充套件多個硬體加速器的執行提供者支援。

    推薦理由:新版本穩定化模型封裝與資料 API 並加速 CPU 推理,開發者可據此評估升級以提升模型載入與執行效能。

  2. Hacker News (official RSS)60

    Spinal:即時預測任何程式碼庫的表面

    Spinal 是一款即時預測式程式碼庫表面工具,能在 20 ms 內回傳搜尋結果。 - 效能:在 Linux kernel 1.48M 提交、96K 檔案的基準上,首個搜尋結果低於 20 ms。 - 功能:預測開發者下一步操作,即時追蹤變更,將關鍵訊號提升至注意焦點。 - 目標使用者:面向不想被工作樹、diff、分支混亂拖累的工程師。

  3. Microsoft ONNX Runtime Releases74

    ONNX Runtime CUDA Plugin EP 0.3.0 發布

    ONNX Runtime CUDA Plugin EP 0.3.0 正式發布,針對模型推理與硬體加速帶來多項關鍵功能更新與效能最佳化。 - 核心亮點:加入稀疏注意力機制(Sparse Attention)與打包連續批次(Packed Continuous-Batching)支援,並引進 INT2 與混合寬度 QMoE 執行、解碼核心調校及可靠性修復。

    推薦理由:微軟釋出 ONNX Runtime CUDA Plugin EP 0.3.0,加入稀疏注意力與 INT2 混合量化等效能最佳化功能,開發者可據此評估升級以提升模型推論效率。

  4. vLLM Official Blog80

    vLLM 在 NVIDIA Vera Rubin NVL72 上實現 7.8 倍吞吐提升

    vLLM 現已支援 NVIDIA Vera Rubin NVL72,透過 Rubin‑tuned kernels 與 locality‑domain 技術,單張 GPU 的推理吞吐率比 GB200 NVL72 高達 7.8 倍,在 AgentX 端點與 MLPerf VLM 測試中分別提升 5.18 倍 與 3.7 倍。

    推薦理由:本篇展示 vLLM 在新一代 NVIDIA Vera Rubin NVL72 上的 7.8 倍吞吐提升,並說明如何利用 Rubin‑tuned kernel 與 locality‑domain 技術達成高效代理推理,為部署高效代理模型提供實際效能參考。

  5. Python Official Blog86

    Python 3.15.0 (final) 發布:JIT 效能提升 7‑8% 及多項新功能

    Python 3.15.0 (final) 已正式發布。此版本在 JIT 編譯器上提升了 7‑8%(x86‑64 Linux)與 11‑12%(AArch64 macOS)的執行速度,並加入多項 PEP 改進與新型別。

    推薦理由:Python 3.15 釋出後,JIT 編譯器提升 7‑8% 效能,並新增多項語法與標準函式庫改進,對開發者而言可直接提升程式執行效率與開發便利性。

  6. NVIDIA Blog72

    NVIDIA 展示 AI 助理如何把想法做成 Omniverse 模擬

    把模擬想法做成能測試的場景,常得準備 3D 物件、設定物理效果,再反覆檢查結果。NVIDIA 整理多個開發案例,示範如何用自然語言引導 AI 助理搭配 Omniverse 工具建立模擬,有人測試機器人搬罐子,有人檢查瓦斯渦輪機在不同條件下的反應,也有人把工廠掃描資料整理成可修改的建築模型。開發者仍要檢視模擬結果並修正問題;這些案例展示了模擬如何協助團隊先在電腦裡試做,再評估設計或操作方式。

    推薦理由:這篇整理多個實作案例,呈現開發者如何用 AI 助理組裝模擬場景、測試機器人與工業流程,並依模擬結果調整設計。

  7. Hacker News (official RSS)77

    rGPU:PyTorch 遠端 GPU 介面

    rGPU 是一個可在遠端 NVIDIA 伺服器上執行 GPU 工作的 PyTorch 裝置,使用者仍在本機執行程式。 - 兩種整合方式: - PyTorch 裝置:透過 torch.device('rgpu') 直接呼叫,安裝簡單(pip install rgpu)。

  8. AWS Machine Learning Blog80

    Amazon Bedrock AgentCore 推出 Pay‑Per‑Inference 付款功能,BlockRun 與 Incarna 共同實現即時模型付費

    Amazon Bedrock AgentCore 於 2026 年推出 Pay‑Per‑Inference 付款功能,允許 AI 代理在執行時即時付費。

    推薦理由:AgentCore payments 讓 AI 代理能即時付費,簡化低價高頻請求流程,縮短整合時間,提供可審計的區塊鏈結算,並在實際部署中證明可在 Base 主網上完成 1,000 次交易。

  9. OpenAIDevs80

    Ultrafast 於今日正式釋出,為 GPT‑6.1 Sol 在 API、Codex 與 ChatGPT Work 上提供高達 8 倍的推理速度。 速度提升:比 Sol Standard 快 8 倍。 即時開發:開發者可在想法產生時即刻測試,縮短迭代週期。 多平臺支援:同時適用於 API、Codex 與 ChatGPT Work。

    推薦理由:Ultrafast 讓 GPT‑6.1 Sol 的推理速度提升八倍,開發者可即時測試想法並縮短產品迭代週期,API、Codex 與 ChatGPT Work 同時支援。

10月8日週四
  1. claudeai76

    Claude 進入 Google Workspace,現在可在 Docs、Sheets、Slides 中即時編輯,並可在 Claude 內直接開啟這些檔案。 功能:Claude 以側邊欄形式出現,讀取並編輯開啟檔案;使用者可逐筆批准編輯。 使用方式:在 Google Workspace 內開啟檔案,Claude 會自動載入;編輯後可即時確認。 影響:提升檔案編輯效率,減少切換工具時間。

    推薦理由:Claude 進入 Google Workspace,讓檔案編輯更順暢,讀者可評估此功能對工作流程的便利性,並可在 Claude 內檢視編輯建議。

  2. OpenAIDevs77

    Decisions API 已正式進入公測,允許開發者在近即時內為應用選擇最合適的模型、工具或行動。 速度提升:比 GPT‑6 Luna 透過 Responses API 的決策速度快 10 倍。 功能範圍:支援模型、工具與自訂動作的即時選擇,適用於自動化工作流程。 可用性:所有開發者皆可在公測階段使用,無需額外授權。

    推薦理由:Decisions API 讓開發者可即時選擇最佳模型、工具或動作,速度比 GPT‑6 Luna 快 10 倍,方便快速構建自動化決策流程。