跳到正文

#開源生態

RSS
今日 0 則
10月9日週五
  1. AWS Machine Learning Blog80

    Amazon Bedrock AgentCore 推出 Pay‑Per‑Inference 付款功能,BlockRun 與 Incarna 共同實現即時模型付費

    Amazon Bedrock AgentCore 於 2026 年推出 Pay‑Per‑Inference 付款功能,允許 AI 代理在執行時即時付費。

    推薦理由:AgentCore payments 讓 AI 代理能即時付費,簡化低價高頻請求流程,縮短整合時間,提供可審計的區塊鏈結算,並在實際部署中證明可在 Base 主網上完成 1,000 次交易。

  2. LMSYS Org Blog82

    SGLang 和 Miles 如何在 NVIDIA Vera Rubin 上加速模型推論與訓練

    新一代 GPU 換了硬體,原本的模型服務和訓練程式也得重新調整,才能把運算資源用得更好。SGLang 團隊在 NVIDIA Vera Rubin 上測試推論與訓練:他們調整注意力、專家模型和資料傳送等程式,讓 Kimi K3 在特定設定下跑得更快;例如,合併多個小步驟後,每次生成少了 276 次程式啟動,整體速度提升 5.9%。Miles 也能在這套硬體上進行強化學習訓練,包含讓 AI 助理在沙盒環境中解題。這些是初步測試,團隊接下來會擴大規模並繼續改善效能。

    推薦理由:這篇實測拆解 Vera Rubin 上的推論與訓練調整,並列出各項改動帶來的速度差異,可看出硬體資源如何影響 SGLang 的最佳化方向。

10月8日週四
10月7日週三
10月6日週二
  1. Hugging Face Diffusers Releases82

    Diffusers 0.41.0 推出 Qwen-Image 2.1 影像生成與編輯管線

    Diffusers 0.41.0 推出 Qwen-Image 2.1,整合影像生成與編輯功能,支援多參考影像與原生 RGBA 輸出。 - Qwen-Image 2.1:7B 引數模型,提供文字到影像、影像編輯、LoRA 訓練。

    推薦理由:Diffusers 0.41.0 以 Qwen-Image 2.1 為核心,提供統一的影像生成與編輯功能,開發者可直接整合至多模態工作流程。

  2. ollama release20

    MLX v0.40.0-rc4 版本升級

    summary_zh: MLX 於本次釋出升級至 v0.40.0-rc4,並加入單元測試範圍以降低記憶體使用。 - 版本:v0.40.0-rc4 - 功能更新:新增測試範圍以減少記憶體消耗 - commit:18846f8 MLX 於本次釋出升級至 v0.40.0-rc4,並加入單元測試範圍以降低記憶體使用。

10月5日週一
10月4日週日
10月3日週六
  1. SGLang Releases77

    SGLang v0.5.21 發布

    SGLang v0.5.21 正式發布,帶來重大效能最佳化與架構改進。新版本主要亮點包含: - 預設核心調整:統一的 radix cache 預設改由 Rust 核心運作。

    推薦理由:原文提供版本更新與架構改進細節,讀者可據此評估推理效能與升級相容性。

  2. Supabase Blog82

    Supabase Select 2026 會議回顧

    Supabase 在 Select 2026 會議上展示了全新的 code‑first 方式與 Agent 整合,讓開發者能以程式碼管理後端並即時檢測問題。

    推薦理由:Supabase 透過 code‑first 與 agent 整合,讓開發者可以程式碼管理後端,並即時檢測問題,提升開發與運維效率。

  3. ollama release72

    Ollama v0.35.1 版本更新

    Ollama v0.35.1 版本更新,加入多模態決策模型 Clef 與 Clef Flash,並擴充搜尋與 Modelfiles 功能。 - 核心新增:加入 Cloudflare 開源決策模型 Clef (27B) 與 Clef Flash (9B),支援影像與文字同時輸入。

    推薦理由:本次更新加入了 Clef 與 Clef Flash 多模態決策模型,並提升網路搜尋上限,支援 Modelfiles 宣告功能,讓使用者可即時體驗更強大模型能力。

10月2日週五