跳到正文

#開源生態

RSS
今日 0 則
10月15日週四
  1. Together AI Official Blog74

    Meta Muse Spark Open 模型在 Together AI 正式上線

    Meta Muse Spark Open 現已於 Together AI 正式上線,作為 Day 0 發表夥伴提供完整支援,專為長時間執行的AI 助理程式設計、電腦操作與多模態任務而設計。

    推薦理由:原文給出模型核心能力與價格,讀者可據此評估是否將其整合至現有的長上下文或AI 助理工作流程中。

  2. LMSYS Org Blog76

    SGLang 和 Miles 加入 Muse Spark Open 支援,並公佈多平臺效能測試

    大型多模態模型要在不同硬體上執行,常得處理長提示詞、圖片影片輸入和模型運算量大的問題。SGLang 和 Miles 加入 Muse Spark Open 支援,涵蓋推論、微調與多輪強化學習訓練;模型可讀取文字、圖片、影片和音訊,並支援 1M token 的上下文視窗。文章也列出 NVIDIA、AMD、Intel 和 TPU 平臺的支援進度,以及多組程式開發工作負載測試。在 8 張 B300 GPU 的 OpenHands 測試中,單一對話每位使用者每秒產生 543 個 token;128 個對話同時執行時,則為每位使用者每秒 61 個 token。這些數字來自特定硬體與測試設定,可用來瞭解不同工作量下的速度變化。

    推薦理由:文章整理 Muse Spark Open 在多種硬體上的支援方式與實測結果,並說明長提示詞和多輪程式開發工作如何影響推論速度。

10月14日週三
  1. NVIDIA Blog77

    NVIDIA 宣佈新投資英國創業生態系統

    NVIDIA 宣佈在英國投資新創,並承諾 5 年 2.5 億美元算力,以推動 AI 安全與創新。 - 計畫內容:5 年 $250M 算力承諾,聚焦代理安全與研究。

    推薦理由:NVIDIA 以 2.5 億美元計畫投資英國 AI 生態,為創新與安全研究提供算力與資源,讀者可瞭解企業如何與新創合作推動產業升級。

10月13日週二
  1. Unsloth AI Releases79

    Unsloth AI 推出瀏覽器使用、Qwen-Image-2.1-Turbo 影像生成與加速訓練功能

    Unsloth AI 推出可瀏覽、影像生成與加速訓練功能,讓本地模型即時查詢網頁並以 8 步完成影像創作。 - 瀏覽器使用:模型可在聊天框內開啟、閱讀、點選、輸入並滾動,支援本地模型與 API 提供者。

    推薦理由:Unsloth AI 推出可瀏覽、影像生成與加速訓練功能,讓本地模型即時查詢網頁並以 8 步完成影像創作,對開發者提升工作流程效率具有實際價值。

  2. Amazon Science85

    Priming:從預訓練 Transformer 建立混合狀態空間模型

    Amazon Web Services 團隊發表名為 Priming 的新方法,能以不到傳統預訓練 0.5% 的成本,將預訓練 Transformer 轉換為混合狀態空間模型。

    推薦理由:原文提出無需從頭訓練即可將 Transformer 轉換為混合狀態空間模型的 priming 方法,讀者可據此評估如何大幅降低架構探索與訓練成本。

10月12日週一
  1. OpenClaw (@openclaw)56

    OpenClaw v2026.10.1 釋出,新增「安裝技能發現」與「完整備份」功能,並最佳化 Mac 設定與 MCP App 整合。 版本:v2026.10.1 新功能:安裝技能發現、MCP Apps 旁聊天、完整備份到外部儲存或 Cloudflare R2 最佳化:更簡單的 Mac 設定 社群貢獻:2,425 PRs 來自 402 位貢獻者 可用性:可直接下載安裝,並在官方檔案中檢視安裝說明

10月11日週日
10月10日週六
10月9日週五
  1. Hugging Face Blog60

    GPU叢集的高影響力排程

    GPU叢集的高影響力排程:Ai2 研究團隊提出以 GPU 時間預算、分層公平共享與時間切片合約為核心的排程系統,提升 GPU 利用率並縮短排隊延遲。 - 系統核心:GPU 時間預算 + 分層公平共享 + 最小執行時間合約,確保工作負載在預算內不被中斷。

  2. Microsoft ONNX Runtime Releases83

    ONNX Runtime v1.31.0 發布

    ONNX Runtime v1.31.0 正式發布,帶來核心 API 穩定化、CPU 模型載入與量化 MoE 推理加速,並擴充套件多個硬體加速器的執行提供者支援。

    推薦理由:新版本穩定化模型封裝與資料 API 並加速 CPU 推理,開發者可據此評估升級以提升模型載入與執行效能。

  3. Microsoft ONNX Runtime Releases74

    ONNX Runtime CUDA Plugin EP 0.3.0 發布

    ONNX Runtime CUDA Plugin EP 0.3.0 正式發布,針對模型推理與硬體加速帶來多項關鍵功能更新與效能最佳化。 - 核心亮點:加入稀疏注意力機制(Sparse Attention)與打包連續批次(Packed Continuous-Batching)支援,並引進 INT2 與混合寬度 QMoE 執行、解碼核心調校及可靠性修復。

    推薦理由:微軟釋出 ONNX Runtime CUDA Plugin EP 0.3.0,加入稀疏注意力與 INT2 混合量化等效能最佳化功能,開發者可據此評估升級以提升模型推論效率。

  4. Python Official Blog86

    Python 3.15.0 (final) 發布:JIT 效能提升 7‑8% 及多項新功能

    Python 3.15.0 (final) 已正式發布。此版本在 JIT 編譯器上提升了 7‑8%(x86‑64 Linux)與 11‑12%(AArch64 macOS)的執行速度,並加入多項 PEP 改進與新型別。

    推薦理由:Python 3.15 釋出後,JIT 編譯器提升 7‑8% 效能,並新增多項語法與標準函式庫改進,對開發者而言可直接提升程式執行效率與開發便利性。