跳到正文

開源生態

開源模型、框架與倉庫動態:權重開放、社群專案爆火、開源與閉源的力量消長。

最新精選

第 261–280 條 · 共 480 條
9月24日週四
  1. The Go Blog86

    Go 1.26/1.27 推出跨平臺 SIMD API,助力高效向量運算

    Go 1.26/1.27 內建實驗性 SIMD API,讓開發者可在 amd64、arm64、wasm 等平臺寫出近 ASM 速度的向量程式。 - 功能範圍:支援 AVX、AVX2、AVX512(amd64)、NEON(arm64)與 wasm SIMD 指令,並提供跨平臺的 simd 包,缺失功能會以效能最佳化的軟體模擬。

    推薦理由:Go 1.26/1.27 的 SIMD API 讓跨平臺向量運算更易寫,讀者可直接套用於效能關鍵程式碼。

9月23日週三
  1. ComfyUI Blog71

    Comfy Router 推出統一 API 連結前沿媒體模型

    Comfy Router 於 2026-09-23 正式上線,提供一個統一 API 讓開發者一次呼叫多種前沿媒體模型。 - 模型覆蓋:即時可用 Seedance 2.5、MiniMax H3、Nano Banana Pro、GPT Image 2、Kling、Black Forest Labs,未來還將加入更多模型。

    推薦理由:Comfy Router 讓開發者一次呼叫多種前沿媒體模型,降低多 SDK 需求,提升成本與可用性。

  2. OpenAI News70

    推出 MentalHealthBench 心理健康評測基準

    OpenAI推出MentalHealthBench,一個多語言、多情境的心理健康對話評測基準。該基準由80多名全球心理健康專家共同制定,覆蓋從日常對話到危機情境的多種場景,並提供專家評估標準和自動化評分工具。

    推薦理由:OpenAI釋出MentalHealthBench,提供多語言、多情境的心理健康評測基準,幫助研究者評估模型安全性與實用性。

  3. david888podcast60

    五角大廈 AI 殺傷鏈釀禍、Linear 點破程式碼審查極限

    美軍因過度依賴 Palantir AI 系統且缺乏人為驗證,誤炸伊朗小學,凸顯 AI 失控與責任推諉的風險。 - AI 失誤案例:Palantir AI 參與的導彈攻擊誤炸伊朗學校,造成嚴重傷亡。

    推薦理由:美軍 AI 過度依賴與程式碼審查缺失揭示自動化治理風險,提醒開發者務必將人工驗證納入安全流程。

9月22日週二
  1. NVIDIA Blog63

    NVIDIA 釋出 Isaac ROS 5.0,推進具身智慧與開源機器人開發

    NVIDIA 釋出 Isaac ROS 5.0,這是一個基於 ROS 的 GPU 加速軟體包集合,旨在幫助人類與 AI 智慧體共同構建機器人。新版本引入了全新的智慧體工作流、對 ROS Lyrical 和 Ubuntu 24.04 的支援,以及用於設定和操縱的 NVIDIA Isaac 技能。

    推薦理由:該版本引入了面向智慧體的工作流和新平臺支援,為開發者構建物理AI機器人應用提供了GPU加速能力。

  2. Hugging Face Blog74

    Transformers 現在支援執行 llama.cpp 量化模型

    Hugging Face 的 transformers 庫新增對 GGUF 模型的支援,允許使用者通過熟悉的 API 在本地高效載入和執行量化模型。該整合通過複用 ggml 的 Metal 核心並在 Apple Silicon 上最佳化生成迴圈,使 transformers 能夠直接執行諸如 Qwen3.5 等架構的量化權重。

    推薦理由:原文介紹了 transformers 對 GGUF 模型的支援及底層最佳化,讀者可以瞭解如何在熟悉的介面中直接載入和執行本地量化模型。

9月21日週一
  1. Microsoft Research66

    RetroChimera 提升大規模小分子合成預測

    微軟研究團隊釋出 RetroChimera,一種用於大規模小分子合成預測的框架,並在 Nature 論文中展示其效能。RetroChimera 結合 R‑SMILES 2 與 NeuralLoc 兩種模型,通過學習式重排序實現更準確的合成路線預測。其開源實現已在 GitHub 上釋出,旨在加速藥物與材料研發。

    推薦理由:RetroChimera 通過融合兩種模型提升化學合成預測,公開原始碼可加速藥物與材料研發。

  2. NVIDIA Blog62

    NVIDIA 撰文談 AI 安全的工程化挑戰與智慧體棧防護方案

    NVIDIA 釋出文章指出 AI 安全本質上是一個工程問題,並從智慧體棧的全棧防護、可執行邊界、測試驗證及開源協作等方面闡述了應對策略。文章介紹了 NVIDIA OpenShell 等開源執行時及合作伙伴的安全工具,強調企業需要通過明確的策略、獨立沙箱和可追溯的身份憑證來保障智慧體在複雜環境下的執行安全。

    推薦理由:文章探討了智慧體棧各層的安全治理原則與開源實踐,讀者可以據此瞭解企業在多層架構中部署智慧體時的安全邊界與防護方案。

  3. openrouter blog64

    Jev 與 LLM-as-a-Judge 評估模型效能對比

    OpenRouter 官方部落格對比了專門決策模型 Jev 與傳統生成式大語言模型在 AI 輸出評估(LLM-as-a-Judge)上的表現。測試涵蓋準確度、校準機率、延遲與成本,探討兩者在封閉式規則與開放式長文本檢驗中的適用場景。

    推薦理由:文章對比決策模型與生成式評判模型的效能與成本差異,讀者可據此評估不同情境下的評估工具選型。

  4. Hugging Face Blog65

    Hugging Face 釋出 tokenizers v1 候選版本

    Hugging Face 釋出了 tokenizers v1 候選版本,在完全保持原有輸出、API、詞表與合併規則的前提下,通過工作空間拆分、bitcannon SIMD 分割、word cache 快取、零分配合並迴圈及原生並行等最佳化,使編碼速度較 v0.23 提升 3 到 30 倍。

    推薦理由:官方釋出了 tokenizers v1 候選版本,通過架構重構與底層最佳化大幅提升了編碼與解碼速度,為高併發與大規模訓練場景減少了效能瓶頸。

  5. vLLM Official Blog78

    vLLM 上 Qwen3.8‑2.4T 的 PD 服務最佳化

    vLLM 在 GB300 NVL72 叢集上針對 Qwen3.8‑2.4T 進行 PD 服務,實現每 GPU 5,000 個總 token 吞吐量以及每使用者 180 個生成 token 的低延遲表現。

    推薦理由:本篇詳盡說明如何在 vLLM 上針對 Qwen3.8-2.4T 進行 PD 服務調優,並提供可執行的 srt-slurm 配方,讓讀者能直接套用於其他模型。

9月20日週日
9月19日週六
  1. SGLang Releases86

    SGLang v0.5.20 發布

    SGLang 正式發布 v0.5.20 版本,匯集來自 237 位貢獻者的 713 個 Pull Request,帶來全面的模型推理效能最佳化與新硬體支援。

    推薦理由:新版本帶來了硬體加速與多模態推理的重大效能升級,開發者可據此評估是否升級以提升大規模模型部署的吞吐量。

9月18日週五
9月17日週四
  1. GitHub Blog · AI & ML78

    GitHub 團隊使用 Copilot 將 Copilot 執行時重寫為 Rust

    GitHub 團隊宣佈將 GitHub Copilot 執行時(包括 CLI、應用和 SDK 的核心底層)從 TypeScript 完全重寫為 Rust。此次重寫歷時約 14 周半,包含超過 80 萬行生產級 Rust 程式碼,主要由 AI 智慧體協助單名開發者通過 128 個 PR 以增量方式逐步推進,使執行時效能提升了數個數量級。

    推薦理由:文章詳細記錄了使用 AI 智慧體將大規模執行時重寫為 Rust 的全過程,為開發者提供了極具價值的大型工程遷移實操參考。

9月15日週二
  1. vLLM Official Blog71

    vLLM 與 Novita AI 合作:Chord 加速 INT4 MoE,Kimi K2.x 上 H200 提升 1.3 倍、B300 2.15 倍

    Chord 是 Novita AI 開源的高效 W4A16 MoE CUDA 運運算元,針對 Kimi K2.x 服務形狀進行最佳化。 - 效能提升:在 H200 EP8 前填充階段提升 1.11–1.20 倍,TP8 單例項服務 1.17–1.33 倍;B300 EP8 解碼階段可達 2.15 倍。

    推薦理由:本報告詳細說明瞭 Chord 針對 Kimi K2.x 的 INT4 MoE 效能最佳化,讀者可參考實驗資料評估其在自家 GPU 上的效能提升。

  2. Browser Use60

    Browser Agents 的苦果教訓

    Browser Agents 在 2024 年推出時,GPT‑4o 尚未能自動理解網頁操作,作者透過將行為與觀測寫成程式碼,最終讓模型直接使用 Chrome DevTools Protocol(CDP)執行操作。

    推薦理由:作者分享 Browser Use 從預設行為到 CDP 直接控制的實驗,闡述模型自動化的最佳實踐與未來路徑。