跳到正文

開源生態

開源模型、框架與倉庫動態:權重開放、社群專案爆火、開源與閉源的力量消長。

最新精選

第 321–340 條 · 共 480 條
8月16日週日
  1. DevClass (Developer News)82

    ChainDrop 惡意程式滲透 npm 供應鏈,迴避標準防禦

    ChainDrop 是一種新變種的 npm 惡意程式,已在 444 個套件中擴散,並以隱蔽方式繞過倉庫與 CI/CD 防護。 - 受害套件:444 個,涵蓋 keyv、flat-cache、cache-manager 等核心依賴,月下載量約 20 億次。

    推薦理由:此事件揭示 npm 供應鏈攻擊的新隱蔽傳播機制,提醒開發者必須檢查 CI/CD 及倉庫配置檔案,防範被惡意程式植入,並加強監控與審計流程。

8月14日週五
  1. vLLM Official Blog74

    vLLM 推出 DSpark 自適應驗證功能

    vLLM 於 2026 年 8 月 14 日正式推出 DSpark 自適應驗證功能,讓 Speculative Decoding 在高併發(至 256)下仍能保持效能。

    推薦理由:DSpark adaptive verification 讓 vLLM 在高併發下保持效能,降低使用者手動調參需求,並自動調整驗證長度以最佳化吞吐量。在多種併發設定下,保持在 Pareto 前沿。

  2. Hugging Face Blog62

    Hugging Face 釋出 2026 夏季開源模型現狀報告

    Hugging Face 釋出了 2026 年夏季開源模型現狀報告,梳理了從 1 月到 8 月期間平臺上的模型規模、下載與點贊分化、開源協議、衍生生態以及智慧體流量變化。報告指出中國實驗室在前端模型規模上領先,Qwen 成為社群衍生基石,同時端側量化和智慧體呼叫正在重塑平臺生態。

    推薦理由:文章基於平臺全量資料分析了開源模型在規模、授權、社群衍生與端側部署上的最新結構性變化。

  3. Hugging Face Blog65

    使用 Strands Agents、LeRobot 與 Hugging Face Storage Buckets 實現錄製、訓練與部署一體化

    本文介紹了 Strands Robots 中的流式資料閉環方案,展示瞭如何通過自然語言指令錄製機器人示範資料、將其同步至 Hugging Face Storage Buckets 並進行基於 Xet 的位元組級去重。隨後,開發者可以直接從 Hub 流式讀取資料集來訓練策略,並將訓練好的檢查點重新部署到硬體上。

    推薦理由:文章介紹了基於 Strands Agents 和 LeRobot 的機器人流式資料閉環方案,讀者可以據此瞭解如何通過雲端儲存桶實現無本地下載的高效訓練。

8月13日週四
  1. Hugging Face Blog74

    Hugging Face 部落格:復現 2,200 篇 ICML 論文的經驗與發現

    Hugging Face 舉辦了一場使用編碼智慧體逐條復現 ICML 2026 論文的駭客松,1,221 名參與者在 19 天內釋出了 6,816 份日誌並嘗試復現了 2,226 篇論文。

    推薦理由:文章公佈了大規模智慧體復現學術論文的成果與發現,讀者可以從中瞭解自動化復現對檢驗科研質量的實際效果與侷限。

8月11日週二
  1. Mistral AI73

    Mistral 推出區域推理、開放模型與歐洲主權 AI 基礎設施

    Mistral AI 宣佈推出區域推理端點和優先服務層,支援在歐洲或美國執行推理,並提供 1 GW 計算容量目標。公司還將平臺開放給第三方模型,首批支援 Z.ai 的 GLM‑5.2,所有模型均在同一基礎設施下滿足區域控制與 SLA。為保障歐洲長期 AI 計算需求,Mistral 正與企業組建聯盟,形成歐洲計算單元(ECU)以鎖定多年容量。

    推薦理由:Mistral 推出區域推理端點和開放模型支援,幫助企業實現 AI 主權與合規。

  2. SGLang Releases82

    SGLang 發布 v0.5.17 版本

    SGLang 正式發布 v0.5.17 版本,匯集 194 位貢獻者的 582 項 PR,全面升級推理與平行化效能: - 新模型日支援。

    推薦理由:新版本帶來多項新模型支援與底層平行化最佳化,開發者可參考其升級日誌評估效能提升與架構調整。

8月10日週一
  1. Hugging Face Blog64

    讓知識蒸餾足夠低成本以實現規模化執行

    Multiverse Computing 在其最新論文《Efficient Knowledge Distillation for LLMs: Offline Top‑K Logits and a Fused Chunked KL Loss》中提出離線 Top‑100 logits 快取與分塊 KL 損失兩項改進。

    推薦理由:本文提出的離線Top‑K logits快取和分塊KL損失顯著降低視訊記憶體需求,使大規模LLM蒸餾可在單GPU上完成,降低成本並提升實驗效率。

  2. vLLM Official Blog81

    vLLM 宣佈首發支援 NVIDIA Nemotron 3.5 Lightning 模型

    vLLM 官方部落格宣佈推出對 NVIDIA Nemotron 3.5 Lightning 的 Day-0 支援,這是一款專為全天候智慧體(Agent)設計的可自訂開源混合式 MoE 模型,並透過多種推論加速技術提升吞吐量。

    推薦理由:vLLM 宣佈首發支援 NVIDIA Nemotron 3.5 Lightning 模型,讀者可透過內文提供的配置指令與架構最佳化方案評估高吞吐量部署。

  3. Hugging Face Blog86

    Meta 釋出開源多模態模型 Muse Glimmer

    Meta 推出了全新的 30B 引數開源多模態模型 Muse Glimmer,採用 Apache 2.0 協議釋出,專門面向本地智慧體和隱私保護應用。該模型結合了 2B 的視覺感知編碼器與 28B 的文本解碼器,支援影像、影片理解以及多模態工具呼叫,並提供 transformers、llama.cpp 和 vLLM 的首日支援。

    推薦理由:文章詳細介紹了 Meta 開源多模態模型 Muse Glimmer 的架構設計與本地部署方法,讀者可以據此瞭解其在端側智慧體和多模態任務中的應用潛力。

8月7日週五
  1. vLLM Official Blog65

    vLLM 推出高效 Decode Context Parallelism,支援長上下文工作負載

    vLLM 推出高效的 Decode Context Parallelism(DCP),針對長上下文推理提供 KV cache 的序列分片。 - 核心效能:在 8×B200 GPU 上使用 Kimi K2.6,DCP 在 512 個併發請求時達到 6,091 tok/s/GPU,遠超基線 1,863 tok/s/GPU。

    推薦理由:本文透過實驗證明,Decode Context Parallelism 能顯著提升長上下文推理的併發度與吞吐量,對處理大規模程式碼或對話歷史的 Agent 服務具有實務參考價值。

8月6日週四
  1. Google DeepMind66

    Google DeepMind 釋出 WeatherNext AI 模型並實現氣旋預測突破

    Google DeepMind 推出了 WeatherNext AI 模型,在氣旋的路徑、強度和風力結構預測上達到了 SOTA 精度,平均可提供額外一天的預警時間。該研究成果已在 Nature 發表,團隊宣佈開源 WeatherNext 2 與 WeatherNext Cyclones 模型程式碼及權重。

    推薦理由:該模型實現了氣旋路徑和強度預測的大幅準確率提升,並開源了程式碼與權重,為氣象研究和防災減災提供了新工具。

  2. vLLM Official Blog77

    vLLM 在 Qwen3.5 上達成每 GPU 25K 總 TPS

    vLLM 透過社群貢獻的最佳化核心與異構快取設計,讓 Qwen3.5 在 GB200 NVL72 系統上每 GPU 總 TPS 超過 25,000。

    推薦理由:本文提供可實踐的最佳實踐與配置,藉助 vLLM 社群貢獻的最佳化核心與異構快取設計,幫助開發者在 Qwen3.5 上達成 25K TPS/GPU 的高效推理,並可快速複製至自家環境。

  3. DevClass (Developer News)76

    Next.js 16.3 釋出,顯著降低記憶體使用率與提升編譯效能

    Next.js 16.3 釋出,顯著降低記憶體使用率並提升編譯速度與執行效能。 - 記憶體使用率:最高可降至 90%,50 路由範例僅需 840 MB,比舊版的 4.6 GB 減少 82%。

    推薦理由:Next.js 16.3 大幅降低記憶體使用率,提升編譯速度與執行效能,開發者可直接採用以改善大型 React 專案的執行成本。進一步減少冷熱建置時間及伺服器渲染延遲。

8月5日週三
  1. Supabase Blog69

    Postgres Changes 加入 AND 過濾、新運算子與欄位選擇

    Postgres Changes 現已支援多欄位 AND 過濾、擴充運算子與欄位選擇,提升訂閱精度與成本效益。 - 多欄位 AND 過濾:可一次匹配多個欄位,取代原先單欄位限制。

    推薦理由:Postgres Changes 透過多欄位 AND 過濾、更多運算子與欄位選擇,讓開發者能更精準且成本更低地訂閱資料變更。

8月4日週二
  1. Mistral AI63

    Mistral AI 釋出 3B 開源多模態安全分類模型 Shieldstral

    Mistral AI 釋出了 Shieldstral,這是一款 3B 引數的開源多模態安全分類模型,採用 Apache 2.0 協議開源。該模型將內容稽核轉換為策略自適應的問答任務,允許在推理時通過自然語言指定策略,從而無需重新訓練即可統一處理文本和影像安全評估。

    推薦理由:該模型通過將內容稽核轉化為推理時的自然語言問答任務,避免了傳統方案因固定分類體系而需要重新訓練的限制。

  2. Microsoft Research86

    Microsoft Research 釋出開源智慧體框架 Orchard

    Microsoft Research 推出了開源的可擴充套件智慧體框架 Orchard,其核心是提供可重用環境服務的 Kubernetes 架構 Orchard Env,支援在真實部署 harnesses 中直接訓練智慧體。專案同步開源了三個領域的訓練方案與資料,其中 Orchard-SWE 在 SWE-bench Verified 上取得了 69.7% 的表現。

    推薦理由:微軟研究院開源了可擴充套件智慧體框架 Orchard,並提供覆蓋軟體工程、網頁瀏覽和個人助理的完整訓練方案,降低了智慧體研究的基建門檻。

8月1日週六
  1. Together AI Official Blog83

    Kimi K3:完整開發者指南

    Kimi K3 是 Moonshot AI 旗艦的 2.8‑trillion‑parameter 開源模型,支援 1M 上下文長度與多模態輸入,並提供完整的 API 與工具使用範例。

    推薦理由:Kimi K3 以 2.8T 引數、1M 上下文長度與開源權重,為開發者提供前沿長程編碼與推理能力。