跳到正文

#開源生態

RSS
今日 0 則
11月2日週一
  1. LMSYS Org Blog79

    SGLang 如何用 HiCache 在多種部署配置中重用模型快取

    長對話會反覆送出相同的前文,模型若每次重算或重新傳送資料,使用者就得等更久。這篇文章說明 HiCache 如何把可重用的模型快取放在 GPU、主機記憶體和外部儲存,並讓不同運算階段和多臺機器在同一個字首上做出一致決定。以 GLM-5.2-FP8 的多輪對話測試來看,解碼端也重用 GPU 與主機快取後,平均首次回應時間降低 25.4%,中位數降低 60.3%,輸出速度增加 2.9%。文章也說明,資料分散存放和非同步傳輸會增加協調難度,快取資料必須準備妥當才能省下計算與傳輸時間。

    推薦理由:文章拆解 HiCache 在多種平行配置與分離式服務中的快取協調方式,並用實際服務資料呈現字首重用對回應等待時間的影響。

10月31日週六
  1. PostgreSQL Official News72

    pgAdmin 4 v9.19 正式釋出 136 個修正與 15 個安全漏洞修補

    pgAdmin 4 v9.19 釋出 136 個錯誤修正與 15 個安全漏洞修補,並新增統計節點、JSON/XML 匯出與 OAuth2 登入跳過支援。

    推薦理由:pgAdmin 4 v9.19 釋出 136 個錯誤修正與 15 個安全漏洞修補,新增統計節點、支援 JSON/XML 匯出,並加強伺服器模式安全,為 PostgreSQL 使用者提供更穩定與安全的管理工具,並加入對於 OAuth2 的登入跳過支援,提升使用者體驗。

10月30日週五
  1. Supabase Blog79

    推出 DBArena:開源可重現的雲端 Postgres 效能基準平臺

    DBArena 是 Supabase 推出的雲端 Postgres 效能基準平臺,提供公開、可重現的測試結果。 - 測試物件:Supabase Postgres(預設堆疊與 OrioleDB)、Amazon RDS、Google Cloud SQL(Enterprise)。

    推薦理由:提供開源、可重現的雲端 Postgres 效能基準,幫助使用者客觀評估成本效能,並促進不同雲服務商間的公平競爭,為資料庫開發者提供透明且可驗證的效能指標。

10月29日週四
  1. Hugging Face Transformers Releases79

    v5.22.0:Mistral Large 4(Le Chonk)發布

    導語:Mistral Large 4(Le Chonk) 是 Mistral 迄今最大的多模態模型,擁有 1 Trillion 引數與 1 M 上下文長度,於 2026 年 10 月 29 日在 Hugging Face 發布。

    推薦理由:Mistral Large 4 以 1T 引數與 1M 上下文長度,示範多模態推理與安全應用,對金融與網路安全領域實務效能具備價值。

  2. LangChain Blog74

    LangChain 如何打造 Content Studio 設計AI 助理

    LangChain 分享了團隊如何從零打造內部設計AI 助理 Content Studio,透過 Managed Deep Agents 在 Slack 中自動產出符合品牌規範的影片、簡報與社群圖檔。

    推薦理由:LangChain 公開 Content Studio 設計AI 助理的建構歷程與架構設計,讀者可藉此學習如何打造具備品牌審美與非同步協作能力的代理系統。

  3. DuckDB Official Blog52

    資料工程師 Matt Martin 從試算表走向 DuckLake 與 DuckDB

    資料工程師 Matt Martin 分享從試算表、Spark 到 DuckDB 與 DuckLake 的工作經驗,說明他如何依工作負載選擇分析工具與基礎架構。 DuckDB 與 DuckLake:Matt 使用 DuckDB 查詢本機檔案、Amazon S3 上的資料,以及 CSV、Parquet 和 Iceberg 表;他表示,DuckLake 將中繼資料存入 SQL 資料庫後,部分在 Iceberg 需要數秒的目錄操作,在 DuckLake 可於不到 1 毫秒內完成。 DuckDB 2.0 alpha:Matt 測試的非同步 I/O 基準中,讀取 Amazon S3 上 1,000 與 10,000 個檔案的時間減少 67% 至 70%。他也提到動態 ATTACH 陳述式與 Quack 遠端通訊協定等功能。 工程取捨:Matt 認為應從工作負載需求出發,再決定是否需要額外的分散式基礎架構;他也指出,DuckDB 2.0 alpha 測試期間尚未遇到回歸問題。

  4. LangChain Blog79

    Deep Agents 與上下文工程:如何在不保留全部內容的情況下記憶

    Deep Agents 是 LangChain 的開源 harness,透過中介軟體管理上下文,解決長期任務中的「上下文腐蝕」問題。 - 上下文管理技術:分為「防止不必要資訊進入」與「管理已存在資訊」兩大類,並透過 Middleware 在模型呼叫前後調整上下文。

    推薦理由:掌握 Deep Agents 中介軟體的上下文管理技巧,提升長期任務的準確度與效率。

  5. LMSYS Org Blog79

    AMD 與 Miles 團隊用 MI355X 訓練 Qwen3-30B-A3B-Instruct,提升程式解題成績

    訓練會寫程式的 AI 助理時,任務可能跑很久,沙盒準備和工具協調也會拖慢整個流程。AMD 與 Miles 團隊用 MI355X 訓練 Qwen3-30B-A3B-Instruct,先用成功的程式修復紀錄教模型操作工具,再用 AI 助理強化學習改善解題。在 SWE-bench Verified 的 100 題分層樣本中,pass@1 從 7.3% 提升到 27.5%。團隊也透過縮短過長的任務、把沙盒移到雲端並移除並行數量限制,讓訓練步驟約快 3 倍,軌跡處理量約提升 4 倍;這兩項速度比較來自不同的設定。

    推薦理由:這項實驗把模型解題成績與訓練速度放在同一套流程中檢視,也拆解了長時間任務和沙盒協調如何拖慢訓練。

10月28日週三