跳到正文

全部動態

RSS
今日 4 則
11月3日週二
11月2日週一
  1. OpenAI News73

    OpenAI 推出 Grid Protectors 計畫,以資料中心用電彈性支援電網

    OpenAI 推出 Grid Protectors 計畫,將與公用事業、監管機關及政策制定者合作,讓未來園區在電網吃緊時降低用電,並承擔園區所需的電力與基礎設施成本。

    推薦理由:Grid Protectors 將資料中心的用電彈性納入電網規劃,並以 Georgia Power 協議說明減少尖峰需求與分攤基礎設施成本的做法。

  2. Trail of Bits Blog77

    Codex 以 AI 助手加速 Linux 穩定分支漏洞回溯,完成 149 個 CVE 修復

    Codex 以 AI 助手方式,將 Linux 穩定分支的漏洞回溯時間從天縮短至數小時,為 149 個 CVE 提供實際修復。 - 回溯效率:單個簡易回溯僅需約 30 分鐘,複雜案例約 3 小時,相比傳統耗時數天。

    推薦理由:Codex 以 AI 助手方式,將 Linux 穩定分支的漏洞回溯時間從天縮短至數小時,為 149 個 CVE 提供實際修復。

  3. AWS What's New57

    Amazon Textract 更新版文字偵測模型上線

    Amazon Textract 推出更新版文字偵測模型,提升準確率、擴大語言支援範圍,並改善多語言表格擷取功能。 - API 與相容性:適用於 DetectDocumentText API 和 AnalyzeDocument API,無須變更請求或回應架構;模型會自動提供服務。

  4. LMSYS Org Blog79

    SGLang 如何用 HiCache 在多種部署配置中重用模型快取

    長對話會反覆送出相同的前文,模型若每次重算或重新傳送資料,使用者就得等更久。這篇文章說明 HiCache 如何把可重用的模型快取放在 GPU、主機記憶體和外部儲存,並讓不同運算階段和多臺機器在同一個字首上做出一致決定。以 GLM-5.2-FP8 的多輪對話測試來看,解碼端也重用 GPU 與主機快取後,平均首次回應時間降低 25.4%,中位數降低 60.3%,輸出速度增加 2.9%。文章也說明,資料分散存放和非同步傳輸會增加協調難度,快取資料必須準備妥當才能省下計算與傳輸時間。

    推薦理由:文章拆解 HiCache 在多種平行配置與分離式服務中的快取協調方式,並用實際服務資料呈現字首重用對回應等待時間的影響。

11月1日週日